Родился 4 февраля 1881 года в селе Верхнее Бахмутского уезда Екатеринославской губернии, Российская империя.
В 1917 году был избран председателем Луганского комитета большевиков, с августа – городской думы, с сентября – Луганского совета.
В январе 1918 года был делегатом от большевиков в Учредительном собрании. В начале марта 1918 года Ворошилов организовал Первый Луганский социалистический отряд, оборонявший Донбасс от германо-австрийских войск.
В 1921 году во главе группы делегатов X съезда РКП(б) участвовал в подавлении Кронштадтского восстания.
В годы Великой Отечественной войны Маршал Советского Союза К. Е. Ворошилов – член Государственного комитета обороны, затем –командующий войсками Ленинградского фронта, представитель Ставки Верховного Главнокомандования по формированию войск, представитель Ставки Верховного Главнокомандования на Волховском фронте. 15 декабря 1942 года Ставкой был направлен в район действий Ленинградского и Волховского фронтов для оказания помощи в подготовке к прорыву Ленинградской блокады.
В январе 1943 года координировал действия войск Ленинградского фронта в операции «Искра» при прорыве блокады Ленинграда. В середине декабря 1943 года Ворошилов был направлен в Отдельную Приморскую армию для оказания помощи в организации боевых действий по расширению плацдарма. Во время Крымской наступательной операции был координатором в Отдельной Приморской армии.
6 сентября 1942 года он был назначен Главнокомандующим партизанским движением.
В 1943 году Ворошилов участвовал в работе Тегеранской конференции. Также в 1943 году возглавил комиссию по вопросам перемирия, которая играла решающую роль в разработке условий безоговорочной капитуляции Германии. Первой крупной разработкой комиссии под руководством К. Е. Ворошилова стал «Документ о безоговорочной капитуляции Германии» от 3 февраля 1944 года.
Умер на 89-м году жизни 2 декабря 1969 года. Похоронен на Красной площади в Москве у Кремлевской стены.