Nüfusa geç kaydedilmesi nedeniyle resmi doğum tarihi 10 Mayıs 1972 olsa da 7 Kasım 1971'de Artvin'in Hopa ilçesine bağlı Yeşilköy'de dünyaya gelen Koyuncu, Cavit ve Hüsniye Koyuncu çiftinin 6 çocuğundan beşincisiydi.
Çocukluğunda babaannesinden masallar dinleyerek büyüyen Koyuncu, "Kemençeci Yaşar" lakabıyla tanınan Yaşar Turna'dan dinlediği türkülerle Karadeniz müziğiyle erken yaşlarda tanıştı.
Koyuncu, çocukluk günlerine ilişkin yaptığı bir açıklamada, "Kitap okuyan babamdan kaynaklı olarak diğer çocuklardan farklı oldum." ifadelerini kullanarak, babasının kendisi üzerindeki etkisini anlatmıştı.
Müziğe ortaokul yıllarında babasının aldığı mandolinle başlayan sanatçı, 1989'da köyünden ayrılarak İstanbul Üniversitesi Kamu Yönetimi Bölümü'nde eğitim görmeye başladı.
Üniversite yıllarında müzik çalışmalarına ağırlık veren Koyuncu, 1992'de Ali Enver ile "Dinmeyen" müzik grubunu kurarak profesyonel müzik hayatına ilk adımını attı.
Daha sonra eğitimini yarıda bırakarak yalnızca müzikle ilgilenmeye karar veren sanatçı, bir dönem tiyatro oyunlarına müzik hazırladı ve Karadeniz müziğini rock müzikle birleştirerek kendine özgü tarzını oluşturdu.
Arkadaşlarıyla kurduğu Zuğaşi Berepe grubuyla çalışmalarını sürdüren Koyuncu, hem bu grupla hem de Dinmeyen ile üretimlerine devam etti.
Grubuyla "Va Mişkunan" (Bilmiyoruz) adlı ilk albümü 1995'te, "İgzas" adlı ikinci albümü 1999'da yayımlayan sanatçı, Dinmeyen grubuyla 1996'da "Sisler Duvarı" albümünü hazırladı.
Karadeniz müziğinin sert ve duygusal yapısını eserlerine taşıyan Koyuncu'nun, "Dido" adlı şarkısının da yer aldığı ilk solo albümü "Viya!", 2001'de yayınlandı.
Sanatçının tanınırlığı, 2002'de yayınlanan "Gülbeyaz" dizisinin müziklerini hazırlamasının ardından daha da arttı. Konser programları yoğunlaşan Koyuncu, 2004'te ikinci solo albümü "Hayde"yi çıkardı.
Albümlerinde Türkçenin yanı sıra Hemşince, Lazca ve Gürcüce eserlere de yer veren sanatçı, Karadeniz'in kültürel çeşitliliğini müziğine taşıdı.
Koyuncu'ya 2004'te akciğer kanseri teşhisi konuldu. Doktorların dinlenmesi yönündeki tavsiyelerine rağmen sahneden uzak kalmayan sanatçı, konser vermeyi sürdürdü.
Son konserini 4 Şubat 2005'te Taksim'deki Yeni Melek Gösteri Merkezi'nde veren Koyuncu'nun o gün söylediği "Ha kanser ha konser" sözleri hafızalarda yer etti.
Kazım Koyuncu, tedavi gördüğü hastanede 25 Haziran 2005'te, 33 yaşındayken hayatını kaybetti. Cenazesi, doğduğu Yeşilköy'deki köy mezarlığında toprağa verildi.
Türkiye'nin birçok bölgesinde ve yurt dışında geniş bir dinleyici kitlesine ulaşan sanatçı, "Şair Ceketli Çocuk" lakabıyla da tanındı.
Koyuncu, bir açıklamasında bu lakabın hikayesini, "Çocukken şiirle güzel oynuyordum. Şairlerle çok uğraşıyordum. Bir ceket yaptırmak istedim o zamanlar, İstanbul'a gelirken, şair ceketi..." sözleriyle anlatmıştı.
Gençlerin hayallerinin ve cesaretinin önemine vurgu yaptığı bir röportajında ise şunları söylemişti:
"Belirli bir yaştan sonra, hayatla bire bir bağlantı içerisine girdikten sonra o hayata bir şey katamayacağımızı düşünüyorum. Bu biraz ağır bir konuşma olabilir ama askerliğini bitirmiş, evlenmiş, çocuk sahibi olmuş, çalışan bir insan risk almaz. Çok bağımsız, çok acayip fikirler kurup onların peşinden gitmez. Oysa hayatı bir ileriye götüren şey hayallerimiz. Hayallerimizi gerçekleştiren şey ise cesaretimiz. Gençken insan cesur olabiliyor. Ben onların hayatını çok önemsiyorum. Çünkü hayat oradan yeni bir şekil alabilir. Onların fikirlerinden, yanlışlarından ve doğrularından hayat bir yere ulaşabilir. Yetişkinlerin doğrularıyla gençlerin yanlışları arasında çok büyük bir fark yok yani en kötü ihtimalla yetişkinlerin yaptığı doğrular kadar önemlidir, gençlerin yanlışları."
Doğru bildiği şeyleri söylemekten çekinmeyen Koyuncu, bir başka röportajında da "Bence bir sanatçının ya da şarkıcının çok cesur olması gerekiyor. Cesaretin ve çalışma arzun varsa hiçbir sorun yok, en fazla para kazanamazsın. Bir albümün satmaz ya da 1 milyon satar. Bunlarla ilgilenmek istemiyorum. Çok büyük bir popülaritem yok. O yüzden biz bize yetebiliyoruz." ifadelerini kullanmıştı.
Müziğinin yanı sıra çevre ve toplumsal konulardaki duyarlılığıyla da tanınan Koyuncu, ölümünün ardından düzenlenen konserler ve anma etkinlikleriyle hatırlanmaya devam ediyor.
Paluri Arzu Kal Demirçi, sanatçının vefatının ardından, onunla ilk karşılaşmasından son anına kadar süren dostluğunu anlattığı "Şair Ceketli Çocuk: Kazım" adlı kitabı kaleme aldı.