Kendisini "Anadolu rock ozanı" diye tanımlayan ve özgün yorumuyla unutulmazlar arasında yer edinen sanatçı, Barış Manço, Erkin Koray ve Fikret Kızılok ile Anadolu rock müziğinin 4 öncüsü arasında yer aldı. Asıl adı Muhtar Cem Karaca olan sanatçı, Ermeni asıllı opera ve tiyatro sanatçısı Toto Karaca (Irma Felekyan) ile tiyatro sanatçısı Azeri Mehmet İbrahim Karaca'nın oğlu olarak 5 Nisan 1945'te İstanbul'da dünyaya geldi. Karaca, yeteneğini fark eden annesi sayesinde 6 yaşındayken müzik eğitimine başladı.

İstanbul'daki Rum azınlıklara yönelik gerçekleştirilen 6-7 Eylül Olayları, Toto ve Mehmet Karaca çiftinin Bakırköy'deki evinde de hissedildi. Sanatçı, olaylar durulduktan sonra Robert Koleji'ne kaydoldu. Suadiyeli Nesrin için söylediği şarkı, hayatını değiştirdi. Cem Karaca, sahne tozunu küçük yaşlarda yutmasına karşılık, doktor ya da mühendis olmayı istedi. "Suadiyeli Nesrin" olarak hatırladığı bir genç kızı etkilemek için sokak ortasında söylediği şarkı, sanatçının müzik kariyerinin başlangıcını oluşturdu.

Beyoğlu Spor Kulübünün lokalinde arkadaşlarını kırmayıp sahneye çıkarak profesyonelliğe adım atan Karaca, daha sonra "Dinamitler" ve "Jaguarlar" adlı gruplarla "rock and roll" parçaları seslendirdi. Mehmet Karaca, hariciyeci olmasını istediği oğlunu şarkıcılıktan vazgeçirmek için her şeyi yaptı. Annesinin desteğini alan sanatçıyı sevdasından vazgeçiremeyen Mehmet Karaca, oğluna, "Buraların müziğini yap" tavsiyesinde bulundu. Usta sanatçı Karaca, liseden sonra eğitimine devam etmedi.

Askerdeyken dinlediği bağlama, müziğine yön verdi. İlk evliliğini tiyatro oyuncusu Semra Özgür ile 1965'te yapan sanatçı, evlendikten 3 gün sonra vatani görevi için Antakya'ya gitti. Askerlerin bağlama eşliğinde yorumladığı bir türkü, Karaca'nın müziğinde adeta dönüm noktası oldu. Unutulmaz sanatçı, bir röportajında bu anısına değinerek, "Ben o güne kadar ne garip, ilkel bir müzik diye düşünürken bir de baktım ki benim o anda içinde bulunduğum hissiyatı, o müzik canlandırıyor, dile getiriyor, anlatıyor." ifadelerini kullanmıştı.

Batı enstrümanlarıyla Anadolu müziği yapma kararı alan Cem Karaca, vatani görevini bitirip İstanbul'a döndüğünde Mehmet Soyaslan'ın kurduğu "Apaşlar" grubuyla çalışmaya başladı. Cem Karaca, bir plak şirketinde tanışıp sıkı dost olduğu Aşık Mahsuni Şerif'in türkülerini de repertuvarına aldı. Hürriyet gazetesinin 1967'de düzenlediği Altın Mikrofon Yarışması'na, sözleri Erzurumlu Emrah'a ait "Emrah" bestesiyle katılan sanatçı, birinciliği "Mavi Çocuklar"a kaptırarak ikinci oldu.

Cem Karaca ve Apaşlar'ın ilk plağı, Hürriyet gazetesi tarafından yayımlandı. Grup, aynı yıl "Hudey", "Vahşet" ve "Bang Bang-Bir Anadolu Hikayesi" eserlerinin olduğu bir 45'lik daha çıkardı. Almanya'ya giden Karaca ve Apaşlar, Fredy Klein Orkestrası ile şarkılar kaydetti. Türkiye'deki en önemli popüler müzik eserlerinden birisi olarak nitelendirilen sözü ve müziği Mehmet Soyaslan da bu kayıtlar arasındaydı. Şarkı ilk kez 1968'de "Resimdeki Gözyaşları/Emrah" plağında yer aldı.

Cem Karaca, 1970'te, Murat Soydan ile başrolü paylaştığı, Yücel Uçanoğlu'nun yönettiği yerli kovboy filmi "Kralların Öfkesi"nde oynadı. Usta sanatçı, 1971'de müzik çalışmaları için Kardaşlar grubuyla Almanya'ya gitti. Plak çalışmalarını tamamlamak üzereyken 12 Mart 1971 Muhtırası yayımlandı. "Oy Gülüm Oy" plağının toplatılması kararı alınınca Almanya'da bir süre daha kalan Cem Karaca ve grubu, daha sonra yurda döndü.

Müzik yolculuğuna Moğollarla devam eden Karaca, 1974'te "Namus Belası" ve "Gurbet" şarkılarının olduğu bir 45'lik çıkardı. "Namus Belası", ilk günden itibaren listelerin en üst sırasında yer aldı. Moğollar grubundan ayrılan sanatçı, Kardaşlar grubundan ayrılan Ünol Büyükgönenç'i birlikte çalışmaya ikna ederek Dervişan'ı kurdu. Karaca ve Dervişan, müzikte progress ve rocka yaklaşırken "Tamirci Çırağı", "Kavga", "Parka", "İhtarname", "Yoksulluk Kader Olamaz", "İşçi Marşı", "Maden Ocağının Dibinde" şarkılarına imza attı.

Cem Karaca, 1979'da "1 Mayıs Marşı" plağı nedeniyle yargılandı, konserleri olaylı bitti. 1980'de kaybettiği babasının cenazesine katılamadı. 1983'te vatandaşlıktan çıkarıldı. Almanya'da birlikte tiyatro da yaptığı annesi Toto Karaca'nın ziyaretleriyle teselli bulan sanatçı, müzikten kopmadı.

Cem Karaca, 27 Haziran 1987'de yurda döndü. Ülkeye döndüğünde bir polis tarafından "Yurdunuza hoş geldiniz" şeklinde karşılanan Cem Karaca, ertesi gün duruşmaya çıkmak için yargılandığı Fethiye'ye gitti. Duruşmada aklandı ve verdiği ilk konseri Başbakan Turgut Özal da izledi.

Cem Karaca, yıllarca yasaklı olduğu TRT'de 1994'te "Raptiye" isimli program yaptı. Annesi Toto Karaca'dan dolayı Ermeni müziğiyle de ilgilenen sanatçı, son dönemi sayılan yıllarda "Töre", "Sevda Kuşun Kanadında", "Dur be Yeter" şarkılarını Türkçe sözlerle seslendirdi. Usta sanatçı, 8 Şubat 2004'te kaldırıldığı hastanede vefat etti. Kendisini her zaman Türk ve Müslüman olarak tanımlayan, gençlik yıllarından itibaren Alevilik ve Bektaşiliğe özel ilgi duyan sanatçı, Karacaahmet Mezarlığı'na defnedildi. Üsküdar Seyit Ahmet Deresi Camisi'nde kılınan cenaze namazına yoğun katılım oldu.