Demokrat Parti ile Adalet Partisi kurucularından 12. Dönem Trabzon Milletvekili Zeki Yağmurdereli ile Selma Yağmurdereli'nin oğlu olan sanatçı, 6 Şubat 1953'te Trabzon'da dünyaya geldi. Osman Yağmurdereli, ilkokul 3. sınıfa kadar Trabzon Kurtuluş İlkokulunda, daha sonra Ankara Kavaklıdere İlkokulunda okudu, ardından Namık Kemal Lisesi Yenişehir Kolejini bitirdi. 1975'te müzik kariyerine başladı. Gazi Üniversitesi Eğitim Fakültesi Müzik Bölümü'nü 1973'te tamamlayan sanatçı, bir süre öğretmenlik yaptı, 1975'te yorumcu sanatçı olarak müzik kariyerine başladı. Yağmurdereli, 1990'da "Nişan Yüzüğü", 1992'de "Sarışın" adlı albümünü müzikseverlerle buluşturdu. Kıbrıs şarkısı "Bir Bir Birilerine" ve "Eller Eller" eseriyle tanınırlığı artan sanatçı, bir süre Ankara gazinolarında şarkı söyledi.

Faruk Tınaz'ın ısrarıyla İstanbul'a gelen Yağmurdereli, Tınaz, Kamil Sönmez ve Asım Ekren ile aynı evde yaşadı. Yağmurdereli, o günleri sanatçı Şenay Düdek'e verdiği röportajda şöyle anlatmıştı: "… Küçücük bir oda. Allah bana yardım etti. Benim inancım çok fazla. 30 yıldır pek çok insana iş verdim, hizmet ettim. Sayemde kat, yat, araba sahibi olanlar var. Bana onların hayır duaları yeter. Sonra İzmir Fuarı Akasyalar Gazinosu'na girdim. İşler iyi gitmedi. Cep delik, cepken delik… Kara kara düşünürken o dönemin parlak solisti Vahdet Vural aradı. Boğaziçi Gazinosu'nda iş teklif etti. Ben 35 bin isterken, onlar 50 bin verdiler. Tabii Vahdet sayesinde... Ardından hiç işsiz kalmadım. Gülizar, Doğanay, Este, Astoria gibi bütün gece kulüplerinde çok tutuldum o yıllarda.

Osman Yağmurdereli, 1984'te "Karımı Gördünüz mü" adlı sinema filmiyle oyunculuğa da adım attı. 1989'da döneminin sevilen TRT dizilerinden "İz Peşinde"de hayat verdiği "Komiser Esat" karakteriyle Yağmurdereli'nin oyunculukta da yıldızı parladı. Sanatçı, "Bizim Mahalle" dizisinin yanı sıra "Bir İhtimal Daha Var", "Keloğlan Kara Prens'e Karşı", "Yeni Bir Yıldız", "Bir Aşkın Bittiği Yer", "Biraz Neşe Biraz Keder" ve "Sevgi Çıkmazı" filmlerinde rol aldı. Yağmurdereli, birçok dizi ve filmin yapımcılığını üstlendi. 1988'de Yağmur Ajans'ı kurdu ve birçok oyuncu keşfetti.

Devlet sanatçısı unvanı da alan Osman Yağmurdereli, 22 Temmuz 2007 seçimlerinde AK Parti'den İstanbul 2. Bölge milletvekili seçildi. Bir dönem Trabzonspor Basın Sözcülüğü ve TBMM İnsan Haklarını İnceleme Kurulu üyeliği de yapan Yağmurdereli, 2 Ağustos 2008'de İstanbul'da kanser hastalığı nedeniyle 55 yaşında hayatını kaybetti.