Sahib Qarayev 25 sentyabr 1941-ci ildə Şərqi Zəngəzur Qubadlı rayonunun Çiyələkli kəndində anadan olmuşdur. 1959-cu ildə Hal kənd orta məktəbini bitirdikdən sonra Sumqayıt şəhərinə gəlmiş, “Sintezkauçuk”  zavodunda çilingər peşəsi üzrə əmək fəaliyyətinə başlamışdır. 1960-cı ildə Azərbaycan Politexnik İnstitutuna qəbul olmuş və istehsalatdan ayrılmadan ali təhsil almış, mühəndis-mexanik ixtisasına yiyələnmişdir. 1967-ci ilə kimi həmin zavodda usta, növbə rəisi vəzifələrində çalişmişdır. 1967-ci ilin avqust ayından 1969-cu ilin aprel ayına kimi Sumqayıt Yük Avtomobil Bazasında avtodəstə rəisi, 1969-cu ildən 1972-ci ilə kimi Sumqayıt Sərnişindaşınma Avtobazasının baş mühəndisi, sonra rəisi, 1972-1975-ci illər Sumqayıt Sərnişindaşınma Avtobazasının müdiri, 1975-ci ildən 1982-ci ilin dekabr ayına qədər Sumqayıt Şəhər Avtonəqliyyat İstehsalat Birliyinin rəisi vəzifəsində çalışmışdır.

1982-ci ilin dekabr ayında Sahib Qarayev Bakı şəhərindəki Avtomobil Bazanın rəisi vəzifəsinə təyin edilmiş, 1985-ci ilin mart ayına qədər bu vəzifədə işləmişdir. Həmin ilin mart ayında o, yenidən Sumqayıt şəhərinə dəvət edilmiş və Avtonəqliyyat İstehsalat Birliyinin Baş direktoru vəzifəsinə təyin edilmişdir. 1987-ci ilin sentyabr ayından 1988-ci ilin oktyabr ayına qədər Bakı Taksi Nəqliyyat idarəsi Baş direktorun müavini, 1988-ci ilin oktyabr ayından 1989-cu ilin sentyabr ayına qədər Bakı şəhəri 2 saylı Taksimotor parkının direktoru, 1989-cu ilin sentyabr ayından 1997-ci ilin yanvar ayına qədər Sumqayıt Avtokombinatının direktoru vəzifəsində işləmişdir. 1997-ci ilin yanvar ayından Azərbaycan Avtonəqliyyat Dövlət Konserninin nəzdində Sumqayıt Avtonəqliyyat İstehsalat Birliyinin Baş direktoru, 1999-cu ilin yanvar ayında səhmdar cəmiyyətin yaradılması ilə əlaqədar Sumqayıt Avtonəqliyyat Səhmdar Cəmiyyətinin sədri, 2001-ci ilin yanvar ayında Sumqayıt Şəhər Nəqliyyat Departamentinin sədri, 2002-ci ilin may ayında Sumqayıt Şəhər Lisenziyalaşdırma İdarəsinin rəisi vəzifəsinə təyin olunmuşdur. Sumqayıt Şəhər Lisenziyalaşdırma İdarəsinin ləğvi ilə əlaqədar 2002-ci ilin sentyabr ayından “Sumqayıt Sərnişin” ASC-nin sədri vəzifəsinə başlamış,ömrünün sonuna qədər həmin vəzifəni daşımışdır. 1976-ci ildən ardıcıl olaraq Sumqayıt Şəhər Sovetinin deputatı, 1999-cu ildən özünüidarəetmə orqanına- şəhər bələdiyyəsinə üzv seçilmiş, Rabitə və nəqliyyat məsələləri üzrə Komissiyanın sədri, Sumqayıt şəhər Ağsaqqalar şurasının sədr müavini, uzun müddət Nəqliyyat Nazirliyində Kollegiya üzvü olmuşdur. Sahib Qarayev 8 iyun 2015-ci ildə Sumqayıt şəhərində vəfat etmişdir.