Kocaelispor, 1966 yılında Baçspor, İzmit Gençlikspor ve Doğanspor takımlarının birleşmesiyle kuruldu ve 1966-1967 sezonunda 1. Lig adıyla bilinen 2. Lig'de mücadele etmeye başladı. 1991-1992 sezonunun sonunda 83 puan toplayarak Süper Lig'e yükseldi ve en büyük başarısını 1992-1993 sezonunda lider tamamlayarak elde etti. Bu sezonu 4. sırada bitirip Inter Toto Kupası'na katıldı. İlk turda Sporting Lizbon ile eşleşti fakat kupaya veda etti.

Kocaelispor, 1996-1997 sezonunda Türkiye Kupası finalinde Trabzonspor'u yenerek kupayı kazandı. 2001-2002 sezonunda da Beşiktaş'ı 4-0 yenerek ikinci kez Türkiye Kupası'nı kazandı. Ancak, 2003-2008 yılları arasında 1. Lig'de mücadele ettikten sonra düşüş yaşadı ve Bölgesel Amatör Lig'e kadar geriledi.

2013-2014 sezonunda Bölgesel Amatör Lig'e düştü ve buradaki mücadeleleri boyunca her yıl üst lige çıkmak için çaba gösterdi. 2016-2017 sezonunda 3. Lig'e döndü ve önemli maddi destekler alarak kulübün borçlarını ödemeye başladı. 2019 yılında transfer yasağının kaldırılmasıyla 2020-2021 sezonunda 2. Lig'de, 2021-2022'de 1. Lig'de ve 2022-2023'te yeniden 2. Lig'de mücadele etti.

Son olarak, geçen sezonu 1. Lig'de şampiyon tamamlayarak 16 yıl aradan sonra Süper Lig'de mücadele etmeye hak kazandı. Kocaelispor, kapanmadan ve ismini, armasını, renklerini koruyarak amatörden Süper Lig'e yükselerek önemli bir başarı elde etti.