Heikki Kovalainen získal zájem o závody již v útlém mládí, protože se jeho otec účastnil závodů na ledě. Za volant motokáry usedl poprvé když mu bylo šest let a jakmile v deseti získal licenci, okamžitě začal závodit. Na motokárách pokračoval až do roku 2000, kdy vyhrál Elf Masters v Paříži.
Poté se Kovalainen přesunul do britské Formule Renault do týmu Fortec. Hned v prvním ročníku vyhrál dva závody a celkově skončil čtvrtý. Podepsal jako vývojový jezdec Renaultu a v roce 2002 přestoupil s týmem Fortec do britské Formule 3. Vyhrál pět závodů a celkově skončil v šampionátu třetí. V roce 2003 závodil Heikki Kovalainen v Nissan World Series a vyhrál jeden závod, dominantním byl v tomto roce Kovalainenův týmový kolega Franck Montagny, který vyhrál závodů devět. Na podzim 2003 poprvé testoval vůz Formule 1 s Renaultem a později s Minardi. Následně podepsal smlouvu testovacího jezdce s Renaultem.
V roce 2004 závodil dále ve světové sérii Nissan, tentokrát v týmu Pons Racing, se kterým tento rok celou sérii vyhrál. Ve stejném roce na sebe Kovalainen upoutal mezinárodní pozornost, když vyhrál Závod šampiónů v Paříži, postupně porazil Davida Coultharda, Jeana Alesiho, Michaela Schumachera a Sébastiena Loeba. V roce 2005 závodil Fin v GP2 a dlouho sérii vedl, nakonec podlehl Nico Rosbergovi v posledních závodech. V roce 2006 testoval Heikki Kovalainen pro tým Renault F1 a v roce 2007 nahradil Fernanda Alonsa v závodním kokpitu. Začátek závodní kariéry se mu příliš nepovedl, ale s postupem sezóny se Fin neustále zlepšoval a nakonec porazil i svého týmového kolegu Giancarla Fisichellu.
Po návratu Fernanda Alonsa k Renaultu nezbylo pro Kovalainena u Francouzů místo, nakonec zamířil finský pilot do stáje McLaren, kde se stal týmovým kolegou Lewise Hamiltona. V roce 2008 měl však smůlu na techniku. Zatímco se Hamiltonovi problémy vyhýbaly, Kovalainena jeho McLaren zradil několikrát a na boj o titul nemohl pomýšlet.
V dalším roce se ale Fin nedokázal zlepšit a jeho výsledky zaostaly za očekáváními. McLaren se s ním proto rozloučil a Kovalainen zamířil do nového týmu Lotus Racing. V něm se mu v roce 2010 dařilo více než Jarnu Trullimu a zajistil mu 10. místo v šampionátu konstruktérů. S Lotusem pokračoval i v roce 2011, a i když se to na výsledcích nijak výrazně neprojevilo, jeho výkony měly vzestupnou tendenci a znovu si ho začaly všímat top týmy. Zaměstnavatele však před rokem 2012 nezměnil.