Iepriekšējās divas sezonas 47 gadus vecais speciālists bija galvenā trenera asistents, bet pirms darba Ķīnā viņš strādāja Šveices klubā Visp.
Lielākus panākumus viņš guva hokejista karjerā, 1994.gadā kopā ar Ņujorkas Rangers iegūstot Stenlija kausu. Nacionālajā hokeja līgā (NHL) Kovaļovs aizvadīja 18 sezonas, kuru laikā pārstāvēja Rangers, Pitsburgas Penguins, Monreālas Canadiens, Otavas Senators un Floridas Panthers komandas.
KHL viņš spēlēja 2011./2012.gada sezonā, kad pārstāvēja Atlant komandu no Mitiščiem, kur nākamajā sezonā bāzēsies Pekinas klubs.
1992.gadā Krievijas izlases sastāvā viņš kļuva par olimpisko čempionu, bet desmit gadus vēlāk izcīnīja bronzu. Kovaļovs ir arī pasaules junioru čempions, kā arī planētas meistarsacīkšu bronzas medaļas laureāts.