Универсальный игрок, может сыграть на позициях плеймейкера, правого, левого, опорного полузащитника и даже левого или правого защитника.
Воспитанник футбольной школы одесского «Черноморца». В 15 лет перешёл в тираспольский «Тилигул» и принял гражданство Молдавии.
После «Тилигула» играл за «Карпаты» (Львов), с середины 2004 года до конца 2009 года выступал за московский «Спартак». Трижды признавался лучшим футболистом Молдавии.
В марте 2007 года принял российское гражданство. После этого получал вызовы в молдавскую сборную, но отказывался от выступлений за национальную команду по настоянию руководства клуба: именно в ходе выступлений за сборную футболист получил несколько серьёзных травм. В феврале 2010 года Сергей Ковальчук выразил готовность вновь выступать за сборную Молдавии, но после разговора с представителями тренерского штаба приезжать в расположение команды отказался.
В декабре 2009 года Ковальчук был вынужден покинуть «Спартак», который не захотел продлевать закончившийся контракт футболиста.
15 февраля 2010 года Сергей Ковальчук отправился на сборы в Турцию вместе с футбольным клубом «Томь», где играл его младший брат Кирилл. 23 февраля 2010 года было официально объявлено, что Сергей заключил двухлетний контакт с ФК «Томь». Однако после вторых зимних сборов с командой принял предложение «Жемчужины-Сочи».