Гундарс Целитанс родился в Даугавпилсе, там же начал заниматься в волейболом. Первым профессиональным клубом в карьере Гундарса стал рижский «Ласе-Робежсардзе», в составе которого он дважды становился чемпионом Латвии, признавался лучшим игроком национального первенства. С 2004 года входит в состав сборной Латвии.
В 2007 году Гундарс отправляется во Францию, где защищает цвета «Канна». По итогам чемпионата Франции-2007/08 Целитанс, набрав 587 очков в 27 матчах, стал самым результативным игроком дивизиона Про-A и признан лучшим диагональным. Высокую результативность молодой игрок показал и в розыгрыше Лиги чемпионов, где его «Канн» добрался до «Финала шести», уступив на этой стадии будущему победителю Лиги, клубу «Динамо-Таттрансгаз».
Вскоре Гундарс получил предложение играть за российский клуб «Локомотив-Белогорье». В сезоне-2008/09, выступая за белгородскую команду, он быстро успел завоевать уважение и доверие тренеров и интерес болельщиков. В составе «Белогорья» Целитанс стал победителем Кубка CEV.
С 2009 года играет в команде «Зираатбанк» из Анкары.