Ян Гелета начал свой футбольный путь в молодёжной команде «Искра» из Партизанске, затем играл за первую команду. В 1962 году он переходит в пражскую «Дуклу», в которой играл до 1976 года. С «Дуклой» Гелета выиграл 3 чемпионата Чехословакии и 3 раза был обладателем чехословацкого кубка. Сыграл 283 матча, забив в них 27 мячей. В 1967 он был выбран чехословацким футболистом года. С 1977 по 1979 он играл за пражский «Моторлет», где и завершил футбольную карьеру. Позже работал тренером молодёжи в клубе «Дукла».
С 1964 по 1970 Гелета играл за сборную Чехословакии, сыграв 19 матчей и забив 2 мяча. Так же он принимал участие в Олимпийских играх 1964 года в Токио, где завоевал серебряную медаль.