Родился в Кливленде, штат Огайо. Окончил Висконсинский университет и Военно-морскую академию в Аннаполисе (штат Мэриленд) в 1952. Служил лётчиком-испытателем в военно-морском авиационном испытательном центре в Патаксент-Ривер (штат Мэриленд). После окончания школы авиационной безопасности при университете в Южной Калифорнии работал лётчиком-инструктором и офицером безопасности на военно-морской авиационной базе Осеана (штат Виргиния).
С 1962 — в группе астронавтов НАСА. 4—18 декабря 1965 совместно с Ф. Борманом совершил полёт в космос на корабле «Джемини-7» в качестве 2-го пилота. За 330 ч 35 мин корабль совершил 206 витков вокруг Земли, пролетев около 9,2 млн км. 11—15 ноября 1966 совершил полёт в космос на корабле «Джемини-12» в качестве командира совместно с Э. Олдрином. Его корабль за 94 ч 35 мин совершил 59 витков вокруг Земли, пролетев более 2,6 млн км. 21—27 дек. 1968 совместно с Ф. Борманом и У. Андерсом совершил 1-й полёт к Луне с выходом на селеноцентрическую орбиту на корабле «Аполлон-8» в качестве пилота основного блока. Космический корабль, сделав 10 витков вокруг Луны, возвратился на Землю. Полёт продолжался 147 ч 01 мин.
11—17 апреля 1970 совместно с Дж. Суайгертом и Ф. Хейсом совершил полёт к Луне на корабле «Аполлон-13» в качестве командира. В связи с аварией на корабле посадка на Луну была отменена и он, совершив облёт её, вернулся на Землю. Полёт продолжался 142 ч 55 мин. Именно во время этого полёта Джеймсу Ловеллу пришлось сказать фразу, ставшую крылатой: «Houston, we've had a problem.»
За 4 рейса в космос Ловелл налетал 715 ч 6 мин. Единственный астронавт, кто участвовал в двух лунных миссиях, но так и не высадился на Луну. С 1971 заместитель директора отдела науки и прикладных исследований в Центре пилотируемых космических кораблей в Хьюстоне. Ловелл был награждён медалью НАСА «За выдающиеся заслуги» в 1970 году. Именем Ловелла назван кратер на обратной стороне Луны.
О последнем полёте Ловелла снят в 1995 году фильм "Аполлон-13". Роль Ловелла играет Том Хэнкс. В последние минуты фильма, прямо перед титрами, в кадре появляется на несколько мгновений сам Ловелл и пожимает руку Хэнксу, который сыграл его самого. Это происходит на палубе авианосца, подобравшего спускаемый аппарат, Ловелл одет в форму морского офицера, снят только в профиль, но всё же узнаваем. Кстати, фильм снят по его же собственной книге воспоминаний.