Сын бедного стекольщика, работал в мастерской отца. После его смерти (1798) в двенадцать лет поступил обучаться, затем работать в зеркальной и стекольной мастерской в Мюнхене.
Свободные от работы часы Фраунгофер посвящал чтению и самообразованию. По выходе из ученья он приобрел машину для шлифовки оптических стекол, но принужден был добывать себе, однако, средства гравировкой визитных карточек. В эту пору жизни Фраунгофер чуть было не погиб под развалинами обрушившегося дома, в котором жил, но, будучи освобожден из-под развалин здоровым и невредимым, обратил на себя особое внимание баварского короля Максимилиана-Иосифа, который помог Фраунгоферу получить дальнейшее математическое образование. С 1806 ассистент математического и оптического института (находился в Мюнхене, затем в Бенедиктбёйерне), где изготовлялись линзы и оптическая аппаратура.
Благодаря трудолюбию и знаниям стал с 1809 одним из его руководителей, в 1818 — его директором. Основанная в 1814 году при участии Фраунгофера фирма «Утцшнейдер и Фраунгофер», быстро приобрела мировую известность как выпускающая для крупных обсерваторий оптические приборы, главным образом рефракторы и зрительные трубы, высокого качества.
С 1823 хранитель физического кабинета Мюнхенского университета и член Баварской АН, с 1824 член Академии Леопольдина. Технология изготовления больших ахроматических объективов, уже сама по себе новая для того времени, Фраунгофером была значительно улучшена как в части серийного производства оптических стекол — флинтов и кронов — так и их последующей обработки. Фраунгофер изобрёл окулярный микрометр и своеобразный объективный микрометр — гелиометр. Изучая показатели преломления различных сортов стекла, в 1814 открыл (независимо от английского физика У. Волластона) и описал линии поглощения в солнечном спектре (фраунгоферовы линии). В 1821 впервые применил дифракционную решётку для изучения спектров. Предложил метод наблюдения дифракции света в параллельных лучах.
Умер 7 июня 1826. Похоронен на Старом южном кладбище в Мюнхене.
Кроме усовершенствований, введенных Фраунгофером в изготовление оптических стекол и особенно больших ахроматических объективов, кроме изобретенных им гелиометра и окулярных микрометров, Фраунгофер оставил два классических научных исследования. В мемуаре «Bestimmung d. Brechungs und d. Farbenzerstreuungs-Verm?gens verschiedener Glasarten, in Bezug auf d. Vervollkommung achromatischer Fernr?hre» («Denkschrif. M?nchen. Acad.», т. V, 1814—1815) Фраунгофер упоминает впервые о постоянных линиях солнечного спектра (впоследствии названных Фраунгоферовыми линиями (см. Спектральный анализ), даёт подробный рисунок солнечного спектра и указывает на использование этих линий при определении показателей преломления оптических сред. В другом мемуаре «Neue Modification d. Lichts durch gegenseitig e Einwirkung und Beugung d. Strahlen und Gesetzte derselben» («Denksch. M?nchen. Acad.», т. VIII, 1821—1822) Фраунгофер описал явления в оптической дифракционной решетке и ее применение к определению длины световых волн. За услуги, оказанные науке и технике, Фраунгоферу поставлен в Мюнхене памятник.
Его именем названо научное-исследовательское Общество Фраунгофера, в состав институтов которого входит Фраунгоферовский институт интегральных схем, разработчик алгоритма MP3.