Карл Филипп Эммануил Бах родился в Веймаре. В возрасте 10 лет был отдан в лейпцигскую школу Святого Фомы (в 1723 году его отец стал кантором школы и хора Святого Фомы). После школы Карл Филипп Эммануил изучал юриспруденцию в университетах Лейпцига (1731) и Франкфурта-на-Одере (1735). В 1738 году, в возрасте 24 лет, он получил степень, но сразу же оставил карьеру юриста и посвятил себя музыке.
Через несколько месяцев он по рекомендации Сильвиуса Леопольда Вайса поступил на службу к Фридриху II Прусскому, тогда кронпринцу, и после его восшествия на престол стал членом королевского двора. К этому времени Карл Филипп стал одним из известнейших клавирных исполнителей, а среди его сочинений (начиная с 1731 года) было уже более 30 клавирных сонат и концертных произведений. Карл Филипп Эммануил написал два цикла сонат, посвятив их Фридриху и герцогу Вюртембергскому. Эти произведения помогли ему в получении должности придворного музыканта.
Во время жизни в Берлине он написал магнификат (1749), в котором заметно больше следов влияния Иоганна Себастьяна, чем обычно. Там же он сочинил Пасхальную кантату (1756), 10 симфоний, много концертов для клавесина, гобоя, флейты и виолончели с оркестром, как минимум 3 тома песен, несколько светских кантат и другие произведения. Его основные сочинительские усилия, однако, концентрировались на произведениях для клавира, для которого композитор к тому времени сочинил около 200 сонат и других произведений. В то же время публикация написанного им труда об игре на клавишных инструментах «Versuch ?ber die wahre Art das Clavier zu spielen» («Опыт правильного способа игры на клавире»), которое к 1780 году выдержало уже 3 издания, принесла Карлу Филиппу большую известность как педагогу и теоретику игры на инструменте. Этот труд оказал большое влияние на современников и лёг в основу методов Клементи и Иоганна Баптиста Крамера.
В 1768 году Бах сменил Телемана на должности капельмейстера в Гамбурге. С этого момента он начал больше внимания уделять церковной музыке. В следующем году он написал ораторию «Израильтяне в пустыне», а между 1769 и 1788 годами создал более 20 пассионов и около 70 кантат, литаний, мотетов и других произведений на духовную тематику. Карл Филипп Эммануил умер в Гамбурге 14 декабря 1788 года.
Во второй половине XVIII века Карл Филипп Эммануил был очень известен. Моцарт, например, говорил о нём так: «Он отец, мы — дети». Музыка Карла Филиппа оказала влияние на Гайдна и Бетховена, который выражал его гению «искреннее восхищение и уважение». Такую известность Карл Филипп заслужил в основном благодаря своим клавирным сонатам, которые открыли важную эпоху в развитии музыкальных форм. Эти сонаты замечательны ещё и свободой и разнообразием в строении; они отличаются от произведений как Итальянской, так и Венской школ, приближаясь скорее к циклическим и импровизационным формам, которые стали стандартом несколько поколений спустя.
Его произведения полны изобретательности и непредсказуемости, они насыщены широким спектром эмоций. Карл Филипп Эммануил оказал серьёзное влияние на композиторов северонемецкой школы, в частности, на Георга Антона Бенду, Эрнста Вильгельма Вольфа, Иоганна Готфрида Мютеля и Вильгельма Фридриха Руста. Его влияние видно и в творчестве более далёких от него композиторов, таких как Мендельсон и Вебер.
В XIX веке его имя было постепенно забыто; Роберт Шуман, например, говорил, что «в своём творчестве он остаётся далеко позади отца». В то же время Иоганнес Брамс высоко ставил его произведения и даже издал некоторые из них. Новая жизнь творений Карла Филиппа Эммануила началась в 1960-х годах, когда Гельмут Кох изучил и записал его симфонии, а Гуго Руф записал его клавирные сонаты. В настоящее время Миклошем Шпаньи и шведской звукозаписывающей компанией BIS предпринимается попытка выпустить полное собрание записей его произведений.