Как все в роду Эрденко, взял в руки скрипку в возрасте четырёх лет. Учился в музыкальной школе. Закончил музыкальное училище, затем Институт искусств Владивостока и начал карьеру скрипача-солиста.
В 24 года Николай был приглашён музыкальным руководителем театра «Ромэн». С тех пор его музыкальные пристрастия резко изменились. Он увлёкся цыганским и русским фольклором, произведениями цыганских композиторов, романсами, наконец, сам стал их исполнять, в собственной обработке, записывать пластинки на студии «Мелодия».
В 1980 году Николай Эрденко создаёт семейный ансамбль «Джанг», названный в честь основателя цыганского джаза Джанго Рейнхардта. В ансамбле состояли жена Николая Розалия, сестра Галина и дочери Леонсия и Радда. Ансамбль много гастролировал по СССР и зарубежным странам, был награждён «Золотой нотой» на первом Всемирном фестивале цыганской песни в Белграде.