Родился в октябре 1888 г. Киеве. Окончил Киевский университет Святого Владимира. В чине прапорщика участвует в Первой мировой войне. В Белом движении в чине поручика в Добровольческой армии и ВСЮР. В 1920 г. работал в крымской вечерней газете, где вел театральный отдел.
Вместе с Русской армией генерала П. Н. Врангеля попадает в Галлиполи, где занимается общественной и литературной работой. Штабс-капитан штаба 1-го армейского корпуса, один из основателей Общества Галлиполийцев. Вместе с Марковской железнодорожной роты капитаном В. В. Ореховым, и 6-го отдельного бронепоездного артдивизиона подпоручиком, профессором В. Х. Даватцем, подал генералу от инфантерии А. П. Кутепову рапорт с предложением основать Общество Галлиполийцев. По окончании Галлиполийского сидения попадает в Болгарию, откуда в 1922 г. выслан в Королевство Сербов Хорватов и Словенцев (Югославия). В 1925 г. штабс-капитан в составе 1-й Галлиполийской роты в Югославии.
Впоследствии переезжает в Белград, где занимается журналистской, литературной и театральной деятельностью. Вместе с В. Х. Даватцем, редактор издательского отдела Общества Галлиполийцев и белградской газеты «Новое время», вплоть до ее закрытия в 1930 г. Также сотрудничает в многих периодический изданиях русской эмиграции: «Россия и Славянство», «Возрождение», «Иллюстрированная Россия», «Часовой», «Казачий журнал». Рыбинский принимает активное участие в театральной жизни русской эмиграции в Югославии. Пишет пьесы, как актер и режиссер участвует в театральных постановках. Вот как Николай Захарович рассказал об этой стороне своей деятельности: «… Пока существует у исполнителей и у публики потребность в устройстве своих русских спектаклей, значит — существует и жажда родной, чистой речи. А это значит, что мы не обезличенная русская пыль, а русские люди, не забывшие свою родину. Ведь каждый такой спектакль на чужбине — собрание и актеров и зрителей во имя той России, которая, без деления на партии, едина для всех»
В этот период отдельными изданиями выходят его сборник «Галлиполийские рассказы» посвященные пребыванию 1-го армейского корпуса в Галлиполийском лагере и «Лиза. Маленькая повесть».
В 1941 г. во время бомбардировки Белграда Н. З. Рыбинский был ранен. Выйдя из больницы, поступил на курсы церковного устава. Впоследствии, как и многие русские военные эмигранты на Балканах, вступает в «Русский Корпус», участвует в боевых действиях против коммунистов на территории Югославии. После поражения оказывается в Мюнхене, в лагере для перемещенных лиц на территории замка Шляйсхайм. В 1951 г переезжает в Нью-Йорк, где продолжает заниматься журналистикой. Печатается в «Новом русском слове», «Часовом», «Русской мысли». Н. З. Рыбинский скончался в Нью-Йорке 21 февраля 1955 года от сердечного приступа. Похоронен на кладбище Ново-Дивеевского монастыря.