Родился 13 мая 1855 г. Окончив курс в Нижегородской военной гимназии и во 2-м военном Константиновском училище, был произведен в 1873 г. в прапорщики 22-й артиллерийской бригады. В 1880 году Грязнов окончил Николаевскую академию генерального штаба и поступил в Офицерскую кавалерийскую школу. Окончив её в 1886 г., Грязнов нёс службу по генеральному штабу, прокомандовав экскадроном, а в 1889 г. был переименован в надворные советники и назначен вице-консулом в Армению в г. Ван. Пробыв на этой должности около 6 лет, Грязнов был переименован в 1895 г. в полковники генерального штаба и в 1897 г. был назначен командиром 45-го драгунского Северского полка; в 1899 г. он получил в командование лейб-гвардии Гродненский гусарский полк, 6 декабря того же года произведен в генерал-майоры, 1 декабря 1903 г. назначен начальником Николаевского кавалерийского училища.
Преданный кавалерийскому делу, он изучил его практически и научно, и в 1902—1903 гг. читал в Николаевской академии генерального штаба курс тактики кавалерии, изданный затем особой книгой под названием «Конница».
В 1905 году был назначен начальником штаба Кавказского военного округа. 16 января 1906 года Грязнов был смертельно ранен в Тифлисе бомбой, брошенной на улице революционером. Непосредственным исполнителем убийства был рабочий железнодорожных мастерских Арсен Джорджиашвили.
В 1921 году киносекцией Наркомпроса Грузии был снят пропагандистский кинофильм «Убийство Генерала Грязнова» (другое название «Арсен Джорджиашвили»).