Детские годы жил в Александровке-Савельевке, где его отец, обрусевший немец, был управляющим в имении помещиков Савельевых.
С 1896 года занял должность управляющего в одном тамбовском имении. Позже жил в Санкт-Петербурге, где заведовал библиотекой писателя П. В. Засодимского по адресу Невский, 80. Был связан с Народной Волей. В упомянутой библиотеке проводились встречи народовольцев, а также состоялась встреча руководителей партии с Н. К. Михайловским.
На литературное поприще Эртель выступил в 1879 году, обратив на себя внимание критики и публики очерком «Два помещика». Затем последовал длинный ряд очерков и рассказов, под заглавием «Записки степняка», в Вестнике Европы (1880—1882), Русском Богатстве (1881, «Земец»), Деле (1879—1882) и других изданиях. В Русской Мысли напечатан большой роман Эртеля «Гарденины, их дворня, приверженцы и враги» (1889 и отдельное издание — 1890).
В 1891 году во время голода в центральной России помогал голодающим, истратив на это всё своё состояние.