Родился в Абердине, получил образование в Академии Доллара в Клакманнаншире и Абердинском университете, где среди его преподавателей был Д. К. Максвелл, после чего включился в семейный бизнес по производству часов. Несколько лет спустя он продал бизнес и посвятил себя астрономии. В 1874 присоединился к астрономической экспедиции на остров Маврикий, чтобы наблюдать прохождение Венеры по диску Солнца. Три года спустя Гилл направился на остров Вознесения, чтобы наблюдать великое противостояние Марса и вычислить расстояние до этой планеты. В 1879—1906 — директор обсерватории Мыс Доброй Надежды, Королевский астроном. За время руководства обсерваторией привёл её в образцовое состояние. В 1870 женился, жена сопровождала его на протяжении всей жизни.
В 1900 произведён в рыцарское достоинство.
После выхода Гилла в отставку в 1906 супруги вернулись в Лондон, где Гилл скончался в 1914. Похоронен в Абердине.
Был избран членом Лондонского королевского общества (1883), иностранным членом-корреспондентом Петербургской Академии наук (1885), членом Национальной академии наук США, членом Бюро долгот в Париже, членом Шведской Королевской академии наук, президентом Королевского астрономического общества (1909—1911).
Основные работы Гилла относятся к астрометрии и геодезии, также он был одним из пионеров астрофотографии. Сделал первые снимки Большой кометы 1882, использовал фотографические наблюдения звезд для составления звездных каталогов. В 1885—1889 осуществил фотографический обзор части неба Южного полушария, результаты которого легли в основу каталога «Капское фотографическое обозрение», опубликованного в 1896 Я. К. Каптейном. Этот каталог содержал более 400 000 звезд до 12-й звёздной величины. В 1880 определил параллакс Солнца по наблюдениям Марса во время великого противостояния 1877, произвел измерения многих звездных параллаксов, рассчитал массу Юпитера. Усовершенстовал использование гелиометра и организовал наблюдения малых планет при помощи гелиометров для определения параллакса Солнца.
В сфере геодезии в 1873—1876 организовал геодезические измерения вдоль 30-го меридиана от Южной Африки до Норвегии, связав между собой долготы Берлина, Мальты, Александрии, Суэца, Адена.
В его честь назван кратер на Луне и кратер на Марсе.