На драфте НХЛ 1998 года был выбран во 2 раунде под общим 39 номером командой «Даллас Старз». С 14 сентября 2006 года выступает за «Вашингтон Кэпиталз».
Эрскин начал выступать на высшем уровне за команду «Quinte Hawks» из лиги Metro Junior A Hockey League Metro Junior A Hockey League (англ.)русск. в сезоне 1996-1997. В сезонах - 1997-1998, 1998-1999, 1999-2000, Эрскин играл за «London Knights» из Хоккейной Лиги Онтарио (en. OHL). Джон выиграл Max Kaminsky Trophy, приз лучшему защитнику OHL в сезоне 1999-2000. Он показывал улучшение своей игры от сезона к сезону, за что и получил «повышение» , перейдя в команду «Юта Гриззлис» (en. Utah Grizzlies) из International Hockey League (IHL) в 2000 году.
Дебют Эрскина в НХЛ пришелся на сезон 2001-2002. Выступая за команду Даллас Старс , Джон принял участие в 33 играх , отметившись одной результативной передачей. В течение сезона 2005-2006 , Эрскин был обменян в команду Нью-Йорк Айлендерс вместе с правом выбора во втором раунде драфта-2006, на защитника Яни Нинимаа плюс выбор в пятом раунде драфта-2007. В конце сезона , «Островитяне» решили не продлевать контракт с хоккеистом, защитник получил статус свободного агента. 14 сентября 2006 года, Эрскин подписал контракт с Вашингтон Кэпиталс. После завершения сезона он продлевает контракт со «Столичными» на ближайшие два года. 24 октября 2008 года , Эрскин подписал с командой новый двухлетний контракт на 2,5 миллиона долларов.