Финкельштейн закончил с отличием учёбу на юридическом факультете в Тель-Авивском университете (где одновременно учился на факультете гебраистики) в 1973 году.
Был призван на службу в Армии обороны Израиля. Служил офицером в артиллерийских войсках, в том числе в период Войны Судного дня, после чего перешёл на службу в Военной прокуратуре. Занимал, помимо прочего, должности судьи окружного военного суда (1982—1983), Главного военного обвинителя (1983—1984, 1988), Главного военного защитника (1987—1988).
С 1995 по 1999 год исполнял должность судьи, а затем и заместителя Председателя Военного апелляционного суда.
В марте 2000 года Финкельштейн был назначен на пост Главного военного прокурора, сменив на посту бригадного генерала Ури Шохама. В 2001 году был повышен в звании до генерал-майора.
Период исполнения Финкельштейном полномочий Главного военного прокурора был ознаменован событиями «Интифады Аль-Аксы», поставившими перед Военной прокуратурой Армии обороны Израиля новые вызовы в области международного гуманитарного права, в частности в вопросах применения антитеррористических мер, ведения боевых действий в густонаселённых районах Сектора Газа и Западного берега реки Иордан и пр.
В сентябре 2004 года Финкельштейн окончил службу на посту Главного военного прокурора и вышел в запас. Был кандидатом на должность Генерального прокурора Израиля.
В 2005 году назначен судьёй в Окружной суд Хайфского округа. В 2008 году, с открытием Окружного суда Центрального округа, переведён на должность судьи в этот суд.
Широкий резонанс получило решение Финкельштейна приговорить полицейского, найденного виновным в непредумышленном убийстве преступника при превышении пределов необходимой самообороны, к 15 месяцам тюремного заключения.
В 1989 году получил степень доктора юриспруденции в Университете имени Бар-Илана. Преподавал право в высших учебных заведениях Израиля. В 1994 году была издана книга Финкельштейна «Гиюр — галаха и практика».
Женат, отец четырёх детей.