Родился в семье небогатого музыканта из местечка Радошковичи Минской губернии. Образование получил при поддержке графа Александра Ходкевича. Олешкевич был выпускником факультета изящных искусств Виленского университета, где он учился в 1798—1779 годах у Франциска Смуглевича и Яна Рустема (по другим сведениям, учился у Смуглевича с 1800 года). С 1803 по 1806 год совершенствовался в Дрездене и Париже. Был учеником Ж. О. Д. Энгра и Ж.-Л. Давида.
После возвращения из-за рубежа работал на Волыни и в Вильно. После смерти Смуглевича в 1807 году пытался занять его место в университете. После неудачной попытки в 1810 году поселился навсегда в Санкт-Петербурге, где писал, в частности, портреты царской семьи. В 1812 году был принят в императорскую Академию художеств (за полотно «Благодетельное призрение и попечение императрицы Марии Фёдоровны о бедных»).
Похоронен на Смоленском кладбище в Санкт-Петербурге.
Творчество Олешкевича — академическое, в духе позднего классицизма, с элементами сентиментализма. Автор портрета Льва Сапеги. Многие его картины (портреты Адама Ежи Чарторыйского, Иеронима Стройновского, 1810; Мартина Почобута, 1810) хранятся в Вильнюсе.
Часто выезжал в белорусские губернии, где сделал немало интересных портретов в стиле позднего классицизма и романтизма. Среди них: «Групповой портрет», «Портрет девочки». Дружил с Адамом Мицкевичем, написал его портрет (1828).