Окончил Штутгартскую консерваторию сразу по трём специальностям — флейте (класс Карла Крюгера), фортепиано и композиции. Играл на классической флейте немецкого типа. В 1896—1916 солист оркестра оперы Мариинского театра. С 1920 солист Воронежского симфонического оркестра и преподаватель местного музучилища, где этот выдающийся музыкант был вынужден преподавать не только флейту, но и баян. Дружил с Осипом Мандельштамом. В 1937 Шваб был арестован по ложному обвинению в шпионаже и отправлен на пять лет в уголовный лагерь под Воронежем, где и скончался.