Сильвиус Леопольд Вайс родился предположительно в Гротткау, в Силезии, как показывают новые архивные исследования. Долгое время считалось, что он родился в Бреслау. Его отец, Иоганн Якоб Вайс, был музыкантом и играл на лютне и теорбе. Сильвиус Вайс, так же как и его младшие брат и сестра, Иоганн Сигизмунд и Юлиана Маргарета, получил начальное музыкальное образование у своего отца.
По окончании обучения Вайс бывл принят в Бреслау на работу лютнистом при дворе Карла Филиппа Пфальц-Нойбургского. В 1706 году через Кассель он прибыл в Дюссельдорф, к брату своего работодателя Иоганну-Вильгельму. Проведя там месяц, он вернулся в Бреслау, однако с 1709 года его отец и брат были приняты в капеллу курфюрста в Дюссельдорфе, предположительно благодаря рекомендации Сильвиуса Леопольда.