Рудольф Гнеги изучал юриспруденцию в университете Берна и в 1943 году получил лицензию адвоката. Затем до 1945 года работал юристом. В 1945 году вступил в Партию крестьян, ремесленников и бюргеров, (в 1971 году переименована в Народную партию). В 1952 году избран в правительство кантона Берн и занимался в нём вопросами экономики, а в 1954-1955 годах возглавлял правительство. С 1953 по 1965 год также был членом Национального совета (нижняя палата парламента) Швейцарии. В декабре 1965 года Гнеги избран в Федеральный совет (правительство Швейцарии).