Агриппа вел жизнь, полную приключений, скитаясь в поисках обеспеченного положения и щедрого покровителя по разным городам Италии, Франции, Германии, Фландрии и Англии, будучи попеременно военным, профессором, юристом, практикующим врачом (без соответствующего диплома), историографом и т. д.
Вначале обратил на себя внимание богословскими лекциями в Доле во Франш-Конте, но своими едкими сатирами восстановил монахов против себя и, обвинённый в ереси, принужден был покинуть этот город, чтобы переселиться в Англию. После того, занявшись некоторое время преподаванием богословия в Кёльне, предпринял путешествие в Италию, где, поступив в военную службу, получил в чине капитана звание рыцаря.
Врагов он приобретал так же быстро, как и друзей, в результате чего за ним закрепилась слава чернокнижника.
За своё знаменитое сочинение «О тщете наук» («De incertitudine et vanitate scientiarum») (Кёльн, 1527), представлявшее злую сатиру на тогдашнее состояние науки, подвергся обвинению перед Карлом V и бежал в Лион, но там был арестован и заключён в тюрьму. Получив свободу благодаря ходатайству друзей, переселился в Гренобль и прожил там до конца дней. Также написал книгу «О тайной философии» («De Occulta Philosophia»).
Кроме двух упомянутых сочинений, оставил ряд мелких трактатов, более или менее парадоксальных, и обширную ценную переписку.
Воображение современников и ближайших потомков видело в нём «чернокнижника» и колдуна и разукрасило его жизнь измышлениями, подобными тому, что рассказывалось о докторе Фаусте. Так, утверждалось, что некоторые из написанных им книг по демонологии обладали собственным разумом и сознательно доводили до смерти своих владельцев, к которым попадали после смерти автора. Морли пересказывает также предание, согласно которому Агриппа, якобы продавший душу Сатане, держал у себя дома огромного чёрного пса-демона, который и унёс его душу в Преисподнюю.
Был близок к гуманистам (Рейхлину, Эразму Роттердамскому), обладал пытливостью и независимостью мысли и боролся против фанатизма и схоластических предрассудков. Однако, Агриппа держался особняком и не стал определенно на сторону гуманизма или Реформации. Благодаря резким выступлениям, нажил много врагов и подвергался неоднократным преследованиям как со стороны церковных, так и светских властей. С большой смелостью выступил против веры в колдовство и добился оправдания одной из т. н. «колдуний». Мировоззрение его во многом носит характерную для того времени мистическую окраску в духе Раймунда Луллия и Рейхлина; но вместе с тем он умеет критически отнестись к современной ему науке (см. одно из основных его сочинений «О тщете наук», исследующее общие основания научного познания). В другом сочинении — «О тайной философии», Агриппа подробно излагает систему магии; собственный его взгляд на этот предмет неясен; из некоторых мест переписки можно заключить, что сам он отрицал значение магии, веру в которую разделяли многие из наиболее просвещенных его современников.