Bagge es originario del estado de Nueva York, exactamente del suburbio de Peeksville, donde nació el 11 de diciembre de 1957. Al parecer desde bien joven, siendo alumno de la School of Visual Arts, tuvo claro que lo que le gustaba era dibujar historietas, entre otras cosas por la libertad que le otorgaba el típico formato del comic-book. Muy influido por las corrientes underground de los sesenta (Gilbert Shelton, Aline Kominski, Bill Griffith o, sobre todo, Robert Crumb) y por la escena punk neoyorkina, debutó pronto en Comical Funnies, coeditada entre él y John Holstrom. Más adelante, hacia 1983, entra a trabajar en la redacción de la revista Weirdo, fundada por su maestro, Robert Crumb, lo cual le ayudó a conseguir la necesaria experiencia para realizar su propio cómic.