Phil Hartman on yaşındayken ailesi ile birlikte Amerika Birleşik Devletleri'ne göç etti. California State Üniversitesi, Northridge'de grafik sanatlar bölümünden derece ile mezun olduktan sonra, Poco ile America gibi müzik gruplarının albüm kapaklarını tasarladı. 1975 yılında The Groundlings adındaki komedi grubuna katıldı ve burada komedyen Paul Reubens'e karakteri Pee-wee Herman'ı geliştirmede yardım etti. Hartman, "Pee-wee's Big Adventure" filminin senaryosunda yardımcı yazarlık yaptı ve Reubens'in Pee-wee's Playhouse şovunda tekrarlanan bir rolde görev aldı.