Liverpool'da akademik özel bir okul olan "Liverpool College"'da eğitim gördü. Çocukluğunda geçirdiği kızamık hastalığından dolayı sağ gözünün görme yetisini büyük ölçüde yitirdi.

18 yaşında iken 1924'te Liverpool'da repertuvar tiyatro kariyerine girdi ve "Reginald Carey" ilk isimlerinin değiştirerek "Rex (Kral)" adını kullanmaya başladı.

2. Dünya Savaşı'ndan sonra Rex Harrison, tiyatro aktörlüğü kariyerine Londra'da başladı ve New York'ta devam etti.

Rex Harrison'un aktörlük yaptığı ilk film 1930'da futbol temasını işleyen "Büyük Oyun" (The Great Game) adlı bir İngiliz filmi olmuştur. Oyunculuk yaptığı diğer önemli filmler arasında 1938'de A.J. Cronin romanından uyarlanan "Kale (The Citadel)" adlı İngiliz filmi; 1940'ta gerilim türünde "Münihe Gece Treni (Night Train to Münich)"; 1941'de George Bernard Shaw oyunundan uyarlanan "Binbaşı Barbara"; 1945'te Noel Coward oyunundan uyarlanan fantezi-komedi türünde "Eğlenen Ruh" (Blithe Spirit); 1946'da Amerikan yapımı 19. yy.da bir Siam Kralı çocuklarına murrebiye olan İngiliz hanımın biyografisi olan dram türünde "Anna ve Siam Kralı", 1947'de Amerikan yapımı romantik-fantezi türünde "Hortlak ve Mrs. Muir" ve 1947'de Amerikan yapımı macera filmi türünde "Harrow'un Tilkileri"; 1960'ta American yapımı gerilim türünde "Geceyarısı Danteli (Midnight Lace)"; 1963'te ABD-İngiltere ortak yapımı tarihî epik film "Kleopatra" ve 1965 ABD yapımı dramatik tarihsel türde "Acı ve İlham" filmleri sayılabilir.

1964'te Birleşik Krallık yapımı, yönetmenliğini George Cukor'un yaptığı George Bernard Shaw'un "Pygmalion" isimli oyundan sinemaya uyarlanan Broadway'de müzikal oyun olarak büyük sükse yapan "Benim Güzel Meleğim" (My Fair Lady) filmiyle üne kavuşmuştur. Bu filmdeki Profesör Henry Higgins rolüyle "En İyi Erkek Oyuncu Oscar ödülü", "Tony ödülü" ve "Altın Küre ödülü" kazanmıştır.

1967'de "Doktor Doolittle" adlı bir Amerikan yapımı filmde başrolü çeşitli hayvanlarla birlikte oynadı. Bu filmin çekimleri sırasında Rex Harrison ile filmin yönetmeni ve yapımcısı arasında çok sert çatışmalar yaşanmıştır.

1968'de Amerikan yapımı 17.yy İngiliz oyun yazarı Ben Jonson'un "Volpone" adlı bir komedisinden adapte edilmiş komedi türündeki "Bal Kutusu" (Honey Pot) adlı bir filmde de başrolde yer aldı. Bu filmde yardımcı rolleri oynayan Maggie Smith ve Cliff Robertson ile iyi arkadaşlık geliştirmiştir. Ölümünden sonra New York'ta yapılan kilise anma töreninde bu iki aktör ona mersiye olan konuşmalar yapmışlardır.