Filho de uma cozinheira e um funcionário de um mercado de peixes, Michael Caine deixou os estudos aos 15 anos para trabalhar e ajudar a família. Entre os anos de 1952 e 1954, Caine serviu ao Exército Britânico, chegando a ser mandado para a Guerra da Coreia (1950 - 1953). Após seu retorno à Inglaterra, começou a trabalhar com teatro, conseguindo um emprego como assistente de gerente de palco e fazendo participações em pequenas peças. Nascido Maurice Joseph Micklewhite, ele inicialmente usou o nome artístico de "Michal Scott", logo depois mudou para "Michael Caine", seguindo conselho de seu agente que havia visto o letreiro do filme A Nave da Revolta (cujo título original é "The Caine Mutiny").

Curiosamente, sua estreia nos cinemas foi interpretando um soldado britânico à serviço na Guerra da Coreia no filme A Hill in Korea (1956). Caine participou de produções menores e fez dezenas de trabalhos na TV até que despontou para o público no papel do Tenente Gonville Bromhead no filme Zulu (1964), épico ambientado no século 19 que mostrava a batalha dos soldados britânicos e guerreiros da tribo Zulu. No ano seguinte Caine interpretou o único personagem da dramaturgia clássica de toda sua carreira: Horácio, na série de TV Hamlet at Elsinore produzida pela BBC como adaptação da peça homônima de William Shakespeare. A produção também contava com Christopher Plummer no papel de Hamlet. Ainda na década de 1960, Caine interpretou dois outros grandes papeis que marcariam para sempre sua carreira: o espião Harry Palmer em Ipcress: Arquivo Confidencial (1965) e o mulherengo Alfie em Como Conquistar as Mulheres (1966), que lhe rendeu sua primeira indicação ao Oscar de Melhor Ator. Caine ainda voltaria viver o agente secreto Palmer em mais quatro filmes: Funeral em Berlim (1966), O Cérebro de um Bilhão de Dólares (1967), Expresso Para Pequim (1995) e Meia-Noite em Moscou (1995). Após um convite de Shirley MacLaine, Caine fez seu primeiro filme nos Estados Unidos, na comédia policial Como Possuir Lissu (1966).

Logo no início da década de 1970, Caine se destacou em produções como Assim Nascem os Heróis (1970), O Último Refúgio (1971), Carter - O Vingador (1971) e principalmente o suspense Jogo Mortal (1972), que garantiu ao ator sua segunda nomeação no Oscar. Ao lado de Sean Connery, Caine estrelou o filme de ação e aventura O Homem Que Queria Ser Rei (1975), dirigido por John Huston. O filme conta a história de dois soldados britânicos que estão na Índia e decidem desertar e embarcar numa jornada no Kafiristão, onde ganham status de deuses. Caine posteriormente afirmou que depois que morrer, gostaria de ser lembrado por seu trabalho nesse filme. Em 1977, participou de Uma Ponte Longe Demais, filme ambientado na Segunda Guerra Mundial que conta com um elenco estrelado, incluindo nomes como: Gene Hackman, Anthony Hopkins, James Caan, Robert Redford e Liv Ullmann.

Na década de 1980, Caine chegou a fazer, em média, dois filmes por ano, entretanto, muitas dessas produções foram muito mal recebidas pela crítica, como a comédia romântica Feitiço do Rio (1984), a aventura Water (1985) e o fracassado Tubarão - A Vingança (1987). Porém, a carreira do ator não teve apenas pontos baixos nesta década, muito pelo contrário. Foi nos anos 80 que Michael Caine recebeu sua terceira indicação ao Oscar de Melhor Ator por seu trabalho em O Despertar de Rita (1983) e finalmente levou o prêmio para casa por seu trabalho em Hannah e Suas Irmãs (1986), dirigido por Woody Allen. Curiosamente, Caine não pôde comparecer à cerimônia e receber o honraria, pois estava gravando Tubarão - A Vingança (1987). Em 1988, Caine interpretou o icônico detetive Sherlock Holmes em Sherlock & Eu, onde dividiu a cena com Ben Kingsley, intérprete do Dr. John Watson.

A carreira de Caine caiu um pouco nos anos 90, mas ele foi recuperando o prestígio no final da década com produções como a comédia dramática Laura, A Voz de Uma Estrela (1998) e o drama Regras da Vida (1999), onde interpreta um médico que chefia um orfanato (e uma clínica de aborto ilegal). A atuação nesse filme rendeu sua segunda estatueta do Oscar.

Nos últimos 15 anos, Caine participou de filmes como O Americano Tranquilo (2002), Austin Powers em O Homem do Membro de Ouro (2002) e Filhos da Esperança (2006). O ator também iniciou uma próspera parceria com o diretor Christopher Nolan, interpretando o mordomo Alfred na trilogia The Dark Knight (Batman Begins, Batman - O Cavaleiro das Trevas e Batman: O Cavaleiro das Trevas Ressurge), além de papéis em O Grande Truque (2006) e A Origem (2010). Os filmes de Nolan ajudaram a projetar o consagrado ator a uma nova geração do público, principalmente os adolescentes.