Filho do ator James Brolin e enteado de Barbra Streisand, John Brolin familiariza-se com as artes dramáticas desde pequeno. Na escola, ele atua em peças de teatro amadoras, como a adaptação de Um Bonde Chamado Desejo. Sua carreira começa com pequenas aparições em programas de televisão e telefilmes, mas seu primeiro filme de destaque é Os Goonies (1985).

Mesmo assim, durante os vinte próximos anos, o ator consegue apenas papéis inexpressivos em pequenas séries de televisão e filmes de baixo orçamento. Na televisão, Brolin participa de episódios de Anjos da Lei (1987), The Young Riders (1989-1992) e Winnetka Road (1994). Ele atua em vários filmes para o cinema, mas são quase todos grandes fracassos de bilheteria, como Assassinos da Estrada (1994), filme de ação com Christopher Lambert, O Principal Suspeito (1997), com Ewan McGregor, Mod Squad - O Filme (1999) e O Homem Sem Sombra (2000).

Uma primeira oportunidade de trabalhar com um diretor renomado ocorre em Melinda e Melinda (2004), dirigido por Woody Allen. A este pequeno papel soma-se a participação em Planeta Terror, episódio da série Grindhouse, concebida por Robert Rodriguez e Quentin Tarantino. Com estes dois filmes de repercussão internacional, Brolin é escalado para o papel que o lança de vez para o estrelato: o xerife Llewelyn Moss em Onde os Fracos Não Têm Vez (2007). O filme é recompensado com 4 Oscars, incluindo melhor filme e diretor.

Depois, Brolin é cada vez mais solicitado em Hollywood. Ele encarna ninguém menos que o presidente George W. Bush em W. (2008), de Oliver Stone, e o político conservador Dan White em Milk – A Voz da Igualdade (2008). Com esta atuação, ele foi indicado ao Oscar de melhor ator coadjuvante. Após dois fracassos de bilheteria e público (Women in Trouble em 2009, Jonah Hex – O Caçador de Recompensas em 2010), o ator investe em filmes mais seguros, como Wall Street - O Dinheiro Nunca Dorme (2010) e Você Vai Conhecer o Homem dos Seus Sonhos (2010), no qual renova a parceria com Woody Allen.

Em clara ascensão, ele é convidado pelos irmãos Coen a atuar em Bravura Indômita (2010), faroeste com Matt Damon e Jeff Bridges, muito bem recebido pela crítica e pelo público. O ator prioriza então as produções voltadas para o grande público, como Homens de Preto III, com Will Smith e Tommy Lee Jones, e The Gangster Squad, filme policial no qual Brolin divide a cena com Sean Penn e Ryan Gosling.