Nascido no Canadá, Martin Short formou-se em serviço social pela McMaster University em Hamilton, depois se mudou para Toronto, onde conseguiu um papel na produção de Godspell. Em 1977, ele se juntou à equipe Second City, uma trupe de comediantes, e com alguns de seus membros (incluindo John Candy, Eugene Levy e Dave Thomas) se apresentou na televisão como parte do programa SCTV.

Ele começou sua carreira com comerciais no Canadá, depois fez muitos filmes para a TV. Em 1984, ele se tornou um membro da equipe do Saturday Night Live e ganhou destaque em 1987 com seu papel como Jack Putter, um caixa de supermercado corajoso e sobrecarregado em The Adventure Within. Sua carreira no cinema, porém, não decolou. Nós o encontramos em 1991 em O Pai da Noiva, onde interpreta um planejador de casamentos com um sotaque quase incompreensível, papel que retomará quatro anos depois em O Pai da Noiva 2. Nos anos 90, aparece no elenco de grandes produções de Hollywood como Marte Ataca em 1996, An Indian in New York no ano seguinte e empresta sua voz a um personagem do filme de animação O Príncipe do Egito em 1998.

Durante os anos 2000, ele desempenhou o papel de Tim Allen em Meu Papai é Noel 3 e se juntou a Nick Nolte e Mary-Louise Parker no elenco de As Crônicas de Spiderwick. O ator continua emprestando sua voz a filmes de animação como Madagascar 3 e Frankenweenie. Ao mesmo tempo, Martin Short aparece em séries de televisão como Primetime Glick, Damages, Weeds (onde conhece a atriz Mary-Louise Parker) e Mulaney. Em 2014, o ator se juntou ao prestigioso elenco do novo filme de Paul Thomas Anderson: Vício Inerente.

Depois de um tempo em peças de teatro, Martin Short se juntou a Steve Martin e Selena Gomez como produtor executivo e parte do elenco da série Only Murders In The Building, da Hulu e HBO Max. Pela grande atuação, ele e seu parceiro de elenco, Steve Martin, foram nomeados para o Globo de Ouro de Melhor Ator em Série de Comédia/Musical.