Il est le cinquième des six enfants de parents catholiques irlandais et s'intéresse au théâtre dès l'âge de 8 ans.
Il obtient son premier rôle au cinéma dans le film Outrages (1989) réalisé par Brian De Palma. D'abord engagé pour un rôle mineur, il impressionne tellement le réalisateur qu'il se voit attribuer un rôle plus important. Il se fait ainsi remarquer et obtient rapidement des rôles dans d'autres films.
Le réalisateur Paul Thomas Anderson lui offrira certains de ses meilleurs rôles : un parieur compulsif dans Sydney (1996), une star du porno dans Boogie Nights (1997), un flic affectueux dans Magnolia (1999). Son rôle d'un soldat envoyé au front dans La Ligne rouge (1998) lui vaut une reconnaissance accrue. Sa carrière théâtrale est également une réussite.
Il tourne également sous la direction des plus grands réalisateurs tels que Martin Scorsese (Gangs of New York, Aviator), Sam Raimi (Pour l'amour du jeu), Wolfgang Petersen (En pleine tempête), Robert Altman (The Last Show), Woody Allen (Ombres et brouillard), Tony Scott (Jours de tonnerre) et Roman Polanski (Carnage).
Mais il n'hésite pas à changer de registre, passant du registre dramatique à la comédie notamment sous la houlette du duo Will Ferrell et Adam McKay en jouant dans Ricky Bobby : Roi du circuit et Frangins malgré eux ou en passant dans le film d'animation en prêtant sa voix dans Numéro 9 et pour Ralph le personnage principal de Les mondes de Ralph.
En 2014, il fait partie du casting du blockbuster de Marvel Les Gardiens de la Galaxie.
En 1992, il épouse la productrice Alison Dickey, rencontrée sur le tournage dOutrages, de Brian De Palma, dans lequel il incarnait un rôle secondaire, alors qu'elle était l'assistante de Sean Penn, l'acteur principal.