Né Zacharius Knight Galifianakis, il grandit auprès de son père, Harry Galifianakis, d'origine grecque et de sa mère Mary Frances. Il fut élevé dans la religion orthodoxe bien qu'il indique ne pas être intéressé par la religion. Il a étudié à l'université d'État de Caroline du Nord, même s'il n'en a pas été diplômé. Il a épousé Quinn Lundberg le 11 août 2012, dans une ferme de Vancouver.
Il fait ses débuts à la télévision en 1996 dans la sitcom Boston Common. En 2001, il partage l'affiche avec Jason London dans Snow, Sex and Sun. Il décroche des petits rôles dans les films Corky Romano, Abîmes et Into the Wild. En 2006, il joue dans le clip vidéo de Fiona Apple {{lien}}. En 2008 il s'illustre dans la comédie américaine Jackpot. En 2009, il rencontre un immense succès grâce à Very Bad Trip de Todd Phillips puis en 2011 avec Very Bad Trip 2, et enfin en 2013 avec Very Bad Trip 3.
Il est aussi aux côtés de Bonnie Prince Billy, dans le remake de la chanson Can't Tell Me Nothing de Kanye West. La chanson est d'ailleurs sur la trame sonore de Very Bad Trip.