Vincent Elbaz s'initie à la comédie en s'inscrivant au cours Florent et pratique le théâtre pendant deux ans. Il se produit ainsi dans plusieurs pièces : L'Ouest, le vrai de Sam Shepard, La Plaisante Aventure (1992) de Carlo Goldoni, Le Bouc (1993) de Rainer Werner Fassbinder.
Il décroche son premier rôle sur grand écran en rejoignant les jeunes espoirs du cinéma français tels que Romain Duris, et Élodie Bouchez dans Le Péril jeune de Cédric Klapisch. Il jouera à nouveau sous la direction de ce dernier dans Peut-être en 1999 et Ni pour, ni contre (bien au contraire) en 2002.
Vincent Elbaz obtient une réelle notoriété en interprétant deux comédies populaires : Les Randonneurs de Philippe Harel et La Vérité si je mens ! de Thomas Gilou.
On le voit aussi en 1998 dans Petits désordres amoureux d'Olivier Peray, en 1999 dans Un pur moment de rock'n'roll de Manuel Boursinhac, en 2002 dans Rue des plaisirs de Patrice Leconte et Embrassez qui vous voudrez de Michel Blanc.
Auréolé en 1998 du prix Jean-Gabin, il s'illustre dans des comédies fantasques tels que Quasimodo d'El Paris en 1999 et Absolument fabuleux en 2001. Il prête ses traits au mousquetaire D'Artagnan dans D'Artagnan et les Trois Mousquetaires, un téléfilm adapté du célèbre roman d'Alexandre Dumas.
En 2005, dans le cadre d'un projet de film sur la vie de l'ennemi public numéro un Jacques Mesrine, réalisé par Barbet Schroeder, Vincent Elbaz fit part de sa volonté d'endosser le rôle du gangster . Il passera des essais filmés qui se révéleront concluants, faisant usage de cortisone pour se rapprocher du physique de son personnage, avant que le projet ne soit abandonné, puis finalement repris par Jean-François Richet, avec Vincent Cassel dans le rôle titre Le producteur du film, Thomas Langmann, déclarera avoir été convaincu par Vincent Elbaz, qui fut son second choix avec Vincent Cassel pour interpréter Mesrine. Le comédien sera très affecté d'avoir cédé sa place à celui qui obtiendra pour ce rôle le césar du meilleur acteur. http://www.metronews.fr/x/metro/2008/11/18/kbt2yA10n9VC6/index.xml*
La même année, il partage avec Marion Cotillard l'affiche de la comédie romantique Ma vie en l'air de Rémi Bezançon. Jouant un chanteur de rock « has been » qui essaie d'occuper sa fonction de père auprès de sa fille dans Tel père telle fille en 2007, on le retrouve la même année dans Le Dernier Gang d'Ariel Zeitoun.
John Malkovich le dirigera à deux reprises : en 2002 dans Hysteria au théâtre Marigny et en 2007 dans la pièce Good Canary.
En 2009, Vincent Elbaz s'illustre dans Tellement proches d'Éric Toledano et Olivier Nakache, une satire grinçante sur les relations familiales où il campe Alain, un père de famille complètement irresponsable, marié à Isabelle Carré.
Il joue aussi les bandits sans envergure pris dans une histoire d'amour-haine, dans le premier long-métrage d'Emma Luchini, Sweet Valentine en 2009, aux côtés de Louise Bourgoin. Il suit ensuite un intensif entraînement physique pour pouvoir incarner, en 2011, un membre du GIGN dans le film L'Assaut de Julien Leclercq.
En 2012, il est à l'affiche de La Vérité si je mens ! 3 de Thomas Gilou.
Il est également en diffusion sur TF1 dans la nouvelle série de Luc Besson No Limit où il joue le rôle de Vincent Libérati, agent secret qui revient sur Marseille pour se rapprocher de sa fille.
Son nouveau long-métrage intitulé « Quarna » est dévoilé en {{date}}. Réalisé par Frédéric Schoendoerffer et produit par Olivia Sabah, le film dont le titre provisoire signifie « arnaque » en verlan est présenté « dans la tradition des films d'arnaque sur fond de comédie ». Le tournage est prévu pour l'automne 2013 à Paris et à Cannes.
En 2015, une saison 4 de la série No Limit où il incarnait Vincent Liberati était prévue mais faute d'accord entre les acteurs et producteurs la saison a été annulée.