Après des études de lettres à Auxerre, Jean Herman est reçu premier au concours de l’IDHEC. Après sa sortie de l'IDHEC, Jean Herman fait son service militaire de 1959 à 1961 au Service cinématographique des armées, au fort d'Ivry. Devenu lecteur de littérature française à l’université de Bombay, il devient assistant réalisateur de Roberto Rossellini pour les besoins du documentaire India, terre mère, réalisé pour la télévision italienne. De retour en France, il réalise cinq longs-métrages pour le cinéma, dont le film policier Adieu l’ami, interprété par Alain Delon et Charles Bronson ou Jeff ainsi que plusieurs téléfilms. Il s'éloigne de la réalisation au milieu des années 1970 pour se consacrer à l'écriture.
Ayant déjà acquis une certaine notoriété sous son vrai nom, il adopte le pseudonyme de Jean Vautrin lors de son entrée en littérature. À bulletins rouges, son premier roman, est publié en 1973 dans la collection « Série noire ». Il gagne en notoriété comme auteur de roman policier au cours des années 1970, avec des œuvres comme Billy-Ze-Kick ou Bloody Mary, tout en continuant par ailleurs à écrire sous son vrai nom des scénarios pour le cinéma.
En 1987, avec l'écrivain Dan Franck, il crée un personnage de reporter photographe au grand cœur surnommé Boro (dont le modèle est Robert Capa), dont les aventures, situées dans les années 1930, courent sur la série de romans intitulée Les Aventures de Boro, reporter photographe.
Il s'éloigne du polar et du roman d'aventures avec des œuvres comme Patchwork, qui obtient le prix des Deux Magots et La Vie Ripolin. Un grand pas vers le bon Dieu lui vaut en 1989, la consécration du prix Goncourt. En 1998, il reçoit le prix Louis-Guilloux pour l'ensemble de son œuvre.
Le 11 janvier 2014 a été inaugurée dans la commune de Saint-Symphorien en Gironde une médiathèque à laquelle a été donné le nom de Jean Vautrin.
Le 10 octobre 2015, lors du salon « Lire en poche » à Gradignan (Gironde), la médiathèque de la commune a reçu le nom de Jean Vautrin en présence de son épouse et de membres de sa famille, du maire de la ville et de nombreuses personnalités régionales. Inauguration de la médiathèque de Gradignan le 10 octobre 2015