Avant de s'intéresser au roman noir et policier, James Sallis commence par écrire de la poésie et voyage à travers les États-Unis. Il est tour à tour poète, éditeur d'un magazine de science-fiction, guitariste, kiné, critique littéraire, professeur de création littéraire. Il traduit en anglais plusieurs auteurs comme Blaise Cendrars, Pablo Neruda, Jacques Dupin ou Raymond Queneau. Grand amateur de Chester Himes, il rédige en 2001 sa biographie posthume (Chester Himes : une vie).
James Sallis débute dans le roman noir avec la série de six romans consacrés à Lew Griffin. Ancien détective privé et agent de recouvrement, il a sombré depuis dans l'alcoolisme et la misère. Il évolue à La Nouvelle-Orléans et tente de s'en sortir en souhaitant devenir romancier. James Sallis s'est inspiré de Chester Himes pour créer ce personnage à la dérive dont la vie est une tragédie. Lew Griffin apparaît dans six romans.
Il est également le créateur de la série consacré à John Turner, un ancien de la guerre du Viêt Nam, ex-flic et ex-détenu, qui s'est retiré dans le Tennessee. Dans Bois mort (Cypress Grove), il doit, à la demande du shérif local, participer à l'enquête sur un meurtre et reprendre contact avec le monde qu'il cherche à fuir. John Turner est également à l'honneur dans Cripple Creek et Salt River.
Pour le roman Drive, il met en scène le Chauffeur, un homme sans nom à la manière des personnages des romans de Robin Cook ou Hugues Pagan. Cascadeur le jour, il devient chauffeur le soir pour le crime. À la suite d'un braquage raté, il perd l'un de ses amis et doit affronter ses anciens employeurs. Nicolas Winding Refn l'adapte en 2011 et réalise le film Drive avec Ryan Gosling dans le rôle titre. James Sallis publie en 2012 Driven, la suite de Drive. Le chauffeur s'est retiré à Phoenix. Victime d'une agression, il perd sa femme et découvre qu'il est victime d'une vengeance.
En 2013, il obtient le grand prix de littérature policière avec Le tueur se meurt (The Killer Is Dying).