Il quitte le foyer familial à 16 ans, s'engage dans les Marines pour 3 ans. Après avoir travaillé dans des emplois mineurs, il entre à l'Université de l'Illinois pour étudier le journalisme.
Ce n'est qu'à l'amorce de la trentaine que Gene Hackman décide de devenir acteur. Il intègre le Pasadena Playhouse, une prestigieuse école californienne qui a formé de nombreux grands acteurs hollywoodiens mais qui, selon la légende, l'aurait défini comme {{Citation}}. La suite prouvera largement le contraire...
De retour à New York en 1964, Gene Hackman joue à Broadway dans la pièce Any Wednesday. Une performance qui lui ouvre des portes puisque la même année, il apparait au cinéma dans Lilith, aux côtés de Warren Beatty.
On le voit également dans l'épisode 24 de la fameuse série "Les Envahisseurs", aux côtés de Roy Thinnes qui joue David Vincent.
Trois ans plus tard, il obtient son premier grand rôle dans le Bonnie and Clyde d'Arthur Penn, sur les conseils de Warren Beatty, producteur du film.
En 1971, nouveau tournant dans la carrière de Gene Hackman avec son rôle du détective Doyle dans le French Connection de William Friedkin. Une prestation qui lui vaut de remporter l'Oscar du meilleur acteur un an plus tard. Dès lors, son parcours est jalonné de nombreuses œuvres fortes...
En 1972, il est à l'affiche de L'Aventure du Poséidon de Ronald Neame puis tient la vedette de L'Épouvantail de Jerry Schatzberg, et Conversation secrète de Francis Ford Coppola. En 1974, alors qu'il enchaine les rôles principaux, il accepte un petit rôle dans la comédie culte Frankenstein Junior de Mel Brooks.
En 1975, Gene Hackman reprend son rôle du détective Doyle dans French Connection 2, cette fois-ci réalisé par John Frankenheimer. La même année, il joue sous la direction de son complice Arthur Penn dans La Fugue avant de s'illustrer dans La Théorie des dominos de Stanley Kramer (1978). Gene Hackman est toujours aussi actif et se retrouve au générique de Superman, réalisé par Richard Donner. Après avoir repris son rôle deux ans plus tard dans Superman 2 et avoir joué dans Under Fire, il retrouve une nouvelle fois Arthur Penn en 1985 pour le film Target puis hérite d'un impressionnant rôle dans Mississippi Burning d'Alan Parker, qui lui vaut une nouvelle nomination pour l'Oscar du Meilleur acteur.
A l'orée des années 1990, la carrière de Gene Hackman ne prend pas une ride et l'acteur continue inlassablement à s'illustrer dans des productions de qualité. Il est à l'affiche de deux films réalisés par Clint Eastwood : Impitoyable (qui lui rapporte un deuxième Oscar) et Les Pleins Pouvoirs. On le voit également au sommet des génériques de La Firme, USS Alabama et Get Shorty.
En 1998, il reprend dans Ennemi d'État un rôle quasi-similaire à celui qu'il tenait dans Conversation secrète. En 2000, il est à l'affiche de Suspicion, un remake du Garde à vue de Claude Miller.
Et en 2001, Gene Hackman tourne dans quatre films : Beautés empoisonnées, Braquages, La Famille Tenenbaum et En territoire ennemi.
En 2004, il met fin à sa carrière. En 2012, il est cependant annoncé qu'il prêtera sa voix au narrateur du film Le Loup de Wall Street de Martin Scorsese mais il a finalement refusé.
Gene Hackman est également l'auteur de cinq romans, dont trois coécrits avec l'archéologue sous-marin Daniel Lenihan. Leur premier livre Wake of the Perdido Star publié en 1999 a été traduit en français sous le titre L'étoile perdue.
Il est l'oncle de l'acteur australien Guy Pearce.