Andreï Makine est né à Krasnoïarsk en Sibérie le 10 septembre 1957. Dès l’âge de quatre ans, il devient bilingue grâce à la présence de sa grand-mère française (il la dépeindra sous le nom de Charlotte dans son roman Le Testament français). La famille s'installe à Penza, puis à Novgorod.
Bien qu’ayant eu une scolarité erratique, il se révèle un brillant élève en philosophie et en français, deux matières qu'il étudie depuis l’école primaire.
Il étudie à l'université de Kalinine, il rédige une thèse de doctorat sur la littérature française contemporaine à l’université de Moscou, enseigne la philologie à l'Institut pédagogique de Novgorod.
En 1987, il demande l’asile politique en France, où il mène d'abord une vie très précaire. À trente ans, il s'installe à Paris. Il est d'abord assistant de russe au lycée Jacques-Decour et dépose une thèse de doctorat sur Ivan Bounine (1870-1953) à la Sorbonne. Son premier roman, La Fille d’un héros de l’Union soviétique, paru en 1990, est le point de départ d'une grande carrière littéraire avec le français comme langue d'écriture. Il obtient en 1995 les prix Goncourt, Goncourt des lycéens et Médicis pour son roman Le Testament français. Son français est extrêmement classique, son style poétique. Pour Makine, la France est une langue, mais aussi une culture. D’autre part, il affirme que le style est avant tout une vision d’un passé, celui de la France qu’il représente par un travail minutieux de la langue.
Le Testament français est un roman autobiographique, le narrateur et l’auteur ayant vécu les mêmes expériences : le sentiment d’inadaptation, la double culture, le drame et le malheur. Avec ce roman, Makine paie une dette envers sa grand-mère, la France et tous les écrivains qui ont fait de lui un Français.
L’Union soviétique est représentée comme un territoire de souffrance avec ses déportations, ses morts. La France est à la fois un objet de fascination et de rejet. Son héritage est une charge accablante.
Andreï Makine vit actuellement à Paris. L’obtention du Goncourt lui vaut, entre autres, d'obtenir la nationalité française en 1996, ce qui lui avait été préalablement refusé.
Le 19 novembre 2008, Andreï Makine assiste à la première « mise en voix » intégrale de sa pièce Le Monde selon Gabriel au théâtre CREA à Amsterdam. Il participe à cette « mise en voix » de Murielle Lucie Clément en prêtant sa voix pour la lecture du prologue. L'œuvre est créée le 15 mai 2009 dans une mise en scène de Murielle Lucie Clément.
En 2011, il révèle qu'il a publié des romans sous le nom de Gabriel Osmonde.