John le Carré dit qu'il n'a pas connu sa mère, qui l'a abandonné quand il avait cinq ans, jusqu'à leur re-connaissance quand il eut 21 ans. Sa relation avec son père fut difficile. L'homme, qui avait été emprisonné pour fraude à l'assurance, était un associé des jumeaux Kray (faisant partie des criminels les plus en vue à Londres dans les années 1950-1960) et était continuellement endetté. Ce père l'envoya dans des écoles privées pour le sortir de ce milieu.
Le Carré a étudié à l'université de Berne en Suisse de 1948 à 1949 et à l'université d'Oxford au Royaume-Uni, puis enseigna quelque temps au collège d'Eton avant de rejoindre le Foreign Office pendant cinq ans. Il a été recruté par le MI6 alors qu'il était en poste à Hambourg, il écrivit son premier roman (L'Appel du mort) en 1961, étant toujours en service actif. Sa carrière au sein du service de renseignement britannique prit fin après que sa couverture fut compromise par un agent double, Kim Philby, œuvrant pour le KGB.
John le Carré est l'auteur de nombreux romans d'espionnage se déroulant dans le contexte de la Guerre froide, en particulier ceux mettant en scène George Smiley dans la « Trilogie de Karla » (La Taupe, Comme un collégien, Les Gens de Smiley) et dans d'autres romans. Son œuvre est à l'opposé de la mythologie de l'espion à la James Bond : ses héros sont bien plus complexes et beaucoup plus discrets. La structure de ses romans est très élaborée et l'action n'y tient qu'une place réduite. Le Carré a trouvé, après la fin de la Guerre froide, à élargir son inspiration vers des sujets plus contemporains.
En 2008, il reçoit le titre de docteur honoris causa de l'université de Berne.
Il vit actuellement en Cornouailles.