Né d'une mère suédoise et d'un père anglais, il passe son enfance dans sa ville natale de Londres. Il fait des études supérieures au St John's College de l'Université de Cambridge, où il obtient son diplôme en littérature en 2001. Il séjourne ensuite un an en Italie dans un atelier d'écriture.
Publié en 2008, son premier roman policier historique, intitulé Enfant 44 (Child 44), est inspiré de l'histoire du tueur Andreï Tchikatilo ayant sévi entre 1978 et 1990 à Rostov-sur-le-Don. Le roman qui se déroule sous la période stalinienne, dans les années 1950, en URSS, devient un thriller à propos d'un tueur en série d'enfants que tente de capturer Leo Demidow, un officiel de la police d'État et ancien agent du KGB chargé du contrespionnage. Ce best-seller international, traduit en 36 langues, se retrouve sur la liste préliminaire du Man Booker Prize et remporte le Ian Fleming Steel Dagger de la Crime Writers' Association. Il est en outre adapté au cinéma en 2014 sous le titre Child 44 par le réalisateur Daniel Espinosa.
En 2009, Tom Rob Smith fait paraître Kolyma (The Secret Speech), la suite de Enfant 44, dont l'histoire, plus proche d'un roman d'espionnage classique, se déroule notamment dans la région de Kolyma à la fin des années 1950, peu après la mort de Staline. En 2011 paraît Agent 6, le troisième et dernier roman de la trilogie avec Leo Demidov.
La Ferme (The Farm, 2014), inspiré par un souvenir d'enfance de l'auteur, est un suspense psychologique qui se déroule en Suède.
Tom Rob Smith a également signé des scénarios pour la télévision britannique.