Tao montra des capacités mathématiques extraordinaires depuis son plus jeune âge, assistant par exemple à des cours de niveau universitaire dès neuf ans. Il est l'un des deux seuls enfants dans l'histoire du programme d'étude de talents exceptionnels (en) de Johns Hopkins a avoir obtenu un score de 700 ou plus (760 dans son cas) dans la section mathématique du SAT alors qu'il avait tout juste 8 ans. En 1986, 1987, et 1988, Tao fut le plus jeune participant à ce jour aux Olympiades internationales de mathématiques, (il était âgé de dix ans à sa première participation), concourant pour l'Australie et gagnant respectivement des médailles de bronze, argent, et or ; il gagna une médaille d'or alors qu'il avait tout juste 13 ans, performance qui n'a jamais été égalée par la suite. Il reçu son Master (à 17 ans) de l'université Flinders en Australie (études menées sous la direction de Garth Gaudry), et remporta une bourse Fulbright pour poursuivre des études de 3ème cycle aux États-Unis ; ce qu'il fit entre 1992 et 1996 à l'université de Princeton sous la direction de Elias Stein, recevant son Ph.D. à 20 ans. En 1996, à 24 ans, il fut promu professeur à l'UCLA, et reste le plus jeune enseignant jamais promu à ce rang par cette institution.
En 2004, Ben Green et Tao démontrèrent qu'il existe des progressions arithmétiques de nombres premiers arbitrairement longues.