Vers 991, Thibaud de Montlhéry, premier seigneur du lieu par sa charge de forestier, fortifia la butte d'une motte castrale, composée d'une tour de bois protégée par une enceinte. Les ruines de fondation laissent apparaître un polygone ovalisé de trente mètres sur vingt-cinq, avec une plate-forme de dix mètres de diamètre à sept mètres de hauteur.
Ce fut son fils, Gui Ier de Montlhéry, qui épousant Hodierne de Gometz, dame de Gometz et de La Ferté devint plus puissant. Il bâti le prieuré Saint-Pierre et l'église Notre-Dame, sa femme fit construire le monastère de Longpont. Leurs enfants accrurent ce pouvoir, Milon Ier de Montlhéry devint vicomte de Troyes et Gui Ier de Rochefort devint comte de Rochefort. Tous trois furent liés à Philippe Ier jusqu'à l'annulation du mariage de Lucienne de Rochefort, sa fille avec Louis VI, héritier du trône.
En 1096, Milon Ier et son fils Gui II, son frère Gui de Rochefort et son neveu Hugues de Crécy partirent pour la Première croisade. Gui Trousseau fui devant Antioche et fut déshonoré. Il fut contraint en 1104 d'abandonner son château au roi en échange du mariage de sa fille Élisabeth de Montlhéry avec l'héritier du trône Philippe de Mantes.
Mais en 1105, Milon II de Montlhéry revendiqua la seigneurie et attaqua le château par ruse. Il fut une première fois débouté par Gui Ier de Rochefort. Par sécurité et malgré la paix retrouvée, Louis VI fit détruire les fortifications à l'exception de la tour. Il en donna les restes à son frère Philippe de Mantes qui l'offrit à Hugues de Crécy. Contraint de l'abandonner par le roi, le château revint enfin à Milon II. En 1118, son cousin Hugues dépité l'enleva et l'assassina dans son château de Châteaufort. Puni, il définitivement dut rendre ses terres au pouvoir royal.
En 1144, Louis VII de France séjourna avec son ministre Suger au château. En 1227, Saint-Louis se réfugia au château devant les risques d'enlèvement à Étampes. En 1358, les Anglais assiégèrent le château mais ne le prirent pas. En 1360, ils y réussirent jusqu'à la nomination d'un nouveau prévôt par Charles VI. En 1409, les Armagnacs prirent le château, chassés en 1413 par Jean Sans Peur lui même battu en 1418 par le prévôt de Paris Tanneguy III du Chastel. En 1423, le château tomba entre les mains de Jean de Lancastre jusqu'en 1436 où elle revint à Charles VII.
Le 16 juillet 1465, le château servit de base arrière aux troupes de Louis XI au cours de la bataille de Montlhéry contre Charles le Téméraire. En 1529, François de Pérusse des Cars devint comte de Montlhéry. En 1562, Louis Ier de Bourbon-Condé prit le château qui devint le quartier-général des Calvinistes. En 1585, il revint à Henri III qui ordonna la réfection des fortifications. Le 5 avril 1590, Henri IV séjourna une dernière fois au château avant que le gouverneur de Paris ne décide en 1591 de son démantèlement à l'exception du donjon.
En 1764 et 1772, Philippe de Noailles, comte de Montlhéry établit un procès verbal stigmatisant l'état de délabrement du château. Les fossés furent alors comblés et devinrent des jardins entre 1767 et 1771.
En 1822, François Arago, accompagné de Louis Joseph Gay-Lussac et Urbain Le Verrier, entreprirent de calculer la vitesse du son en tirant un coup de canon du sommet de la tour par nuit noire, visible et entendu à l'observatoire de Villejuif. En 1823 fut installé une tour de Chappe au sommet, visible depuis Fontenay-aux-Roses et Torfou. Le 5 avril 1842, l'État prit possession de la tour qui fut classée monument historique. Henri Labrouste entreprit la réfection de la tour et aménagea la terrasse jusqu'en 1846, Garrez, ajouta les passerelles et la grille d'entrée, Selmersheim acheva les travaux en 1889. Le 5 juin 1874, Alfred Cornu mesura à son sommet la vitesse de la lumière depuis l'observatoire de Paris. Le 7 mai 1914, un inventeur nommé Defieber y testa un modèle de parachute. Le 20 juin 1934, la foudre tombée sur la tour l'endommagea.