Le château d'Ochsenstein a probablement été construit à la fin du XIIe siècle. Il s'inscrit dans un ensemble de château Vosgiens proches de Saverne défendant le passage de la plaine d'Alsace à la Lorraine. La seigneurie d'Ochsenstein a été taillée dans les terres de l'abbaye de Marmoutier par l'évêché de Metz.
La première mention d'un seigneur d'Ochsenstein date de 1187 : Bourcard d'Ochsenstein signe une charte de Frédéric Barberousse confirmant à l'abbaye de Koenigsbrück ses possessions. Le château devait alors déjà exister puisque l'usage de l'époque qui voulait qu'une lignée prenne pour patronyme le nom de son château.
Otton Ier, malade, partage ses domaines en 1217 entre ses fils. Deux d'entre eux sont entrés dans le clergé ; les trois autres héritent de châteaux. Otton II, le fils ainé, reçoit ainsi le château d'Ochsenstein dit der Fels ("le rocher"), l'hommage des chevaliers qui le garde (les Burgmänner) ainsi que la montagne sur laquelle il est bâti et les fermes proches. Le second fils, Erberhard obtient lui le château de Wachelheim : ce château était probablement celui qui était construit sur le troisième éperon rocheux. Enfin, Conrad, le troisième fils, reçoit le château de Greifenstein mais doit en reconnaître l'usufruit aux nobles qui l'occupent. Otton Ier guérira de sa maladie et ne mourra qu'en 1241, date à laquelle ses enfants hériteront suivant la distribution de 1217.
Otton III, fils d'Otton II, épouse Cunégonde de Habsbourg en 1273, sœur de Rodolphe de Habsbourg, couronné empereur du Saint-Empire romain germanique en 1273. La maison d'Ochsenstein gagne donc une grande influence et le château devient le centre d'une grande seigneurie comprenant notamment Marlenheim et Barr (1321).
Otton IV, fils d'Otton III, restera fidèle à Rodolphe de Habsbourg, l'accompagnant dans ses campagnes militaires. Rodolphe le nommera en récompense landvogt d'Alsace et de Brisgau (l'équivalent d'un bailli provincial). Le zèle d'Otton IV et son influence croissante lui créent de nombreux ennemis, notamment l'évêque Conrad de Lichtenberg ou Guillaume III de Hohenstein.
En 1284, Guillaume de Hohenstein s'empare du château d'Eckerich qui relevait du duc Frédéric de Lorraine. Otton IV s'engage alors à restituer le château au duc. En son absence, Guillaume de Hohenstein et l'évêque de Strasbourg attaquent le château d'Ochsenstein. Les Burgmänner qui le défendent sont chassés et le château détruit (probablement brûlé). Il s'agit probablement du Petit Ochsenstein qui fut détruit puis rapidement reconstruit par Otton IV.
Les seigneurs d'Ochsenstein ne résident plus toujours dans leur châteaux : Otton IV résidait la plupart du temps au palais de Haguenau, résidence du Landvogt. Otton V, nommé Landvogt d'Alsace et du Speyergau lorsque les Habsbourg reviennent au pouvoir, résidera lui à Landau.
Les Ochsenstein possèdent de plus une résidence à Strasbourg depuis 1259. Elle se situait dans la rue Brûlée actuelle, qui était alors nommée sur une partie Ochsensteinergasse, et occupait une partie de l'emplacement de la mairie actuelle. Dans les châteaux d'Ochsenstein ne vivaient plus que les Burgmänner qui en assuraient la garde. Le château servit aux Ochsenstein de garantie pour des avances monétaires (Otton VII engagera ainsi pour mille florins ses châteaux vers 1400).
Le déclin des Ochsenstein commence vers la fin du XIVe siècle. Rodolphe II mène de nombreux conflits qui amènent notamment la ville de Strasbourg à assiéger le château en 1382. Elle s'en empare, y place d'abord une petite garnison, puis rase le château jugeant l'entretien des effectifs trop coûteux. Trendel, comme Lehmann supposent qu'il s'agit du petit château.
Quoi qu'il en soit, le château est reconstruit, puisqu'en 1403, lorsque Frédéric d'Ochsenstein signe avec ses frères un accord sur le partage des frais d'entretien des châteaux d'Ochsenstein, il mentionne qu'ils devront contribuer à la garde et aux frais concernant « les trois châteaux » s'ils voulaient venir y habiter.
Frédéric se mêle comme son père à de nombreux conflits, notamment avec le margrave de Bade. Il est ainsi obligé de céder à ce dernier la moitié du château d'Ochsenstein en 1411 après un arbitrage effectué par son beau-père Hanemann II de Deux-Ponts-Bitche. Une clause prévoit le retour de l'intégralité du château à Frédéric en cas de décès du margrave, mais c'est Frédéric qui mert le premier le 17 octobre 1411 sans laisser d'héritier. Son frère Volmar hérite du château et quitte les ordres pour fonder une famille.
Ceci n'interrompt pas les tensions entres les Ochsenstein et le margrave de Bade et Volmar est obligé de reconnaître à ce dernier la jouissance de la moitié du château d'Ochsenstein le 11 novembre 1411. Volmar tente de lutter contre son influence en reconnaissant à Louis IV de Lichtenberg le droit d'ouverture de son château, mais il doit également reconnaître ce droit au margrave et à ses fils en 1417. De plus, pour aider son frère Jean à devenir prévôt du grand chapitre de Strasbourg, Volmar cède à l'évêque de Strasboug, Guillaume II de Diest, la moitié du château.
Georges d'Ochsenstein, qui a succédé à son père Volmar en 1426, mène également de nombreux conflits. Les rançons qu'il doit rassembler lorsqu'il est fait prisonnier contribuent à la ruine de sa maison. Lorsqu'il décède, en 1485, c'est sa sœur Cunégonde, épouse de Henri I de Deux-Ponts-Bitche, qui hérite du domaine. Guillaume de Ribeaupierre tentera de contester cet héritage en avançant que le fief d'Ochsenstein est « masculin » et qu'il ne peut échoir à une femme, il n'obtiendra l'investiture de l'évêque de Metz que pendant trois ans (1487-1490), Henri I de Deux-Ponts-Bitche obtenant que l'évêque se rétracte.
Des problèmes économiques amènent George de Deux-Ponts-Bitche à hypothéquer le château auprès d'Ulric de Rathsamhausen-zum-Stein pour une valeur de 2800 florins. Le château passe ensuite à Sébastien de Landsberg l'ayant reçu en dot de son épouse d'Anne de Rathsamhausen ; les époux s'installent au château en 1527 même si celui-ci est décrit comme vétuste.
En 1555, Jacques de Deux-Ponts-Bitche rachète l'hypothèque des Landsberg. Recevant serment d'allégeance des sujets de la seigneurie d'Ochsenstein quatre ans plus tard, il lance des travaux de rénovation (c'est probablement de cette époque que date l'adaptation du château aux armes à feu). Mais en 1559, alors qu'il se préparait à y habiter, un incendie prit dans le château et le réduisit à l'état de ruines.
Le comte Philippe V de Hanau-Lichtenberg hérita des ruines à la mort de Jacques en 1570 ; les Linange-Wesburg protestèrent et c'est seulement en 1691 qu'un compromis fut trouvé. Au XVIIIe siècle, les pierres du château furent utilisées pour construire le rendez-vous de chasse près de la ferme du Haberacker ; il s'est écroulé depuis.