Plusieurs étapes importantes jalonnent l'histoire de ce principe :
En 1543 est publié l'ouvrage de Nicolas Copernic, De revolutionibus orbium coelestium, qui fonde l'héliocentrisme. Son influence est dans un premier temps assez limitée. En effet, la préface, rédigée par Andreas Osiander, présente le point de vue de Copernic comme un artifice mathématique visant à améliorer les méthodes de calcul des tables astronomiques. Les choses évoluent rapidement au début du XVIIe siècle, avec Kepler qui, en 1609 énonce ses premières lois sur le mouvement des planètes, et avec Galilée, convaincu à partir de 1610 du mouvement de la Terre autour du Soleil. Les conceptions de ce dernier s'opposent à la fois aux dogmes religieux et philosophiques, qui font de la Terre le centre fixe du monde, lieu privilégié de la révélation divine.
Se basant sur des observations, Galilée s'oppose aux partisans d'Aristote, pour lesquels tout mouvement de la Terre est impossible. En effet, selon la physique d'Aristote, si la Terre bougeait, un objet lancé verticalement en l'air ne retomberait pas au lieu d'où il a été lancé, les oiseaux seraient entraînés vers l'ouest, etc... Galilée développe alors un discours visant à réfuter les arguments des aristotéliciens. Il énonce les principes qui fonderont la relativité galiléenne. Plusieurs passages de son ouvrage Dialogue sur deux grands systèmes du monde, publié en 1632 sont consacrés à cette réfutation. Ainsi, selon Galilée, le mouvement n'existe que par rapport à des objets considérés comme immobiles, que de manière comparative : « Le mouvement est mouvement et agit comme mouvement pour autant qu'il est en rapport avec des choses qui en sont dépourvues ; mais pour toutes les choses qui y participent également, il n'agit pas, il est comme s'il n'était pas ».
De plus, les résultats d'une expérience ne changent pas, qu'elle se passe sur la terre ferme ou dans la cabine d'un bateau naviguant sans heurt ni ballotage.
« Enfermez-vous avec un ami dans la plus grande cabine sous le pont d'un grand navire et prenez avec vous des mouches, des papillons et d'autres petites bêtes qui volent ; munissez-vous aussi d'un grand récipient rempli d'eau avec de petits poissons ; accrochez aussi un petit seau dont l'eau coule goutte à goutte dans un autre vase à petite ouverture placé en dessous. Quand le navire est immobile, observez soigneusement comme les petites bêtes qui volent vont à la même vitesse dans toutes les directions de la cabine, on voit les poissons nager indifféremment de tous les côtés, les gouttes qui tombent entrent toutes dans le vase placé dessous ; si vous lancez quelque chose à votre ami, vous n'avez pas besoin de jeter plus fort dans une direction que dans une autre lorsque les distances sont égales ; si vous sautez à pieds joints, comme on dit, vous franchirez des espaces égaux dans toutes les directions. Quand vous aurez soigneusement observé cela, bien qu'il ne fasse aucun doute que les choses doivent se passer ainsi quand le navire est immobile, faites aller le navire à la vitesse que vous voulez ; pourvu que le mouvement soit uniforme, sans balancement dans un sens ou l'autre, vous ne remarquerez pas le moindre changement dans tous les effets qu'on vient d'indiquer ; aucun ne vous permettra de vous rendre compte si le navire est en marche ou immobile : en sautant, vous franchirez sur le plancher les mêmes distances qu'auparavant, et ce n'est pas parce que le navire ira très vite que vous ferez de plus grands sauts vers la poupe que vers la proue ; pourtant, pendant le temps où vous êtes en l'air, le plancher au-dessous de vous court dans le direction opposée à votre saut ; si vous lancez quelque chose à votre ami, vous n'aurez pas besoin de plus de force pour qu'il le reçoive, qu'il se trouve du côté de la proue ou de la poupe, et pourtant, pendant que la gouttelette est en l'air, le navire avance de plusieurs palmes ; les poissons dans leur eau ne se fatigueront pas plus pour nager vers l'avant que vers l'arrière de leur récipient, c'est avec la même facilité qu'ils iront vers la nourriture que vous aurez disposée où vous voudrez au bord du récipient ; enfin, les papillons et les mouches continueront à voler indifféremment dans toutes les directions, jamais vous ne les verrez se réfugier vers la paroi du côté du la poupe comme s'ils étaient fatigués de suivre la course rapide du navire dont ils auront été longtemps séparés, puisqu'ils restent en l'air ; brûlez un grain d'encens, il se fera un peu de fumée que vous verrez monter vers le haut et y demeurer, tel un petit nuage, sans qu'elle aille d'un côté plutôt que d'un autre. »
— Galilée
En langage moderne, le mouvement uniforme (inertiel) du bloc expérience+observateur n'a aucun effet sur l'expérience observée. Ainsi, même si la Terre se déplace, la pierre jetée verticalement retombe aux pieds du lanceur, et les oiseaux volent normalement dans toutes les directions. Ce point de vue constitue une révolution dans les conceptions mécaniques de l'époque. Selon la physique d'Aristote alors communément enseignée, le mouvement et le repos sont deux états différents, et le mouvement nécessite un moteur. Selon Galilée, mouvement et repos sont un même état, différent l'un de l'autre par simple changement de référentiel. Cette conception est à la base du principe d'inertie.
Une particularité aujourd'hui difficile à concevoir : pour Galilée, le véritable mouvement inertiel n'est pas rectiligne mais est circulaire (un grand cercle du globe terrestre). Signalons également que Galilée, ayant réfuté les arguments aristotéliciens contre le mouvement de la Terre, cherchera quel phénomène observable peut rendre compte de ce mouvement. Il pensera le trouver, de façon erronée, dans une explication des marées. Il faudra plus de deux siècles pour que soient imaginées des expériences mécaniques montrant le mouvement de la Terre par rapport à un référentiel galiléen.
À la suite de Galilée, une des premières utilisations d'un référentiel fictif (non représenté dans l'expérience par un corps quelconque) peut être attribuée à Christiaan Huygens, dans son ouvrage de Motu corporum ex percussione. Ayant pris conscience en 1652 des erreurs de Descartes sur les lois des chocs, il conçoit un repère mobile par rapport auquel on fait une expérience. Cherchant quelles sont les vitesses de deux corps identiques après un choc, alors qu'initialement le premier corps se déplace à la vitesse V et le second à la vitesse V' par rapport au sol, il imagine un observateur se déplaçant à la vitesse (V+V')/2. Cet observateur voit les deux corps se rapprocher à la vitesse (V-V')/2, se heurter, et, étant de même masse, s'éloigner avec la même vitesse. Revenant au référentiel terrestre, Huygens en conclut qu'après le choc, les deux corps ont échangé leur vitesse.
Il est à remarquer que l'additivité des vitesses, utilisée par Huygens et tous ses successeurs lors d'un changement de référentiel, ne découle pas du principe de relativité de Galilée. Cette règle d'additivité sera remise en cause par Einstein, lors de l'invention de la relativité restreinte.
Newton, lecteur assidu de Descartes et de Galilée, en prolonge les observations quantitatives et amplifie la mathématisation de la physique, et place la loi d'inertie comme sa première loi de la physique, en y définissant au passage la notion de force.
Cette loi de l'inertie (en l'absence de force appliquée au corps, son accélération est nulle) n'est valable que dans certains repères (les repères galiléens), et Newton en introduisant les termes « absolu » et « relatif » pour qualifier les mouvements (qui pour lui prennent le sens de « vrai » et « apparent »), privilégie un repère galiléen particulier, « l'espace absolu », qui est le bon repère où on détermine le « mouvement absolu » des corps (et où il n'y a pas de force centrifuge ou autre force imputable au choix du référentiel). Les autres repères galiléens étant considérés comme des espaces relatifs privilégiés par rapport à ceux qui ne sont pas galiléens.
Ces considérations resteront admises jusqu'à Einstein, l'observateur pouvant toujours (semblait-il) détecter s'il est ou non dans un repère galiléen (en expérimentant la loi de l'inertie) et effectuer mathématiquement le changement de repère nécessaire, même si « l'espace absolu » restera toujours difficile à déterminer comme le regrettait déjà Newton.
Remarquons que, pour des raisons philosophiques, Leibniz a toujours lutté contre la notion d'espace et de temps absolu, sans réussir à influencer les sciences physiques. Dans une lettre à Samuel Clarke, adjoint de Newton, Leibniz tente de démontrer que la notion d'espace absolu est incompatible avec son principe de la raison suffisante.
« Pour réfuter l'idée de ceux qui prennent l'Espace pour une substance, ou du moins pour quelque être absolu, j'ai plusieurs démonstrations, mais je ne veux me servir à présent que de celle dont on me fournit ici l'occasion.
Je dis donc que si l'Espace était un être absolu, il arriverait quelque chose dont il serait impossible qu'il y eut une raison suffisante, ce qui est contre notre Axiome. Voici comment je le prouve.
L'Espace est quelque chose d'absolument uniforme, et en l'absence des choses y placées, un point de l'Espace ne diffère absolument en rien d'un autre point de l'Espace.
Or, il suit de cela, à supposer que l'espace soit quelque chose en lui-même indépendamment de l'ordre des corps entre eux, qu'il est impossible qu'il existe une raison pour laquelle Dieu, gardant les mêmes situations des corps entre eux, a placé ainsi les corps dans l'espace et non autrement; et pour laquelle tout n'a pas été mis à rebours (par exemple) par échange de la droite et de la gauche.
Mais si l'Espace n'est autre chose que cet ordre ou rapport, et n'est rien du tout sans les corps, si ce n'est la possibilité d'en mettre; ces deux états, l'un tel qu'il est, l'autre supposé à rebours, ne diffèreraient aucunement entre eux. Leur différence ne se trouve que dans notre supposition chimérique : la réalité de l'espace en lui-même.
Mais dans la réalité, l'un sera en tout point la même chose que l'autre, puisqu'ils sont absolument indiscernables. Et par conséquent il n'y a pas lieu de demander la raison de la préférence de l'un à l'autre. »L'influence majeure de Newton et la notion d'espace absolu firent que, pendant le XVIIIe siècle, le développement de la mécanique porta davantage sur les conséquences mathématiques de l'analyse dynamique du mouvement, plutôt que sur l'étude des repères en mouvement ou des changements de référentiels. Clairaut aborda certes cette dernière question en 1742, avec l'introduction de forces d'inertie d'entraînement, mais de manière imparfaite. La solution complète à la question du changement de référentiels fut apportée par Coriolis à partir de 1832. En 1833, Ferdinand Reich mit en évidence la déviation vers l'est d'un corps en chute libre, résultant du fait qu'un référentiel lié à la Terre n'est pas inertiel. Les forces d'inertie d'entraînement et de Coriolis permirent également d'expliquer l'expérience du pendule de Foucault, réalisée en 1851.
Il revient à Poincaré d'avoir désacralisé le choix de Newton dans son livre La Science et l'Hypothèse (1902) : il rejette « l'espace absolu » de Newton en montrant qu'il n'est nullement nécessaire à la physique, et constate même que la notion de référentiel galiléen et de mouvement rectiligne uniforme se définissent l'un par rapport à l'autre, et que la notion de ligne droite n'est pas une réalité mais une interprétation toute mathématique des expériences. Ainsi, il énonce la relativité de Galilée comme un Principe issu de l'expérience mais l'interprétant.
Einstein, lecteur de Poincaré, cherche à concilier le principe de relativité de Galilée (formulé : les lois sont les mêmes dans tous les référentiels galiléens) et le fait que la vitesse de la lumière est la même dans tous les référentiels galiléens (c'est un résultat de la théorie de l'électromagnétisme de Maxwell, interprété bien différemment jusque là avec « l'espace absolu » de Newton et l'éther). Sa conclusion est la relativité restreinte, publiée en 1905.
L'ancien professeur de mathématiques d'Einstein, Hermann Minkowski réinterprétera cette théorie dans le cadre d'un espace plat de dimension 4 ayant une mesure des distances particulière et où le principe de relativité de Galilée s'applique : l'espace-temps de Minkowski.
Soucieux de cohérence intellectuelle, Einstein ne conçoit pas que la science privilégie des référentiels par rapport à d'autres : les lois de la physique changeraient-elles pour une même expérience suivant qu'elle est observée depuis un référentiel galiléen ou d'un référentiel non galiléen ? Il cherche donc une théorie généralisant le principe de Galilée à tous les référentiels, et aussi une loi de la gravitation compatible, autre objectif d'envergure.
Par sa découverte du principe d'équivalence, la gravitation devient (localement) un effet équivalent au choix d'un référentiel accéléré : la généralisation du principe de relativité, sous forme d'équations différentielles, suffira donc.
Imaginant un disque en rotation autour de son centre, il comprend que, d'après la relativité restreinte, une personne placée au centre et tournant avec verrait le rayon du disque inchangé mais son périmètre diminué : cela ne correspond pas à la géométrie euclidienne. La solution de son problème devait donc passer par la géométrie différentielle (qui englobe les géométries euclidiennes et non euclidiennes) et le calcul tensoriel qui va avec, et que, par bonheur, son ami Marcel Grossmann avait étudié dans le cadre de son doctorat.
Le calcul tensoriel est l'outil permettant d'établir des égalités vraies quel que soit le référentiel utilisé. Le principe de relativité ainsi généralisé porte aussi le nom de « principe de covariance générale ».
Après tâtonnements et hésitations face à cet outillage mathématique assez lourd, Einstein finit sa « théorie de la relativité générale » en 1915.