Dans les années 1940 les ordinateurs étaient programmés par manipulation d'interrupteurs à bascule, puis plus tard en perçant des trous dans des cartes et en introduisant une pile de cartes perforées dans un lecteur dont la mécanique était similaire à celles des pianos mécaniques - technique appelée mécanographie.
Les ordinateurs des années 1940 à 1960, très coûteux, étaient la propriété des entreprises et des institutions. Chaque utilisateur avait le droit d'utiliser l'ordinateur pendant un temps limité. Ce temps était souvent déterminé par une horloge murale ou une pointeuse, et l'utilisateur avait alors à disposition la totalité du matériel de l'ordinateur. Il apportait avec lui une pile de cartes perforées qui contenait les instructions du ou des programmes à exécuter.
Les ordinateurs de cette époque effectuaient une seule tâche à la fois, au service d'un seul utilisateur. Les programmes pour ces ordinateurs contenaient toutes les instructions nécessaires pour manipuler le matériel de l'ordinateur. Si la logithèque pour cet ordinateur comportait cinquante programmes, les instructions nécessaires pour manipuler le matériel se retrouvaient dans chacun de ces cinquante programmes.
Avec l'agrandissement de la logithèque, l'idée est venue d'isoler les instructions routinières dans un programme séparé. Un programme qui résiderait continuellement dans la mémoire, quel que soit le programme en cours d'exécution. Ce programme était un système d'exploitation, sous sa forme la plus rudimentaire.
Les ordinateurs des années 1960 avaient en général comme périphérique un lecteur de carte perforée, une imprimante et un disque dur. Les ingénieurs ont constaté que les ordinateurs passaient plus de temps à attendre qu'un périphérique termine son travail qu'à exécuter des instructions.
Les systèmes d'exploitation ont alors été conçus de manière à permettre l'exécution de plusieurs programmes à la fois. D'abord, les programmes étaient chargés en mémoire pour y résider simultanément. Le premier programme était exécuté, puis, lorsqu'il avait besoin d'attendre qu'un périphérique se libère, le système d'exploitation enchaînait sur l'exécution du deuxième programme, puis le troisième et ainsi de suite. Cette technique, dite de multiprogrammation, est le précurseur du multi-tâche des systèmes d'exploitation d'aujourd'hui, proche du multi-tâche coopératif qui a été utilisé jusque dans les années 1990.
En 1965 le Massachusetts Institute of Technology se lance dans la création du premier système d'exploitation multi-tâches et multi-utilisateurs : Multics (pour MULTiplexed Information and Computing Service ou service multiplexé d'information et de calcul). Sur le principe de la multiprogrammation, le système d'exploitation autorisait le chargement de plusieurs programmes en mémoire et gérait le passage de l'un à l'autre, mais cette fois-ci sans attendre le blocage d'un programme. Chaque programme était exécuté pendant une durée de quelques millisecondes, puis le système passait au suivant. Ce temps, très court, donnait l'illusion que les programmes s'exécutaient simultanément - une illusion qui existe encore avec les systèmes d'exploitation contemporains.
De plus, ces programmes pouvaient appartenir à des utilisateurs distincts, chacun ayant l'impression que la machine travaille uniquement pour lui. La possibilité pour un ordinateur de servir simultanément plusieurs personnes augmentait le retour sur investissement de l'achat de matériel très coûteux par les entreprises et les institutions. Mais, écrit en langage de programmation PL/1 et trop complexe pour les ordinateurs de l'époque, Multics fut un échec commercial. Il a cependant inspiré en grande partie la gamme de systèmes GCOS développés conjointement par Honeywell et Bull.
En 1969, les ingénieurs Ken Thompson et Dennis Ritchie des laboratoires Bell rêvent d'utiliser le système d'exploitation Multics, mais le matériel pour le faire fonctionner est tout simplement hors de prix. Thompson se lance dans l'écriture d'une version allégée de Multics pour un PDP-7 inutilisé. Le système, fonctionnel, est surnommé Unics (pour UNiplexed Information and Computing Service), puis finalement baptisé UNIX. Rapidement reprogrammé dans un langage de programmation plus approprié (le C, développé par Ritchie pour l'occasion), UNIX se révèle particulièrement simple à porter sur de nouvelles plateformes, ce qui assure son succès.
Sorti en 1972, le Micral de la société R2E est le premier micro-ordinateur du monde. il est équipé d'un processeur Intel 8008 et du système d'exploitation SYSMIC - appelé alors moniteur d'exploitation. le système d'exploitation SYSMIC sera plus tard renommé PROLOGUE lors du rachat de la société par Bull en 1978.
sorti en 1975, l'Altair 8800 est un micro-ordinateur livré en kit au prix approximatif de 400 $, et comme le Micral il se programmait en inversant une série d'interrupteurs à bascule situés sur la face avant de l'appareil. Le prix de l'Altair 8800 le rendait accessible aux particuliers. Mais son utilisation compliquée (qui rappelle les ordinateurs centraux des années 1940) limitait son utilisation à des passionnés et des hobbyistes.
À cette époque, les micro-ordinateurs n'avaient pas une puissance de calcul suffisante pour être équipés d'un système d'exploitation comme Unix ou OS/360. Gary Kildall, ingénieur pour Intel crée CP/M, le premier système d'exploitation pour micro-ordinateur.
En 1980, IBM prend contact avec Bill Gates, co-fondateur de la société Microsoft, pour l'adaptation du langage BASIC à son nouveau micro-ordinateur, le Personal Computer (abrégé PC). IBM est également à la recherche d'un système d'exploitation, et Gates conseille à la société de se tourner vers CP/M. Mais Gary Kildall refuse de signer le contrat avec IBM. Bill Gates saute sur l'occasion : il rachète QDOS – un système d'exploitation quick-and-dirty pour les processeurs Intel 8086 – pour proposer à IBM le package DOS/BASIC. Après quelques modifications effectuées à la demande d'IBM, le système est baptisé MS-DOS.
C'est à la même époque que Steve Jobs et Steve Wozniak fondent la startup Apple Computer, avec comme optique de faire du micro-ordinateur un produit grand public aussi facile d'usage que n'importe quel appareil électrique.
Xerox, une des sociétés majeures de l'époque s'intéresse à l'optique de Steve Jobs, réunit une poignée de scientifiques et d'ingénieurs dans son centre de recherche de Palo Alto et, sur la base de thèses et d'études effectuées les années auparavant, développe le premier micro-ordinateur équipé d'une interface utilisateur graphique. Le résultat des recherches, le Xerox Star ne sera jamais commercialisé et c'est Apple qui, dix ans plus tard, avec le Macintosh, popularise les recherches effectuées par Xerox.
En 1983, Richard Stallman du Massachusetts Institute of Technology lance l'idée d'un système d'exploitation sous licence libre : GNU. Il développe des programmes destinés aux programmeurs, des logiciels utilitaires, et crée la GNU General Public License - un contrat de licence exempt de droits d'auteur. Le succès est immédiat, mais le système ne possède toujours pas, en 1990, de noyau libre, et les tentatives pour en développer un sont loin d'être abouties.
En 1987, Andrew Tanenbaum, professeur à l'université libre d'Amsterdam a créé le système d'exploitation Minix, clone d'UNIX dont le code source était destiné à illustrer son cours sur la construction des systèmes d'exploitation. Mais Minix, à vocation pédagogique, comportait de trop nombreuses limitations techniques pour être le noyau d'un système UNIX complet. Inspiré par les travaux de Tanenbaum, Linus Torvalds, étudiant à l'université d'Helsinki se lance alors dans le développement de son propre noyau : Linux, qui est à la base une réécriture de Minix. La toute première version (0.01) sort en 1991, Linux passe sous licence GNU en 1992 et il faut attendre 1994 pour voir la version 1.0 qui donne naissance à la distribution d'un système d'exploitation entièrement libre, GNU/Linux.
Un autre système d'exploitation libre apparaît à la même époque : il s'agit de 4.4BSD. La Berkeley Software Distribution (traduction : la suite de logiciels de Berkeley) – abrégé BSD – est la version d'UNIX développée par les étudiants et les chercheurs de l'université de Berkeley depuis 1977. Les logiciels utilitaires, créés sous licence libre, sont vendus avec le noyau Unix de AT&T, lui-même sous licence propriétaire. Cette double licence de BSD est à l'origine de plusieurs années de litige entre l'Université de Berkeley et AT&T. Les étudiants de l'université travaillent à remplacer les programmes développés par AT&T par leurs propres programmes, sous licence libre, afin de résoudre le litige. Cette situation dure jusqu'à la sortie de 4.4BSD en 1994, qui ne contient pratiquement plus de code AT&T.
C'est à la suite des initiatives et travaux de Linus Torvalds et Richard Stallman, aidés par des milliers de bénévoles et à la suite des travaux des étudiants de l'université de Berkeley que GNU/Linux et 4.4BSD sont devenus les premiers systèmes d'exploitation sous licence libre.