Sakhaline est habitée depuis le Néolithique. De nombreux éclats de silex comparables à ceux qu'on trouve en Sibérie, des haches en pierre polie similaires à celles présentes en Europe et des poteries avec des ornementations comme celles d'Olonets ont en effet été mis au jour sur l'île.
L'île était habitée à l'origine par différents peuples indigènes : les Aïnous occupaient la moitié sud de l'île tandis que les Oroks occupaient la partie centrale et les Nivkhes le nord.
Les Japonais s'établirent dans l'extrémité méridionale de l'île à Ootomari en 1679 dans l'objectif de coloniser celle-ci. Ils cartographièrent l'île et la nommèrent Kita-Ezo c'est-à-dire "Au nord de Hokkaïdo", Ezo étant l'ancien nom de Hokkaïdo.
Sakhaline devint connue des Européens grâce aux voyages des navigateurs Ivan Moskvitine au XVIIe siècle, de Jean-François de La Pérouse en 1787 et de Johann Adam von Krusenstern en 1805. Mais ils croyaient tous que Sakhaline était une péninsule car ils ignoraient l'existence du détroit de Tartarie. Le détroit ne fut découvert qu'en 1809 par le navigateur japonais Mamiya Rinzō. Lapérouse n'arriva pas à franchir les bancs de sable, hauts fonts du détroit de Tartarie ; les autochtones lui confirmèrent cependant que leur terre était une île.
Estimant que Sakhaline était une extension à la fois culturelle et géographique de Hokkaïdo, les Japonais proclamèrent leur souveraineté sur l'ensemble de l'île ainsi que sur l'archipel des Kouriles en 1845. En 1855, le Japon et la Russie signèrent le traité de Shimoda, déclarant que les deux nations pouvaient occuper l'île, les Russes s'installant au nord et les Japonais au sud, sans qu'une frontière ne soit précisément tracée. Après la guerre de l'opium, la Russie contraignit la Chine à signer le traité d'Aigun et la convention de Pékin. La Chine y abandonnait ses prétentions territoriales sur les régions situées au nord du fleuve Amour et à l'est de la rivière Oussouri, régions incluant l'île de Sakhaline. Les Russes installèrent un établissement pénitentiaire sur l'île en 1857. En 1875, à la suite de la signature du traité de Saint-Pétersbourg, les Japonais cédèrent le sud de l'île aux Russes en échange des îles Kouriles.
En 1905, à la fin de la guerre russo-japonaise, les Russes et les Japonais signèrent aux États-Unis le traité de Portsmouth. Par cet accord, le Japon récupérait la partie sud de l'île, tandis que la Russie conservait les trois cinquièmes nord de celle-ci. La frontière entre les deux pays était fixée le long du 50e parallèle nord.
Sakhaline fut annexée en 1945 par Staline et rattachée à l'URSS. L'Armée rouge débuta l'attaque de l'île le 11 août 1945, soit quatre jours avant la capitulation japonaise face aux forces américaines. Bien que trois fois plus nombreux que les Japonais, les Soviétiques avancèrent très difficilement en raison de la forte résistance qu'ils rencontrèrent. La conquête de l'île se termina le 25 août 1945 avec l'occupation de la capitale, Toyohara. Les Japonais estiment que l'offensive soviétique coûta la vie à 20 000 civils.
Une fois l'Union soviétique dissoute, l'île sort de son isolement. Elle entend utiliser ses ressources inexploitées en lorgnant vers l'espace commercial de ses voisins : la Corée du Sud et surtout le Japon.
Par sa latitude, proche de celle du nord de la France, l'île devrait bénéficier d'un climat tempéré. Pourtant les courants froids du Pacifique pénétrant dans la mer d'Okhotsk y font geler les eaux en hiver. Le détroit qui sépare l'île du continent (il mesure 7 km dans sa partie la plus étroite) est alors pris par la glace et ouvre ainsi une route "terrestre" maintes fois utilisée dans l'histoire. En raison de l'extension en latitude de l'île on observe une gradation des températures du nord au sud de celle-ci. En hiver la température varie de-17 °C à -21 °C au nord et de -6 °C à -11 °C au sud mais la température peut descendre jusqu'à -48 °C dans la vallée de la Tym. En été la température varie de 11 °C à 16 °C au nord et de 17 °C à 22 °C au sud. A l'automne, des typhons porteurs de tourmentes de neige y paralysent fréquemment le trafic maritime et aérien ; et, en été, le ciel se charge de brouillards épais.