Si Mac OS X est né commercialement le 13 septembre 2000, l'histoire du système d'exploitation d'Apple remonte encore quelques années auparavant, avec le limogeage de Steve Jobs par John Sculley en 1985, un 13 septembre également.
C'est lors d'un déjeuner dans la Silicon Valley donné en l'honneur du Président de la République Française d'alors, François Mitterrand, que Jobs rencontrera Paul Berg, prix Nobel de chimie. Celui-ci se plaint auprès de Jobs des mauvaises conditions pour l'enseignement relatif à l'ADN recombinant, et l'enjoint de créer un ordinateur "3M" : 1 méga-octet de RAM, 1 méga-pixel pour l'affichage, et 1 megaFLOPS pour la puissance.
Steve Jobs fonde NeXT avec l'objectif de créer un ordinateur hautes performances, notamment pour la recherche et l'enseignement. Il débauche cinq salariés d'Apple, et embauche Avie Tevanian, alors âgé de 24 ans, qui avait mené le prometteur projet de micro-noyau Mach durant ses études à l'université de Carnegie Mellon. Ce noyau (la partie de bas niveau du système qui se charge de l'interface avec le matériel) se retrouvera au cœur du système d'exploitation basé sur Unix, nommé NeXTSTEP. Celui-ci sera tout dévolu à la programmation orientée objet, un procédé permettant d'instancier du code avec des variables individuelles (propriétés) et un système d'héritage, offrant plus de souplesse et une meilleure productivité pour les développeurs par opposition à la programmation procédurale.
On sait que Steve Jobs et une poignée d'ingénieurs d'Apple ont découvert, médusés, l'interface graphique et la souris de l'Alto, un projet expérimental de Xerox lors d'une démonstration à leur Palo Alto Research Center, mais on sait moins que c'est également à cette occasion qu'ils découvrent la programmation orientée objet et Ethernet, deux technologies qui seront mises à profit par Jobs chez NeXT. C'est notamment sur cette base que sera bâti Interface Builder, aujourd'hui au cœur des applications sur Mac OS X, ou encore WebObjects.
Si NeXT a connu quelques réussites dans le monde universitaire (c'est notamment sur une machine de NeXT que Tim Berners-Lee lancera le tout premier serveur Web au CERN), la société doit toutefois faire face à quelques déconvenues, et se voit dans l'obligation d'abandonner sa branche matérielle pour se recentrer sur le logiciel en 1994, ce qui lui permettra de devenir bénéficiaire. Le système fonctionne aussi bien sur processeurs 68030/40 de Motorola (la première famille de processeurs du Macintosh) que sur les x86 d'Intel, et ne perdra jamais cette faculté comme on le verra bien des années après.
De son côté, Apple est au plus mal : Microsoft a rattrapé beaucoup de son retard avec Windows 95, et le système d'exploitation du Macintosh, alors appelé Système 7, fait du sur-place : lancé en 1991 sans révision majeure depuis, il ne dispose pas d'un système de mémoire protégée (ce qui fait inexorablement planter tout le système si une erreur intervient au sein d'une application), et ne permet que le multitâche coopératif (par opposition au multitâche préemptif, celui-ci induit un blocage général de toute autre tâche que celle en cours, par exemple à l'ouverture d'un menu ou lors d'un accès disque). Un comble alors qu'Apple bénéficie d'un excellent processeur qui se voit bridé de la sorte.
Apple se doit de réagir : elle se base sur l'alliance AIM (Apple-IBM-Motorola, les trois bonnes fées qui ont donné naissance aux processeurs PowerPC) pour fonder Taligent, une joint-venture qui reprend le projet Pink, un nouveau système d'exploitation censé intégrer une mémoire protégée et le multitâche préemptif, à base de programmation orientée objet tout comme NeXTSTEP. Le projet dérive dans une autre direction, Apple se lance alors dans le chantier Copland (d'après le compositeur Aaron Copland, les noms de code des systèmes d'exploitation d'Apple avaient alors une thématique musicale). Mais le projet s'avère un gouffre financier et un désastre. Gil Amelio, alors PDG d'Apple, engage Ellen Hancock pour remettre le projet sur les rails : celle-ci décide qu'il vaut mieux l'abandonner et acheter un système d'exploitation qui aurait fait ses preuves. Quelques éléments de Copland seront intégrés à Mac OS 8, notamment Platinum, une interface utilisateur revisitée.
Après avoir hésité entre deux systèmes promus chacun par un ancien dirigeant d'Apple, à savoir Jean-Louis Gassée pour BeOS et Steve Jobs pour NeXTSTEP, Apple finit par jeter son dévolu sur son cofondateur en décembre 1996. L'année suivante, Jobs endosse le titre de PDG par intérim, et a fort à faire pour redresser la barre avant même qu'il soit question d'utiliser NeXTSTEP : il met fin aux clones de Macintosh et au Newton, initie la fameuse campagne publicitaire "Think Different" pour réaffirmer les valeurs fondamentales de la société, et lance le tout premier produit d'une longue liste dont le nom commence par un i minuscule : l'iMac.
Pendant ce temps les travaux sont lancés pour porter NeXTSTEP sur PowerPC. Conservant la tradition musicale, le nom de code du nouveau système fut Rhapsody. Celui-ci ne préfigurait pas encore de ce que deviendrait plus tard Mac OS X : initialement, Rhapsody reprenait l'aspect graphique de Mac OS 8, plaqué sur NeXTSTEP. Le jeu d'API est renommé Yellow Box (qu'on connaîtrait plus tard sous le nom de Cocoa) : celui-ci permet de développer facilement des applications aussi bien pour Rhapsody que pour d'autres systèmes d'exploitation tels que Windows. D'autre part, la Blue Box (qu'on connaîtrait plus tard sous le nom de Classic) permet de continuer à exécuter les logiciels conçus pour Mac OS 8.
Malheureusement pour développer des logiciels natifs sur Rhapsody, la Yellow Box impliquait l'abandon total du code source des programmes tels que développés sur Mac OS 8, et Apple doit faire face à une grogne de la part des développeurs de tierce partie : ceux-ci ne voient pas du meilleur œil d'avoir tout à reprendre à zéro. Parmi ceux-ci, Adobe refuse catégoriquement de sauter le pas (son entêtement demeurera jusqu'à la Creative Suite 5 sortie au mois d'avril 2010), et dans sa situation encore délicate, Apple ne peut se permettre le luxe de perdre une partie importante de sa clientèle historique.
La firme de Cupertino décide donc de réviser sa copie : exit Rhapsody, bonjour Mac OS X. Apple met au point un second jeu d'API, baptisé Carbon, qui permet de faire fonctionner indifféremment les logiciels sur Mac OS 9 (sorti en 1999) et Mac OS X. Carbon nécessite une modification des logiciels, mais elle reste mineure par rapport à une réécriture complète telle que Cocoa l'exige. Rhapsody trouvera toutefois une incarnation commerciale dans la première version de Mac OS X Server.
Reste à trouver la carotte pour les utilisateurs finaux : Rhapsody apportait des changements fondamentaux, mais rien de "visible" pour l'utilisateur. Lors de la conférence Macworld de 2000, Steve Jobs dévoile Aqua, la nouvelle interface utilisateur si belle que « vous aurez envie de la lécher », dixit l'iCEO. « Aqua est devenu un argument de vente visible pour faire migrer les gens vers le nouvel OS, » se souvient Tevanian dans un entretien avec MacWorld. « Si vous disiez seulement "Et bien, ça fonctionne un petit peu mieux sous le capot", peu de gens s'en seraient préoccupés. » Reprenant les tons blancs et bleus de l'iMac et du Power Mac G3, son impact ne tarde pas à se faire sentir : les Mac-users piaffent d'impatience et on retrouve le design luisant des icônes dans toute la création graphique, bien au-delà du seul domaine de l'informatique.
Avec Carbon, Apple a trouvé un moyen de simplifier la transition de Mac OS 9 à Mac OS X, mais il faudra bel et bien en passer par une ré-écriture en Objective-C avec Cocoa pour tirer pleinement parti de Mac OS X. Apple n'a eu qu'à utiliser la pression évolutionniste : Carbon ne serait qu'une transition, et il est hors de question d'offrir toutes les fonctionnalités de Mac OS X par ce biais. Ainsi, si les développeurs veulent tirer le meilleur parti du système, il leur faudra sauter le pas. D'autre part, Apple a très clairement indiqué, dès la première minute de la présentation de Mac OS X, qu'il n'y aurait qu'un seul et unique système d'exploitation : il faut abandonner le navire Mac OS 9 dès que possible. L'oraison funèbre de Mac OS 9 sera faite en grande pompe deux ans plus tard. Le support de Classic quant à lui sera interrompu en 2007 avec Mac OS X 10.5
La beta publique de Mac OS X sortit donc en septembre 2000, au tarif de $29,95 (déductibles de la version finale qui sortira le 24 mars 2001). Suite à l'échec de Rhapsody, Apple a en effet mis toutes les chances de son côté pour s'offrir une transition en douceur. Le système intègre une couche de compatibilité avec Mac OS 9, permettant aux utilisateurs de passer au nouvel OS sans même qu'une seule application soit disponible pour celui-ci. Carbon assure la transition pour les développeurs, leur permettant de s'adresser aux deux systèmes avec le même code. La beta payante elle-même limite les candidatures aux plus motivés, le tarif étant assez bas pour permettre à tous de sauter dans le train, et assez élevé pour éviter les participations moins constructives.
Classic fut d'ailleurs largement mis à profit, tant il est vrai que les premières applications compilées pour Mac OS X mirent du temps à nous parvenir : longtemps les premiers utilisateurs du système moderne d'Apple durent continuer à utiliser leurs applications telles qu'elles étaient sur Mac OS 9, dans un écrin certes très plaisant visuellement, mais le seul avantage de Mac OS X fut longtemps de pouvoir redémarrer Classic sans avoir à redémarrer le Mac, le tout avec un joli Finder à lécher. C'est des développeurs qui se consacraient autrefois à NeXT que vint le salut : The Omni Group s'est investi à fond sur Mac OS X dès les premières heures, ce qui aujourd'hui encore bénéficie à la popularité d'applications telles qu'OmniGraffle, qu'on retrouve par ailleurs sur iPad. Mais Mac OS X a longtemps fait figure d'une magnifique galerie marchande désespérément vide de tout achalandage.
D'autres développeurs mirent bien plus de temps à passer à Mac OS X. Jobs a dû se transformer en VRP, appelant Rob Burgess alors patron de Macromedia pour s'enquérir du portage d'un Director, jusqu'à une amicale pression envers Adobe qui se hâtait lentement. Les premiers moments furent parfois délicats, tant il est vrai que Mac OS X représentait un changement radical, et si le système ne se bloquait plus à l'image de ses prédécesseurs, sa lenteur générale en fut une douloureuse contrepartie. Il fallut attendre Jaguar en 2002 avant que le système approche en nervosité feu Mac OS 9. Néanmoins Apple avait réussi le pari d'un Unix utilisable par le commun des mortels.
Aujourd'hui le système d'exploitation d'Apple anime une large gamme d'appareils très variés : tous les Macintosh bien entendu, mais également l'iPhone, l'iPod touch, l'iPad et l'Apple TV, jusqu'aux Xserve. Dix ans après ses premiers pas, Mac OS X a poursuivi son évolution et reste à l'avant garde. Dernier vestige du passé, son filesystem, HFS+, qui fait sentir son âge et n'est plus adapté aux besoins actuels en matière de stockage, bien qu'il n'ait pas manqué de mérites. Il y a eu plusieurs tentatives avortées d'intégrer ZFS, reste à voir ce qu'Apple compte proposer à l'avenir.
Toujours est-il qu'après 10 ans de bons et loyaux services, Mac OS X tient bon la barre. Selon Avie Tevanian, durant son développement Apple estimait sa durée de vie entre vingt et trente ans, mais l'ancien vice-président d'Apple ne serait pas surpris de le voir durer plus longtemps encore.