Le cortex a subi une longue évolution depuis son apparition chez les premiers craniates ou leurs ancêtres. On distingue chez les mammifères le néocortex, aussi appelé néopallium et l'allocortex lui-même subdivisé en paléocortex (ou paléopallium) et archicortex (ou archipallium). L'archicortex est le plus ancien, il existe déjà chez les poissons dans le rhinencéphale, structure responsable du traitement des sensations olfactives. Chez l'être humain, on le trouve dans des structures très anciennes telles que l'hippocampe (cerveau) et le gyrus dentelé. Le paléocortex est plus récent. Il est bien représenté chez les reptiles où il atteint son développement maximum, mais il est encore présent chez les mammifères dans des structures anciennes telles que les noyaux gris centraux ou le rhinencéphale. Le néocortex est phylogéniquement le plus récent. Existant à l'état d'ébauche chez les reptiles. Il s'agît d'une couche superficielle lisse et peu développée chez les oiseaux, même si c'est le centre de l'intelligence et de l'apprentissage. Il va faire l'objet d'une croissance chez les mammifères au point de repousser l'allocortex dans des zones réduites. C'est chez l'homme qu'il atteint son développement maximum, constituant 80 % des neurones du système nerveux central.
Le cortex moderne des mammifères dérive du rhinencéphale des poissons. Le fait que l'ancienne structure olfactive des poissons ait donné naissance aux hémisphères cérébraux refléte l'importance qu'avait l'olfaction chez les premiers mammifères et qu'elle possède encore aujourd'hui pour beaucoup d'entre-eux. Une hypothèse informelle suggère que cela pourrait être dû à l'absence d'informations portées par les sensations olfactives. Alors que les signaux auditifs peuvent par eux-mêmes fournir des informations sur la taille, la position et le mouvement des autres animaux, ce n'est pas le cas des signaux olfactifs. Pour être utiles, ils doivent être associés à des traces mnésiques qui les mettent en relation avec des souvenirs visuels ou auditifs, d'autant que les premiers mammifères étaient vraisemblablement des animaux nocturnes de la taille d'une souris. Les hémisphères cérébraux se sont donc développées et ont reçu des afférences visuelles, auditives et somatiques en vu d'intègrer toutes ces informations avec les signaux olfactifs. Ceci n'est qu'une hypothèse et il n'existe aucun moyen de la vérifier, l'évolution permettant de constater la succession des étapes, mais pas d'en donner les raisons, surtout pour un organe fossilisant aussi mal que le cerveau.
Le cortex cérébral se forme dans la partie antérieure du tube neural, lui-même dérivant de la plaque neurale, une différentiation de l'ectoderme dorsal sous l'influence de la notochorde.
La première structure cérébrale à se différencier dans ce qui donnera les hémisphères cérébraux est le système ventriculaire. Les cellules souches des neurones se situent dans l'épithélium qui borde les ventricules. Dans un premier temps, les progéniteurs se divisent de façon symétrique pour se multiplier puis de façon asymétrique. Une des deux cellules migre alors à l'extérieur de la zone ventriculaire pour atteindre le cortex. Elle se différencie alors en neurone. L'autre cellule reste dans la zone ventriculaire et continue à se diviser. Les cellules gliales se multiplient de façon similaire, leurs progéniteurs sont différents de ceux des neurones.
Pendant les périodes foetale et néonatale, les neurones du cortex cérébral immature (la plaque corticale) sont pris en sandwich entre la zone marginale à l'extérieur et la sous-plaque située juste en dessous à l'interface avec ce qui donnera la substance blanche. La sous-plaque a une existence transitoire. Elle disparaitra chez l'homme, deux mois après la naissance. La zone marginale persistera, devenant la couche 1 du néocortex.