Des fragments d’ocres gravés datant de plus de 77 000 ans ont été mis au jour à Blombos, en Afrique australe. Les premières peintures pariétales européennes datent de 32 000 ans avant le présent ; celles de Lascaux ont près de 18 000 ans, celles d’Altamira entre 13 500 et 15 500. Les ocres sont quasiment inaltérables au cours du temps, ce qui explique la conservation de ces peintures.
Certaines statuettes féminines appelées « Vénus paléolithiques » présentent des dépôts de peinture. C'est le cas de la « Vénus impudique » de Laugerie-Basse en Dordogne ou de la Vénus de Laussel. D’autres présentent des gravures pouvant être interprétées comme des peintures corporelles : ponctuations sur la poitrine et le ventre, dessins de colliers ou de bracelets aux pieds ou aux chevilles…
L'ocre est également présente dans certaines sépultures préhistoriques.
Aujourd’hui, dans les cultures traditionnelles, l’ocre se rattache à la « Terre Mère ». Elle est utilisée lors de rituels liés à la mort (retour du corps à la terre) ou à la chasse. En Afrique, les couleurs rouge et ocre sont les couleurs de l’initiation. Chez les Amérindiens, le rouge est la couleur de la maturité et l’ocre celle de l’origine de l’Homme.
L'ocre peut aussi jouer un rôle fonctionnel ou prophylactique : certains groupes ethniques africains, notamment les Himbas, utilisent l'ocre rouge pour s'enduire le corps et se protéger de l'ardeur du soleil, de la sécheresse de l'air et des insectes. L’ocre a été utilisée en médecine, notamment en Égypte, pour ses propriétés apaisantes et cicatrisantes.
Elle a très longtemps été utilisée pour la conservation des peaux entre l’abattage et le tannage. Les embaumeurs égyptiens teignaient le corps des hommes avec de l’ocre rouge et celui des femmes avec de l’ocre jaune pour lutter contre le noircissement de la peau provoqué par le traitement.
Dans le Pays d'Apt (Vaucluse), l'ocre est exploitée depuis la fin du XVIIIe siècle. Jean-Étienne Astier, le premier fabricant d'ocre à Roussillon, y a inventé un traitement permettant d'extraire le pigment du sable. Au début du XXe siècle, on produisait 36 000 tonnes d'ocre dans le Pays d'Apt, surtout dans les galeries de Gargas. 98 % de cette ocre partaient à l'exportation.
L'ocre a également été utilisée comme substance imperméabilisante, comme abrasif pour le polissage fin, et surtout comme agent colorant dans des domaines variés : alimentation, filtre de cigarettes, caoutchouc (les rondelles de bocaux sont encore traditionnellement rouges même si l'ocre n'est plus utilisée), produits cosmétiques, etc.
L'ocre est une pierre lourde, ce qui en fait un bon indicateur de présence d'or au fond des cours d'eau.