Le ministre de la Défense nationale et des Forces armées Pierre Kœnig tranche de façon ambigüe le 13 juillet 1955 le débat entre missile et bombardier stratégique à la faveur de la défaite de Điện Biên Phủ. Il demande au secrétaire d'État à l’Armée de l’air de lancer des études sur un appareil supersonique apte à voler à basse altitude et dénommé pudiquement « avion de représailles ». Néanmoins, les études demandées le 4 février 1953 puis le 22 mars 1954 par le Service technique de l'aéronautique (STAé) aux industriels ne concernent qu'un intercepteur léger « de moins de 4 tonnes, capable de monter à 15 000 m en 4 minutes, de voler en palier à Mach 1,3 pour rattraper par l'arrière un hostile volant à Mach 1 et éloigné de plus de 25 km, de porter un missile de 200 kg, de revenir à sa base et d'attendre cinq minutes à l'atterrissage, avant de se poser à moins de 180 km/h ». Sont proposés plusieurs projets dotés du réacteur SNECMA Atar 9:
Le secret est de mise sur la descendance en bombardier stratégique nucléaire du futur intercepteur. Comme le raconte Jean Cabrière, ancien directeur général technique de la GAMD, « l'ingénieur en chef [de la STAé] Dorleac pose aux ingénieurs de GAMD des questions qui les laissent perplexes et qui tendent vers un avion avec toujours plus de pétrole pour plus de rayon d'action, donc plus gros et plus lourd au détriment des qualités d'agilité qui sont celles d'un bon chasseur. ». De « petites indiscrétions » et l'annonce par la STAé sous le gouvernement Guy Mollet à la mi-octobre 1956 que le chasseur lourd ne sera doté que d'une seule bombe d'une tonne, assez longue (5,5 m) et d'un diamètre de 65 cm font comprendre à la GAMD et la SNCASO que « les demandes des ingénieurs de l'État tendent à définir un avion de bombardement. »
À la suite du fiasco de la crise du canal de Suez et du processus de décolonisation, le 16 octobre 1956 la STAé précise les caractéristiques du bombardier, puis le 15 novembre 1956, informe la GAMD qu'elle est retenue face à la SNCASO à la fois pour l'intercepteur Mirage III-A et le bombardier lourd Mirage IV. Cependant, les essais du SO-4060 et du Mirage IV se poursuivront durant deux ans. Le 28 novembre 1956, l'étude du bombardier stratégique équipé de 2 moteurs SNECMA Atar est décidée par le ministre de la Défense nationale et des Forces armées français Pierre Billotte. L'industriel reçoit par courrier des spécifications encore vagues en matière de distance franchissable (de 2 000 à 4 000 km). Il est enjoint « devant les nombreux problèmes que poseront les vols nettement supersoniques de ce prototype (Mach supérieur à 2), d'en entreprendre l'étude sans attendre d'autres précisions sur l'armement », de 1 000 à 2 000 kg, dont le qualificatif de « nucléaire » n'est toujours pas précisé.
En mars 1957, Le Mirage IV est approuvé par le STAé et le marché de fabrication du prototype est notifié en avril 1957, ce qui ne signifie pas qu'un choix définitif est fait en faveur de la formule Mirage. En effet, le prototype SNCASO SO-4060 est en cours de construction à Courbevoie. Ce prototype ne volera pas par manque de temps et d'argent. « Les directives ministérielles demandent un choix pour la fin de 1958 et aucun des deux concurrents ne peut voler à cette date. Fin 1957, le ministre a demandé impérativement à la DTCA de réaliser des économies importantes en donnant la priorité au bombardier de représailles. Ces exigences budgétaires condamnent la version chasseur tout temps du 4060. »
La GAMD poursuit ses études visant à valider la possibilité de maintenir des vols supersoniques prolongés, à réduire la traînée et augmenter l'autonomie et, de façon plus qu'improbable, à effectuer une pénétration aller-retour à haute altitude.
Plusieurs projets à aile delta biplaces en tandem sont proposés :
De son côté, la Marine nationale française s'intéresse à une version embarquée. La GAMD remet un avant-projet le 28 décembre 1956 suivi d'un projet en mars 1957 de Mirage IV-M monoplace, raccourci et avec ailes et dérive repliables. Ce projet est abandonné fin 1958, suite au lancement en 1955 de 2 porte-avions légers de 22 000 tonnes, le Clemenceau (R98) et le Foch (R99) qui ne peuvent pas soutenir cet appareil de 16,5 t au catapultage et l'abandon du porte-avions Verdun, pour lequel il est destiné, en 1961.
En mai 1959, la fabrication en série envisagée est de 53 bombardiers, plus 27 de reconnaissance et de guerre électronique devant vraisemblablement escorter les premiers. Finalement, pour des raisons de coûts, seuls 50 bombardiers sont commandés en septembre 1960, suivis de 12 avions de reconnaissance en juillet 1964.
A noter qu'en 1961, le même bureau d'étude mène de front le développement des prototypes et de l'avion de série Mirage IV comme du Mirage III.
Le mot tabou « nucléaire » sera écrit par le président de la République française Charles de Gaulle, dont l'entrée en fonctions a lieu le 8 janvier 1959. Dès mars 1959, la priorité absolue aux composantes de la Force de frappe (renommée en Force de dissuasion nucléaire) est clairement affirmée et la date de 1964 pour sa mise en service exige le choix de solutions d'aboutissement à court terme. La première loi programme 1960-1964 prévoit donc la réalisation de la force Mirage IV (avec bombe AN-11 de 60 kt) dont les premières mises en service ont lieu en 1964. La deuxième loi de programme couvrant la période 1965-1970 prévoit d'achever la mise en place de la force Mirage IV équipée de la bombe A, ce qui fut fait en 1967.
La doctrine française de la dissuasion nucléaire immédiate et totale (massive retaliation) ou de « suffisance » en 3 points s'oppose à la doctrine américaine de dissuasion graduée (flexible response) :
En 1964 est demandée une version du Mirage IV destinée à la reconnaissance stratégique. L'avion doit être équipé d'un conteneur CT-52 emportant les équipements nécessaires, remplaçant la bombe semi-encastrée sous le fuselage des avions destinés au bombardement. Le premier vol avec le CT-52 est réalisé par le Mirage IV no 61, en octobre 1968. Les essais en vols se déroulent d'octobre 1969 à avril 1970.
Après une série de modifications et de nouveaux essais entre octobre 1970 et septembre 1971, le couple Mirage IV / CT-52 est officiellement mis en service fin 1971. Initialement, seuls les 12 derniers Mirage IV pouvaient recevoir le CT-52. Progressivement, les 50 autres avions seront modifiés pour être capables eux aussi d'emporter ce conteneur.
En 1962, suite à l'abandon par les États-Unis du missile balistique aéroporté AGM-48 Skybolt qui devait équiper les bombardiers stratégiques transsoniques à long rayon d'action britanniques Avro Vulcan puis, le 6 avril 1965, du bombardier stratégique BAC TSR-2, la Royal Air Force envoie des pilotes essayer le Mirage IV, déjà en service.
Est alors envisagée la livraison ou la production sous licence de quatre-vingt Mirage IV à l'horizon 1968, rallongés de 61 cm, équipés de réacteurs Rolls-Royce Spey 25R plus puissants (93.4 kN de poussée chacun) et conservant l'avionique du BAC TSR-2. Pour des raisons politiques, le Royaume-Uni renonce au Mirage IV pour lui préférer le bombardier stratégique américain à géométrie variable General Dynamics F-111 en faveur duquel le Premier ministre Harold Wilson s'est secrètement engagé. Pour des raisons de coût, la Royal Air Force se contentera finalement de l'avion d'attaque Blackburn Buccaneer et ne possèdera plus de bombardier stratégique nucléaire à partir de 1970.
La Royal Australian Air Force et l'armée de l'Air israélienne auraient manifesté un temps un intérêt pour le Mirage IV. L'Australie, qui avait acquis des Mirage III, achète finalement des F-111.