Un total de 2 578 F-104 aura été produit par Lockheed et sous licence par les différents constructeurs étrangers. Les principales versions étaient :
Deux prototypes ont volé avec des réacteurs J65 (le J79 n'était pas encore prêt). L'un des deux appareils était chargé d'effectuer les tests du canon M61. Les deux appareils ont été détruits suite à un crash.
17 exemplaires de présérie ont été utilisés pour les tests des réacteurs, des équipements ainsi que les essais en vol. Ces appareils ont ensuite été reconvertis au standard F-104A
153 exemplaires de cette première version de série ont été construits. Le 18 mai 1958, un F-104A marque le nouveau record du monde de vitesse à 2 259,82 km/h. En service avec l'USAF de 1958 à 1960, avant d'être transférés vers des unités de l'Air National Guard jusqu'en 1963, ils ont ensuite repris le service avec les 319th et 331st Fighter Interceptor Squadrons. Les appareils du 319th ont été remotorisés avec des J-79-GE-19 qui avec leurs 8 100 kpg leur permettaient d'atteindre un plafond de opérationnel de 22 250 mètres. Tous les F-104A et B ont été retirés de l'USAF en 1969. Quelques F-104A ont été exportés vers la Jordanie, le Pakistan et Taïwan, chacun de ces pays les ayant utilisé au combat.
Trois appareils démilitarisés équipés d'une fusée additionnelle Rocketdyne LR121/AR-2-NA-1 de 2 700 kgp ont été utilises par la NASA pour l'entraînement des astronautes à des altitudes allant jusqu'à 120 800 ft (36 820 m). Un accident qui eut lieu sur un NF-104A le 10 décembre 1963 avec Chuck Yeager aux commandes est librement décrit dans l'Étoffe des héros, l'appareil utilisé dans le film n'étant néanmoins pas un véritable NF-104A.
22 F-104A ont été convertis en drones et avions d'essais radio-guidés.
Version biplace à double commande d'entraînement du F-104A construite à 26 exemplaires. Malgré l'absence de canon interne et une capacité en carburant réduite, le F-104B était apte au combat. En service dans l'USAF aux côté des F-104A, quelques exemplaires ont également été exportés vers la Jordanie, le Pakistan et Taïwan.
77 exemplaires de ce chasseur-bombardier ont été construites pour le Tactical Air Command de l'USAF. Le F-104C qui pouvait être ravitaillé en vol possédait un radar de tir amélioré AN/ASG-14T-2, cinq pylônes avec la capacité d'emporter une bombe nucléaire Mk 28 ou Mk 43 sur le pylône central. Le 14 décembre 1959, un F-104C a battu le record du monde d'altitude en atteignant 31 515 mètres (103 395 ft)
Version biplace d'entraînement à double commande du F-104C construite à 21 exemplaires.
20 exemplaires de cette version biplace d'entraînement à double commande du F-104J pour la force aérienne d'autodéfense japonaise ont été construits par Lockheed et assemblés par Mitsubishi.
Les 30 exemplaires de cette version dérivée du F-104D ont été construits pour l'Allemagne comme solution provisoire. Ne possédant pas de radar ni pas de capacité au combat, ils ont tous été retirés du service en 1971.
1 122 exemplaires de ce chasseur-bombardier multirôle ont été construits par Lockheed et sous licence par Canadair et un consortium de compagnies européennes comprenant MBB, Messerschmitt, Fiat, Fokker et SABCA. Le F-104G présentait un fuselage et une structure renforcés avec une capacité en carburant augmentée, une dérive verticale agrandie, un train d'atterrissage renforcé avec des pneus plus grands et des volets agrandis pour une meilleure manœuvrabilité. L'avionique modernisée comprenait un nouveau radar Autonetics NASARR F15A-41B avec des modes air-air et air-sol et une centrale de navigation inertielle Litton LN-3 (la première à être installée sur un chasseur de production) ainsi qu'un viseur infrarouge.
Cette version de reconnaissance du F-104G construite à 189 exemplaires emportait habituellement trois caméras KS-67A montées à la place du canon.
Cette version biplace d'entraînement du F-104G construite à 220 exemplaires ne possédait ni canon, ni pylône central et avait une capacité d'emport de carburant réduite, mais était néanmoins apte au combat. Un exemplaire de Lockheed portant l'immatriculation civile « N104L » permit (avant son transfert à la force aérienne néerlandaise) à Jacqueline Cochran de battre trois records de vitesse féminins en 1964.
Ce projet d'une version export simplifiée du F-104G ne fut jamais construite.
Le F-104J était une version du F-104G spécialisée pour l'interception et la supériorité aérienne construite sous licence par Mitsubishi pour la force aérienne japonaise. Sans capacités d'attaque au sol, les F-104J étaient armés d'un canon et de quatre missiles Sidewinder. Quelques-uns furent convertis en fin de carrière en drones radio-contrôlés UF-104J et détruits. Sur les 210 F-104J produits, 3 ont été construits par Lockheed, 29 construits par Mitsubsihi à partir de composants livrés par Lockheed et 177 entièrement construits au Japon par Mitsubishi.
Trois F-104G ont été livrés à la NASA en 1963 pour être utilisés en tant qu'avions d'accompagnement à haute vitesse. L'un d'entre eux, piloté par Joe Walker, entra en collision avec un XB-70 le 8 juin 1966.
Le F-104S, version italienne produite par Fiat, a été produit à 246 exemplaires, un appareil qui s'était écrasé avant la livraison étant souvent non compté dans le décompte total des appareils produits. Le F-104S était optimisé pour l'interception avec un radar NASARR R-21G/H avec indicateur de cible mobile et une onde d'illumination continue pour des missiles à guidage semi-actifs (initialement des AIM-7 Sparrow, deux pylônes d'emport supplémentaires sous les ailes et sous le fuselage (portant le total à neuf points d'emport externes), un réacteur J79-GE-19 plus puissant de 5 384/8 200 kgp de poussée, ainsi que deux dérives ventrales pour augmenter la stabilité. Le canon M61 était sacrifié pour faire de la place à l'avionique pour les missiles mais retenu dans la version optimisée pour l'attaque au sol. Jusqu'à deux Sparrow et deux missiles Sidewinder (en théorie jusqu'à quatre ou six) étaient portés sous les points d'emports des ailes. Les points d'emports ventraux étaient réservés pour sept bombes de 340 kg ou deux et quatre bombes de 227 et 340 kg.
La masse maximale au décollage du F-104S était plus importante, lui permettant d'emporter jusqu'à 3 400 kg de charges (contre 1 814 kg pour les autres versions du Starfighter). Le rayon d'action pouvait aller jusqu'à 1 250 km avec quatre réservoirs supplémentaires.
147 F-104S ont été modernisés en F-104S-ASA (Aggiornamento Sistemi d'Arma – « Modernisation du système d'arme ») avec un radar Fiat R21G/M1 avec des capacités de visée et de tir vers le bas, un nouveau système IFF et un ordinateur de gestion des armes, ainsi que de nouveaux missiles AIM-9L Sidewinder et Selenia Aspide.
49 F-104S-ASA ont été portés au standard F-104S-ASA/M (Aggiornamento Sistemi d'Arma/Modificato) en 1998 avec la mise en place d'un GPS, un nouveau TACAN LN-30A2 INS, une structure renforcée et un cockpit amélioré. Tous les équipements relatifs à l'attaque au sol sont retirés. Derniers F-104S en service actifs, ils furent remplacés en décembre 2004 par des F-16 en attendant l'arrivée des Eurofighter Typhoon.
200 exemplaires de cette version optimisée pour l'attaque nucléaire ont été construits sous licence par Canadair. Équipés d'un radar R-24A avec un mode air-air, ils étaient construits sans canon (réinstallé après 1972) et disposaient de réservoirs de carburant internes supplémentaires pour leur réacteur Canadian J-79-OEL-4 de 4 535/7 150 kgp.
38 appareils de cette version biplace d'entraînement du CF-104 ont été construits par Lockheed motorisés avec un Canadian J-79-OEL-7. Quelques uns ont été transférés ultérieurement aux forces aériennes du Danemark, de la Norvège et de la Turquie.