La ville fut fondée par les Parthénies, des exilés spartiates, en 706 av. J.-C. et se développa et devint ville souveraine de la Grande Grèce (dans les colonies grecques du sud de l'Italie). Des luttes incessantes l’opposèrent aux populations d’Apulie. Tarente atteignit son apogée au IVe siècle av. J.-C. et exerça alors une véritable hégémonie sur la Grande Grèce, aussi bien sur le plan politique, qu'économique et culturel. C'était la seule cité à posséder une grande rade bien abritée. Aussi devint-elle un centre important de commerce maritime et de pêche. Au IVe siècle av. J.-C., Tarente vit les plus grands pythagoriciens : Philolaos très probablement (vers -400), Lysis, Archytas, Eurytos.
En 212 av. J.-C., Tarente passe sous l’autorité d’Hannibal, ce qui lui vaudra, une fois reprise, d’être mise à sac par les troupes de Fabius Cunctator. Les Romains en firent la conquête définitive en 209 av. J.-C., mais la paix avec la ville ne fut faite qu'à partir de 123 av. J.-C.. Après la conquête romaine, elle vit son importance décroître, les Romains lui préférant Brindisi.
Suites aux guerres avec les Goths, l'Empire byzantin l'a reconquise en 540.
Elle fut successivement conquise en 661 par les Lombards, les Sarrasins, et enfin par le normand Robert Guiscard, en 1063. Plus tard, elle partagea le sort du royaume de Naples.
De 1806 à 1815, Tarente, dont les travaux de fortifications avaient été confiés au général Soult, fut une base navale française très importante dans la guerre contre les Anglais et les Russes. Le titre de duc de Tarente fut donné par Napoléon au maréchal Macdonald (1765-1840).
En 1940, lors de la Seconde Guerre mondiale, la flotte de la Regia Marina italienne, mouillée dans le port de Taranto, subit de grosses pertes suite à un bombardement massif de la flotte aérienne de la Royal Navy britannique (Bataille de Tarente (1940)).
Tarente est la ville la plus polluée d'Italie et d'Europe Occidentale à cause des poisons des industries qui se répandent sur son territoire. La pollution de Tarente provient seulement à 7 % des citoyens, le reste, soit 93 %, est d'origine industrielle. À Tarente chacun des 200 000 habitants respire chaque année 2,7 tonnes de monoxyde de carbone et 57,7 tonnes de dioxyde de carbone.
L'industrie sidérurgique de Tarente a vu le jour vers 1965 et est aujourd'hui une des plus importantes d'Europe grâce au complexe sidérurgique ILVA et à la raffinerie de la société Shell. Toutefois, cette industrie est très polluante et très peu de mesures ont été prises par le gouvernement tant national que local pour combattre la pollution. Celle-ci a des conséquences très néfastes sur la population. Dès 1997, des cas de néoplasie ont été mis en évidence. En 1999, un parlementaire italien a demandé par une question écrite à la Commission Européenne si elle était au courant de cette situation et si elle avait l'attention de prendre des mesures en la matière. Celle-ci a répondu qu'elle n'était pas au courant et que la directive 84/360/CEE du Conseil du 28 juin 1984 relative à la lutte contre la pollution atmosphérique en provenance des installations industrielles ne fixant aucune valeur limite d’émission pour les substances polluantes, il n’était pas possible de conclure qu’il y a eu infraction à la législation communautaire.
Dix ans plus tard, en octobre 2008, des résultats publiés par INES, l'Inventaire National des Emissions et de leur Augmentation (Inventario nazionale delle emissioni e loro sorgentioni) a estimé que Tarente est comparable à la chinoise Linfen, appelé «Toxic Linfen» et la roumaine Copşa Mică, les villes les plus polluées au monde pour les émissions industrielles.
La présence de dioxine est particulièrement problématique à Tarente. On y produit 92 % de la dioxine italienne et 8,8 % des émissions totales européennes. En dix ans leucémies, lymphomas et myelomas ont augmenté du 30-40 %. La dioxine va s'accumuler dans le temps et à Tarante on estime la quantité répandue à 9 kg, trois fois la quantité présente à la catastrophe de Seveso (la ville contaminée par une fuite de dioxine en 1976)
Le 21 octobre 2008, un article paru dans le journal italien Corriere della Sera a dénoncé publiquement la situation catastrophique de Tarente et le manque de mesures prises pour combattre cette pollution. L'association italienne contre la leucémie a mis en ligne une pétition pour protester contre le manque d'action.