Primul submarin a fost proiectat in 1578
William Bourne, un matematician britanic, a desenat planurile pentru un submarin in 1578. Insa a fost doar in 1620 cand Cornelius van Drebbel, un inventator danez, a reusit sa construiasca un submarin. El a invelit o barca cu vasle, strans intr-o piele impermeabila si i-a montat tuburi de aer pana la suprafata pentru a-i furniza oxigen. Bineinteles, nu existau inca motoare, asa ca vaslele traceau prin niste teci cu garnituri de piele. A facut prima calatorie cu 12 vaslasi in raul Tamisa - stand in submersie 3 ore.
Primul submarin utilizat in scopuri militare a fost construit de David Bushnell (1742-1824) sin SUA. A sa "Broasca Testoasa" era un momopost din lemn pus in miscare de un propulsor invartit de mana. Era in timpul Revolutiei Americane impotriva vaselor de razboi britanica Broasca se apropia de vasele inamice partial sub apa pentru a le atasa explozibil de carena. Broasca a functionat bine insa explozibilii nu.
Doi inventatori rivali din SUA au pus la punct primul submarin adevarat in anii 1890. Marina militara SUA a cumparat submarine construite de John P Holland, in timp ce rusia si Japonia pentru cele proiectate de Simon Lake. Submarinele lor foloseau benzina sau motoare cu aburi pentru croaziera de la suprafata si motoare electrice pentru calatoria de sub apa. Ei au inventat de asemenea si torpilele actionate de motoare electrice mici, introducand astfel cele mai periculoase arme din lume.
Submarinele se mai numesc U-boat, care este prescurtarea pentru Unterseeboot, cuvantul german pentru barca sub apa.
Primul submarin cu propulsie nucleara, USS Nautilus, a fost lansat in 1955. In 1958 Nautilus a facut prima calatorie sub calota polara, terminand calatoria de 2945 km (1,830 mile) in 6 zile.
Primul inconjur submersibil al Pamantului a fost facut in 1960 de submarinul nuclear USS Triton.