Im Laufe der Geschichte wurde oft daran gedacht, ein unter der Wasseroberfläche fahrendes Schiff zu bauen, denn auch ein "normales" Schiff liegt ja teilweise unter Wasser. Die Probleme lagen darin, dass der Rumpf absolut wasserdicht sein musste, sämtliche Öffnungen und Luken mussten absolut abgedichtet sein, weiterhin Antrieb und Steuerung - gerade zum kontrollierten Ab- und Auftauchen - warfen weitere Fragen auf; schließlich musste die Besatzung während der Tauchgänge mit ausreichender Atemluft versorgt sein. Die ersten Konstruktionen nahmen die menschliche Muskelkraft zum Antrieb, was die Leistung ziemlich begrenzte, zudem wurden die Luftvorräte rasch aufgebraucht.
Mit der Erfindung des Verbrennungsmotors und der Druckluft bekam man eine erste brauchbare Alternative zur Verfügung gestellt, weil der Motor den ersten wirklich brauchbaren Antrieb darstellte und durch die damit erzielte Druckluft eine längere Versorgung der Besatzung mit Atemluft gestattete. Nun wurde aber anfangs der praktische Nutzen solcher Unterwasser-Boote nicht gesehen, bis militärische Strategen die wahre Einsatzmöglichkeit dieser Fahrzeuge erkannten.
Eines der ersten entwickelten U-Boote, die mit einer Dampfmaschine angetrieben wurde
Wichtige Leistungsmerkmale der U-Boote sind Geschwindigkeit, Tauchdauer und -tiefe. Für U-Boote wird eine sichere Tauchtiefe angegeben, die zwar ein wenig erhöht werden kann (kritische Tauchtiefe), aber schnell die Zerstörungstiefe erreicht, in der der unter Wasser herrschende Druck die Bootshülle zusammendrückt.
Das U-Boot besteht aus einer röhrenförmigen Druckhülle, in der die Mannschaft und die empfindlichen Komponenten untergebracht sind; die unempfindlichen Komponenten sind außerhalb dieser Druckhülle oder sogar außen am Boot angebracht.
Bis zum Ende des 2. Weltkriegs waren die U-Boote eher Überwasserboote, die auch tauchen konnten, die Hülle war eher für eine schnelle schlingerfreie Überwasser-Fahrt und nicht stromlinienförmig für eine schnelle Unterwasser-Fahrt konzipiert.
Das nächste Problem war das kontrollierte Ab- und Auftauchen der U-Boote. Erste Versuche mit seitlich am Boot befestigten Säcken mit Steinen verliefen nicht durchgehend positiv. Man suchte also nach einer passenden Methode zur Steuerung der Tauchtiefe. Anfangs dachte man, die Verdrängung durch verschiebbare Rumpfteile zu ändern, aber letztendlich setzte sich die Idee durch, am Rumpf befestigte Kammern zu nutzen, die mithilfe Wasser- bzw. Luftzufuhr in diese Kammern die Tauchtiefe beeinflussten. Je mehr Wasser man in diese Tanks liess, umso schwerer wurde das Boot und begann zu sinken. Bei Luftzufuhr wurde das Boot leichter und bekam Auftrieb. Wenn man den Luft- und Wasser-Anteil der Tiefe angemessen ausgewogen einstellte (Trimmen), konnte man den Auftrieb des U-Bootes auf null stellen und das U-Boot schwebte in der momentanen Tiefe. Während das Hauptruder die Fahrtrichtung bestimmt, kann mit dem Tiefenruder mit veränderbaren Anstellwinkel (bei entsprechender Geschwindigkeit) die Tauchtiefe beeinflusst werden.
Tauch-Prinzip
Der Antrieb war das nächste Problem. Über Wasser nutzte man den Wind oder mit Rudern die menschliche Kraft, aber unter Wasser herrschte ziemlich selten Wind (höchstens eine Strömung) und Ruder konnte man unter Wasser auch nicht zum Ansetzen eines neuen Ruderschlags aus dem Wasser heben. So kam man auf die Idee Schrauben und Propeller einzusetzen, wobei sich bei der Umsetzung der Muskel-Kraft die Schraube durchsetzte und auch später bei der Verwendung von Motoren beibehalten wurde. Bei der Verwendung von Dampfmaschinen kam es zu einer unerträglichen Hitzeentwicklung an Bord, so dass diese Antriebs-Möglichkeit verworfen wurde. So kamen dann Verbrennungsmotoren (Diesel oder Petroleum) zum Einsatz, wobei herausgefunden wurde, dass es sinnvoller war, Elektromotoren zwischenzuschalten; Die Batterien dieser Elektromotoren wurden von den Dieselmotoren aufgeladen. Unter Wasser wurde im Batterie-Betrieb gefahren, was weniger Lärm machte und weniger Luft verbrauchte, aber das U-Boot unter Wasser auch erheblich langsamer machte. Durch die Erfindung des Schnorchels für U-Boote konnten diese auch unter Wasser Luft ansaugen und so noch mobiler unter Wasser werden. Erst der Einsatz von Nuklear-Energie machte die U-Boote unabhängig von der Luftzufuhr von außen; ein Atom-U-Boot kann monatelang andauernd unter Wasser bleiben, weil auch die Atemluft durch entsprechenden Anlagen aufbereitet wird.
Die Navigation unter Wasser war ein weiteres Problem, da die Sicht unter Wasser sehr schlecht ist. Es wurden Schallwellen ausgesandt, die von der Umgebung reflektiert und mit Sensoren aufgefangen wurden und so ein Abbild der Umgebung angezeigt wird. Dieses System wurde das "Sonar-System" (sound navigation and ranging) genannt. Es kann aktiv und passiv genutzt werden. Das passive Sonar eignet sich zur Suche nach feindlichen Fahrzeugen, wenn man selbst aber nicht geortet werden will. Zusammen mit den Hydrophonen können die Geräusche der Umgebung aufgenommen und zu einem Abbild der Umgebung verarbeitet werden ohne selbst Schallwellen auszusenden.
Nun mussten die U-Boote ja auch irgendwie in den Kampf eingreifen können; also musste auch eine Bewaffnung her. Erst seit der Entwicklung von voll gekapselten und somit weniger feuchtempfindlichen Geschossen konnte Kanonen an der Oberfläche montiert werden. Solche Angriffe mit den Deckgeschützen war aber wenig effizient. Die U-Boote brauchten Unterwasser-Waffen. Einige Boote legten Minen aus, aber die gängigste Unterwasser-Waffe war der Torpedo, ein mit Eigenantrieb ausgestattetes Unterwasser-Geschoss. Sie werden von den U-Booten abgefeuert und explodieren je nach Bauart beim Auftreffen an den Schiffsrumpf oder unterhalb des zu treffenden Schiffes. Die ersten Torpedos waren ungelenkt, so dass der Kapitän berechnen musste, wie lange der Torpedo läuft und wie schnell das Ziel sich bewegt, um so den richtigen Zielpunkt zu errechnen. Die Fehlerquote der ungelenkten Torpedos war ziemlich hoch; moderne Torpedos suchen sich ihr Ziel selbst oder können vom U-Boot aus gelenkt werden. Moderne U-Boote können aus ihren Torpedoröhren oder aus speziellen Kammern Raketen abgefeuert werden.