Quelle que soit sa taille, un bateau comprend toujours divers éléments constitutifs. On trouve un flotteur, solide fermé assurant l'étanchéité, constitué principalement de la coque et éventuellement d'un pont la recouvrant. Il dispose d'un système propulsif, souvent d'un système directionnel. Suivant l'utilisation du bateau, on trouve ensuite divers locaux, espaces, machines et équipements lui permettant d'assurer sa fonction.
Le flotteur (la coque) doit avoir pour première caractéristique d'être plus léger que le poids d'eau correspondant à son volume, afin que la poussée d'Archimède lui permette de flotter. La coque peut prendre plusieurs formes, de simples rondins de bois assemblés pour constituer un radeau, aux coques composites des voiliers de compétition. Il peut y avoir une seule coque (monocoque), deux (catamaran), trois (trimaran) mais rarement plus, bien que certaines expériences soient tentées avec des pentamarans comme futurs navires de commerce. Les coques sont en général parallèles les unes aux autres, et reliées par des bras.
La coque est divisée en plusieurs éléments: l'étrave est la partie la plus à l'avant, le brion est la partie avant sous la flottaison; la quille ou la ligne de quille le prolonge sur sa longueur; l'arrière est formé d'un étambot et d'un tableau arrière. La coque comporte souvent des appendices servant à la propulsion (hélice), à la giration (gouvernail), à la stabilité (quilles de roulis), à l'hydrodynamisme (bulbe d'étrave) ou aux fonctions du navire (apparaux de pêche, dôme sonar). La flottaison sépare les œuvres vives en dessous et les œuvres mortes au-dessus.
La coque supporte enfin les différentes contraintes: contraintes hydrostatiques puisqu'elle doit supporter le poids du bateau, souvent inégalement réparti; contraintes hydrodynamiques provenant du choc des vagues; elle doit aussi prévenir le naufrage en cas de collision ou d'échouement. Elle est ainsi souvent doublée sur les plus gros navires cargos. La coque est construite en bois pour les navires anciens et certains bateaux de plaisance, en acier pour la majorité des navires de commerce, en aluminium pour les navires rapides, en plastique pour de nombreux bateaux de plaisance et en composite pour les voiliers rapides.
Si le système propulseur peut être constitué d'une simple pagaie, on trouve aussi sur les grands cargos, les plus gros moteurs Diesel au monde. La propulsion relève de trois catégories: propulsion humaine, propulsion vélique et propulsion mécanique. La propulsion humaine comprend la perche, encore utilisée en zone marécageuse, l'aviron (sport) utilisé en compétition et historiquement sur les galères, la pagaie, la godille et le pédalo. Actuellement ces systèmes sont réservés aux petites embarcations ou comme propulsion d'appoint sur les petits voiliers.
La propulsion vélique s'effectue au moyen de voiles dressées sur un ou des mât(s), supportées par des espars et contrôlées par des cordages. Historiquement le système le plus employé jusqu'au XIXe siècle, il est maintenant réservé à la plaisance, aux régates et aux grands voiliers d'apparât. Cependant, des systèmes expérimentaux sont testés afin de réaliser des économies de carburant sur les grands navires, tels que la turbovoile ou le cerf-volant de traction.
La propulsion mécanique comprend un moteur et un propulseur. Le moteur s'est d'abord développé avec la machine à vapeur, maintenant remplacée dans la plupart des utilisations par des moteurs Diesel deux-temps ou quatre-temps, par un moteur hors-bord à essence sur les petites unités, par une turbine à gaz sur les navires rapides (NGV, frégates...), ou par un groupe diésel-électrique pour des applications avancées. Certaines machines avancées combinent deux systèmes, comme le CODAG pour Combined Diesel and Gas (moteur Diesel et turbine à gaz combinés, sur les navires de guerre). Des moteurs électriques ont parfois été utilisés, par exemple sur des paquebots. Enfin, l'énergie nucléaire est employée sur des navires de guerre et les brise-glaces.
Le propulseur le plus courant est l'hélice et ses diverses variantes: hélices jumelles, contra-rotatives, à pas variable, en tuyère... un petit bateau comprend souvent une seule hélice et un porte-avions en utilise jusqu'à quatre, complétées par des propulseurs d'étrave ou de poupe. La puissance est transmise aux hélices par un arbre d'hélice relié éventuellement à un réducteur. Les hélices peuvent être montées sur des supports externes (Z-drive, pods) ou remplacées par un système similaire (propulseur Voith-Schneider, hydrojets). Il existe enfin des systèmes expérimentaux (propulsion magnétohydrodynamique, à réaction) dont l'utilisation est réservée aux applications militaires ou aux records de vitesse.
Sur un bateau à propulsion humaine, un système pour contrôler la direction peut ne pas être nécessaire. Il le devient en cas de propulsion mécanique ou vélique. Le dispositif le plus courant est un gouvernail constitué d'un safran, plan immergé à l'arrière de la coque, pouvant être braqué pour générer une force latérale servant à faire tourner le bateau. Le safran est braqué par la barre, actionnée manuellement ou par un pilote automatique. Le gouvernail peut être supprimé quand le propulseur est orientable : moteur hors-bord, pods ou Z-drive.
En appoint, les propulseurs d'étrave permettent de faire éviter (tourner) le bateau à faible vitesse, par exemple dans les ports ou pour le positionnement dynamique d'un FPSO. Les voiles situées aux extrémités d'un voilier ont également un rôle plus directionnel que propulsif.
Dès qu'il atteint une certaine taille, de l'ordre de huit mètres de longueur, un bateau possède souvent un ou plusieurs pont(s) fermant la coque et divisant l'espace horizontalement. Sur un voilier de plaisance, ils serviront à délimiter une cabine pour l'habitation; sur un bateau plus grand (bateau de pêche ou de commerce), on trouvera une ou plusieurs cales abritant les marchandises, une salle des machines pour l'appareil propulsif, divers locaux permettant le travail, et des cabines pour l'équipage. Des réservoirs permettent de stocker le carburant, l'huile de moteur et l'eau douce. Enfin, des ballasts sont aménagés afin d'équilibrer le navire.
Au-dessus du pont principal, on trouve diverses superstructures dont la fonction est parfois esthétique. Elles sont en général très basses sur un voilier, entièrement à l'arrière sur un navire de charge, s'étendant sur toute la longueur pour un navire des passagers, ou divisées en plusieurs éléments sur les grands voiliers.
Si chaque type de bateau a ses équipements propres (se reporter à chaque article pour les détails), certains équipements sont communs à de nombreux types:
Finalement, à partir d'une certaine taille, tout bateau emporte une embarcation de sauvetage ou un radeau de sauvetage assurant la sécurité des personnes en cas de naufrage.