Un arbre est généralement composé de racines, d'un ou plusieurs troncs principaux et de ramifications appelées branches.
Le tronc est unique mais il arrive parfois, suite à un accident de croissance, qu'il se dédouble ou qu'il soit fourchu. La sylviculture en taillis, qui coupe les arbres et laisse les souches bourgeonner, donne notamment des troncs multiples appelés « cépées ».
La partie basale du tronc qui est dégarnie de branches forme le fût. Sa zone circulaire inférieure faisant jonction avec les racines s'appelle le collet.
L'ensemble des branches forme le houppier. La silhouette d'un arbre est caractérisée par son ou ses fûts, l'angle des rameaux entre eux, la disposition des branches au départ du tronc ainsi que la forme générale de son houppier : on parle du port de l'arbre. Par exemple, un houppier triangulaire large à la base et en pointe au sommet caractérise de nombreux résineux.
Le tronc et les branches comportent sur leurs périphéries des cellules mortes appelées rhytidome ou écorce, celle-ci protège la partie vivante des branches et du tronc. Cette écorce peut être une simple petite pellicule ou être très épaisse chez certaines variétés : elle approche les 30 cm chez les séquoias.
La plupart des arbres possèdent des feuilles chargées d'assurer la photosynthèse et l'essentiel des échanges gazeux. Quelques espèces ont cependant, à la place des feuilles, d'autres organes qui peuvent leur ressembler et qui assurent les mêmes fonctions : certains acacias portent des phyllodes qui sont des pétioles transformés, certains euphorbes arborescents ont des rameaux nus chlorophylliens, les aiguilles des pins sont des pseudophylles (des fausses feuilles de formation secondaire) et les filaos possèdent des extrémités ressemblant à des tiges de prêles. En revanche, les aiguilles des sapins sont de vraies feuilles... en forme d'aiguilles.
À la surface des troncs apparaissent quelquefois aussi des « épicormiques » : bourgeons, amas, pousses épicormiques (poils, gourmands et branches gourmandes), picots, sphéroblastes et broussins ; ceux-ci apparaissent à partir de stimuli (lumière, blessures, infections, tensions, etc.) et évoluent avec l'âge de l'arbre et selon l'essence considérée.
Le bois est principalement constitué de vaisseaux.
Les feuilles de l'arbre permettent de produire, par photosynthèse, cellulose, hémicellulose et lignine.
Certaines cellules permettent à un arbre de se redresser au cours de sa croissance grâce à des agrégats de glycogène qui jouent le rôle de niveau à bulle.
Les records actuels des plus grandes hauteurs atteintes par des arbres sont détenus par des séquoias à feuilles d'if (Sequoia sempervirens) en Californie. L'individu le plus haut mesure 115,55 m, il a été baptisé Hyperion. Néanmoins c'est un Eucalyptus qui détient le record historique de hauteur avec approximativement 135 mètres.
Le plus vieil arbre connu en tant qu'organisme pourrait être un épicéa qui a germé en Suède, en 7158 avant JC, sur la montagne Fulu et n'a pas depuis cessé de grandir. En réalité, il s'agirait plutôt d'un des clones issu de la plante mère : l'âge exact de la partie visible n'est pas 9550 ans, mais l'analyse du bois sous-jacent (mort aujourd'hui) montre qu'il contient le même matériel génétique que la partie vivante et contemporaine de cet arbre.