La localisation n'est pas difficile : Sirius étant l'étoile la plus brillante du ciel nocturne, la seule difficulté peut être son identification.
Sirius se situe sur l'hexagone d'hiver, centré sur Orion, dont il occupe l'angle sud-est. Cette étoile est dans le prolongement sud des "trois rois mages" qui forment le baudrier d'Orion.
Les principales étoiles forment un trapèze nettement reconnaissable, avec bien sûr Sirius qui marque le cou du chien (probablement sa médaille brillante), plus au Sud Wezen (δ CMa) qui marque la base de la queue, et les deux pattes marquées par Murzim (β CMa), la patte avant, et Adhara (ε CMa), la patte arrière.
On distingue assez facilement le bout de la queue, Aludra (η CMa), située dans l'alignement du dos.
Le reste de la constellation est assez peu visible. La tête du chien forme un triangle peu lumineux au-dessus de Sirius, et ses pattes arrières se prolongent pour encadrer la constellation de la Colombe.
Il n'y a pas beaucoup d'objets célestes dans la constellation du Grand Chien. En dessous de Sirius se trouve néanmoins l'amas ouvert M41, de magnitude 4,6.
En 2003 fut découverte une petite galaxie irrégulière dite du Grand Chien, située à seulement 13 kpc de la Galaxie (donc, à quelques centaines de parsecs de l'extérieur du disque), la plus proche connue à l'heure actuelle.