Pour connaître la hauteur vraie Hv de l'astre, il convient de corriger Hm d'un certain nombre d'erreurs:
- ε: l’excentricité du sextant, invariable (défaut de construction)
- c: la collimation du sextant (lorsqu'on vise l'horizon, on doit lire 0°, ce qui est rarement le cas. On règle le sextant pour que cette erreur soit la plus faible possible).
- d: la dépression de l’horizon, fonction de la hauteur de l’œil de l’observateur, donnée par les éphémérides. Plus l'observateur est haut, plus il verra l'astre se lever tôt ou se coucher tard.
- R: la réfraction astronomique, liée à l'atmosphère terrestre
- P: la parallaxe (négligeable pour les étoiles et les planètes), due au fait que l'observateur se suppose au centre de la terre. En pratique cette correction n'existe que pour la Lune.
- δ , le demi-diamètre (apparent) de la lune ou du soleil, affecté du signe + si on a visé le bord inférieur, du signe - si on a visé le bord supérieur.
Alors on a : \[\boxed{h_v = h_m + \epsilon + c - d - R + P +/- \delta}\]
Excentricité ε
C'est un défaut de construction de l'outil.
On ne peut pas corriger cette erreur car elle est difficilement quantifiable.
Collimation c
L'erreur instrumentale du sextant est due à un mauvais alignement des graduations du sextant. Il est possible de corriger cette erreur par des ajustements, mais elle varie suivant le soin apporté à son utilisation. Il est plus facile de lire cette erreur, et d'apporter une correction à la hauteur observée.
Pour lire la collimation du sextant, réglez le curseur sur 0°00.0' et visez l'horizon.
Il faut tourner le tambour jusqu'a ce que l'horizon forme une ligne continue. Voici ci-contre des exemples de positions du tambour pour corriger ce défaut. Attention au signe de la correction!! Si la correction instrumentale est +2 alors la correction c à apporter sera -2.
La dépression
Un observateur situé en altitude verra un astre avec une hauteur supérieure à celle observée s'il était au niveau de la mer, tout en restant au même endroit. Cette erreur est appelée Élévation de l'œil ou dépression. Sur les petits bateaux, la chose n'est pas critique. Mais si vous êtes sur le pont d'un navire important, cela le devient. Cette erreur n'existe pas dans le cas de l'utilisation d'un horizon artificiel.
La réfraction
Les couches denses de l'atmosphère dévient les rayons lumineux, surtout proche de l'horizon (d'ailleurs cette erreur devient nulle lorsqu'on observe au zénith). Cette correction à apporter à Hm est la plus importante de toutes et est malheureusement difficilement quantifiable. Elle dépend de la hauteur de l'astre au-dessus de l'horizon, puis dans une moindre mesure de la température de l'air et de la pression atmosphérique;
La parallaxe
L'observation des hauteurs devrait se faire depuis le centre de la terre.
Les étoiles en général sont considérées comme étant à l'infini, cette erreur de parallaxe devient alors négligeable.
Cette erreur n'est appréciable que pour la Lune, le Soleil et quelques planètes.
Le demi-diamètre
Cette erreur n'existe que pour la Lune et le Soleil. Les autres astres sont considérés comme étant ponctuels (des points).
Le diamètre apparent du Soleil (angle sous lequel on le voit depuis la Terre) n'est plus négligeable, contrairement aux étoiles. Il est d'environ 32' en fonction de sa distance à la Terre.
La Lune est plus petite, mais elle est aussi beaucoup plus proche de la Terre. Son diamètre apparent n'est plus négligeable, et il est de l'ordre de 32' lui aussi.
Parce qu'on ne mesure pas la hauteur du centre du Soleil ni de la lune (manque de précision), mais de son bord inférieur ou supérieur par rapport à l'horizon, il faut ajouter ou soustraire l'angle du 1/2 diamètre correspondant à environ 16'.
En fonction de la documentation utilisée, ces corrections d'erreur sont regroupées ou non. Il faut donc connaître sa documentation. Le principe de fonctionnement reste le même.
4 corrections d'angles regroupées
Certains éditeurs (par exemple l'almanach du marin Breton) ont groupé 4 corrections pour les mettre dans 1 seul tableau. Il s'agit pour:
- le Soleil
- la réfraction
- la dépression
- la parallaxe
- le demi-diamètre
- Les planètes et étoiles (mais par pour la lune)
- la réfraction
- la dépression
Effectivement, il n'y a pas de correction de demi-diamètre (astre considéré comme ponctuel), ni de parallaxe (l'astre est considéré comme étant à l'infini)
Ainsi il ne reste plus qu'a intégré l'erreur de collimation, qui est propre à chaque instrument.
Le 15 janvier, on relève la Hauteur du Soleil au sextant: Hm=59°26,3' ;
l'erreur instrumentale lue sur le tambour est de 5,2' ;
l'œil de l'observateur est à 2 m au-dessus de l'eau. Quelle est la hauteur vraie?
Altaïr : Hm 61°08,4' ;
erreur sextant lue sur le tambour +8,1' ;
hauteur de l'œil 2,5m
Mars: Hm: 68°02,4'
en février 2008 (pour la correction de parallaxe)
erreur lue: 0,7'
hauteur de l'œil: 2,5m
;