Précision numérique

La précision d'une valeur numérique est le nombre de chiffres utilisés pour afficher cette valeur.

Tous les nombres dans l'entrée et les littéraux numériques, dans des règles de mappe, sont convertis en précision multiple ; ils sont également convertis au format requis en phase de sortie.

  • Si le nombre en précision multiple n'est pas en dépassement, mais n'est pas adapté à la taille maximale d'un élément numérique, cet élément est complété par le caractère dièse (#) jusqu'à sa taille maximale.
  • Un dépassement arithmétique est reconnu lorsqu'une expression arithmétique contient :
    • Division par zéro
    • Un nombre en précision multiple supérieur à 1.0E254

Le dépassement arithmétique est prévu dans l'objet en sortie avec dix caractères dièse (#) au maximum.