precision

Utilisation

view: view_name {
  measure: field_name {
    precision: 10 
  }
}

Hiérarchie Afficher le fichier view Type de champ precision

Types de champs possibles Mesure Valeur par défaut 6 Acceptation Nombre entier

Définition

Dans les explorations où les jointures de sortance peuvent entraîner des résultats incorrects pour les fonctions d'agrégation, Looker applique une logique d'agrégation symétrique pour renvoyer des calculs corrects.

Pour les champs agrégés auxquels une logique d'agrégation symétrique est appliquée, Looker renvoie par défaut six chiffres après la virgule. Utilisez le champ precision pour modifier le nombre de chiffres après la virgule :

• Définissez la valeur de precision sur 7 ou plus si vous avez besoin de plus de chiffres après la virgule pour vos calculs.

• Définissez la valeur de precision sur 5 ou moins lorsque vous travaillez avec des nombres très élevés, afin d'éviter de dépasser la limite décimale de votre base de données.

  Important : L'agrégation symétrique sur des mesures comportant des nombres élevés de plus de 14 chiffres peut entraîner des erreurs telles que value overflow or collision when computing sum lorsque precision est défini sur une valeur supérieure à 5.

Pour en savoir plus sur les agrégations symétriques, consultez la page Bonnes pratiques pour comprendre les agrégations symétriques.

Remarque : Le paramètre precision ne s'applique qu'aux calculs avec la fonctionnalité d'agrégation symétrique de Looker. Si vous souhaitez modifier la précision décimale des valeurs de champ dans le tableau de données et la visualisation, utilisez plutôt le paramètre value_format.

Exemples

Cet exemple crée un champ appelé average_value en calculant la moyenne de la dimension value et en conservant une précision de 10 chiffres après la virgule :

measure: average_value {
  type: average
  precision: 10
  sql: ${value} ;;
}