precision

Uso

view: view_name {
  measure: field_name {
    precision: 10 
  }
}

Hierarquia Ver arquivo view Tipo de campo precision

Tipos de campo possíveis Medida Valor padrão 6 Aceita Um número inteiro

Definição

Nas análises detalhadas em que as junções de divergência podem causar resultados incorretos para funções de agregação, o Looker aplica a lógica de agregação simétrica para retornar cálculos corretos.

Para campos agregados em que a lógica de agregação simétrica é aplicada, por padrão, o Looker retorna seis dígitos após o ponto decimal. Use o campo precision para mudar o número de dígitos depois do ponto decimal:

• Defina o valor de precision como 7 ou mais se você precisar de mais dígitos após o ponto decimal para seus cálculos.

• Defina o valor de precision como 5 ou menos ao trabalhar com números muito grandes para evitar o estouro do limite decimal no seu banco de dados.

  Importante: realizar agregação simétrica em medidas com números grandes maiores que 14 dígitos pode causar erros, como value overflow or collision when computing sum, quando precision é definido como maior que 5.

Para mais informações sobre conjuntos simétricos, consulte a página de práticas recomendadas Entender conjuntos simétricos.

Observação: o parâmetro precision se aplica apenas a cálculos com a funcionalidade de agregação simétrica do Looker. Se você quiser mudar a precisão decimal dos valores de campo na tabela de dados e na visualização, use o parâmetro value_format.

Exemplos

Este exemplo cria um campo chamado average_value calculando a média da dimensão value e mantendo uma precisão de 10 dígitos após o ponto decimal:

measure: average_value {
  type: average
  precision: 10
  sql: ${value} ;;
}