precision

Uso

view: view_name {
  measure: field_name {
    precision: 10 
  }
}

Hierarquia Visualizar arquivo view Tipo de campo precision

Tipos de campo possíveis Medida Valor padrão 6 Aceita Um número inteiro

Definição

Em Análises em que as junções de divergência podem causar resultados incorretos para funções agregadas, o Looker aplica a lógica de agregados simétricos para retornar cálculos corretos.

Para campos agregados em que a lógica de agregação simétrica é aplicada, o Looker retorna seis dígitos após o separador decimal por padrão. Use o campo precision para mudar o número de dígitos após o separador decimal:

• Defina o valor de precision como 7 ou maior se precisar de mais dígitos após o separador decimal para seus cálculos.

• Defina o valor de precision como 5 ou menor ao trabalhar com números muito grandes para evitar o estouro do limite decimal no banco de dados.

  Importante: a agregação simétrica em medidas com números grandes maiores que 14 dígitos pode causar erros, como value overflow or collision when computing sum quando precision é definido como maior que 5.

Para mais informações sobre conjuntos simétricos, consulte a página Práticas recomendadas para entender agregados simétricos Understanding symmetric aggregates.

**Observação**: o parâ4metro precision se aplica apenas a cálculos com a funcionalidade de agregação simétrica do Looker. Se você quiser mudar a precisão decimal dos valores de campo na tabela de dados e na visualização, use o parâmetro value_format em vez disso.

Exemplos

Este exemplo cria um campo chamado average_value calculando a média da dimensão value e mantendo uma precisão de 10 dígitos após o separador decimal:

measure: average_value {
  type: average
  precision: 10
  sql: ${value} ;;
}