Перейти к основному содержимому
Перейти к основному содержимому

Decimal, Decimal(P), Decimal(P, S), Decimal32(S), Decimal64(S), Decimal128(S), Decimal256(S)

Подписанные числа с фиксированной запятой, которые сохраняют точность при операциях сложения, вычитания и умножения. При делении младшие значащие цифры отбрасываются (не округляются).

Параметры​

  • P - точность. Допустимый диапазон: [ 1 : 76 ]. Определяет, сколько десятичных цифр может иметь число (включая дробную часть). По умолчанию точность равна 10.
  • S - масштаб. Допустимый диапазон: [ 0 : P ]. Определяет, сколько десятичных цифр может иметь дробная часть.

Decimal(P) эквивалентно Decimal(P, 0). Аналогично, синтаксис Decimal эквивалентен Decimal(10, 0).

В зависимости от значения параметра P Decimal(P, S) является синонимом:

  • P из [ 1 : 9 ] - для Decimal32(S)
  • P из [ 10 : 18 ] - для Decimal64(S)
  • P из [ 19 : 38 ] - для Decimal128(S)
  • P из [ 39 : 76 ] - для Decimal256(S)

Диапазоны Значений Decimal​

  • Decimal(P, S) - ( -1 * 10^(P - S), 1 * 10^(P - S) )
  • Decimal32(S) - ( -1 * 10^(9 - S), 1 * 10^(9 - S) )
  • Decimal64(S) - ( -1 * 10^(18 - S), 1 * 10^(18 - S) )
  • Decimal128(S) - ( -1 * 10^(38 - S), 1 * 10^(38 - S) )
  • Decimal256(S) - ( -1 * 10^(76 - S), 1 * 10^(76 - S) )

Например, Decimal32(4) может содержать числа от -99999.9999 до 99999.9999 с шагом 0.0001.

Внутреннее Представление​

Внутри данные представлены как нормальные подписанные целые числа с соответствующей длиной в битах. Реальные диапазоны значений, которые могут быть сохранены в памяти, немного больше, чем указано выше, и проверяются только при преобразовании из строки.

Поскольку современные процессоры не поддерживают 128-битные и 256-битные целые числа нативно, операции с Decimal128 и Decimal256 эмулируются. Таким образом, Decimal128 и Decimal256 работают значительно медленнее, чем Decimal32/Decimal64.

Операции и Тип Результата​

Двоичные операции над Decimal приводят к более широкому типу результата (с любым порядком аргументов).

  • Decimal64(S1) <op> Decimal32(S2) -> Decimal64(S)
  • Decimal128(S1) <op> Decimal32(S2) -> Decimal128(S)
  • Decimal128(S1) <op> Decimal64(S2) -> Decimal128(S)
  • Decimal256(S1) <op> Decimal<32|64|128>(S2) -> Decimal256(S)

Правила для масштаба:

  • сложение, вычитание: S = max(S1, S2).
  • умножение: S = S1 + S2.
  • деление: S = S1.

Для аналогичных операций между Decimal и целыми числами результат будет Decimal того же размера, что и аргумент.

Операции между Decimal и Float32/Float64 не определены. Если они вам нужны, вы можете явно привести один из аргументов, используя toDecimal32, toDecimal64, toDecimal128 или toFloat32, toFloat64 встроенные функции. Имейте в виду, что результат потеряет точность, и преобразование типов является вычислительно затратной операцией.

Некоторые функции по Decimal возвращают результат как Float64 (например, var или stddev). Промежуточные вычисления могут по-прежнему выполняться в Decimal, что может привести к различным результатам между Float64 и Decimal входами с одинаковыми значениями.

Проверки Переполнения​

Во время вычислений с Decimal могут происходить целочисленные переполнения. Избыточные цифры в дробной части отбрасываются (не округляются). Избыточные цифры в целой части приведут к исключению.

осторожно

Проверка переполнения не реализована для Decimal128 и Decimal256. В случае переполнения возвращается некорректный результат, исключение не генерируется.

Проверки на переполнение приводят к замедлению операций. Если известно, что переполнения невозможны, имеет смысл отключить проверки, используя настройку decimal_check_overflow. Когда проверки отключены и происходит переполнение, результат будет некорректным:

Проверки переполнения происходят не только при арифметических операциях, но и при сравнении значений:

См. также