РЕАЛЬНЫЙ тип android sqlite

Мне было интересно, сколько точных мест для десятичного числа в типе данных REAL в SQLite. Если это какая-то разница, я думаю, что версия 3 будет наиболее полезной для ознакомления.


android sqlite decimal floating-point
person Shervin    schedule 07.02.2014    source источник
comment
sqlite.org/datatype3.html. REAL: значение представляет собой значение с плавающей запятой, сохраненное как 8-байтовое число с плавающей запятой IEEE. en.wikipedia.org/wiki/Double-precision_format_floating-point   -  person Raghunandan    schedule 07.02.2014

Ответы (1)


arrow_upward
3
arrow_downward

В соответствии с этой документацией по sqllite REAL является числом с плавающей запятой из 8 байт, как описано в формат IEE с плавающей запятой он может занимать до 52 бит в дробях, что означает, что в 16-битной среде это будет 1.00000000000000002 ( наименьшее число больше 1) 16 знаков после запятой.

person Vivek Bajpai    schedule 07.02.2014
comment
Спасибо. Мне это было нужно. - person Shervin; 07.02.2014