Вопросы по теме 'floating-point'
Проверить, является ли число с плавающей запятой целым числом
Этот код работает (С# 3)
double d;
if(d == (double)(int)d) ...;
Есть лучший способ это сделать?
По внешним причинам я хочу избежать двойного приведения; какие хорошие способы существуют, кроме этого? (даже если они не так хороши)...
17159 просмотров
schedule
04.11.2022
Как проверить, является ли строка числом (с плавающей запятой)?
Как лучше всего проверить, может ли строка быть представлена в виде числа в Python?
В настоящее время у меня есть следующая функция:
def is_number(s):
try:
float(s)
return True
except ValueError:
return False...
1515214 просмотров
schedule
04.05.2023
Как мне выполнить тест на равенство для 80-битной плавающей запятой IEEE?
относится к:
сравнение чисел с плавающей запятой и двойных чисел IEEE на равенство
Следует ли сравнивать числа с плавающей запятой на равенство с относительной ошибкой
Самый эффективный способ для плавающего и двойного сравнения...
386 просмотров
schedule
04.10.2022
Почему toPrecision возвращает строку?
Посмотреть этот код:
function testprecision(){
var isNotNumber = parseFloat('1.3').toPrecision(6);
alert(typeof isNotNumber); //=> string
}
Я ожидал числа. Если isNotNumber должно быть действительным числом, решение -...
2660 просмотров
schedule
28.06.2022
Как выполнить округление с плавающей запятой со смещением (всегда округлять вверх или вниз)?
Я хочу округлить поплавки со смещением, либо всегда вниз, либо всегда вверх. В коде есть определенный момент, где мне это нужно, остальная часть программы должна округляться до ближайшего значения, как обычно.
Например, я хочу округлить до...
3296 просмотров
schedule
16.01.2023
как добиться точности чисел 0,05?
Следующее гарантирует, что любые большие числа будут точными только до сотых долей ( связанные с этим ответом ):
public function round( sc:Number ):Number
{
sc = sc * 100;
sc = Math.floor( sc );
sc = sc / 100;
return sc;
}...
482 просмотров
schedule
16.07.2023
В чем разница между операцией с плавающей запятой одинарной и двойной точности?
В чем разница между операцией с плавающей запятой одинарной точности и операцией с плавающей запятой двойной точности?
Меня особенно интересуют практические аспекты приставок для видеоигр. Например, есть ли у Nintendo 64 64-битный процессор, и...
308838 просмотров
schedule
12.03.2022
Является ли java.lang.Math.PI равным M_PI GCC?
Я кодирую несколько эталонных алгоритмов как на Java, так и на C/C++. Некоторые из этих алгоритмов используют . Я хотел бы, чтобы две реализации каждого алгоритма давали идентичные результаты без округления по-разному. Один из способов сделать...
6352 просмотров
schedule
10.12.2022
Это хорошая идея использовать IEEE754 с плавающей запятой NaN для значений, которые не установлены?
Является ли хорошей идеей использовать NaN с плавающей запятой IEEE754 (не число) для значений, которые не определены по нематематическим причинам?
В нашем случае они еще не установлены, потому что значения не были получены с какого-то другого...
2446 просмотров
schedule
16.08.2023
Преобразование буфера BYTE (0-255) в буфер с плавающей запятой (0,0-1,0)
Как я могу преобразовать буфер BYTE (от 0 до 255) в буфер с плавающей запятой (от 0,0 до 1,0)? Конечно, должно быть отношение между двумя значениями, например: 0 в байтовом буфере будет .0.f в буфере с плавающей запятой, 128 в байтовом буфере будет...
7881 просмотров
schedule
19.01.2023
точность с плавающей запятой
У меня есть программа, написанная на C#, а некоторые части написаны на родном C/C++. Я использую удвоения для вычисления некоторых значений, и иногда результат неверен из-за слишком малой точности. После некоторого расследования я понял, что кто-то...
2062 просмотров
schedule
12.04.2022
Числовое представление с плавающей запятой в ActionScript?
Можно ли получить необработанные байты числового объекта с плавающей запятой (IEEE-754) в ActionScript?
Или, наоборот, если я могу получить знак (1 бит), мантиссу (52 бита) и показатель степени (11 бит), тогда я могу выполнить сдвиг битов и...
1123 просмотров
schedule
02.11.2022
Использование представления datetime float в качестве первичного ключа
Из своего опыта я узнал, что использование столбца суррогатного типа данных INT в качестве первичного ключа особенно. столбец ключа IDENTITY обеспечивает лучшую производительность, чем использование столбца типа данных GUID или char / varchar в...
1518 просмотров
schedule
20.03.2022
Необычный быстрый обратный квадратный корень Джона Кармака (Quake III)
У Джона Кармака есть специальная функция в исходном коде Quake III, которая вычисляет обратный квадратный корень из числа с плавающей запятой, в 4 раза быстрее, чем обычный (float)(1.0/sqrt(x)) , включая странную константу 0x5f3759df . См. Код...
60965 просмотров
schedule
31.05.2022
Странная проблема при сравнении чисел с плавающей точкой в объекте-C
В какой-то момент в алгоритме мне нужно сравнить значение свойства класса с плавающей запятой с плавающей точкой. Итак, я делаю это:
if (self.scroller.currentValue <= 0.1) {
}
где currentValue - это свойство с плавающей запятой....
27171 просмотров
schedule
17.12.2022
Самый быстрый способ обнулить низкие значения в массиве?
Итак, скажем, у меня есть 100 000 массивов с плавающей запятой по 100 элементов в каждом. Мне нужно наибольшее количество значений X, НО только если они больше Y. Любой элемент, не соответствующий этому, должен быть установлен в 0. Каков самый...
65452 просмотров
schedule
14.10.2022
Как мне реализовать .Equals() в моей структуре Vector3?
У меня есть неизменяемая структура Vector3, и мне интересно, как лучше всего реализовать метод .Equals(), чтобы он был полезен и по-прежнему удовлетворял Рекомендации по перегрузке Equals() .
Вот частичная реализация моей структуры:
public...
2116 просмотров
schedule
10.11.2022
Как представление с плавающей запятой может отличаться от 1 от десятичного представления в Perl?
Я столкнулся с интересной проблемой в моем коде "humanize_bytes()". Этот цикл представляет проблему без всякой другой логики. Цикл необходимо остановить, когда байты будут усечены до «удобочитаемого» уровня. Он продолжает повторяться до тех пор,...
229 просмотров
schedule
05.04.2024
Сравнение производительности с плавающей и целочисленной арифметикой на современных микросхемах
Рассмотрим декодер Витерби на аддитивной модели. Он тратит свое время на дополнения и сравнения. Теперь рассмотрим два: один с C / C ++ float в качестве типа данных, а другой с int . Ожидаете ли вы, что на современных микросхемах int будет...
5049 просмотров
schedule
08.04.2022
Каков хороший способ показать число с плавающей запятой через SNMP?
Я кодирую агент SNMP. Мне нужно отправить значения с десятичной точкой диспетчеру SNMP.
У меня есть пара вариантов:
Сократите число.
Умножить на константу.
Спросите Stackoverflow.
Если я урежу число, я потеряю много информации,...
9069 просмотров
schedule
26.05.2022
