Вопросы по теме 'floating-accuracy'
Цикл for в C++ с использованием двойного разрыва на один шаг раньше, граничное значение не достигнуто
У меня есть простая программа на C++, скомпилированная с использованием gcc 4.2.4 на 32-битной Ubuntu 8.04. Он имеет цикл for , в котором переменная double увеличивается от нуля до единицы с определенным размером шага. Когда размер шага равен...
14726 просмотров
schedule
08.06.2024
Точность с плавающей запятой в Visual C ++
HI,
Я пытаюсь использовать надежные предикаты для вычислительной геометрии от Джонатана Ричарда Шевчука.
Я не программист, поэтому я даже не уверен в том, что говорю, возможно, я делаю какую-то основную ошибку.
Дело в том, что предикаты...
5829 просмотров
schedule
27.04.2024
Как я могу «обрезать» двойное значение С# до значения, которое оно будет хранить в базе данных sqlite?
Я заметил, что когда я сохраняю двойное значение, например, например. x = 0.56657011973046234 в базе данных sqlite, а затем получить ее позже, я получаю y = 0.56657011973046201 . Согласно спецификации sqlite и .NET spec (ни одну из них я...
2525 просмотров
schedule
02.06.2023
Повлияет ли на формат с плавающей запятой прямой и прямой порядок байтов?
Я знаю, что целочисленный формат будет отличаться для машины с обратным порядком байтов и машины с прямым порядком байтов, он одинаков для формата с плавающей запятой (IEEE 754)?
9334 просмотров
schedule
31.07.2022
Плохой результат оператора Java по модулю?
Я подозреваю, что об этом уже спрашивали, но, похоже, не могу найти подходящий вопрос ...
Я использую Scala, но я почти уверен, что это просто проблема Java ... входные значения двойные
println(28.0 / 5.6)
println(28.0 % 5.6)
Результатом...
6801 просмотров
schedule
25.02.2022
Работа с точностью с плавающей запятой в Javascript
У меня есть большое количество числовых значений y в javascript. Я хочу сгруппировать их, округляя их до ближайшего кратного x , и преобразовать результат в строку.
Как мне обойти раздражающую точность с плавающей запятой?
Например:
0.2...
217411 просмотров
schedule
24.05.2022
Преобразование IEEE 754 Float в MIL-STD-1750A Float
Я пытаюсь преобразовать 32-битное значение с плавающей запятой одинарной точности IEEE 754 (стандартная переменная c float) в беззнаковую длинную переменную в формате MIL-STD-1750A . Я включил спецификации для IEEE 754 и MIL-STD-1750A внизу...
3288 просмотров
schedule
06.02.2023
Почему результат «0,3 * 3» равен 0,89999999999999 на языке scala?
Почему результат умножения 0,3 и 3 равен 0,89999999999999 в Scala?
267 просмотров
schedule
23.02.2023
Точность с плавающей запятой с определенными числами
Следующее значение дает мне неправильную точность. Наблюдается только с конкретными цифрами. Это может быть проблема с плавающим представлением, но хотелось бы знать конкретную причину.
String m = "154572.49"; //"154,572.49";
Float f =...
101 просмотров
schedule
29.09.2022
Снова точность с плавающей запятой
Вчера я задал вопрос о том, почему я теряю точность арифметики с плавающей запятой. Я получил ответ о том, что это произошло из-за того, что промежуточные результаты хранятся в регистрах x87. Это было полезно, но некоторые детали все еще...
390 просмотров
schedule
18.06.2022
Равенство с плавающей запятой и допуски
Сравнение двух чисел с плавающей запятой с чем-то вроде a_float == b_float вызывает проблемы, поскольку a_float / 3.0 * 3.0 может не равняться a_float из-за ошибки округления.
Обычно делают что-то вроде fabs(a_float - b_float) < tol ....
36858 просмотров
schedule
18.10.2022
Java против MySQL: разница типов с плавающей запятой
Я использую числа с плавающей запятой в java, распечатываю их и сохраняю в столбце с плавающей запятой MySQL. В результате печать java выглядит следующим образом: x=260,1201 y=260,12
Это нормально, потому что x = y + 0,0001 Когда я пытаюсь...
1560 просмотров
schedule
26.02.2022
Проблемы с плавающей запятой в асимптотических функциях, приближающихся к нулю - Python
Новое в питоне из MATLAB.
Я использую усечение гиперболического тангенса функции масштаба. Я столкнулся с проблемой при применении функции 0.5 * math.tanh(r/rE-r0) + 0.5 к массиву значений диапазона r = np.arange(0.1,100.01,0.01) . Я получаю...
865 просмотров
schedule
24.09.2023
Разные результаты при добавлении одних и тех же двойников в разном порядке
Почему вывод отличается при добавлении одинаковых чисел?
public class Test {
public static void main(String a[]) {
double[] x = new double[]{3.9, 4.3, 3.6, 1.3, 2.6};
System.out.println(">>>>>>> " +...
2420 просмотров
schedule
22.01.2024
Итерация диапазона с плавающей запятой в C++
Я хотел бы перебрать диапазон чисел с плавающей запятой, например, в следующем примере.
for (double d = 1.0; d <= 2.0; d += 0.1)
{
cout << d << endl;
}
Поскольку невозможно точно представить 0,1, последнее значение 2,0 не...
1572 просмотров
schedule
23.04.2022
Точность в сумме массива NSNumber
У меня есть массив NSNumber (в данном случае для простоты у меня всего один элемент)
Массив "_incassiInDistinta", который содержит объект "Incasso", который имеет свойство "_importoIncassato"
Теперь, если я использую это
double sum =...
190 просмотров
schedule
18.06.2023
Точность расчета тестовой функции Розенброка
Я хочу рассчитать тестовую функцию Розенброка
Я реализовал следующий код C/C++
#include <stdio.h>
/********/
/* MAIN */
/********/
int main()
{
const int N = 900000;
float *x = (float *)malloc(N * sizeof(float));
for...
420 просмотров
schedule
16.02.2022
Бинарный поиск с ошибкой или неточностью
Прежде всего, извините за мой английский.
Я решаю эту проблему:
Том хочет стрелять из пушки в Джерри, но он хотел бы, чтобы осколков было как можно больше, но они должны быть одинакового размера и как можно больше. В его распоряжении только...
215 просмотров
schedule
01.03.2023
Верхняя граница количества цифр большого целого числа в другом основании
Я хочу создать большое целое число из строкового представления, и для этого мне нужна верхняя граница количества цифр в целевой базе, чтобы избежать перераспределения памяти.
Пример:
Число 640 bit имеет 640 цифр в base 2 , но только десять...
233 просмотров
schedule
23.01.2023
В Swift можно ли использовать NSDateComponents, чтобы помочь NSDate сохранить точность в наносекундах?
На этом снимке некоторого кода Playground показана моя попытка настроить NSDate на наносекунды, а затем попытка получить то же значение в наносекундах путем сравнения первого NSDate со вторым NSDate:
Учитывая все, что связано с числами с...
740 просмотров
schedule
27.03.2024
