Вопросы по теме 'rounding'
Как выполнить округление с плавающей запятой со смещением (всегда округлять вверх или вниз)?
Я хочу округлить поплавки со смещением, либо всегда вниз, либо всегда вверх. В коде есть определенный момент, где мне это нужно, остальная часть программы должна округляться до ближайшего значения, как обычно.
Например, я хочу округлить до...
3296 просмотров
schedule
16.01.2023
как добиться точности чисел 0,05?
Следующее гарантирует, что любые большие числа будут точными только до сотых долей ( связанные с этим ответом ):
public function round( sc:Number ):Number
{
sc = sc * 100;
sc = Math.floor( sc );
sc = sc / 100;
return sc;
}...
482 просмотров
schedule
16.07.2023
Ошибка раунда .Net
Возможный дубликат: В C #: Math.Round (2.5) результат равен 2 (вместо 3)! Ты издеваешься надо мной?
Функция Math.Round для .Net 3.5 SP1 округляет 0,5 до нуля, а 1,5 - 2,0. Я тестировал это с помощью десятичных чисел и следующего...
2057 просмотров
schedule
01.02.2024
Дробная часть числа вопрос
Каков хороший алгоритм для определения необходимой дроби, необходимой для добавления/подсчета числа, чтобы округлить его до ближайшего целого числа без использования встроенных функций потолка или пола?
Редактировать: ищет математический трюк с...
2061 просмотров
schedule
10.07.2022
Как округлить число до ближайшего 10?
Как мы можем округлить число до ближайшего 10 в php?
Скажем, у меня 23 , какой код я бы использовал, чтобы округлить до 30 ?
114390 просмотров
schedule
02.07.2022
Проблема с округлением Python
Я столкнулся с очень странной проблемой в python. (Используя питон 2.4.х)
В окнах:
>>> a = 2292.5
>>> print '%.0f' % a
2293
Но в Солярисе:
>>> a = 2292.5
>>> print '%.0f' % a
2292
Но это...
1810 просмотров
schedule
09.09.2023
округлить десятичные значения с точностью до 0,01?
Возможный дубликат: c # - Как округлить десятичное значение до двух знаков после запятой (для вывода на страницу)
Как округлить десятичное значение до ближайшего значения 0,05 ?? , связанный пост SO также обсуждает аналогичную тему,...
13880 просмотров
schedule
20.03.2022
Проблемы с округлением SQL в 2005 и 2000 годах
У меня есть значение в базе данных 2.700000002. Когда я запускаю запрос в студии управления в SQL SERVER 2005, я получаю 2.7. Но когда я запускаю анализатор запросов SQL SERVER 2000, появляется 2.700000002.
2.70000002 правильно, почему SQL SERVER...
301 просмотров
schedule
29.06.2022
C - округление с плавающей запятой
Я пытаюсь понять, как работают числа с плавающей запятой.
Я думаю, что хотел бы проверить, что я знаю / должен узнать, оценив следующее: я хотел бы найти наименьшее x такое, что x + 1 = x , где x — число с плавающей запятой.
Насколько я...
2311 просмотров
schedule
11.05.2023
Округлить деньги до ближайших 10 долларов в Javascript
Как округлить десятичное число в Javascript до ближайшего 10? Моя математика сегодня довольно вздор, это может быть двухчасовой сон: /
Некоторые примеры
$2823.66 = $2820
$142.11 = $140
$9.49 = $10
Я понимаю, что мне, вероятно, нужна...
21471 просмотров
schedule
17.02.2022
Округлить до ближайшего кратного пяти в PHP
Мне нужна функция php, которая возвращает 55 при вызове с 52.
Я пробовал функцию round() :
echo round(94, -1); // 90
Он возвращает 90 , но я хочу 95 .
Спасибо.
61316 просмотров
schedule
15.12.2022
Получить десятичную часть числа с помощью JavaScript
У меня есть числа с плавающей запятой, такие как 3.2 и 1.6 .
Мне нужно разделить число на целую и десятичную части. Например, значение 3.2 будет разделено на два числа, то есть 3 и 0.2 .
Получить целую часть просто:
n = Math.floor(n);...
329535 просмотров
schedule
26.02.2022
C ++ значащие цифры
Как я могу выполнять математические вычисления со значащими цифрами на C ++? Я хочу, чтобы это работало правильно с данными измерений из химических и физических экспериментов. Пример: 65/5 = 10. Мне нужно было бы избавиться от ненужных десятичных...
36383 просмотров
schedule
24.02.2022
Как округлить двойное значение до следующего целочисленного значения в Objective-C?
Я знаю, что это довольно глупый вопрос, но я действительно нахожу решение для него. Предположим, у меня есть переменная db1 со значением 4,166667, и я хочу преобразовать ее в целое число со значением 5. Как мне это сделать?
4837 просмотров
schedule
05.03.2023
Округление числа с плавающей запятой в Objective-C
Как я могу округлить число с плавающей запятой до ближайшего целого числа в Objective-C:
Пример:
float f = 45.698f;
int rounded = _______;
NSLog(@"the rounded float is %i",rounded);
должен печатать "округленный поплавок равен 46"
55650 просмотров
schedule
18.02.2023
Пользовательское округление десятичного типа в С#
Ребята, пишу метод для округления. Входные данные имеют десятичный тип (четыре десятичных знака гарантированы). Правило округления заключается в том, что 0,005 или меньше игнорируется, т. е. смотрите на третий десятичный знак — если он равен ‹ = 5,...
3779 просмотров
schedule
11.11.2022
SSRS 2005 Round(foo, 0) округляет десятичное значение от 12,6 до 12 вместо 13.
У меня есть поле отчета, которое может содержать разные типы данных, поэтому мне нужно выполнить округление и форматирование с помощью функций.
В одном случае у меня есть десятичное (9,2) значение, в котором хранятся часы, которые мне нужно...
8975 просмотров
schedule
21.12.2022
Различать число (типа double) с десятичными знаками и без - С++
Я пытаюсь реализовать простой алгоритм прореживания на С++. У меня есть два массива, скажем, p и q , где индексы связаны друг с другом следующим отношением:
p[k] = q[0.5*k] . Это означает, что следующая последовательность должна быть...
962 просмотров
schedule
11.12.2022
jQuery округлить десятичное число до 0,49 или 0,99
Я пытаюсь понять, как округлить десятичную дробь до 0,49 или 0,99.
Я нашел функцию toFixed(2) , но не знаю, как округлить в большую или меньшую сторону.
По сути, нужно добраться до ближайшей ценовой точки, например, X.55 упадет до X.49, а X.84...
9126 просмотров
schedule
21.06.2022
Внутреннее соединение и округление Mysql с нулевой точностью
Я пытаюсь выполнить внутреннее соединение двух таблиц, чтобы округлить значение по точности, связанной с идентификатором этого значения в другой таблице. Однако он возвращает NULL для pid 3. Я считаю, что это связано с точностью NULL для pid 2,...
259 просмотров
schedule
27.09.2023