Вопросы по теме 'significant-digits'
C ++ значащие цифры
Как я могу выполнять математические вычисления со значащими цифрами на C ++? Я хочу, чтобы это работало правильно с данными измерений из химических и физических экспериментов. Пример: 65/5 = 10. Мне нужно было бы избавиться от ненужных десятичных...
36383 просмотров
schedule
24.02.2022
Показывать 2 десятичных знака (если нет более значащих цифр) [дубликаты]
Возможный дубликат: Отображать число с плавающей запятой как строку, по крайней мере, с одним десятичным знаком
Учитывая следующие значения:
23.50
15
19.3500
31.505
45.6670
Как я могу добиться следующего отображения:...
1088 просмотров
schedule
06.05.2024
Аккуратный способ найти количество значащих цифр в BigDecimal?
Я не хочу ограничивать количество значащих цифр в BigDecimal. Я только хочу найти количество значащих цифр, которые имеет это число.
Есть ли способ сделать это без преобразования числа в строку и подсчета числовых символов?
5742 просмотров
schedule
15.11.2022
процент со значащими цифрами
Я заметил, что если вы печатаете вектор процентов, которые имеют один и тот же порядок величины, percent() хорошо работает для получения трех значащих цифр.
> library(scales)
> percent(c(0.123,0.234))
[1] "12.3%" "23.4%"...
234 просмотров
schedule
18.09.2022
Округление значащих цифр в R
Итак, в основном я провожу физический эксперимент, и в своей таблице я хочу, чтобы мои данные были округлены до той же точности, что и ошибка, которая округляется до 1 знака рис.
Так, например, если у меня есть следующее:
angle <- c(4, 4.1,...
8933 просмотров
schedule
05.02.2024
Предложения по определяемой пользователем функции для значащих цифр и конечных нулей в Excel/VBA
Ниже я написал определяемую пользователем функцию (UDF) для рабочего листа Excel. Он округляется до значащей цифры и может обрабатывать конечные нули.
На самом деле, UDF работает так, как задумано! Единственное, что вам нужно знать, это то, что...
97 просмотров
schedule
08.12.2023
Деление BigDecimal с использованием значащих цифр
Я использую BigDecimal для деления. Я хотел бы, чтобы частное было округлено до правильного количества значащих цифр.
Например
@Test
public void testBigDDivision() {
BigDecimal top = new BigDecimal("0.25");
BigDecimal bottom = new...
168 просмотров
schedule
03.02.2022