Вопросы по теме 'significant-digits'

C ++ значащие цифры
Как я могу выполнять математические вычисления со значащими цифрами на C ++? Я хочу, чтобы это работало правильно с данными измерений из химических и физических экспериментов. Пример: 65/5 = 10. Мне нужно было бы избавиться от ненужных десятичных...
36383 просмотров
schedule 24.02.2022

Показывать 2 десятичных знака (если нет более значащих цифр) [дубликаты]
Возможный дубликат: Отображать число с плавающей запятой как строку, по крайней мере, с одним десятичным знаком Учитывая следующие значения: 23.50 15 19.3500 31.505 45.6670 Как я могу добиться следующего отображения:...
1088 просмотров
schedule 06.05.2024

Аккуратный способ найти количество значащих цифр в BigDecimal?
Я не хочу ограничивать количество значащих цифр в BigDecimal. Я только хочу найти количество значащих цифр, которые имеет это число. Есть ли способ сделать это без преобразования числа в строку и подсчета числовых символов?
5742 просмотров
schedule 15.11.2022

процент со значащими цифрами
Я заметил, что если вы печатаете вектор процентов, которые имеют один и тот же порядок величины, percent() хорошо работает для получения трех значащих цифр. > library(scales) > percent(c(0.123,0.234)) [1] "12.3%" "23.4%"...
234 просмотров
schedule 18.09.2022

Округление значащих цифр в R
Итак, в основном я провожу физический эксперимент, и в своей таблице я хочу, чтобы мои данные были округлены до той же точности, что и ошибка, которая округляется до 1 знака рис. Так, например, если у меня есть следующее: angle <- c(4, 4.1,...
8933 просмотров

Предложения по определяемой пользователем функции для значащих цифр и конечных нулей в Excel/VBA
Ниже я написал определяемую пользователем функцию (UDF) для рабочего листа Excel. Он округляется до значащей цифры и может обрабатывать конечные нули. На самом деле, UDF работает так, как задумано! Единственное, что вам нужно знать, это то, что...
97 просмотров

Деление BigDecimal с использованием значащих цифр
Я использую BigDecimal для деления. Я хотел бы, чтобы частное было округлено до правильного количества значащих цифр. Например @Test public void testBigDDivision() { BigDecimal top = new BigDecimal("0.25"); BigDecimal bottom = new...
168 просмотров
schedule 03.02.2022