Вопросы по теме 'decimal'
Как преобразовать числа из шестнадцатеричного в десятичное
Как вы конвертируете шестнадцатеричные числа в десятичные числа в C #?
379694 просмотров
schedule
23.06.2022
Обрезать десятичное значение в C ++
Какой самый простой способ усечь переменную C ++ float , имеющую значение 0,6000002, до значения 0,6000 и сохранить его обратно в переменной?
41332 просмотров
schedule
17.01.2023
Вычислить System.Decimal точность и масштаб
Предположим, у нас есть System.Decimal число.
Для иллюстрации возьмем тот, чье представление ToString () выглядит следующим образом:
d.ToString() = "123.4500"
Об этом Decimal можно сказать следующее. Для наших целей масштаб определяется...
26880 просмотров
schedule
19.02.2022
десятичные разряды и функция Pow в С++
Скорее всего, это действительно простой вопрос, пожалуйста, старайтесь, чтобы любые ответы были понятными. Я все еще новичок в этом:
Я делаю маленькое приложение, и мне нужно использовать силы для пары вычислений. После небольшого исследования я...
3263 просмотров
schedule
06.03.2024
C # Decimal.Parse проблема с запятыми
Вот моя проблема (для en-US):
Decimal.Parse("1,2,3,4") возвращает 1234 вместо исключения InvalidFormatException.
Большинство приложений Windows (Excel en-US) не удаляют разделители тысяч и не считают это значение десятичным числом. Та же...
29459 просмотров
schedule
07.12.2022
Преобразование очень больших десятичных чисел в шестнадцатеричные (1,67119535743*10^33)
Мне любопытно, можно ли преобразовать очень и очень большое десятичное число, например 1,67119535743*10^33/1,67119535743E+33, в шестнадцатеричное с помощью PHP или С#. Все мои предыдущие попытки, к сожалению, не увенчались успехом. Спасибо всем...
1433 просмотров
schedule
04.10.2023
Десятичные значения с разделителем тысяч в Asp.Net MVC
У меня есть собственный класс модели, который содержит десятичный член и представление для приема записи для этого класса. Все работало хорошо, пока я не добавил javascripts для форматирования числа внутри элемента управления вводом. Код формата...
16187 просмотров
schedule
16.12.2022
C/С++ подсчитывает количество десятичных знаков?
Допустим, ввод пользователя представляет собой десятичное число, например. 5. 2155 (4 десятичных знака). Его можно хранить свободно (int, double) и т. д.
Есть ли какой-нибудь умный (или очень простой) способ узнать, сколько знаков после...
59382 просмотров
schedule
14.12.2023
Форматирование десятичных знаков в строки для повышения производительности
Я пишу приложение, которое должно выводить десятичные числа различной длины и разного масштаба в строки без десятичной точки для записи в плоский файл в качестве входных данных для другой системы. например
12345 -> Length:10, Scale:2...
1278 просмотров
schedule
09.06.2023
Как представление с плавающей запятой может отличаться от 1 от десятичного представления в Perl?
Я столкнулся с интересной проблемой в моем коде "humanize_bytes()". Этот цикл представляет проблему без всякой другой логики. Цикл необходимо остановить, когда байты будут усечены до «удобочитаемого» уровня. Он продолжает повторяться до тех пор,...
229 просмотров
schedule
05.04.2024
Дроби с десятичной точностью
Существует ли чистая реализация Python fractions.Fraction , которая поддерживает long s в качестве числителя и знаменателя? К сожалению, возведение в степень, по-видимому, закодировано для возврата числа с плавающей запятой (подтверждение!!!),...
1944 просмотров
schedule
06.08.2022
Преобразование числа с плавающей запятой в десятичное в Informix
У меня есть таблица со столбцом десятичного типа. Таблица представляет собой структуру ESQL / C. Он имеет член типа decimal. У меня также есть нормальная структура C для эквивалента той же таблицы. Тип вышеупомянутого поля - float.
Поскольку мы...
7581 просмотров
schedule
01.02.2022
vb.net, что является хорошим способом отображения десятичного числа с заданной максимальной длиной
Я пишу собственный метод суммирования для представления сетки. Я суммирую довольно большие числа, поэтому я хотел бы использовать десятичную дробь, чтобы получить общее количество. Проблема в том, что мне нужно контролировать максимальную длину...
3211 просмотров
schedule
02.03.2024
Как сохранить десятичную точность в вычислениях
Мне нужно суммировать 2 десятичных значения вместе, затем разделить на 2 и преобразовать в строку.
Мой расчет в настоящее время обрезается до 2 знаков после запятой, но я хочу сохранить как можно больше знаков после запятой.
city.Latitude = (...
633 просмотров
schedule
09.05.2023
Хороший способ отформатировать десятичное число в SQL Server
Мы храним десятичное число (9,8) в нашей базе данных. В нем может быть любое количество знаков после запятой (ну не больше 8). Я расстроен, потому что хочу отобразить его как удобочитаемый текст как часть большей строки, созданной на сервере. Я...
9469 просмотров
schedule
03.10.2023
Почему C# System.Decimal запоминает конечные нули?
Есть ли причина, по которой С# System.Decimal запоминает количество конечных нулей, с которыми он был введен? См. следующий пример:
public void DoSomething()
{
decimal dec1 = 0.5M;
decimal dec2 = 0.50M;
Console.WriteLine(dec1);...
1821 просмотров
schedule
19.07.2022
Лучший способ отобразить десятичное число без конечных нулей
Есть ли средство форматирования отображения, которое будет выводить десятичные числа в виде этих строковых представлений в С# без округления?
// decimal -> string
20 -> 20
20.00 -> 20
20.5 -> 20.5
20.5000 -> 20.5
20.125 ->...
104558 просмотров
schedule
27.03.2024
Просто: как работают двойники в Perl?
Я очень смущен тем, как десятичные числа работают в perl. У меня проблемы с умножением int на double. Вот что у меня есть:
sub timeEstimate(){
$number = shift;
print "Number: $number\n";
$stuff = sprintf("%d", $number * $number * $number) *...
2841 просмотров
schedule
30.10.2023
За кулисами, что происходит с десятичным типом значения в C#/.NET?
Как реализован тип decimal ?
Обновить
Это 128-битный тип значения (16 байт).
1 знаковый бит
96 бит (12 байт) для мантиссы
8 бит для экспоненты
оставшиеся биты (из них 23!) установлены в 0
Спасибо! Я буду придерживаться...
4343 просмотров
schedule
19.03.2023
Округлить деньги до ближайших 10 долларов в Javascript
Как округлить десятичное число в Javascript до ближайшего 10? Моя математика сегодня довольно вздор, это может быть двухчасовой сон: /
Некоторые примеры
$2823.66 = $2820
$142.11 = $140
$9.49 = $10
Я понимаю, что мне, вероятно, нужна...
21471 просмотров
schedule
17.02.2022
