Вопросы по теме 'fixed-point'
Преобразование с плавающей запятой в фиксированную точку
Каков общий способ преобразования любого значения с плавающей запятой (float) в с фиксированной точкой (целое, 16:16 или 24: 8)?
РЕДАКТИРОВАТЬ: Для пояснения, значения с фиксированной точкой состоят из двух частей: целой и дробной. Целая...
48760 просмотров
schedule
22.01.2023
Проблемы ортопроекции с OpenGL ES
Я работаю в Android, используя Open GL ES. Я пытался переместить наш пользовательский интерфейс из представлений Android в 3D. Я вижу какое-то странное поведение с размещением вершин.
У меня два разных квадроцикла. Один из них -0,5,-0,5 ->...
711 просмотров
schedule
15.05.2022
Как заставить Python сохранить целое число вне научной нотации
Я пытаюсь написать метод в Python 3.2, который шифрует фразу, а затем расшифровывает ее. Проблема в том, что числа настолько велики, что, когда Python выполняет с ними математические операции, он немедленно преобразует их в научную запись. Поскольку...
8304 просмотров
schedule
06.11.2023
32-битное дробное умножение с методом перекрестного умножения (без 64-битного промежуточного результата)
Я программирую алгоритм улучшения речи с фиксированной точкой на 16-битном процессоре. В какой-то момент мне нужно сделать 32-битное дробное умножение. Я читал другие сообщения о выполнении 32-битного умножения байт за байтом, и я понимаю, почему...
1153 просмотров
schedule
19.06.2022
реализация функции isnan()
Я новичок в программировании на С++, и мне дали задание реализовать математическую арифметику с фиксированной точкой в С++. здесь я пытаюсь реализовать функцию isnan(), которая возвращает true, если число не является числом, иначе вернет false....
1476 просмотров
schedule
14.06.2023
Масштабирование с фиксированной точкой и точность умножения
Мне нужно выполнить операцию умножения над переменной с фиксированной точкой x (16-разрядное целое число без знака [U16] с двоичной точкой 6 [BP6]) с коэффициентом A , который, как я знаю, всегда будет между 0 и 1. Код написан на C для 32-битной...
1645 просмотров
schedule
03.04.2022
Требуется алгоритм БПФ с фиксированной точкой
Я разрабатываю алгоритм аудиоприложения для мобильных платформ. Мне кажется, что в настоящее время поддержка вычислений с плавающей запятой на многих мобильных процессорах не является повсеместной, и разработка с фиксированной точкой была бы более...
3228 просмотров
schedule
21.12.2022
Использование набора инструментов с фиксированной точкой для имитации поведения DSP
Я использую DSP Analog Devices, и я хотел бы провести симуляцию алгоритма. Из этого я указал свою архитектуру:
F = fimath('MaxProductWordLength', 40, ...
'MaxSumWordLength', 40, ...
'OverflowAction', 'Saturate', ...
'ProductMode',...
66 просмотров
schedule
22.07.2023
Все ли операции с фиксированной точкой C ++ детерминированы?
Я пишу небольшой движок RTS на C ++ и хочу использовать синхронизацию с блокировкой.
Поскольку детерминизм с плавающей запятой - это то, чего я даже не могу надеяться достичь, я должен использовать математику с фиксированной запятой.
Насколько...
836 просмотров
schedule
14.03.2024
Как использовать python для преобразования числа с плавающей запятой в фиксированную точку с предопределенным количеством бит
У меня есть числа с плавающей запятой 32 (скажем, положительные числа) в формате numpy. Я хочу преобразовать их в числа с фиксированной точкой с предопределенным количеством бит, чтобы уменьшить точность.
Например, число 3,1415926 становится 3,25...
6725 просмотров
schedule
10.06.2023
Преобразование с фиксированной точкой: показатель степени 3124 с дробным числом 230 до значения Q25?
Мне нужно рассчитать значение фиксированной точки для формул:
e ^ ( Konst/x*y )
Я использую сторонние функции divide() и antilog() , например:
div = divide( Konst, x*y );
out = antilog( div );
Мой divide() дает на выходе bits...
106 просмотров
schedule
03.09.2023
Преобразование между двумя представлениями с фиксированной точкой
Я пытаюсь преобразовать число из одного представления с фиксированной точкой в другое. Я использую 2-дополнительное представление (представление Qmf). Это необходимо для проверки аппаратной реализации. Аппаратная реализация работает следующим...
387 просмотров
schedule
02.04.2023
Комбинируйте фиксированную и локальную нотацию для форматирования строк
Я пытаюсь определить строку формата, используя формат строки Python. мини-язык , чтобы получить строку с числом в фиксированной записи, но с локальным десятичным разделителем. См. следующий фрагмент для дальнейшего разъяснения желаемого результата:...
118 просмотров
schedule
14.06.2022
Размер 1 фиксирован слева, но изменяется справа ([84480 x 1] в Matlab).
Мне нужно исправить этот код, он говорит: «Измерение 1 фиксируется слева, но изменяется справа ([84480 x 1]…»
Я пытаюсь использовать преобразователь с фиксированной точкой для преобразования этого кода. Однако у меня эта ошибка размерности 1...
826 просмотров
schedule
28.06.2022
Компенсация продуктов аппаратной трассировки лучей с фиксированной точкой
Я пытаюсь воспроизвести реализацию целочисленного исчисления пересечения лучей и треугольников, и я основываю свой код на работе Йоханнеса Ханики ( https://jo.dreggn.org/home/2007_master.pdf). ).
Но у меня возникла проблема, которая, я думаю,...
73 просмотров
schedule
01.05.2022
Тип данных SQL Server, называемый деньгами, является типом двоичной с фиксированной точкой или десятичной с фиксированной точкой?
Я расширяю аналогичный вопрос под названием Является ли тип данных SQL Server «ДЕНЬГИ» десятичным с плавающей запятой или двоичным с плавающей запятой?
Принятый ответ сообщил нам, что тип данных «деньги» является типом данных с фиксированной...
148 просмотров
schedule
07.04.2024
