В настоящее время я сталкиваюсь со случайными ошибками с плавающей запятой при компиляции для целей x86 с использованием VC++ 11 (CTP Update 1). См. короткий пример «test.cpp» ниже и скомпилируйте его, используя:
cl /GL /O2 /EHsc test.cpp /link /MACHINE:X86
Вывод должен быть 10 == 10
, но он выдает 10 == 0
, когда включен /GL
(оптимизация всей программы). Проблема, похоже, в том, что get_scaling_factor()
помещает результат в стек с плавающей запятой, но вызывающая функция ожидает его в регистре SSE XMM0.
Вопрос: я упустил что-то очевидное или это действительно ошибка? Тестовая программа, конечно, не имеет смысла, так как это урезанный тестовый пример.
test.cpp:
#include <iostream>
template <typename T>
inline T get_scaling_factor(int units)
{
switch (units)
{
case 0: return 1;
case 1: return 10;
case 2: return 100;
case 3: return 1000;
case 4: return 10000;
case 5: return 100000;
case 6: return 1000000;
case 7: return 10000000;
case 8: return 100000000;
case 9: return 1000000000;
default: return 1;
}
}
template <int targetUnits, typename T>
inline T scale(T value, int sourceUnits)
{
return value * get_scaling_factor<T>(sourceUnits)
/ get_scaling_factor<T>(targetUnits);
}
__declspec(noinline)
double scale(double value, int units)
{
return scale<9>(value, units);
}
int main()
{
std::cout << "10 = " << scale(1e9, 1) << std::endl;
}
Обновлять
Ошибка подтверждено Microsoft. Это даже влияет на прямой код, например:
#include <stdio.h>
double test(int a)
{
switch (a)
{
case 0: return 1.0;
case 1: return 10.0;
case 2: return 100.0;
case 3: return 1000.0;
case 4: return 10000.0;
case 5: return 100000.0;
case 6: return 1000000.0;
case 7: return 10000000.0;
case 8: return 100000000.0;
case 9: return 1000000000.0;
default: return 1.0;
}
}
void main()
{
int nine = 9;
double x = test(nine);
x /= test(7);
int val = (int)x;
if (val == 100)
printf("pass");
else
printf("fail, val is %d", val);
}
static_cast
литералы для вводаT
? - person Steve-o   schedule 24.10.2012T(...)
, это не удастся. В любом случае это не обязательно, компилятор продвинет их до нужного типа (если сможет). Обратите внимание, что код компилируется без предупреждений даже при самом высоком уровне предупреждений. - person Daniel Gehriger   schedule 24.10.2012