Я пытаюсь отследить проблему с порядком байтов при работе на PowerPC с Power8. С прямым порядком байтов все в порядке, с прямым порядком байтов возникают проблемы.
Ниже uint8x16_p8
находится typedef
для __vector unsigned char
. На машине с прямым порядком байтов я вижу:
1110 uint8x16_p8 r5 = (uint8x16_p8)VectorLoadKey(s_mask);
(gdb)
1112 for (unsigned int i=0; i<rounds-2; ++i)
(gdb) p r5
$1 = {0xd, 0xe, 0xf, 0xc, 0xd, 0xe, 0xf, 0xc, 0xd, 0xe, 0xf, 0xc, 0xd, 0xe,
0xf, 0xc}
На маленькой машине с порядком байтов я вижу:
1110 uint8x16_p8 r5 = (uint8x16_p8)VectorLoadKey(s_mask);
(gdb)
1112 for (unsigned int i=0; i<rounds-2; ++i)
(gdb) p r5
$1 = {0xc, 0xf, 0xe, 0xd, 0xc, 0xf, 0xe, 0xd, 0xc, 0xf, 0xe, 0xd, 0xc, 0xf,
0xe, 0xd}
Когда gdb печатает значение, он использует макет памяти:
(gdb) ptype r5
type = unsigned char __attribute__ ((vector_size(16)))
(gdb)
Я хочу видеть 128-битное целочисленное значение, загружаемое в регистр vsx. Значение регистра vsx является важным, и оно всегда имеет обратный порядок байтов. Если есть разница в значении vsx, то я знаю, что мне нужно переставить вектор во время загрузки из памяти.
Кроме того, похоже, что GDB не поддерживает uint128_t
:
(gdb) p *(uint128_t)r5
No symbol "uint128_t" in current context.
Как мне заставить GDB распечатать значение регистра vsx (а не значение разметки памяти)?
Другая проблема с GDB заключается в том, что он не может дизассемблировать форму «здесь», поэтому я не могу найти, где мне печатать регистры. Например, disass .
не выполняет "дизассемблирование отсюда" (это приводит к синтаксической ошибке), а использование $pc
не выполняет дизассемблирование там, где я нахожусь (это похоже на начало функции):
(gdb) disass $pc
Dump of assembler code for function Rijndael_UncheckedSetKey_POWER8(...):
0x00000000104b82c8 <+0>: lis r2,4213
0x00000000104b82cc <+4>: addi r2,r2,-29952
0x00000000104b82d0 <+8>: mflr r0
0x00000000104b82d4 <+12>: std r0,16(r1)
0x00000000104b82d8 <+16>: std r31,-8(r1)
0x00000000104b82dc <+20>: stdu r1,-272(r1)
0x00000000104b82e0 <+24>: mr r31,r1
0x00000000104b82e4 <+28>: std r3,208(r31)
0x00000000104b82e8 <+32>: std r4,216(r31)
0x00000000104b82ec <+36>: std r5,224(r31)
0x00000000104b82f0 <+40>: std r6,232(r31)
0x00000000104b82f4 <+44>: mr r9,r7
0x00000000104b82f8 <+48>: stw r9,240(r31)
0x00000000104b82fc <+52>: ld r9,216(r31)
0x00000000104b8300 <+56>: cmpdi cr7,r9,16
0x00000000104b8304 <+60>: bne cr7,0x104b8548 <Rijndael_UncheckedSetKey_POWER8(...)+640>
0x00000000104b8308 <+64>: ld r9,208(r31)
0x00000000104b830c <+68>: std r9,32(r31)
---Type <return> to continue, or q <return> to quit---
...