Как установить случайный тип адреса устройства BLE для рекламы

Вы имеете в виду программно или из командной строки? Из командной строки вы можете использовать: -

$hciconfig hci0 lerandaddr <bdaddr>

Если вы хотите изменить это программно, взгляните на исходный код вышеуказанной функции: -

static void cmd_le_addr(int ctl, int hdev, char *opt)
{
}

Его можно найти в файле hciconfig.c, здесь.