Могу ли я выборочно (принудительно) встроить функцию?

Вы не можете заставить inline. Кроме того, вызовы функций на современных процессорах довольно дешевы по сравнению со стоимостью проделанной работы. Если ваши функции достаточно велики, чтобы их нужно было разбить, дополнительное время, затрачиваемое на выполнение вызова, будет по существу ничтожным.

В противном случае вы можете... попробовать... использовать макрос.

Ничто не мешает вам поместить inline в статическую функцию в файле .cpp.

Некоторые компиляторы имеют возможность принудительно использовать встроенную функцию, см., например. атрибут((always_inline)) GCC и множество опций для точной настройки оптимизации встраивания (см. параметры -minline-*).

Я рекомендую использовать inline или даже лучше static inline везде, где вы считаете нужным, и пусть решает компилятор. Обычно у них это неплохо получается.

Нет, inline является рекомендацией компилятору ; это не заставляет его делать что-либо. Кроме того, если вы работаете с MSVC++, обратите внимание, что __forceinline также является неправильным; это просто более сильная рекомендация, чем inline.

Это как о старом добром прямом C, так и о C++. Я размышлял об этом на днях, потому что во встраиваемом мире, где и скорость, и пространство должны тщательно контролироваться, это действительно может иметь значение (в отличие от слишком частого «не беспокойтесь об этом, ваш компилятор умен и память дешевая, распространенная при разработке настольных/серверных систем).

Возможное решение, которое мне еще предстоит проверить, состоит в том, чтобы в основном использовать два имени для разных вариантов, что-то вроде

inline int _max(int a, int b) {
    return a > b ? a : b;
}

а потом

int max(int a, int b) {
    return _max(a, b);
}

Это дало бы возможность выборочно вызывать _max() или max() и при этом иметь алгоритм, определенный один раз и только один раз.

Компиляторы на самом деле очень хорошо генерируют оптимизированный код.

Я бы предложил просто организовать ваш код в логические группы (используя дополнительные функции, если это повышает удобочитаемость), пометить их как встроенные, если это необходимо, и позволить компилятору решить, какой код оптимально генерировать.

Встраивание. Например, если существует функция A, которая часто вызывает функцию B, а функция B относительно мала, то оптимизация на основе профиля будет встраивать функцию B в функцию A.

Оптимизация VS на основе профиля

Вы можете использовать автоматизированный подключаемый модуль Profile Guided Optimization for Visual C++ в Центре производительности и диагностики, чтобы упростить и оптимизировать процесс оптимизации в Visual Studio, или выполнить шаги оптимизации вручную в Visual Studio или в командной строке. Мы рекомендуем подключаемый модуль, поскольку он проще в использовании. Информацию о том, как получить подключаемый модуль и использовать его для оптимизации приложения, см. на странице Подключаемый модуль оптимизации на основе профилей.

Если у вас есть известная горячая функция, и вы хотите, чтобы компилятор встраивался более агрессивно, чем обычно, атрибут flatten, предлагаемый gcc/clang, может быть чем-то, на что стоит обратить внимание. В отличие от встроенного ключевого слова и атрибутов, оно применяется к решениям встраивания относительно функций, вызываемых в помеченной функции.

__attribute__((flatten)) void hot_code() {
    // functions called here will be inlined if possible
}

См. https://gcc.gnu.org/onlinedocs/gcc/Common-Function-Attributes.html и https://clang.llvm.org/docs/AttributeReference.html#flatten для получения официальной документации.