Бенчмарки реализации матрицы, стоит ли хлестать себя?

Этот вид операции чрезвычайно чувствителен к кешу. Вы хотите выполнять большую часть своей работы с переменными, которые находятся в вашем кеше L1 и L2. Ознакомьтесь с разделом 6 этого документа:

http://people.redhat.com/drepper/cpumemory.pdf

Он проведет вас через оптимизацию матричного умножения с оптимизацией кеша и получит несколько значительных улучшений производительности.

Проверьте, не передаете ли вы огромные матричные объекты по значению (поскольку это может быть дорогостоящим, если копировать всю матрицу).
Если возможно, передавайте по ссылке.

Дело в матрицах и C++ заключается в том, что вы хотите избежать копирования настолько, насколько это возможно.
Таким образом, ваш основной объект, вероятно, не должен содержать «данные матрицы», а должен содержать метаданные о матрице и указатель (обернутый чем-то smart) в часть данных. Таким образом, при копировании объекта вы копируете только небольшой фрагмент данных, а не все (см. пример реализации строки).

Зачем вообще нужно реализовывать собственную библиотеку матриц? Как вы уже обнаружили, уже существуют чрезвычайно эффективные библиотеки, делающие то же самое. И как бы людям ни хотелось думать о C++ как о языке производительности, это верно только в том случае, если вы действительно хорошо разбираетесь в этом языке. Очень легко написать ужасно медленный код на C++.

Я не знаю, является ли это чем-то сверхоптимизированным или действительно вы можете легко инвертировать матрицу 200 x 200 примерно за 0,11 секунды.

MATLAB делает это без особых усилий. Реализуете ли вы процедуры LAPACK для инверсии матриц (например, разложения LU)?

Пробовали профилировать?

После этого документа (pdf) расчет для 100 x 100 матрице с LU-разложением потребуется 1348250 (операций с плавающей запятой). Ядро 2 может выполнять около 20 Гфлопс (показатели процессора) . Так что теоретически вы можете сделать инверсию за 1 мс.

Без кода довольно сложно утверждать, в чем причина большого разрыва. Из моего опыта использования микрооптимизации, такой как развертывание цикла, кэширование значений, SEE, многопоточность и т. д., вы получите только ускорение, которое в лучшем случае является лишь постоянным фактором вашего тока (которого может быть достаточно для вас).

Но если вы хотите увеличить скорость на порядок, вам следует взглянуть на свой алгоритм, возможно, в вашей реализации декомпозиции LU есть ошибка. Еще одно место, на которое стоит обратить внимание, — это организация ваших данных, попробуйте другую организацию, объедините элементы строки/столбца.

Тесты LINPACK основаны на решении задач линейной алгебры. Они доступны для разных компьютеров и языков. Может быть, они смогут помочь и вам.

Библиотеки LINPACK C++ также доступны здесь.

На самом деле я выиграл около 7 секунд, используя **double**s вместо **long double**s, но это не так уж и много, так как я потерял половину своей точности.