Как отсортировать массив `int **` в C с помощью собственного qsort

Проблема, с которой вы столкнулись, заключается в том, что вы не учитываете один дополнительный уровень косвенности, созданный путем выделения блока указателей с помощью int **arr = calloc (n, sizeof *arr);, а затем выделения памяти для одного int каждому указателю с arr[i] = calloc (1, sizeof *arr[i]).

Поскольку функция сравнения int compare (const void *a, const void *b) для qsort ожидает указатель на элементы сортируемого массива, и a, и b выше будут указатель-указатель до int в вашем случае. требуется разыменование 2 уровней косвенности, прежде чем можно будет сравнивать целочисленные значения.

Вместо cmp_int вам действительно нужна функция сравнения cmp_int_ptr. Это можно записать как:

int cmp_int_ptr (const void *a, const void *b)
{
    int *ai = *(int * const *)a,
        *bi = *(int * const *)b;

    return (*ai > *bi) - (*ai < *bi);
}

(примечание: два уровня косвенности в приведении (int * const *)..., которые также могут быть записаны как (int **), но для соответствия типу параметра (const void *) правильным будет (int * const *))

Поместив это на место, добавив проверки для каждого выделения и очистив спецификацию размера типа calloc, используя сам разыменованный указатель для установки размера типа, вы можете сделать:

#include <stdio.h>
#include <stdlib.h>
#include <errno.h>
#include <time.h>

int cmp_int_ptr (const void *a, const void *b)
{
    int *ai = *(int * const *)a,
        *bi = *(int * const *)b;

    return (*ai > *bi) - (*ai < *bi);
}

int main (void) {

    int n = 10;
    int **arr = calloc (n, sizeof *arr);

    if (!arr) {
        perror ("calloc-arr");
        return 1;
    }

    srand((unsigned int) time(NULL));

    for (int i = 0; i < n; i++) {
        if (!(arr[i] = calloc (1, sizeof *arr[i]))) {
            perror ("calloc-arr[i]");
            return 1;
        }
        *(arr[i]) = rand() % 1000;
    }

    for (int i = 0; i < n; i++)
        printf (" %d", *(arr[i]));
    putchar ('\n');

    qsort (arr, 10, sizeof *arr, cmp_int_ptr);

    for (int i = 0; i < n; i++) {
        printf (" %d", *(arr[i]));
        free (arr[i]);              /* don't forget to free your int allocated */
    }
    putchar ('\n');

    free(arr);                      /* now free pointers */
}

Пример использования/вывода

$ ./bin/qsortptrtoint
 654 99 402 264 680 534 155 533 397 678
 99 155 264 397 402 533 534 654 678 680

Просмотрите вещи и дайте мне знать, если у вас есть вопросы.

От вашей программы у меня болит голова. Причина, по которой вы не получаете правильную сортировку, заключается в том, что функция сравнения неверна. Это должно быть return **(int **)a - **(int **)b;, чтобы получить правильный результат.

Однако решать проблему таким образом не стоит. Список хотя бы некоторых проблем:

• Если вы не используете argc и argv, не объявляйте их.
• Вводить вызов srand не нужно.
• int сравнение методом вычитания — плохая идея, потому что оно может переполниться.
• calloc всегда следует проверять на нулевые (недостаточно памяти) результаты.
• calloc вообще не нужен. Используйте массив переменной длины.
• Нет необходимости выделять массив указателей на целые числа. Просто выделите массив целых чисел. Тогда ваше сравнение работает как есть.
• Вызов qsort использует жесткую константу 10, а не n.
• Менее подвержено ошибкам указание размера элемента путем разыменования имени массива.
• В конце вы освобождаете массив "spine", но никогда не целочисленные элементы.
• Вы должны выделить функцию для печати массива.

Вот версия, которая решает эти проблемы.

#include <stdio.h>
#include <stdlib.h>
#include <time.h>

int cmp_int(const void *va, const void *vb)
{
  int a = *(int *)va, b = *(int *) vb;
  return a < b ? -1 : a > b ? +1 : 0;
}

void print(int *a, int n) {
  for (int i = 0; i < n; ++i) printf("%d ", a[i]);
  printf("\n");
}

int main(void)
{
  int n = 10, a[n];
  srand(time(0));
  for (int i = 0; i < n; ++i) a[i] = rand() % 1000;
  print(a, n);
  qsort(a, n, sizeof a[0], cmp_int);
  print(a, n);
  return 0;
}