Самая длинная общая подстрока с неправильным допуском символов

У меня есть скрипт, который я нашел здесь, который хорошо работает при поиске самой низкой общей подстроки.

Однако мне нужно, чтобы он допускал некоторые неправильные/отсутствующие символы. Я хотел бы иметь возможность либо ввести требуемый процент сходства, либо, возможно, указать допустимое количество отсутствующих/неправильных символов.

Например, я хочу найти эту строку:

большой желтый школьный автобус

внутри этой строки:

в тот день они ехали на большом желтом школьном автобусе

Это код, который я сейчас использую:

function longest_common_substring($words) {
    $words = array_map('strtolower', array_map('trim', $words));
    $sort_by_strlen = create_function('$a, $b', 'if (strlen($a) == strlen($b)) { return strcmp($a, $b); } return (strlen($a) < strlen($b)) ? -1 : 1;');
    usort($words, $sort_by_strlen);

    // We have to assume that each string has something in common with the first
    // string (post sort), we just need to figure out what the longest common
    // string is. If any string DOES NOT have something in common with the first
    // string, return false.
    $longest_common_substring = array();
    $shortest_string = str_split(array_shift($words));

    while (sizeof($shortest_string)) {
        array_unshift($longest_common_substring, '');
        foreach ($shortest_string as $ci => $char) {
            foreach ($words as $wi => $word) {
                if (!strstr($word, $longest_common_substring[0] . $char)) {
                    // No match
                    break 2;
                }
            }
            // we found the current char in each word, so add it to the first longest_common_substring element,
            // then start checking again using the next char as well
            $longest_common_substring[0].= $char;
        }
        // We've finished looping through the entire shortest_string.
        // Remove the first char and start all over. Do this until there are no more
        // chars to search on.
        array_shift($shortest_string);
    }

    // If we made it here then we've run through everything
    usort($longest_common_substring, $sort_by_strlen);

    return array_pop($longest_common_substring);
}

Буду признателен за любую оказанную помощь.

ОБНОВЛЕНИЕ

Функция PHP levenshtein ограничена 255 символами, а некоторые из стогов сена, которые я ищу, содержат более 1000 символов.


person cianz    schedule 05.10.2012    source источник
comment
Я бы сказал, что вы должны использовать пользовательскую функцию сравнения строк, которая будет использовать допуск в один символ. Алгоритм может быть таким: сравните вашу строку сразу по двум символам с самой длинной общей подстрокой, как только одна из них будет найдена, продолжите сравнение символ за символом. В случае несоответствия проверить порог допуска, в случае неудачи продолжить поиск возможного запуска LCS. В случае успеха добавьте допуск и проверьте следующие символы, сравнивая их друг с другом и с первым необработанным символом LCS. В случае успеха продолжайте проверку, как будто только что было обнаружено упущение или ошибка.   -  person Vesper    schedule 05.10.2012
comment
Вагнер-Фишер может дать вам хорошую отправную точку. Может быть, вы сможете просмотреть полученную диагональ на матрице и на ее основе что-нибудь придумать. en.wikipedia.org/wiki/Wagner%E2%80%93Fischer_algorithm Я тоже подумаю.   -  person FoolishSeth    schedule 05.10.2012


Ответы (1)


Пишу это как второй ответ, потому что он вообще не основан на моем предыдущем (плохом) ответе.

Этот код основан на http://en.wikipedia.org/wiki/Wagner%E2%80%93Fischer_algorithm и http://en.wikipedia.org/wiki/Approximate_string_matching#Problem_formulation_and_algorithms

Он возвращает одну (из потенциально нескольких) подстрок минимального левенштейна $haystack, учитывая $needle. Теперь расстояние Левенштейна — это всего лишь одна мера расстояния редактирования, и оно может не соответствовать вашим потребностям. «hte» по этому показателю ближе к «he», чем к «the». Некоторые из приведенных мной примеров показывают ограничения этой техники. Я считаю, что это значительно надежнее, чем предыдущий ответ, который я дал, но дайте мне знать, как это работает для вас.

// utility function - returns the key of the array minimum
function array_min_key($arr)
{
    $min_key = null;
    $min = PHP_INT_MAX;
    foreach($arr as $k => $v) {
        if ($v < $min) {
            $min = $v;
            $min_key = $k;
        }
    }
    return $min_key;
}

// Calculate the edit distance between two strings
function edit_distance($string1, $string2)
{
    $m = strlen($string1);
    $n = strlen($string2);
    $d = array();

    // the distance from '' to substr(string,$i)
    for($i=0;$i<=$m;$i++) $d[$i][0] = $i;
    for($i=0;$i<=$n;$i++) $d[0][$i] = $i;

    // fill-in the edit distance matrix
    for($j=1; $j<=$n; $j++)
    {
        for($i=1; $i<=$m; $i++)
        {
            // Using, for example, the levenshtein distance as edit distance
            list($p_i,$p_j,$cost) = levenshtein_weighting($i,$j,$d,$string1,$string2);
            $d[$i][$j] = $d[$p_i][$p_j]+$cost;
        }
    }

    return $d[$m][$n];
}

// Helper function for edit_distance()
function levenshtein_weighting($i,$j,$d,$string1,$string2)
{
    // if the two letters are equal, cost is 0
    if($string1[$i-1] === $string2[$j-1]) {
        return array($i-1,$j-1,0);
    }

    // cost we assign each operation
    $cost['delete'] = 1;
    $cost['insert'] = 1;
    $cost['substitute'] = 1;

    // cost of operation + cost to get to the substring we perform it on
    $total_cost['delete'] = $d[$i-1][$j] + $cost['delete'];
    $total_cost['insert'] = $d[$i][$j-1] + $cost['insert'];
    $total_cost['substitute'] = $d[$i-1][$j-1] + $cost['substitute'];

    // return the parent array keys of $d and the operation's cost
    $min_key = array_min_key($total_cost);
    if ($min_key == 'delete') {
        return array($i-1,$j,$cost['delete']);
    } elseif($min_key == 'insert') {
        return array($i,$j-1,$cost['insert']);
    } else {
        return array($i-1,$j-1,$cost['substitute']);
    }
}

// attempt to find the substring of $haystack most closely matching $needle
function shortest_edit_substring($needle, $haystack)
{
    // initialize edit distance matrix
    $m = strlen($needle);
    $n = strlen($haystack);
    $d = array();
    for($i=0;$i<=$m;$i++) {
        $d[$i][0] = $i;
        $backtrace[$i][0] = null;
    }
    // instead of strlen, we initialize the top row to all 0's
    for($i=0;$i<=$n;$i++) {
        $d[0][$i] = 0;
        $backtrace[0][$i] = null;
    }

    // same as the edit_distance calculation, but keep track of how we got there
    for($j=1; $j<=$n; $j++)
    {
        for($i=1; $i<=$m; $i++)
        {
            list($p_i,$p_j,$cost) = levenshtein_weighting($i,$j,$d,$needle,$haystack);
            $d[$i][$j] = $d[$p_i][$p_j]+$cost;
            $backtrace[$i][$j] = array($p_i,$p_j);
        }
    }

    // now find the minimum at the bottom row
    $min_key = array_min_key($d[$m]);
    $current = array($m,$min_key);
    $parent = $backtrace[$m][$min_key];

    // trace up path to the top row
    while(! is_null($parent)) {
        $current = $parent;
        $parent = $backtrace[$current[0]][$current[1]];
    }

    // and take a substring based on those results
    $start = $current[1];
    $end = $min_key;
    return substr($haystack,$start,$end-$start);
}

// some testing
$data = array( array('foo',' foo'), array('fat','far'), array('dat burn','rugburn'));
$data[] = array('big yellow school bus','they rode the bigyellow schook bus that afternoon');
$data[] = array('bus','they rode the bigyellow schook bus that afternoon');
$data[] = array('big','they rode the bigyellow schook bus that afternoon');
$data[] = array('nook','they rode the bigyellow schook bus that afternoon');
$data[] = array('they','console, controller and games are all in very good condition, only played occasionally. includes power cable, controller charge cable and audio cable. smoke free house. pes 2011 super street fighter');
$data[] = array('controker','console, controller and games are all in very good condition, only played occasionally. includes power cable, controller charge cable and audio cable. smoke free house. pes 2011 super street fighter');

foreach($data as $dat) {
    $substring = shortest_edit_substring($dat[0],$dat[1]);
    $dist = edit_distance($dat[0],$substring);
    printf("Found |%s| in |%s|, matching |%s| with edit distance %d\n",$substring,$dat[1],$dat[0],$dist);
}
person FoolishSeth    schedule 09.10.2012
comment
Это работает отлично, не могу отблагодарить вас! Если есть возможность купить тебе пиво (или коробку), дай мне знать! - person cianz; 09.10.2012