ИИ быстро становится удивительным активом, достигнув сверхчеловеческого уровня производительности в таких областях, как распознавание изображений, го и даже покер. Многие в восторге от будущего ИИ и человечества. В то же время есть общее ощущение, что ИИ страдает одним досадным недостатком: ИИ в его нынешнем состоянии может быть непредсказуемо ненадежным.
Классический пример — Jeopardy! IBM Challenge, во время которого Ватсон, ИИ IBM, с легкостью очистил доску, но пропустил Последнюю опасность! вопрос из категории Города США: Самый большой аэропорт назван в честь героя Второй мировой войны; это второе по величине сражение Второй мировой войны. Ватсон ответил, Что такое Торонто???? — лишние вопросительные знаки (и низкая ставка) указывающие на его сомнение.
Таким образом, несмотря на то, что ИИ способен работать как сказка в течение больших периодов времени — месяцев, лет, даже десятилетий — всегда существует вероятность того, что внезапно он таинственным образом ошибется. .
… прочитайте остальную часть статьи на https://www.toptal.com/machine-learning/monotonic-ai-models
