Міжнародна група дослідників систем машинного навчання і штучного інтелекту прийшла до невтішного висновку – вони більш обмежені, ніж ми вважали. Це випливає з математичної природи їх архітектури і методів роботи. Згідно «Теорему про неповноту» Геделя і положенням його ж Другої теореми, в реальності далеко не всі математичні задачі розв’язувані. А так як машинне навчання має саме математичну природу, то у нього є своя межа.
Однією з нагальних проблем в машинному навчанні є «оцінка максимуму». Її можна проілюструвати на такому прикладі: є якийсь сайт, який відвідає невідома кількість користувачів, чиї інтереси теж заздалегідь невідомі, але в цілому набір параметрів конечним. Потрібно створити такий алгоритм, який забезпечить їм усім показ цільової реклами з точністю, близькою до абсолютної. При моделюванні подібній ситуації вчені вийшли на однозначне схожість з умовами «Гіпотези континуума», яка довгий час перебувала в списку невирішених задач математики.
Якщо говорити точніше, то і для Теореми про неповноту, і для Гіпотези континуума, не існує відповіді у звичному для машини вигляді. ІЇ, навіть самий просунутий, при рішенні подібної задачі вийде на такий крок, коли не зможе дати оцінку «вірно» або «невірно». Людина би просто махнув рукою, ввів би деяке додаткове умова або проігнорував важливість вибору, прийняв рішення інтуїтивно. Алгоритми машинного навчання не дозволяють такої вільності, тому ІЇ не зможе продовжити роботу.
Тягар недовідності, на жаль, властиво занадто багатьом математичним завданням, а тому ймовірність того, що ШІ рано чи пізно зіткнеться з подібною ситуацією, наближається до 100 %. Значить, нам потрібно вже сьогодні придумати, як дозволити йому обійти подібні парадокси. Але при цьому зберегти ту точність аналізу ситуації і прийняття рішень, заради якої ми і намагаємося навчати наш рукотворний розум. А це тим складніше, чим більше відхилення від правил допускається у його роботі.
