Мнение: GPT — точно не вершина ИИ

Эта статья предваряет цикл, посвященный описанию передового метода ИИ, способного в постоянном потоке небольшого объёма данных самообучаться в реальном времени, который не нужно обучать на больших данных, и у которого низкие требования к оборудованию. Эти статьи я пишу со своим партнером Владимиром Ш. и надеюсь на максимальную экпертность в вопросах освещения текущего состояния дел с ИИ.

Начался 2024 год. Мир захвачен генеративными нейронными сетями с большими языковыми моделями (известными как GPT — генеративно предобученные трансформеры).

GPT не только в хайпе СМИ, но и прочно ассоциируются в сознании большинства с термином «искусственный интеллект». Создаётся ощущение, что альтернативных направлений ИИ не существует, а GPT — это вершина возможностей нейронных сетей. Про GPT говорят все. В основное те, кто ничего не смыслит даже в математике. GPT на устах политиков, журналистов, бизнесменов. Всем им видится большое GPT будущее. Прочие направления ИИ ушли в небытие.

Давайте, попробуем разобраться, действительно ли GPT имеет заслуженную корону самого продвинутого ИИ метода.

Очевидно, что GPT сейчас чрезвычайно популярны. Их уже пробовали сотни миллионов человек, а слышали — миллиарды. При таком хайпе придёт ли кому в голову, что популярность не является критерием качества ИИ? А ведь стоит хотя бы задуматься над термином «искусственный интеллект», в котором присутствует слово «интеллект». Интеллект, наверное, должен быть умным и полезным — вот его подлиные критерии оценки качества.

Но GPT именно популярен. Ведь создавался он для популярности. GPT изначально позиционировался для толпы в формате: «напиши прикол и получи ещё больший прикол», над которым приятно поржать и поделиться. Глупость легко распространяется, потому что доступна каждому. Не надо быть гением. Как итог — сеть завалена картинками и текстовыми ответами. Все довольны, всем весело, всем нравится. Так GPT стал знаменитостью.

Не удивительно, что уровень полезности GTP для пользователей стали оценивать не сразу. Ну, а когда стали, то выяснили, что пользы у GPT, в общем-то, и нет. Вернее, для пользователей — нет. Для разработчиков ИИ и производителей ИИ ускорителей польза, конечно, колоссальная. Те озолотились и продолжают наращивать доходы.

Полезность для пользователей была поставлена под сомнение не сразу, но довольно быстро. И авторы, конечно, стали настаивать на том, что просто нужно больше данных и глубже обучение. Мол, если будет больше языковая модель, то она станет умнее и полезнее. Конечно, они лукавили, но им поверили, ведь многим очевидно, что если больше, то лучше. Обывателю же не ведома наука тензорное исчисление (часть полилинейной алгебры). Но когда им говорят про триллионы данных для обучения — это вызывает вздох восторга. А при мысли о том, что для обучения такой модели используют оборудование, стоимостью в десятки миллиардов долларов, то от восхищения горят глаза у всех. Всех обывателей, конечно.

Но если посмотреть на GPT трезво, и попробовать использовать эту технологию для решения полезных задач, то выясняется, что тут все очень грустно.

Ведь сведущему математику известно, что точность результата GPT не может превысить 72%, как бы ни старались авторы. После определённого уровня, чем глубже обучается модель нейронной сети, тем ниже будет точность (эффект чрезмерного обучения; как следстивие — «галюцинации ИИ»). Поэтому, никого не удивляет, что такие модели на простейшие вопросы дают ответы со случайными ошибками. К примеру, попросите GPT модель 10 раз показать первые 20 простых чисел. И вы получите очень веселые варианты, которые будут разными.

Сторонники GPT начали вводить термины «фантазия ИИ» и пытаться убедить, что ИИ креативен по своей природе. Вот только креатив — это необычность полезного результата, а у ИИ — случайные ошибки. Какая может быть практическая польза в работе, которая даёт случайный результат?

Но вернёмся к вопросу в заголовке статьи. Является ли GPT вершиной ИИ? Неужели будущее — это вечные оптимизации и постоянный рост больших данных для ещё более глубокого обучения? Для ответа на этот вопрос вспомним, что самый совершенный на данный момент GPT едва успел подняться от уровня интеллекта собаки до интеллекта пятилетнего ребёнка. Вы действительно считаете, что эксплуатация цифрового аналога ума ребёнка в бизнес интересах может принести пользу?!

Конечно, можно нащупать полезности для GPT, если очень-очень их искать. Кто-то пытается обобщать данные. Кто-то думает, что GPT за него напишет код. Есть и другие идолопоклонники GPT. Они считают, что ошибки в результатах — это мелочь. Можно и поправить.

Но ведь есть другие задачи. Например, задача прогнозирования в обстановке, изменяющейся в реальном времени. Здесь GPT принципиально нельзя использовать, т.к. он вообще не способен решать такие задачи. Он будет давать случайные ответы. Вот здесь точно нужна альтернатива.

Я думаю, что многим уже очевидно, что GPT — это тупиковый путь к бездне расширения мощностей и объёмов данных. Аппетиты по оборудованию у GPT колоссальны и растут с каждым днём. Поэтому даже для тех задач, что он более-менее пытается решать, стоит пытаться найти другой путь. Ну, или хотя бы верить, что кто-то когда-то его найдёт.

В чем можно быть уверенным, то GPT точно не вершина ИИ.