«Чем больше интеллекту­ального труда, тем сильнее будет роль ИИ». ИТ⁠-⁠эксперт — о близ­ком будущем

Каждый день искусственный интеллект совершенствуется и берет на себя все больше обязанностей.

Уже сейчас ИИ помогает создавать новые лекарства, писать музыку, составлять контракты и рисовать красочные иллюстрации. О том, как это изменит рынок труда, искусство и повседневную жизнь, мы поговорили с независимым исследователем и консультантом, сооснователем компании Witology и автором телеграм-канала «Малоизвестное интересное» Сергеем Кареловым.

— Как ИИ будет менять рынок труда в ближайшие пять-десять лет?

— Развитие и распространение того, что в просторечии называют «искусственным интеллектом», то есть больших языковых моделей, — это тектонический сдвиг в деле автоматизации человеческого труда. Причем если в последние 150—200 лет такие прорывы наблюдались в области автоматизации физического труда, то сейчас идет автоматизация труда интеллектуального — любой деятельности, связанной с креативом, с обработкой информации.

Только в биологии, например, ИИ нашел такие варианты сворачивания белков, которые не могли найти никакие вычислительные центры мира, где работали люди. И это только первый прорыв. А ведь речь идет о конструировании генетически новых систем, создании новых лекарств, новых видов здравоохранения.

Чем больше интеллектуального труда в работе, тем важнее будет роль ИИ, тем больше функций он заберет. Возникнут эдакие «кентавры» из профессионала-человека и помогающего ему искусственного интеллекта.

В профессиях, где больше не просто интеллектуальной работы, а творческой, где нужно придумывать что-то новое и мало рутины, роль ИИ будет меньше. Речь, например, о дизайнерах, архитекторах, музыкантах. Если нужно сделать что-то на хорошем уровне, не претендуя на абсолютную новизну, это все будет уходить искусственному интеллекту. А уникальный, штучный продукт будут делать люди.

Но все равно сотням тысяч человек придется перепрофилироваться. А остальным — освоить новые инструменты, чтобы стать таким «кентавром», о котором я говорил выше. Ничего нового здесь, на самом деле, нет. Скажем, сегодня 100% финансистов, начиная от простого бухгалтера и заканчивая инвестбанкиром, обязательно умеют пользоваться компьютером. Хотя еще 30 лет назад это умели делать только 10% из них. Примерно так же будет и с ИИ. Лет через 10 основанные на нем инструменты должны будут освоить все профессионалы.

— А если заглянуть дальше? Как искусственный интеллект изменит рынок труда лет через 20?

— По мере совершенствования ИИ доля интеллектуальной работы, которую он будет выполнять, будет увеличиваться. И рано или поздно — скорее всего, рано, на горизонте от силы в 20 лет — такая работа уйдет машинам на 100%, а людям останется только что-то совсем уж исключительное. Как по большому счету вся работа по перемещению грузов ушла подъемным кранам различной модификации, а копание земли — экскаваторам различной модификации. Хотя вы, конечно, можете найти места, где нанимают сезонных рабочих и копают лопатами, но в развитой стране такое будет просто неэффективно.

Возвращаясь к ИИ, хороший пример здесь — тонкая хирургия. Уже сейчас робот Da Vinci выполняет 90% работы в сложных операциях, передавая движения хирурга и тем самым обеспечивая высокую точность и стабильность операций. Тогда как высококлассные хирурги, которые работают с ним, лишь управляют и контролируют действия робота.

К этому придет любая интеллектуальная деятельность в течение 15—20 лет. И значительная часть людей при этом будет из нее вытесняться, а остальные — приспосабливаться.

Многие ли из сегодняшних хирургов умеют работать с роботом Da Vinci? Думаю, меньше 10%, скорее даже 5%. Вот они останутся в профессии, а остальные по мере совершенствования и удешевления технологии будут из нее вытесняться. И тогда уже встанет вопрос об изменении не только рынка труда, но и социальной структуры общества. Какой она будет, когда не только физический, но и интеллектуальный труд все больше будут брать на себя машины?

Пока что дать точный ответ невозможно. Для этого нет необходимых инструментов. В октябре 2024 года в журнале Nature Human Behaviour опубликовали статью, авторы которой пишут: «Чтобы изучать новый тип „человеко-машинных социумов“, нужна специальная оптика — „новая социология людей и машин“».

Но кое-что можно сказать уже сейчас. Эксперты в области ИИ, в том числе я, наблюдают формирование нового типа социума, где алгоритмы все теснее вплетаются в нашу жизнь и все чаще принимают решения за нас. Люди таким образом утрачивают свою агентность, а алгоритмы, наоборот, ее приобретают.

В связи с этим интересен опрос The Future of Human Agency, который в 2023 году провел Pew Research Center. 56% принявших в нем участие экспертов считают: к 2035 году большинство технических решений, напрямую не относящихся к личной жизни людей, будут контролировать умные машины, боты и системы. У такого типа общества уже есть научное название — algorithmically infused societies, «алгоритмически насыщенные общества».

Но мы не знаем, насколько комфортным и справедливым для человека будет алгоритмически насыщенное общество. Алгоритмы могут дать ощутимые преимущества: позволить выигрывать в плане эффективности, объективности, возможности аудита, справедливости и социальной пользы. Но они же могут усиливать уже имеющиеся неравенства и предвзятости или даже создавать новые. Что произойдет на самом деле, какой дорогой пойдет алгоритмически насыщенное общество, мы не знаем.

— В каких профессиях люди будут заменены искусственным интеллектом в последнюю очередь?

— В тех, которые основаны на коммуникации между людьми — в широком смысле слова. Где важны забота, внимание, эмпатия и так далее. Это профессии, например, социального работника или психотерапевта. В таких областях люди будут удерживать свои позиции максимально долго. Потому что нам комфортнее вступать в такие близкие отношения с существами, мыслящими и чувствующими так же, как мы. А ИИ принципиально отличается от человеческого разума — хотя сначала он и учился на созданном людьми материале. Искусственный интеллект иначе устроен, у него нет биологической мотивации — он не избегает боли, не стремится к размножению и так далее.

Впрочем, ИИ очень быстро учится имитировать наше поведение — его инструменты работают эффективнее, чем наши зеркальные нейроны, которые позволяют человеку чувствовать и переживать эмоции других людей. Кроме того, количество знаний, которыми оперируют эти системы, несравненно больше. Человек за всю жизнь не сможет прочитать миллионную долю тех книг и статей, которые ИИ способен прочитать за два часа.

Поэтому и такие профессии, основанные на тесной коммуникации между людьми, не застрахованы от вторжения систем искусственного интеллекта. Скажем, ИИ уже сейчас успешно может работать как психотерапевт. При этом он стремительно развивается и сложно даже представить, что будет лет через 10. Поэтому отнюдь не факт, что профессии, основанные на общении и заботе, в перспективе останутся за человеком.

— Сможет ли ИИ создавать новаторские произведения искусства? Или будет способен только на подражания и компиляции вроде дописанной симфонии Бетховена? 

— Большие языковые модели современной архитектуры действительно пока не способны создавать нечто новаторское. Но совершенно не исключено, что усовершенствования в этой архитектуре или изобретение новой позволят преодолеть порог достижения кардинальной новизны, пока что ограничивающий сегодняшние модели.

Причем такой прогресс может случиться в ближайшее время, потому что творческие способности ИИ стремительно эволюционируют. Он дописал симфонию Бетховена, о которой вы говорите, в 2021 году — еще до «революции ChatGPT». За последующие годы генеративный ИИ больших языковых моделей превзошел все оценки и прогнозы касательно его возможностей. И в том числе в области музыки.

Сегодня ИИ уже способен создавать музыку, которую можно монетизировать. Но самое выгодное направление в ИИ-музыке — музыкальные дипфейки  , на которых уже зарабатываются сотни миллионов долларов. А скоро будут миллиарды. Руководитель Sony Music Деннис Кукер даже сообщил Конгрессу США (сайт недоступен из РФ), что компания выдала почти 10 тысяч запросов на удаление несанкционированных вокальных дипфейков.

Что касается ближайшего будущего ИИ в музыке, то это «кентавризация» людей и ИИ в создании, аранжировке и исполнении музыки. Уже в 2024 году примерно четверть новой музыки — продукт этого процесса. В 2025 это будет уже половина.

— Как скоро мы будем читать книги, написанные ИИ?

— Мы уже их читаем. Возможно, не конкретно мы с вами, но многие люди, которые покупают литературу на английском. На Amazon сейчас продается немало научно-популярных книг, написанных с помощью больших языковых моделей вроде ChatGPT. Например, по состоянию на начало 2023 года, на платформе было зарегистрировано более 200 книг, в которых ChatGPT указана как автор или соавтор.

Эти книги охватывают широкий спектр тем — от научной фантастики и поэзии до детских книг и самоучителей по использованию ИИ. Некоторые из них даже попадают в различные списки бестселлеров на Amazon, так что они находят свою аудиторию.

Проблема заключается в том, что Amazon не требует обязательного раскрытия использования ИИ для написания книг. Это затрудняет точный подсчет количества таких произведений. Но понятно, что оно будет только увеличиваться.

— В каком направлении будут развиваться большие языковые модели?

— Такие системы, как ChatGPT, Claude и Gemini, показали, что способны быстро обучаться на гигантских объемах данных. Причем на первом этапе люди скармливали им для этого информацию, людьми же и созданную. После этого еще настраивали языковые модели — скажем, чтобы они не рассказывали пользователям, как делать оружие и убивать людей, а переводили разговор на другие темы.

И уже на первом этапе у ИИ начали проявляться эмерджентные способности — те, что создатели в них не закладывали. Например, первую версию ChatGPT обучали исключительно на английском языке, а она взяла и сама научилась говорить на других языках. Как? Этого не понимают даже сами создатели.

Теперь у нас второй этап: ИИ может сам сгенерировать себе все необходимые данные для обучения. Например, шахматная программа играет сама с собой и прокачивается таким образом до уровня супергроссмейстера.

Или другой пример — обучение роботов сложным движениям — скажем, ходьбе. Раньше пытались каждое движение робота описать с помощью уравнения и по этим уравнениям заставить его ходить. Получалось плохо, медленно и неэффективно. А сейчас ИИ сам генерирует для себя синтетическое видео того, как робот должен двигаться. И по нему отстраивает эти движения так, чтобы они были более точными, плавными, быстрыми.

То есть человеческое участие в обучении нейросетей начинает уменьшаться и сводиться если не к нулю, то к минимуму. Настраивать они уже тоже могут друг друга сами. Какие эмерджентные способности могут у них проявиться в следующий раз при таких условиях, мы не знаем. Это фантастика, честно говоря.

Не исключено, что уже через несколько лет ИИ может достичь уровня сверхчеловеческого разума. Того, что называют Artificial General Intelligence — то есть универсального искусственного интеллекта, который в любой сфере интеллектуальной деятельности намного превосходит самого умного и профессионального человека. Об этом всерьез говорят сами разработчики из OpenAI, DeepMind и других компаний.

— Как это на практике изменит нашу повседневную жизнь в ближайшие годы?

— В первую очередь полностью изменится сам принцип использования компьютинга для интеллектуальной деятельности. Сейчас мы используем разные программы и приложения: «Зум», чтобы поговорить, «Ворд», чтобы сделать текст, «Пауэрпоинт», чтобы сделать презентацию, и так далее. Мы сами определяем, какую работу нужно сделать, как ее нужно сделать и какой инструмент для этого использовать.

Менее чем через 10 лет все станет совершенно по-другому. Мы просто будем говорить своему интеллектуальному ассистенту — с которым будем общаться через какую-то разновидность смартфона или умной колонки, — что мы хотим сделать. Скажем, рассчитать баланс бизнеса и сделать прогноз на следующий год. И дальше ассистент сам разберется, какие потребуются для этого приложения, какую информацию ему нужно будет получить и от кого, как ее обработать и как представить финальный результат. Мы при этом самих приложений уже видеть не будем, пользоваться ими — тоже. Мы будем просто говорить, чего мы хотим.

Подвижки к этому уже есть. Например, компания GitHub недавно анонсировала среду разработки на основе ИИ, которая будет помогать разработчикам проводить брейнштормы, планировать, создавать, тестировать и выполнять код на естественном языке. То есть программисты будут говорить по-английски, что им нужно, а ИИ будет кодить, фиксить и тестировать это, скажем, на Python или Java. Пока это выглядит как фантастика, но уверен, что через пару лет эта штука уже вполне будет работать.

— Широкую огласку получил случай, когда парень делегировал нейросетям общение с девушками в «Тиндере» и это помогло ему начать новые отношения. По крайней мере, он так утверждает. Ожидает ли нас широкое вторжение ИИ в личную жизнь?

— А почему нет? Уже сегодня по большому счету алгоритмы решают, какие новости до нас доходят, какие товары и услуги мы выбираем. Когда мы ищем что-то такое, мы открываем приложение, сайт или задаем поиск в Гугл — и там видим выдачу, которую составляют для нас роботы. Да, пока мы в этом еще участвуем, мы делаем окончательный выбор — из тех вариантов, которые в топе выдачи, потому что глубоко в нее обычно никто не лезет.

И точно так же работают дейтинговые приложения, которые уже используют для поиска партнера 30% людей в мире. Они получают информацию о нас и на ее основе подбирают нам подходящих партнеров — и, судя по отзывам, неплохо с этим справляются. Наверняка к этому уже в ближайшие годы начнут прикручивать в промышленных масштабах ИИ-инструменты — например, чат-бота, как это сделал тот парень. Чат-боты стремительно развиваются, и, как я уже говорил, учатся имитировать человеческое общение все лучше. Так что, думаю, здесь тренд тоже совершенно ясен.

— Как понять, общаешься ты с ИИ или живым человеком?

— В случае с самыми продвинутыми версиями ИИ это практически невозможно. В последних экспериментах специально подготовленные эксперты в 70—80% случаев были не в состоянии понять, разговаривают они с человеком или с роботом. Или создан ли текст человеком или роботом. Знаменитый тест Тьюринга уже неактуален, ему на смену создали более сложные проверки, но и их искусственный интеллект обходит.

И потому единственный способ понять, с кем вы говорите, — это специальная маркировка, отметка «Я искусственный интеллект» или «Произведено искусственным интеллектом». Но такие ограничения сам же ИИ наверняка будет учиться обходить, как сейчас люди обходят авторское право.

— Очень распространены опасения о том, что ИИ лишит человечество свободы. Они оправданы?

— В каком-то смысле да. Как я уже говорил, мы все больше делегируем принятие решений роботам. Выражаясь научным языком, теряем агентность. Приведу еще один пример. Допустим, вам нужно написать дипломную работу или диссертацию. 50 лет назад вы пошли бы собирать материал в какую-нибудь хорошую библиотеку и провели бы там много часов, роясь в каталогах, читая оглавления журналов и так далее — чтобы найти нужную информацию. Сейчас эту интеллектуальную работу гораздо быстрее делает Google Scholar или какая-то другая специализированная поисковая система.

И это, с одной стороны, сильно облегчает работу, а с другой, задает определенный вектор. На самом деле нам вываливается алгоритмически подобранная информация, из которой любой человек при анализе ее вряд ли опускается дальше десятой страницы поисковой выдачи. Спрашивается, а кто нам подобрал эту информацию и выдал? Ее подобрали алгоритмы. Это в принципе уже будни современного ученого. Ни один самый лучший специалист сегодня не сможет прочитать и десятой доли тех статей, которые по его узкой специализации публикуются в мире каждый день. Остается надеяться на алгоритмы, что они выберут для вас главное.

И так не только в науке, но и в других областях — про выбор товаров или романтических партнеров мы уже говорили. Человек с развитием компьютерных систем все больше теряет агентность. Решения для нас готовятся алгоритмами, а мы выбираем из некоторых вариантов, которые они нам предлагают. Этот тренд все сильнее, количество областей, где мы самостоятельно принимаем решения, катастрофически схлопывается. И я вообще слабо себе представляю, что через десять лет мы будем принимать решения сами, без алгоритмов.

Возможно, машины будут в конечном счете относиться к людям так, как мы относимся к растениям, как это в деталях описал великий фантаст Джеймс Лавлок в своей книге «Новоцен. Грядущая эпоха сверхразума». Мы бережем растения, сажаем, поливаем и так далее. Но они ничего сами не решают. То же может произойти и с видом Homo Sapiens.

— Сейчас во всем мире пытаются ограничить развитие и использование технологий ИИ — как на национальном, так и на международном уровне. Как вы думаете, попытки эффективны?

— Действительно, такая работа ведется. Свежий пример — закон о регулировании искусственного интеллекта, принятый в Евросоюзе весной. В нем ИИ-приложения делятся на классы риска, и в зависимости от этого устанавливаются требования к их безопасности и прозрачности. Некоторые технологии запрещаются — такие, как распознавание эмоций в офисах и учебных заведениях или прогнозирование преступлений полицией на основе ИИ-профайлинга.

Свои регуляции есть и в США — более мягкие, и в Китае — там как раз все более жестко, они в этом смысле впереди планеты всей. В августе прошлого года в КНР ввели 24 новых ограничения на использование ИИ, среди которых обязательная регистрация всех таких услуг и алгоритмов. Кроме того, теперь в Китае для обучения ИИ-моделей требуют использовать только «законные данные», которые разработчики обязаны раскрывать регулирующим органам по запросу.

Все это звучит вроде бы неплохо. Но проблема в том, что с помощью того же искусственного интеллекта будут находиться способы обхода этих ограничений. Это как в кибербезопасности. На любой антивирус можно сделать вирус, который его победит. Против него разработают новый антивирус и так далее. Будут вводиться все новые ограничения и правила в области ИИ — и появляться все новые способы их обхода.

— Может ли искусственный интеллект обрести самосознание и свободу воли?

— Вопрос очень популярный, но уже сейчас понятно, что он поставлен неправильно. Говоря про самосознание и свободу воли, мы подразумеваем человеческое сознание. Оно сформировалось у нашего вида в результате биологической эволюции и опыта общения в кругу других людей. У ИИ за плечами нет ни того ни другого, поэтому предпосылок к развитию у него таких качеств не видно. Но искусственный интеллект может выработать у себя другое сознание, нечеловеческое, которое будет оперировать собственными понятиями. И наше понятие воли к нему тоже будет неприменимо.

Такой нечеловеческий разум уже описан в многочисленных фантастических романах. Например, в романе Станислава Лема «Солярис». Если помните, там был разумный океан, с которым люди пытались установить контакт, а он в ответ создавал человекоподобных существ из нейтрино, что находится далеко за пределами возможностей человеческой технологии. Обладал ли этот океан самосознанием и свободой воли? Возможно, в каком-то смысле и да, но нам этого не понять. Потому что если они и были, то совершенно отличные от наших.

Нашему же разуму гораздо ближе разумы других биологических существ — скажем, дельфина, сороки или кошки. Про них имеет смысл ставить вопрос о том, могли ли они развиться интеллектуально до нашего уровня — и если да, что для этого нужно. А машины — это абсолютно другое.