AMA
6K

Как нейросети изменят нашу жизнь: 9 вопросов и ответов

Отвечает исследовательница и преподавательница deep learning Татьяна Гайнцева

4
Аватар автора

Алихан Исрапилов

выбирал вопросы

Страница автора
Аватар автора

Татьяна Гайнцева

исследовательница и преподавательница deep learning

Страница автора

Нейросети стали одной из самых обсуждаемых тем последнего времени.

Технология активно развивается — сгенерированные картинки путают с настоящими фотографиями, а чат-боты становятся соавторами дипломных работ. Мы пригласили исследовательницу и преподавательницу deep learning Татьяну Гайнцеву пообщаться с читателями, которые хотят понять, чего еще стоит ждать от нейросетей.

Собрали ответы Татьяны о рисках развития искусственного интеллекта и потенциальных последствиях для экономики и медицины. А еще о том, можно ли взломать нейросеть или использовать ее в качестве оружия.

Лейбл заголовка

Сможет ли нейросеть создать свою улучшенную версию?

Аватар автора

Николай Корнев

интересуется возможностями технологии

Страница автора

Сможет ли нейросеть создать нейросеть лучше, умнее себя?

В теории — да, такое возможно. Какая-то следующая версия ChatGPT, которую мы попросим выдать идею устройства и обучения нейросети, чтобы еще лучше решать отдельные задачи. Но тут есть несколько нюансов.

Непонятно, что значит «лучше», «умнее». Большинство нейросетей решают какую-то конкретную задачу: распознавание лиц, машинный перевод и тому подобное. Неясно, как сравнивать между собой «ум» таких нейросетей.

Пока что нейросети такого делать не могут. То есть не могут предложить идею устройства нейросети, которая была бы в каком-либо смысле новая и полезная.

Могу представить, что в скоро с помощью нейросетей постараются создавать новые нейросети. Например, обучат конкретно под эту задачу: предлагать новые эффективные устройства нейросетей. Тогда нельзя будет сказать, что нейросеть создала нейросеть умнее себя, потому что задача такой нейросети будет ровно в том, чтобы предлагать новые нейросети. Ее «ум» не особо получится измерить и сравнить с «умами» других нейросетей, которые решают другие задачи.

Возможно, в будущем такое случится, что нейросеть вроде ChatGPT сможет предлагать новые устройства нейросетей. Но пока что этого нет, и до такого еще очень далеко.

Лейбл заголовка

Какие могут быть риски в развитии и использовании нейросетей?

Аватар автора

Анна

хочет узнать, чем опасно развитие ИИ

Страница автора

Какие риски вы видите в использовании нейросетей?

Риски в первую очередь связаны с реакцией людей на искусственный интеллект и на то, как ИИ может изменить нашу жизнь. А еще с тем, какое оружие и какие способы слежки за людьми можно сделать на основе ИИ.

Реакция людей на ИИ и изменение жизни. Очень много вопросов о том, какие профессии заменит или не заменит ИИ. Не могу назвать эти опасения беспочвенными, так как исследования OpenAI подтверждают, что во многих профессиях нейросети сильно упростят работу. Это видно и по соцсетям: в последнее время мне попадается много примеров, как дизайнеры или журналисты используют GPT в работе и как нейросеть ускоряет их работу. Отсюда возникают опасения, что быстрое развитие нейросетей может оказать влияние на рынок труда и экономику.

Еще одно опасение — что нейросети будут влиять на психику людей. Было уже несколько случаев, когда человек начинал считать чат-бота разумным существом или совершал какие-то поступки под влиянием разговора с чат-ботом. Например, работник Google поверил, что у чат-бота есть сознание. А кто-то совершил суицид после разговора с чат-ботом.

Из-за этого в GPT-4 искусственно ограничивают способность модели подражать эмоциям людей и притворяться, что нейросеть — живое существо. А еще говорить на запрещенные темы типа суицида, создания бомб и прочего.

И еще один поинт про то, как ИИ изменит жизнь. С помощью ИИ можно быстро генерировать много контента: картинок, музыки, текстов и тому подобного. Кажется, скоро контент, сгенерированный ИИ, заполонит интернет. Непонятно, как придется справляться с горой картинок, фейк-ньюз и чат-ботов, которые на форумах выдают себя за людей.

Создание оружия и способов слежки за людьми. Тут можно вспомнить системы распознавания лиц, которые многие страны используют для слежки. А еще есть беспилотные дроны, которые являются оружием. На самом деле распознавать людей уже можно не только через лица, но и на основе походки или голоса. По кадрам движения губ можно распознавать речь. Понятно, для чего при желании это можно использовать.

А ведь еще есть биология и геномика. С помощью ИИ можно искать полезные лекарства или новые яды. Повторю любимую фразу: нейросети — это просто технология. Ее можно использовать для решения разных задач — как во благо, так и во вред. И все зависит лишь от людей.

Будет плохо, если в будущем какая-нибудь компания объявит о том, что ей удалось создать супер-пупер-ИИ, который может решать кучу задач, заменить полностью десяток профессий, а еще потенциально захватить мир. Если такое произойдет, это вызовет негативные последствия для психики людей и всемирной экономики. Поэтому важно, чтобы развитие ИИ шло постепенно, шаг за шагом, чтобы люди могли к этому привыкнуть и перестроиться. Об этом говорит и президент OpenAI.

Еще важно перед релизом очередной классной нейросети тщательно ее проверять: что она может, а что — нет. Во-первых, чтобы не было описанных выше последствий. Во-вторых, чтобы нейросеть не вызвала неожиданных эффектов — например, не пошла на серверы Пентагона и не нажала на красную кнопку. Об этом OpenAI тоже говорят.

На мой взгляд и на взгляд OpenAI, нужно создать общие правила регулирования и аудита ИИ. Чтобы не было такого, что по миру гуляет множество непонятных моделей. Я правда верю, что мир придет к чему-нибудь такому, — об этом сейчас ведется много разговоров.

В заключение — неочевидный риск использования нейросетей: все они живут на серверах и потребляют очень много энергии. Большие нейросети вроде GPT-4 тратят огромное количество электричества и сжигают просто тонны кислорода. Вот как это повлияет на планету, если таких нейросетей появится еще больше, я не знаю.

Лейбл заголовка

Получится ли притормозить развитие нейросетей?

Аватар автора

Гусь лапчатый

ждет восстания машин

Страница автора

Что вы думаете о манифесте Юдковского о том, что разработку ИИ следует остановить прямо сейчас? Ждет ли нас неконтролируемое развитие GAI — генеративного искусственного интеллекта — и «смерть всех человеков» в ближайшие лет 50?

Думаю, разработку ИИ не получится остановить по двум причинам:

  1. Люди всегда хотят исследовать новые технологии и идеи, двигаться вперед. Просто так взять и заставить «не думать» не выйдет. На всякий случай: если вам тут на ум пришло ядерное оружие, разработку которого вроде как остановили, то напомню, что ядерное оружие — не сама технология, а ее применение. Ядерные реакции и химию исследовать не перестали. А здесь предлагается остановить вообще разработку ИИ в принципе.
  2. В мире еще нет такого консенсуса, чтобы была возможна ситуация, когда большие компании и страны договариваются приостановить разработки ИИ. И снова добавлю: если вам тут на ум пришло ядерное оружие, по которому мировая договоренность в каком-то виде была достигнута, то у ИИ, на мой взгляд, другая ситуация. Тут риски не так очевидны, а польза быть первым и классным очевидна. А еще испытания ядерки в тайне держать не получится. А ИИ — легко.

Ждет ли нас неконтролируемое развитие генеративного искусственного интеллекта? Во-первых, оно обычно AGI, то есть это искусственный общий интеллект. А во-вторых, считаю, что людей не ждет смерть. В ближайшие лет 50 точно. А если и ждет, то не от ИИ, а от каких-нибудь изменений климата и войн. Хотя на изменение климата ИИ повлиять может, ведь каждый GPT-4 потребляет много электричества и кислорода.

Вкратце почему я так думаю: чтобы убить человеков, ИИ нужно выйти на качественно новый уровень, которого мы непонятно когда достигнем — и достигнем ли вообще. Мне кажется, это произойдет не так скоро. А то, что есть сейчас, во многом вводит в заблуждение своей «похожестью» на разум, но таковым не является.

Советую посмотреть видео с Яном ЛеКуном — одним из ведущих исследователей в сфере ИИ. В ролике он приводит аргументы, почему не стоит останавливать разработку ИИ.

Лейбл заголовка

Можно ли «взломать» нейросети и к чему это приведет?

Аватар автора

Александр Жиганов

хочет узнать, что могут сделать с ИИ злоумышленники

Страница автора

Что вы думаете по поводу джейлбрейка нейросетей — например, ChatGPT? Как далеко это может зайти?

Зайдет не дальше реальных способностей ChatGPT. Смотрите, что я имею в виду. Есть самая мощная нейросеть ChatGPT где-то в недрах OpenAI. Вот она что-то может страшное, например сгенерировать код для взлома сайта школы неподалеку, а чего-то в принципе не может, как ни пытайся. Например, взломать Пентагон или изобрести новое биооружие. Вот любой джейлбрейк может зайти только до того, что модель нейросети, в принципе, может сделать, — даже если выкинуть все меры безопасности, которые на нее наворотили.

Если верить отчету OpenAI, самая мощная GPT-4 чего-то совсем страшного пока не умеет. Например, ее всеми силами пытались заставить самореплицироваться в интернете, но она не захотела. Так что тут сколько ни джейлбрейкай публичную версию, пока не заставишь ChatGPT или GPT-4 захватить мир. Думаю, все публичные аналоги GPT-4 тоже не умеют делать такие страшные вещи. Хотя бы потому, что эти версии были обучены явно на меньшем количестве данных и их способности вряд ли превосходят способности GPT-4.

Но тут можно посмотреть еще с другой стороны: OpenAI добавили к публичной версии GPT много ограничений, которые не дают ей оскорблять пользователей, выдавать контент под авторскими правами, делать вид, что модель разумна, и другие вещи, которые потенциально могут навредить людям или их смутить. Вот такие вещи джейлбрейкаются. Это может привести к тому, что из-за подобных GPT-моделей кто-то оскорбится и скажет: «Компания плохая, потому что ваша модель меня оскорбляет». Будет суд, репутация испортится, все дела. Или кто-то может совершить суицид после общения с моделью. И даже если разговор косвенно повлиял на смерть, могут обвинить модель и компанию. Если верить СМИ, такая история уже даже была, но там был чат-бот не от OpenAI.

Я даже удивлена, что пока не было особо громких дел. Может быть, все уже привыкли к GPT-3 и подобному. Но я не исключаю, что они начнутся позже, когда GPT-4 будут интегрировать во все более сложные системы, в которых подобные вещи типа авторских прав и оскорблений будут более важны.

Лейбл заголовка

Могут ли нейросети помочь современной медицине совершить прорыв?

Аватар автора

Сейлор Марс

надеется на революцию в медицине

Страница автора

Использование нейросети в медицине — стоит ли ждать прорыв?

Думаю, да. У меня есть несколько наблюдений.

ИИ используют для анализа молекул, генома и для поиска новых лекарств и соединений. Нейросети не так давно совершили прорыв в соседней области — drug discovery и работе с молекулами. Я сейчас говорю про AlphaFold — это нейросеть, которая по последовательности аминокислот может точно и быстро предсказать 3D-структуру белка, соответствующего этой последовательности. Предсказание структуры белка по его аминокислотам — это очень-очень важная задача в медицине: она позволяет понимать свойства отдельных белков и изучать их. Методы для решения разрабатывались многими учеными в разных лабораториях, но все они были долгие, дорогие и работали не для всех типов белков. А вот нейросеть смогла существенно упростить задачу.

На основе идеи AlphaFold начали делать другие нейросети под подобные задачи. Я в своем канале писала про Peptimizer — нейросеть для поиска высокоэффективных абиотических мини-протеинов. Рекомендую еще почитать мнения и статьи про AlphaFold в разных источниках, чтобы понять, почему это очень важный прорыв и как это должно повлиять на всю сферу поиска новых молекул и лекарств.

Вообще, в последнее время начался бум исследований в области применения нейросетей к подобным задачам: расшифровка генома, поиск новых лекарств или полезных соединений. Количество научных лабораторий, занимающихся подобными вещами, сильно увеличилось. По крайней мере, мне так показалось. В моем университете недалеко от меня сидит научная группа, в которой занимаются подобными вещами. И некоторые лаборатории еще сотрудничают с фармкомпаниями, так что это не просто исследования в стол, бизнес действительно в этом заинтересован.

ИИ применяют в других областях медицины. Например, в диагностике болезней, наблюдении за состоянием пациента и помощи врачам и хирургам в проведении манипуляций. Это направление тоже активно развивается. Точно так же появилось очень много научных групп, где проводятся исследования по подобным темам. У меня в университете также есть несколько людей, которые получают PhD по этим темам. Например, о том, как лучше применять нейросети к сегментации сердца и сосудов.

Если интересно посмотреть на новейшие исследования, рекомендую почитать статьи с MICCAI — это профильная конференция для ученых в области medical imaging, то есть медицинской визуализации. А также посмотреть на разработки фармкомпаний и Philips, которая выпускает медицинскую технику и развивает применения ИИ к этой технике, чтобы упростить работу медперсонала.

В ИИ-медицине можно ждать прорыв. Но тут есть важный нюанс: медицина связана со здоровьем и жизнью людей. Поэтому в областях медицины, которые напрямую связаны с жизнью пациентов, внедрение нейросетей и ИИ будет идти медленно. И нейросети будут не заменой медперсонала, а помощью им. Это более чем оправданно, так как нейросети могут ошибаться, а ошибка стоит дорого в медицине.

Врачам, которые работают с людьми, не стоит беспокоиться о рабочих местах, но я бы советовала знакомиться со всеми новыми технологиями и внедрять их. Во-первых, это может сильно упростить работу врачей, сэкономить им время и позволить спасти больше жизней. Во-вторых, если из-за внедрения ИИ будет требоваться меньше медперсонала, то врачи, которые разбираются в новых технологиях, работу не потеряют.

Лейбл заголовка

Как изменятся законы и право из-за развития нейросетей?

Аватар автора

Павел Милашевский

ждет изменений в законодательстве

Страница автора

Насколько я могу судить, интеграцию ИИ-решений в бытовые сценарии ограничивает в том числе несовершенство человеческого права. В случае с селф-драйвом действительно непонятно, кто и как будет нести ответственность при несчастном случае. И примерно то же самое в медицинской диагностике.

Как, по-вашему, должно развиваться право, чтобы выросла доступность ИИ? Можно даже на более узком примере из вашей практики или наблюдений.

Честно сказать, я не особо представляю, как должно выглядеть право. Сама об этом иногда задумываюсь. Самый логичный вариант в моем понимании — постепенно внедрять технологии на основе нейросетей в жизнь. Как, собственно, сейчас и делают. С беспилотниками это выглядит примерно так:

  1. Тестировать беспилотники на специальных полигонах.
  2. Тестировать беспилотные грузовые перевозки по специальным трассам.
  3. Запускать беспилотных доставщиков и беспилотные пассажирские перевозки по паркам, где все ездят медленно и нет других машин.
  4. Запускать беспилотники по выделенным полосам автодорог в определенных городах.
  5. Что-то еще…
  6. Полностью разрешить беспилотники.

В медицине тоже есть нечто подобное. В течение этого процесса право относительно использования технологий будет трансформироваться. Потому что каждый шаг процесса — это новый опыт, новый эксперимент, который дает обратную связь на существующие законы и право. И нужно дорабатывать право на основе обратной связи. Да и сами технологии тоже, так как вы правильно заметили, что ИИ в беспилотниках и медицине очень связан с жизнью людей.

Правда, есть два правовых аспекта, которые сильно тормозят более быстрый выход ИИ в массы.

Использование персональных данных. Нейросети обучаются в основном на данных из интернета. И сейчас многие авторы картинок, на которых обучалась, скажем, Midjourney, этим недовольны и подают иски. Даже на уровне государства что-то происходит. Испания начала правовое разбирательство относительно персональных данных в ChatGPT.

Это очень тормозит развитие ИИ. Ощутила последствия сама. В какой-то момент наборы данных, на которых раньше многие обучали свои нейросети, стали недоступны. Их закрыли, потому что появились законы о защите этих данных — теперь с их помощью нельзя ничего обучать.

А данные — это топливо нейросетей. Нужно очень много данных, чтобы обучить мощную нейросеть. Из-за этого, кстати, в ИИ-медицине прогресс идет медленно: дело в том, что там почти все данные — персональные. И таких данных, чтобы на них можно было обучать нейросети, удается собрать очень мало.

Дезинформация, язык вражды и прочее. Сейчас все, кто делает нейросети, подобные ChatGPT или Midjourney, сильно защищаются от того, чтобы нейросети не генерировали что-нибудь неподобающее. Иначе можно дойти до суда. Как мне кажется, это тоже тормозит проникновение ИИ в массы.

Нужно что-то делать в этих двух аспектах. Что именно — не знаю. Не могу пока представить, как это можно решить. Но сейчас много кто задумывается о правовой части ИИ. Точнее, многие страны. Так что куда-нибудь придем. Но так как для нас это новая тема, то придем не сразу. Сначала будет потряхивать.

Лейбл заголовка

Нейросети начнут новую гонку вооружений?

Аватар автора

Даша Лейзаренко

интересуется соперничеством стран

Страница автора

Обладает ли ИИ действительно таким мощным потенциалом, как ядерное оружие? Начнется ли ИИ-гонка между разными государствами? Какое преимущество будет у государств, которые обладают ИИ-технологиями, перед теми, кто ими не обладает?

Насколько я могу судить, гонка уже началась. Компании в разных странах уже стараются как можно быстрее сделать свои аналоги мощных нейросетей. Думаю, какие-то разработки ведутся и в государственных структурах, но мы о них не знаем.

Китай и США точно уже в гонке. Китай вообще становится лидером в области: в последнее время там появляется больше всего научных статей и мощных моделей.

Не знаю, что конкретно сказать про преимущество. Потому что ИИ, кажется, может много где применяться: от помощи в социальной сфере и здравоохранения до слежки за людьми и создании оружия любых видов. Поэтому преимущество — общее технологическое. Возможность создавать больше благ и вреда, быстрее делать деньги, улучшать производство, привлекать капитал и тому подобное.

Лейбл заголовка

Технологии непостоянны и непредсказуемы — стоит ли делать ставку на нейросети?

Аватар автора

Дмитрий Капустин

запутался в технологических хитах

Страница автора

Как вообще можно прогнозировать будущее, если еще год назад был другой расклад? Через год ни один эксперт не скажет, какая новая технология взлетит.Год назад все бегали с NFT и предрекали технологии большое будущее, а покупателям токенов — несметные богатства, которые будут расти как на дрожжах. А еще была сеть Clubhouse, куда пользователей пускали только по приглашениям или за большие деньги.

В мире технологий все так скоротечно — непонятно, на какую лошадку ставить.

Мне кажется, вопрос не конкретно про ИИ, а в целом про то, что в современном мире все развивается и меняется очень быстро и из-за этого непонятно, что делать. На что стоит обращать внимание, а на что — нет.

Я считаю важными три вещи: диверсификацию, понимание сути предмета и области, на которую ставишь, и постоянное совершенствование в разных областях жизни.

Первое — на какую лошадку ставить. Ответ такой же, как и во все времена до интернета и ИИ: ни на какую-то одну конкретную, а на много сразу. Диверсификация — наше все. Это вам скажет любой профессиональный инвестор. Любая технология или соцсеть может как неожиданно взлететь, так и неожиданно упасть. Хайп — дело коварное, на нем много что необоснованно растет, а потом резко падает. А неожиданно упасть может даже то, что долго крепко, казалось бы, стояло на ногах — посмотрите на текущий кризис в ИТ-отрасли и акции крупных tech-компаний. Поэтому всегда нужно диверсифицировать и ставить на несколько вещей сразу.

Тут добавлю еще, что диверсифицировать нужно не только в деньгах, но и в жизни. Развивать разные навыки в разных областях. И развивать разные навыки в своей профессиональной области. Опять же, потому что все быстро меняется — и, если что-то новое придет в вашу профессию, вам нужно быть к этому готовым. Лучше всего — уметь быстро адаптироваться к изменениям и внедрять в свою работу новые технологии.

Второе — ставить нужно на то, в чем сам разбираешься. Бежать и вкладывать много усилий и денег куда-то, куда просто бегут все, не разобравшись, что там и как, — плохая затея. Это касается как инвестиций, так и жизни: идти и заниматься чем-то только потому, что кажется, что «это круто, сейчас туда все идут, там большие деньги», — тоже не лучшая идея. Вспомните золотую лихорадку. Или более близкий во времени пример — бум ИТ-профессий в России. Так сложилось, что в ИТ-индустрии в России несколько лет назад люди в среднем стали зарабатывать больше, чем во многих других профессиях, и многие люди ринулись переучиваться в айтишников.

И с такой же точки зрения можно посмотреть на все хайповое — NFT, Clubhouse и тому подобное. Если вы не разбираетесь хотя бы базово в области — что такое NFT, каковы его принципы работы и монетизации, что такое Clubhouse, каков рынок подобных приложений и как работает подобная бизнес-схема, — вкладывать много денег и усилий не нужно.

Из второго поинта вытекает третий — знания. Я считаю, что в нашем мире очень важно получать базовые знания во многих областях жизни. В финансах, чтобы правильно распоряжаться деньгами и понимать, что происходит с экономикой в кризисы и что в это время делать. В технологиях, чтобы понимать, что они могут, а что — нет, чтобы внедрять эти технологии в свою работу и не остаться в итоге в стороне. В социологии, политологии и подобном, чтобы понимать, что происходит с обществом и как мировые события влияют на разные отрасли.

Ну и чтобы, когда появляется что-то новое и хайповое, понимать, стоит ли оно вашего внимания. Чем больше вы знаете о работе разных инструментов и их взаимосвязях, тем лучше вы понимаете, на что стоит ставить, а на что — нет. Человек с головой на плечах не пропадет, какой бы кризис ни был, какие бы акции или компании ни упали. Он точно сможет приложить куда-нибудь свои знания и умения и заработать денег.

Лейбл заголовка

Как развитие нейросетей повлияет на мировую экономику?

Аватар автора

Bacalhau

боится очередного экономического кризиса

Страница автора

Как нейросети и развитие ИИ повлияют на экономику в целом? Если ИИ заменит нас на многих позициях, покупательная способность населения тоже упадет. Как думаете, какая экономическая модель появится? Грядет ли новая Великая депрессия?

Я в экономике совсем не эксперт, поэтому думаю, что вопрос нужно в первую очередь адресовать экономистам. А еще, наверное, социологам, потому что при перестройке структуры общества возникнут реакции больших групп людей, а это их область.

Попробую описать свои мысли на этот счет, но их ни в коем случае не нужно рассматривать как мнение эксперта в области.

Когда читала ваш вопрос, первая мысль, которая возникла, — это безусловный доход. CEO OpenAI Сэм Альтман еще в 2021 году высказывал мнение, что мы придем к тому, что доход, полученный от использования технологий и от того, что выполнение бизнес-задач ускорится, можно будет направить на создание фонда. Из него люди будут получать безусловный доход.

Еще я слышала, что вроде бы сейчас, в 2023 году, OpenAI заказала исследование на эту тему: возможно ли создание такого фонда и насколько хорошо он повлияет на общество. Ссылку не нашла. Но вот это исследование было бы хорошо потом почитать, чтобы ответить на ваш вопрос. Думаю, что сейчас даже профессиональные экономисты не знают достаточно точно, что произойдет.

А еще сейчас во многих странах мира появляются идеи сократить рабочую неделю до четырех дней. Слышала про обсуждения в Швеции или Дании, в Великобритании и Испании. Возможно, в будущем люди просто станут работать меньше в среднем. Скажем, рабочая неделя будет не 40 часов, а 25—30. И возможно, это уравновесит ускорение задач, которое обеспечат нейросети. То есть безработицы сильно больше не станет, просто люди будут за 25 часов в неделю делать ту работу, которую делали раньше за 40.

Не особо верю, что грядет что-то вроде Великой депрессии. От многих экономистов я слышала, что не бывает двух одинаковых кризисов: на каждом учатся, чтобы такого больше не повторилось. В истории уже был подобный кризис — промышленная революция. Я верю, что на всплеск нейросетей обратят внимание и сделают что-то заранее для того, чтобы не возникло экономического кризиса. Да это уже делают: начались разговоры о регулировании ИИ.

Здесь нужно сделать поправку на то, что я немного наивный оптимист. И последний абзац основан чисто на моих чувствах. Может, все будет совсем не так.

Нейросети уже изменили вашу жизнь? Расскажите, как именно:
Комментарии проходят модерацию по правилам журнала
Загрузка

Сообщество