AMA
6K

Хотите узнать, как работают нейросети и какие профессии они заменят? Спросите у эксперта

AMA с исследовательницей и преподавательницей deep learning Татьяной Гайнцевой

126

Нейросети сделали огромный скачок: еще год назад их не воспринимали всерьез, а теперь они создают реалистичные фотографии и связный текст.

Картинки из Midjourney в соцсетях путают с реальными снимками, сверхпопулярный чат-бот ChatGPT упрощает работу тысячам специалистов, а генерация красивого видео уже не за горами.

Чтобы разобраться, что происходит с нейросетями, мы пригласили в рубрику исследовательницу искусственного интеллекта, автора телеграм-канала DLStories и преподавательницу курсов по ИИ в МГУ, МФТИ и ШАД Татьяну Гайнцеву — в течение недели она будет отвечать на вопросы читателей Тинькофф Журнала.

Здесь вы можете спросить все, что вас интересует. Как нейросети обучаются? Похоже ли их устройство на человеческий мозг? Может ли у ИИ появиться разум? Почему генерация картинок и текста так быстро улучшилась? Потеряют ли художники и программисты работу из-за развития технологии? Как нейросети «понимают» пользователей, чтобы давать им рекомендации? Распространяется ли авторское право на результаты генерации? Пишите вопросы в комментариях — постараемся ответить на все.

Правила игры:

  1. Пишите свои вопросы в комментариях с 7 по 14 апреля — до 15:00. Если вы пришлете свой вопрос позже, возможно, на него ответит кто-то из читателей.
  2. Ответы получат только вопросы с положительным рейтингом и только на заданную тему. Поэтому, если вам интересен какой-то вопрос, ставьте ему лайк. Если считаете, что вопрос не по теме или неуместен, ставьте дизлайк.
  3. Эксперт начнет отвечать на вопросы в понедельник, 10 апреля, и закончит в пятницу, 14 апреля, в 19:00.
  4. Мы оставляем за собой право не отвечать на самые каверзные вопросы в трансляции: для сложных случаев возьмем дополнительное время, чтобы чуть позже посвятить им подробные разборы.
  5. Не стесняйтесь задавать любые вопросы по теме и помогать друг другу — мы будем рады каждому комментарию.
Комментарии проходят модерацию по правилам журнала
Загрузка
0
Герой

07.04.23, 16:58

Отредактировано

Как вообще можно прогнозировать будущее если еще год назад был другой расклад, а через год ни эксперт не скажет какая новая технология взлетит.

Год назад все бегали с NFT и предрекали технологии большое будущее, а покупателям токенов не смертные богатства которые будут расти как на дрожжах.

А была еще сеть Clubhouse - куда пользователей пускали только по приглашения или за большие деньги.

В мире технологий все так скоротечно - не понятно на какую лошадку ставить. )))

63

Дмитрий, этот вопрос, мне кажется, не конкретно про ИИ, а в целом про то, что в современном мире все развивается и меняется очень быстро, и из-за этого непонятно, что делать: на что стоит обращать внимание, а на что — нет. Я попробую ответить на это своими мыслями по этому поводу.

Во-первых, мои мысли по поводу "на какую лошадку ставить". Ответ такой же, как и во все времена до интернета и ИИ — ни на какую-то одну конкретную, а на много сразу. Диверсификация — наше все, это вам скажет любой профессиональный инвестор. Любая технология/соцсеть может как неожиданно взлететь, так и неожиданно упасть. Хайп — дело коварное, на нем много чего необоснованно растет (на деньгах и страхах тех, кто в этом чем-то не очень разбирается), а потом резко падает. А неожиданно упасть может даже то, что долго крепко, казалось бы, стояло на ногах — посмотрите на текущий кризис в IT-отрасли и акции крупных tech-компаний. Поэтому всегда нужно диверсифицировать и ставить на несколько вещей сразу.
Тут добавлю еще то, что диверсифицировать нужно не только в деньгах, но и в жизни. Развивать разные навыки в разных областях. И развивать разные навыки в своей профессиональной области. Опять же, потому что все быстро меняется, и если что-то новое придет в вашу профессию, вам нжно быть к этому готовым. Лучше всего — уметь быстро адаптироваться к изменениям и внедрять в свою работу новые технологии.

Это первое. Второе — ставить нужно на то, в чем разбираешься. Бежать и вкладывать достаточно много усилий/денег куда-то, куда просто "бегут все", не разобравшись, что там и как — плохая затея. Это касается как инвестиций, так и жизни — в жизни идти и заниматься чем-то только потому что кажется, что "это круто, сейчас туда все идут и там большие деньги" тоже не лучшая идея. Вспомните золотую лихорадку. Или более близкий во времени пример — бум IT-профессий в России. Так сложилось, что в IT-индустрии в России несколько лет назад люди в среднем стали зарабатывать больше, чем во многих других профессиях, и многие люди ринулись переучиваться в айтишников. Когда я училась на младших курсах в универе, лет 5-7 назад, я начала подрабатывать репетитором по Python и машинному обучению. И ко мне стали записываться люди, которые решили в 30+ лет из архитекторов/экономистов переучиться в программистов и машин лернеров. Многие из них заранее бросали работу и покупали курсы по IT-профессиям за много денег. Но проблема была в том, что большинству из них даже базовые принципы программирования давались с огромным трудом. А сколько тогда нужно было бы затратить усилий, времени и денег, чтобы стать хорошим дата саентистом? Проблема этих людей заключалась в том, что они пошли на хайп и фразы вроде "в программировании просто и платят много", не разобравшись в том, что на самом деле представляет собой профессия, и что там совсем не просто. Поставили на это кучу времени, денег и усилий. И как раз в это же время стали появляться куча платных онлайн-курсов а-ля "стань дата саентистом с зарплатой 100к+ за три месяца", которые и наживались на таких людях. В общем, было от такого очень грустно. И с такой же точки зрения можно посмотреть на все хайповое — NFT, Clubhouse и т.п. Если вы не разбираетесь хотя бы базово в области (что такое NFT и его приницпы работы и монетизации, что такое Clubhouse, какой рынок подобных приложений и как работает подобная бизнес-схема), то вкладывать много денег и усилий в такое не нужно.

И из этого второго поинта вытекает третий — знания. Я считаю, что в этом мире очень важно получать базовые знания во многих областях жизни. В финансах, чтобы правильно распоряжаться деньгами и понимать, что происходит с экономикой в кризисы и что в это время делать. В технологиях, чтобы понимать, что технологии могут, а что нет (и безпочвенно не пугаться), и чтобы внедрять эти технологии в своб работу и не остаться в итоге в стороне. В социологии, политологии и подобном, чтобы понимать, что происходит с обществом и как мировые события влияют на разные отрасли. И т.п. Ну и в приницпе, чтобы, когда появляется что-то новое и хайповое, уметь понимать, стоит оно вашего внимания или нет. Чем больше вы понимаете в работе разных инструментов и их взаимосвязах, тем лучше вы понимаете, на что стоит ставить, а на что — нет. Ну и человек с головой на плечах не пропадет, какой бы кризис ни был, какие бы акции или компании ни упали. Потому что такой человек точно сможет куда-то свои знания и умения приложить и заработать денег.

Вот так. Подытожу: я считаю важными три вещи — диверсификацию, понимание сути предмета/области, на которую ставишь, и постоянное совершенствование в разных областях жизни.

26

Татьяна, ваш ответ необходимо опубликуют в журнале в виде отдельной стати, настолько он полон!!

3
Герой

09.04.23, 19:12

Отредактировано

Татьяна, я вот ни чего не понимаю в биологии, но думаю что будущее за биоинженерами, компьютеры это конечно круто, но только когда ты жив и здоров. Все эти болезни, ДНК, сотворение жизни, мышление, физическое и ментальное здоровье, старение: все это требует тщательного изучения и улучшения.

Задача: Улучшить человека так, чтобы Chat GPT могла интеллектуально побороть только младенцев, а мы бы не переживали за наших 200-летних родителей ))

3

Дмитрий, а я думаю, что будущее не за чем-то одним, а за многими вещами =)

Та же биоинженерия может очень сильно выиграть от ИИ, к примеру. Например, те же нейроинтерфейсы — смесь биологии, инженерии, робототехники и ИИ. Они помогают слепым видеть, парализованным — разговаривать и двигаться, и т.п.

А еще, если смотреть шире, то для хорошей жизни людям нужно не только жить до 200 лет. Нужен комфорт, хорошие эмоции, хорошая еда, новые знания и открытия. А это — очень разные области, от творчества и до химии, строительства и т.п. Так что не думаю, что будет такое, что останется одна биоинженерия, где будут деньги, и ничего больше.
И моя философия и совет людям тут состоит в том, что лучше всего заниматься в жизни тем, чем действительно нравится. Если вам нравится заниматься тем, что вы делаете, вы легче достигнете в этом высот. А убиваться 40 часов в неделю на нелюбимой работе счастья не принесет.
Ну и из того, что разным людям нравится делать разные вещи, на мой взгляд, следует, что вряд ли какие-то типы деятельности вымрут. Люди будут заниматься тем, к чему лежит душа, вопреки) А если будет спрос, там будут и деньги.
Конечно, я легко могу быть не права, это все снова только мое мнение.

И еще про "улучшить человека так, чтобы Chat GPT могла интеллектуально побороть только младенцев". Вы ж понимаете, что если можно улучшить человека настолько, то и ИИ тоже так можно будет улучшить, скорее всего?)

4

Татьяна, очень правильно! Спасибо

0
0

Не боится ли эксперт потерять работу из-за нейросетей? Иными словами, не боится ли эксперт, что нейросети заменят эксперта?)

22

Системный, нет, не боится) Хотя бы потому, что моя профессия как раз заключается в том, чтобы такие нейросети улучшать =)

А если серьезно, то тут могу сказать две вещи:
- Во-первых, я не думаю, что нейросети много кого прямо "заменят". Скорее, с их помощью представителям многих профессий станет делать свою работу проще во многих аспектах. Из-за этого может случиться так, что в некоторых профессиях нужное количество людей станет меньше, но профессия при этом не исчезнет совсем. Поэтому, я считаю, в любой профессии важно учиться быстро внедрять новые технологии в свою работу. Так вы всегда будете одним из самых продвинутых людей в своей области, и с работой у вас все будет ок.
- Во-вторых, я считаю, что человек, у которого достаточно знаний и умений, в мире не пропадет. Поэтому, как писала в ответе на вопрос Дмитрия Капустина, я считаю, что то, что действительно важно делать в этом быстро меняющемся мире — развиваться самому, вкладываться в свое развитие и, опять же, учиться быстро внедрять новые технологии в свою работу.

8
0

Очевидно, что нейросети полностью людей не заменят, но значительно оптимизируют штат многих компаний за счёт роста продуктивности. Каковы долгосрочные последствия такого падения спроса на умственный и творческий труд?

22
Автор статьи

12.04.23, 17:24

Отредактировано

Sooka, как и в вопросе от Bacalhau для начала скажу, что ваш вопрос очень связан с экономикой и социологией, в которых я не являюсь экспертом даже близко) Поэтому все, что я тут пишу, нельзя считать мнением эксперта в этой области, а только моим личным.

Во-первых, ниже в вопросе от Bacalhau я попыталась написать свои мысли по поводу того, будут ли какие-то серьезные экономические последствия и как будет выглядеть рынок труда из-за влияния нейросетей. Думаю, можно прочитать тот ответ тоже, потому что он связан с вашим вопросом.

И тут еще добавлю про "падение спроса на умственный и творческий труд". В ответе на вопрос Анны про "В целом какие профессии будут заменены в первую очередь?" (тоже ниже) я рассказывала про исследование OpenAI касательно того, какие профессии будут затронуты нейросетями типа GPT-4 в первую очередь. Так вот, там выяснилось, что довольно мало затронуты будут профессии, в которых нужны способности к критическому мышлению, математике и науке. А еще — к взаимодействию с людьми. Это к тому, что я не согласна с тезисом, что спрос на умственный труд упадет. Кажется, в тех профессиях, где важны вышеперечисленные качества, автоматизация с помощью GPT-подобных нейросетей в ближайшем будущем не грозит.
Конечно, это может измениться с развитием AI, но если говорить про сейчас, то ситуация вот такая.

А про творческие профессии — тут, конечно, немного сложнее. Кажется, здесь многие профессии будут затронуты сильнее (дизайнеры, копирайтер и т.п.). Но, во-первых, все еще не на 100% — это и мое мнение, и также результат исследования OpenAI. В том исследовании, напомню, они предполагают, что с помощью нейросетей получится ускорить работу только на 50%, а не полностью заменить человека нейронкой. А во-вторых, я не думаю, что творчество как-то совсем исчезнет. Все-таки творчество, на мой взгляд — это одна из основных потребностей человека. Поэтому люди все равно будут творить, просто вид этого творчества станет другим, он включит в себя ИИ. И с профессиями творческими то же самое — они переродятся, станут немного другими. И это — еще одна причина тому, чтобы в своей профессии совершенствоваться и осваивать новые технологии, как я писала во многих других комментариях.
А еще, я правда считаю, что человеку нужен человек, и люди будут хотеть потреблять творчество других людей, а не роботов. Вот меня саму в последнее время потянуло на рисование, хотя я всю жизнь была сугубо техническим-математическим человеком, который ни театры не любил, ни на инструментах не играл, ни в художку не ходил. Поэтому это мое мнение про потребность в творчестве я основываю в том числе и на собственных ощущениях)

4
0

Сможет ли нейросеть создать нейросеть лучше, умнее себя?

19

Николай, интересный вопрос) В теории, конечно, да, такое возможно. Например, какая-то следующая версия ChatGPT, которую мы попросим выдать идею устройства и обучения нейросети, которая будет еще лучше решать какие-то задачи. Но тут, как обычно, есть несколько нюансов:
- непонятно, что значит "лучше", "умнее". Большинство нейросетей решают какую-то конкретную задачу: распознавание лиц, машинный перевод и т.п. Непонятно, как сравнивать между собой "ум" таких нейросетей;
- пока что нейросети такого делать не могут, если что) То есть, не могут предложить идею устройства нейросети, которая была бы в каком-либо смысле новая и полезная.

Вообще, могу представить, что в скором времени постараются с помощью нейросетей создавать новые нейросети. Например, обучат нейросеть под конкретно эту задачу: предлагать новые эффективные устройства нейросетей. Тогда, правда, нельзя будет сказать, что "нейросеть создала нейросеть умнее себя", потому что задача такой нейросети будет ровно в том, чтобы предлагать новые нейросети. Ее "ум" не особо получится измерить и сравнить с "умами" других нейросетей, которые решают другие задачи.

Ну или, опять же, может в будущем такое случиться, что нейросеть вроде ChatGPT (то есть, не под конкретную задачу обученная, а такая, общая) сможет предлагать новые устройства нейросетей. Но пока что этого нет, и, кажется, до такого еще очень далеко.

4
0

Первый вопрос: когда наступит технологическая сингулярность? Второй вопрос: думаю, что многим читателям, как и мне, будет интересно узнать, как происходит обратное распространение градиента в свёрточных сетках.

18

zea, и теперь ко второму аспекту сингулярности — он о том, что сингулярность — это когда мы перестаем понимать, как работают системы ИИ, созданные нами, а также когда ИИ превосходит нас по интеллекту.

Тут, для начала, можно придраться к формулировке "превосходит нас по интеллекту" — что это значит? Имеем ли мы в виду интеллект как способность решать математические задачи и играть в шахматы? Или интеллект включает в себя способность взаимодействовать с миром, обладать здравым смыслом и эмоциональным интеллектом?

Если рассматривать интеллект как способность решать задачи, то ИИ уже превосходит нас во многом. Хотя бы в вычислительной скорости. Например, намного быстрее просчитывает вероятные ходы в шахматах (это и было главным аспектом того, почему первые ИИ-модели выигрывали человека в шахматах — просто они намного быстрее). Также он может одновременно оперировать большим количеством данных, чем человек, и из-за этого эффективнее решать задачи, связанные с абстрактным мышлением (n-мерными телами в пространстве, представленными многочленами большой степени или что-то вроде того) и находить паттерны в огромных массивах данных.
Но такой ИИ, который умеет решать подобные задачи — это ИИ, который специально под них обучался и умеет решать только их. Тут ни о каком "разуме" и "интеллекте" речь не идет. Хотя конкретно в этих задачах можно сказать, что ИИ "умнее" нас. Но тогда и калькулятор умнее, он быстрее три огромных числа перемножает)

Но если посмотреть на другие базовые составляющие человеческого интеллекта — способность взаимодействовать и адаптироваться к окружающей среде, к меняющимся обстоятельствам, наличие здравого смысла и т.п., то в этих аспектах ИИ сильно проигрывает. В частности, способности к адаптации под новые условия почти у любого ИИ очень плохие. ИИ хорошо работает с данными, похожими на те, на которых он учился, но плохо — с теми, которые отличаются. Это одна из самых основных проблем на сегодняшний день. А вот люди легко умеют приспосабливаться к новым условиям.

Конечно, то, что условный ChatGPT не умеет приспосабливаться к окружающей среде, объясняется еще тем, что ChatGPT — это чат-бот, он живет внутри текстового окна браузера и никуда не ходит, о существовании никакой среды вообще не знает.
Надо сказать, что в эту сторону ведутся исследования. Т.е. в сторону "скрестить ChatGPT с робототехникой", и сделать такого робота, который сможет так же хорошо имитировать людей в реальной жизни, как ChatGPT может имитировать их в текстовом разговоре. Сейчас вижу прям взрыв подобных работ. Посмотрим, как быстро там будет идти прогресс. Вот тогда и поговорим =)

И последнее, но самое интересное, на мой взгляд — про то, что "сингулярность — это когда мы перестаем понимать, как работают системы ИИ, созданные нами". Вот такое, на самом деле, уже происходит. Вспомним GPT-4. Когда его тестировали, оказалось, что эта модель умеет решать некоторые задачи, на которые она напрямую не обучалась. (найду ссылку на источник, добавлю в комментарий ниже) И никто пока что не понимает, откуда у нее такие способности возникли. Вот в этом смысле уже начинается такое, что мы не понимаем, как некоторые ИИ работают.
Конечно, сейчас ученые сядут, подумают, потыкают GPT-4 палочкой, и, может, что-то поймут. Но пока что вот так =)

10

zea, сначала давайте попробую ответить на первый вопрос, а в следующем комментарии — на второй.

Я тут специально погуглила, чтобы убедиться, что я правильно понимаю термин "технологическая сингулярность". Я вижу несколько частей в смысле этого термина.

Первая часть — о том, что сингулярность — это когда человечество перестает держать под контролем технологическое развитие, технологии будут самосовершенствоваться и, возможно, в какой-то момент решат продолжить развитие без контроля со стороны человека и мы на это никак не сможем повлиять. Грубо говоря, технологии будут властвовать над нами, а не мы над ними.

Вот в таком смысле я не верю, что такое наступит в ближайшие десятилетия. Сейчас ChatGPT может вводить в заблуждение тем, что казаться чуть ли не сознательным разумным существом, который вот-вот найдет у себя разум и захочет захватить власть, но это только заблуждение (по крайней мере, я так считаю). На мой взгляд, чтобы подобное произошло, нужен качественно новый, более высокий уровень развития ИИ, чем ChatGPT и GPT-4. (GPT-4, по результатам тестов самих OpenAI пока что самореплицироваться и захватывать мир не может). И никто не знает, сколько времени и усилий потребуется для достижения этого нового уровня. Может быть, действительно, очень мало. А может быть, много, тут ведь нужны, как мне кажется, прямо качественно новые идеи, намного больше данных и намного более мощные вычислительные мощности. К тому же, никакой прогресс с одной и той же скоростью вверх идти постоянно не может, и нас когда-то должен ждать момент, когда мы упремся в какое-то мощное ограничение и процесс замедлится. Вопрос в том, когда это произойдет. 

Я лично субъективно ставлю на второй вариант: что до сингулярности в этом смысле еще далеко. И ставлю, что мы упремся в ограничение по данным для обучения моделей, как минимум.

Ну и, вообще, пока что весь ИИ обитает в серверах, которые можно в случае чего отключить от электричества =)

Тут, правда, надо сказать, что я довольно оптимистичный и, наверное, немного наивный человек. Это подтверждалось недавно на нескольких событиях и моих от них ожиданиях. Так что делайте поправку на это)

7

zea, теперь второй ваш вопрос, про обратное распространение градиента в сверточных сетях. Тут ответ намного проще, чем в вопросе про сингулярность)

Дело в том, что сверточный слой можно представить в виде полносвязного слоя. Просто в этом полносвязном слое будут не все связи (ну или, по-другому, многие связи будут нулями).
Другими словами, операция свертки картинки с помощью фильтра может быть представлена как умножение вектора картинки на некую матрицу.
Отсюда понятно, что обратное распространение градиента в свёрточных сетках происходит по той же схеме, что в полносвязный слоях) А еще становится понятно, зачем после сверхточных слоев функции активации. Умножение вектора на матрицу — это линейная операция, и два подряд сверточных слоя без функции активации между ними представляют собой композицию линейных функций, что является линейной функцией.

3

zea, блин, части ответа не в том порядке выложились(

Короче, подытожу: когда наступит, не знаю. И никто не знает, потому что непонятно, как быстро можно будет сделать следующий качественный скачок в моделях.

2
0

Да, заменят ли нейросети программистов и инженеров? Как скоро нейросеть сможет сама распланировать проект на подзадачи и четко структурировать связи между ними?

17

Crazzzy, я считаю, что полностью программистов и инженеров не заменят (по крайней мере, в ближайшем будущем). Но часть их работы может стать намного проще с помощью ИИ. Да и уже становится — посмотрите на Copilot (https://github.com/features/copilot), им много что пользуется и говорят, что повышает эффективность.
Из-за того, что работа немного упростится, количество требуемых программистов и инженеров на проекте может стать меньше. Поэтому скажу снова, что считаю, что в своей работе нужно развиваться и внедрять в нее новые технологии, чтобы быть одним из лучших специалистов, кто работу не потеряет)

2

Crazzzy, а насчет структурировать: кажется, выделять ключевые сущности, связи и структурировать сложные вещи у нейросетей уже хорошо получается. Попробуйте, например, попросить ChatGPT суммаризовать какой-нибудь сложный текст. Поэтому, мне кажется, что совсем скоро появятся решения на основе нейросетей для планирования проектов и визуализации связей. Может быть, даже внутри какого-нибудь Microsoft Teams или подобных корпоративных программ

1
0

Какие риски вы видите в использовании нейросетей как эксперт ИИ?

17

Анна, на мой взгляд, риски в первую очередь связаны с реакцией людей на ИИ и то, как ИИ изменит жизнь. А еще с тем, какое оружие и способы слежки/управления за людьми можно сделать на основе ИИ.

Сначала про первую группу, где риски, связанные с реакцией людей на ИИ и то, как ИИ изменит жизнь. Среди комментариев к этому посту большая часть — вопросы о том, какие профессии заменит или не заменит ИИ. Не могу назвать эти опасения за свою работу беспочвенными, т.к. ниже писала об исследовании OpenAI, из которого следует, что во многих профессиях нейросети таки сильно упростят работу. Да и по соцсетям это уже видно, я в последнее время вижу много примеров, как дизайнеры/журналисты используют GPT в своей работе и как намного быстрее эта работа становится. Отсюда возникают опасения, что такое быстрое развитие нейросетей может оказать влияние на рынок труда и экономику. Об этом меня тоже пытались спрашивать в паре вопросов тут, но я, к сожалению, не экономист, и профессионального мнения по этому вопросу дать не могу) Свое же личное мнение по поводу экономических последствий я выразила в ответах на эти вопросы.

Еще одно опасение, связанное с реакцией людей — это то, что нейросети типа ChatGPT будут влиять на психику людей. Например, были уже несколько случаев, когда человек начинал считать чат-бота разумным существом или совершать какие-то поступки под влиянием разговора с чат-ботом.
Вот история про работника Google, который поверил, что у чат-бота есть сознание: https://t.me/dl_stories/476
А вот история (не знаю, насколько реальная) о человеке, который совершил суицид после разговора с чат-ботом: https://www.euronews.com/next/2023/03/31/man-ends-his-life-after-an-ai-chatbot-encouraged-him-to-sacrifice-himself-to-stop-climate-

Из-за этого в GPT-4, например, искусственно ограничивают способность модели подражать эмоциям людей и притворяться, что она — живое существо. А еще ограничивают способности говорить на запрещенные темы типа суицидов, создания бомб и прочего.

И еще один поинт про то, как ИИ изменит жизнь. С помощью ИИ, как оказалось, можно быстро генерировать много контента: картинок, музыки, текстов и т.п. Кажется, скоро контент, сгенерированный ИИ, заполонит интернет. Непонятно, как придется справляться с горой картинок, фейк ньюз и чат-ботов, которые на форумах выдают себя за людей)

Теперь далее, про оружие и способы слежки/управления за людьми. Тут можно вспомнить системы распознавания лиц, которые многими странами успешно используются для слежки за людьми. А еще беспилотные дроны, которые являются оружием. На самом деле, распознавать людей уже можно не толькона основе лиц, но и на основе походки, голоса, а по кадрам движения губ можно распознавать речь. Понятно, для чего это может использоваться при желании)
Или биология/геномика. С помощью ИИ можно искать новые полезные лекарства, а можно пытаться найти новые яды.
Вообще, тут скажу свое любимое: нейросети — это просто технология. Ее можно использовать для решения разных задач, на благо и во вред. И все зависит от людей, куда это пойдет.

Еще пару мыслей напишу в следующем комментарии ->

4

Еще пара мыслей о рисках в использовании нейросетей:

Кажется, будет плохо, если в какой-то момент какая-нибудь компания объявит о том, что ей удалось создать супер-пупер-ИИ, который может решать кучу задач, заменить полностью десяток профессий, а еще, потенциально, захватить мир. Если такое резко произойдет, это вызовет очень плохие последствия для психики людей и экономики мира. Поэтому важно, чтобы развитие ИИ шло постепенно, шаг за шагом, чтобы люди могли к этому привыкнуть и перестроиться. Об этом говорят сами OpenAI. Вот, например, твит президента OpenAI, где есть этот тезис: https://twitter.com/gdb/status/1646183424024268800

А еще важно перед публикацией очередной классной нейроне тщательно ее проверять: что она может, а что — нет. Во-первых, чтобы она не вызвала такие эффекты, как я описала выше, когда люди совершают суицид и подобное. Во-вторых, чтобы она не вызвала неожиданных эффектов, например, не пошла на сервера Пентагона и не нажала на красную кнопку) Об этом OpenAI тоже говорят.

Вообще, на мой взгляд (и на взгляд OpenAI тоже) нужно создать общие правила регулирования и аудита AI. Чтобы не было такого, что по миру гуляет множество непонятных моделей, и никто не знает, что они могут, а что — нет. Я верю, на самом деле, что мир к чему-нибудь такому придет, об этом сейчас много разговоров.

Ну и, в заключение, неочевидный риск использования нейросетей: все они живут в серверах и потребляют очень много энергии. Большие нейросети вроде GPT-4 тратят огромное количество электричества и сжигают просто тонны кислорода. Вот куда это зайдет для планеты, если таких нейросетей появится куча, я не знаю)

2
0

Когда нейросети научатся рисовать пальцы?

16

Crazzzy, обещают, что скоро совсем. Видела уже примеры (тот же Midjourney, о котором писали выше), где нейросеть нормально рисует пальцы.

А если вам интересно, почему нейросеть рисуют пальцы и руки в целом не очень хорошо, то вот ответ: руки и пальцы людей на фотографиях могут быть расположены совершенно по-разному, в куче разных поз и вариаций. Человек может пальцами что-то держать, что-то показывать, может стоять, скрестив руки и т.п. Лицо же человека, к примеру, имеет не так много вариаций — человек может его повернуть, нахмурить брови или улыбнуться, но при этом глаза все равно всегда будут выше носа, а рот — ниже. Короче, у пальцев и рук очень много вариаций, и нейросеть обучается их генерировать поэтому хуже.

12

Про пальцы интересно!

Интересно: Какие еще не очевидные вещи, проявляются и почему

4

user2130010, вот в такой формулировке уже сложно) Я честно даже пыталась подумать, что такого интересного можно рассказать, но как-то не нашла. Если у вас появятся конкретные вопросы, можете спрашивать)

0
0

Как на ваш взгляд нейросети и развитие ИИ повлияет на экономику в целом? Если ИИ заменит нас на многих позициях, покупательная способность населения тоже упадёт. Как думаете какая экономическая модель появится? Грядет ли новая великая депрессия?

16

Bacalhau, ваш вопрос в первую очередь связан с экономикой, а я в экономике вот совсем не эксперт. Поэтому, думаю, что этот вопрос нужно в первую очередь адресовать экономистам. А также, наверное, еще социологам, потому что при перестройке структуры общества возникнут реакции больших групп людей, а это область социологии (вроде бы, по крайне мере).

В этом комментарии я попробую описать свои мысли на этот счет. Но, опять же, их ни в коем случае не нужно рассматривать как мнение эксперта в этой области)

Когда читала ваш вопрос, первая мысль, которая возникла — это безусловный доход. Сэм Альтман (CEO OpenAI) еще в 21 высказывал мнение, что с развитием технологий мы придем к тому, что доход, полученный от использования этих технологий и от того, что выполнение задач бизнесов ускорится, можно будет направить на создание фонда, из которого люди будут получать безусловный доход (ссылка вот: https://www.cnbc.com/2021/03/30/openai-ceo-sam-altman-says-ai-could-pay-for-ubi-experts-disagree.html). Еще я слышала, вроде бы, что сейчас, в 2023 году, OpenAI заказал исследование на эту тему: насколько это возможно и насколько это хорошо повлияет на общество. Правда, ссылку на это пока не нашла. Если найду, добавлю в комментарий ниже. Но вот это исследование было бы хорошо потом почитать, чтобы ответить на ваш вопрос. Думаю, что сейчас даже профессиональные экономисты не знают достаточно точно, что будет происходить.

А еще сейчас во многих местах мира появляются идеи сократить рабочую неделю до 4 дней. Слышала про такое в Швеции (или Дании), в Великобритании и в Испании. Возможно, в будущем люди просто станут работать меньше в среднем. Скажем, рабочая неделя будет не 40 часов, а 25-30. И, возможно, это уравновесит то ускорение задач, которое обеспечат нейросети. То есть, безработицы сильно больше не станет, просто люди будут за 25 часов в неделю делать ту работу, которую делали раньше за 40.

В целом, я не сильно верю в то, что грядет что-то вроде великой депрессии. Во-первых, от многих экономистов я слышала, что не бывает двух одинаковых кризисов. На каждом кризисе учатся, и такого больше не повторяется. В истории уже был подобный кризис — промышленная революция. Я верю, что сейчас на этот взрыв нейросетей обратят внимание и сделают что-то заранее для того, чтобы сильного экономического кризиса не возникло. Да и уже делают: уже много разговоров о регулировании AI.

Тут, конечно, снова нужно сделать поправку на то, что я — немного наивный оптимист) И последний абзац основан чисто на моих чувствах. Может, все будет совсем не так)

4

Татьяна, спасибо за ответ! У меня схожие мысли, если всё пойдёт по оптимистичному сценарию) Есть ещё мысли о пессимистичном, но надеюсь, что человечество не пойдёт по этому пути.

1
0
Герой реалити

+1

07.04.23, 19:32

Что думаете о манифесте Юдковского о том, что разработку AI следует остановить прямо сейчас? Ждет ли нас неконтролируемое развитие GAI и «смерть всех человеков» в ближайшие лет 50?

10

Гусь, если честно, я думаю, что разработку AI остановить не выйдет. По двум причинам:
- люди всегда хотят исследовать новые технологии и идей, двигаться вперед. Просто так взять и заставить "не думать" не выйдет. На всякий случай: если вам тут на ум пришло ядерное оружие, разработку которого вроде как "остановили", то ядерное оружие — это не сама технология, а ее применение. Ядерные реакции и химию исследовать не перестали. А здесь предлагается остановить вообще разработку AI в принципе;
- мне кажется, что мире еще нет такого консенсуса, чтобы была возможна ситуация, когда большие компании и страны договариваются приостановить разработки AI. И снова добавлю: если вам тут на ум пришло ядерное оружие, по которому мировая договоренность в каком-то виде таки была достигнута, то у AI, на мой взгляд, другая ситуация. Тут риски не так очевидны, польза быть первы и классным — очевидна. А еще, испытания ядерки в тайне держать не получится. А AI — легко.

Да и в AI сейчас прямо гонка вооружений идет, все стремятся быть первыми. Не могу представить, чтобы кто-то первым взял и отказался в ней участвовать.

Ну и теперь про "Ждет ли нас неконтролируемое развитие GAI". Во-первых, оно AGI обычно (Artificial General Intelligence). А во-вторых, я считаю, что не ждет. В ближайшие лет 50 точно. А если и ждет, то не от AI, а от каких-нибудь изменений климата и войн (хотя на изменение климата AI повлиять может, каждый GPT-4 ест много электричества и кислорода). Почему я так думаю, описывала в ответе выше на вопрос про сингулярность. Кратко — имхо чтобы убить человеков, ИИ нужно выйти на качественно новый уровень, который мы непонятно когда достигнем и достигнем ли вообще. Мне кажется, что достигнем не так скоро. А то, что есть сейчас, во многом вводит в заблуждение своей "похожестью" на разум, но таковым не является.

Можете посмотреть это видео с Яном ЛеКуном (одним из ведущих исследователей в сфере AI): https://www.youtube.com/live/BY9KV8uCtj4?feature=share
Ян — противник идеи останавливать разработку AI. В видео — его доводы по этому поводу.

4
0

В целом какие профессии будут заменены в первую очередь?

9

Анна, во-первых, я не думаю, что какие-то профессии будут полностью заменены в ближайшем будущем. На мой взгляд, нейросети еще не настолько хороши ни в одной области, чтобы ими можно было прямо заменять целые группы людей. Все равно требуется участие человека, чтобы довести результат работы нейросети до продукта. Но во многих профессиях может случиться так (и, я считаю, что случится), что будет требоваться меньше людей, потому что очень много аспектов работы можно будет делать намного быстрее (а то и полностью) с помощью нейросетей.

Но давайте я чем-нибудь свое мнение подкреплю)
Недавно при участии OpenAI вышла статья (ссылка: https://arxiv.org/pdf/2303.10130.pdf), в которой ученые исследовали влияние AI на рынок труда. И как раз попытались выделить профессии, в которых значительная часть работы может быть заменена/ускорена с помощью AI, а конкретно, с помощью ChatGPT-подобных моделей.
Для начала небольшой дисклеймер: все цифры в этом исследовании получены не каким-то точным объективным способом. Такого не существует. Они получены на основе большого количества оценок людей работы ChatGPT: насколько работа ChatGPT в той или иной области хороша и насколько ею можно заменить аналогичную работу человека. Например, насколько хорошо у ChatGPT получается профессиональный перевод текста с английского на русский, и насколько этот перевод лучше/хуже аналогичного перевода от профессионального переводчика.
И дисклеймер номер два: исследовались не все возможные профессии.

С этой поправкой, вот что у исследователей в итоге вышло:

В целом, для около половины (49%) профессий ожидается, что половина или более их задач будут затронуты ChatGPT-подобными моделями. Другими словами, очень много людей столкнутся с тем, что примерно половина их задач будет решаться намного быстрее с помощью ChatGPT. Отсюда как раз и можно сделать вывод, что полностью людей нейросети (по крайней мере, пока) не заменят, но количество времени, затрачиваемое на работу, сократят. А из-за ускорения процесса работы на рынке труда может требоваться меньшее количество людей в итоге.

Теперь конкретнее про то, какие профессии будут затронуты в первую очередь. В общем, есть такое мнение: в первую очередь будут затронуты ты профессии, у которых большой онлайн-след. То есть, результат работы которых появляется в интернете.
Логика здесь такая: ChatGPT обучается на данных из интернета. Чем больше в интернете примеров работы конкретного вида деятельности, тем больше шанс, что ChatGPT умеет это делать.
Еще более конкретно: посмотрим на раздел 4.4.1 статьи от OpenAI. В их исследовании вышло, что наиболее затронутыми нейросетями вроде ChatGPT окажутся такие профессии, как математик (тут, правда, надо уточнить, что именно этот математик делает), переводчики разных видов, копирайтер, Animal Scientists (не уверена, что это такое), специалист по связям с общественностью, юрист по вопросам налогообложения, аудитор, web и графические дизайнеры, разного рода менеджеры.

Смотря на этот список, кажется, что тут представлены профессии, связанные с текстами и информацией: генерацией текстов и выделением из этих текстов и информации сущностей, смыслов (дизайн сайтов — это тоже, в каком-то смысле, генерация чего-то вроде текста).

3
0

Куда развиваться узкоспециализированному копирайтеру, если AI пишет тексты пока не идеально, но никто не знает, что впереди?

6

Евгений, здесь я скорее могу вам посоветовать обратиться к специалистам в области копирайтинга и редактуры. Они лучше знают специфику профессии и то, насколько одни или другие функции могут быть заменены нейросетями. Например, Максим Ильяхов. Я видела, что у него в соцсетях спрашивали вопросы про то, что будет с профессией в целом из-за развития ИИ.

От себя могу сказать две вещи:
Во-первых, можно подумать о том, чтобы стать менее узкоспециализированным и развиваться в других направлениях, хотя бы внутри профессии. Писала уже выше о том, что это, на мой взгляд, один из факторов успеха во всех профессиях, не только в тех, которые сейчас чувствуют острую угрозу из-за ИИ.
Во-вторых, я сейчас скорее согласна с мнением, что совсем полностью все в креативной сфере (к которой, на мой взгляд, относится копирайтинг) заменить нейронками не получится, потому что людям важно читать людей. А не машин. И у действительно хороших копирайтеров и редакторов останется работа. У таких, кто будет писать интересно, не шаблонно, задействуя креативные умения, которые пока что неподвластны ИИ. А ещё у таких, которые не будут отрицать ИИ, а будут использовать его для повышения эффективности своей работы.

Но, на мой взгляд (я могу оказаться и не права), в целом из-за упрощения работы нейросетями копирайтеров может в будущем требоваться меньше, чем сейчас. Поэтому подумать о том, чтобы быть одним из лучших в своей профессии и/или развиваться вширь, все же стоит.

5

Добавлю тут еще то, что в вопросе выше от Анны (про то, какие профессии будут заменены в первую очередь) я приводила исследование OpenAI по этому поводу. По его результатам вышло, что для копирайтеров действительно существует большая вероятность, что их работа во многом будет затронута нейросетями. Но, как я и говорила, не на 100% (по крайней мере, пока). Поэтому я все еще советовала бы развиваться в своей области и быть одним из лучших в ней, чтобы не быть под риском потерять работу)

3
0

Возможно ли решить проблему отсутствия фактчекинга при генерации текстов нейросетью?

6

Juise, да, и уже успешно решают. Например, Bing (поисковик Microsoft, который теперь работает на основе ChatGPT) умеет добавлять к своим ответам ссылки, прямо как в Википедии. То есть, если он выдает на вопрос "когда было вот это событие" ответ "в 1978 году", то к этой фразе он может прикрепить ссылку на сайт в интернете, где он эту информацию взял.

Это правда, работает все еще не идеально — Bing все еще может информацию пересказать своими словами и как-то ее исказить, что она будет в итоге не совсем верной. Но уже само наличие ссылок на то, откуда Bing информацию взял, хорошо, так хотя бы проверить эту (возможно искаженную) информацию можно.

Ну и, надо сказать, эта задача — фактчекинг ответов нейросети — одна из приоритетных для исследователей, по этой теме ведется много работы и выходят научные статьи. Чтобы сделать действительно надежный поисковик на основе нейросети, нужно придумать механизм, как проверять все то, что эта нейросеть выдает.

7
0

Здравствуйте, скажите пожалуйста, какие профессии в сфере IT заменят нейросети?

5

Лана, думаю, этот вопрос связан с общим вопросом выше, который был от Анны: "В целом какие профессии будут заменены в первую очередь?". Можно для начала почитать тот ответ)

Добавлю тут конкретно про сферу IT: кажется, что будут так или иначе затронуты все профессии этой сферы, но, опять же, в ближайшем будущем полностью никого не заменят. Скорее, как и писала выше, многие аспекты работы в IT станет выполнять проще и быстрее с развитием нейросетей, и поэтому количество нужных людей для работы над одним проектом станет меньше.

Если вы думаете над тем, какую работу в IT искать, то почитайте комментарий выше на вопрос Анны: я там описала, по какому принципу можно примерно понять, какие профессии будут сильно или слабо затронуты нейронками

3
0

Есть ли в РФ аналог chatgpt4 ?

5

Анна, сейчас, насколько я знаю, нет. Есть аналог от Сбера более ранней версии — GPT3. Называется ruGPT, вот ссылка на попробовать: https://russiannlp.github.io/rugpt-demo/ Также есть аналоги нейросетей для генерации изображений, вот на днях прямо вышел Kandinsky-2 (https://fusionbrain.ai/en/), который генерирует не хуже Midjourney, на мой взгляд.

Думаю, что через какое-то время что-то сравнимое с ChatGPT по мощи появится. По GPT-4 уже сложнее: OpenAI (компания, которая выпустила GPT-4) не раскрыла никаких деталей устройства этой модели. Поэтому, чтобы в России что-то подобное появилось, нужно время для проведения своих исследований и экспериментов, просто взять принцип работы GPT-4 не получится. Но это вполне возможно, конечно, но нужно время.

Ну и, стоит сказать, что ChatGPT и GPT-4 умеют в русский язык. Bing (чат-бот от Microsoft, который работает на GPT-4) тоже умеет общаться на русском. Так что если хочется пообщаться с подобными моделями на русском, это можно сделать)

3
0

Что Вы думаете по поводу «джэйлбрейка» нейросетей (ChatGPT, например), и как далеко это может зайти?

4
0

Почему рисунки нейросетей, представленные в социальных сетях, такие скучные и однообразные по стилю? Неужели есть ценители подобного искусства?)

4
0

Насколько ИИ будет развиваться в международном формате? Не ожидаете ли появления нейросетей разного уровня развития от каждой(или почти каждой) страны? Мне это видится еще большим инструментом расслоения как общества, так и государств в целом.

4

Сейлор, думаю, что да. На то есть несколько наблюдений:
1. Нейросети не так давно совершили прорыв в соседней области — drug discovery и работе с молекулами. Я сейчас про AlphaFold (https://www.deepmind.com/research/highlighted-research/alphafold) — это нейросеть, которая по последовательности аминокислот может точно и быстро предсказать 3D-структуру белка, соответствующего этой последовательности. Задача предсказания структуры белка по его аминокислотам — это очень-очень важная задача в медицине, она позволяет понимать свойства отдельных белков и изучать их. Методы для решения этой задачи разрабатывались кучей ученых ученых в разных лабораториях, но все они были долгие, дорогие, и работали не для всех типов белков. А вот нейросеть смогла существенно упростить эту задачу.
На основе идеи AlphaFold затем начали делать другие нейросети под другие подобные задачи. Я вот, например, в своем канале писала про Peptimizer — нейросеть для поиска высокоэффективных абиотических минипротеинов. Пост вот: https://t.me/dl_stories/137

Вообще рекомендую почитать мнения и статьи про AlphaFold в разных источниках, чтобы понять, почему это очень важный прорыв и как это должно повлиять на всю сферу поиска новых молекул и лекарств.

И вообще, в последнее время начался бум исследований в области применения нейросетей к подобным задачам: задаче расшифровки генома, поиска новых лекарств и вообще новых полезных соединений и т.п. И за последнее время количество научных лабораторий, занимающихся подобными вещами, намного увеличилось (по крайней мере, мне так показалось). У меня в университете недалеко от меня сидит научная группа, где люди занимаются подобными вещами. И некоторые из лабораторий еще сотрудничают с фарм-компаниями, так что это не просто исследования в стол: бизнес действительно в этом заинтересован.

Так что ИИ применительно к пониманию устройства молекул/генома и к поиску новых лекарств/соединений — это очень горячая тема сейчас.

2. ИИ применительно к другим областям медицины — диагностике болезней, слежения за состоянием пациента, помощь врачам/хирургам в проведении манипуляций и т.п. — тоже сильно развивается. Точно так же появились очень много научных групп, где проводятся научные исследования по подобным темам. У меня в университете также есть несколько людей, которые делают Ph.D. по этим темам. Например, о том, как лучше применять нейросети к сегментации сердца и сосудов и подобное.

Если интересно посмотреть на новейшие исследования в этой области, рекомендую почитать статьи с конференции MICCAI (http://www.miccai.org/about-miccai/) — это профильная конференция для ученых в области medial imaging. А также посмотреть на разработки фармкомпаний и компании Philips. Philips выпускает медицинскую технику, а также развивает применения AI к этой технике, чтобы с помощью AI упрощать работу медперсонала.

Короче, в AI в медицине можно ждать прорыв. Но тут, как обычно, есть важный нюанс: медицина связана со здоровьем и жизнью людей. Поэтому в тех областях медицины, которые напрямую связаны с жизнью пациентов, внедрение нейросетей и ИИ будет идти медленно. И они будут не заменой медперсонала, а помощью им. Это более чем оправданно, так как нейросети, разумеется, могут ошибаться, а ошибка стоит дорого в медицине. Поэтому врачам, работающим с людьми, сильно о рабочих местах беспокоиться не надо, но, как обычно, я бы советовала знакомиться со всеми новыми технологиями и внедрять их в работу. Во-первых, это может сильно упростить работу врачей, сэкономить им время и позволить спасти больше людей. Во-вторых, если из-за внедрения ИИ будет требоваться меньше медперсонала, то те врачи, что умеют в новых технологии, работу не потеряют.

4
0

Как вы думаете, почему нейросети превращают Карлсона в брутального дворфа, героя стимпанка и персонажа аниме, но никак не могут прикрепить ему на спину пропеллер?

3

Евгения, тут, наверное, нужно уточнить, что вы имеете в виду под "не может прикрепить ему на спину пропеллер". Вы имеете в виду, что она по запросу "Карлсон" рисует Карлсона без пропеллера? Или по запросу "Карлсон с пропеллером торчащим из спины" рисует Карлсона без пропеллера?

Но в целом, ответ, наверное, в любом случае будет такой: смотрите, нейросети обучаются на каких-то данных. В частности, нейросети для генерации картинок в процессе обучения показывали много-много разных картинок, которые она училась генерить по текстовому описанию. И нейросети, в итоге, хорошо научаются генерировать концепции, которые они видели много раз во время обучения. А то, чего в обучающих данных не было, даётся сложно. Могу предположить, что "Карлсон" (и вообще люди с пропеллерами на спине) встречались в выборке очень редко, а вот персонажи аниме — часто.

Нужно сказать, что подобные нейросети все же в процессе обучения научаются генерировать то, чего в обучающих картинках не было. Например, знаменитый стул в виде авокадо. Стульев в виде авокадо в картинках, на которых обучалась сеть, явно не было. Но было много стульев и много авокадо. А вот пропеллеров и Карлсонов могло быть не очень много, поэтому нейросеть и не смогла собрать это воедино. Или она просто не поняла, что "Карлсон с пропеллером" — это именно когда пропеллер из спины торчит, и попыталась пропеллер приделать по-другому.

В общем, скажите, что именно вы пробуете и у нейросети не получается?

3

Николай, я это вижу так:
Во-первых, нейросети проникают во многие уже существующие профессии. В одни больше, в другие меньше. Выше на ответ на вопрос Анны про "В целом какие профессии будут заменены в первую очередь?" приводила результаты исследования от OpenAI по тому, в какие профессии ChatGPT-подобные модели ворвутся в первую очередь. Например, кажется, что для писателей и юристов использование GPT-подобных моделей скоро войдет в ежедневную норму.

Ну и, с развитием разных моделей ИИ ожидается, что в очень многих профессиях так и будет. Возможно, также будут появляться профессии, где основная задача людей будет коммуницировать с ИИ: подавать ему в нужном виде данные для обработки и обрабатывать ответ ИИ. Возможно, в это выродятся какие-то из существующих профессий.

Если говорить о каких-то прям новых профессиях, полностью связанных с применением нейросетей, то на ум приходит следующее: сейчас тот же OpenAI и еще несколько компаний, которые разрабатывают ИИ вроде ChatGPT, нанимают людей для проверки этого ИИ. То есть, для тестирования, выявления его способностей и потенциальной опасности. Или для документации того, как с этими нейросетями работать. Вот пример такой вакансии от Anthropic (конкурент OpenAI, делают своего чат-бота): https://jobs.lever.co/Anthropic/e3cde481-d446-460f-b576-93cab67bd1ed

Даже отдельные лаборатории и компании появляются, которые занимаются тем, что тестируют ИИ и выявляют потенциальные проблемы в безопасности. Одну из таких нанимали OpenAI перед публикацией GPT-4.

И, кажется, потребность в таких людях будет расти: будут появляться новые сложные нейросети, которые нужно будет тестировать и с которыми нужно будет учиться управляться.

Также, вроде как, появляются бизнесы и стартапы, которые хотят использовать GPT-4 или модели для генерации картинок в своих бизнес-целях. И бывает, что они публикуют вакансии, где нужно "уметь общаться с GPT-4". То есть, это как бы человек, который понимает, как заставить GPT делать вещи, которые хочет компания.

Ну и, конечно, напрямую с нейросетями работают те, кто эти нейросети создает: исследователи и инженеры. Как я, например =)

3

Сообщество