6 мифов о нейро­сетях, в которые пора перестать верить

20
Аватар автора

Аня Бегиашвили

разрушительница легенд

Страница автора

Искусственный интеллект до сих пор окутан мифами. Одни люди боятся ИИ, другие превозносят, а третьи настроены крайне скептически. Порой безосновательно.

В последние годы мы не только наблюдаем, как стремительно развиваются нейросети, но и начинаем использовать их в повседневной жизни. А значит, пора знакомиться с ними ближе и избавляться от стереотипов. Развеиваем самые популярные мифы о нейросетях.

📦 Нейросети приведут к массовой безработице

Как бывает с любым технологическим прорывом, часть специальностей действительно окажется невостребованной. Похожий эффект возникал и после изобретения компьютера, электричества и даже механического будильника.

Зато появятся новые профессии, а для некоторых откроется больше возможностей. На фоне внедрения ИИ 64% руководителей компаний планируют нанимать больше сотрудников — причем не только разработчиков, но и аналитиков, художников, авторов текстов

💡 Нейросети могут думать и разговаривать как человек

Разговор с ChatGPT кажется реалистичным. Но вы общаетесь с алгоритмом, работающим на основе данных, которые в него загрузили люди. Даже самые человеческие реакции — сочувствие, подбадривание — и слова, которые нужно использовать в контексте, он просто предсказывает.

Для этого феномена есть термин — «стохастический попугай». Языковые модели сравнивают с говорящими птицами, потому что они имитируют человеческую речь, не понимая смысла сказанного

🧠 Искусственный интеллект превзойдет человеческий

Наш интеллект комплексный. Он может не только воспринимать и обрабатывать информацию, но и руководствоваться интуицией, здравым смыслом, личным опытом. Нейросеть обойдет любого из нас в скорости обработки данных, но не примет решение лучше, чем человек.

Уже ведутся исследования с целью создать настоящий сверхразум, который сможет думать как человек. Но неизвестно, когда это произойдет и произойдет ли вообще, а внедрение таких механизмов, по словам главы OpenAI Сэма Альтмана, будет долгим и постепенным

👨‍💻 Нейросетями сложно пользоваться

На самом деле, чтобы пользоваться ИИ, нужен только доступ в интернет. Умение составлять запросы сделает коммуникацию с нейросетью максимально эффективной, но в целом она поймет и задачу, описанную в свободной форме.

Некоторые ИИ-сервисы заточены под конкретную функцию, например обработку изображений в определенном стиле. Для таких нейросетей даже не нужно писать никакие инструкции — только нажимать кнопки в приложении

⚖️ ИИ не может быть предвзятым

Если в контенте, на котором обучена нейросеть, содержится какое-то предубеждение, ИИ может его перенять. Предвзятость часто возникает из-за недостаточной репрезентации определенных проблем, групп людей, позиций в источниках информации.

Например, некоторые банки уже используют нейросети в одобрении кредитов — и робот вполне может принять дискриминирующее решение, если к такому были склонны люди, выполнявшие эту функцию раньше

💾 Чем больше данных, тем лучше работает нейросеть

Считается, что чем больше база данных, тем разнообразнее будут результаты. Но все зависит от ее качества: ИИ работает с тем, что ему дают, — он не проверяет информацию на точность, не исправляет и не улучшает ее.

Нейросеть может генерировать бредовые и ложные результаты. Например, если ее обучали на непроверенных источниках из интернета. Поэтому иногда увеличение базы данных может даже подпортить качество ответов

👾 Еще больше о нейросетях

В рассылке «Капча». Рассказываем про новые ИИ и полезные сервисы, разбираемся в интернет-культуре, делимся актуальными мемами и трендами

Если хотите лучше разбираться, как работают нейросети:

Аня БегиашвилиКакие еще стереотипы о нейросетях вы слышали?
  • Aлeкcaндp Tpeшин>Разговор с ChatGPT кажется реалистичным. Но вы общаетесь с алгоритмом, работающим на основе данных, которые в него загрузили люди. А человеческий мозг чем от этого принципиально отличается? Божьей искрой? 😏 Отдельный вопрос — можно ли вообще считать нейросеть алгоритмом, учитывая, что ее никто не пишет, а она сама формируется в процессе обучения? Да, формируется на основе написанного человеком алгоритма, но пользовательскую информацию этот алгоритм не обрабатывает.8
  • Slava MillerAлeкcaндp, вы не понимаете, у человека еще есть интуиция и здравый смысл! Хотя в последнем я что то сомневаюсь2
  • Slava Millerслышал от бывшей что ИИ не может заменить человека... ну может если без премиум подписки...0
  • Нехетти Грин"Нейросетями сложно пользоваться" - да, сложно. Много бреда несут и воды льют. Как двоечники на экзамене. И речь примерно такая же - "русский как иностранный". К сожалению, это свойственно и многим живым людям поколения рубежного между зетами и альфами. Они не виноваты - это мир такой. Цифровая эпоха. Книги, лонгриды и буквы вообще - неинтересны. Визуалка - король. Но в общем и целом, ИИ - неплохой инструмент, хотя есть много еще над чем поработать.0
  • Aлeкcaндp TpeшинНехетти, а вот эти вот высшие психические функции ̶о̶н̶и̶ ̶с̶е̶й̶ч̶а̶с̶ ̶с̶ ̶н̶а̶м̶и̶ ̶в̶ ̶э̶т̶о̶й̶ ̶к̶о̶м̶н̶а̶т̶е̶ они разве не по тому же нейросетевому принципу работают? Или это просто наукообразный эвфемизм для божьей искры?2
  • Кактус в иголкахAлeкcaндp, здесь речь о том, что нейросеть - это гипер т9. То есть следующее слово подобрано не из логических, осмысленных соображений, а потому что чаще всего после предыдущего слова люди использовали именно это. Человек не обладает таким колоссальным набором информации и никогда не прочитает такого объема текстов, поэтому ему приходится ориентироваться не на среднестатистический набор слов, а собственный опыт.1
  • Кактус в иголках1. Нейросети приведут к массовой безработице. Приведут к структурной. В России отсутствует массовый доступ к самым современным моделям генеративного ИИ (Chat GPT, Claude, Gemini). Пока школьники со всего мира учатся осваивать запросы, применяют нейросеть ко всем сторонам своей жизни, подавляющее большинство россиян не имеет доступа к впн. Эту пропасть уже ничем не заштопать, так и будут у нас в школах все силы вкладывать в то, чтобы ученики шли на «рабочие специальности», так как российские предприятия до сих пор работают из середины 20 века. При этом многие крупные непроизводственные компании активно внедряют ИИ, что создает огромную пропасть между «айтишниками» и «вот этими всеми остальными». 2. Мы до сих пор не понимаем, в чем заключается процесс человеческого мышления. На сколько релевантны эти утверждения? 3. Если не ошибаюсь, Суцкевер и другие бывшие работники Open AI предсказывают приход AGI к 2030. Ребятушки, это пять лет. И никто особо не понимает, что это такое и как оно будет там само в себе развиваться. 4. ИИ - Мега воплощение всепланетарного сознания. А мы оооочень предвзяты и субъективны. По поводу захвата мира. Как-то слушала некую полемику между сторонниками и противниками ИИ (еще задолго до массового распространения chat gpt) и там интересный пример привели. Горнодобывающая техника на ИИ, задача которой - эффективная, быстрая, экономная добыча последних ископаемых. И вот эта техника находит залежи полезных ископаемых под городом. Она не принимает решение убить людей, захватить мир и сотворить злодеяние. Она принимает решение эффективно добывать.6
  • Sergey ShubinКактус, справедливости ради, "рабочие специальности" будут актуальны ещё много лет во всём мире, потому что это с одной стороны относительно дешёвый, а с другой стороны тяжело автоматизируемый труд. Корпорации не будут вкладывать деньги в автоматизацию труда портных, которые шьют одежду для масс-маркета за копейки, они сначала будут сокращать издержки на разработчиков. Я бы предпочёл будущее в виде миллиона роботов ВАЛЛИ, расчищающих горы мусора вместо людей, но вместо этого у нас роботы-художники и роботы-писатели.2
  • Иван ДрагоКактус, вы всего лишь транслируете базовые тезисы ИИ-хайпа, не до конца понимая суть экономических процессов (прямо как ИИ). Реальный прорыв в экономике случится, когда ИИ прикрутят к ФИЗИЧЕСКОМУ труду. Точить гайки у станка, подметать улицы и тд и тп. Можно возразить, что некие демо-роботы уже умеют успешно ходить и прыгать, НО, TCO (суммарная стоимость владения) таких универсальных роботов (в отличии от специализированных, типа манипуляторов на сборочных конвейерах) заоблачно выше стоимости живого человека (особенно гастарбайтера), стоимость которого для бизнеса около нуля - бизнес платит человеку только ЗА ОТРАБОТАННОЕ ВРЕМЯ, но не платит за его рождение на свет и обеспечение всем необходимым до достижения трудоспособного возраста. Собственно, в этом и состоит суть эксплуатации человека человеком и появление у бизнеса added value - каждый работник приносит бизнесу денег больше, чем его ЗП. Если это не так - бизнес разоряется. Так вот, роботов эксплуатировать НЕ ПОЛУЧИТСЯ, тк по структуре расходов - это +-тот же станок, который сначала нужно произвести/купить/взять в аренду и только потом начать получать с его работы прибыль. И именно поэтому разговоры про тотальную роботизацию крутят уже 50 лет, а дальше сборочных линий, складов и демок дело не идет. А пока, на очередном "пике ИИ", памп энд дампят акции nVidia и сжигают гигаватты электроэнергии в ИИ-датацентрах...2
  • Кактус в иголкахИван, вы так уверенно транслируете свои предсказания, что вам позавидуют даже Нобелевские лауреаты (а ни один из них подобных прогнозов не строит). У вас графика стоимости валют на ближайшие два года ещё не составлено?)) Ни в каком из моих тезисов ничего не было сказано про полную автоматизацию. Даже близко. Никаких разговоров и предсказаний и красивых речей про роботов. Зачем вы это придумали - загадка. Речь шла про значительную отсталость российских предприятий в процессе автоматизации. Развитие производственных мощностей в России практически не происходит, закупка иностранных станков значительно усложнилась. Экономичность использования физического труда обсуждается с начала времен. Так, бесплатен был труд рабов, крестьян. И все же вокруг сейчас ни рабов, ни крестьян. Более того, есть большое количество стран, где человеческий труд дешевле труда животных. Тем не менее, в развитых странах физический труд планомерно механизируется/автоматизируется. И эта тенденция только ускоряется. Разговоры про тотальную автоматизацию не просто идут 50 лет, а планомерно мир переходит к автоматизации. Думаю, любая сфера имеет свою выкладку, обосновывающую эти процессы. Объемы физического труда падают с каждым годом как в промышленном производстве, так и в с/х. Стоимость технологий будет падать по мере их распространения и постепенного перехода к самовоспроизводству (что также неминуемо). Повторюсь, никаких речей про абсолютно автономных роботов не было. Но сокращение использования физического труда в производстве - более чем очевидно.3
  • Sergey AveryanovAлeкcaндp, ага, странный аргумент. Нейронные сети неспроста изначально назывались искусственными нейронными сетями и уже потом слово "искусственные" стали опускать для краткости. По большому счету это попытка повторить биологическую нейронную сеть живых организмов, так что не вижу никаких принципиальных отличий.1
  • Игорь Ш."Для этого феномена есть термин — «стохастический попугай». Языковые модели сравнивают с говорящими птицами, потому что они имитируют человеческую речь, не понимая смысла сказанного" есть еще более трендовый термин - эмерджентность . Это когда думали что получится попугай, а оно математику решает. А насчет того, что не понимают того, о чём говорят, так это и у людей часто встречается. "Зато появятся новые профессии, а для некоторых откроется больше возможностей. " можно примеры таких профессий ? Промтинженер ? Так с этим ИИ сам хорошо справляется. Что еще ? Рисовальщик в Мидджорней ? Погуглите сколько десятков или сотен тысяч программистов за последний год выгнали. Я молчу про фрилансеров и всяких дизайнеров. Я знаю контору которая ИИ сотрудниками чуть ли не весь персонал заменила который с клиентами общается. Говорят бот на GPT-4o в 10 раз дешевле обходится. Правда сотрудников не всех выгнала. Часть теперь занимается созданием ботов для других компаний. "Нейросеть обойдет любого из нас в скорости обработки данных, но не примет решение лучше, чем человек." Поиграйте с ней в ГО или сразитесь в воздушном бою. Или погуглите статистику по врачебной диагностике с ИИ. "На самом деле, чтобы пользоваться ИИ, нужен только доступ в интернет. Умение составлять запросы сделает коммуникацию с нейросетью максимально эффективной, но в целом она поймет и задачу, описанную в свободной форме." Как пообщаться через Интернет с ИИ который обнаруживает пожары на складе или управляет военным кораблем или управляет ногами робота ? Или ИИ это только болталки-рисовалки ? "ИИ работает с тем, что ему дают, — он не проверяет информацию на точность, не исправляет и не улучшает ее." это частный случай. В жизни может и проверять или вообще не нуждаться в базе для обучения. ИИ который играет в ГО или управляет истребителем не нужны примеры того как это делают кожанные. Им достаточно знать правила, остальному они научаться сами.1
  • Вячеслав ШиваровНаглядный пример, насколько автору статьи далеко до ИИ0
  • Кактус в иголкахИван, видимо, вы свой пойнт абсолютно случайно решили затолкать в первый попавшийся комментарий. И опять мое нескончаемое удивление вашим пойнтом. В какой части моего комментария была выведена причинно-следственная связь между уровнем производства в России и доступом к нейросетям? Манная каша с комочками… Пожалуйста, читайте внимательно и адресно направляйте свои комментарии, чтобы не терять зря чьего-то времени.0
  • Иван ДрагоКактус, >В какой части моего комментария была выведена причинно-следственная связь между уровнем производства в России и доступом к нейросетям? Манная каша с комочками… Ну даже не знаю... Возможно, тут? "Пока школьники со всего мира учатся осваивать запросы, применяют нейросеть ко всем сторонам своей жизни, подавляющее большинство россиян не имеет доступа к впн. Эту пропасть уже ничем не заштопать, так и будут у нас в школах все силы вкладывать в то, чтобы ученики шли на «рабочие специальности», так как российские предприятия до сих пор работают из середины 20 века." >Пожалуйста, читайте внимательно и адресно направляйте свои комментарии, чтобы не терять зря чьего-то времени. Пожалуйста, помните, что написали хотя бы 2 комментария назад. Даже ChatGPT это уже умеет.0
  • Иван ДрагоSergey, надо всегда помнить, в каком мире мы живем. А живем мы на планете, где 86% населения имеет доход менее 30$ в день, что считается нищетой разного уровня градации... Это звучит цинично, но по факту любой автоматизации нужно конкурировать с армией из почти 7 млрд очень дешевых (местами - почти бесплатных) универсальных биороботов. И именно поэтому ИИ сейчас рисует картинки и генерит код и тексты, а не подметает улицы - затраты на "физическую оболочку" ноль, а ЗП кодера, тех писателя или дизайнера в разы выше чем у дворника.0
  • Кактус в иголкахИван, ещё раз, внимательно. В приведенной вами цитате абсолютно отсутствуют причинно-следственные связи между развитием нейросетей и развитием производства. Действительно, если вы прогоните эту цитату через chat gpt, возможно (не обязательно), вам станет понятнее. Будучи преподавателем, возьму на себя смелость объяснить. Первое предложение указывает на мое сетование об отсутствии нормального доступа к продвинутым моделям генеративного ии. Следующее предложение указывает на мое разочарование тем, что школьники не имеют доступ к современным технологиям и им приходится осваивать рабочие профессии, в том числе, на технологически остальных предприятиях. В обоих предложениях отсутствуют какие-либо синтаксические единицы, указывающие на связь между утверждениями «развитие нейросетей» и «предприятия работают из 20 века». Более того, далее идет пассаж о том, что крупные непроизводственные предприятия внедряют ии, предлагая большое количество рабочих мест для айтишников. Но ничего не говориться о том, развиваются ли эти предприятия технологически благодаря ии. Пожалуйста, внимательно и прекратите придумывать то, чего не было сказано.0
  • Даниил ХаритоновСразу видно, автор не работал плотно с нейросетями и уж точно не связан с их разработкой, так что все о возможностях нейросетей - не верно. Все о глупости восприятия людьми технологии - верно. 1. Да, не приведут. Технологичесаий прогресс за всю историю человечества ни разу к такому не приводил, просто изменятся профессии и их количество возрастёт. 2. Могут, если вы перестанете думать, что речь и человека является, чем то мистическим. Все компьютеры созданы по образу нашего мозга (удивительно, не правда ли), собственно у нас в голове такие же функции и алгоритмы, как и у ИИ, просто их больше и они сложнее. Всё вокруг нас можно выразить в виде информации и взаимодействия с ней. Так сравниваете не сравниваемое. 3. Опять вода. В чём превзойдёт? Есть уже сотни в действий в которых мы проигрываем машинам, ещё до популизации ИИ. Нужна конкретика, или же вы имели ввиду, что машина никогда не заменит человека? Тогда конечно верно. 4. ИИ может и все модели ИИ априори предвзяты, в мире в целом не существует объективности и непредвзятости (опять уже учите мат.часть), а в случае с ИИ есть ограничители разработчиков, этические, правовые, моральные - всё это рамки, которые и регулируются ответы. Так что чушь прям чушь. 5. Это просто пик бреда. Конечно, чем больше данных тем лучше работает модель. Вы путаете данные, которые уходят в "базу", на которой учится ИИ с запросами пользователей. Что у вас в голове не равно тому, что у вас спрашивают. Нет, я рад, что статья на правильную тему, нужно отгонять страхи обывателей и толкать технологии. Но делая это с недостоверной информацией, в кототорой автор не разбирается, эффект будет прямо обратный.0