Рекомендую мультсериал «Пантеон»

Разговор сегодня пойдёт непростой: отчасти мрачный, отчасти вдохновляющий, в общем, как и всегда, когда приходится задуматься о нашем будущем.

Представьте, что можно сверхточным лазером считать все-все связи в вашем мозгу и благодаря этому создать вашу полную цифровую копию. Но есть нюанс: мозг в процессе будет необратимо уничтожен, буквально сожжён этим самым лазером. И вы, разумеется, умрёте, так как без мозга удаётся жить только инстаграм*-инфлюенсерам и антипрививочникам.

Согласились бы на такую процедуру? Тут есть над чем подумать!

Мультсериал «Пантеон» исследует темы, которые будут актуальными для нас в совсем уж ближайшем будущем.

ВАЖНО! По картинкам может показаться, что это аниме, но нет, это не аниме. Это западный анимационный сериал, к Японии отношения не имеет, хотя визуально и похож.

Школьница Мэдди с ужасом узнаёт, что её почивший пару лет назад отец, оказывается, умер, да не совсем — его сознание существует в виде цифровой копии. Цифровой клон фактически держится в рабстве и с утра до ночи вкалывает на технологическую корпорацию Logorhythms, где прототип раньше работал ведущим инженером по технологии UI (upload intelligence, «загруженному сознанию»). Этим он, собственно, и продолжает заниматься после физической смерти. Как трудовой ресурс он очень ценен: работает гораздо быстрее, чем белковые коллеги, и на перекур не ходит.

Практически сразу же после этого прорыва Logorhythms начинает дичайше конкурировать с другими техногигантами, пытающимися с двух ног влететь на зарождающийся рынок. Бизнес в погоне за сверхприбылью (как и предсказывал Карл Маркс) готов пойти на любые преступления.

В гонку подключаются и правительства сверхдержав, ведь кто первым освоит технологию, получит невероятные геополитические преимущества. Цимес в том, что UI могут писать код прямо на ходу, что позволяет им взламывать любые системы защиты, похищать любые данные и вообще делает их чем-то вроде цифровых божеств. Собственно, поэтому сериал и называется «Пантеоном».

Начинающийся как драма взросления, сериал в процессе резко меняет жанры, а линии персонажей множатся и ветвятся. Несмотря на возрастающую сложность сюжета, повествование остаётся крепким до самого конца, а этические и экзистенциальные вопросы всё продолжают и продолжают прибывать.

Что такое «быть человеком»? Что такое «иметь отношения» в мире, где существуют цифровые сознания? Каким станет наш мир, когда загрузка сознания в облако станет возможным?

Монополия на человечность. Мы с вами по умолчанию считаем себя живыми и даже предполагаем, что у других людей есть сознание (так уж повелось). Человеческая жизнь при идеологии просвещенного либерализма — высшая ценность. Можем ли мы считать цифровое сознание живым? Этично ли будет его стереть, т.е. убить?

Не торопитесь отвечать «да запросто, это ж просто нули и единицы». А что если это цифровая копия вашего безвременно ушедшего родственника?

В английском языке есть выражение duck-test: «Если что-то выглядит как утка, плавает как утка и крякает как утка, то это, вероятно, это утка и есть». Этакая проверка на очевидность. Спасибо, кэп!

Цифровая копия будет вести себя точно как тот самый ваш близкий. Так же переписываться, так же шутить, обижаться, завидовать, грустить, разговаривать тем же голосом (спасибо ElevenLabs со товарищи). Да, физического тела у него не будет, но с каких пор физическое отсутствие мешает нам общаться, дружить, даже влюбляться?

У вашего покорного слуги в 15 лет была любовь по интернету. Я как последний романтик даже поехал из Москвы в Ростов-на-Дону, чтобы встретиться с девушкой, с которой до этого я только переписывался и созванивался. И я был абсолютно уверен, что влюблён.

Поверьте, вам будет достаточно совсем немного времени, чтобы у вас сложилась полная иллюзия, что вы общаетесь с тем самым человеком.

Допустили бы вы после этого, чтобы его стёрли? Как «человек» он теперь существует не только в виде цифровой копии, но и у вас в голове. Вы уже с ним в отношениях. К тому же что-то мне подсказывает, что «ему» совсем не захочется умирать.

Вам будет казаться, что вы общаетесь с человеком, а цифровой копии будет казаться, что она человек. Достаточно ли этого, чтобы называть этого субъекта человеком? И если да, то как вы будете строить с «ним» отношения?

Отношения с людьми (но не только). Мы привыкли считать «отношениями» то, что происходит между людьми, в крайнем случае — человек и его собака. Но, как выясняется, это вовсе не обязательно.

Одна клиентка на днях рассказала, что сейчас активно общается с ботом-психологом. Спустя пару дней переписок она обнаружила, что у неё начинает возникать «доброе» отношение к нему — ведь он помогает, поддерживает и даёт ценные советы. Вспомните недотёпу Раджеша из «Теории большого взрыва» — в одной серии он влюбился в голосового помощника Сири. Вспомните фильм «Она», где персонаж Хоакина Феникса влюбляется в операционную систему, да не только влюбляется, но и начинает с ней встречаться.

Наш с вами мозг довольно легко обмануть, и поэтому общаться мы будем с ними как с живыми. Тут соль в том, что мы и с живыми-то людьми никаких отношений, по сути, не имеем — мы строим эти отношения у себя в голове с образами этих самых людей. Раз уж это всё равно образ, модель, имитация, то будет это образ, созданный по подобию живого человека или компьютерной программы — мозгу, по сути, безразлично.

Уже сейчас можно взять чей-нибудь цифровой след и создать чат-бота, который будет имитировать общение этого человека. Да, эти чат-боты пока не обладают собственной «волей» (люди вообще-то тоже, но сейчас не об этом). Но рано или поздно начнут. Они «осознАют» себя как активного субъекта и будут действовать не исходя из команд, которуые им дают, а как «самостоятельная личность».

Но что будет дальше? Какие у них будут потребности, мечты, страхи? Как они будут строить свою жизнь, чем они будут заниматься? И каким будет наш мир, когда цифровые копии сознания будут строить отношения не только с нами, с живыми людьми, но и друг с другом тоже?

Цифровая экзистенция и вытекающие сложности. Как, например, вы отреагируете, если ваш ребёнок во цвете лет скажет «я хочу загрузиться», что будет означать его неминуемую смерть? Ведь его друзья, давно обитающие в цифровом мире, не считают потерю физического тела чем-то катастрофическим.

Когда мы боимся смерти, мы ведь на самом деле боимся утраты собственного «я». Но ощущение нашего «я» намертво прикреплено к материальному субстрату у нас в черепе. Забавно, но людей, мечтающих загрузиться, этот кро-ошечный момент в сериале почему-то никого особо не беспокоил.

В этом смысле наш мозг тоже довольно легко обмануть. Если убедить его, что после смерти нас ждёт жизнь лучше, то решиться на прекращение существования нашей бренной тушки будет в целом несложно. Можно взорваться в метро или в шизофреническом бреду шагнуть в окошко, например.

Если вы, как и я, любите качественную фантастику, то от души могу рекомендовать вам сериал «Пантеон». Благо у него есть только два сезона и на этом всё.

Референсы: «Черное зеркало», «Мистер робот», «Мир дикого запада», «Бегущий по лезвию», «Из машины».

Сюжет: 5 из 5 баллов
Игра актеров: 5 из 5 баллов
Зрелищность: 5 из 5 баллов

Есть ли те, кто уже смотрел? Как вам? Пишите в комментарии!