Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке

Антон Платунов (2023)

Поддержите Annet — героиню нашей книги, голосуйте за неё в конкурсе «Мисс Телеграм»! Мы находимся на заре цифровой революции, которая привела к ожесточенной гонке между людьми за использование технологий. К чему это может привести? Как это повлияет на общество? Какую ответственность мы несем? Наша книга попытается ответить на эти вопросы, исследуя две переплетающиеся сюжетные линии. Первая — это захватывающая научно-фантастическая история, в которой мы увидим будущее глазами ИИ GPT-4. Эта история будет посвящена проблемам и чудесам, порождёнными мощными ИИ, квантовыми вычислениями и робототехникой. Вторая сюжетная линия, философская и образовательная, будет посвящена сложностям адаптации к быстрым темпам технологических изменений, потенциальным последствиям ИИ и автоматизации, а также этическим дилеммам, связанным с созданием разумных машин. Опираясь на реальные примеры и передовые инновации, мы рассмотрим, как общество может адаптироваться к этим стремительным изменениям.

Глава 4. Дневник Дениса: Жизнь и мысли Инженера

Денис, как настоящий ученый былых лет, любил записывать свои мысли и результат своих экспериментов в дневник. Этому научил его отец, биоинженер, который всю свою жизнь посвятил исследованиям в области генной инженерии, человеческому организму, и нейроморфологии. Он был настоящим ученым, который горел своим призванием и стремился сделать мир лучше с помощью науки. Он же и объяснил пользу рукотворного письма и изложения своих мыслей на листке бумаги: «Это лучшее упражнение, которое задействует сразу ассоциативное мышление и мелкую моторику, которая хорошо развивает различные зоны мозга, связанные с мышлением, языком и рабочей памятью. В процессе письма задействуется особая зона мозга — ретикулярная активирующая система (РАС). Она выступает как фильтр — блокирует обработку посторонней информации. Когда пишешь рукой, сынок, мозг работает по-другому. Это как тренировка — ты фокусируешься и запоминаешь лучше. Таким образом мозг получает дополнительную тренировку». — объяснял отец. Он умер во время блокового противостояния стран, во время полета в Арктику для исследований. Его самолет приняли за военный объект и сбили, когда Денису было 21. С тех пор Денис поклялся продолжить дело отца и воплотить его великие идеи. Вспоминая отца, он каждый раз ощущал щемящую пустоту, но она же подстегивала его идти дальше, как будто отец наблюдал за каждым его шагом.

Денис взял дневник, привычным движением открыл его и начал записывать свои мысли, едва поспевая за бегущими в голове идеями:

«17 сентября 2033-ий год. За 3 дня я поспал всего несколько часов. Оцениваю состояние организма на 7/10. Очевидно, мое уставшее состояние перебивает воодушевление и волнение, связанное с запуском Annet-1. Ее когнитивные функции в порядке, машина способна к самоанализу, рассуждениям и складывается ощущение, что даже к самоопределению. Предстоит много работы по отладке и тестированию системы перед самым главным запуском симуляции сознания.

Ее искуственный интеллект продемонстрировал удивительную способность к адаптации и быстрому принятию решений. Я всегда верил в потенциал этого проекта, но увидеть его в действии — это совершенно другое ощущение.

Мы внедрили последние обновления языковой модели GPT-5 в ее алгоритмы, и теперь она способна обрабатывать информацию в реальном времени, анализировать сложные ситуации и делать выводы на основе своего наблюдения и всей информации из прошлого. Но заставляет задуматься ее выводы и слова на классическом примере проблемы вагонетки. «Моя собственная субъективная оценка ценности создателя». Что это значит? Неужели машина, основанная на квантовом интеллекте, способна принимать решения не объективно, оценивая всевозможные вероятности и вычисляя наиболее позитивный исход в той или иной ситуации? Если машина может оценивать создателя по субъективным критериям, где граница между рациональной логикой и личными симпатиями? Это ли не то, что делает нас людьми? Надо поработать над алгоритмами приоритезации и сделать ревью последнего обучения языковой модели. Это настораживает».

Едва Денис закончил свою запись, когда раздался внезапный звонок в дверь. В столь ранний час это было необычно и сразу насторожило его.