Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке

Антон Платунов, 2023

Мы находимся на заре цифровой революции, которая привела к ожесточенной гонке между людьми за использование возможностей технологий. К чему это может привести? Как это повлияет на современное общество? Какую ответственность мы несем?Наша книга попытается ответить на эти вопросы, исследуя две переплетающиеся сюжетные линии. Первая – это захватывающая научно-фантастическая история, в которой мы увидим будущее глазами мощного искусственного интеллекта GPT-4. Эта история будет посвящена проблемам и чудесам, порождёнными мощными ИИ, квантовыми вычислениями и робототехникой.Вторая сюжетная линия, философская и образовательная по своей сути, будет посвящена сложностям адаптации к быстрым темпам технологических изменений, потенциальным последствиям ИИ и автоматизации, а также этическим дилеммам, связанным с созданием разумных машин. Опираясь на реальные примеры и передовые инновации, мы рассмотрим, как общество может наилучшим образом адаптироваться к этим стремительным изменениям.

Глава 9. Тайны технологии LLM: Теория зарождения сверхразума

Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.

Профессор Стэнфордского университета Майкл Косински.

Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.

AGI (artificial general intelligence) — это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям.

Конец ознакомительного фрагмента.