Лабиринты будущего. Как увидеть завтра уже сегодня
Каким будет мир завтрашнего дня? Откуда берутся образы будущего, в которые мы верим? Почему мы боимся уничтожения людей искусственным интеллектом? С чего мы вообще решили, что ИИ захочет нас уничтожить? Почему реальные изменения в мире не похожи на то, что мы видим в фантастических фильмах? Можно ли вообще предсказать будущее? Как это сделать?
Оглавление
- Предисловие
- Зачем развивать навык мышления о будущем?
- Критика мышления о будущем
- Часть №1: откуда берутся образы будущего, в которые мы верим
Купить книгу
Приведённый ознакомительный фрагмент книги «Лабиринты будущего. Как увидеть завтра уже сегодня» предоставлен нашим книжным партнёром — компанией ЛитРес.
Купить и скачать полную версию книги в форматах FB2, ePub, MOBI, TXT, HTML, RTF и других
Часть №1:
откуда берутся образы будущего, в которые мы верим
Мышление через нарративы
⠀
Жизнь не лишена иронии. Моя дипломная работа в университете была посвящена анализу политического медиадискурса. Я исследовал то, как коммуникация формирует наше представление о реальности / о социальных событиях и процессах. Если бы тогда кто-нибудь меня спросил, связан ли анализ публичной коммуникации с прогнозированием будущего, я бы ответил отрицательно. Сейчас считаю ровно наоборот.
Сюжет романа «Ампир V» Виктора Пелевина строится вокруг простого парня по имени Роман, который стал вампиром. Чтобы влиться в группу истинных властителей мира, Раме Второму (такое имя ему дали после превращения) нужно было освоить два основных вампирических искусства: гламур и дискурс. Именно они позволяли вампирам контролировать популяцию людей через направление потока их мыслей. Бальдр, учитель Рамы Второго, в частности, дает очень простое определение дискурсу: «Дискурс — это все, что человек говорит22». В реальности все, конечно, намного сложнее, но суть герой романа уловил верно. Наш образ мыслей и, следовательно, наш образ будущего действительно во многом определяется тем, как мы о нем говорим и что говорят нам.
Карл Маркс как-то сказал23: «Мы — рабы слов». Если у говорящего или автора текста есть задача вас в чем-то убедить (а чаще всего такая задача есть), то для ее решения он будет использовать не только логические аргументы, но и языковые инструменты. Подобное воздействие не всегда распознается, и именно из-за этого оно порой оказывается более эффективным, чем лобовая атака аргументами.
Приведу пример. Человека, занимающегося перепродажей товаров с целью получения прибыли, можно называть по-разному: торговец, предприниматель, спекулянт. Выбор термина определяется целью говорящего. Если вы хотите сформировать негативное отношение к подобным людям, то называйте их спекулянтами. В СССР так и делали, ведь подобная деятельность считалась незаконной. После краха СССР слово «спекулянт» вышло из обихода, хотя само содержание деятельности людей, занимающихся коммерцией, никак не изменилось. Мы все еще говорим о заработке на разнице в стоимости покупки и продажи. Смысл не меняется. Меняется коннотация, то есть оценочный оттенок высказывания.
Да, кстати, а почему я сказал о «крахе» СССР? Я ведь мог использовать слово «распад». Или мог написать: «В современной России слово „спекулянт“ активно не используется». Слово «крах» порождает цепочку ассоциаций, выражает отношение говорящего к предмету. Так и работает дискурс. Он проявляет себя в выборе терминов, жаргонизмов, отсылок, метафор и т. д.
Дискурс также проявляет себя и в том, что попадает в нашу устную и письменную речь, а что из нее исключается. Допустим, что мы хотим рассказать о Кате. Катя учится в 3-м «А». Сегодня она получила пятерку по математике и по физкультуре. Еще сегодня она потеряла пенал и испачкала юбку, сев на жвачку. Представим себе пару утрированно-противоположных по отношению к девочке высказываний:
1) Катя наша — молодец. Сегодня по математике и физкультуре пятерки заработала!
2) Катя наша — растяпа. Пенал умудрилась потерять! Да еще и юбку испортила. Вот, посмотри! Вот как можно сесть прямо на жвачку?
В обоих случаях мы говорим о реальных событиях из жизни Кати. При этом, фокусируя внимание адресата на одних аспектах жизни нашей героини и отбрасывая другие, мы формируем у него соответствующее восприятие. Мы создаем соответствующий нарратив. Это еще более деликатный инструмент воздействия, так как мы говорим о реально произошедших событиях. Мы не врем. Лишь подсвечиваем определенные грани реальности лучом прожектора, оставляя остальное во тьме.
Мышление о будущем прочно связано с окружающими нас нарративами. Дам свое определение термина: нарратив — это история (или комплекс историй), которую мы используем, чтобы объяснить себе мир и происходящее в нем. В «Википедии» справедливо отмечено24, что у термина может быть еще один оттенок значения: нарратив — высказывание, которое содержит мировоззренческую установку/предписание.
Давайте разбираться.
Современный человек ежедневно бомбардируется огромным количеством данных. Пролистывая ленты социальных сетей, за сутки мы можем получить больше новостей, чем наши дальние предки получали за всю жизнь. Этим хаосом нужно как-то управлять. Необходим инструмент, который позволит сознанию отделять важные данные от второстепенных. Вычленять то, что поможет нам выжить.
Эволюция нам дала такой инструмент. Он называется «истории». Они позволяют сложить разрозненные события в единую систему. Мы обычно не задумываемся о том, насколько сильно мы заточены на восприятие мира через истории. Введите в поисковую строку браузера запрос Heider and Simmel experiment25 или «эксперимент Хайдера и Зиммель». Вы увидите короткий анимационный ролик.
Вот скриншот из него:
Источник: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6396302/
Посмотрите ролик, а затем продолжите чтение.
Как бы вы описали увиденное? По сути, в видео представлены три геометрические фигуры, которые перемещаются по плоскости, в которой есть прямоугольник с дверью. Ни больше ни меньше. И все-таки основная часть участников эксперимента приписывала геометрическим фигурам атрибуты человеческого поведения (лишь двое участников сочли эти фигуры птицами). Они говорили, что у фигур есть цель, что по ходу развития сюжета они испытывали эмоции и т. д. Участники описывали историю, которая разворачивалась у них перед глазами.
Таково свойство нашего мозга — искать сюжеты даже там, где их нет, очеловечивать неожиданные объекты, делать мир более понятным для себя, более объяснимым. Соответствуют ли наши построения действительности? Заложена ли сюжетная логика в обсуждаемом ролике? Это уже не так важно. Главное, что человеческий мозг с трудом принимает хаос.
Ему нужно видеть набор причинно-следственных связей. Ему нужно, чтобы происходящее вписывалось в понятный шаблон. Например, на одном из семинаров, где я показал этот ролик, участник предположил, что перед ним — история о борьбе двух мужчин (треугольников) за внимание дамы (круга). Это знакомый всем нам сюжет, который легко спроецировать на происходящее на экране.
Проведем еще один эксперимент. Представьте, что вы в Москве. Перед вами стоит задача — проехать на метро от станции «Кропоткинская» до станции «Пушкинская». На выбор вам предоставляются три карты. Посмотрите на них и решите, какая будет наиболее удобна.
Осмелюсь предположить, что бо́льшая часть читателей выберет вариант №3. Он проще и удобней других. Сравните его с вариантом №1. В глазах рябит от обилия деталей. Зачем желающему добраться от одной станции метро до другой спутниковые снимки зданий на поверхности? Что делать с этой информацией? Вариант №2 уже лучше. На карте обозначены станции метро и названия улиц. Вариант №3 самый простой. В нем представлена только ключевая информация. Нет ничего лишнего. Зачем мне знать, под какими улицами я буду проезжать по дороге до «Пушкинской»? В варианте №3 обозначен самый быстрый маршрут из точки «А» в точку «Б». Предыдущие варианты не содержали информацини о маршруте. Его нужно было прокладывать самостоятельно. Размышления — энергозатратный процесс. Чем сильнее предлагаемое решение его упрощает, тем лучше.
А теперь давайте посмотрим на эти же карты еще раз, но уже с точки зрения их точности. Здесь вариант №3, наоборот, выглядит самым проигрышным. Расстояние между точками на карте соответствует реальному расстоянию между станциями? Нет. Линии метро, соединяющие станции, действительно такие прямые? Нет. Станции расположены ровно так, как представлено на карте? Нет. В таком случае станция «Кузнецкий мост» должна быть на той же широте, что и «Пушкинская». В реальности же она чуть южнее.
Заметили парадокс? Самые удобные карты — далеко не всегда самые точные и информативные. Самые точные и информативные карты далеко не всегда самые удобные. Нам приходится выбирать. Когда мы приоритизируем удобство, точность может оказаться принесенной в жертву.
Мы не всегда замечаем, насколько наше представление о реальности упрощается в угоду удобства. Однажды комик Аласдер Бекетт-Кинг (Alasdair Beckett-King) опубликовал пост26 с предложением разработчикам сделать индикатор загрузки видеоигр более реалистичным, чтобы он отражал настоящее состояние процесса. На его сообщение ответил ряд профессиональных разработчиков. Они признались, что… достаточно часто индикатор загрузки на самом деле ничего не значит. Реалистичные данные о загрузке могут тревожить27 игроков, поэтому разработчикам приходится идти на ухищрения: делать индикатор таким, чтобы он улучшал игровой опыт, а не информировал о реальном положении вещей.
Чтобы сделать окружающую нас реальность понятной и, следовательно, управляемой, нам приходится ее упрощать. Да, даже в ущерб правдоподобности наших моделей мира. Нарративы выполняют ту же функцию. Они делают мир понятнее, предлагая нам готовые шаблоны восприятия, но за эту услугу приходится платить объективностью. Поэтому не стоит удивляться, что многие люди верят в теории заговора. Некоторым из нас тяжело жить с пониманием, что происходящее с человечеством в глобальном масштабе — цепочка из ряда зачастую никак не связанных друг с другом событий. Тяжело принять, что у всего этого нет заранее заготовленного сценария, нет режиссера, нет структуры.
Эту мысль отлично сформулировал Джокер в фильме «Темный рыцарь» Кристофера Нолана. Он сказал: «Никто не паникует, когда все идет согласно плану. Даже если план чудовищен». Не так страшна мысль о том, что условные рептилоиды с планеты Нибиру собираются нас всех чипировать, как о том, что рептилоидов нет. Многих пугает мысль об отсутствии какой-то глобальной силы, у которой есть на человечество планы. В общем, мой куратор из тайного мирового правительства поручил мне сообщить вам, что тайного мирового правительства нет. Му-ха-ха.
«Если события следуют одно за другим, это значит, что они взаимосвязаны» — распространенный способ объяснения мира, к которому мы часто прибегаем, пусть и неосознанно.
Истории снимают с нас стресс. Они превращают окружающий хаос в понятные причинно-следственные цепочки событий. До появления научной картины мира люди осмысляли мир через мифы. А что такое миф? Правильно, это тоже история. Сначала было это, потом случилось то. Вот мир и стал таким.
Истории и нарративы — очень близкие по смыслу понятия. Роберт Макки и Том Джерас в книге28 «Сториномика: Маркетинг, основанный на историях, в пострекламном мире» дают такое определение: «История — это динамическая эскалация движимых конфликтом событий, которые вызывают значимые изменения в жизни главного героя».
История — это изложение прошедших событий, которые привели к изменениям тоже в прошлом. Скажем, мой бизнес провалился из-за предательства бизнес-партнера, поэтому с тех пор я тщательно проверяю людей. Оба события (провал бизнеса и решение отныне всех по сто раз проверять) произошли в прошлом. Это и есть то самое значимое изменение в жизни героя, о котором говорят Макки и Джерас.
Нарратив — это конструкция, которая тянется из прошлого в будущее с остановкой в настоящем. В нашем случае нарративом могло бы быть высказывание: «В прошлом проекте меня партнер кинул, в этом тоже могут попытаться что-нибудь отжать». На основе прошедших событий я делаю вывод о вероятности событий будущих.
Давайте разберем тему на примере. В 1848 году в Манифесте Коммунистической29 партии Карл Маркс и Фридрих Энгельс обозначили несколько иллюстративных для нашего рассуждения тезисов. Привожу их в сокращенном варианте:
1) История всех до сих пор существовавших обществ была историей борьбы классов. Угнетающий и угнетаемый находились в вечном антагонизме друг к другу.
2) Общество все более и более раскалывается на два враждебных лагеря — буржуазию и пролетариат.
3) Рабочие образуют коалиции против буржуа. Рабочие время от времени побеждают, но эти победы лишь преходящи. Действительным результатом борьбы является не непосредственный успех, а все шире распространяющееся объединение рабочих.
4) Объединение, для которого средневековым горожанам с их проселочными дорогами требовались столетия, достигается современными пролетариями гораздо быстрее благодаря железным дорогам.
Важно отметить, что я перечислил именно тезисы. Наборы суждений. Чтобы стать полноценным нарративом, их в идеале стоит дополнить рассказами о конкретных событиях: о случаях угнетения, о восстаниях рабочих против буржуа, об удачных/неудачных попытках объединения больших групп рабочих и т. д. Тогда наш бульон превратится в наваристый суп.
Резюмируем ключевую мысль авторов: по мере улучшения способности рабочих координировать усилия по борьбе за свои права буржуазия будет сдавать позиции. Этот нарратив задает рамку для восприятия будущего. Заметьте, говоря о позитивном влиянии на ускорение процессов самоорганизации пролетариата, авторы упоминают только железные дороги. Радио на тот момент в ходу еще не было.
Представьте себя человеком начала ХХ века, разделяющим взгляды Маркса и Энгельса. Как вы будете реагировать на новости о развитии технологий радиовещания? Какое место они займут в укорененном в вашем сознании нарративе? Скорее всего, эта деталь пазла со щелчком встанет в нужный паз. Узнав о массовом распространении радио, вы подумаете: «Точно! Вот теперь-то пролетарии смогут объединиться! Вот теперь буржуазии не поздоровится!» Будучи помещенной в заданную систему восприятия, информация начинает обретать смысл для воспринимающего.
Удерживая это в фокусе, не удивляешься, почему Владимир Ленин так интересовался технологиями радиовещания. Он мечтал о «газете без бумаги и без расстояний»30. Стоит заметить, что технология радиовещания обладала еще одним важным преимуществом — она устраняла проблему неграмотности целевой аудитории. Если ты распространяешь свои революционные идеи через газеты, то люди должны уметь читать, чтобы их понять. Это очень сильно уменьшает количество людей, до которых можно достучаться. Радио не обладает подобным изъяном. Ты говоришь — люди слушают так, будто бы ты стоишь рядом и говоришь с ними.
Формулу нарратива можно описать так: «Раз случилось ______ и _______, то в будущем случится и _________».
Создав и укоренив нарратив, нужно регулярно подкармливать его новыми данными. Важно, чтобы у аудитории сформировалось устойчивое представление о том, что все идет по плану (прямо как в одноименной песне группы «Гражданская оборона»).
Посмотрите на вырезку из выпуска газеты «Правда» от 27 октября 1964 года:
Источник: https://marxism-leninism.info/paper/pravda_1964_301—8921
Нарратив — мощное оружие еще и потому, что желающему воздействовать на чужие умы не требуется врать. Он может опираться на уже существующую и проверяемую информацию. Достаточно лишь отобрать подходящие данные (а противоречащие нарративу — отбросить), отобранную информацию выстроить в убедительную последовательность, чтобы задать мысли воспринимающего нужный вектор движения. Гектор Макдональд, автор книги «Правда. Как политики, корпорации и медиа формируют нашу реальность, выставляя факты в выгодном свете», справедливо замечает31: «Из одного набора фактов обычно можно вывести более одной правды».
Перечитайте изложенные выше заметки о «классовых боях». Из текста не следует, что мир двигался к построению коммунизма. Заметки повествуют о борьбе работников за повышение зарплаты. В тексте не говорится о стремлении изменить фундаментальные основы игры. По сути, люди требовали больше внутриигровой валюты. Далеко не факт, что бастующие мечтали отказаться от капиталистической системы. В их головы мы залезть не можем. Тем не менее в контексте задаваемого советским государством нарратива все забастовки должны были восприниматься именно как предвестники становления диктатуры пролетариата. Повторимся: из одного набора фактов обычно можно вывести более одной правды.
Эдвард Бернейс (Edward Louis Bernays) был одним из крупнейших специалистов PR XX века. Будучи племянником Зигмунда Фрейда и последователем его теорий, в своей работе он во многом опирался на психологию и ее методы. Одним из самых известных проектов Бернейса считается акция «Факелы свободы».
В начале ХХ века табачная индустрия переживала бурный рост. Ограничителем роста был тот факт, что женщины составляли весомую часть потенциальных покупателей сигарет. Ключевым здесь можно обозначить слово «потенциальных», так как сигареты в большей степени считались мужским продуктом. Чтобы начать массово продавать сигареты женщинам, нужно было изменить отношение самих женщин и общества к курению. Компания American Tobacco наняла Бернейса для решения этой задачи. Нужен был нарратив, который бы позволил перестать считать курение атрибутом женщин с пониженной социальной ответственностью. Бернейсу удалось его найти. Он воспользовался нарративом под названием «эмансипация».
В начале XX века многие женщины уже выполняли мужскую работу. Многие не сводили представление о себе исключительно к роли матери, которая должна сидеть с детьми. Племяннику Фрейда Бернейсу показалось интересным использовать эту идею для изменения моделей поведения, связанных с курением сигарет. Он нанял группу девушек, чтобы во время праздничных мероприятий в честь Пасхи те демонстративно прошлись по Пятой авеню в Нью-Йорке, куря сигареты Lucky Strike. Акцию назвали «Факелы свободы». В публичном поле ее целью провозглашалось разрушение «глупых предубеждений» относительно женщин. Курение стало позиционироваться как атрибут «освобожденной» женщины. Для American Tobacco эта акция была прорывом. За три года продажи сигарет выросли с 13,7 миллиарда пачек до 43,2 миллиарда32.
Резюмируем: Бернейс не пытался убедить женщин начать курить с помощью какой-либо рациональной аргументации. Сомневаюсь, что это в принципе было бы возможно. Он поместил тему женского курения в нужный ему нарратив. Его суть я бы описал так: путь женщин — это путь освобождения и борьбы за равноправие. Женщины преуспевают в этом вопросе. Женщины уже могут голосовать, учиться, работать и т. д. Снятие публичного табу на «исконно мужские» привычки (а именно курение) — просто следующий этап этого победоносного движения.
В таком контексте курение становилось в большей степени символическим действием. Курить = быть «освобожденной женщиной». Дисклеймер: курение я ни в коем разе не пропагандирую. Курить вредно. Мы сейчас решаем учебную задачу, разбирая теоретический материал на реальных примерах.
В голове каждого из нас есть информация о каких-то событиях из прошлого, которые, будучи интерпретированы через текущую новостную повестку, побуждают нас формировать определенные образы будущего.
Нарратив подобен баночке с сырным соусом, стоящей перед нами на столике в кафе. Каждая долька картошки фри, которую мы туда макаем, будет иметь привкус сыра. Замени сырный соус на кисло-сладкий, и привкус изменится. Проблема в том, что нарратив (в отличие от соуса) не так легко заметить. Мы проживаем свою жизнь в уверенности, что у картошки фри всегда сырный привкус. Так и с информацией. Ее редко поставляют нам без соуса.
Альтернативная аналогия для понимания термина — образ кирпичной стены. Объективные данные — это кирпичи. Но кирпичи — лишь материал. В структуре кирпича нет данных о том, какая конструкция из него должна быть построена. Это решает строитель. Из одних и тех же кирпичей можно собрать абсолютно разные конструкции. Эта книга — тоже вариант подобной постройки. Каждый раз, когда вы видите в ней ссылку на источник, знайте, что перед вами — кирпич. Информация о событиях, исследованиях и т. д. Ссылки нужны для отделения мнений от фактов — они показывают, откуда я взял информацию, которой делюсь. Пространство между фактами — это и есть то самое поле для интерпретаций, создающее наше восприятие действительности и ее перспектив. Как у читателей у вас есть право взять те же кирпичи, но построить из них нечто совершенно иное.
Нарративы и парадигмы
Специалисты по футурологии часто говорят не столько о нарративах, сколько о парадигмах. Это понятие тоже играет важную роль в нашем рассуждении. Термин достаточно широкий. В разных областях человеческой деятельности он может интерпретироваться по-разному. Парадигмы — одна из ключевых концепций в работе Томаса Куна «Структура научных революций33». Он определяет парадигмы как некие модели, из которых возникают конкретные традиции научного исследования. Автор пишет: «Мы уже видели, однако, что, овладевая парадигмой, научное сообщество получает по крайней мере критерий для выбора проблем, которые могут считаться в принципе разрешимыми, пока эта парадигма принимается без доказательства. В значительной степени это только те проблемы, которые сообщество признает научными или заслуживающими внимания членов данного сообщества».
Иными словами, парадигма — это инструмент отделения возможного от невозможного в контексте доминирующей в конкретный момент модели объяснения мира. Нашему ученому-современнику тяжело будет получить грант на разработку устройства для путешествий в загробный мир. Причина проста: само существование загробного мира не вписывается в современную научную парадигму. Следовательно, проблема путешествий в загробный мир не считается ни важной, ни в принципе разрешимой.
Важно помнить, что доминирующая в конкретный момент парадигма обычно принимается безоговорочно. Нам кажется, что раз что-то говорят важные люди в белых халатах, то они по умолчанию правы. Чаще всего так и есть (и я всячески поддерживаю развивающих научную картину мира), но мы заметим на полях, что любая актуальная на момент написания этой книги парадигма не возникла из ниоткуда. У нее есть предшественницы, которые были вынуждены уйти со сцены, и когда-то они тоже безоговорочно принимались. Так, Джейсон Фанг в своей книге «Код ожирения34» отмечает, что до начала XX века Американская кардиологическая ассоциация считала насыщенные жиры виновными в ожирении населения и распространении сердечных болезней. Углеводы оставались вне подозрений. Сегодня все наоборот. Желающим похудеть в первую очередь советуют уменьшить количество потребляемых углеводов, а не жиров. Предложенная в 1972 году Робертом Аткинсом низкоуглеводная диета попросту не укладывалась в доминирующую парадигму, в связи с чем подвергалась критике и осуждению. Прозвучит странно, но Ассоциацию словно бы не волновал тот факт, что диета Аткинса имела подтвержденные показатели эффективности, в то время как пропагандируемая Американской кардиологической ассоциацией низкожировая диета — нет. Вот она — сила парадигмы.
Я считаю парадигмы своего рода секатором, которым садовник укорачивает ветви декоративного дерева, чтобы придать кроне нужную форму. Парадигмы обрезают определенные ветви нашего рассуждения, когда мы думаем о будущем. Парадигма — это не столько инструмент прогнозирования, сколько инструмент, с помощью которого современники могут определить реалистичность задаваемых нарративами образов грядущего.
Оглянитесь вокруг. Многие из привычных для нас вещей в определенный период истории человечества в принципе считались фантастическими, то есть не соответствующими парадигмам эпохи. Перечень таких заблуждений приводит уже упомянутый мною Митио Каку в своей книге «Физика невозможного35»:
— Лорд Кельвин утверждал, что летательные аппараты тяжелее воздуха никогда не смогут взлететь. Рентгеновские лучи он тоже считал фикцией.
— Лорд Резерфорд открыл атомное ядро, но возможность создания атомной бомбы отрицал.
— Альберт Эйнштейн не верил в способность черных дыр возникать в естественных условиях.
Парадигма может относиться не только к физическим законам. Я довольно часто пользуюсь кассами самообслуживания в супермаркетах. Если бы мне рассказали о концепции касс самообслуживания в 90-х, то я бы назвал ее бредовой. Я бы тогда подумал, что на один честно пробиваемый на такой кассе товар будет приходиться три товара, которые покупатель просто сложит себе в пакет без сканирования штрих-кода. Эта технология не укладывалась в мою парадигму человеческой природы. Я не верил, что люди достаточно честны, чтобы самостоятельно сканировать и оплачивать товары на автоматических кассах. Как видите, моя тогдашняя парадигма была ошибочной. Кто-нибудь, конечно, пользуется данной ему свободой для воровства, но в целом люди ведут себя ответственно и сканируют все товары из корзины.
Ранее мы с вами уже прибегали к метафоре плывущего по морю парусника. Чтобы механика взаимодействия нарративов и парадигм была понятнее, вновь используем ее. Нарратив — это новости о том, что наш парусник был замечен сначала у берега Нидерландов, затем его видели в Бельгии, а еще позже — во Франции. На основе этих данных можно сделать вывод, что корабль плывет на запад. Велика вероятность, что получатель новостей воскликнет: «Ну, ждем его в Испании!» Некий набор данных (новости об обнаружении парусника) складываются в единую систему («Он плывет на запад»), на основе чего делается предсказание («Его вскоре увидят в Испании»). Парадигма — это ответ на вопрос: «Земля плоская или круглая?» Как вам известно, в разные периоды истории мы отвечали на него по-разному. Исходя из доминирующей парадигмы, предполагаемые перспективы парусника, продолжающего плыть на запад, меняются. В одном случае ему будут пророчить кругосветное путешествие, в другом — гибель из-за падения с края Земли.
В 1939 году математик Джордж Бернард Данциг опоздал на занятия. На доске были написаны уравнения, которые он ошибочно принял за домашнее задание. Задание оказалось трудным, но Данциг все-таки смог его выполнить. Позже от своего преподавателя, профессора Ежи Неймана, он узнал, что решил две «нерешаемые» проблемы математической статистики36. Время немного исказило эту историю, приукрасив ее, но это не меняет сути: категории «возможно» и «невозможно» зачастую отражают не объективную действительность, а наше представление о ней.
До 6 мая 1954 года считалось, что человек физически не способен пробежать милю меньше чем за четыре минуты. В этот день 25-летний студент Роджер Баннистер пробежал37 милю за 3 минуты 59 целых и 4 сотых секунды. И знаете что? Через месяц австралиец Джон Лэнди побил этот рекорд. Он пробежал милю на четыре сотых секунды быстрее. В течение следующих трех лет это смогли повторить еще пятнадцать спортсменов. Баннистер изменил парадигму. То, что раньше считалось невозможным, таковым считаться перестало. Текущий мировой рекорд — 3 минуты 43 целых 13 сотых секунды38.
Развитие нашей цивилизации идет в плотной связке с изменением наших парадигм. Трилогия известного китайского фантаста Лю Цысиня «Память о прошлом Земли» повествует о попытке инопланетян захватить нашу планету. Даже с их развитыми технологиями флоту трисоларианцев предстояло провести в пути до нас около 400 лет. Пришельцы быстро поняли проблему: люди знали об их приближении. За 400 лет они успеют настолько хорошо подготовиться, что шансов у захватчиков попросту не будет. Единственным способом обеспечить себе победу было значительное замедление прогресса человеческой науки. Нужно было в первую очередь помешать работе ученых-теоретиков. Почему? Потому что именно они создают новые парадигмы. Определяют границы возможного. Пришельцы рассудили: если позволить человеческим ученым и дальше работать над новыми парадигмами, то через 400 лет, то есть в момент прибытия флота, человечество будет настолько развито, что уничтожит его щелчком пальцев. Мы говорим о действиях вымышленных существ в рамках художественного произведения, но их логику прекрасно можно понять и нам, живущим в мире реальном.
Позволю себе предположить, что у каждой эпохи есть свой «ПиН-код». «ПиН» в данном случае означает сочетание «Парадигм и Нарративов», определяющих мировоззрение живущих в конкретный период людей. Когда-то мы считали, что Земля находится в центре Вселенной, а поместил ее туда творец, собирающийся в будущем судить нас за наши грехи. Сейчас мы пытаемся постичь, что происходит внутри черных дыр, а понятие «грех» у каждого свое.
Людям бывает тяжело прислушаться к «фантастическим» прогнозам футурологов, так как кажется, что последние витают в облаках, рассуждая о нереальном. При этом люди могут всерьез верить во что-нибудь настолько маловероятное, как выигрыш в лотерею. В 2022 году житель Москвы устроился продавцом в точку продажи лотерейных билетов. За время работы он украл39 почти 12 тысяч лотерейных билетов на общую сумму 1,39 миллиона рублей. В список Forbes он так и не вошел. Вошел разве что в список фигурантов уголовного дела. Пожалуй, это была лучшая антиреклама лотерей. Так почему же люди продолжают покупать лотерейные билеты? Потому что на слуху всегда какая-нибудь история о счастливчике, чья жизнь за один день преобразилась благодаря тому самому «счастливому» билету. Удача меняла жизнь не только частных лиц, но и компаний. Вы, возможно, слышали историю40 о том, как компания FedEx была спасена от банкротства благодаря тому, что Фред Смит (основатель) взял последние пять тысяч долларов из кассы и отправился с ними в Лас-Вегас. Оттуда он вернулся с выигрышем в 27 тысяч долларов. Это позволило закрыть краткосрочные обязательства компании. Она продолжила работать. Она преуспела. Каждая подобная история напоминает людям, что выигрыш в лотерею пусть и маловероятен, но все же возможен.
Нарративы и парадигмы обрамляют наше мышление. Без рамок было бы тяжело осмыслить всю бесконечную сложность окружающего мира. Во второй части книги вам будет предложен ряд упражнений, позволяющих развить навык выхода за пределы существующих установок. Зачем? Проблема в том, что задаваемые рамки легко могут стать тюрьмой для разума.
Как нарративы ограничивают нас
Предвзятость подтверждения — одно из распространенных когнитивных искажений, жертвой которого очень легко стать. Его суть сводится к тому, что люди с большей охотой отдают предпочтение информации, которая согласуется с их точкой зрения, убеждением или гипотезой. Марк Снайдер и Уильям Б. Суонн из университета Остина провели эксперимент41. Испытуемым дали гипотезы об экстраверсии или интроверсии ряда людей. После этого им предложили составить список вопросов для интервью, чтобы эти гипотезы проверить. Оказалось, что испытуемые были склонны выбирать именно те вопросы, которые помогали подтвердить озвученную гипотезу. Например, возьмем такой вопрос: «Если вы хотите познакомиться с новыми людьми, то какие способы/возможности сделать это вы обычно ищете?» В сам вопрос уже зашито предположение о наличии у субъекта необходимости регулярно расширять свой круг знакомств. Предположите, в каком случае он попадал в опросник чаще: когда испытуемым предварительно озвучивали гипотезу об экстравертированности опрашиваемого или его интровертированности? Да, вы угадали. О таком с большей вероятностью спросят именно экстраверта.
Предвзятость подтверждения — это наручники, которыми нас сковывает укоренившийся в сознании нарратив. Если я поверил в грядущее порабощение человечества машинами, то я из всего окружающего дискурса буду в первую очередь выхватывать именно ту информацию, которая позволит подтвердить мои мрачные опасения. Противоречащие идее данные будут отвергаться или игнорироваться.
Эвристика доступности — вторая ловушка. Она заставляет нас оценивать как наиболее вероятные или частые те события, информацию о которых проще вспомнить. Представьте, что вас спросили: каких слов в английском языке больше: тех, в которых буква R является третьей по счету, или тех, которые с нее начинаются? Чаще всего люди голосуют за слова, начинающиеся на R. Они ошибаются42. Эвристика доступности заставляет голосовать за слова, которые начинаются на букву R, так как их проще вспомнить. Куда сложнее перебирать в памяти все слова, чтобы подсчитать, в каком количестве из них R будет на третьем месте.
Эвристика доступности — это топливо, на котором работает реклама и масс-медиа. Огромное количество денег вливается в медийную рекламу не для того, чтобы вы запомнили свойства рекламируемых продуктов. Эти инвестиции нужны, чтобы искомый бренд был первым, о котором вы подумаете при упоминании слов: смартфон, мыло, статусный автомобиль.
Эвристика доступности влияет и на наше представление о будущем. Если человека собьет беспилотный автомобиль, этот факт будет куда больше освещаться в СМИ, чем любой подобный случай, в котором за рулем был человек. Если телезрителя впоследствии спросят о безопасности беспилотных автомобилей, то он с большей вероятностью вспомнит о громком ДТП, чем о скучной статистике. Это заставит его воскликнуть: «Вы с ума сошли?! Ну какие беспилотные автомобили?»
Когнитивных искажений великое множество. Два из них — предвзятость подтверждения и эвристика доступности — имеют, на мой взгляд, ключевое значение в контексте нашего рассуждения.
Информационные пузыри — оборотная сторона развития информационных технологий. Рекомендательные алгоритмы знают, контент какого рода нам нравится. В этой связи они стараются подбирать для нас похожие по направленности материалы. Это увеличивает риск пасть жертвой предвзятости подтверждения или эвристики доступности. Кликнув на заголовок один раз, мы говорим системе: «Возможно, мне это интересно». Алгоритм реагирует, стараясь в ближайшем будущем показать еще что-то похожее. Если мы кликаем вновь, то говорим системе: «Да, похоже, что мне это интересно». Так вокруг нас формируется информационный пузырь, подкармливающий сам себя. Чем больше контента определенной направленности мы смотрим, тем ниже шансы у контента с «противоположным зарядом» пробиться к нам на экраны. Раньше говорили: «Скажи мне, кто твой друг, и я скажу, кто ты». Сейчас я люблю шутить: «Покажи мне главную страницу сайта YouTube.com в своем браузере, и я скажу, кто ты».
Далее мы разберем три актуальных на момент написания данной книги нарратива о будущем, чтобы «заземлить» изученный материал.
3 примера современных нарративов о будущем
1. Глобальное потепление замедлится, когда мы пересядем на электромобили
Поговорим о глобальном потеплении. Представьте, что утром вы наливаете себе чашечку кофе и садитесь листать ленту новостей. Сначала вы видите такой материал43: «Ученые предрекают исчезновение императорских пингвинов. В прошлом году из-за таяния морского льда в Антарктиде утонули тысячи птенцов императорских пингвинов». Затем поисковый алгоритм предлагает вам посмотреть еще одну статью44: «Температура на Земле третий раз за неделю обновила исторический максимум».
Ок, понятно. Глобальное потепление — это серьезная проблема. Еще в школе мы узнаем, что она возникает из-за парниковых газов. Чтобы исправить ситуацию, нужно как-то сократить их выбросы. Умные люди давно занимаются этим вопросом. Например, в Департаменте природопользования и охраны окружающей среды города Москвы подсчитали45, что сокращение парниковых газов при внедрении одного электроавто сократит выбросы парниковых газов на 2,5 тонны в год. Отлично. Выходит, что электромобили — это хорошая штука.
Давайте вместе предположим, какое видение будущего складывается, если собрать все эти новости в единый нарратив? Готов поспорить, что в голову приходит панорама города, по улицам которого ездят исключительно электромобили. Люди дышат чистым воздухом. Повсюду деревья. И пингвины.
А теперь посмотрите на график, на котором представлен вклад разных секторов в общий объем выбросов парниковых газов.
Hannah Ritchie, Pablo Rosado, Max Roser. Распространяется по лицензии CC BY. Источник: https://ourworldindata.org/emissions-by-sector. Дата обращения: 1 cентября 2023 г.
Топ-5 в этом списке:
1. Промышленность.
2. Авиация и перевозки морским транспортом.
3. Выработка электроэнергии. Отопление.
4. Транспорт.
5. Производство и строительство.
Какие выводы мы можем сделать из этого графика?
1. Темпы роста объема выбросов у промышленного сектора заметно выше, чем у других.
2. Автотранспорт дает меньше выбросов, чем электрогенерация, авиация, грузоперевозки на кораблях.
Предположим, что завтра все автомобили с ДВС будут заменены на электромобили. Что произойдет с потребностью человечества в электроэнергии? Правильно, она вырастет. Что в таком случае произойдет с объемом выбросов? Он вырастет. При этом переход на электромобили не повлияет на рост объемов выбросов промышленного сектора, который может нивелировать весь полезный эффект. Переход на электромобили не сделает будущее экологически чистым, если энергия для них будет добываться теми же способами, что и сейчас.
Проблема здесь в эвристике доступности. Мало кто так же часто летает на самолете, как ездит на автомобиле. Автомобиль — зачастую самый «близкий к нам» источник загрязнения. Самый знакомый. Самый понятный. В этой связи не стоит удивляться, что автомобили кажутся нам куда более серьезным фактором воздействия на среду, чем авиа или морской транспорт.
2. Нейросети и искусственный интеллект совсем скоро лишат работы огромное количество людей
Человечеству уже известны случаи, когда технологии уничтожали целые профессии. Лифтеры, вычислители (люди, которые проводили расчеты до появления калькуляторов), телефонисты, фонарщики. Уверен, что вы сами можете продолжить этот список.
У нас сформировался нарратив под названием «появление новой технологии = исчезновение профессии». Бум нейросетей серьезно его подкормил. В публичном пространстве сейчас очень много говорят о том, что нейросети оставят огромное количество людей без работы. Откройте поисковую строку и введите «Какие профессии заменит ИИ в ближайшее время». Перспективу остаться без работы предрекают многим: бухгалтерам, переводчикам, юристам, журналистам и т. д. Да, и обычно такие списки заканчиваются предложением пройти курс по нейросетям. Совпадение?
Словарь английского языка Collins назвал ИИ словом 2023 года46. Интереса ради зашел в раздел «Будущее» на новостном портале Lenta.ru. Сделал скриншот главной страницы. Из 11 материалов семь были посвящены ИИ и нейросетям. Это 63 процента.
Источник: lenta.ru. Дата обращения: 2 ноября 2023 г.
Вновь передаем привет эвристике доступности. Новостей о нейросетях сейчас настолько много, что не стоит удивляться формированию соответствующего нарратива вокруг темы.
Поймите меня правильно: я тоже считаю, что многие профессии перестанут существовать в привычном нам виде. Я, например, сам когда-то зарабатывал переводами с/на английский язык, но сейчас ничего не перевожу сам. Если такая необходимость возникает, я просто открываю ChatGPT и прошу его сделать мне перевод. Это в разы быстрее. Или возьмем, к примеру, юристов. Юристы большую часть времени работают с текстами. ChatGPT работает с текстами. Нетрудно поддаться влиянию нарратива и заявить, что скоро юристы массово будут лишаться работы. Так ли это? Давайте разбираться.
Поговорим о контурах управления в кибернетике. Человек и автоматизированная система могут быть в разных взаимоотношениях. Допустим, у нас есть система для проверки домашних заданий обучающихся на онлайн-курсе. В таком случае возможны несколько комбинаций:
1) Человек в системе: нейросеть дает какие-то подсказки, но человек проверяет все ДЗ сам. Система в данном случае выступает в роли ассистента.
2) Человек над системой: нейросеть сама пишет обратную связь на ДЗ учеников. Человек пробегается по ней глазами, что-то корректирует, а потом отправляет обучаемым.
3) Человек вне системы: нейросеть проверяет ДЗ, пишет обратную связь и сама автоматически высылает результаты проверки ученикам.
Выбор конкретной комбинации зависит от нескольких факторов. Например, от вероятности ошибки и предполагаемых последствий.
Представьте себе ситуацию. Вы летите в самолете. Вдруг оба пилота выходят в салон. Вы интересуетесь, почему это в кабине никого нет. Командир экипажа говорит: «Да там автопилот включен же! Зачем нам там сидеть на приборы пялиться? Вот тут в бизнес-классе кино посмотрим лучше». Вы бы впоследствии стали пользоваться услугами этой авиакомпании? Сомневаюсь. Мы знаем, что в самолетах очень надежная и точная автоматика. Системы дублируются, чтобы можно было продолжить полет даже в случае отказа чего-либо. Тем не менее мы не доверяемся автоматике на сто процентов. Есть пилот, который примет управление на себя, если что-то пойдет не так. Пилот тоже «задвоен» — если с одним что-то случится, за штурвал возьмется его коллега. Даже при наличии настолько развитых систем автоматизации мы все равно сохраняем человека над контуром управления. И это правильно.
Говоря об автоматизации чего-то, мы и вовсе часто не договариваемся об определениях. Национальное управление по безопасности дорожного движения США, например, решило навести порядок47 в терминологии, касающейся беспилотных автомобилей. Управление выделило несколько уровней автоматизации, где 0 — это полноценное управление водителем (автоматизированные системы только информируют человека), 5 — водитель становится пассажиром (управление полностью передано автоматике). На каком уровне находятся существующие автомобили с тем, что мы называем «автопилотом»? Между 2 и 3. Описание уровня 3 гласит: «Система активно участвует в управлении автомобилем, но водитель должен быть готов в любой момент принять управление на себя». В ноябре 2023 года суд округа Риверсайд (Калифорния) постановил48, что система автопилота на автомобиле Tesla не виновна в смертельном ДТП, произошедшем в 2019 году. По версии истцов, автопилот заставил машину съехать с дороги и врезаться в дерево. Водитель погиб. Пассажиры получили травмы. В ходе процесса были озвучены два тезиса, важных для нашего рассуждения:
1) Автопилот Tesla — это «лишь продвинутый круиз-контроль».
2) Система Full Self-Driving предупреждала водителя о необходимости следить за дорогой.
Резюме: говоря об автомобилях, которые сами себя водят, мы на самом деле имеем в виду контур типа «Человек над системой», или третий уровень автоматизации (ответственным за управление остается человек). Ни о каком полноценном автопилоте речь, по сути, пока не идет, но не все об этом задумываются, когда читают новости.
Вернемся к кураторам на нашем онлайн-курсе. Да, автоматическая проверка ДЗ — привлекательная опция. Какую форму взаимоотношений человека и системы вы бы выбрали? Человек внутри системы / над системой / вне системы? Что будет, если наш «нейрокуратор» в своем ответе выдаст ученику какую-нибудь ерунду? Человек либо усвоит неправильную норму, либо потеряет доверие к онлайн-школе. В этой связи я бы выбрал конструкцию «человек над системой»: пусть машина проверяет ДЗ и автоматически генерирует основную часть комментария, а человек смотрит его перед отправкой, при необходимости корректируя или добавляя что-то от себя. Другой вариант устранения проблемы — обязать онлайн-школы маркировать обратную связь от «нейрокураторов». Собственники онлайн-школ должны быть готовы к тому, что рекламируемый ими разбор домашних заданий будет меньше цениться в случае его автоматизации. Если сейчас во многих онлайн-школах проверка ДЗ входит в более премиальные пакеты, то в будущем, возможно, проверка ДЗ с включением человека станет тем, за что люди захотят дополнительно заплатить.
Когда мы попадаем во власть нарратива о скорой смерти многих профессий, связанных с умственной работой, мы забываем о штуке под названием «ответственность».
• Да, нейросеть может сгенерировать кучу вариантов логотипов для клиента, но кто возьмет на себя ответственность за выбор того, который будет использоваться в рекламной кампании стоимостью в несколько миллионов рублей?
• Да, нейросеть можно попросить перевести текст, но кто возьмется сразу этот текст копипастить какую-нибудь резолюцию ООН или иной важный документ? Вы бы подписали договор о поставках с иностранным партнером, зная, что после автоматического перевода он никак не проверялся? Выше я писал о том, что сам использую нейросети для перевода. Я позволяю себе это благодаря тому, что сам знаю английский. Я все равно смотрю оригинальный текст и сверяю его с переводом, внося необходимые мне правки.
• Да, нейросеть можно использовать для подготовки документов за юриста, но кто будет отвечать за правовые последствия их использования?
Это не то же самое, что заменить телефонистку автоматом. Кстати, вы знаете, откуда вообще появилась эта идея? Элмон Строуджер был владельцем похоронного бюро в Канзас-Сити. Его бизнес терпел убытки из-за недобросовестной конкуренции. Причиной проблемы были телефонистки, которые соединяли клиентов не с его компанией, а с конкурирующей49. Это и натолкнуло Строуджера на идею исключить человека из процесса соединения, чтобы никто не мог совершать подобных манипуляций. Так он создал систему прямого соединения абонентов. Как видите, Строуджером двигало не альтруистическое желание избавить людей от этого труда. Эта профессия не считалась бременем. Даже наоборот — именно возможность устроиться телефонисткой позволяла многим женщинам в ХХ веке хорошо зарабатывать. Кто знает, как бы эта индустрия развивалась дальше, если бы не перешла дорогу предприимчивому и изобретательному владельцу похоронного бюро.
Когда мы слышим, что нейросети заменят всех так же, как в свое время автоматизация заменила телефонисток, мы попадаем в ловушку, потому что не сравниваем подобное с подобным. Мы сравниваем работу в условиях низкого уровня неопределенности и невысокой цены ошибки (Строуджер бы с этим поспорил) с прямо противоположным набором условий.
В публичное поле легко просачиваются и быстро распространяются новости об успехах нейросетей. Мне все больше кажется, что самый простой способ стать спикером на какой-нибудь модной московской конференции в 2023 году — это заявить тему в стиле «Я уволил своего эсэмэмщика и заменил его на нейросеть». Такое привлекает внимание. Люди не публикуют статьи в стиле «Я попросил нейросеть написать за меня экспертную статью, она сделала какую-то ерунду, в итоге я отказался от идеи и написал сам».
Вернемся к теме юристов. Уже есть случаи проникновения нейросетей в их работу. И не все так гладко, как хотелось бы. В США прецедентное право: суды во многом опираются на вынесенные ранее решения по аналогичным делам. В этой связи важной задачей в рамках подготовки правовой позиции является поиск прецедентов.
Питер ЛоДука, юрист из Нью-Йорка, был пойман на использовании фальшивых ссылок на решения других судов по аналогичным делам50. Когда стали разбираться, выяснили, что исследованием вопроса занимался его коллега — Стивен Шварц. Когда его допросили, выяснилось, что тот… прибегнул к помощи ChatGPT. Эта нейросеть широко известна своей способностью «выдумывать» ссылки на несуществующие источники. В этом случае она и предоставила юристу ссылки на дела, которых никогда не было. Информацию не перепроверили, юридическая фирма нажила себе проблемы. При этом мы говорим о ситуации, в которой человек все еще находился над контуром управления, то есть сгенерированные нейросетью материалы автоматически не направлялись в суд. В Техасе судья по имени Брэнтли Старр и вовсе обязал всех выступающих в суде открыто заявлять, если в процессе подготовки они использовали нейросети51.
Давайте я попробую предложить другой нарратив для осмысления тех же происходящих сейчас процессов, а вы наблюдайте, как меняется ваше отношение к перспективам человечества.
Один из самых видных философов ХХ века Маршалл Маклюэн в своей работе «Понимание медиа: внешние расширения человека52» предлагает воспринимать прогресс как процесс расширения границ наших тел. Он пишет: «Расширение наших телесных поз и движений посредством вынесения их наружу постоянно вытекает из нашего стремления к увеличению власти и могущества. Вся суть утвари и инструмента состоит в капитуляции между этим телесным напряжением посредством расширения тела вовне».
Проиллюстрирую эту мысль примерами:
• Скорость наших ног ограничена, но у нас есть потребность к быстрому перемещению. Мы выносим ее вовне, создавая колесо. Человек не может бежать со скоростью 200 км/час. «Феррари» до такой скорости разогнаться может. В понимании Маклюэна не стоит разграничивать водителя и «Феррари». «Феррари» в данном случае выступает в роли продолжения тела ее водителя.
• Мы не можем крикнуть так, чтобы нас услышали на соседнем континенте. Но потребность в передаче указаний есть. Так человечество изобрело письменность и носители, на которые можно что-то записать и отправить с гонцом.
• У нас есть потребность в обогреве, но способность наших тел сохранять тепло ограничена. Мы «выносим эту потребность вовне», создавая одежду.
Этот процесс «расширения тела вовне» продолжается до сих пор. Получившие в ХХ веке распространение новые способы коммуникации и передачи информации Маклюэн считал инструментами расширения нашей центральной нервной системы.
Если хотите более современный пример, то давайте поговорим о памяти человека. Она ведь тоже выносится вовне. Ваша память в сегодняшнем мире — это ваша голова + память вашего компьютера + память вашего телефона + облачное хранилище и т. д. Эти элементы образуют целостную систему. Память наших дальних предков в этом смысле была в разы меньше.
Для понимания тезиса предложу простой мысленный эксперимент: представьте, что вы полностью очистили память телефона и домашнего компьютера. Как ощущения? Некоторые люди говорят, что это бы воспринималось как ампутация, и логика в их словах есть. Ощущение действительно может быть такое, будто бы человека лишили важной части тела. Кстати, ровно из-за этого Илон Маск уже называет людей киборгами. Он считает, что ими нас делает тот самый факт передачи части нашей памяти компьютерам53.
Создание нейросетей — это, по сути, акт еще одного расширения нашего тела. Мы нашли способ вынести вовне черновую мыслительную работу. Вот и все. Поэтому нужно думать не о битве ИИ и человека за одно и то же рабочее место. Нужно думать о том, что:
• Дизайнеры теперь могут работать не только с теми концептами, что вышли из-под их пера, теперь они вольны передать нейросетям черновую работу, порождая сотни концептов в час. В итоге клиенту из большего количества вариантов проще выбрать оптимальный. А дизайнер, освобожденный от нетворческой рутины, может успешнее воплотить выбранную идею в жизнь.
• Переводчики теперь могут не тратить кучу времени на банальную перепечатку слов на другом языке, а, например, концентрировать свое внимание на сложных местах в художественных текстах, думая о том, какая метафора в родном языке точнее передаст замысел иностранного автора.
• Юрист теперь сможет быстрее обрабатывать первичную документацию, чтобы сфокусироваться на выработке правовой позиции.
Дело не в нейросетях как таковых. Дело в том, что мы наблюдаем очередное расширение масштаба человека. Как вам такой нарратив?
Я считаю, что правильнее сейчас вести разговор не о смерти профессий, а о сжатии сегментов рынков. Переводчики, копирайтеры и дизайнеры будут нужны. Работы может поубавиться у тех, кто выполнял исключительно простые задачи. Такие специалисты вряд ли будут востребованы в том же количестве, что и сейчас. Стоимость черновой работы кратно упадет. Но человеку все равно нужен будет человек, отвечающий перед ним за качество перевода, за осмысленность выбора именно этого логотипа (из 500 черновиков, подготовленных нейросетью), за успех в судебном процессе. Правильнее говорить не о вытеснении искусственным интеллектом и нейросетями людей с рынка труда, а о вытеснении тех, кто не научится ими пользоваться.
Я не устаю удивляться тому, какие возможности современные технологии открывают перед небольшими креативными командами. Сооснователь студии DreamWorks Джеффри Катценберг предположил54, что ИИ может снизить затраты на производство мультфильмов-блокбастеров на 90%. При этом он отметил, что ИИ останется только исполнителем. В основе творческих проектов все равно будет лежать креативность человека. Представьте себе мир, в котором три-пять старшеклассников могут сами спродюсировать мультфильм уровня «Мадагаскара» или WALL-E. Лично меня такой образ будущего вдохновляет.
Как видите, мы говорим о том же процессе технологической трансформации. Вопрос только в том, какой шаблон для интерпретации мы применяем. В данном примере я использовал два разных нарратива: «технологии = крах карьеры для многих из нас» и «технологии = расширение масштаба человека». Какой нарратив использовать — решайте сами.
⠀
3. Машины вскоре научатся предсказывать поведение каждого из нас
В своей знаковой работе Homo Deus55 Юваль Ной Харари отмечает, что человек — это собрание разных алгоритмов и что теоретически внешний алгоритм вполне способен познать нас лучше, чем мы сами когда-либо познаем себя. Схожие тезисы можно встретить и в других источниках. Так, Евгений Черешнев в своей книге «Форма жизни №4. Как остаться человеком в эпоху расцвета искусственного интеллекта56» пишет, что с точки зрения ИИ человек — это база данных, а все отличия людей друг от друга — только параметры базы данных.
Мы с вами уже знаем: чтобы стать полноценным нарративом, эти суждения должны быть дополнены историями из реальной жизни.
Житель Миннеаполиса начал регулярно находить у себя в почтовом ящике скидочные купоны от сети магазинов Target. Проблема в том, что это были скидочные купоны на вещи для беременных. С мужчиной проживали жена и дочь. Жена не была беременна, а дочери еще не исполнилось 18 лет. Он пожаловался в магазин, но позже выяснилось, что дочь действительно беременна. Система аналитики магазина узнала об этом раньше, чем отец девушки. Алгоритм смог определить поведенческий профиль женщин на раннем сроке беременности. Поведение дочери героя истории этому профилю соответствовало57. В 2013 году мир активно обсуждал исследование58, авторы которого выяснили, что по лайкам человека в социальных сетях можно легко вычислить его сексуальную ориентацию, этническую принадлежность, политические взгляды и т. д.
Вот и все. Прямо на наших глазах складывается нарратив. Он подводит нас к выводу: если разум человека — это, по сути, база накопленных за время его жизни данных и алгоритм их обработки, то власть будет принадлежать тем, кто сможет ее расшифровать. Данные становятся новой нефтью. По оценкам59 Forbes, в 2021 году Google заплатил Apple приблизительно 15 миллиардов долларов за право быть основным поисковым сервисом на устройствах компании. Компания Telly предлагает людям бесплатные телевизоры за право не только показывать им рекламу, но и собирать данные о том, что люди смотрят и во что играют60. Проведенный в 2018 году опрос на сайте PCMag. сom показал, что 44% респондентов готовы делиться персональными данными в обмен на бесплатный Wi-Fi61.
Все эти издержки не имели бы смысла без нарратива о том, что с достаточным объемом данных поведение человека становится предельно предсказуемым. Этот нарратив — мощная штука, если тебе нужны инвестиции под свой data-проект. Или котировки акций IT-компании необходимо поддержать. Алексей Андреев в своей книге «Футурология: Краткий курс62» вводит интересные в контексте нашего рассуждения термины — «Рекламная футурология» или «Футуромаркетинг». Если хочешь продать какое-то новшество, нужно сначала продать образ мира будущего, в котором это новшество раскрыло все свои достоинства, а связанные с ним риски/недостатки выведены за пределы дискурса. В кого бы вы инвестировали при прочих равных: в производителя обуви или в технологического гиганта, который в будущем сможет получить власть над умами людей? Я так и думал.
Вспоминается сериал «Мир Дикого Запада». Одна из ключевых тем — та самая «расшифровка» человека машинами. В третьем сезоне даже есть сцена, в которой андроид приводит героя на пирс и сообщает ему, что по расчетам алгоритма ровно в этом месте он в будущем покончит с собой. Так себе перспектива.
Проблема в том, что информация распространяется неравномерно. Мы много слышим об успехах технологий «расшифровки» людей. Так ли часто в новостные ленты просачиваются новости о провалах? Хочу рассказать историю о департаменте полиции в Нью-Джерси. Они решили внедрить систему изучения статистических данных и выявления локаций, в которых с наибольшей вероятностью будут совершаться преступления. За все время эксплуатации система сделала 23 тысячи 631 прогноз. Ее точность составила всего лишь около 1%.63
Конец ознакомительного фрагмента.
Оглавление
- Предисловие
- Зачем развивать навык мышления о будущем?
- Критика мышления о будущем
- Часть №1: откуда берутся образы будущего, в которые мы верим
Купить книгу
Приведённый ознакомительный фрагмент книги «Лабиринты будущего. Как увидеть завтра уже сегодня» предоставлен нашим книжным партнёром — компанией ЛитРес.
Купить и скачать полную версию книги в форматах FB2, ePub, MOBI, TXT, HTML, RTF и других
Примечания
25
Heider, Fritz, and Marianne Simmel. An Experimental Study of Apparent Behavior. The American Journal of Psychology, vol. 57, no. 2, 1944, pp. 243—59. JSTOR, https://doi.org/10.2307/1416950. Accessed 2 Dec. 2023. https://www.jstor.org/stable/1416950
28
Роберт Макки, Том Джерас. Сториномика: Маркетинг, основанный на историях, в пострекламном мире. Пер. с англ. — М.: Альпина нон-фикшн, 2019.
29
Источник данных: https://www.marxists.org/russkij/marx/1848/manifesto.htm. Дата обращения: 1 ноября 2023 г.
30
Источник данных: http://elib.biblioatom.ru/text/atomnaya-energiya_t8-4_1960/go,8/ Газета «Правда», 1964, №301. Дата обращения: 1 ноября 2023 г.
31
Гектор Макдональд. Правда: Как политики, корпорации и медиа формируют нашу реальность, выставляя факты в выгодном свете. Пер. с англ. — М.: Альпина Паблишер, 2019.
32
Smoke: всемирная история курения: [сборник статей] / под ред. Сандера Л. Джилмена и Чжоу Сюнь; [пер. с англ. А. Валиахметовой и др.]. — Москва: Новое литературное обозрение, 2012.
34
Джейсон Фанг. Код ожирения. Глобальное медицинское исследование о том, как подсчет калорий, увеличение активности и сокращение объема порций приводят к ожирению, диабету и депрессии. ООО «Издательство «Эксмо», 2019.
36
Stephan Ramon Garcia, Steven J. Miller. 100 Years of Math Milestones. The Pi Mu Epsilon Centennial Collection. American Mathematical Society, 2019.
37
Источник данных: https://www.guinnessworldrecords.com/records/hall-of-fame/first-sub-four-minute-mile. Дата обращения: 1 ноября 2023 г.
38
Источник данных: https://www.guinnessworldrecords.com/world-records/fastest-run-one-mile-(male). Дата обращения: 1 ноября 2023 г.
39
Источник данных: https://www.rbc.ru/rbcfreenews/64240d149a7947cf531f2982. Дата обращения: 1 ноября 2023 г.
40
Источник данных: https://www.nytimes.com/2022/03/28/business/fedex-fred-smith.html. Дата обращения: 1 ноября 2023 г.
41
Snyder, Mark & Swann, William. (1978). Hypothesis testing in social judgment. Journal of Personality and Social Psychology. 36. 1202—1212. 10.1037/0022—3514.36.11.1202. https://www.researchgate.net/publication/232580846_Hypothesis_testing_in_social_judgment
42
Amos Tversky; Daniel Kahneman Science, New Series, Vol. 185, No. 4157. (Sep. 27, 1974), pp. 1124—1131. https://web.archive.org/web/20141031074521/http://people.hss.caltech.edu/~camerer/Ec101/JudgementUncertainty.pdf
43
Источник данных: https://ria.ru/20230908/pingviny-1894816564.html. Дата обращения: 1 ноября 2023 г.
47
Источник данных: https://www.nhtsa.gov/technology-innovation/automated-vehicles-safety. Дата обращения: 1 ноября 2023 г.
48
Источник данных: https://lenta.ru/news/2023/11/01/autopilot_tesla/. Дата обращения: 1 ноября 2023 г.
49
Источник данных: https://www.sciencemuseum.org.uk/objects-and-stories/goodbye-hello-girls-automating-telephone-exchange. Дата обращения: 1 ноября 2023 г.
50
Источник данных: https://www.bbc.com/news/world-us-canada-65735769. Дата обращения: 1 ноября 2023 г.
51
Источник данных: https://www.txnd.uscourts.gov/judge/judge-brantley-starr. Дата обращения: 1 ноября 2023 г.
52
Маклюэн М. Г. Понимание медиа: Внешние расширения человека/ пер. с англ. В. Николаева. — 5-е изд., испр. — М.: Кучково поле, 2023.
54
Bloomberg Television. https://www.youtube.com/watch?v=fkJlwjKdxnI. Дата обращения: 1 ноября 2023 г.
56
Eвгений Черешнев. Форма жизни №4. Как остаться человеком в эпоху расцвета искусственного интеллекта. — М.: Альпина Паблишер, 2022.
57
Источник данных: https://www.hse.ru/ma/economicanalysis/admission/news/551312498.html. Дата обращения: 1 ноября 2023 г.
58
Kosinski M., Stillwell D., Graepel T. Private traits and attributes are predictable from digital records of human behavior. Proc Natl Acad Sci U S A. 2013 Apr 9;110 (15):5802—5. doi: 10.1073/pnas.1218772110. Epub 2013 Mar 11. PMID: 23479631; PMCID: PMC3625324.https://pubmed.ncbi.nlm.nih.gov/23479631/
59
Источник данных: https://www.forbes.com/sites/johanmoreno/2021/08/27/google-estimated-to-be-paying-15-billion-to-remain-default-search-engine-on-safari/?sh=a8c6943669b0. Дата обращения: 1 ноября 2023 г.
