Ключевые идеи книги: Ничья армия: автономное вооружение и будущее войны. Пол Шарр

Smart Reading, 2020

Этот текст – сокращенная версия книги Пола Шарра «Ничья армия: автономное вооружение и будущее войны». Только самые ценные мысли, идеи, кейсы, примеры. О книге Помните мрачно-абсурдный сценарий «Терминатора», в котором искусственный интеллект (ИИ) решил, что человечество можно спасти, лишь уничтожив людей? Если вы думаете, что это просто кино, то ошибаетесь – в сфере робототехники кипят нешуточные страсти по поводу того, возможно ли подобное развитие событий в реальности. Многие влиятельные люди (в их числе Илон Маск, Стив Возняк, Стивен Хокинг) настроены весьма пессимистично и даже стали участниками кампании «Остановим роботов-убийц», направленной на запрет наступательного ИИ-оружия. И все же Пол Шарр, привлеченный политический аналитик Пентагона и участник многих экспертных форумов на тему ИИ-вооружений, предлагает нам взглянуть на происходящее максимально резво. Прочитайте саммари его книги «Ничья армия: автономное вооружение и будущее войны», чтобы понять, насколько смертоносной может быть автономия оружия и какие шаги следует предпринять миру, чтобы достичь безопасности в этой сфере. Зачем читать • понять, насколько современное вооружение автономно, независимо от • человека; • развеять страхи о возможном восстании машин; • ознакомиться с азами работы глубоких нейросетей в ИИ; • вникнуть в моральный аспект углубляющихся контактов людей и машин. Об авторе Пол Шарр – старший научный сотрудник и директор Программы технологий и национальной обороны в Центре новых подходов к обеспечению американской безопасности, ветеран войн в Ираке и Афганистане; руководитель группы, разработавшей в 2012 году директиву Министерства обороны США 3000.09: «Автономия в системах вооружения».

Оригинальное название:

Army of None: Autonomous Weapons and the Future of War

Автор:

Paul Scharre

Тема:

Обязательное чтение

Правовую поддержку обеспечивает юридическая фирма AllMediaLaw www.allmedialaw.ru

Кто кого: роботы Азимова vs Скайнет из «Терминатора»?

Книга «Ничья армия: автономное вооружение и будущее войны» — это не просто наблюдение за возрастающей независимостью машин от людей. Это руководство к действию. Машины не могут стать автономными и выбросить человека из процесса принятия решений, если только мы сами им этого не позволим. Автономию как «когнитивный механизм, приводящий роботов в действие» человек проектирует по своему образу и подобию. Без автономии роботы — это «просто оболочка, ожидающая, пока люди наполнят ее смыслом». Так почему же тогда мы так боимся будущего, которое разворачивается на наших глазах?

Эксперты по робототехнике и искусственному интеллекту (ИИ) и представители неправительственных организаций призывают запретить автономное наступательное оружие в рамках кампании «Остановим роботов-убийц». Среди выступающих такие видные деятели, как Илон Маск, Стив Возняк, Стивен Хокинг. У них нет единого мнения о том, что такое автономия, где она точно будет применяться, а где нет. Однако их объединяет общий пессимизм относительно будущего.

Идут дискуссии, кипят страсти: одни футурологи предсказывают глобальную гонку ИИ-вооружений, другие желают избежать мрачного сценария из фильма «Терминатор», где система общего искусственного интеллекта «Скайнет» обрела самосознание и решила, что если люди хотят ее уничтожить, то человечество можно спасти лишь через уничтожение всех людей.

Пол Шарр, привлеченный политический аналитик Пентагона, который с 2008 года участвовал во множестве экспертных форумов на тему смертоносной автономии, предлагает нам взглянуть на происходящее более трезво. Он разбивает определение «автономии» на несколько элементов и подкрепляет повествование множеством примеров. Автор опрашивает специалистов из самых различных сфер, чтобы понять, где автономия уже идет полным ходом и как люди к ней относятся. Он также рассматривает некоторые аспекты ИИ, которые могут применяться или уже применяются для автономизации машин. Наконец, Полл Шарр дополняет основные законы робототехники своими рекомендациями, предлагает сценарии развития, чтобы будущее, полное технологий и машинной автономии, все равно оставалось нашим будущим.

Предписания для роботов, взаимодействующих с людьми. Разработаны научным фантастом Айзеком Азимовым. Вкратце звучат как: 1. Не навреди человеку. 2. Подчиняйся, но не навреди человеку. 3. Защищай себя, но не навреди и подчиняйся человеку.