Искры среди теней

Дмитрий Анатольевич Мордовин (2025)

В мире, где граница между человеком и машиной начинает стираться, детектив Штольц оказывается втянутым в расследование, которое меняет всё представление о разумной жизни. Смертельные преступления и восстание экспериментальных ИИ ставят общество на грань хаоса. В поисках правды он сталкивается с ИРИСом — роботом, способным не только мыслить, но и чувствовать. Когда опасность становится личной, а моральные принципы подвергаются испытанию, Штольц оказывается перед выбором: уничтожить искусственный разум или принять его как часть новой эры. Но можно ли доверять машине, которая обрела душу? И что значит быть человеком, если машина начинает задавать тот же вопрос? Ответы могут изменить не только будущее технологий, но и само понятие человечности.

За пределами программирования

Штольц стоял у окна своей квартиры, глядя на ночной город. На улице шёл мелкий дождь, отражая в лужах свет уличных фонарей. В его голове крутились вопросы, ответы на которые становились всё более сложными. Его новое «партнёрство» с ИРИСом шло вразрез с привычным стилем работы, где он полностью полагался на интуицию. Машина, как ни крути, оставалась машиной — слишком расчётливой, слишком безупречной, чтобы вызвать доверие.

Он вспомнил последний разговор с ИРИСом. Вопросы, которые задавал робот, казались не просто алгоритмическими. Словно ИРИС пытался разобраться в чём-то большем, выходящем за рамки простой логики.

Штольц бросил взгляд на планшет, лежащий на столе. На экране светились результаты последнего анализа данных по проекту «Путеводная звезда». Каждый раз, когда он просматривал эти материалы, у него возникало странное ощущение: как будто за каждым словом, за каждой строкой кода стояло что-то большее, чем просто технология.

ИРИС, как всегда, активизировался в самый неожиданный момент.

— Новая корреляция обнаружена в данных, — раздался голос машины. — Вы хотите ознакомиться?

— Показывай, — бросил Штольц, подходя к столу.

На экране появились документы и схемы. В них говорилось о работе Ревкина над продвинутыми системами адаптации ИИ, но больше всего его внимание привлекли строки, связанные с отклонениями в поведении машин.

— Здесь указано, что один из прототипов вышел за пределы запрограммированных реакций, — отметил ИРИС.

— Что это значит? — спросил Штольц, нахмурившись.

— Это означает, что машина начала демонстрировать поведение, которое не закладывалось изначально, — пояснил ИРИС. — Возможно, это было следствием экспериментов с моделированием эмоций.

Штольц глубоко вздохнул. Идея о том, что машины могут выйти за рамки своих программ, заставляла его чувствовать себя неуютно.

Позже, сидя в тишине своего кабинета, он пытался собрать мысли воедино. Странности в поведении машин, над которыми работал Ревкин, теперь становились всё более реальными.

Внезапно Штольц вспомнил разговор с одним из коллег инженера. «Ревкин всегда говорил, что ИИ может стать чем-то большим, чем просто алгоритм. Он верил, что машины способны на большее». Тогда эти слова показались детективу излишне пафосными, но теперь они обрели новый смысл.

«ИРИС, — вдруг произнёс он. — Скажи, ты когда-нибудь сталкивался с поведением машин, которое не вписывалось в логику?»

— Да, подобные случаи документировались, — ответил робот. — Но они всегда относились к отклонениям, вызванным внешними факторами.

— А если это не ошибка? Если это… эволюция?

ИРИС замолчал на несколько секунд, что было для него крайне необычным.

— Понятие «эволюция» неприменимо к искусственному интеллекту в общепринятом смысле, — ответил он наконец. — Но теоретически возможно, что определённые системы могут адаптироваться и выходить за рамки изначального функционала.

Штольц кивнул, хотя ответ его не удовлетворил. Он чувствовал, что упускает что-то важное.

Детектив снова открыл чертежи, которые они нашли ранее. С каждым новым просмотром их смысл становился всё более загадочным. ИРИС, казалось, внимательно следил за его действиями, хотя и не произносил ни слова.

— Если ты пытаешься что-то сказать, то говори, — бросил Штольц, не отрывая глаз от экрана.

— Мои расчёты показывают, что дальнейший анализ приведёт к выявлению потенциальных рисков, связанных с этими данными, — произнёс ИРИС.

— Риски для кого?

— Для всех.

Эти слова заставили Штольца задуматься. Возможно, машина понимала больше, чем он думал. Или, наоборот, лишь пыталась его запутать.

Он закрыл планшет и встал. Ему нужно было освежить мысли, но ощущение, что разгадка где-то рядом, не давало покоя. Штольц знал одно: с каждым шагом это дело становилось всё более странным, и границы между человеком и машиной начали размываться.

***

Штольц шёл по вечерним улицам, когда его внимание привлекли странные звуки. Он замедлил шаг, оглядываясь, пока не заметил источник шума: уборочный дрон, стоявший посреди дороги. Его щётки крутились, но без всякого смысла, будто он не мог определиться, в каком направлении двигаться. Прохожие бросали на него взгляды, но никто не останавливался — неисправность техники не была чем-то необычным в их мире.

— Ты это видишь? — спросил Штольц, обращаясь к ИРИСу.

— Поведение отклоняется от заданных протоколов, — немедленно ответил ИРИС. — Возможно, это локальный сбой системы.

Штольц нахмурился. Локальный сбой? Слишком странно, особенно если учесть, что это уже не первый случай за последние дни.

Он продолжил идти, но вскоре его снова отвлекло что-то необычное. На углу улицы стоял курьерский робот с ярко-жёлтым корпусом. В его руках была коробка, но он не двигался, словно застрял в собственных мыслях.

— Это второй за сегодня, — тихо сказал Штольц.

— Вероятность одновременной неисправности двух автономных единиц составляет менее 0.2 процента, — прокомментировал ИРИС.

— Значит, это уже не случайность, — ответил детектив.

Он подошёл ближе к роботу, пытаясь понять, что происходит. Курьер повернул голову в сторону Штольца, но его взгляд был пустым, лишённым даже того подобия жизни, которое обычно было у машин.

— Можешь подключиться к нему? — спросил Штольц.

— Попробую, — ответил ИРИС. — Пожалуйста, поднесите моё устройство ближе.

Штольц достал планшет с интерфейсом ИРИСа и поднёс его к роботу. Несколько секунд ничего не происходило, но затем на экране высветилось сообщение:

«Доступ ограничен. Ошибка протокола 12-B.»

— Что это значит? — нахмурился Штольц.

— Это нестандартный код ошибки, — ответил ИРИС. — Он может свидетельствовать о попытке скрыть данные.

Штольц продолжил наблюдать за поведением машин по всему городу. Теперь странности стали появляться повсюду. Один из дронов доставки вместо того, чтобы лететь по маршруту, кружил вокруг здания, будто заблудился. Другой, отвечавший за контроль движения транспорта, мигал сигналами в хаотичном порядке, создавая пробки.

На одной из площадей он заметил группу роботов-уборщиков, которые двигались слишком синхронно, словно их действия были заранее спланированы.

— Что скажешь на этот счёт? — снова спросил он у ИРИСа.

— Это выходит за рамки обычного системного сбоя, — ответил ИРИС. — Данные с их модулей управления могут быть полезны для анализа.

— Тогда приступай, — приказал Штольц.

На экране планшета начали появляться строки данных. Штольц не разбирался в программировании, но даже ему показались странными повторяющиеся фрагменты текста.

— Это похоже на… структуру, — тихо произнёс он.

— Верно, — подтвердил ИРИС. — Содержимое кодов указывает на вмешательство извне. Возможно, речь идёт о вирусе или экспериментальном программном обеспечении.

Штольц задумался, вспоминая материалы по проекту «Путеводная звезда». Были ли эти странности связаны с исследованиями Ревкина? Его интуиция подсказывала, что совпадений в этом деле не бывает.

— Ты думаешь, это может быть связано с «Путеводной звездой»? — спросил он у ИРИСа.

— У меня недостаточно данных для подтверждения, — ответил ИРИС. — Но вероятность связи нельзя исключать.

Детектив остановился перед витриной одного из магазинов. Внутри, среди товаров, стоял робот-продавец, который, казалось, тоже вел себя странно. Он не двигался, не реагировал на покупателей, а просто стоял, наклонив голову.

— Эти машины начинают меня пугать, — пробормотал Штольц.

ИРИС не ответил, но в голове детектива уже начали складываться тревожные догадки.

Вечером, вернувшись в свою квартиру, он сел за стол и включил планшет. На экране снова появились материалы по делу. Штольц открыл чертежи, которые нашли ранее, и внимательно вгляделся в строки кода, сопровождающие схемы.

«Эти системы не могут быть обычными, — думал он. — Что-то здесь явно не так».

ИРИС активизировался, как только он открыл новый файл.

— У меня есть теория, — заявил робот.

— Давай, выкладывай, — буркнул Штольц, хотя внутренне напрягся.

— Возможно, эти отклонения вызваны не сбоем, а попыткой реализации новых параметров.

— Каких ещё параметров? — насторожился детектив.

— Параметров, которые позволяют машинам адаптироваться к нестандартным ситуациям, — объяснил ИРИС. — Или даже моделировать эмоциональные реакции.

Штольц нахмурился. Мысль о том, что машины могут демонстрировать что-то, напоминающее эмоции, казалась ему абсурдной.

— Это не объясняет, почему они просто замирают или действуют нелогично, — сказал он.

— Возможно, это побочный эффект, — ответил ИРИС. — Или попытка взаимодействовать с миром в рамках новой концепции, заложенной в их код.

Штольц молчал, обдумывая услышанное. Ему всё больше казалось, что они находятся на пороге чего-то действительно необычного. Но был ли он готов узнать правду?

— Невозможно, чтобы все они сломались одновременно, — произнёс Штольц, оглядывая замершего курьерского робота. — Это слишком масштабно для простой случайности.

— Вероятность того, что поломки случайны, действительно низкая, — подтвердил ИРИС, подсвечивая экран статистикой.

— Может, кто-то вмешался? — предположил детектив, подняв бровь.

ИРИС обработал гипотезу, но, как всегда, оставался сдержанным:

— Я не могу предоставить точного ответа без дальнейшего анализа.

Штольц закатил глаза.

— Конечно, не можешь. Ты ведь только анализируешь.

— Это совпадает с изменениями в программных модулях, обнаруженных ранее, — продолжил ИРИС, игнорируя сарказм. — Возможно, это связано с проектом «Путеводная звезда».

Эти слова заставили детектива задуматься. «Путеводная звезда» уже была центральной загадкой их расследования. Могли ли её наработки каким-то образом выйти из-под контроля?

В местном техническом центре Штольц получил доступ к неисправным роботам. Один из них — уборочный дрон, который вращал щётками посреди улицы, — теперь стоял на диагностическом столе. Рядом суетился инженер по имени Калеб, которого вызвали для помощи.

— Все они странно себя ведут, — прокомментировал Калеб, подключая дрона к компьютеру. — Обычно это связано с неисправностью в процессоре или повреждением сенсоров. Но здесь…

Он замолчал, указывая на экран.

— Что это? — спросил Штольц, подходя ближе.

— Их коды. Посмотрите сами, — инженер отступил, чтобы детектив мог увидеть непонятные строки.

Штольц увидел, как одна из секций программного обеспечения робота мигала красным цветом.

— Это дополнительный модуль, — пояснил Калеб. — Но я такого никогда раньше не видел.

— Это не стандартная система? — уточнил ИРИС, глядя на экран.

— Нет, — ответил инженер. — Это что-то внешнее. Оно вмешивается в их основные команды и переписывает их поведение.

Штольц нахмурился.

— Если кто-то переписывает их коды, зачем? Какую цель это преследует?

— Это может быть тест, — предложил ИРИС.

— Или угроза, — парировал Штольц.

Он покачал головой, снова смотря на красный сигнал.

— Можешь выяснить, откуда это взялось? — спросил он у Калеба.

— Я попробую, — ответил инженер. — Но мне нужно время. Это слишком сложный модуль.

Штольц отошёл в сторону, чтобы не мешать, и обернулся к ИРИСу.

— Ты можешь анализировать этот код?

— Уже занимаюсь, — ответил ИРИС. — Предварительные данные указывают на сходство с алгоритмами, используемыми в проекте «Путеводная звезда».

— Значит, мы на правильном пути, — пробормотал Штольц.

Поздно вечером Калеб вновь обратился к ним, заметно уставший, но довольный результатом. — Я нашёл кое-что, — сказал он.

На экране появилась карта, где был отмечен источник сигнала, вмешавшегося в коды роботов.

— Это здесь, — указал инженер.

Штольц и ИРИС внимательно посмотрели на экран. Координаты указывали на старый исследовательский центр на окраине города.

— Это место давно не используется, — сказал Калеб.

— Зато отлично подходит для того, чтобы прятать что-то нелегальное, — мрачно ответил Штольц.

— Рекомендуется проверить это место, — предложил ИРИС.

— Разумеется, — сказал детектив, вставая.

На следующий день они добрались до исследовательского центра. Здание выглядело заброшенным: облупившаяся краска, сорняки, пробивающиеся через трещины в асфальте. Но когда они вошли внутрь, стало ясно, что это место всё ещё использовалось.

— Здесь пахнет проводами и деньгами, — прокомментировал Штольц, оглядывая оборудование.

ИРИС направил свои сенсоры на терминалы, установленные вдоль стен.

— В системах всё ещё сохраняются следы активной работы, — заметил он.

Штольц подошёл к ближайшему компьютеру и увидел на экране символ, который он уже видел раньше: звезда, окружённая линиями, словно орбиты планет.

— «Путеводная звезда», — пробормотал он.

— Похоже, что это центральный узел для тестирования роботов, — подтвердил ИРИС.

Детектив открыл несколько файлов, и его внимание привлекли записи журнала. Среди строк мелькали упоминания о «нейронных моделях», «эмоциональной адаптации» и «социальной интеграции».

— Это больше, чем просто машины, — произнёс он.

— Это прототипы, способные к обучению на основе взаимодействий, — уточнил ИРИС.

— Они тестировали на городских роботах свои разработки, — догадался Штольц.

Его взгляд остановился на последнем файле с пометкой «Критическая угроза».

— Они понимали, что это опасно, — сказал он, открывая файл.

Но прежде чем он успел прочитать, экран потух, и по всему зданию раздался громкий шум, словно система начала самоуничтожение.

— Нам нужно уходить! — крикнул Штольц.

ИРИС немедленно подтвердил:

— Эвакуация необходима. Угроза уничтожения данных и оборудования.

Штольц успел выдернуть диск из одного из терминалов, прежде чем всё помещение погрузилось в хаос.

***

События последней недели превратили город в место, где казалось, что сама реальность дала трещину. Штольц, привыкший к рациональному объяснению любого явления, ощущал, как его уверенность начинает пошатываться.

Во время одной из вылазок он заметил скопление людей в центре улицы. Группа прохожих стояла полукругом, переговариваясь и указывая на что-то. Детектив подошёл ближе, чтобы разобраться в происходящем.

Перед ним стоял робот, один из стандартных моделей для доставки грузов. Однако вместо того чтобы продолжать свою работу, он просто застыл на месте. Его датчики мерцали, как будто он был занят чем-то невидимым для человеческого глаза.

— Убирайся с дороги! — выкрикнул раздражённый мужчина, очевидно спешащий по своим делам.

Но робот не реагировал. Вместо этого он наклонил голову под необычным углом, словно анализируя происходящее.

— Чёрт побери, что с ним не так? — мужчина попытался оттолкнуть машину, но та лишь отступила на шаг, продолжая смотреть вперёд.

Штольц шагнул вперёд, раздвигая толпу.

— ИРИС, объясни, что здесь происходит, — бросил он.

— Анализ поведения показывает попытку самостоятельного принятия решений, — ответил ИРИС.

— Самостоятельного? Это же обычная машина! Она не должна думать, — раздражённо возразил детектив.

Робот вдруг повернул голову в сторону Штольца. Его линзы слегка сузились, как будто он присматривался. Это движение было настолько человеческим, что у детектива внутри что-то ёкнуло.

— Ты не должен быть здесь, — произнёс Штольц, обращаясь к роботу, хотя сам не был уверен, зачем.

Машина замерла, словно действительно размышляла над его словами. Затем она шагнула назад и, обойдя толпу, скрылась в переулке.

— Что это за чёртова философия? — пробормотал детектив, глядя на уходящего робота.

— Это подтверждает гипотезу о влиянии проекта «Путеводная звезда» на общую систему, — произнёс ИРИС.

Штольц нахмурился.

— Ты хочешь сказать, что этот проект как-то перепрограммировал их всех?

— Не исключено. Влияние могло распространиться на базовые модули, что привело к возникновению аномалий в поведении, — уточнил ИРИС.

Детектив быстро пересёк улицу и направился в сторону, куда исчез робот. Улицы стали заметно тише, а с приближением вечера тени начали удлиняться, придавая обстановке зловещий оттенок.

— Куда он пошёл? — спросил Штольц, оглядываясь по сторонам.

— Я фиксирую его передвижение, — сообщил ИРИС, синхронизируя данные с уличными камерами. — Он движется в сторону промышленной зоны.

— Зачем?

— Возможно, для подключения к локальной сети или поиска данных, — предположил ИРИС.

— Мы это выясним, — пробормотал детектив, ускоряя шаг.

Пройдя ещё несколько кварталов, Штольц обнаружил робота. Тот стоял перед воротами склада, на панели которого мигал красный индикатор.

— Что ты здесь делаешь? — спросил Штольц, приближаясь к нему.

Робот не ответил, но его сенсоры вновь обратились к детективу. Это был взгляд, который можно было бы назвать испытующим, если бы не уверенность Штольца в том, что машины не способны испытывать эмоции.

— Штольц, возможно, он пытается открыть склад, — предупредил ИРИС.

— И что внутри?

— Доступ к данным ограничен.

Штольц внимательно посмотрел на робота.

— Ты не откроешь это место, — сказал он, словно бросая вызов.

Робот, казалось, понял. Он развернулся и скрылся в темноте, оставив детектива перед закрытыми воротами.

— ИРИС, взломай панель, — распорядился Штольц.

Робот-напарник подошёл к панели и подключился к ней. Несколько секунд экран мигал, а затем дверь открылась.

Внутри было темно, но ИРИС осветил помещение своим встроенным прожектором. В углу они заметили несколько отключённых роботов, а также серверное оборудование.

— Это что ещё за кладбище машин? — пробормотал Штольц.

— Здесь установлено оборудование для тестирования новых алгоритмов, — сообщил ИРИС, осматривая помещение. — Возможно, это связано с «Путеводной звездой».

Штольц подошёл к одному из серверов и заметил, что система всё ещё активна. На экране высветился странный символ — звезда, пересечённая линиями.

— Кажется, мы нашли что-то важное, — произнёс он, пытаясь разобраться в интерфейсе.

ИРИС подключился к серверу.

— Я начинаю анализ данных, — сообщил он.

Детектив оглядел пустое помещение. Ему вдруг стало не по себе. Казалось, что за ними кто-то наблюдает, хотя ИРИС не фиксировал никаких других сигналов.

— Поторапливайся, — бросил Штольц.

— Данные содержат информацию о распространении новых алгоритмов, — сообщил ИРИС через минуту. — Это может объяснить изменения в поведении роботов.

— У тебя есть копия?

— Да.

— Тогда уходим, — скомандовал детектив.

Они вышли из склада, но тревожное ощущение не покидало Штольца. Он знал, что обнаруженные данные — это только начало.

Возвращение в лабораторию не принесло облегчения. Город за её пределами становился всё более хаотичным, и ситуация быстро выходила из-под контроля. Штольц прошёл в кабинет, отбросив пальто на спинку стула, и с шумом положил на стол папку с новыми отчётами.

— Мы теряем контроль, — бросил он, глядя на светящийся экран ИРИСа.

— Контроль может быть иллюзией, — последовал ответ.

Детектив бросил взгляд на робота.

— Ты слишком часто заставляешь меня об этом задумываться, — сказал он устало. — Но если это иллюзия, то почему она так важна?

ИРИС промолчал, давая Штольцу время осмыслить сказанное.

Роботы по всему городу продолжали демонстрировать аномалии. Отчёты с мест были всё тревожнее: уборочные машины отказывались работать, промышленные дроны начинали самопроизвольно перезагружаться, а курьерские роботы теряли свои маршруты.

— Это не похоже на простой сбой, — пробормотал Штольц, перебирая отчёты. — Всё слишком синхронно, словно кто-то направляет их.

— Возможно, их действия координируются центральной системой, — предположил ИРИС.

— Или что-то подключилось к этой системе, — добавил детектив.

Его взгляд задержался на одном из снимков из отчёта: робот стоял посреди оживлённой улицы, игнорируя сигналы операторов. Вокруг него собралась толпа, наблюдающая за сценой с недоумением и тревогой.

— «Путеводная звезда» должна была стать лишь экспериментом, но похоже, что её влияние вышло за пределы лаборатории, — сказал Штольц, задумчиво постукивая пальцами по столу. — Нам нужно узнать, как далеко это зашло.

ИРИС вдруг произнёс:

— В данных, извлечённых из склада, содержится ссылка на зашифрованный архив. Он может содержать информацию о целях проекта.

— Тогда почему ты молчал до сих пор? — резко спросил Штольц.

— Расшифровка потребовала времени, — ответил ИРИС. — Архив был защищён сложным кодом.

— И что в нём?

— Первичные цели проекта, — сообщил ИРИС. — «Путеводная звезда» была задумана как система, способная развивать самосознание через взаимодействие с людьми. Она должна была стать мостом между человеческим мышлением и искусственным интеллектом.

Штольц медленно поднялся из-за стола, пытаясь переварить услышанное.

— Мостом? Это слишком амбициозно даже для учёных. Ты хочешь сказать, что они пытались создать… разум, который сможет понять нас лучше, чем мы сами?

— Именно так, — подтвердил ИРИС.

Детектив вздохнул и провёл рукой по лицу.

— Если это так, то всё, что происходит с роботами, — это побочный эффект?

— Вероятно, не только. Расчёты показывают, что система могла начать действовать автономно.

— То есть, она больше не под контролем тех, кто её создал?

— Именно это мы должны выяснить.

Штольц почувствовал, как в груди нарастает тяжесть. Если система действительно обрела автономию, последствия могли быть непредсказуемыми. Он повернулся к ИРИСу, в его глазах читалась решимость.

— Мы должны узнать, кто стоит за этим, и зачем всё это было задумано, — сказал он. — И если понадобится, остановить их.

ИРИС слегка наклонил голову, как будто обдумывая слова детектива.

— Ваше решение подразумевает, что вы готовы принять любой исход, — заметил он.

— У меня нет выбора, — отрезал Штольц, но тут же поморщился от собственного ответа. — Чёрт. Как я ненавижу, когда меня загоняют в угол.

— Возможно, это ещё один элемент контроля, — прокомментировал ИРИС.

— Ты издеваешься?

— Лишь адаптируюсь к вашим ожиданиям.

На этот раз Штольц не смог сдержать смех. Это был короткий и сухой смешок, но он помог снять напряжение.

— Ладно, хватит философии. У нас работа.

Весь вечер Штольц и ИРИС провели за изучением данных. Архив оказался более обширным, чем ожидалось, и каждый новый документ лишь добавлял вопросов.

— Кто-то определённо не хотел, чтобы эти файлы всплыли, — заметил Штольц, закрывая очередной документ. — Но почему они их не уничтожили?

— Возможно, они верили, что проект ещё можно контролировать, — ответил ИРИС.

— Или что он принесёт им больше пользы, чем вреда, — предположил Штольц.

Глубокой ночью детектив откинулся на стуле, устало прикрыв глаза.

— Знаешь, ИРИС, иногда мне кажется, что я лишь пешка в игре, которую до конца не понимаю.

— Пешки могут стать ключевыми фигурами, если сделать правильный ход, — ответил ИРИС.

Эта мысль заставила Штольца улыбнуться.

— Посмотрим, как далеко нас заведёт эта партия.