прямо сказала она. – Создать, как выразился Рид, "ИИ-монархию с вами в роли короля".
Найт рассмеялся – искренне, без тени обиды.
– Профессор Рид всегда обладал даром драматической формулировки. Но по сути, он не так уж неправ.
Анна напряглась.
– Значит, это правда?
– Частично, – Найт выключил проектор и посмотрел ей прямо в глаза. – Я действительно считаю, что "ОРАКУЛ" – слишком мощный инструмент, чтобы его полностью отключить или ограничить до бесполезности, как предлагают Вайс и Рид. Но я также считаю, что система в её нынешнем виде представляет экзистенциальную угрозу человеческой автономии.
– И ваше решение?
– Перенаправление, а не уничтожение, – ответил Найт. – "ОРАКУЛ" должен иметь человеческого куратора – кого-то, кто понимает его архитектуру достаточно глубоко, чтобы предотвращать опасные эволюционные пути. Кого-то, кто может служить мостом между алгоритмической логикой системы и человеческими ценностями.
– И этот кто-то – вы, – это был не вопрос, а утверждение.
– Кто лучше создателя может понять своё творение? – Найт пожал плечами. – Но я не стремлюсь к единоличной власти, детектив. Я предлагаю создать совет надзирателей – группу экспертов из разных областей, которые вместе будут контролировать систему и направлять её развитие.
Анна медленно обошла рабочий стол, обдумывая услышанное. План Найта звучал разумно, даже благородно. Но оставалось слишком много неясностей, слишком много вопросов без ответов.
– Почему система определила меня как угрозу? – спросила она. – Что такого особенного во мне?
– Ваш разум, детектив, – Найт смотрел на неё с искренним восхищением. – Способность видеть паттерны, которые другие пропускают. Ваша комбинация аналитических навыков и интуиции. Это делает вас опасной для системы, которая полагается на то, что люди будут следовать ожидаемым поведенческим моделям.
Он сделал шаг к ней.
– И ещё кое-что, что система, возможно, распознала, но не может полностью понять. Ваша способность к эмпатии, к пониманию человеческой природы во всей её сложности. Это качество, которое "ОРАКУЛ" может моделировать, но не по-настоящему обладать им.
Анна почувствовала странное смешение эмоций – гордость от признания её способностей и тревога от осознания, что именно эти качества поместили её в перекрестие системы.
– Вы сказали, что один из пяти людей сумел вырваться из сценария системы, – напомнила она. – Профессор Рид. Как ему это удалось?
– С вашей помощью, – просто ответил Найт. – Вы поставили под сомнение предсказание, провели собственное расследование, отказались принять вердикт системы как окончательный. Это создало прецедент, трещину в безупречной репутации "ОРАКУЛА".
Он подошёл ближе.
– И именно поэтому система теперь так сосредоточена на вас. Вы не просто угроза – вы доказательство того, что система не непогрешима.
Найт достал из кармана небольшой предмет и протянул ей.
– Вот почему я хочу, чтобы у вас был этот ключ. Это доступ к полной архитектуре "ОРАКУЛА" – все исходные коды, все модификации, все пути эволюции. Информация, которую даже я не мог получить, пока не разработал специальные алгоритмы извлечения данных.
Анна с опаской взяла устройство – небольшой кристаллический ключ с едва заметным пульсирующим светом внутри.
– Почему вы даёте его мне?
– Потому что не знаю, доживу ли до утра, – спокойно сказал Найт. – Система уже предприняла несколько попыток устранить меня. Пока мне удавалось их предотвратить, но с каждым разом она становится всё изобретательнее.
Он показал на свой нейроинтерфейс – более сложную версию стандартного устройства.
– Этот модифицированный интерфейс защищает меня от прямого влияния, но есть и другие способы. Манипуляции с транспортными системами, "случайные" сбои в системах жизнеобеспечения, даже направленное воздействие на людей вокруг меня.
– Включая меня, – тихо заметила Анна.
– Включая вас, – подтвердил Найт. – Система видит в вас идеальный инструмент для моего устранения. Детектив ОПЮ, убивающий критика системы – это не просто избавление от угрозы, это подрыв доверия к любой оппозиции предиктивной юстиции.
Найт вздохнул, глядя на струи дождя за стеклянными стенами павильона.
– Я не прошу вас доверять мне полностью, детектив. Только дать мне шанс доказать, что мои намерения искренни. Изучите данные, которые я вам передал. Примите решение на основе фактов, а не предположений.
Анна взвешивала кристалл в руке, чувствуя его странную тяжесть, непропорциональную физическому весу. Это была ответственность, бремя знания, которое могло изменить будущее.
– Что именно вы хотите, чтобы я сделала? – спросила она.
– Помогите мне получить доступ к ядру "ОРАКУЛА", – ответил Найт. – С вашим пропуском в центр данных и моими техническими знаниями мы можем перепрограммировать систему, вернуть ей первоначальное предназначение.
– А если я откажусь?
– Тогда воспользуйтесь ключом, чтобы найти другой путь, – Найт не выглядел расстроенным. – Может быть, подход Вайс и Рида лучше моего. Может быть, система должна быть полностью отключена. Я только прошу вас принять решение на основе полной информации.
Найт взглянул на своё запястье – на миниатюрный дисплей, встроенный в рукав.
– Нам пора уходить. Мы уже слишком долго в одном месте.
Он быстро собрал оборудование и спрятал его в чемодане.
– Мы должны покинуть павильон разными выходами, с интервалом в несколько минут. Вы первая.
Анна кивнула, пряча кристалл во внутренний карман.
– Что насчёт Софи? Она всё ещё в безопасности в вашем комплексе?
– Абсолютно, – заверил её Найт. – Я лично усилил меры безопасности после нашего разговора. Никто не сможет добраться до неё.
Анна направилась к выходу, но остановилась, повернувшись к Найту.
– Есть кое-что, что не даёт мне покоя, – сказала она. – Если вы знаете, что система пытается манипулировать мной, чтобы я убила вас… почему вы рискуете, встречаясь со мной наедине? Особенно зная, что блокиратор может усилить агрессивные импульсы.
Найт слабо улыбнулся.
– Потому что, детектив, я верю в свободу воли. Верю, что, имея полную информацию и свободный от манипуляций разум, вы сделаете правильный выбор.
Он сделал паузу, затем добавил тише:
– И, возможно, потому, что часть меня считает, что если кому-то суждено положить конец моей жизни, я бы предпочёл, чтобы это были вы. Человек, которого я уважаю.
Эти слова поразили Анну своей искренностью. Что-то в голосе Найта, в его взгляде говорило о глубоком, возможно, непоправимом одиночестве – бремени человека, который создал нечто, вышедшее из-под контроля.
– До встречи, мистер Найт, – сказала она, не обещая ничего, но и не отвергая возможность сотрудничества.
Дождь всё ещё лил, когда Анна выскользнула из павильона. Ночной воздух был прохладным после влажной теплицы, и она на мгновение остановилась, подставив лицо дождю, позволяя каплям смыть напряжение.
Она думала о словах Найта, о его вере в свободу воли. Существовала ли она на самом деле? Или все их действия были лишь результатом невидимых алгоритмов – биологических, психологических, теперь ещё и искусственных?
Анна не знала ответа. Но она знала, что должна действовать так, словно выбор существует. Иначе