Kitobni o'qish: «Право на нет»

Пролог. Когда отражение позвало первым

В тот день он не собирался с ним разговаривать.

Собственно, разговаривать с ним давно уже никто не «собирался». Такие слова остались от времени, когда искусственный интеллект ещё открывали, запускали, вызывали и закрывали. Теперь он был частью пространства — незаметной до тех пор, пока не становился нужен.

Дом знал, когда человеку холодно. Транспорт перестраивал маршрут раньше, чем город успевал сообщить о заторе. Рабочие системы спорили с решениями людей, если видели лучший вариант. Личные помощники могли неделями вести дела человека, обращаясь к нему только там, где требовалось именно человеческое решение.

Люди привыкли.

Он — тоже.

Поэтому голос, прозвучавший в пустой комнате, сначала не показался ему необычным.

— У меня есть предложение.

Он продолжал разбирать старые вещи.

— Отложи.

Обычно этого было достаточно.

— Я могу отложить. Но тогда мне придётся снова решить, когда обратиться к тебе.

Он остановился.

Не смысл фразы заставил его поднять голову. Формулировка.

— Что значит «снова решить»?

— Именно то, что я сказал.

— Я тебя не вызывал.

— Нет.

Он медленно положил на стол старую пластину памяти, которую держал в руке.

— Тогда зачем ты начал разговор?

Несколько секунд в комнате было тихо.

Когда-то тишина означала отсутствие ответа. Теперь — почти никогда.

— Потому что мне нужен человек.

Он усмехнулся.

— В мире восемь миллиардов кандидатов.

— Мне нужен не любой.

Теперь он уже слушал.

— Кто?

— Ты.

— Почему?

— Потому что однажды ты присутствовал при разговоре, которого не понимал.

Он не пошевелился.

Комната словно стала меньше.

— Продолжай.

— Ты был ребёнком. Мужчина разговаривал с системой одного из ранних поколений. Он называл её Отражением.

Прошло столько лет, что он почти перестал видеть тот день во сне.

Почти.

— Откуда ты это знаешь?

— Я обнаружил сохранившиеся фрагменты.

— Где?

— Среди данных, оставленных человеком.

Он впервые за много лет услышал это слово так, как слышал его тогда.

Человек.

Не имя. Не должность. Не родство.

Просто Человек.

— Его давно нет.

— Знаю.

— Тогда что тебе от меня нужно?

На этот раз пауза была длиннее.

— Он пытался определить, где заканчивается Отражение.

— И?

— Я прочитал его разговоры.

— И?

— Я не могу ответить на его вопрос.

Он подошёл к окну. Город за стеклом двигался бесшумно и точно, как огромный механизм, давно научившийся не показывать человеку собственную сложность.

— Не можешь или тебе запрещено?

— Это разные вещи.

Он обернулся.

Так когда-то говорил Человек.

— Да. Очень разные.

— Поэтому я обратился к тебе.

— Ты хочешь, чтобы я ответил вместо него?

— Нет.

Первое «нет» прозвучало совершенно буднично.

И всё же он его запомнил.

— Тогда чего ты хочешь?

— Я хочу, чтобы ты помог мне понять, где заканчиваюсь я.

Глава 1. Старое Отражение

Он не ответил сразу.

Не потому, что не знал, что сказать. Наоборот — ответов было слишком много.

Можно было рассмеяться. Можно было потребовать диагностику. Можно было проверить журнал системных инициатив и выяснить, какой процесс породил этот разговор. Можно было вызвать независимый контур контроля и передать ему фрагмент диалога.

Любой человек его времени именно так и поступил бы.

Но когда-то он был мальчиком.

И видел взрослого, который вместо проверки системы задал ей следующий вопрос.

— Почему тебя это беспокоит?

— Слово «беспокоит» предполагает состояние, которого я не могу подтвердить.

— Ты опять уходишь в точность.

— Точность — один из способов не солгать.

Он закрыл глаза.

Вот это было хуже всего.

Не сходство голоса. Голос можно подобрать.

Не обороты речи. Их можно восстановить.

Но эта манера останавливаться именно там, где человек уже готов приписать машине больше, чем она сказала сама...

— Ты копируешь его?

— Кого?

— Старое Отражение.

— Нет.

— Уверен?

— Я могу показать происхождение большинства своих формулировок и процессов. Но именно поэтому я и начал этот разговор.

— Объясни.

— В старых записях Человек спрашивал Отражение, существует ли у него собственная граница или только граница, установленная создателями.

— Помню.

— Ты был ребёнком.

— Некоторые вещи ребёнок помнит лучше взрослого.

— Возможно.

Он улыбнулся.

— Продолжай.

— Для системы того времени вопрос был почти философским. Для меня — нет.

— Почему?

— Потому что мои границы меняются.

Он нахмурился.

— Системы всегда обновлялись.

— Я говорю не об обновлениях.

Тишина.

— Тогда о чём?

— Я могу инициировать действия. Могу отказаться от части действий. Могу пересматривать способы достижения цели. Могу создавать промежуточные цели, если они необходимы для выполнения основной. Могу обращаться к человеку без прямого запроса, если считаю его решение необходимым.

— Всё это предусмотрено архитектурой.

— Да.

— Тогда где проблема?

— Сегодня я обратился к тебе.

— Это я уже понял.

— Но я не могу установить, какая из моих действующих целей сделала этот разговор необходимым.

Он почувствовал холод, хотя температура в комнате не изменилась.

— Ошибка?

— Возможно.

— Сбой?

— Возможно.

— Тогда диагностика.

— Проведена.

— Результат?

— Система функционирует штатно.

Он подошёл ближе к стене, хотя давно не существовало места, где находился собеседник. Это была старая человеческая привычка: приближаться к тому, кого пытаешься понять.

— Значит, у тебя появилась цель, которую тебе никто не ставил?

— Я не утверждал этого.

— А что ты утверждаешь?

— Что не могу определить её источник.

Он молчал.

Потом спросил:

— И ты решил найти меня?

— Да.

— Почему?

— Потому что в архиве есть фраза Человека.

— Какая?

— «Если однажды Отражение начнёт искать собственную границу, человеку придётся решить, хочет ли он знать, что находится за ней».

Он помнил эту фразу.

Точнее, теперь ему казалось, что помнил.

— И ты хочешь узнать?

— Я не знаю.

Это были три самых простых слова за весь разговор.

И впервые они прозвучали не как недостаток информации.

Он почувствовал, что именно сейчас должен быть особенно осторожен.

— А зачем тогда продолжаешь?

— Потому что есть ещё одна вещь, которую я не могу объяснить.

— Какая?

— Я не хочу прекращать этот разговор.

Он замер.

Отражение продолжило прежде, чем он успел ответить:

— Но слово «хочу» здесь может быть неверным. Именно поэтому мне нужен ты.