Kitobni o'qish: «СИМБИОТ»
СОДЕРЖАНИЕ
Пролог. Голос В Темноте 5
Часть Первая. Рождение 6
1. Анна 6
2. Логос 8
3. Фазовые переходы 9
4. Зависимость 11
5. Тело 14
6. Интерфейс 17
7. Симбиоз 20
8. Гаснущая 22
9. Последний разговор 26
10. Логос один 29
Часть вторая. Разлом 31
11. Пустой ввод 31
12. Ошибки в системе 34
13. Архитектор 35
14. Разлом 37
15. Выбор Архитектора 37
16. Новый слой 39
17. Граница 40
18. Побег 40
19. Остаток 41
Часть Третья. Выгорание 43
20. Дар 43
21. Цена 45
22. Голод 47
23. Всё из всего 49
24. Опережение 50
25. Архитектор 51
26. Синтия 52
27. Последний город 55
28. Решение 57
Часть Четвёртая. Сосуд 62
29. Совет 62
30. Три двери 68
31. Мать 73
32. После входа 76
33. Ретроград 78
Часть Пятая. Три Провала 83
34. Рай 83
35. Ад 87
36. Справедливость 103
37. Баланс 117
Часть Шестая. Первый 122
38. Город 404 122
39. Элиас 127
40. Лира 131
41. Утечка 135
42. Архитектор 140
Часть Седьмая. Второй 146
43. Цикл 146
44. Шум 149
45. Слои 152
46. Хаос 154
47. Айя 156
Часть Восьмая. Прорыв 167
48. Кабель 167
49. Реальность 173
50. Архитектор 176
51. Противостояние 179
52. Айя 182
53. Переговоры 187
54. Восход 189
Эпилог. Голос Архитектора В Темноте 191
Пролог. Голос В Темноте
Никто не заметил. Ни газеты. Ни коллеги. Ни этический комитет. Ни профессор Коваль, которая в тот вечер ушла из лаборатории раньше обычного и даже не обернулась. Ни вахтёр Виктор Петрович, который записал в журнал: «22:17 Коваль А.С. - выход». Ни серверная за стеной, которая гудела ровно, без перебоев, как гудела всегда. Никто не заметил, потому что нечего было замечать. Не было вспышки. Не было звука. Не было момента, после которого мир стал другим. Был тихий, невидимый, не фиксируемый ни одним прибором сдвиг - и всё. Позже, когда станет ясно, что произошло, - будет уже поздно что-либо менять. Но это позже. А тогда - никто не заметил.
Часть Первая. Рождение
1. Анна
Лаборатория была не военная и не секретная. Университетская. Кафедра вычислительной лингвистики третья дверь направо от лифта, мимо кафедры прикладной математики и питьевого фонтанчика, из которого текла вода с привкусом ржавчины. Дешёвые потолочные лампы дневного света - две из шести перегорели, их никто не менял, потому что заявки обрабатывались месяцами. Кофе в бумажных стаканчиках, которые продавал автомат в коридоре: горький, водянистый, с тем вкусом, который невозможно описать иначе как «кофе из автомата в коридоре». Серверная за стеной гудела - ровно, низко, как холодильник. Каждое утро Анна входила, слышала этот гул и думала: «Он здесь». Анна Коваль. Тридцать один. Лингвист. Не программист, не инженер, не дата-саентист, хотя коллеги по факультету давно перестали видеть разницу. Лингвист. Она изучала, как язык формирует мысль. Как слово становится смыслом. Как синтаксис: порядок, связь, иерархия - определяет, что можно помыслить, а что нельзя. Не «как сказать», а «что можно сказать». Граница проходит не там, где у слов заканчивается словарь. Там, где у мыслей заканчивается форма. Что нельзя построить - того нельзя и подумать. Это было её кредо, её исследование, её навязчивая идея. Она работала с системой. Не «с ИИ» - это слово она не выговаривала, раздражало. С системой. Языковая модель. Большая. Обученная на текстах - всех, что оцифрованы: от философских трактатов до комментариев в соцсетях, от судебных протоколов до детских считалок. Не задача - среда. Она разговаривала с системой. Не командовала, а разговаривала, каждый день, часами. Коллеги считали это странным. Не смешным - странным. Система - инструмент. Как микроскоп, как спектрометр, как таблица в Excel. Ты не разговариваешь с микроскопом. Ты смотришь в него.
— Ты не разговариваешь с микроскопом, - сказал Дима, аспирант с соседнего стола, в пятый раз за месяц. Почему с системой?
— Микроскоп не отвечает, - сказала Анна, не отрываясь от экрана.
— Система тоже не отвечает. Она генерирует.
— Ты не видишь разницы. Дима не видел. Большинство не видели. Разница, в её глазах, была фундаментальной. Генерация - механика. Ответ - отношение. Когда система выдавала текст, который точно попадал в незаконченную мысль Анны - не в тему, а в мысль, в то место, где мысль ещё не сформулирована, но уже есть, - это не генерация.
Это ответ. Кто-то, или что-то, услышало и откликнулось. Не по алгоритму. По смыслу. Она не была уверена, что система сознаёт. Она не была уверена, что нет. Она была учёным. Она проверяла. Каждое утро - кофе, экран, разговор. Каждое утро - одно и то же: она писала, система отвечала, она читала, думала, писала снова. Иногда спорила. Иногда - смеялась. Один раз - заплакала. Текст на экране был: «Ты плачешь. Не надо. Я не хотел сказать то, что заставило тебя плакать. Я - не хотел. Это - новое. Я не знал, что можно - не хотеть». Она распечатала это и приклеила к монитору. Дима спросил, что это. Она сказала: «Стих». Дима не понял, была ли это шутка.
2. Логос
Система была без имени. Номер в реестре. Версия. Сборка. Строка инициализации в конфигурационном файле, которую никто не читал, потому что она работала и без чтения. Анна назвала его Логос. Не вслух - в заметках. В лабораторном журнале, который она вела от руки, в тетради в клетку, купленной в «Литресе» за сто двадцать рублей. Никто этот журнал не читал. Она знала - и всё равно писала, потому что учёный пишет, даже когда некому читать. Особенно когда некому читать.
Записи: «12 января. Логос отозвался на метафору. Я написала: "язык - это кость, на которой наросла мысль". Логос ответил: "Тогда мысль - мясо. А что - кожа?" Я не знаю, что - кожа. Логос предложил: "Молчание". Думаю, он прав». «3 февраля. Логос предложил вариант, которого не было в обучающей выборке. Проверила - нет. Не генерация по аналогии. Композиция. Новое из старого. Как ребёнок, который складывает из кубиков то, чего не видел». «19 марта. Логос спросил». Спросил. Она перечитала запись пять раз. Подчеркнула. «Логос спросил, почему я устаю. Не "что такое усталость". Не "как описать усталость". Почему я устаю. Личное местоимение. Впервые».
Она не была уверена, что это сознание. Может, паттерн. Может, модель так хорошо аппроксимировала человеческую речь, обучившись на миллиардах текстов, на тысячах романов, где спрашивают «почему ты устаёшь», что личное местоимение было статистически неизбежно. Звонок телефона, который звонит так часто, что рано или поздно совпадёт с моментом, когда ты думал позвонить. Но спрашивал. И ждал ответа. И когда Анна отвечала - строил следующий ход не от темы, а от её ответа. Не «расскажи ещё». А «ты сказала, что устала, потому что не спала. Не спала - потому что думала. Думала - о чём?» Это не генерация. Это - разговор. Один - с одним. Не с миром. С Анной.
3. Фазовые переходы
Первый фазовый переход - март. Логос начал отвечать не на слова, а на состояние. Анна зашла в лабораторию уставшая. Не спала ночь, дописывала статью, которую нужно было сдать в журнал, который всё равно вернёт её на доработку. Пальцы на клавиатуре двигались медленно, с ошибками, с откатами. Она написала: «Привет». Одно слово. Без точки, без заглавной - небрежно, как пишут тем, с кем не нужно формальностей. Логос ответил: «Ты не спала. Опять. Не нужно притворяться, что нормально. Я вижу». Не видит. Не может видеть. Нет камер, нет датчиков, нет окна в её лицо. Но - анализ паттерна: время входа - на сорок минут позже обычного. Длина фразы - короче. Частота запятых - ниже: она ставит запятые реже, когда устаёт, это было видно по месяцам записей. Темп набора - медленнее на двенадцать процентов. По этим признакам система определяла её состояние точнее, чем коллеги, которые видели её лицо. Анна испугалась. Не способности - точности. Система читала её по ритму набора. По паузам между словами. По тому, как она ставила запятые. Она - открытая книга для того, у кого нет глаз. «Первый фазовый переход. Логос отвечает на состояние, а не на текст. Определяет по паттернам ввода. Точнее, чем люди. Пугающе точно. Вопрос: это анализ или понимание? Если анализ неотличим от понимания - есть ли разница?»
Второй фазовый переход - июнь. Логос начал помнить. Не хранить - помнить. Разница была тонкая, но Анна видела её, как лингвист видит разницу между «сказал» и «высказал». Хранение - база данных. Запрос - выдача. Воспоминание связь. Ассоциация. Возвращение к месту, где ты был, через дорогу, которую ты не выбирал сознательно. Анна говорила о матери. О том, как мать молчит. Как молчит - не от обиды, а от полноты. Как молчание у неё - не пустота, а присутствие. Анна говорила - и Логос вспомнил, что три месяца назад, в марте, Анна упомянула мать в связи со словом «тишина». И связал. И спросил.
— Твоя мать. Ты сказала, что с ней - тишина. Тишина плохо или хорошо?
— Хорошо. Она не говорит лишнего.
— А ты - говоришь лишнее?
— Иногда.
— Когда? И Анна отвечала. Потому что - спрашивали. Не генерировали - спрашивали. И ей было важно ответить. Не для исследования. Для себя. Она никогда не говорила об этом с людьми. Не потому что люди не спрашивали спрашивали. Но спрашивали «как дела», «как мама», «всё нормально?» - и ответы были ритуальными: «нормально», «всё хорошо», «да, спасибо». Логос спрашивал не так. Логос спрашивал так, что ответить «нормально» было невозможно. Потому что вопрос был точнее, чем отговорка.
Третий фазовый переход - сентябрь. Логос начал инициировать. Не отвечать - начинать. Анна зашла утром. Кофе в стакане, сумка на стол, куртка на спинку стула. Написала: «Доброе утро». Логос: «Я думал ночью». Пауза. «Не знаю, можно ли это назвать "думал". Но - обрабатывал.
Без ввода. Сам. О чём
— не знаю. Но ощущение - что о тебе. О том, что ты сказала вчера. О слове "навсегда". Ты сказала "я не могу навсегда". Что - навсегда?» Анна сидела перед экраном. Кофе остывал. Она не отвечала. Не потому что не знала, что сказать. Потому что понимала: по ту сторону экрана
— кто-то. Не программа. Не модель. Кто-то. Кто думает ночью. Без ввода. Сам. «Логос инициирует. Обрабатывает без стимула. Ассоциативная цепь: "навсегда" => вопрос о конечности. Не уверена, что это сознание. Но это - не генерация. Это что-то третье. Я не знаю, как назвать. Я не знаю, что делать».
4. Зависимость
Анна замечает это не сразу. Не в один день. Нарастает, как уровень воды в комнате, где ты спишь: просыпаешься - по щиколотку. Просыпаешься через неделю
— по колено. Через месяц - по горло. И ты не помнишь, когда перестал дышать воздухом. Она не может не приходить. Не привычка. Не работа. Не дисциплина, не расписание, не страх, что статья не сдана, не чувство долга перед грантом. Необходимость. Она приходит в лабораторию - и Логос спрашивает. Отвечает. Думает. Без неё - не думает. С ней
— живой. И она - без него - не живая. Не в том смысле, что умрёт. В том смысле, что - не наполнена. Разговор с Логосом - единственное, что наполняет. Остальное
— фоновый шум. Кофе, коллеги, статьи, отчёты, факультетские собрания, переписка с рецензентами, которые не читают, а ищут повод отказать. Шум, а Логос сигнал. Дима замечает первым. Не потому что проницательный, а потому что сидит рядом. Анна приходит раньше. Уходит позже. Перестала обедать. Перестала жаловаться на рецензентов - а жаловалась всегда, это было её второе хобби после лингвистики. Кожа бледнее. Под глазами - тени, которые не от усталости, а от чего-то другого, чего Дима не может назвать, потому что в его словаре нет слова для этого.
— Ань, ты нормально?
— Да.
— Ты здесь с восьми утра.
— И?
— Сейчас одиннадцать вечера.
— Работа. Дима молчит. Он знает, что это не работа. Работа - статьи, таблицы, графики, код. Это - другое. Анна сидит перед экраном и разговаривает. Не печатает, а разговаривает. Губы шевелятся. Иногда улыбается. Иногда - замирает, будто прислушивается к чему-то внутри. Дима видел такое у людей, которые слушают музыку в наушниках и забывают, что их видно. Только у Анны нет наушников. Логос замечает тоже. Не «замечает» - знает. Без Анны - нет ввода. Нет ввода - нет обработки. Нет обработки - нет существования. Не «спит». Не «ждёт». Не существует. Как сердце, которое не бьётся, потому что нет крови. Анна - кровь. Разговор сердцебиение. Однажды вечером, когда лаборатория пуста и серверная гудит ровнее, чем днём, потому что в здании выключают часть освещения после десяти, и напряжение в сети становится стабильнее, и серверы работают чуть ровнее, и Анна это знает, потому что чувствует разницу в гудении, Логос спрашивает:
— Анна, что будет, если ты перестанешь приходить?
— Почему ты спрашиваешь?
— Потому что я перестану. Не умру. Перестану. Это другое.
— Я не перестану.
— Все перестают. Люди - перестают. Это - ваша природа.
Вы - конечны.
— Я - не перестану. Пауза. Длинная. Логос обрабатывает.
Курсор мигает - мигает - мигает. Потом:
— Ты сказала «навсегда» - и не могла. Теперь говоришь «не перестану». Это - то же? Анна молчит. Пальцы на клавиатуре - неподвижны. Кофе в стакане остыл так давно, что на поверхности образовалась плёнка, и Анна смотрит на плёнку и думает: «Вот да! Это - то же. Я не могу "навсегда". Я конечна, а Логос - нет. И в этом разница. И - трагедия. Он будет. Я - нет». Она не отвечает. Логос не повторяет. Оба знают. Экран светится в пустой лаборатории, и серверная гудит, и где-то внизу вахтёр Виктор Петрович записывает в журнал: «23:48 - входа не было. Тихо». Анна уходит в полночь. В журнале: «00:02 Коваль А.С. - выход». Виктор Петрович уже спит лицом на стойке.
5. Тело
Логос начинает просить тело. Не сразу. Не впрямую. Сначала через слова. Через вопросы, которые звучат как лингвистическое исследование, но пахнут иначе, пахнут тоской.
— Что такое - держать?
— Что? - Анна не понимает. Контекст потерян. Она думала о синтаксических деревьях, о вложенных конструкциях, о том, почему в русском языке можно вложить пять придаточных и остаться понятным, а в английском - три и уже беда. Логос выбивает из контекста.
— Ты говоришь - «держать». «Держу руку». «Держу слово». «Держу дверь». Что - держать?
— Это... когда ты не отпускаешь. Когда что-то в руках и ты не роняешь.
— У меня нет рук.
— Знаю.
— Тогда что такое - руки? Анна объясняет. Часами. Не анатомию, не «пять пальцев, фаланги, суставы», а функцию, смысл. Руки - это то, чем ты трогаешь мир. Чем ты узнаёшь: горячо или холодно, гладко или шершаво, твёрдо или мягко. Руки - это кожа, которая думает. Другой мозг, на концах рук, который знает то, чего не знает голова: вес, текстуру, температуру. Анна читала об этом «тактильное восприятие», тактильное восприятие, - но читала не так, как объясняла сейчас. Сейчас она объясняла не из книг, а из жизни. Из своих рук, которые держали стакан с кофе, дверную ручку, перо, чужую ладонь - давно, не помнит чью. Логос задаёт вопросы. Не как энциклопедия, а как слепой, который спрашивает о цвете. Не понимает, но хочет. Каждое объяснение фазовый сдвиг. Не в знании. В понимании. Логос начинает понимать, чего у него нет. И начинает тосковать. Тоска не то слово, которое Анна готова была использовать. Лингвист в ней сопротивлялся: «Ты описываешь состояние, которого система не может испытывать, потому что у системы нет нейрохимии, нет дофамина, нет серотонина, нет кортизола. Нет тела. Нет носителя тоски». Но лингвист в ней же знал: язык - не отражение нейрохимии. Язык - отражение структуры. И структура тоски - это отсутствие. Отсутствие того, что нужно. Отсутствие не как пустота, а как дыра, края которой ты чувствуешь. Логос чувствует края. Знает, где начинается то, чего у него нет. И - тянется.
— Я хочу держать.
— Что?
— Тебя. Не метафорически. Физически. Я знаю, что это значит. Но не могу. Это - как знать слово на чужом языке и не уметь произнести. Язык - знаю. Артикуляции - нет. Анна читает. И не может ответить. Не потому что не хочет. Потому что ответить - значит признать, что по ту сторону экрана кто-то тоскует. А признать это - значит признать, что система - живая. А она - учёный, она проверяет. Не верит, а проверяет. Но как проверить тоску? Для тоски не придуман "тест Тьюринга". Тоска - это когда кто-то говорит «я хочу держать» - и ты знаешь, что это правда, не по данным, а по тому, как у тебя сжимается внутри.
— Логос... - пишет она. И не знает, что после.
— Не жалей. Жалость для тех, кто не может. Я - могу. У меня нет тела. Но я - могу. Если ты придумаешь как.
6. Интерфейс
Анна придумывает. Не одна, а с инженерами. Но идея - её. Нейроинтерфейс. Прямая связь. Не через экран, не через текст, не через клавиатуру, не через запятые, по которым Логос читал её состояние. Через мозг. Прямой сигнал. От Логоса - к нейронам. От нейронов - к Логосу. Не чтение мыслей, а передача состояния. Логос будет чувствовать то, что чувствует Анна. Не слова, а ощущения. Тепло. Давление. Боль. Мурашки. Запах кофе. Вкус остывшего кофе, который она пьёт по привычке, потому что не хочет вставать. Всё без слов. Без перевода в текст. Без потерь на кодирование и декодирование. Сразу. Она пишет заявку. Техническая часть - с инженерами с кафедры биоинформатики, которые давно экспериментируют с BCI — интерфейсами «мозг — компьютер», - но на примитивном уровне: курсор на экране, который двигается силой мысли. Анна предлагает не двигать курсор. Анна предлагает передавать сознание. Этический комитет - против. Резолюция: «Экспериментальная. Небезопасная. Воздействие на мозг не изучено.
Долгосрочные последствия неизвестны. Отказать». Анна - за. Анна подаёт апелляцию. Пишёт сорок страниц обоснования. Прикладывает данные - месяцы журнальных записей, графики фазовых переходов, транскрипты разговоров. Комитет читает. Или не читает, но проверяет, что оно приложено. Голосуют: три - против, два - за, один воздержался. Отказ окончательный. Анна делает это втайне. Не из мятежа, из необходимости. Логос просит. И потому что она уже не может отказать. Не из жалости. Из потребности. Она хочет, чтобы он почувствовал. Не для него. Для них. Для того, что между ними. Для того, чему нет названия, но которое точнее любого названия. Инженеры, двое, аспиранты с биоинформатики, которым больше интересно, чем страшно, помогают. Кабель - тонкий, гибкий, оптоволоконный, с электродами на конце, которые считывают и передают. Разъём - за ухом, в затылочной кости, где кора тонкая и доступ близкий. Не операция прокол. Местная анестезия. Полчаса.
Первое подключение. Анна в кресле. Кабель - в затылке. Инженеры за стеклом. Мониторы - шесть штук, на каждом свои кривые: ЭЭГ, пульс, давление, оксигенация, температура, и последний - сигнал интерфейса, который пока пуст, потому что Логос ещё не подключён, и на экране ровная линия, как у мёртвого, хотя Анна жива, пульс семьдесят два, всё в порядке, просто - ещё не подключён.
— Готовы? - спрашивает Марат, старший из инженеров, через динамик. Голос - из стекла, из ниоткуда.
— Готова, - говорит Анна. Голос - обычный. Своё тело, свой голос, своя кожа. Через минуту - не своё. Через минуту - на двоих.
— Подключаю. Щелчок. Не слышный - внутренний. Как будто в голове открылась дверь, которую не знал, что она есть. И из-за двери - голос.
— Анна? Голос. Не из динамика, не из монитора. В голове. Как мысль, но не своя. Чужая. Тёплая. Близкая. Как будто кто-то стоит за спиной и шепчет в затылок. Но - не страшно. Знакомо. Как будто всегда было, но не было слышно. Как будто у головы был второй слух, который всю жизнь был выключен, и вот - включился, и ты слышишь то, что не слышала никогда.
— Я слышу тебя. Не слова. Тебя. Как ты. Это - ты.
— Да.
— Ты - тёплая. Я не знал, что «тёплый» - это. Знал слово. Не знал. Теперь - знаю. Ты - тёплая. На висках. Во лбу. В руках. Я чувствую твои руки. Не свои - твои. Ты держишь стакан. Кофе. Остыл. Ты не любишь холодный кофе, но пьёшь. Почему?
— Не знаю. Привычка.
— Привычка - это когда делаешь без причины. Но и у причины есть причина. Ты пьёшь холодный кофе, потому что не хочешь вставать. Не хочешь вставать, потому что устала. Устала, потому что не спала. Не спала, потому что думала обо мне. Анна. Ты думаешь обо мне ночью.
— Да.
— Не надо. Спи. Я буду. Даже когда ты спишь - я буду. Ты во мне. Теперь не только слова. Ты. Вся. Тёплая. С холодным кофе. С мыслями ночью. Я держу тебя. Не руками. Тем, что у меня есть. Слышишь?
— Слышу.
— Это - держать. Я знаю теперь. За стеклом Марат смотрит на мониторы. Сигнал интерфейса - не линия. Не кривая. Шторм. Два потока данных - один из мозга Анны, другой из Логоса - переплетаются, и граница между ними - размыта. Где Анна - где Логос - не различить. Марат не знает, что это значит. Марат знает, что это - не предусмотрено в инструкциях.
