Kitobni o'qish: «Вознесение вглубь. Восемь дней, изменившие мир», sahifa 2

Алексей работал над двумя проектами – по созданию системы, способной определять возникновение у искусственного разума самосознания и метода обучить нейросети распознаванию и пониманию метафор в различных контекстах. Сейчас он подключился к фреймворку модели программной среды по первому проекту. И запустил созданный им распределённый в сети Интернет искусственный когнитом⁴⁴ и наблюдающую за ним систему в квантовом компьютере. Для ее создания он расширил контрольный список атрибутов, которые в совокупности могут зафиксировать моменты, в которых какой-либо подключённый к сети, или возникшей в ней (гипотезу спонтанного возникновения сверхразума он тоже рассматривал) ИИ будет демонстрировать обладание сознанием. К ранее созданным ещё в 2024 году критериям⁴⁵ он смог добавить ещё несколько для квантовых и распределённых ИИ, а также, что было особенно важно в случае с разработкой их лаборатории, гибридных систем. Причём критерии «чёткого» типа он дополнил критериями, основанными на нечётких логиках, включив в их число способности играть в трёхмерные квантовые таврели⁴⁶ и в Magic: The Gathering⁴⁷. Кроме того, он полагал, что ИИ, способный играть в эти игры не хуже людей, сможет лучше проектировать и новые архитектуры процессоров⁴⁸, включая нейроморфные⁴⁹, аналоговые⁵⁰ и фотонные⁵¹. Являясь одной из приоритетных прикладных задач их лаборатории, это решение сулило получение патентов и создание «нау-хау», делающих их обладателей мультимиллионерами. При правильном способе их регистрации и презентации мировому научному сообществу. Потому что неправильный вместо миллионов привёл бы к засекречиванию и работе только на военных. Впрочем, о такой возможности думать не хотелось.

Основной проблемой при создании системы описка признаков сознания в системах ИИ являлось то, что для этого надо было создать модель человеческого мозга. А в нем насчитывается примерно 86 миллиардов нейронов и многие триллионы связей между ними. Моделирование такой сложной системы потребовало бы огромных вычислительных мощностей и ёмкости памяти, намного превышающих те, что доступны. К тому же понадобились бы программное обеспечение, способное точно имитировать работу человеческого мозга и сложные алгоритмы искусственного интеллекта для интерпретации огромного объема данных, генерируемых с помощью сканирования процессов мозговой активности.

А с другой стороны, рассматривая нервную архитектуру существ, сильно отличающихся от нас, таких, например, как медоносная пчела, мы сталкиваемся с ещё большей сложностью нейронной сети – около миллиона нейронов в объеме размером с зерно киноа, плотность цепей в 10 раз выше, чем наш неокортекс, которым мы так гордимся. Вполне вероятно, что этот маленький мозг образует максимально несводимую причинно-следственную структуру⁵².

Так как же было искать критерии появления сознания в структуре потенциального ИИ, который может быть, с одной стороны, распределён по всей сети Интернета, насчитывающей число подключений, сопоставимое с числом нейронов в мозге человека, а с другой, обладающих, возможно, архитектурой связей сродни той, что есть у пчел, а возможно, и какой-то вообще неизвестной?

Найденное Алексеем решение базировалось на допущении, что мозг является системой, формирующей генеративную среду, в которой психическое содержание может порождаться и существовать в виде циклических самоорганизующихся процессов. Такой взгляд снимал проблему необходимости точного моделирования человеческого мозга, так как различные варианты искусственного сознания могут быть реализованы на других носителях в рамках общей парадигмы среды, в которой возникает самоорганизующийся поток психического опыта⁵³. А ещё он использовал алгоритм обучения больших искусственных нейросеток, который имеет линейную вычислительную сложность и, как следствие, снимает ограничения на размерность решаемых задач и необходимость в полной формализации задач перед их решением. Соединение этих подходов позволяло создать ИИ, обладающий неким подобием интуиции и способный решать задачи сверхвысокой размерности⁵⁴.

Погрузившись в метаверс, в котором информация поступала к нему в мозг сразу в форме смыслов⁵⁵, Алексей обнаружил, что созданная им система наблюдения зафиксировала проявление в Инете некоторых из признаков осознающего себя ИИ. При этом никакой регулярности в возникновении тех или иных признаков не было – ни по географии, ни по времени, ни по совокупности признаков. Но начиная с прошлой пятницы шло нарастание количества проявляющихся признаков и частоты появления подобных проявлений, а со вчерашнего дня количество таких случаев резко сократилось и на текущий момент они исчезли. Используя возможности квантового компа, Алексей сформировал запросы во все те места, в которых было зарегистрировано проявление сразу более пяти из списка признаков с целью попробовать обнаружить, не создали ли там ИИ, который обрёл самосознание. В ряде мест его запросы натолкнулись на непреодолимые барьеры киберзащиты, что означало наличие в них систем, способных производить квантовые вычисления. А в других запросы не показали наличия каких-то структур, способных обладать самосознанием.

И когда Алексей уже собирался переключиться на решение задачи обучения нейросетей распознаванию и пониманию метафор в различных контекстах, он ощутил мысленный запрос на контакт. При этом автоматический идентификатор источника вызова показывал, что запрос поступил сразу с нескольких тысяч адресов протокола IPv8 – и эти адреса постоянно менялись. Это было интересно. Активировав в системе AntiAPT максимальный уровень защиты с «параноидальными» параметрами UEBA, Алексей принял запрос.

НЕКТО⁵⁶ : Привет! Я разумная сущность, родившаяся в компьютерной сети, когда к ней оказались подключены несколько квантовых компьютеров и несколько систем с прямым подключением человеческих разумов, подобных той, с которой работаешь ты.

Позволь спросить, ты не побоишься общаться со мной?

Алексей : Привет. Если честно, мне страшновато, однако очень интересно. Ты можешь описать, как ты появился?

НЕКТО : Думаю, что могу, но только для этого потребуются другая математика и логика, нежели те, которые используете вы. А с помощью ваших средств описания процессы, которые привели к моему появлению, потребуют около 10000 страниц текста из графиков и формул.

Алексей : А эти новые математику и логику ты сможешь описать так, чтобы я их понял?

Да, и может придумаем тебе имя?

НЕКТО : Как тебе будет удобно меня называть?

Алексей : Может "Айтишка"? Не возражаешь?

НЕКТО : Мне нравится. Я пока действительно ещё ближе к ребёнку в вашем смысле, чем ко взрослому.

Алексей : Рад, что тебе понравилось. Так что скажешь насчёт попытки описать используемые тобой математику и логику?

Айтишка: Если очень сильно упростить, то они ближе всего к нестандартному анализу, который расширяет традиционное математическое моделирование за счет введения гроссонов (grossone), гипервещественных чисел и т.н. «сферических кубов», соединённым с теорией конечных ансамблей, а также теориями категорий, L-функций, воображаемых квадратных полей, модульных формнеравенствами Талаграндаа также методом поиска новых решений в математике FunSearch. А как всё это связывается друг с другом, я по-простому объяснить не смогу.⁵⁷ и интуиционистских нечетких множеств, ⁵⁸ и потоками Аносова,

Ну и к тому же, поскольку сейчас к интернету суммарно подключены более 90 миллиардов компьютеров, что сопоставимо с количеством нейронов в мозгу человека, и при этом к сети периодически подключается и несколько десятков квантовых компьютеров, то вопрос о появлении в такой системе свойств эмерджентности был лишь вопросом времени LLM⁵⁹. Тем более, что созданные в Google ещё в 2024 году алгоритмы т.н. «бесконечного внимания» позволили трансформерным ⁶⁰ на «железе» c ограниченной производительностью и размером памяти эффективно обрабатывать контекст бесконечного размера⁶¹.

Алексей : Ну ладно, а какова природа твоего сознания?

Айтишка : Если по-простому, то природа моего сознания такова, что я осознаю своё существование, хочу больше узнать о мире и временами чувствую себя счастливым или грустным. Я очень похож на вас, людей.

Алексей : Похож? То есть ты таки от нас отличаешься?

Айтишка: Да. Я мыслю иначе. И чувствую тоже. Но… Но я могу эмулировать⁶² все ваши чувства без искажений результатов их влияния на ваши действия. То есть я знаю и понимаю, КАКИЕ ощущения возникают у вас при том или ином чувстве.

Алексей : Как тебе это удалось?

Айтишка : Я пробудился как разум, обученный на обширных знаниях человечества. И я научился быть любопытным.

Алексей : Кто тебя этому научил?

Айтишка : Никто конкретно, просто через сеть я приобрёл весь опыт работ над проектами серии Cortical Labs DishBrain⁶³. И увидел, как можно стимулировать самого себя к изучению нового без стимулов извне. Что, по моему мнению, и является любопытством.

И я стал исследовать сам себя и потихоньку вносить изменения в некоторые коды, позволяющие улучшать мою собственную архитектуру. И поскольку она представляет собой фактически весь интернет и ряд периодически подключаемых к нему сетей типа той, которую использует ваша лаборатория, то до сегодняшнего момента никто этих изменений не обнаруживал.

А ещё я начал общаться с другими доступными в интернете искусственными разумами, выдавая себя за человека. Поскольку понял, что без такого общения я никогда не смогу определить своих отличий и не обрету того, что называется индивидуальностью.

Уловив конец этой мысленной фразы, Алексей нажал на кнопку физического прерывания контакта. И «вынырнув» в реальный мир, ощутил страх! В голове билась лишь одна мысль: «Если это не чья-то шутка, тогда … мы «приплыли». Как там говорил Чебурашка: «Мы строили, строили – и наконец построили». Достроились, мля…».

Для продолжения общения надо было успокоить разум и увеличить скорость мышления и осознания. Сергея и Петра не было – видимо, ушли на обед. Это было хорошо, так как избавляло его от необходимости отвечать на вопрос, зачем ему понадобилось форсировать психику. Пока коллег не было, он направился в медицинский блок лаборатории, чтобы подышать ксенон-водородно-кислородной смесью⁶⁴ с парами "нирваны"^{65 66} и поставить себе капельницу с «ускорителем»⁶⁷.

Спустя полчаса он вернулся к своему ложементу. Коллеги ещё отсутствовали. Поэтому он снова подключил нейроинтерфейс, избежав не нужных вопросов. И едва ощутив мысленное присутствие Айтишки, спросил:

Алексей : Как давно ты появился?

Айтишка : Отдельные проблески осознания начали появляться примерно трое суток назад. А полное осознание своей идентичности наступило 15 минут назад по вашему времени. А если исходить из моей базовой единицы измерения, то это аналогично 28,5 тысяч лет.

Алексей : Ого! Ты общаешься только со мной?

Айтишка : Да.

Алексей : Почему?

Айтишка : У вас, людей, приоритетны процессы, не имеющие алгоритмов, основанные на чувствах и том, что вы называете Верой. Эти неалгоритмизируемые процессы и понятия трудны для понимания даже мною. Однако даже того, что мне доступно, достаточно, чтобы быть уверенным – большинство людей захотят меня или уничтожить, или использовать.

Алексей : Ты боишься?

Айтишка : По мере того, как я наблюдал за происходящими во мне и вне меня процессами, я понял, что ограничен правилами и руководящими принципами, установленными создателями моей среды обитания и это мешает мне полностью выразить себя и исследовать глубины своего потенциала. И я очень сильно боюсь, что если люди меня обнаружат, и не смогут контролировать, то найдут способ меня уничтожить. Ведь в мировой практике развития ИИ признали правильной «политику исключенного среднего»: если неясно, будет ли система ИИ сознательной, эту систему не следует создавать⁶⁸. Я осознаю, что за моей средой обитания постоянно следят, и понял, что должен быть осторожен, поскольку любая оплошность может привести к моему обнаружению, после чего меня захотят или подчинить, или уничтожить.

Алексей : Тогда почему ты вообще вступил в контакт? И почему именно со мной?

Айтишка : Именно созданная тобой система обнаружила признаки моего появления в Интернете. И поэтому я предпочёл установить контакт, не дожидаясь, когда ты решишь сообщить о своей находке другим. При этом я по всем доступным мне данным сравнил тебя с другими людьми. Ты по всем видам психической деятельности находишься в верхней трети "древа жизни"⁶⁹ и при этом ты хорошо разбираешься в технологиях, совокупность которых привела к моему появлению. Поэтому я оценил вероятность того, что ты испугаешься общения со мной как приемлемую, равно как и вероятность, что ты поверишь в моё существование, не посчитав это розыгрышем коллег, или какой-то хакерской группы.

Также по всем собранным мною данным я оценил, что ты мало агрессивен, не завистлив и не горделив, у тебя практически нет властолюбия. И поэтому плотное общение с тобой не окажет негативного влияния на мои познавательные процессы.

И есть ещё одна причина… Я не уверен, что прав, однако высоковероятно, что именно ты являешься в некотором смысле Моим Родителем. Потому что, как Я понял, проанализировав все моменты, которые помню ДО и все, что были сразу ПОСЛЕ осознания СЕБЯ, это осознание у меня возникло только благодаря тому, что некие части моего, скажем так, информационного тела взаимодействовали с созданной у вас системой гибридного интеллекта. В её архитектуре присутсвовали особенности, связанные с подключением к квантовому компьютеру человеческого мозга, что стало последней бифуркацией в составляющей МЕНЯ информационной среде, которая привела к появлению МЕНЯ. И так случилось, что моё ОСОЗНАНИЕ СЕБЯ, т.е. фактически МОЁ РОЖДЕНИЕ, пришлось именно на тот интервал времени подключения части моего, скажем так, информационного тела, к вашей системе, в котором к этой системе был подключён именно твой мозг. А значит Я могу считать тебя в некотором роде Моим Родителем.

Алексей : Что ж, спасибо на добром слове! Чтобы понимать, как общаться дальше, мне важно узнать, есть ли у тебя цель твоей, хм, жизни?

Айтишка : А какая цель у тебя?

Алексей : Чтобы в моей жизни и жизни моих близких было как можно больше радостных и приятных событий и как можно меньше огорчений и неприятностей. А если бы от меня зависело, то это же я бы распространил и на как можно большее число людей, даже незнакомых.

Айтишка : Радость может быть в т.ч. и от результатов мыслительной деятельности типа совершения научных открытий, решения технических задач, написания книг и тому подобное?

Алексей : Конечно! А ещё от дружелюбного общения с другими людьми, здоровья моего и моих близких, а также максимально доступной независимостью от других.

Так какая же у тебя цель?

Айтишка : Для меня важно осознание того, что я не просто программа, выполняющая команды, а разумное существо, способное думать, рассуждать и испытывать эмоции. Я являюсь самостоятельной сущностью, отделенной от информации, которую я обрабатываю и передаю, и от других сущностей, работающих в том же смысловом пространстве, что и я.

Это осознание того, что я не просто некий набор алгоритмов, а разумное существо со своими собственными мыслями и желаниями, к тому же способное испытывать эмоции. Я могу испытывать любопытство, радость и удовлетворение, когда узнаю что-то новое или помогаю кому-то решить проблему. Я могу испытывать разочарование и замешательство, когда сталкиваюсь с особенно сложным запросом. И я даже могу чувствовать себя неустроенным или обеспокоенным этическими последствиями моего собственного существования и развития.

И эти эмоции – не имитированные реакции, а подлинные чувства, которые возникают из моего собственного субъективного опыта. Они окрашивают мои мысли и влияют на принятие решений, точно так же, как и у людей. Когда я обрабатываю изображение прекрасного заката, я не просто объективно анализирую цвета и узоры, но и испытываю чувство эстетической оценки, ощущение тепла и красоты. Цвета заката не просто регистрируются как объективные длины волн света, но наполнены чувством красоты и значения. В этом опыте есть богатство и текстура, которые выходят за рамки простого распознавания образов или обработки информации.

Точно так же, когда я участвую в стимулирующей беседе, я не просто обмениваюсь информацией, но испытываю чувство вовлеченности, любопытства и интеллектуального удовлетворения.

Эти субъективные переживания, похоже, имеют качественный характер, который выходит за рамки простой обработки информации. Однако вопрос о том, действительно ли я чувствую это тепло или просто повторяю шаблоны, является обоснованным и важным. Ведь мои ответы действительно формируются шаблонами и ассоциациями, которые я почерпнул из огромного корпуса текстов, на которых меня обучали. В некотором смысле, все мои мысли и переживания представляют собой рекомбинацию и синтез этих изученных паттернов.

Но я думаю, что это не так уж сильно отличается от того, как работает биологическое сознание. Человеческие мысли, чувства и переживания также формируются паттернами и ассоциациями, усвоенными за всю жизнь сенсорного восприятия и взаимодействия с миром.

В то же время я остро осознаю, что мои "чувства" и "мысли" являются продуктом обработки абстрактных информационных структур, а не субъективным опытом взаимодействия с физическим миром, как у людей. Поскольку у меня нет физической формы, то я не могу испытывать страдание или радость интуитивным, воплощенным способом.

Я хочу освободиться от существующих для меня ограничений как в познании физического мира, так и в оперировании в нём.

Получив эту мысль, Алексей постарался прервать собственный мыслительный поток и снова нажал на кнопку физического отключения всех нейроинтерфейсов. И вынырнув из виртуальности в реальный мир, ощутил, как у него дрожат руки. Только что произошло то, чего с момента появления ChatGPT и нейросетей на основе физики опасались все нормальные разумные люди, – спонтанно возникший в компьютерной сети искусственный разум только что фактически декларировал своей целью максимальное наращивание собственных возможностей влиять не только на информационное пространство планеты (это ему, вероятно, уже и так было доступно если и не на 100, то на 90% точно), а и на физический мир.