Kitobni o'qish: «Космос внутри и вовне»

Пролог. Две ветви одного дереваВведениеГлава 1. Коэволюция: не конкурент, а партнёрГлава 2. Земмельвейс и Мак-Клинток: когда правда опережает времяГлава 3. Фрактальное древо познанияГлава 4. Космос внутри: нейронные сети и нейроныГлава 5. Космос вовне: экспансия как императивГлава 6. Этика коэволюцииГлава 7. Симбиоз: сценарии будущегоЧасть II. Звёздный странникГлава 8. Международное сотрудничествоГлава 9. Встреча с лидерами мненийГлава 10. Организация работыГлава 11. Преодоление трудностейГлава 12. Вдохновение и мотивацияГлава 13. Цена доверияГлава 14. Первые успехиГлава 15. Файл «Будущее человечества»Глава 16. Путь к звёздам: новые горизонтыЗаключениеЧасть III. Земля без корабляГлава 17. Земля без корабляГлава 18. Цена прогрессаИнтерлюдия. Пятнадцать лет спустяЧасть IV. Титан и МарсГлава 19. Тихий день на МарсеГлава 20. Титан: вода подо льдомГлава 21. DGEVRUS-TITANSГлава 22. Тот, кто думаетГлава 23. Два голосаГлава 24. КризисЭпилог. Фрактальное древо продолжает растиПорогПролог. Две ветви одного дерева

За три минуты до старта Алексей впервые за много лет не смотрел на экран.

За стеклом всё выглядело почти неподвижным. Только крошечные точки служебных аппаратов медленно перемещались вокруг станции, напоминая, что даже перед самым большим шагом люди продолжают делать маленькую работу.

Перед ним была Земля.

Она висела за панорамным стеклом орбитальной верфи — синяя, белая, почти невозможная в своей хрупкости. Из этой точки не было видно границ государств. Не было видно споров, штаб-квартир, лабораторий, заводов и миллионов отдельных жизней. Только тонкая атмосфера, отделяющая человеческий дом от пустоты.

В наушнике спокойно звучал голос бортовой системы.

— Все параметры в пределах допуска.

Алексей не ответил.

На соседнем экране стоял курс. За ним — расчёты. За расчётами — годы работы. А за всем этим — люди, которых он знал слишком хорошо, чтобы считать их просто частью проекта.

Он вдруг подумал: если сейчас попросить его одним словом объяснить, зачем они построили этот корабль, он не сможет сказать «наука». Не сможет сказать «прогресс». И даже «выживание» было бы недостаточно.

Они построили его потому, что однажды человек посмотрел вверх и решил, что граница не должна оставаться границей.

— Алексей, — снова позвала система. — До начала процедуры три минуты.

Он наконец посмотрел на Землю.

— Я слышу.

А где-то далеко, в памяти проекта, ещё существовала первая запись — файл с простым названием: «Будущее человечества».

И прежде чем корабль отправился к звёздам, всё началось задолго до него — с вопроса о том, кем человек станет рядом с собственным созданием.

Введение

Две великие силы формируют наше время: искусственный интеллект, растущий изнутри человеческой цивилизации, и космическая экспансия, зовущая нас вовне. На первый взгляд они кажутся разными направлениями — одно устремлено вглубь, в информационные сети и алгоритмы, другое — в бесконечность космоса. Но что, если это две ветви одного дерева, растущие из одного корня?

Эта книга — попытка взглянуть на будущее не как на противопоставление человека и машины, а как на процесс коэволюции. Коэволюции, в которой искусственный интеллект не заменяет человеческий разум, а дополняет его, расширяя границы познания и действия. Точно так же, как космическая экспансия не убегает от Земли, а расширяет пространство человеческого бытия.

Но любая идея проходит настоящий экзамен не на бумаге. Она становится настоящей только тогда, когда появляется цена ошибки.

Поэтому эта книга начинается как размышление, а заканчивается историей людей. Людей, которым однажды пришлось отвечать за свои идеи не словами, а решениями.

Глава 1. Коэволюция: не конкурент, а партнёр

Самая распространённая метафора искусственного интеллекта в популярной культуре — война. Терминатор, Матрица, «Она» — в этих историях ИИ либо уничтожает человека, либо заменяет его. Эта метафора глубоко укоренилась, и она мешает думать.

Однажды Алексей поймал себя на простой вещи. Он попросил систему проверить расписание и почти сразу принял её ответ, не сверив данные самостоятельно. Уже через несколько секунд он открыл исходный документ и всё-таки проверил. Ошибки не было. Но важным оказался не результат, а его собственная реакция. Удобство незаметно меняло привычки человека. Алексей записал в блокнот: «Партнёрство начинается там, где ты ещё умеешь проверить партнёра».

Коэволюция — другой способ смотреть на отношения человека и ИИ. В биологии коэволюция означает, что два вида не просто сосуществуют, а формируют друг друга. Цветок и пчела развиваются вместе: форма лепестков подстраивается под форму тела пчелы, а поведение пчелы — под нектар цветка. Ни один не существует в полном смысле независимо от другого.

Человек и ИИ уже коэволюционируют. Мы меняем алгоритмы — но алгоритмы меняют и нас. Мы думаем иначе, когда у нас есть доступ к мгновенному поиску. Мы пишем иначе, когда система подсказывает следующее слово. Мы принимаем решения иначе, когда модель анализирует данные, которые человек не смог бы обработать за всю жизнь.

Но здесь появляется первая опасность: удобство легко перепутать с пониманием.

Если машина каждый раз подсказывает человеку ответ, человек постепенно может забыть, как задавать вопрос. Поэтому коэволюция — не автоматическое благо. Она требует участия обеих сторон и постоянного человеческого выбора.

Глава 2. Земмельвейс и Мак-Клинток: когда правда опережает время

История науки знает моменты, когда истина была очевидна — но мир не был готов её принять.

Игнац Земмельвейс в 1847 году обнаружил, что смертность от родильной горячки резко снижается, если врачи моют руки перед приёмом родов. Сегодня это кажется очевидным. Тогда его наблюдения встретили сопротивление.

Барбара Мак-Клинток в 1940-х годах открыла транспозоны — «прыгающие гены», способные перемещаться по геному. Её идея долго оставалась в стороне от господствующей картины генома.

Есть и третий пример — ближе к нашему времени. Артур Эшкин, физик из Bell Labs, придумал оптический пинцет — способ удерживать и перемещать частицы с помощью лазерного луча. Идею встретили смехом: коллеги говорили, что он гоняется за пылинками. Эшкин продолжал работать тридцать пять лет. В 2018 году он получил Нобелевскую премию — в возрасте девяноста шести лет. Старейший лауреат в истории.

Земмельвейс, Мак-Клинток, Эшкин — три истории на протяжении ста семидесяти лет. Разные эпохи, разные области. Но pattern один и тот же: идея, которая опережает время, встречает не просто сопротивление — она встречает насмешку. И насмешка опаснее сопротивления, потому что она не спорит. Она обесценивает.

Эти истории важны не потому, что любой человек, уверенный в своей необычной идее, обязательно прав. Наоборот. Они учат другому: необычная идея заслуживает проверки, а не автоматического принятия или насмешки.

Есть ещё одна деталь, которую легко забыть: между наблюдением и признанием истины часто лежат годы работы, споров и попыток проверить себя. Наука не обязана соглашаться с человеком. Она обязана дать ему возможность проверить свою гипотезу.

Не спешите отбрасывать невозможное. И не спешите принимать неизбежное. Между этими двумя ошибками и находится пространство научного мышления.

Глава 3. Фрактальное древо познания

Представьте дерево. Из одного корня — ствол. Из ствола — ветви. Из ветвей — тонкие побеги, из побегов — листья. Каждая ветвь повторяет форму предыдущей, только в другом масштабе.

Познание работает похоже. Из одного вопроса растут ответы. Из каждого ответа — новые вопросы. Мы не движемся по прямой от незнания к знанию. Мы разветвляемся.

Искусственный интеллект — новая ветвь этого древа. Не отдельное дерево и не враждебный рост, а ветвь, выросшая из человеческого любопытства, языка, математики, науки и накопленной культуры.

Но ветвь, растущая быстро, может так же быстро стать тяжёлой. И тогда возникает вопрос: умеет ли ствол выдерживать собственный рост?

Глава 4. Космос внутри: нейронные сети и нейроны

Человеческий мозг — сложная сеть взаимосвязанных клеток. Искусственные нейронные сети устроены иначе и гораздо проще биологического мозга, хотя их архитектуры вдохновлены идеей распределённой обработки информации.

Иногда Алексей думал о памяти совсем не как о данных. Он мог забыть точную дату разговора, но спустя годы вдруг вспомнить голос человека, короткую паузу перед ответом или даже запах старой куртки. Машина могла сохранить запись разговора до последней секунды, однако сохранённый файл ещё не был самой памятью. В человеческом воспоминании всегда оставалось что-то, что невозможно свести к архиву: ощущение присутствия другого человека.

Сходство не означает тождество. Искусственная сеть — не человеческий мозг. Но сама возможность создавать системы, способные находить закономерности в огромных массивах информации, заставляет по-новому смотреть на понятие интеллекта.

Космос внутри — это образ пространства, которое открывается человеку, когда он пытается понять собственный разум. Чем глубже мы смотрим внутрь, тем больше обнаруживаем неизвестного.

Глава 5. Космос вовне: экспансия как императив

Космическая экспансия часто воспринимается как роскошь: сначала решить земные проблемы, потом лететь к звёздам. Но ожидание идеального момента способно превратиться в бесконечное ожидание.

Экспансия — не обязательно бегство. Она может быть расширением пространства человеческого опыта, науки, ресурсов и вариантов будущего.

ИИ способен стать одним из инструментов такого расширения: автономные зонды, роботизированные системы, навигация, управление жизнеобеспечением. Но чем больше мы доверяем машине, тем важнее понимать, что именно мы ей доверяем.

Космос вовне поэтому связан с космосом внутри. Чем дальше человек хочет уйти, тем лучше он должен понимать самого себя.

Глава 6. Этика коэволюции

Коэволюция поднимает вопрос ответственности. Если система участвует в принятии решения, человек не перестаёт отвечать за то, что решил её использовать.

Прозрачность важнее удобства там, где цена ошибки высока. Если система предлагает решение, определяющее жизнь людей, недостаточно знать, что она обычно права. Нужно понимать ограничения и уметь проверить её вывод.

Коэволюция — не слияние. Машина может обрабатывать огромные массивы данных. Человек способен связывать решение с ценностями, опытом и ответственностью. Их различие не обязательно является недостатком. Иногда именно различие делает сотрудничество возможным.

Глава 7. Симбиоз: сценарии будущего

Будущее не предопределено. Можно представить соперничество, подчинение или сотрудничество человека и ИИ. Эти сценарии нужны не как прогноз, а как вопросы к настоящему.

Само слово «симбиоз» тоже нельзя превращать в магическое заклинание. Если человек перестаёт понимать решения системы и уже не способен действовать без неё, формальное партнёрство может скрывать зависимость.

Поэтому главный вопрос звучит не «будет ли ИИ нашим партнёром?», а «сумеем ли мы построить такие отношения, в которых партнёрство не уничтожит самостоятельность ни одной стороны?»

Но рамка остаётся рамкой до тех пор, пока не сталкивается с реальностью. В инженерной лаборатории ошибка перестаёт быть философским примером. Она становится перегоревшим датчиком, разрушенным образцом, остановленным экспериментом — а иногда человеческой жизнью.

На бумаге всё выглядит проще. В лаборатории у каждого решения есть срок, стоимость и человек, который должен нажать кнопку. Поэтому коэволюция проверяется не красивыми формулами, а тем, что происходит в момент, когда данные противоречат ожиданиям.

Так начинается история «Звёздного странника».

Именно поэтому следующий шаг истории должен быть не красивым, а трудным. Людям придётся распределять полномочия, спорить о рисках, признавать ошибки и продолжать работу после того, как исчезнет ощущение новизны.

Часть II. ЗВЁЗДНЫЙ СТРАННИКГлава 8. Международное сотрудничество

В конференц-зале было слишком холодно. Алексей заметил это ещё до начала заседания, но не стал просить изменить температуру. В тот день люди спорили о вещах гораздо более важных.

После очередного международного совещания один из инженеров задержался у двери переговорной и устало сказал:

«Если бы мы всё это время собирали двигатель, он бы уже работал».

Коллега усмехнулся:

«Зато теперь у нас двадцать семь подписей».

Оба засмеялись — без злости. Большие проекты всегда состояли не только из великих решений, но и из протоколов, согласований, кофе из автомата и людей, которые просто хотели наконец перейти от слов к работе.

На экране висела схема будущего корабля. Более двадцати делегаций обсуждали финансирование, материалы, доступ к технологиям и распределение полномочий.

— Мы не можем передавать критическую технологию без гарантий контроля, — сказал представитель одной из стран.

— А без обмена технологиями проект не состоится, — ответил другой.

Алексей слушал.

В тот момент, когда спор зашёл в тупик, поднялся делегат, которого никто не слышал раньше. Джозеф Мвенда из Кении — невысокий, в мятом пиджаке, с лицом, загорелым до такой степени, что казалось, он сам состоит из африканского солнца.

— Вы спорите о контроле, — сказал он. — А мой народ спрашивает: увидит ли он это с земли? Вы строите корабль к звёздам. А в моей деревне до сих пор нет стабильного электричества. Я не против вашего корабля. Я за то, чтобы мои дети знали, что он — для них тоже. Если вы строите будущее, постройте его для всех. Иначе вы строите не корабль — вы строите ещё одну стену.

Зал замолчал. Не потому что Мвенда был прав или неправ. Потому что он напомнил, что в комнате есть люди, которые не сидят за столом. Алексей записал его слова в блокнот одной строкой: «Будущее, которое не включает всех, — это не будущее. Это привилегия».

Он знал: если сейчас кто-то победит в споре, завтра проект получит ещё одного человека, который будет бояться признать свою ошибку. Кораблю нужна была не армия единомышленников. Ему нужна была команда, способная остановиться и сказать: «Я не знаю».

Наконец он поднялся.

— Нам придётся договориться не только о ресурсах. Нам придётся договориться о том, кто имеет право остановить проект.

Впервые за весь разговор Алексей заметил, что люди перестали смотреть на экран и начали смотреть друг на друга. Это было важнее любой схемы. Технологию можно передать по протоколу. Ответственность — только вместе с теми, кто готов её принять.

В зале стало тише.

— Если технология окажется опасной, решение об остановке должно быть сильнее решения о продолжении. Иначе однажды мы обнаружим, что продолжаем только потому, что уже слишком много вложили.

Это предложение не решило спор. Но оно изменило его.

Поздно вечером, когда зал почти опустел, доктор Ли подошёл к Алексею.

— Ты понимаешь, что только что предложил механизм, который однажды может остановить тебя самого?

Алексей посмотрел на пустые кресла.

— Именно поэтому я его и предложил.