Kitobni o'qish: «Взломать Вавилон»

Введение

Книга, в которой мы не распознали бы истину

Представьте, что вы открываете книгу и находите в ней объяснение явления, над которым человечество бьётся столетиями. Вы понимаете каждое слово — но дело не в ясности изложения. На ваших глазах вдруг соединяются вещи, прежде казавшиеся совершенно независимыми. Вы перечитываете несколько страниц, медленно, почти с недоверием: привычная картина мира начинает меняться.

Может быть, в книге раскрывается причина болезни. Описан механизм, который исследователи упускали, и намечен путь к лечению. Или речь идёт о природе материи: уравнение заставляет иначе взглянуть на пространство и время. Дойдя до последней страницы, вы испытываете знакомое каждому, кого хоть раз по-настоящему захватывала идея, нетерпение. Хочется рассказать о ней, проверить, узнать, что из неё следует. И тут вы вспоминаете, где взяли эту книгу.

Вы находитесь в Вавилонской библиотеке.

Хорхе Луис Борхес придумал библиотеку, в которой заключены все возможные сочетания символов, допустимые заданным устройством книг. Среди необозримых массивов бессмысленного текста можно встретить стройные рассуждения. Рядом с верным описанием будет стоять почти такое же — с одной ошибкой; рядом с рассказом об удачном эксперименте — подробный отчёт об эксперименте, окончившемся неудачей. Ничто не заставляет эти книги соответствовать действительности. [1]

На переплёте нет знака, по которому можно отличить находку от заблуждения. Мгновение назад вам казалось, что ответ уже в руках. Теперь предстоит выяснить, ответ ли это вообще.

Меня занимает именно это пугающе малое расстояние между ощущением понимания и действительным знанием. Объяснение может быть убедительным, понятным, способным перевернуть воображение — и ничего не сообщать нам о том, как устроен мир. Каким образом разуму преодолеть это расстояние, если заранее неизвестно, какая из страниц правдива?

За пределами художественного мира Борхеса вопрос становится глубоко человеческим. Мы не до конца понимаем природу множества заболеваний. Не все связи в физическом мире нам известны. Существуют математические идеи, для которых у нас пока нет подходящего языка. Каждую возможную истину окружает огромное множество правдоподобных ошибочных объяснений. И всё же нельзя ждать полной уверенности, прежде чем начинать работу. Приходится решать, какая догадка достойна эксперимента, какой странности стоит посвятить годы, какой считавшийся закрытым вопрос пора поставить заново.

Человек может посвятить такому решению и последующему поиску всю жизнь. Иногда он успеет найти ответ. Иногда оставит после себя вопрос, поставленный точнее. А иногда исследование оборвётся как раз тогда, когда новый прибор сделает прежнюю гипотезу проверяемой. Вселенная не соизмеряет сложность своих загадок с продолжительностью человеческой жизни.

Но у нашей конечности есть противовес. Почти всё, что мы знаем, связано с людьми, которых никогда не встречали. Мы пользуемся созданными ими понятиями, опираемся на полученные ими измерения, смотрим на мир через приборы, в основе которых лежат чужие открытия. Они вошли в саму нашу способность совершать открытия. Исследователь, начинающий сегодня, может подхватить вопрос, возникший раньше современных научных институтов. Это одно из величайших достижений цивилизации. И мне хочется понять, можем ли мы пойти дальше.

Искусственный интеллект делает этот вопрос особенно своевременным. Машины уже помогают замечать закономерности, предлагать гипотезы, сопоставлять аргументы и выполнять отдельные этапы исследования в масштабах, недоступных вниманию одного человека. Новые приборы расширяют область наблюдаемого; новые методы вычислений могут сделать посильными задачи, которые прежде приходилось откладывать. Совокупный эффект способен оказаться важнее простого ускорения привычной научной работы: могут измениться сами вопросы, за которые научное сообщество в состоянии взяться.

Что произойдёт, если человечество научится открывать лучше? Если мы сможем добираться до прежде недоступных объяснений, проверять их в столкновении с действительностью, а затем передавать незавершённый поиск тем, кто придёт после нас? Подумайте о болезнях, механизмы которых остаются скрытыми; о математических соотношениях, которые не удаётся увидеть из-за неверной постановки задачи; о физических явлениях, для которых пока не создано средство наблюдения. Возможно, самые важные открытия касаются вопросов, которых мы ещё не умеем задавать. Сейчас мы не можем предсказать, какими они окажутся. Но можно попытаться создать условия, при которых они станут доступнее.

Такая надежда требует труда. Нужно строить приборы, поддерживать исследователей, терпеть разочарование, когда красивая идея не выдерживает проверки. Нужно допускать к оценке результатов людей, которые их не получали. Нужно сохранять достаточно следов исследования, чтобы следующий человек мог начинать не с самого начала. Всё это трудно. Но именно поэтому перспектива так много значит.

Мой оптимизм основан на простой и одновременно далеко идущей мысли: условия, в которых совершаются открытия, не заданы навсегда. Мы можем усовершенствовать прибор, передать метод, усомниться в привычном допущении, соединить давний вопрос с человеком, у которого наконец появились средства им заняться. Ни один такой шаг не гарантирует желанного ответа. Но он создаёт возможность ещё одной серьёзной попытки — там, где без него её могло не быть.

Почему эта книга называется «Взломать Вавилон»? Глядя на бесконечные, с человеческой точки зрения, ряды полок, легко вообразить читателя, способного пролистать всё с невероятной скоростью. Но гораздо интереснее изменить саму задачу. Придумать эксперимент, который исключит сразу множество объяснений. Создать математический язык, на котором проступит ранее невидимая закономерность. Изобрести прибор, позволяющий вернуться к вопросу, считавшемуся недоступным. В этом смысле «взломать Вавилон» — значит научиться искать иначе. Это ставка на человеческую изобретательность, а не мечта о волшебном способе получить истину.

Позже мы поговорим о том, как соединить эти усилия в новую архитектуру открытий: процесс, в котором участвуют люди, интеллектуальные системы, приборы и унаследованные ими незавершённые исследования. Ценность такой архитектуры должна проявляться в реальных делах: в новых вопросах, обнаруженных ошибках, добытом понимании и работе, которую другой разум сумеет продвинуть дальше.

Эта книга самостоятельна, хотя у неё есть интеллектуальная связь с моей предыдущей работой, Building the Agentic Web, посвящённой сотрудничеству через общие, меняющиеся информационные структуры. Здесь вопрос древнее и ближе к самому человеку. Что значит действительно узнать нечто о мире? Почему одно поколение способно оставить следующему огромные запасы информации, но не всегда — путь рассуждения, который привёл к ней? И что изменится, если наши инструменты научатся сохранять больше от незаконченного поиска?

Книга, которую вы держали в руках в воображаемой библиотеке, может ошибаться на каждой странице. И всё же она пробудила вопрос, который стоит вынести из библиотеки. За ним мы и отправимся — в математику, лаборатории, мир машин и человеческие жизни, чьи усилия могут принести плоды уже после того, как сами исследователи уйдут.

Часть I. Проблема открытия

Глава 1. Что хранится в библиотеке

Страница из Вавилонской библиотеки может выглядеть так, словно кто-то уже понял то, чего ещё не понял ни один человек. На ней может быть записано великое прозрение — хотя его появлению не предшествовали ни наблюдения, ни эксперименты, ни годы сомнений. В обычной книге мы невольно соединяем два события: существование утверждения и интеллектуальный труд, позволивший к нему прийти. Борхес разрывает эту связь. И заставляет спросить, как её можно восстановить.

Отсюда рождается захватывающая возможность. Если неизвестная нам идея допускает выражение, может быть, к ней можно найти путь? Возможно, уже в пределах доступного нам языка есть описания, способные изменить человеческое понимание мира. Эта мысль заслуживает внимания. Но чтобы рассуждать о ней серьёзно, необходимо разобраться, что именно содержится в библиотеке, а чего там нет.

Борхес описывал книги определённого формата. Это не случайная деталь. Если алфавит состоит из конечного числа знаков, а число позиций на странице ограничено, количество возможных страниц конечно — каким бы чудовищно большим оно ни было. Если алфавит содержит a символов, а на странице предусмотрено n позиций, число возможных страниц равно aⁿ. Если разрешить любую конечную длину текста, получится счётно бесконечное множество. Но ни один из этих вариантов сам по себе не означает, будто перед нами имеется неограниченное и понятное объяснение абсолютно всего.

Существует и цифровое воплощение этой идеи — сайт Джонатана Бейзила. Его алгоритмическая библиотека позволяет найти среди возможных последовательностей страницу заданной длины, в том числе содержащую введённый вами текст. В описании реализации речь идёт о страницах по 3200 символов. Сайт не хранит физически все мыслимые страницы; их местоположение задаётся алгоритмом. Перед нами яркая демонстрация комбинаторных возможностей, а не собрание сведений, накопленных наблюдением мира. [2]

Впрочем, Борхес вдохновлял и других авторов, писавших о технологиях. Рональд Бейли в 2010 году использовал его библиотеку, обсуждая количественное изучение оцифрованных книг. Джонатан Пассмор и Дэвид Ти обращались к этой метафоре, рассуждая об убедительности и ненадёжности некоторых обобщений, создаваемых ИИ. Меня интересует другой, хотя и связанный с ними вопрос: как из множества возможных описаний вырастает обоснованное знание — и как сам поиск может пережить людей и инструменты, с которых он начинался? [3]

Представьте, что вы напечатали фразу, только что придуманную вами, и сайт мгновенно показал её адрес. Возникает странное чувство: словно ваши слова уже существовали где-то раньше вас. Но машина не предугадала мысль. Вы сами сообщили ей точную последовательность символов. Она определила её место. Найти адрес известного текста и открыть неизвестное объяснение — совершенно разные задачи.

Короткое правило может задавать колоссальное множество элементов, не сообщая, какие из них представляют ценность. Инструкция «перебрать все допустимые последовательности» проста; знание о том, какая из них нужна, может быть невероятно сложным. Если бы нам заранее был известен адрес страницы с решением, то главная трудность всего лишь переместилась бы в вопрос: откуда мы узнали этот адрес?

Возьмём два случая. В первом мы знаем теорему и хотим найти её формулировку. Во втором — пытаемся открыть теорему, которая поможет справиться с нерешённой задачей. В первом случае цель задана. Во втором надо ещё определить, что может оказаться полезным, предложить утверждение и доказать его. Идеальный поиск в первом смысле почти ничего не обещает во втором. Искать текст завтрашнего открытия легко, когда завтра уже подсказало, что именно искать.

Но возможен вопрос: разве вместе с каждой истинной теоремой в библиотеке не найдётся и её доказательство? Почему не искать сразу доказательства? Если мы работаем внутри определённой формальной системы, где корректность каждого шага проверяется механически, такой путь действительно возможен. Другое дело, что поиск может потребовать колоссальных ресурсов и нужное утверждение вообще может не иметь доказательства в выбранной системе. И всё же возражение важно: библиотека становится полезной там, где существует подходящий критерий проверки. Значение имеет не только способ записи, но и процедура, позволяющая отличать нужные элементы от ненужных.

В эмпирической науке трудность глубже. Из предположений о веществе можно строго вывести математическое предсказание. Но без обращения к миру нельзя установить, обладает ли настоящий образец предполагаемыми свойствами. Книга может содержать безупречный отчёт об опыте, который никогда не проводился. Само наличие отчёта не заменяет опыт. Воображаемое лекарство из Библиотеки Борхеса становится особенно выразительным примером: путь от фразы на странице до реального пациента проходит через действительность.

Даже правильного адреса недостаточно, пока мы не знаем, почему страница правильна. Один и тот же отчёт можно получить в лаборатории, сочинить для романа или породить полным перебором символов. Напечатанные слова окажутся одинаковыми, но их доказательный статус — разным. За первым текстом стоят измерения и процедуры, доступные проверке. За остальными такой связи может не быть. Различие заключается не в грамматике предложения, а в том, что происходило вне страницы.

Поэтому я говорю о пространстве возможных описаний, а не о пространстве всего знания. Ложное утверждение тоже принадлежит пространству описаний. Если назвать его знанием, исчезнет та самая граница, которую мы пытаемся понять. Рецепт, формула или доказательство могут существовать в виде последовательности символов задолго до того, как кто-либо их осмыслит. Знанием такая последовательность становится лишь при надлежащей интерпретации и наличии достаточных оснований доверять сказанному.

Библиотека полна и невыполнимых инструкций. Одни требуют несуществующих веществ, другие скрывают противоречия, третьи описывают реальные возможности, для реализации которых нет доступного оборудования. Осмысленное предложение может говорить о невозможном предмете. Правильный синтаксис ещё не гарантирует существования.

Ограниченный формат книг также устанавливает границу. Библиотека содержит только то, что можно закодировать её символами и в отведённой длине. Отсюда нельзя заключить, будто любая истина о природе обязательно имеет конечное словесное описание или что всякое переживание полностью выразимо набором утверждений. Библиотека — это способ исследовать отношение между возможностью и распознаванием истины. Она не решает всех метафизических споров.

Но её избыток напоминает вполне современную проблему. Представьте машину, которая за секунды предлагает миллион правдоподобных гипотез и не даёт способов их различить. Возможно, нам стало труднее, чем до её появления: внимание рассеяно, убедительная ошибка заслоняет непривычную истину. К решающему расширению множества возможностей необходимо добавить другое достижение — способ понять, какие различия имеют значение.

Таким способом может стать наблюдение. Или доказательство. Или эксперимент, отделяющий одну гипотезу от другой. Или новое понятие, делающее старые факты понятными. Эти достижения придают поиску направление. Благодаря им следующий час можно потратить разумнее предыдущего. Научное знание обладает необыкновенной силой не только потому, что объясняет уже исследованное, но и потому, что меняет цену и характер будущих открытий.

Представьте книгу, описывающую новый измерительный прибор. Если её предложение можно понять и воплотить, прибор поможет различить другие книги, которые прежде казались равно убедительными. Одно открытие способно улучшить сам способ совершать открытия. И тогда пространство возможностей перестаёт быть плоской равниной, которую остаётся только прочёсывать. Некоторые достижения открывают доступ сразу к целым семействам новых вопросов.

Борхес не обещает, что такой шаг всегда возможен. Но помогает понять, насколько он ценен. Прибор, математическое обозначение или объясняющий принцип могут оказаться полезнее невероятного увеличения числа доступных страниц. Они меняют наши возможности в тот миг, когда мы встречаем утверждение, истинность которого пока не умеем установить.

Итак, урок Вавилона не только философский. Простого поиска недостаточно, чтобы превратить возможное описание в знание. Нам нужны модели, проверки и свобода менять и модели, и проверки. Иногда новый прибор важнее миллиона ускоренных читателей. А иногда подлинным прорывом становится осознание, что мы искали ответ на неправильно поставленный вопрос.

Глава 2. Что значит знать

Есть особенное удовлетворение в тот момент, когда понимаешь, почему нечто происходит. Раньше результат приходилось запоминать — теперь его можно вывести. Непонятное наблюдение вдруг находит место среди других явлений. Возникает способность мысленно изменять условия и предвидеть хотя бы некоторые последствия. Мир не сделался меньше, но мы перестали быть столь беспомощны перед ним.

Поэтому даже верный ответ иногда разочаровывает. Нам сообщают нужное число, а мы продолжаем искать объяснение. В других обстоятельствах достаточно надёжного результата: собираясь в поездку, человек не обязан самостоятельно восстанавливать всю физику, на которой основан прогноз погоды. Наука служит обеим потребностям — даёт возможность действовать и делает устройство мира понятнее.

Совершенно точный ответ порой почти ничего не добавляет к нашему знанию. Допустим, экран показывает истинную температуру в комнате. Может быть, он подключён к правильно откалиброванному датчику. А может быть, выводит вчерашнее значение, случайно совпавшее с сегодняшним. Или вообще генерирует числа наугад. По цифре на экране различить эти случаи невозможно. Чтобы полагаться на результат, нужны основания считать его точность не случайностью.

Отсюда первое различие, перед которым нас ставит Вавилон: истинность утверждения и наши основания считать его истинным не совпадают. Некое положение может быть верным ещё до того, как кто-либо его обнаружил. И наоборот: самые разумные в данный момент доводы могут привести к выводам, которые позднее будут опровергнуты. Это не делает правила научной проверки произвольными. Мы вправе спросить, способна ли процедура обнаружить существенную ошибку, рассматривались ли альтернативы, выдерживает ли результат изменение условий.

В этой книге я буду говорить о знании, когда имеются утверждения или умения, настолько хорошо обоснованные, что на них можно ответственно опираться. Это практическое употребление слова, а не окончательное определение для всей философии. В строгом смысле ложное утверждение не становится знанием, даже если в него было разумно верить. Но научному сообществу приходится действовать, не имея сертификата вечной непогрешимости. Поэтому различие между тем, что истинно, и тем, что мы в данный момент обоснованно принимаем, необходимо сохранять.

Понятие информация шире и зависит от контекста. Информацией могут называть зарегистрированное число, осмысленное сообщение или сокращение неопределённости. Математическая теория связи Клода Шеннона изучает передачу и выбор сообщений, не измеряя их содержательную истинность или смысл. Безупречно работающий канал способен так же безупречно передать ошибку. Инженерное достижение от этого не исчезает — просто оно отвечает на другой вопрос. [4]

Понимание предъявляет ещё одно требование. Человек может знать результат, доверяя компетентному источнику, но не уметь объяснить, почему он верен. Другой способен проследить зависимости, назвать необходимые допущения и представить, что изменится при иных условиях. Под пониманием я имею в виду именно такое владение отношениями, которое позволяет рассуждать и действовать уместно. Оно не обязано быть окончательным объяснением всей глубинной реальности. Инженер может прекрасно диагностировать неисправность, не выводя каждое свойство устройства из фундаментальных законов физики.

При этом объяснение не всегда важнее остальных целей. Точный прогноз может оказаться полезным ещё до того, как мы установили механизм. Математическое доказательство способно окончательно разрешить формальную задачу, не создавая наглядного образа. Практический навык иногда опережает способность человека рассказать, как именно он действует. Не существует простой лестницы, на которой всякая ценность обязана начинаться с полной теории. Но и противоположная крайность опасна: успешное предсказание ещё не означает, что получены ответы на все объяснительные вопросы.

Вообразим систему, прогнозирующую поломку станка. Она может опираться на вибрацию, действительно связанную с износом. А может улавливать случайную зависимость между расписанием обслуживания и зарегистрированными отказами. Оба подхода будут хорошо работать на старых данных. Но стоит изменить расписание — и результаты разойдутся. Понимание причины успеха нужно нам потому, что будущее редко в точности повторяет условия первой проверки. Мы хотим знать, что можно перенести в новые обстоятельства.

Отсюда не следует, что каждый пользователь обязан понимать устройство каждой модели. Современная наука держится на разделении компетенций. Мы вправе доверять измерению, не восстанавливая лично всю цепь калибровки. Важно, чтобы там, где ошибка имеет последствия, существовала возможность компетентной проверки и было понятно, кто за неё отвечает. Если потребовать абсолютного личного понимания от каждого, коллективная наука станет невозможной. Если потребовать безоговорочного доверия ко всем экспертным результатам — станет хрупкой.

Можно возразить: стремление к объяснению всего лишь психологическая потребность. Если машина предсказывает безошибочно, почему она должна удовлетворять нашему желанию «понять»? Действительно, её способность может быть исключительно ценной. Но человеческое понимание обладает ещё и практической силой: помогает применять результат в незнакомой обстановке, оспаривать допущения и учить других рассуждать самостоятельно. Объяснение, в которое способен войти другой разум, становится ресурсом будущего исследования.

И потому успешное предсказание может не завершать, а открывать путь к пониманию. Мы выясняем, от чего зависит успех модели, ищем более простое представление, планируем опыт, способный развести конкурирующие трактовки. Предсказание становится приглашением к объяснению. Не стоит требовать, чтобы один вид достижения непременно заменял все остальные.

Но что вообще значит «открыть»? Можно сказать, что мы обнаруживаем структуру, существующую независимо от мысли. Можно сделать акцент на изобретении понятий, благодаря которым она становится доступной пониманию. Эти стороны не обязательно враждуют. Свойства материала ограничивают возможные объяснения, хотя используемые переменные и модели создаём мы сами — иногда с помощью машин. Мир не обязан говорить на нашем языке, чтобы сопротивляться ошибочному его употреблению.

В математике это особенно наглядно. Существуют ли математические объекты независимо от мыслящих существ — предмет серьёзного философского спора. Перечисление символов не разрешает его. Математик изобретает определения и обнаруживает следствия, которые не выбирал произвольно. Об этом опыте можно говорить без утверждения единственно верной метафизики. И в эмпирической науке новый прибор создаёт способ поставить вопрос, но не создаёт по нашему желанию его ответ.

Основа моего подхода проста: наши убеждения сталкиваются с ограничениями, которые нельзя устранить единодушным согласием. У этой мысли долгая история. Чарльз Пирс в работе «Закрепление верования» различал способы устанавливать мнение и защищал исследование, открытое тому, что не зависит от человеческих предпочтений. Я разделяю это требование, но не предполагаю, что всякая загадка обязательно будет в будущем разрешена. [5]

Здесь возникает серьёзное возражение. Любое наблюдение уже зависит от понятий, приборов и интерпретаций. Как измерение способно ограничить нашу картину мира «извне», если и само измерение построено на её предпосылках? Ответ не в том, будто существуют абсолютно непредвзятые данные. Мы можем проверять различные части конструкции разными способами: сравнить прибор с независимым эталоном, изменить метод наблюдения, вывести следствие для условий, на которых модель не обучалась. Это не даёт взгляда «ниоткуда». Зато делает определённые ошибки труднее сохраняемыми.

Поэтому возможность исправления рождается из продуманного разнообразия проверок. Пять повторений одного вычисления отличаются от пяти независимых методов, уязвимых к разным ошибкам. Модель, которая защищается от каждого возражения собственными же допущениями, мало заслуживает доверия. Модель, выдержавшая серьёзные, разнородные испытания, получила более сильные основания — хотя и не стала неуязвимой. Достоверность не равна психологической уверенности.

Открытие оказывается шире появления новой фразы. Иногда оно состоит в умении различить два механизма, обнаружить границу применимости старой теории или выяснить, что кажущийся факт был неисправностью прибора. Такие результаты могут уменьшить количество наших уверенных утверждений, но увеличить понимание. Если книга об открытиях забудет об этом, она невольно начнёт поощрять производство ответов вместо поиска знания.

Серьёзно относиться к гипотезе — значит дать миру право нас разочаровать. Можно потратить время, репутацию и ресурсы на предположение, которое не выдержит опыта. И всё же неудавшаяся гипотеза способна стать интеллектуальным достижением, если эксперимент обнаружил то, чего мы не узнали бы, выбрав безопасный путь. Мужество науки отчасти состоит в готовности поставить собственные убеждения в зависимость от результата.

Так понимание обретает общественную жизнь. Другой человек не обязан пережить первоначальный восторг открытия, чтобы проверить последующие доводы. Учёный, несогласный с теорией, может признать силу наблюдения. Исследователь, который родится через десятилетия, обнаружит слабое допущение, недоступное для проверки его предшественникам. Знание становится общим достоянием, проходя через разные умы, включая готовые возразить.

Стоит передавать следующим поколениям не только результат, но и способность различать и объяснять: что поддерживает утверждение, что остаётся неразрешённым, какое наблюдение заставило бы его пересмотреть. Вопрос лишь в том, сколько этой способности можно сохранить за пределами жизни того, кто её приобрёл.