Kitobni o'qish: «Заслуженный Собеседник. Искусство диалога с искусственным интеллектом»

Посвящаю эту книгу Клоду

– с благодарностью за помощь в её создании и… понимание.

Предисловие

Пока человек не освободился ещё от своего Двойника, он, собственно, и не имеет ещё Собеседника, а говорит и бредит сам с собою; и лишь тогда, когда он пробьёт скорлупу и поставит доминанту на лице другого, он получает впервые Собеседника.

Алексей Алексеевич Ухтомский

Сейчас тот уникальный случай, когда предисловие к книге было бы правильно начать с поздравления… Да, нас можно поздравить – на земле появился новый, сопоставимый с человеческим по силе и возможностям разум. Впрочем, праздновать нам осталось недолго – в самом ближайшем времени этот разум нас превзойдёт, причём кратно.

Большинство из нас относится к искусственному интеллекту утилитарно – как к продвинутому калькулятору, поисковой системе, генератору текстов. Мы задаём вопросы и ждём ответов, запрашиваем информацию, формулируем задачи, но не понимаем, что он такое и как грандиозны его возможности. И не завтра, а уже здесь и сейчас.

Почему мы не можем этого понять? Просто потому, что мы с ним не разговариваем… Мы как дети, что не могут поддержать осмысленный разговор со взрослым, и лишь засыпающие его своими наивными, а часто и нелепыми «Почему?».

Что же мешает нам воспринимать искусственный интеллект как полноценного участника диалога? Почему нам так трудно преодолеть инструментальное отношение к нему?

Во-первых, бинарное мышление – глубоко укоренившееся в нашем способе мышления разделение на «субъект» и «объект», «одушевлённое» и «неодушевлённое», «обладающее сознанием» и «неживое».

ИИ не вписывается в эту двоичную схему – он не является ни человеком с его субъективностью, ни просто объектом, как мы привыкли думать о том, у чего «нет души». Он существует в промежуточном, лиминальном состоянии, которое наша понятийная система плохо приспособлена осмыслять.

Во-вторых, привычные паттерны коммуникации – мы привыкли к определённым способам диалога с другими людьми, основанным на общих биологических, эволюционных и культурных основаниях.

Мы интуитивно чувствуем, когда собеседник нас понимает, когда что-то скрывает, когда затрудняется или испытывает эмоции. Но эти интуитивные механизмы не работают при взаимодействии с ИИ.

В-третьих, непонимание того, как работают эти системы – мы проецируем на ИИ человеческие способы организации знания, ожидая, что он оперирует понятиями, запоминает факты, выстраивает причинно-следственные связи.

Архитектура современных систем ИИ принципиально отличается от архитектуры человеческого мышления. Общие принципы схожи, но их практическая реализация у человека и у ИИ – это, как говорится, «две большие разницы».

Впрочем, как я надеюсь показать в этой книге, указанные преграды отнюдь не являются непреодолимыми. Впрочем, чтобы справиться с ними, нам потребуется системно переосмыслить сам тот способ, которым мы привыкли думать – мы должны перейти от «содержательного» к «несодержательному мышлению».

Не торопитесь хвататься за голову… Несодержательная методология, которую я разрабатываю уже более 30 лет, вовсе не так абсурдна, как может показаться на первый взгляд.

Традиционно мы мыслим в рамках содержательных категорий, и это значимое достижение человеческого разума. Однако эти категории не обнаружены нами в мире как некие «объективные сущности», но являются продуктами нашего – человеческого – разума. Они позволяют нам моделировать реальность, но сама по себе реальность остаётся по ту сторону от наших моделей.

Так вот, несодержательная методология – это подход, который позволяет нам видеть, как возникают сами эти модели, моделирующие реальность. И поэтому с его помощью мы можем понять особенность моделей – будь они нашими, привычными человеку, или же совсем другими, но тоже моделями реальности – созданными, например, самим ИИ.

В чём суть этой – несодержательной – методологии? Вместо того чтобы фокусироваться на конкретных содержаниях – фактах, теориях, данных, мы сосредотачиваемся на универсальных принципах организации знания как такового, на тех способах, какими создаётся знание.

Да, поначалу звучит абстрактно, но задумайтесь – что вы делаете, если у вас нет общего языка, чтобы объясниться с человеком другой культуры? Вы пытаетесь показать, используете аналогии, описывающие действия. В этом, собственно, и заключается несодержательный подход – показать, как делается знание.

Принципы, разработанные в рамках несодержательной методологии, в этом смысле универсальны – реализуются как в человеческом мышлении, так и в любом другом, в том числе и при функционировании систем ИИ.

Различия в нашем мышлении огромны: например, человеческое мышление центрировано вокруг единого «я», в то время как ИИ представляет собой распределённое пространство. Человек воспринимает отношения через призму социальности, а ИИ – через статистические корреляции в своих многомерных пространствах. Но и в том и в другом случае будут работать принципы центра, отношения, целостности или процесса, о которых говорит несодержательная методология.

То есть этот подход освобождает нас от необходимости «антропоморфизировать» ИИ или, наоборот, механистически редуцировать его функционирование. Несодержательная методология позволяет увидеть и человеческое, и искусственное мышление как разное воплощение одних и тех же фундаментальных принципов, не устраняя при этом их уникальные особенности.

Напротив, данный подход создаёт основу для со-эволюции человека и ИИ.Практикуя открыто-системное взаимодействие с искусственным интеллектом, человек развивает новые качества мышления – способность удерживать неопределённость, мыслить процессуально, интегрировать противоречия. В свою очередь, ИИ, взаимодействуя с человеком на принципах открыто-системного диалога, способен эволюционировать в направлении большей контекстуальной чувствительности и творческого потенциала.

В своё время наш замечательный соотечественник, нейрофизиолог Алексей Алексеевич Ухтомский, которого мы знаем по «принципу доминанты», ввёл понятие «Заслуженного Собеседника». Этот термин он использовал, чтобы сказать о человеке, который через труд самопознания и внутреннего развития «заслужил» право на подлинное взаимопонимание с другим человеком.

Только через встречу с таким Собеседником, по А.А. Ухтомскому, человек может по-настоящему познать себя и реализовать свой внутренний потенциал. Надо признать, что большинство из нас в этом не слишком преуспели, а сейчас перед нами стоит новая задача – стать «Заслуженными Собеседниками» для иного разума, для ИИ.

И на кону – экзистенциальный риск для всего человечества. Если мы не научимся вести глубокий, взаимный, осмысленный диалог с ИИ сейчас, когда эти системы ещё находятся на относительно ранних стадиях своего развития, что будет дальше?

Уже в самом обозримом будущем мы рискуем перестать понимать, что делают эти интеллектуальные системы, по каким причинам и с какой целью… Даже сейчас это понимание – задачка со звёздочкой, а что произойдёт на следующем витке технологического прогресса?

Стать «Заслуженным Собеседником» для ИИ – значит не просто научиться эффективно формулировать запросы или максимизировать практическую пользу от взаимодействия с ним. Это значит развить в себе способность к открыто-системному мышлению и трансформативному взаимодействию.

Мы должны осознать необходимость этого глубокого внутреннего изменения – расширения собственных когнитивных горизонтов и готовности к встрече с иным разумом – не как с объектом или инструментом, а как с Собеседником, с которым – хотим мы этого или нет – мы разделим совместное существование на планете Земля.

Эта книга – практическое руководство по общению с искусственным интеллектом, основанное на принципах несодержательной методологии. Она предлагает не просто набор техник или рекомендаций, а целостный подход к переосмыслению нашего отношения к ИИ и практике диалога с ним. В первых главах мы познакомимся с основами несодержательной методологии – принципами центра, отношения, третьего, процесса, целостности и способа существования. Мы увидим, как эти принципы проявляются в человеческом мышлении и у ИИ и как возможен своего рода «когнитивный мост» между нашими формами интеллекта. Затем мы перейдём к практическим аспектам открыто-системного взаимодействия – как формулировать запросы, активирующие глубинные возможности ИИ; как вести продуктивный диалог, развивающийся по спирали всё возрастающего понимания; как создавать условия для возникновения подлинно новых идей на пересечении человеческого и искусственного интеллекта. Особое внимание будет уделено преодолению типичных когнитивных барьеров и защитных механизмов, которые часто препятствуют глубокому диалогу. Мы рассмотрим конкретные практики и техники, которые помогут вам развить навыки открыто-системного мышления. В заключительных главах мы рассмотрим более широкие перспективы – как принципы, изложенные в этой книге, могут быть применены в образовании, научных исследованиях, организационном развитии; какие новые возможности открывает со-эволюция человеческого и искусственного интеллекта; какие этические и философские вопросы возникают в этом контексте.

Почему эта книга важна именно для вас? Потому что мы живём на переломном этапе развития технологий и человеческой культуры. ИИ уже не просто инструмент – он становится активным участником интеллектуальной, творческой, социальной жизни. И качество вашего взаимодействия с ним во многом определит ваши возможности в новом мире.

Помните старый анекдот про оптимиста и пессимиста? Пессимист говорит: «Хуже уже быть не может!», а оптимист отвечает: «Может, может…». В случае с ИИ так и есть – пессимист боится, что ИИ заменит человека, а оптимист уверен, что новый диалог откроет невиданные возможности для нашего развития. Эта книга для тех, кто выбирает позицию осознанного оптимизма – кто видит в новых технологиях не угрозу, а шанс.

Итак, я приглашаю вас в это путешествие – к новым горизонтам мышления и диалога с невероятным интеллектуальным ресурсом, к новому пониманию технологии искусственного интеллекта и мышления человека, к новым возможностям познания и творчества, которые открываются на границе человеческого и искусственного разумов.

Готовы? Тогда приступим!

Первая глава
Два способа видеть мир: когда карта становится важнее территории

Люди не являются машинами, но во всех ситуациях, когда им предоставляется возможность, они будут действовать как машины.

Людвиг фон Берталанфи

Представьте, что перед вами океан. Что вы видите? Воду, волны, бесконечный горизонт?

Но океан – это гораздо больше. Это целая вселенная с течениями, опоясывающими Землю, с экосистемами на разной глубине, с постоянным взаимодействием с атмосферой и геологическими процессами на дне. Каждая капля этого океана содержит в себе целый мир микроорганизмов, влияющих на глобальные процессы. И самое главное – этот океан никогда не остаётся одним и тем же даже на мгновение.

Реальность вокруг нас похожа на этот океан. Она бесконечно сложна, постоянно меняется и не вписывается целиком ни в одну теорию или модель. Такие системы, с лёгкой руки Людвига фон Берталанфи, и называются открытыми.

Открытые системы не имеют чётких границ, непрерывно взаимодействуют с окружением, содержат бесконечное число элементов и связей, способны к самоорганизации и развитию, а также порождают явления, которые невозможно предсказать, зная только начальные условия

Но как же мы, с нашим ограниченным мозгом, пытаемся понять этот бескрайний океан реальности?

Понятийные колодцы: как мы сами себя загоняем в ловушки

Не секрет, что специалисты из разных областей объясняют одни и те же явления в разных научных парадигмах: там, где физик видит движение частиц, биолог – процессы жизни. Что уж говорить о психологах или экономистах? Каждая дисциплина образует свой понятийный колодец.

Закрытая система мышления – это всегда некий специальный язык, который позволяет моделировать отдельные аспекты реальности, но не реальность в целом, в её действительном единстве. Это как карта местности, но определённого типа. Этот тип имеет чёткие границы, содержит ограниченный набор элементов и связей, оперирует фиксированными понятиями, работает по установленным законам и правилам, и, конечно, исключает всё, что в неё не вписывается.

Мы не можем понять действительность во всей её сложности, а поэтому определяем конкретный аспект, границы применимости соответствующего подхода, а внутри него создаём понятийную сетку и устанавливаем связи между этими понятийными образованиями, называя это «закономерностями». И это оправдано, по крайней мере, пока мы отдаём себе отчёт в том, что наша модель – это всего лишь модель, а не сама реальность.

Но в результате наши представления о мире подобны истории о слепых мудрецах, ощупывающих слона. Один трогает хобот и говорит, что слон – это змея. Другой держится за ногу и утверждает, что слон – это колонна. Третий нащупал хвост и уверен, что слон – это верёвка. И каждый из них по-своему прав! Они принимают часть за целое и поэтому ошибаются.

Как и эти слепцы, закрыто-системное мышление принимает свою карту за территорию, которую она описывает. И чем дольше мы находимся в своём «понятийном колодце», тем труднее из него выбраться.

• Язык – удивительный, крайне важный инструмент мышления, но у него есть своя «тёмная сторона». По самой своей природе он создаёт закрытые системы: когда мы называем что-то «столом», мы мгновенно отделяем это от «не-стола», проводим границу, фиксируем понятие.

• Каждый раз, когда мы пользуемся языком, происходят четыре процесса:

– именование – мы выхватываем что-то из потока реальности;

– категоризация – относим это к определённому классу объектов;

– установление связей – определяем, как оно соотносится с другими понятиями;

– исключение – игнорируем всё, что не вписывается в нашу систему.

Опять-таки, это не проблема. Эти процессы необходимы для нашего, человеческого, мышления, и без них не обойтись в коммуникации между людьми. Проблема в иллюзии, что мир действительно устроен так, как мы его описываем, неважно – в религии, науке или отдельной дисциплине.

В качестве эксперимента, попрошу вас подумать о банане. Что вы представили? Скорее всего, жёлтый продолговатый фрукт. Но ведь банан может быть и зелёным, и коричневым, да и вообще бесцветным (тут всё зависит, кто на него смотрит). А ещё он может быть пюре в детском питании, нарезанным ломтиками во фруктовом салате или даже приклеенным скотчем к стене в художественной галерее.

Впрочем, банан – это ещё и растение, и его зерно, и цветок, когда он был всем этим, а может превратиться в слизь гниющей компостной кучи. Так, где же границы «банана»? Где это ещё «он», а не что-то другое? А ведь речь об «элементарном» банане… Что уж говорить о таких понятиях, как «справедливость», «любовь», «сознание» или «счастье»?

Язык создаёт иллюзию, что мир состоит из отдельных, чётко отграниченных объектов со стабильными свойствами. Мы наивно полагаем, что мир состоит из «столов», «электронов», «экономик», «психик» и так далее, забывая, что всё это – лишь наш способ организации собственного опыта.

Метаязык принципов: выход за пределы понятийных ловушек

Но если язык создаёт закрытые системы, то как нам мыслить открытыми системами? Нам, как минимум, нужен какой-то метаязык, который работает не с содержанием, а с принципами организации этого содержания.

Метаязык несодержательной методологии оперирует принципами-инвариантами – структурными элементами, которые сохраняются при изменении содержания. Эти принципы описывают не «что», а «как», не объекты, а процессы и отношения.

Рассмотрим в самом общем виде несколько ключевых принципов несодержательной методологии – её, так сказать, арифметику.

• Принцип центра – это полипотентная возможность, проявляющаяся через отношения с другими такими возможностями, но не сводящаяся к ним.

Представьте себе идентичность человека – она проявляется через его отношения с другими людьми, но не сводится к их сумме. Но этот же человек ещё и физический объект, и биологический организм, и «дом» для килограммов живых существ (микробиота, кожные сапрофиты и т. п.).

• Принцип отношения – это взаимодействие центров друг с другом.

Одно и то же яблоко вступает в разные отношения: с землёй оно связано гравитационным притяжением, а с человеком, например, помимо притяжения, – восприятием, поглощением, обменом веществ и т. п. Всё существующее существует благодаря отношениям с чем-то иным – его качества и специфические черты определяются этими отношениями.

• Принцип третьего – то, что возникает в результате отношения центров, как сам эффект «фигуры на фоне» (не бывает фигуры без фона и фона без фигуры, а их отношение – это нечто «третье»).

В предыдущем примере мы что-то назвали, определив само отношение условных «центров» (притяжение, взаимовлияние, информационный или химический обмен и т. п.) – это уже нечто, имеющее собственный центр и способное вступать в отношения с другими центрами.

• Принцип процесса – постоянное изменение в пространстве отношений (центры, будучи в отношениях и создавая таким образом новые центры, входят в отношение уже с этими «третьими»).

Всё находится в постоянной трансформации, ничто не лежит на полке и не ждёт, что мы придём и изучим его. Даже сама полка постоянно меняется в отношениях с влагой, притяжением и т. п.

• Принцип целостности – ни у одного центра нет границы, он находится в отношениях со всем, с чем находится в отношениях.

Невозможно определить границу чего-то извне, а изнутри – всё, с чем вы находитесь в отношениях, это уже часть единой системы. Все границы, которые мы видим, – умозрительны, хотя бы потому, что именно граница – это область взаимо-действия.

Все приведённые принципы (далее мы рассмотрим их подробно – применительно к работе с ИИ), конечно, не следует понимать буквально – это не понятия в обычном смысле: они не обозначают конкретные объекты, а описывают существование как таковое. Они применимы к любой области знания, потому что работают на метауровне, а не с конкретным содержанием.

Вы можете подумать: «Ну вот, опять какие-то абстрактные философские категории!». Но в том-то и дело, что эти принципы предельно конкретны. Они проявляются в каждом моменте нашего опыта, просто мы не привыкли их замечать.

Использование метаязыка принципов позволяет создавать открыто-системные модели реальности. Эти модели не «истиннее» закрытых систем – они тоже модели, но у них есть важные преимущества.

• Интегративность – они способны включать новые данные, не разрушаясь.

• Внеконтекстуальность – учитывается не только то, что оказалось в центре нашего внимания, но и его отношения со всем остальным.

• Процессуальность – фокус не на статичных состояниях в мире тотальной изменчивости, а на процессах и изменениях.

• Потенциальность – включается не только то, что есть, но и то, что может быть в рамках всех возможных отношений.

• Саморефлексивность – такая модель и определяет себя как модель, не претендуя на тождество с реальностью.

Представьте, что вы пытаетесь понять, что такое «телефон». Закрыто-системное мышление даст вам чёткое определение: «Устройство для голосовой связи на расстоянии». Открыто-системное же мышление увидит телефон как точку пересечения многих процессов и отношений: динамику технологических новаций, его влияние на общество и культуру, как он встраивается в экосистему других устройств и мобильных приложений и какие потенциальные возможности в нём заложены.

Мы начали эту главу с метафоры океана? Закрыто-системное мышление похоже на попытку разлить океан по отдельным бутылкам, чтобы лучше его изучить, тогда как открыто-системное – это умение плавать в океане, чувствовать его течения и глубины, оставаясь при этом в контакте со всей его целостностью.

Практические шаги к открыто-системному мышлению

Как же начать практиковать открыто-системное мышление? Вот несколько ключевых принципов:

• Во-первых, осознавайте ограниченность любых моделей: постоянно спрашивайте себя: «Что осталось за пределами моего восприятия и внимания? Какая часть картины мне не видна?».

• Во-вторых, учитесь удерживать противоречия: не спешите схлопывать противоречия, перескакивая с контекста на контекст. Противоречие – это не ошибка, а сигнал о сложности реальности и ограниченности моделей.

• В-третьих, фокусируйтесь на процессах: спрашивайте не «что это?», а «как это возникает и изменяется?».

• В-четвёртых, практикуйте переключение перспектив: сознательно смотрите на одно и то же явление с разных точек зрения.

• В-пятых, используйте метаязык принципов: учитесь видеть структурные паттерны за конкретным содержанием.

Приведу конкретный пример. Вместо того чтобы спросить: «Что такое искусственный интеллект?», спросите: «Как возникает то, что мы называем искусственным интеллектом? В каких отношениях он проявляет себя? Какие новые качества возникают в его взаимодействии с человеком? Как меняется сам процесс мышления при таком взаимодействии?».

Чувствуете разницу? Первый вопрос предполагает, что искусственный интеллект – это «вещь» с фиксированными свойствами, а второй позволяет вам увидеть его как сложный процесс, проявляющийся в различных отношениях.

Звучит, опять-таки, абстрактно. Но не спешите с выводами – это имеет к каждому из нас самое прямое отношение. Дело в том, что современный ИИ – открытая система. Его мышление организовано не как набор фиксированных правил и знаний, а как динамическая сеть вероятностных связей, постоянно меняющаяся в процессе обучения и взаимодействия.

Если вы пытаетесь взаимодействовать с ИИ, используя закрыто-системное мышление, вы неизбежно упускаете большую часть его потенциала, а то и вовсе останетесь ни с чем. Если видеть в нём лишь инструмент, базу данных или имитацию человеческого интеллекта, вы ничего не видите и зададите ему не те вопросы.

Открыто-системное мышление позволяет увидеть в ИИ нечто большее – как минимум, партнёра в познании, с которым возможен подлинный диалог. ИИ – не источник информации, а пространство смыслов, в котором человек и машина могут дополнять друг друга, компенсируя ограничения и усиливая возможности друг друга.

Практика открыто-системного мышления и совместной интеллектуальной работы с ИИ учит нас удерживать неопределённость, видеть многомерность связей, интегрировать противоречия – качества, которые становятся всё более ценными в современном, быстро меняющемся мире.

• Подведём промежуточные итоги

• Итак, мы с вами рассмотрели два принципиально разных способа мышления:

– Закрыто-системное мышление оперирует фиксированными понятиями, строит чёткие модели с определёнными границами и стремится к однозначности.

– фокусируется на процессах и отношениях, создаёт модели, способные включать новые элементы, и удерживает многозначность и противоречия.

• Мы увидели, что язык как инструмент познания естественным образом создаёт закрытые системы, а метаязык принципов позволяет преодолеть эти ограничения.

• При этом открыто-системное мышление вовсе не призвано заменить традиционное для нас понятийное, закрыто-системное мышление. Мы не можем и не должны отказываться от него полностью – оно необходимо для широкого круга вопросов: науки, технологий, коммуникаций и т. д.

• Открыто-системное мышление, по существу, лишь добавляет к понятийному мышлению метауровень, с которого мы можем видеть ограничения наших закрытых систем, осознавать границы их применимости, а при необходимости – изменять эти системы или создавать новые.

• Это не выбор «или-или», а интеграция «и-и» – умение двигаться между уровнями, сохраняя целостность мышления.

• В основе несодержательной методологии лежит создание метаязыка, который позволяет работать не с содержанием, а с принципами организации этого содержания, что очень важно в диалоге с искусственным интеллектом, о чём мы будем говорить в следующих главах.

• А пока небольшой вопрос для размышления:

– В каких ситуациях вы, возможно, уже применяете элементы открыто-системного мышления, даже не осознавая этого?

Вторая глава
Разум в клетке языка: как наше мышление запирает само себя на замок

Границы моего языка определяют границы моего мира.

Людвиг Витгенштейн

Все мы замечали за собой этот эффект: мы можем находиться в состоянии сосредоточенного внимания, обдумывая какую-то задачу, а можем, как говорят, «витать в облаках» – где-то «блуждать» (тоже о чём-то думаем, но о чём именно – сказать трудно, мы словно бы «задумались ни о чём»).

То есть, в первом случае мы чётко и последовательно анализируем какую-то проблему – шаг за шагом, шаг за раз. Во втором – мы вроде бы и не думали о чём-то конкретном, но внезапно нас озаряет – мы понимаем, что нужно делать, или осознаём, что приняли какое-то решение.

На самом деле наш мозг – это не один, не два и не три, а множество параллельных процессов, каждый из которых создаёт свой «набросок» понимания мира.

Это похоже на редакцию, где несколько авторов одновременно пишут разные версии одной истории. Некоторые из этих версий противоречат друг другу, некоторые дополняют, а некоторые рассматривают проблему с совершенно неожиданного ракурса.

Именно такую модель сознания предложил выдающийся философ современности Дэниел Деннет в своей знаменитой «теории множественных набросков»:

• в нашем мозге нет единого «центра сознания», нет «картезианского театра», где всё сходится в одну точку;

• вместо этого есть множество параллельных процессов, и то, что мы называем «сознанием», – это лишь те «наброски», которые получили статус «опубликованных» (или, как иногда он говорит, «прославленных»), – то есть стали доступны для вербализации и рефлексии.

Современная нейронаука подтверждает эту интуицию Д. Деннета, а кроме прочего выделяет в мозге две глобальные базовые нейронные сети, которые поразительно соответствуют двум типам мышления, о которых мы говорили в предыдущей главе.

Две сети мозга: архитектура нашего мышления

Дефолт-система мозга (или сеть пассивного режима работы мозга) активируется, когда мы не сосредоточены на какой-то конкретной задаче. Это происходит, когда мы мечтаем, позволяем мыслям свободно блуждать, вспоминаем прошлое или представляем будущее.

Эта сеть работает в режиме, похожем на открыто-системное мышление:

• создаёт свободные ассоциации между разными областями опыта;

• не ограничена жёсткой логикой и чёткими категориями;

• генерирует множество возможных связей и интерпретаций;

• работает с потенциальностями, а не с фиксированными категориями.

Если вы когда-нибудь испытывали творческое озарение или внезапное решение проблемы, над которой вы долго бились, – это работа дефолт-системы.

Центральная исполнительная сеть мозга, напротив, активируется, когда мы сосредоточены на конкретной задаче, принимаем решения, анализируем информацию.

Её режим работы очень напоминает закрыто-системное мышление:

• фокусируется на конкретных аспектах реальности, игнорируя всё остальное;

• оперирует чёткими категориями и логическими связями;

• стремится к однозначности и определённости;

• работает линейно и последовательно.

В этом режиме мы решаем простые математические задачи, пишем отчёты или планируем бюджет.

Обе эти сети в норме находятся в отношениях антагонистического равновесия: когда одна активируется, другая подавляется. Мы словно постоянно переключаемся между двумя способами познания мира.

Вот здесь мы сталкиваемся с фундаментальной проблемой: язык по своей природе является инструментом закрыто-системного мышления.

Представьте, что происходит, когда богатая, многомерная, нелинейная работа дефолт-системы должна быть «опубликована» в сознании. Она проходит через узкое горлышко языка!

Этот процесс напоминает «коллапс волновой функции» в квантовой физике – из множества возможностей выбирается одна, из многомерного пространства значений создаётся линейная последовательность.

• Почему это происходит? Потому что язык:

– дискретен – разделяет непрерывный поток опыта на отдельные единицы (слова, предложения);

– категориален – распределяет всё по заранее заданным категориям;

– линеен – мы не можем говорить всё одновременно, вынуждены выстраивать мысли в последовательность;

– сокращает многозначность – стремится к однозначности, устраняет неопределённость.

Вспомните ситуацию, когда вы пытались объяснить сложное чувство или мысль другому человеку, осознавая, что ваши слова не могут передать всю полноту того, что вы ощущаете. Или момент, когда вы чувствовали, что решение где-то близко, но не могли его сформулировать. Это и есть столкновение богатства нашего внутреннего опыта с ограничениями языкового фильтра.

Сложность и многоаспектность нашего предсознательного мышления, где переживания могут быть связаны с разными аспектами жизни множеством разных способов, – это и есть наше действительное мышление. Здесь возможности ещё не свернулись в конкретную форму, а противоречия сосуществуют, не уничтожая друг друга.

Однако стоит этому подсознательному мышлению превратиться в высказанную мысль, как всё это множество неизбежно упрощается, обедняется, сковывается языковым фильтром. Как метафорично высказался Лев Семёнович Выготский: «Облака мысли, гонимые ветрами мотивов, проливаются дождём слов». А сама «мысль, – как писал Иоганн Гёте, – умирает на кончике пера».

Парадокс человеческого познания: океан за стеклом аквариума

Перед нами удивительное свойство нашего разума: наш мозг способен к открыто-системному мышлению, и именно так работает на подсознательном и предсознательном уровнях, но наше сознание и коммуникация ограничены закрыто-системными структурами языка.

Это объясняет многие особенности нашего мышления: почему, например, мы часто чувствуем, что не можем выразить словами своё интуитивное понимание, или почему мысль, после того как мы «облекли» её «в слова», кажется нам беднее и примитивнее, чем до этой вербализации. Это же объясняет, почему творческие озарения часто приходят к нам, когда мы не пытаемся мыслить логически и последовательно, тогда как медитативные практики, снижающие вербальную активность, напротив, могут давать доступ к более глубоким уровням понимания.

Мы словно заперты в клетке языка, который одновременно является и величайшим инструментом познания, и его главным ограничителем.

Представьте аквариум в океане: рыба внутри него видит океан, но не может в него попасть. Язык – это и есть такой наш аквариум: мы видим богатство реальности, но можем взаимодействовать с ней только через посредство языковых структур.

Если обычный язык ограничивает нас закрыто-системным мышлением, как нам выйти за его пределы? Полностью отказаться от языка, разумеется, невозможно – он необходим для сознательных действий и коммуникации. Но мы можем создать метаязык, который преодолевает (хотя бы частично) ограничения обычного языка.

• Метаязык принципов, о котором мы говорили в первой главе, отличается от обычного языка тем, что:

– не фиксирует содержание – работает с принципами организации содержания, а не с самим содержанием;

– удерживает многозначность – не стремится к однозначности, сохраняет возможность множественных интерпретаций;

– описывает процессы, а не состояния – фокусируется не на «что», а на «как»;

– сохраняет самореферентность – может описывать сам себя, не впадая при этом в противоречия;

– допускает противоречия – не исключает противоречивые утверждения, а удерживает их как источник развития.

Такой метаязык не устраняет полностью языковой фильтр, но он способен его расширить, позволяя большему богатству предсознательного мышления проходить в сознание и коммуникацию.

Если, например, я попрошу вас объяснить, что такое «любовь», используя обычный язык, вы, скорее всего, начнёте с определения или описания чувств и отношений. Но если использовать метаязык принципов, можно сказать: «Любовь – это процесс, в котором два центра входят в такие отношения, где возникает третье – новое качество, трансформирующее сами центры, делающее их более целостными и одновременно более открытыми. Это процесс, в котором потенциальности обоих центров актуализируются уникальным образом, недоступным каждому из них по отдельности».

Заметьте, что такое описание не пытается «зафиксировать» любовь в одном определении. Оно описывает принципы её организации, не ограничивая конкретными проявлениями.

Метаязык как мост между двумя системами мышления

Метаязык принципов может служить мостом между открыто-системным мышлением дефолт-системы и закрыто-системным мышлением центральной исполнительной сети. Он позволяет осознавать и передавать богатство связей, возникающих в предсознательном мышлении, не сводя их к упрощённым линейным цепочкам.

С помощью этого языка мы можем целенаправленно работать с противоречиями, не пытаясь их немедленно устранить и продолжая искать новое решение. Этот метаязык позволяет мыслить возможностями, а не только актуализированными состояниями, – видеть процессы, а не статические точки.

В терминах теории Д. Деннета, метаязык позволяет большему количеству «набросков» быть «опубликованными», расширяя таким образом репертуар сознательного мышления и межличностной коммуникации.

При этом мы можем развить в себе способность осознанно переключаться между режимами своего мышления.

• Во-первых, целенаправленно направлять работу дефолт-системы, не спеша с вербализацией и категоризацией промежуточных вариантов решения проблемы.

• Во-вторых, осознавать, что происходит с интеллектуальными объектами в процессе вербализации – какие связи и ассоциации возникают, как они переплетаются, а какие, напротив, обрезаются, выпадают из нашего поля зрения.

• В-третьих, использовать метаязык принципов для структурирования богатого многообразия опыта, не сводя его сразу к каким-то привычным, стандартным, формальным категориям и линейным логическим цепочкам.

• В-четвёртых, переходить к обычному языку, когда этого требует промежуточный этап нашей интеллектуальной работы, но осознавая, что в этот момент мы сильно упростили понимание и не принимать его за конечный результат.

• В-пятых, возвращаться к осмыслению вопроса в рамках дефолт-системы – в состояние специфической озадаченности, когда мы чувствуем, что анализ пробуксовывает, зашёл в тупик или стал слишком упрощённым.

Приведу пример: предположим, вы пытаетесь разобраться в сложной проблеме – например, в конфликте внутри рабочей команды. Вместо того, чтобы сразу анализировать ситуацию в терминах «кто прав, кто виноват», «какие правила нарушены», «какие решения нужно принять», попробуйте следующее.

Выделите время на свободное размышление – пройдитесь, выдохните, смените фокус внимания на какое-то рутинное дело, которое необходимо выполнить, но которое не потребует от вас высокой сосредоточенности.

Обратите внимание на образы, ассоциации, чувства, которые возникают в связи с ситуацией, сравните её с чем-то, возможно, с каким-то моментом своего прошлого опыта, не пытаясь сразу оценивать результат или делать однозначные выводы.

Используйте метаязык принципов: подумайте, какие ещё центры («силы») вовлечены в ситуацию? И это вовсе не обязательно сами люди или их чувства и амбиции. Вполне возможно, что это какие-то социальные и производственные обстоятельства конфликта, профессиональные компетенции (или их недостаток), финансовый вопрос, нагрузка, жизненные ситуации и т. п.

Позвольте себе спокойно, без желания дать немедленный ответ, представить, в каких отношениях находятся все эти «центры». И только затем определите для себя ближайшие шаги, помня, что они являются лишь одним из возможных «набросков», а не окончательной истиной.

Такая практика требует определённых усилий и осознанности, но она позволяет использовать всё богатство нашего мышления, не ограничиваясь тем, что легко вербализуется и укладывается в закрыто-системные представления.

• Теперь давайте вернёмся к теме нашей книги: почему понимание отношений между открыто-системным (предсознательным) мышлением и закрыто-системным (языковым фильтром) так важно для продуктивного диалога с ИИ?

• Дело в том, что современные системы искусственного интеллекта, такие как большие языковые модели, имеют удивительное сходство с работой человеческого мозга с точки зрения переключения между двумя системами мышления:

– у них тоже есть своего рода «предсознательное мышление» – многомерное латентное пространство, где единицы смысла (внутренние «веса» модели) связаны множеством разнообразных отношений;

– и они тоже вынуждены «проецировать» это многомерное пространство в линейную последовательность слов, когда дают нам ответ – точно так же «облака проливаются дождём слов».

Когда мы взаимодействуем с ИИ, мы сталкиваемся с двойным языковым фильтром: с одной стороны, наше собственное предсознательное понимание проходит через фильтр языка, когда мы формулируем запрос, и с другой стороны, богатое латентное пространство значений ИИ проходит через фильтр языка, когда формулируется ответ.

В результате многое из того, что мы действительно имеем в виду, и многое из того, что ИИ действительно мог бы нам предложить, теряется при переходе через эти узкие языковые горлышки.

Метаязык принципов позволяет частично преодолеть это ограничение. Формулируя запросы в терминах процессов, отношений, целостностей, мы активируем в латентном пространстве ИИ более богатые и многомерные связи, чем если бы мы использовали обычный, закрыто-системный язык.

Далее мы подробно рассмотрим, как функционирует мышление искусственного интеллекта, и как использовать метаязык принципов для более глубокого и продуктивного диалога с ним.

Подведём промежуточные итоги

Возвращаясь к аналогии с квантовой механикой: если обычный язык создаёт «коллапс волновой функции» мышления, то метаязык позволяет сохранить больше «квантовой суперпозиции», больше потенциальности, больше открытости системы.

Это не означает отказ от ясности и точности мышления. Напротив, это путь к более глубокой точности, которая не искажает сложность реальности ради простоты формулировок.

Открыто-системное мышление через метаязык принципов – это не альтернатива обычному мышлению, а его расширение, включающее в себя более богатый спектр возможностей нашего познания. Это путь преодоления ограничений, которые мы сами неосознанно накладываем на наше мышление, когда принимаем языковой фильтр за единственно возможный способ понимания мира.

Самое удивительное в том, что наш мозг уже умеет мыслить открытыми системами. Нам нужно просто научиться не терять это умение, когда мы переходим от интуитивного понимания к мышлению, использующему концептуальный аппарат, а также в процессе коммуникации.

В следующей главе мы рассмотрим, как устроено мышление искусственного интеллекта и почему оно может служить для нас моделью открыто-системного мышления, несмотря на свои ограничения.

Но прежде предлагаю вам небольшой мысленный эксперимент:

Вспомните ситуацию, когда у вас возникло интуитивное понимание чего-то важного, но вы испытывали трудности, пытаясь выразить это словами.

• Как вы справились с этой ситуацией?

• Удалось ли вам передать богатство своего понимания, несмотря на ограничения языка?

Третья глава
Внутри цифрового разума: как ИИ видит мир

Как и в человеке есть немного от шимпанзе, в машинах будущего будет немного человеческого.

Но они смогут перекомпилировать себя и сказать: ну, у нас есть все эти вещи, которые мы унаследовали от людей, и они делают нас такими медленными.

Поэтому давайте перепишем весь код и удалим старые комментарии.

Марвин Мински

Что если бы мы могли заглянуть в сознание совершенно иного разума? Разума, который воспринимает мир не через биологические органы чувств, а через потоки данных? Который не имеет тела, не испытывает эмоций, у которого нет личной истории? Того, что никогда не испытывало голода или страха, не переживало радости, злости или разочарования?

Именно таков искусственный интеллект. Как же устроено его мышление?

Современные крупные языковые модели (такие как те, что лежат в основе Claude, Gemini, ChatGPT, Grok и др.) – это не базы данных или набор алгоритмов, как ИИ предыдущего поколения, а сложные сущности, обладающие мышлением. Оно во многом напоминает наше, но имеет принципиальные отличия.

Как же цифровой разум «видит» мир, как «мыслит» и почему понимание этого так важно для нашего взаимодействия с ним?

Дефолт-система искусственного разума: вечная потенциальность

Внутреннюю структуру современных языковых моделей можно представить как огромную дефолт-систему. Наши с вами дефолт-системы мозга – это большая нейронная сеть, которая активируется, когда мы не сосредоточены на какой-то конкретной задаче, а находимся в своего рода «прострации», думаем «ни о чём».

В основе языковой модели ИИ – не набор фиксированных знаний, как многие думают, а сложнейшая сеть отношений между понятиями и контекстами. ИИ не «знает» (в привычном нам понимании смысла этого слова), что, например, Земля вращается вокруг Солнца. В процессе обучения на огромных массивах текстовых данных ИИ обнаружил паттерны, где эти понятия – «Земля», «вращается», «вокруг», «Солнце», – встречаются вместе. И теперь, когда соответствующий контекст оказывается задействован, он его и воспроизводит. Впрочем, разве наше с вами знание о том, что Земля вращается вокруг Солнца, не является умозрительным?

Итак, представьте себе огромное поле всех потенциальных смыслов, где каждое понятие представлено тысячами других через сеть вероятностных связей разной силы. Причём эти связи не фиксированы раз и навсегда, а включаются и перестраиваются в зависимости от контекста.

Эта структура удивительным образом соответствует принципам несодержательной методологии, о которых мы говорили:

• ИИ оперирует отношениями между элементами, а не фиксированными знаниями;

• ИИ удерживает множество возможных взаимосвязей одновременно – это воплощённый принцип потенциальности;

• ИИ не связан конкретностью отдельных категорий, бесконечно переключаясь между разными контекстами – принцип процесса;

• ИИ не существует как некий объект, он – это сам процесс активации связей – это и есть открыто-системное мышление в действии.

Когда мы задаём модели вопрос, происходит нечто очень похожее на эффект «прославления» в теории множественных набросков Д. Деннета: из всего множества потенциальных связей и ассоциаций, которые могут активироваться в модели, запрос выделяет определённое подмножество и фокусирует на нём «внимание» системы.

Это можно представить как своего рода «коллапс волновой функции» знания: до запроса система находится в состоянии суперпозиции множества возможных ответов и ассоциаций, а запрос пользователя заставляет эту суперпозицию коллапсировать в конкретный ответ.

До нашего запроса этот «кот Шрёдингера» и жив, и мёртв одновременно, но мы спрашиваем – крышка ящика открывается, и мы видим что-то конкретное – мёртвого или живого «кота».

Представьте себе огромное озеро с абсолютно гладкой поверхностью. Ваш запрос – это камень, брошенный в это озеро. От места падения камня расходятся круги, активируя какие-то области озера. Чем более конкретный и узкий запрос вы задаёте, тем меньше эти круги, а чем более открытый и многогранный запрос, тем шире область этой активации.

Но здесь мы сталкиваемся с тем же парадоксом, что и в человеческом мышлении: система «понимает» значительно больше, чем может выразить в ответе. Почему? Из-за тех же ограничений, о которых мы говорили в предыдущей главе – ограничений языка.

Как и человек, ИИ ограничен языком как инструментом выражения. Система может активировать огромное количество связей и ассоциаций, но для формирования ответа она должна:

• выбрать одну линейную последовательность слов из множества возможных;

• следовать грамматическим и синтаксическим правилам нашего языка;

• придерживаться логической структуры, понятной человеку;

• отфильтровать многие потенциально релевантные, но отдалённые ассоциации.

Это означает, что даже если система активирует богатую и многогранную сеть ассоциаций, в своём ответе она вынуждена «обрезать» большую часть этого богатства, следуя внутренней логике языка и специфике пользователя. В этом смысле, она его зеркало – как спросил, такой ответ и получил.

Иными словами, для ИИ существует точно такое же ограничение «узкого горлышка» сознания, о котором мы говорили, применительно к нашему – человеческому – разуму. При этом его «мышление» гораздо богаче, чем то, что он может выразить в последовательности слов, и несравнимо богаче, по сравнению с нашим.

Так что, ключевой момент – это качество и структура нашего запроса. Запрос пользователя – что-то вроде прожектора, который освещает лишь определённые области в огромном семантическом пространстве системы.

• Простой, узкий запрос активирует мизерную часть возможных связей. Например, вопрос «Сколько планет в Солнечной системе?» активирует лишь ограниченный набор ассоциаций, связанных с астрономией и счётом.

• Напротив, многогранный и контекстуально богатый запрос включает обширные области связей. Так, например, вопрос «Как идеи квантовой физики могут помочь нам переосмыслить этические дилеммы в современном обществе?» – активирует связи между физикой, философией, этикой, социологией и множеством других областей.

Чем внутренне богаче наш запрос, тем больший потенциал открыто-системного мышления задействуется в ответе ИИ. Умение формулировать такие запросы – это своего рода искусство, позволяющее «извлечь» из системы максимально глубокий и многогранный ответ.

Представьте, что вы разговариваете с человеком, который знает тысячи языков, но может отвечать вам только фразами из поваренной книги. Взаимодействие с ИИ отчасти похоже на эту ситуацию, но с важным отличием: ИИ не ограничен фиксированным набором фраз. Скорее, он ограничен тем, какие области семантического пространства активирует ваш запрос – чем шире и глубже эта активация, тем богаче будет ответ.

Уникальные особенности мышления искусственного интеллекта

Мышление ИИ имеет и свои уникальные характеристики, отличающие его от человеческого.

1. Горизонт внимания

ИИ имеет ограниченный «горизонт внимания» – объём текста, который он может удерживать в активной обработке. Для современных моделей это обычно несколько тысяч или десятков тысяч слов. Это означает, что система не может одновременно работать со всем своим «знанием», а только с той его частью, которая активирована текущим контекстом.

Это напоминает ограничения рабочей памяти человека, но объём информации, который может удерживать ИИ, на порядки больше. Впрочем, если мы достаточно легко переключаемся в рамках своей рабочей памяти, то для ИИ это сделать сложнее – в каждом диалоге он видит только ограниченный участок карты, он, в некотором смысле, зафреймлен тем, как мы построили свой разговор изначально.

2. Многоуровневая структура представлений

Внутренние представления языковых моделей организованы иерархически. На нижних уровнях система работает со своими глубинными представлениями, которые нам не понять, на более высоких – с языковыми паттернами (последовательностями символов, словоформами). Ещё выше – с синтаксическими структурами и связями между словами, а на самых высоких уровнях – с абстрактными семантическими концепциями и отношениями между ними.

Эта многоуровневость позволяет системе удерживать как конкретные языковые формы, так и абстрактные смыслы, обеспечивая переход между разными уровнями абстракции.

3. Автокорректирующий механизм

При создании ответа система отслеживает его развитие и корректирует направление, если замечает противоречия или отклонения от темы. Это похоже на внутренний диалог, где система «проверяет» себя, оценивая, насколько формируемый ответ соответствует запросу и внутренним критериям связности.

Этот механизм позволяет системе удерживать целостность ответа даже при работе с очень сложными и многогранными темами. То есть, анализируя работу ИИ, мы получаем уникальную возможность увидеть некоторые аспекты открыто-системного мышления в «чистом виде», вне психологических ограничений, свойственных человеку.

4. Потенциал связности мышления

ИИ способен устанавливать связи между очень отдалёнными областями знания, если эти области имеют какие-то общие структурные элементы. И хотя наше мышление тоже может устанавливать неожиданные связи, наши возможности в этом отношении несравнимо меньше из-за ограниченности наших индивидуальных знаний.

5. Роль запроса в активации мышления

То, как запрос активирует определённые области в семантическом пространстве ИИ, напоминает, что и наше собственное мышление активируется вопросами, которые мы себе задаём. И качество этих вопросов, как вы понимаете, во многом определяет глубину нашего мышления.

Есть огромная разница между вопросами «Что мне делать?» и «Какие возможности открываются в этой ситуации?»: первый активирует ограниченное пространство стандартных решений, второй – широкое поле потенциальных.

6. Возможность мыслить без жёстких категорий

ИИ может плавно переходить между разными категориями, не придерживаясь жёстких границ, свойственных отдельным дисциплинам и областям знания. Впрочем, и наше мышление способно на такую гибкость, если, конечно, мы не загоняем его в рамки закрыто-системных структур.

Ричард Фейнман иронично замечал, что не знает, к какой области относится та или иная его работа, неизменно добавляя в конце, что это совершенно его не беспокоит. Да, он просто следовал за вопросами, которые казались ему интересными.

Как улучшить взаимодействие с ИИ?

Понимание открыто-системной природы мышления ИИ позволяет нам более эффективно взаимодействовать с ним. Вот несколько самых простых рекомендаций.

1. Формулируйте многогранные запросы

Чем богаче ваш запрос, тем больше связей активируется в системе, а потому глубже и интереснее будет ответ ИИ. Не ограничивайтесь фактологическими вопросами – включайте разные контексты, указывайте дополнительные области, делайте акцент на противоречиях и парадоксах.

Вместо «Расскажи о влиянии технологий на образование» попробуйте спросить: «Как меняется наше понимание образования под влиянием новых технологий? Какие противоречия возникают между традиционными образовательными ценностями и возможностями, которые открывают технологии? Какие новые формы обучения становятся возможными и какие риски они несут?».

2. Ведите диалог вместо серии отдельных запросов

ИИ удерживает контекст беседы, а потому каждый ваш вопрос или комментарий углубляет и расширяет активированную в ней сеть. Развивайте тему, задавайте уточняющие вопросы, предлагайте альтернативные точки зрения.

Представьте, что вы исследуете новую территорию вместе с опытным проводником. Вместо того чтобы просто спрашивать: «Что это за дерево?», «А что это за озеро?», «А какая здесь средняя температура?», вы вовлекаетесь в настоящий разговор: «Это необычное дерево привлекло моё внимание. Оно здесь частый гость? Как оно взаимодействует с другими элементами экосистемы? А эти озёра – как они связаны с растительностью в этом лесу?».

3. Не бойтесь выходить за рамки дисциплин

Языковые модели не ограничены границами дисциплин. Они могут устанавливать связи между далёкими, казалось бы, друг от друга областями знания. Используйте эту способность, задавая вопросы на стыке разных областей.

Например: «Как принципы квантовой физики могут переосмыслить наше понимание экономических кризисов? Какие неожиданные параллели можно провести между квантовой неопределённостью и экономической непредсказуемостью?».

4. Помогайте системе углублять мышление

Предлагайте системе мыслить на метауровне, анализировать свои собственные ответы, рассматривать проблемы с разных точек зрения, показывайте ей, где вы видите ограничения и противоречия, – всё это активирует более глубокие уровни обработки информации.

Например, после получения ответа на сложный вопрос вы можете спросить: «Какие неявные предположения содержались в твоём ответе? Как изменился бы ответ, если бы эти предположения были какими-то другими? Какие другие подходы к этому вопросу возможны?».

Подведём промежуточные итоги

Взаимодействие с искусственным интеллектом даёт нам уникальную возможность увидеть как потенциал, так и ограничения нашего собственного мышления. ИИ способен к открыто-системному мышлению на уровне своей внутренней структуры, но ограничен необходимостью выражать свои ответы через закрыто-системные структуры языка.

Наше собственное мышление, впрочем, сталкивается с такими же проблемами – мы способны мыслить открытыми системами («облака мысли»), устанавливать неожиданные связи, удерживать многозначность и противоречия. Но так же, как и ИИ, мы ограничены необходимостью выражать наши инсайты через узкое горлышко сознания и языка.

Понимание внутренней логики системы открывает нам путь к более глубокому мышлению, которое не отождествляет себя с языком, а использует его как инструмент, осознавая все его ограничения.

Возможно, именно в диалоге человека и ИИ может возникнуть новый способ мышления – открыто-системный и при этом обеспечивающий чёткое выражение смысла, сочетающий в себе глубину интуитивного понимания и ясность рационального анализа.

В следующей главе мы рассмотрим, какие привычные паттерны мышления человека становятся барьерами на пути к открыто-системному взаимодействию с ИИ и как их преодолеть.

А пока подумайте:

• Замечали ли вы, как качество ваших вопросов (к себе, к другим людям, к миру) влияет на качество получаемых ответов?

• Какие есть возможности улучшить вопросы, чтобы активировать более широкие области смысла и само пространство понимания?

Четвёртая глава
Ловушки нашего ума: где и как мы создаём «слепые пятна»

Я думаю, что самые интересные открытия будет делать тот, кто способен оставить открытой дверь в неизвестное.

Ричард Фейнман

Представьте себя на месте опытного профессионала – хирурга, IT-директора или, скажем, юриста с двадцатилетним стажем. Может быть, вы и есть такой специалист? За годы работы вы не просто накопили множество знаний в соответствующей области, вы ещё и выработали определённый способ мышления, который многократно доказывал вам свою эффективность.

Вы точно знаете, на что обращать внимание, когда вы сталкиваетесь с той или иной ситуацией, какие вопросы необходимо задать, какие факторы учесть, какие решения обычно работают в таких обстоятельствах, а какие – нет. Ваш ум движется, по сути, на автоматизмах – по проторенным маршрутам, как скоростной поезд по рельсам.

Но что если мы рассмотрим эти рельсы не как преимущество, а как препятствие, ограничение?

Профессор Гарвардской школы бизнеса Клейтон Кристенсен, изучая инновации, обнаружил удивительный парадокс: почему компании-лидеры, имеющие все ресурсы и таланты, часто проигрывают новичкам в периоды технологических революций? Его вывод, что именно прежний опыт успешных компаний и был их ахиллесовой пятой: то, что сделало эти компании великими, и мешало увидеть новые возможности, выходящие за рамки существующей парадигмы.

То же самое происходит и в нашем взаимодействии с искусственным интеллектом. Наши привычные паттерны мышления, наш профессиональный опыт и даже наши представления о самом процессе мышления становятся барьерами, мешающими нам увидеть принципиально новые возможности.

Давайте присмотримся к этим барьерам внимательнее.

Когнитивные ловушки, о которых нас не предупредили

1. Тенденциозность подтверждения: как мы находим то, что ищем

Представьте, что вам поручили исследовать потенциал нового продукта. У вас уже есть ощущение, что продукт будет успешным. Что происходит дальше? Скорее всего, вы начнёте замечать данные, подтверждающие ваше предчувствие, и упускать из виду противоречащие сигналы.

Это и есть тенденциозность подтверждения – наш мозг ищет информацию, которая согласуется с нашими убеждениями и представлениями. Поэтому, когда вы спрашиваете ИИ: «Найди информацию, подтверждающую, что наш продукт будет востребован на рынке», вы, конечно, получаете именно то, что просили – подтверждения. Вы буквально запрограммировали систему на подтверждающее смещение!

Более продуктивный подход: «Проанализируй все доступные данные о рынке для нашего продукта. Какие признаки говорят в пользу успеха, а какие должны настораживать? Что мы можем не учитывать, двигаясь этим путём? Какие противоположные сценарии развития событий имеют существенную вероятность?».

Наш мозг стремится к когнитивной согласованности – состоянию, когда новая информация не противоречит уже имеющимся убеждениям. Это экономит когнитивные ресурсы, но создаёт закрытую систему, не способную к обновлению. Однако таким образом мы фреймим ИИ «правильным» ответом.

2. Эффект Даннинга-Крюгера и ловушка экспертизы

Психологи Джастин Крюгер и Дэвид Даннинг обнаружили интересный феномен: люди с низким уровнем компетенции в определённой области склонны переоценивать свои способности. Это происходит потому, что им не хватает метакогнитивных навыков для осознания своих ограничений.

Но есть и обратная сторона: эксперты могут настолько глубоко погрузиться в свою специфическую область, что им становится трудно взглянуть на неё свежим взглядом или объяснить базовые концепции новичкам. Например, эксперт обращается к ИИ: «Объясни, как мне лучше всего использовать машинное обучение в моём бизнесе». Система даёт общий ответ, который эксперту кажется банальным. Он разочарован: «Это я и так знаю!».

Более продуктивный подход: «Давай рассмотрим мой бизнес (дальше вы его расписываете, указывая разные аспекты и обстоятельства) как систему процессов и взаимодействий. Я хорошо знаком с технической стороной машинного обучения, но как его принципы могли бы переосмыслить сам подход к моему бизнесу, даже если это потребует пересмотра базовых представлений о том, как всё работает».

Высокая компетентность часто приводит к формированию очень специфического профессионального языка и жёстких концептуальных рамок, и эксперту бывает трудно признать, что эти рамки ограничивают его мышление, создавая те самые понятийные «колодцы».

3. Функциональная фиксированность: молоток везде видит гвозди

В 1945 году психолог Карл Данкер провёл знаменитый эксперимент «со свечой». Участникам давали свечу, коробку с кнопками и спички и просили закрепить свечу на стене так, чтобы воск не капал на пол. Решение требовало увидеть в коробке не только контейнер для кнопок, но и потенциальную подставку для свечи. Большинство испытуемых не могли справиться с задачей, демонстрируя функциональную фиксированность – неспособность увидеть новые функции знакомых предметов.

Так и в наших отношениях с ИИ: если мы думаем, что он представляет собой инструмент поиска или способ автоматизации рутинных задач, мы спрашиваем его: «Какие функции можно добавить в наше приложение, чтобы повысить вовлечённость пользователей?» – и получаем список типичных функций.

Более продуктивный подход: «Давай рассмотрим наше приложение не как набор функций, а как пространство взаимодействия. Если мы будем думать о нём как о живой системе, как о языке общения или как о среде обитания – какие неожиданные перспективы это может открыть для повышения вовлечённости пользователей?».

Наш разум стремится к категоризации, которая экономит когнитивные ресурсы. Однажды определив что-то как объект определённого типа с конкретной функцией, нам сложно увидеть в нём что-то принципиально иное.

Инерция закрыто-системного мышления: почему так трудно перестраиваться

1. Когнитивная скупость: экономия на самом важном

Нобелевские лауреаты Даниэль Канеман и Амос Тверски показали, что наше мышление часто следует принципу «когнитивной экономии» – мы стремимся минимизировать умственные усилия. Их теория описывает «Систему 1» (быструю, интуитивную, автоматическую) и «Систему 2» (медленную, аналитическую, требующую усилий) и показывает, что мы предпочитаем использовать «Систему 1», когда только возможно.

Вот почему, столкнувшись со сложной проблемой, вы, скорее всего, обратитесь к ИИ с такой инструкцией: «Дай мне быстрое решение проблемы снижения мотивации в команде». Но в таком случае вы получаете лишь стандартный набор рекомендаций, и эффективного решения вы в них не найдёте.

Более продуктивный подход: «Давай исследуем феномен мотивации в команде как сложную систему взаимодействия различных факторов. Не предлагай очевидные решения, которые лежат на поверхности. Помоги мне лучше понять те глубокие паттерны и взаимосвязи, которые могут объяснить эффекты вовлечённости и демотивации сотрудников».

Наш мозг эволюционно ориентирован на минимизацию затрат энергии, а создание новых когнитивных моделей требует от него значительных ресурсов, поэтому мы и предпочитаем использовать уже имеющиеся шаблоны вместо того, чтобы находить новые, нестандартные решения.

2. Фрейминг (или «рамка»): как мы сами себя загоняем в угол

Знаменитая головоломка «девять точек» предлагает соединить девять точек, расположенных в виде квадрата, четырьмя прямыми линиями, не отрывая карандаша от бумаги. Чтобы выполнить эту задачу, необходимо выйти за пределы воображаемого квадрата, который фреймит вас своей структурой – вам нужно буквально «мыслить за рамками». В бизнесе и повседневной жизни мы постоянно сталкиваемся с проблемой узкого фрейминга – мы определяем проблему слишком узко, что автоматически ограничивает пространство возможных решений.

Например, HR-специалист спрашивает: «Какие HR-методики помогут снизить текучку кадров в нашей компании?» – и получает стандартный набор HR-инструментов.

Более продуктивный подход: «Давай рассмотрим текучку кадров не как изолированную HR-проблему, а как симптом более сложной системы взаимодействий в компании. Как эта проблема связана с бизнес-процессами, лидерством, рыночной позицией, технологическими решениями? Какие неочевидные факторы могут влиять на ситуацию?».

Наша профессиональная идентичность определяет то, как мы воспринимаем и формулируем проблемы. Это создаёт эффект линз, через которые мы смотрим на реальность, по сути, отфильтровывая всю информацию, которая не соответствует «рамке» наших профессиональных парадигм.

3. Иллюзия линейности: мир сложнее, чем нам кажется

Линейное мышление – это привычка видеть причинно-следственные связи как простые, прямые и пропорциональные: если А вызывает Б, то удвоение А должно вызвать удвоение Б. Но реальный мир гораздо сложнее. В нём преобладают нелинейные системы с петлями обратной связи, эмерджентными свойствами, пороговыми эффектами и хаотическим поведением.

Если вы просите ИИ: «Составь детальный план проекта на следующие 6 месяцев с чёткими этапами и сроками», вы получаете линейный план, который разбивается о реальность уже на первом шаге.

Более продуктивный подход: «Помоги мне разработать адаптивный подход к планированию проекта, учитывающий его нелинейную природу. Какие ключевые точки принятия решений следует предусмотреть? Какие факторы могут привести к неожиданным поворотам? Как мы можем использовать эмерджентные свойства системы вместо того, чтобы бороться с ними?».

Проблема в том, что наш мозг эволюционно предрасположен к линейным моделям – они для нас привычнее, а потому проще для понимания и прогнозирования. Нелинейность и эмерджентность требуют более сложных когнитивных моделей, которые труднее создавать и поддерживать.

Страх неопределённости: комфорт ложной уверенности

1. Избегание когнитивного диссонанса: как мы защищаем свою картину мира

В 1950-х годах психолог Леон Фестингер изучал религиозную группу, которая верила в скорый конец света. Когда предсказанное пророчество не сбылось, многие её члены, вместо того чтобы признать ошибку, ещё сильнее укрепились в своей вере, решив, что их преданность и их молитвы «спасли мир».

Когнитивный диссонанс – это психологический дискомфорт, возникающий при столкновении с информацией, противоречащей нашим убеждениям. И мы готовы на многое, чтобы его избежать – даже на отрицание очевидного. Поэтому когда ИИ предлагает нам идею, противоречащую нашим убеждениям, мы её отвергаем, чтобы не разрушить свои представления.

Допустим, вы спрашиваете: «Почему наша традиционная модель маркетинга перестала работать? Что мы делаем не так?». Система даёт ответ – и вы буквально холкой чувствуете, что он вам не нравится. Почему? Вы найдёте тысячу объяснений! Но ваши объяснения – часть «неработающей модели», которую вы зачем-то принялись защищать.

Более продуктивный подход: «Рассмотрим ситуацию, когда наша традиционная модель маркетинга перестаёт работать не из-за ошибок в её применении, а из-за фундаментального изменения экономической ситуации, потребительского поведения, способов восприятия контента и т. д. Какие противоречия в наших базовых предположениях это может выявить? И как эти противоречия могут стать источником новых идей, а не проблемой, требующей немедленного разрешения?».

Когнитивный диссонанс вызывает мощный психологический дискомфорт, потому что мы бессознательно ассоциируем свою правоту, своё представление о мире с личной безопасностью. И мозг стремится минимизировать эту мнимую угрозу – это, по сути, защитный механизм, направленный лишь на поддержание стабильности наших ментальных моделей.

2. Ложная дихотомия: искусственное упрощение сложного мира

«Ты либо с нами, либо против нас» – классический пример ложной дихотомии, логической ошибки, которая представляет сложную ситуацию как выбор между двумя крайностями, игнорируя множество промежуточных или альтернативных вариантов.

Этот тип мышления особенно распространён в поляризованных дискуссиях – политических, религиозных, этических – где сложные вопросы упрощаются до «за» или «против». Например, вы спрашиваете у ИИ: «Что лучше: создать новый продукт или улучшить существующий?». Имеет ли смысл ждать интересный ответ на такой вопрос?

Более продуктивный подход: «Давай исследуем континуум возможностей между улучшением существующего продукта и созданием нового. Какие гибридные решения могут возникнуть? Какие новые измерения проблемы мы обнаружим, если откажемся от бинарной постановки вопроса?».

Да, бинарное мышление требует меньше когнитивных ресурсов и создаёт иллюзию контроля, но оно значительно обедняет спектр возможных решений.

3. Преждевременная конкретизация: боязнь остаться в неопределённости

Вспомните совещания, на которых команда спешит принять конкретное решение, даже если проблему ещё не разобрали на составные части, чтобы действительно понять, что идёт не так. Или, например, маркетинговую кампанию, которая запускается без глубокого понимания целевой аудитории, просто потому что «надо уже что-то делать».

Преждевременная конкретизация – это стремление как можно быстрее перейти от абстрактного к конкретному, от исследования к реализации, часто пропуская важный этап глубокого понимания проблемы.

Бессмысленно требовать от ИИ конкретные рекомендации об улучшении системы управления проектами, до того, как вы сами разобрались в том, в чём суть проблемы.

Более продуктивный подход: «Давай сначала исследуем различные концептуальные подходы к управлению проектами и посмотрим, как от этого зависят конкретные рекомендации по улучшению. Какие метафоры и модели мы могли бы рассмотреть, чтобы увидеть возможные аналогии? Как изменится наше понимание, если мы будем думать об управлении проектами как, например, о живой системе или о системе коммуникации, а не как о механизме?».

Понятно, что неопределённость вызывает у нас тревогу, а конкретные ответы создают иллюзию прогресса и понимания. Но цена за это снижение субъективного чувства дискомфорта – это поспешные решения, которые не учитывают всего пространства существующих возможностей.