Kitobni o'qish: «От предвидения к власти. Как ИИ-прогнозирование трансформирует экономику и как использовать его силу в своих целях», sahifa 2

Глава 2. Будущее систем ИИ

В 2017 году мероприятия, посвященные ИИ, проходили одно за другим. На них собирались представители бизнеса, правительств и академических кругов. Мы осознавали, что ИИ способен трансформировать экономику, и решили, что это перспективная тема для дискуссии лучших мировых ученых. Чтобы определить перечень приоритетных исследований, мы организовали в Торонто конференцию по ИИ. К нашему удивлению, мы без труда привлекли множество участников. Среди них был Пол Милгром из Стэнфордского университета, который впоследствии стал лауреатом Нобелевской премии за усовершенствование теории аукционов. «Я хорошо помню, как в 1990 году NSF² предложил обсудить экономику интернета, – написал он нам, – а я был слишком занят теорией принципала-агента, экономикой фирмы и супермодулярностью и потому отказался. И зря! На этот раз никаких оправданий. Да, я буду у вас».

Некоторые участники конференции оптимистично оценивали перспективы ИИ. Еще один нобелевский лауреат, Даниэль Канеман, сказал: «Думаю, в мире не слишком много того, что в итоге не смогут сделать компьютеры». Бетси Стивенсон, работавшая в Совете экономических консультантов при президенте Обаме, так резюмировала подобные настроения: «Очевидно, коллеги считают, что искусственный интеллект открывает возможности для того, чтобы получить существенную экономическую выгоду».

Однако среди собравшихся были и скептики. Лауреат Нобелевской премии Джозеф Стиглиц разделял мнение, что развитие ИИ способно усугубить неравенство. Тайлер Коуэн, экономист и бывший обозреватель The New York Times, опасался, что из-за производительности ИИ увеличится дефицит материальных ресурсов. Мануэль Трахтенберг из Израиля, часть своей карьеры посвятивший политике, отметил, что долгосрочные преимущества технологии не имеют значения, если растущее сопротивление автоматизации и распространенное мнение о ее влиянии на рабочие места приведут к революции.

Особенно интересен тезис о том, что ИИ, похоже, вообще не оказывает большого влияния на экономику. Экономисты Эрик Бриньолфсон, Дэниел Рок и Чад Сайверсон отмечают:

Мы живем в эпоху парадоксов. Все больше областей, где системы на основе ИИ соответствуют человеческому уровню или превосходят его, опираясь на стремительный прогресс в других технологиях и способствуя стремительному росту цен на акции. При этом зафиксированный в последнее десятилетие рост производительности труда сократился вдвое, а реальные доходы большинства американцев с конца 1990-х годов стагнируют.

Для тех, кто изучает историю развития технологий, это не беспрецедентный парадокс (как мы убедились на примере электричества). В 1987 году Роберт Солоу из Массачусетского технологического института произнес знаменитую фразу о том, что «компьютерный век наступил везде, но только не в статистике производительности труда». Компьютеры были повсюду, но к заметному повышению результативности труда это не привело, причем во всех секторах экономики. Специалисты задались вопросом: что происходит, когда появляются «технологии общего назначения» – то есть такие, которые обеспечивают устойчивый рост производительности в широком спектре отраслей? К технологиям общего назначения относятся паровой двигатель и электричество, а в более поздние времена – полупроводники и интернет. По мнению участников нашей конференции, ИИ выглядел вполне вероятным кандидатом на включение в этот список. Чего же нам следует ожидать? Да, исторически такие технологии в итоге трансформировали экономику, бизнес и рабочие процессы, но что происходило в течение десятилетий до наступления этого момента – в межвременье?

Системные инновации для ИИ

Генеральный директор Google Сундар Пичаи заявил, что «ИИ – это, пожалуй, самое важное, над чем когда-либо работало человечество. Я думаю о нем как о чем-то более глубоком, чем электричество». Google уже получила выгоду от ИИ, но многим компаниям это не удалось. В исследовании, проведенном в 2020 году журналом Sloan Management Review Массачусетского технологического института и глобальной консалтинговой компанией BCG, говорится, что только 11 % организаций сообщили о значительных финансовых результатах от использования ИИ. И это не значит, что остальные не пытались добиться успеха. Представители 59 % компаний заявили, что у них есть стратегия в области ИИ, а в 57 % организаций внедрялись или были опробированы соответствующие решения.

Пионер ИИ Эндрю Ын, основатель проекта Google Brain и ведущий научный сотрудник компании Baidu, заявил, что «ИИ – это новое электричество. Он способен изменить любую отрасль и создать огромную экономическую ценность». У ИИ не меньший потенциал трансформации, чем у электричества, но если верить истории, то путь к изменениям будет долгим и ухабистым.

Пример с электричеством показывает, что нет никакого несоответствия между оптимизмом в отношении будущего ИИ и разочарованием в уже достигнутых результатах. Бриньолфсон, Рок и Сайверсон обратили внимание на этот парадокс эпохи. Следовало ожидать, что оптимизм в отношении будущего будет сосуществовать с разочарованием в том, что мы имеем сегодня. Действительно, есть веские глубинные причины ожидать таких противоречий, когда экономика переживает реструктуризацию, связанную с трансформационными технологиями.

На первом этапе внедрения электричества лампочки заменили свечи, а электродвигатели – паровые машины. Это были точечные решения, не требующие переворота в экономике.

ИИ находится в такой же ситуации. Он применяется как новый инструмент для предиктивной аналитики. Лишь немногие компании получают выгоду от улучшения прогнозирования – например, Verafin. Это те самые 11 % организаций, которые уже достигли финансовых результатов с помощью ИИ. Они и прежде занимались прогнозированием, но теперь делают это точнее, быстрее и с меньшими затратами. Точечные решения для ИИ находятся буквально под рукой и уже вовсю применяются.

Истинный потенциал электричества был реализован, только когда удалось понять и использовать преимущества распределенной генерации. Точно так же потенциал ИИ раскроется, только когда получится в полной мере задействовать его возможности в области прогнозирования. Для нас это означает, что прогнозирование играет важную роль в принятии решений. Мы покажем, что во многих случаях изменения будут настолько значительными, что потребуют от компаний перестроить всю систему принятия решений и обеспечивающие ее процессы. Только в этом случае внедрение ИИ станет действительно реальным.

Мы находимся в межвременье: колоссальный потенциал ИИ уже очевиден, но его трансформирующее воздействие на экономику еще не началось. Verafin входит в те 11 % крупных корпораций, которые добились успеха при внедрении ИИ. Их прогнозы вписались в существующую систему, а бизнес-процессы и организация труда оказались к этому приспособлены, так что значительных нововведений не потребовалось. Остальные 89 % компаний еще не готовы. Перспективы понятны, но как их реализовать, пока неясно. Необходимо найти способ использовать машинные прогнозы для повышения эффективности работы, то есть для принятия более эффективных решений. Благодаря ИИ люди смогут делать больше, поскольку будут принимать лучшие решения. Речь идет не только о технических аспектах прогнозирования (сборе данных, построении моделей, генерации прогнозов), но и об организационных – создании условий, позволяющих людям принимать правильные решения в нужное время. А стратегическая задача состоит в том, чтобы определить, что можно сделать по-другому после получения более качественной информации.

Первый этап

Для межвременья характерны энтузиазм и успех точечных решений, но при этом ИИ все еще остается нишевой технологией. Тем не менее уже проводятся эксперименты и существуют прикладные разработки, в основном специфические. Они позволяют улучшить имеющиеся продукты, например телефоны или системы безопасности автомобиля. Бюро переписи населения США выяснило, используют ли компании ИИ. В опросе участвовали представители более 300 тыс. организаций. Из тех, кто ответил положительно, большинство подчеркивали, что применяют ИИ для автоматизации и улучшения процессов. Другими словами, внедряются точечные и прикладные, но не системные решения. Соответственно, ИИ довольно скромно влияет на производительность труда. Анализ существующих рабочих процессов и участков, которыми ИИ может заменить человека, приносит значимую дополнительную ценность, но широких возможностей не открывает.

В период межвременья предприниматели и менеджеры борются за то, чтобы реализация прикладных решений стала экономически оправданной. Как отмечает Натан Розенберг, «многочисленные неудачи объясняются тем, что предприниматель не учел взаимосвязь между технологией, поглощавшей все его внимание, и остальными аспектами бизнеса как целостной системы».

Настоящая трансформация произойдет, только если сосредоточиться на системных решениях. Они поднимут внедрение ИИ на уровень экономики в целом и создадут импульс для его дальнейшего прикладного применения. При таком потенциале масштабирования и последующих инноваций ИИ станет экономически выгодным.

Учитывая важность этих решений, необходимо четко объяснить, что имеется в виду. Итак, давайте определимся с понятиями:

• Точечное решение улучшает существующую процедуру. Его можно внедрить независимо от прочих решений и без изменения системы, в которую оно встроено.

• Прикладное решение создает новую процедуру. Ее можно реализовать независимо от прочих процессов и без изменения системы, в которой она функционирует.

• Системное решение позволяет усовершенствовать существующие или создать новые процедуры и при этом изменить связанные с ними процессы.

Обратите внимание: оборот «независимо от (прочих)» встречается в определениях точечного и прикладного решений, но применительно к системному не употребляется. Представьте, что какую-либо существующую или новую процедуру можно усовершенствовать с помощью новой технологии. Если рост создаваемой ценности превышает затраты на разработку и внедрение этого решения, то оно экономически целесообразно – причем неважно, изменится ли что-то еще. Однако предположим, что выгода от инновации слишком мала и может быть увеличена только за счет изменения других процедур. Тогда внедрять ее в индивидуальном порядке, без сопутствующих изменений, будет экономически неоправданно. Потребуется совершенствование сразу нескольких процедур.

Мы уже говорили о том, что некоторые фабрики легко заменили энергию пара электрической. Это точечное решение. Кроме того, электрические двигатели использовались в существовавших производственных системах. Это прикладное решение. Однако во многих случаях для того, чтобы получить реальную экономическую выгоду, надо было перепроектировать предприятия, а также разворачивать централизованные электрические линии и сети. Другими словами, при системном подходе электричество – это не просто новый источник энергии, а спектр новых возможностей, которые открываются при его использовании.

В следующей главе мы вернемся к теме, затронутой в книге «Искусственный интеллект на службе бизнеса», – к тому, что достижения современного ИИ, по сути, представляют собой усовершенствованные технологии прогнозирования. Более того, прогнозы ценны только как исходные данные, на основе которых принимаются решения. Таким образом, давайте скорректируем определения, приведенные выше.

ТОЧЕЧНОЕ РЕШЕНИЕ НА ОСНОВЕ ИИ: прогноз ценен, если позволяет улучшить принятое без его учета управленческое решение, не зависящее от прочих.

ПРИКЛАДНОЕ РЕШЕНИЕ НА ОСНОВЕ ИИ: прогноз ценен, если позволяет принять отличное от имеющегося управленческое решение или изменить процедуру его принятия, причем независимо от прочих.

СИСТЕМНОЕ РЕШЕНИЕ НА ОСНОВЕ ИИ: прогноз ценен, если улучшает существующие или позволяет принимать более эффективные управленческие решения при условии, что будут реализованы изменения в способах принятия прочих решений.

Если в других случаях мы можем прибегнуть к ретроспективному анализу и точно определить, что было независимым, а что зависимым, то в случае ИИ нам еще предстоит это выяснить. Наша книга – о том, как это сделать.

Подрывной характер системных изменений

Если верить истории, то активнее всего ИИ должен внедряться на этапе системных изменений. Однако такие изменения будут подрывными по своему характеру: заставят пересмотреть роли многих людей и компаний в отраслях и одновременно перераспределить влияние. То есть, вероятно, появятся экономические победители и проигравшие, особенно если трансформация происходит относительно быстро.

Давайте для наглядности рассмотрим прогнозирование в земледелии. В этой отрасли механизация резко сократила занятость. Однако управление, независимо от масштабов хозяйства, по-прежнему сосредоточено в руках человека – настолько, что многие фермы остаются в частной собственности. Принимая решение, фермеры учитывают прогноз погоды, но состояние земельного надела уникальным образом связано с их собственными навыками в прогнозировании и принятии решений в целом.

Однако время идет, и ситуация меняется. Земледелие зависит от погодных условий, но также, что критически важно, от выращиваемых культур и характеристик почвы. Из этих дополнительных рисков исходил Дэвид Фридберг, когда первым предложил американским фермерам индивидуальное онлайн-страхование от погодных условий. Правительство США располагало информацией не только о погоде, но и о составе почвы 29 млн полей (на основании инфракрасных спутниковых снимков). Это позволило Фридбергу рассчитать влияние погодных условий на отдельные земли или сельскохозяйственную культуру.

Фридберг основал компанию Climate Corporation для продажи страховки, но вскоре обнаружил, что не менее, чем в страховке, фермеры заинтересованы в том, что он может сообщить им об их собственных полях:

От него [Фридберга] фермер мог узнать о влажности почвы на данный момент и о том, какое превышение уровня влаги будет губительным. Можно было получить информацию о температуре и ежедневном количестве осадков. Вероятно, вы скажете, что фермер и так это знает, но что, если у него двадцать или тридцать полей, расположенных в разных округах? Точная стадия роста определенной культуры, лучшие моменты для удобрения земли, оптимальный период для сева и идеальная дата сбора урожая – Фридберг располагал всеми этими данными.

Прогнозирование в значительной степени определяло ключевые решения, касающиеся внесения удобрений, сева и уборки. Все они принимались с одной и той же целью – получить максимальный урожай: «Земледелие всегда было связано с принятием решений, которые зависели от интуиции фермера. Climate Corporation превратила земледелие в науку, основанную на теории вероятностей. Фермер играл уже не в рулетку, а в блек-джек. А Дэвид Фридберг помогал ему считать карты».

Фермеры привычно связывали технологический прогресс с появлением новых сельскохозяйственных орудий, но теперь изменилась сама процедура принятия решений. Более того, решения принимались дистанционно – в Сан-Франциско, далеко от сельских регионов Америки. Из корпорации, расположенной в городе на Западном побережье, канзасские фермеры получают совет, стоит ли выращивать кукурузу.

В настоящее время Climate Corporation принимает далеко не все решения по ведению сельского хозяйства. Значительная их часть по-прежнему относится к компетенции фермеров. Однако, по мнению Фридберга, «со временем участие аграриев сведется к нулю. Все будет под контролем. Появятся прогнозы на любой случай». Фермеры понемногу привыкают к этой мысли. Майкл Льюис пишет: «[Никто] никогда не задавал Фридбергу вопрос: если в моих знаниях больше нет необходимости, то кому нужен я?» Иначе говоря, дело идет к подрыву старой системы и централизованному управлению фермерскими хозяйствами. Мы не знаем, сколько времени займет процесс изменений и все ли решения удастся автоматизировать. Но можно точно сказать, что у этих инструментов большой потенциал: в 2013 году компания Monsanto приобрела Climate Corporation за 1,1 млрд долларов.

Шаг за шагом, по мере совершенствования технологий прогнозирования, фермеры не просто изучают прогнозы и принимают решения, а передают эти полномочия другим. Вероятно, таким образом эффективность управления фермой повышается, поскольку ответственность берут на себя люди, обладающие необходимой информацией, навыками, стимулами и умеющие координировать процессы. Но в то же время какова будет роль фермеров? Сейчас они землевладельцы, но надолго ли?

О чем эта книга?

Наша цель – мотивировать разработку системных решений на основе ИИ. В центре внимания – принятие управленческих решений и роль прогнозирования в этой процедуре. В части I мы обсудили притчу о трех предпринимателях и охарактеризовали проблемы разработки и внедрения ИИ в период межвременья, которые, скорее всего, имели место и в прошлом, во времена внедрения электричества и других технологий общего назначения. Чтобы перекинуть мостик к пониманию этих проблем и возможностей, в главе 3 мы напомним основные положения нашей предыдущей книги – «Искусственный интеллект на службе бизнеса». Также мы разберемся, почему прогнозирование – одна из ключевых функций ИИ. В части II подробнее рассмотрим процесс принятия решений и докажем, что одних точечных решений недостаточно, чтобы получить высокую отдачу от прогнозирования. Мы рассмотрим три основных положения. Во-первых, процесс принятия решений сложен, связан с когнитивными издержками и не сводится к простому следованию правилам. Он позволяет скорректировать действия в ответ на новую информацию. Без прогнозирования эти преимущества отчасти утрачивают свою ценность. Во-вторых, прогнозы ИИ могут изменить баланс между правилами и решениями, а за правилами и действиями, призванными защитить компанию от негативных последствий, таится неопределенность. Из-за нее трудно найти применение искусственному интеллекту. В то же время именно с неопределенностью могут быть связаны наиболее сильные потрясения. Если она проявится, то компании, которые стараются ее скрыть, окажутся в опасности. В-третьих, мы обсудим, как решения связаны между собой. Когда они взаимодействуют, переход от правил к решениям, основанным на прогнозировании, фактически добавляет системе определенную долю ненадежности. Чтобы с ней справиться, часто нужны общесистемные изменения. Проблема в том, что правила служат для системы связующим материалом, нередко тонким и малозаметным. Поэтому проще построить новую систему с нуля, чем изменить существующую. Исторически сложилось так, что новые компании и стартапы часто опережают устоявшиеся предприятия, когда для оптимизации требуется полная перестройка. Таким образом, изменения на системном уровне угрожают действующим организациям разрушением.

В части III речь пойдет о создании новых систем, которое предполагает не просто пересмотр одного решения на основе прогноза, а комплексную переоценку всех взаимосвязанных решений. Мы выясним, насколько важны системное мышление и способность подмечать неочевидную взаимосвязь между решениями, особенно если ранее многое регулировалось правилами. Мы покажем, что прогнозирование с помощью ИИ уже оказывает системное воздействие на инновационный процесс. На основании этих данных можно судить о том, какие изменения потребуются в других сферах.

В части IV мы рассмотрим ключевое следствие системной трансформации, а именно: что она будет означать для руководства. Подрывные процессы предполагают перераспределение экономической власти, то есть изменится положение тех, кто создает наибольшую экономическую ценность. Мы обратимся к истории, чтобы объяснить, как подрывные процессы, преобразовавшие промышленность, связаны с системными изменениями. Затем поговорим о наиболее распространенном страхе, связанном с ИИ: могут ли машины захватить власть. Мы убедимся, что функция ИИ всего лишь прогностика, помогающая принимать решения. Властью обладают не машины – какими бы могущественными они ни казались, – а те, кто стоит за ними и определяет их реакцию на прогнозы, которую мы называем суждением. Далее мы опишем преимущества более точных прогнозов в условиях конкуренции и охарактеризуем необходимые для них данные. Иначе говоря, узнаем, как прогнозирование помогает укрепить позиции компании на рынке.

В части V описан механизм, с помощью которого прогнозирование меняет соотношение сил на рынке, то есть как ИИ разрушает систему. Мы выясним, как внедрение ИИ разделяет прогнозы и суждения, которые были неразрывно связаны ранее – когда решения принимались лицами, не имевшими надежных прогностических инструментов. Здесь возникает закономерный вопрос: действительно ли тот, кто принимает решение в настоящий момент, располагает наилучшими возможностями для этого? Далее мы разберемся, к кому перейдет право выносить суждения после их отделения от прогнозов. В частности, изучим, каким будет переход от децентрализованной процедуры принятия решений к централизованной – с последующей концентрацией власти. Аналогично, когда прогнозирование позволяет перейти от правил к решениям, а затем к инновационной системе их принятия, в ее фокусе оказываются новые люди и, следовательно, они и получают власть.

Наконец, в части VI мы покажем, как проектируются надежные системы, основанные на новых разработках ИИ. Также предложим инструмент, который поможет проанализировать свой бизнес и отрасль как систему решений (или потенциальных решений). Для этого используется подход с «чистого листа»: при доступе к мощным предсказательным машинам он позволяет свести задачу к небольшому набору основополагающих решений. Мы покажем, как это работает, на примере страхования жилья. Затем рассмотрим, как выстроить подобные процессы в здравоохранении – на системном уровне оно уже сталкивается с проблемами, которые связаны с применением ИИ.

В заключение приведем пример погрешности ИИ, который волнует многих. Мы утверждаем, что если рассматривать ИИ как точечное решение, то эта погрешность представляет собой проблему и может вызвать обоснованное сопротивление внедрению инструментов прогнозирования. Однако правильнее рассматривать ее на системном уровне. Как только мы поймем, какое место занимает ИИ в системе прогнозирования, станет ясно, что он не порождает данную погрешность, а скорее создает возможность для ее устранения.

В целом мы хотели бы подчеркнуть, что трансформация отрасли на основе ИИ требует времени. Вначале не очевидно, как это сделать. Многие будут экспериментировать и терпеть неудачи из-за непонимания возникающих проблем или неспособности снизить себестоимость единицы продукта. В конце концов кто-то добьется успеха и проложит путь к прибыльности. Другие попробуют подражать. Лидер отрасли попытается воздвигнуть барьеры на их пути, чтобы защитить свое преимущество. Возможно, это ему удастся. Как бы то ни было, отрасль будет трансформироваться, и, как всегда, в ней будут победители и проигравшие.

КЛЮЧЕВЫЕ МОМЕНТЫ

• Несмотря на потрясающие прогностические возможности ИИ, измеренный рост производительности труда за последнее десятилетие сократился вдвое, а реальные доходы большинства американцев стагнируют с конца 1990-х годов. Этот парадокс производительности встречается не впервые: нечто подобное наблюдалось в 1980-х годах, когда появились компьютеры. Мы называем такой период межвременьем: мощь искусственного интеллекта уже видна, но широкого распространения он еще не получил. Точечные и прикладные решения разрабатываются и внедряются достаточно быстро, но для системных решений, которые позволят раскрыть огромный потенциал ИИ, требуется гораздо больше времени.

• Независимость – ключевое понятие в определениях трех типов решений ИИ: точечных, прикладных и системных. Если прогнозирование с помощью ИИ позволяет усовершенствовать принимаемое управленческое решение и это не зависит от каких-либо других изменений в системе, то целесообразно использовать точечное решение (то есть улучшить существующий процесс) или прикладное решение (новое). Однако если улучшение не имеет независимого характера, а требует других существенных изменений в системе для создания ценности, то необходимо системное решение.

Системные решения, как правило, сложнее реализовать, чем точечные или прикладные, поскольку они, как правило, не могут быть независимыми. Если точечные и прикладные решения позволяют добиться улучшений, то системные, по определению, приводят к изменениям, а следовательно, и к возможным сбоям. Однако во многих случаях системные решения, скорее всего, принесут наибольшую совокупную отдачу от инвестиций в ИИ. Кроме того, они, скорее всего, станут подрывными инновациями в некоторых отраслях, в результате чего появятся победители и проигравшие.