Kitobni o'qish: «Философские проблемы развития искусственного интеллекта»

© Коллектив авторов, 2019

© Издательство «Прометей», 2019

Введение

Традиционно показателем общей успешности в области разработки систем искусственного интеллекта считается способность внешне смоделировать типичные человеческие функции, качества и свойства, тем самым превзойдя человека в типично человеческих видах деятельности. Проявления и «самореализация» разработанных образцов воспринимаются сквозь призму человеческого фактора и так называемого «эффекта ИИ» (обессмысливание и «депсихологизация» деятельности), что являет собой латентную, но, тем не менее, глобальную проблему данной сферы. Проблема особенно актуализируется в связи с отсутствием критериев интерпретирования и «понимания» того, что мы имеем в качестве результатов деятельности в области разработки искусственного интеллекта: сугубо алгоритмизированный, лишённый возможностей понимания и осмысления механизм, или же – психо-машину с потенциалом возникновения прото-психических качеств, то есть задатков психики и, возможно, интеллекта. Несмотря на терминологические особенности самого понятия «искусственный интеллект», в мировом научном сообществе принято считать, что наличие именно сознания, а не интеллекта станет необходимым и достаточным основанием для признания машины разумной [1].

Если рассмотреть динамику своеобразной оппозиции организм-механизм (человек-машина), очевидным станет всеобщее признание превосходства первого над вторым: за организмом признается безусловное наличие сознательных качеств. Механизм остается вторичным, производным от организма. И неизвестно, что должно на самом деле произойти, для того чтобы механизм заслужил признание организма. Парадигма междисциплинарности в данном случае только усложняет проблему.

Детерминантой возникновения подобного восприятия машинной деятельности является совокупность двух векторов общечеловеческого нарциссизма, один из которых не позволяет организму признавать что-либо иное, кроме себя, в качестве достойного для обладания высшими привилегиями. Данный подход существенно затрудняет интерпретирование достижений техногенеза. Другой вектор – техно-дискриминация, т. е. гипертрофированный антропный принцип в виде постулата «долженствования»: механизм «должен» служить человеку и заменять его в наиболее сложных, небезопасных, монотонных областях деятельности.

Литература:

1. Скиба И.Р. Проблема искусственного интеллекта: человек и машина [Электронный ресурс] https://neuronus. com/stat/1392-problema-iskusstvennogo-intellekta-chelovek-i-mashina.html

Глава 1
Фундаментальные проблемы создания и развития искусственного интеллекта

1.1. Философские проблемы развития искусственного интеллекта

Современный этап научно-технической революции ассоциируется с широким внедрением технологий, основанных на развитом искусственном интеллекте. Понятие искусственного интеллекта стало тривиальным для современного мира, но его контуры и фундаментальные проблемы, связанные с его созданием, очерчиваются философией искусственного интеллекта. Философия искусственного интеллекта (ИИ) охватывает широкий круг фундаментальных проблем, связанных с созданием искусственного интеллекта. В чём сущность разума? Каковы принципы его работы? И, наконец, – возможно ли создание искусственного интеллекта? Несмотря на огромные успехи в создании программ и алгоритмов, способных решать многие интеллектуальные задачи гораздо эффективнее человека, мы не можем найти ясного и однозначного ответа на эти вопросы.

Ответ на вопрос о возможности существования искусственного интеллекта определялся мировоззренческой ориентацией мыслителя: дуалистическая традиция, восходящая к Р. Декарту, постулировала невыразимость мышления через телесное, тогда как материалистическая традиция считала мышление производным от телесного. Декарт, исходя из своей дуалистической системы, считал мышление атрибутом лишь человека (даже животных он описывал как «автоматы»), тогда как материалистическая традиция теоретически оставляла возможность существования мышления не только у людей.

Что же можно считать критерием наличия разума? Обыденное сознание, как правило, воспринимает в качестве критерия разумности поведение. Мы считаем нечто разумным или неразумным, оценивая его поведение. Но какова связь между сущностью разума человека и его внешним проявлением – разумным поведением? Какое поведение будет разумным? Как по чьему-либо поведению можно определить, обладает ли это существо разумом?

Ещё в XVIII в. Дени Дидро в своих «Философских размышлениях» заявлял, что если он найдёт попугая, способного ответить на любой вопрос, то этого попугая, без сомнения, придётся считать разумным существом.

В 1936 году философ А. Айер рассмотрел вопрос касательно других разумов: как узнать, что другие люди имеют тот же сознательный опыт, что и мы? «Единственным основанием, на котором я могу утверждать, что объект, который кажется разумным, на самом деле не разумное существо, а просто машина, является то, что он не может пройти один из эмпирических тестов, согласно которым определяется наличие или отсутствие сознания» [1].

«Могут ли машины мыслить?» – такой вопрос поставил в 1950 г. британский математик и логик Алан Тьюринг. Он подчёркивает, что традиционный подход к этому вопросу состоит в том, чтобы сначала определить понятия «машина» и «интеллект». Тьюринг, однако, выбрал другой путь; вместо этого он заменил исходный вопрос другим, «который тесно связан с исходным и формулируется относительно недвусмысленно». По существу, он предлагает заменить вопрос «Думают ли машины?» вопросом «Могут ли машины делать то, что можем делать мы (как мыслящие создания)?». «Компьютер можно считать разумным, если он способен заставить нас поверить, что мы имеем дело не с машиной, а с человеком». Преимуществом нового вопроса, как утверждает Тьюринг, является то, что он проводит «чёткую границу между физическими и интеллектуальными возможностями человека», для чего Тьюринг предлагает эмпирический тест.

Суть теста Тьюринга в следующем. В разных комнатах находятся судья, человек и машина. Судья ведёт переписку с человеком и машиной, заранее не зная, кто из собеседников является человеком, а кто – машиной. Время ответа на вопрос является фиксированным, так что судья не может определить машину по этому признаку (во времена Тьюринга машины работали медленнее человека, а сейчас реагируют быстрее). Если судья не может определить, кто из его собеседников является машиной, то машина смогла пройти тест Тьюринга и может считаться мыслящей. Причём, машина не просто будет подобием разума человека – она будет именно разумом, т. к. у нас не будет никакой возможности отличить её поведение от поведения человека. Такая трактовка искусственного интеллекта как полноправного эквивалента естественного получила название «сильного Искусственного интеллекта».

Обратим внимание на то, что тест Тьюринга вовсе не подразумевает, что машина должна «понимать» суть тех слов и выражений, которыми она оперирует. Машина должна лишь должным образом имитировать осмысленные ответы.

В 1980 г. Дж. Сёрл предлагает мысленный эксперимент, критикующий тест Тьюринга и представление о возможности существования разума без понимания. Суть эксперимента в следующем. Сёрл пытается имитировать знание китайского языка, которого не понимает.

«…Педположим, что меня поместили в комнату, в которой расставлены корзинки, полные китайских иероглифов. Предположим также, что мне дали учебник на английском языке, в котором приводятся правила сочетания символов китайского языка, причём правила эти можно применять, зная лишь форму символов, понимать значение символов совсем необязательно. Например, правила могут гласить: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два». Представим себе, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов, и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов» [2].

Таким образом, Сёрл проходит подобие теста Тьюринга на знание китайского языка, которого на самом деле не знает. Очевидно, что в данном случае Сёрл выполняет исключительно механическую работу и легко может быть заменён машиной. Сёрл показывает, что тест Тьюринга вовсе не является критерием наличия сознания, а лишь критерием способности манипулировать символами.

Суть позиции Сёрла по вопросу искусственного интеллекта сводится к следующему: разум оперирует смысловым содержанием (семантикой), тогда как компьютерная программа полностью определяется своей синтаксической структурой. Следовательно, программы не являются сущностью разума и их наличия недостаточно для наличия разума. Разум не может сводиться лишь к выполнению компьютерной программы. То, что порождает разум, должно обладать, по крайней мере, причинно-следственными свойствами, эквивалентными соответствующим свойствам мозга. Т. е. Сёрл отметает прочерченный Тьюрингом прямой путь к искусственному интеллекту.

Впрочем, против мысленного эксперимента Сёрла было приведено немало возражений. Вот основные из них.

• Для того, чтобы гарантировано пройти тест, в книге должны содержаться адекватные ответы на ВСЕ существующие вопросы, т. е. книга должна обладать всезнанием, иначе вероятность того, что необычный вопрос вгонит систему в ступор, будет ненулевой.

• На самом деле, тест на знание китайского языка проходит система, состоящая из Дж. Сёрла, книги правил и людей, которые эту книгу правил составляли. А вот люди, составлявшие книгу, несомненно, обладают знанием китайского языка. Хотя другие части системы язык не понимают.

Также, аргументом против теста Тьюринга как критерия наличия разума является то, что тест Тьюринга на самом деле является тестом на человекоподобие, а не на разумность вообще. При прохождении теста машина должна вести себя как человек – но ведь далеко не всё человеческое поведение разумно, а многие интеллектуальные задачи машина может решать гораздо эффективнее человека (например, математические вычисления). Стремление же пройти тест Тьюринга заставляет машины быть «не слишком умной». Можно привести такое сравнение: если бы инженеры начала XX в., создавая самолёт, пытались сделать его точной копией птицы, они были бы похожи на современных учёных, которые пытаются создать машину, мыслящую точно так же, как мыслит человек. Это совершенно непрактично. Самолёты летают не как птицы, тем не менее, они летают гораздо быстрее, дальше и выше птиц. Т. е. тест Тьюринга не раскрывает сущности разума, а лишь указывает на успешную имитацию его внешнего проявления, причём проявления не самого значимого. «Способность болтать – еще не признак интеллекта» – резюмируют эту позицию сценаристы фильма «Звёздные войны».

Эти теоретические рассуждения подтверждаются и практикой создания интеллектуальных программ. Например, типична история машинного перевода, возможности которого еще несколько десятилетий считались значительно превосходящими возможности переводчика-человека. Но на практике, несмотря на немыслимые объёмы информации, которые способна хранить машина, перевод в лучшем случае настолько стилистически «коряв» и уродлив, что «машинный перевод» стал своеобразной темой комедийного интернет-искусства. Любому хорошему переводчику известно, что для настоящего перевода (даже технического) мало словаря и грамматики. Тут еще нужны знания в той области, к которой относится текст – переводчик должен понимать, о чём в тексте идёт речь. Т. е. синтаксис без семантики не даёт возможности решать большую часть интеллектуальных задач, доступных разуму человека.

Поэтому, для разработчиков современных интеллектуальных программ тест Тьюринга не стал универсальным критерием их успеха. Зато получил огромное распространение «тест Тьюринга наоборот» – назойливая CAPTCHA¹.

Как мы видим, поиск возможности создания искусственного интеллекта в любом случае упирается в вопрос: что такое разум?

В 1963 г. А. Ньюэлл и Г. Саймон, основываясь на анализе языка, предположили, что сущность разума заключается в способности оперировать символами. Такой подход позволил создать программу, способную решить любую интеллектуальную задачу в том случае, если задача могла быть формализована (например, доказывать теоремы, играть в шахматы и т. п.). Способность выполнять символьные вычисления вполне достаточна для решения интеллектуальных задач, а без таких вычислений разумное поведение невозможно. Таким образом, разум может быть рассмотрен как устройство, оперирующее информацией в соответствии с формальными правилами. В рамках данного подхода искусственный интеллект создаётся по аналогии с мозгом и нервной системой человека, т. е. по принципу нейросети. Нейросети не программируются в привычном смысле этого слова, они обучаются. Возможность обучения – одно из главных преимуществ нейросетей перед традиционными алгоритмами. Технически обучение заключается в нахождении коэффициентов связей между нейронами. В процессе обучения нейронная сеть способна выявлять сложные зависимости между входными данными и выходными, а также выполнять обобщение.

Этот подход подвергся критике со стороны философа Х. Дрейфуса. Суть его возражений в следующем:

• знание человека о мире состоит не только и не столько из объективных знаний о мире, сколько из нашего субьективного отношения к нему и склонности воспринимать и интерпретировать события так или иначе. Даже если мы используем символическую систему для выражения наших мыслей, мысли всё равно формируются во многом под воздействием бессознательных факторов. Следовательно, рассмотрение разума может как устройства, оперирующего информацией в соответствии с формальными правилами, недостаточно для понимания сущности разума и создания искусственного интеллекта;

• не всё знание и не все задачи могут быть формализованы. Значительная часть восприятия человека не может быть адекватно выражена в символах. Следовательно, искусственный интеллект, построенный как символическая система, сможет решать лишь небольшой круг формализуемых задач, не являясь разумом.

Практика создания искусственного интеллекта подтвердила правоту скептицизма Дрейфуса. Современные нейрокомпьютеры способны эффективно решать многие задачи, но до возможностей человеческого разума им бесконечно далеко. Таким образом, сведение разума к оперированию символами по формальным правилам не привело к пониманию его сущности.

Хотя качественного прорыва в создании сильного искусственного интеллекта не произошло, количественно вычислительные возможности ЭВМ возрастали экспоненциально, и в данный момент сложность современных ЭВМ неумолимо приближается к сложности мозга человека. Возможно ли, что количественный рост сложности вычислительных систем приведёт к их качественному скачку?

В 1993 г. математик и писатель В. Виндж предложил концепцию, описывающую последствия возникновения искусственного интеллекта, превосходящего по вычислительным возможностям человеческий разум. С того момента, как искусственный интеллект будет открывать новое знание быстрее человека, искусственный интеллект сможет создавать всё более и более совершенные вычислительные машины, которые будут ускорять рост знания в ещё большей степени, т. е. процесс будет нарастать как снежный ком, становясь недоступным пониманию человека. После этого развитие искусственного интеллекта станет настолько стремительным, что даже самые приблизительные прогнозы о том, что произойдёт дальше, теряют смысл. Виндж назвал этот момент «технологической сингулярностью».

Технологическая сингулярность характеризуется появлением нового вида знания – т. н. машинного знания, т. е. знания, доступного лишь машине. Как это может выглядеть? Например, как математическая теорема, доказанная машиной. Первая крупная математическая теорема, доказанная с помощью компьютера, – теорема о четырех красках. Ее формулировка элементарна: для того чтобы раскрасить географическую карту так, чтобы никакие два граничащих региона не были одного цвета, достаточно всего четырех разных красок. Два региона считаются граничащими, если они имеют протяженную границу, то есть состоящую больше чем из одной точки. Доказательство теоремы о четырех красках – прецедент использования компьютера при решении классических математических задач. В то же время оно примечательно своей длиной и сложностью. Даже после применения компьютера, позволившего значительно сократить вычисления, текст доказательства элементарно формулируемого утверждения имеет астрономическую длину. Нетрудно представить себе появление такой теоремы, доказательство которой будет слишком длинным, для того, чтобы человеческой жизни хватило на его проверку. И тогда развитие знания и получение его плодов окажутся прерогативой искусственного разума.

Насколько вопрос создания сильного искусственного интеллекта является на данный момент актуальным? То, что интерес к данной проблеме сохраняется, видно хотя бы по той бурной дискуссии, которую вызвали публикации Р. Пенроуза. Опираясь на теорему К. Геделя о неполноте формальных систем, он обосновывал вывод о принципиальной невозможности создания машинных алгоритмов, способных имитировать во всем объеме интеллектуальные способности человека. Но нельзя не признать, что вопрос создания искусственного мышления, равного человеческому, больше не будоражит умы и воображение людей так, как это было в середине XX в. Снижение остроты интереса к проблеме создания сильного искусственного интеллекта человеческого уровня объясняют недостаточным пониманием природы человеческого разума. При этом, однако, обычно неявно предполагают, что механизм человеческого мышления в принципе может быть прояснен и представлен в виде некоторого алгоритма, хотя решение этой задачи отодвигается на неопределенное будущее. Вполне возможно такое положение дел, что природа человеческого интеллекта такова, что «прояснить» его механизмы, свести деятельность интеллекта к некоторому набору «функций» или «операций», невозможно в принципе. Но всё же плоды создания сильного искусственного интеллекта слишком сладко манят современных учёных и инженеров. Ведь создание сильного искусственного интеллекта позволило бы сразу решить практически неограниченное число прикладных задач – поскольку не нужно было бы каждый раз заново разрабатывать «интеллектуальные» программы для решения очередной задачи: подлинно «интеллектуальная» машина была бы способна самостоятельно найти эффективный путь решения любой (или почти любой) поставленной перед ней задачи. Ведь именно эту способность – находить решения (и ставить сами задачи) самостоятельно мы, собственно, и называем интеллектом.

Но наиболее важным значением философских проблем искусственного интеллекта представляется не создание пусть и весьма совершенных алгоритмов для решения практических задач, а те новые горизонты в понимании природы и сущности сознания, которые открываются в процессе решения вопросов создания искусственного интеллекта. Таким образом, философия искусственного интеллекта в полной мере следует максиме Сократа «познай самого себя».

Ученое сообщество рассуждает о сроках появления умных машин и сходится в следующем: развитие технологий безусловно окажет сильное влияние на общество, экономику и отношения между людьми в будущем. Уже сейчас раздаются призывы обдумать этические принципы разработки искусственного интеллекта, удостоверившись в том, что искусственный интеллект будет развиваться только в безопасном для людей направлении. И все-таки стоит ли человеку опасаться искусственного разума?

Прежде чем начать рассуждать о проблемах создания искусственного интеллекта, его влиянии на человека и общество, попробуем разобраться, что мы понимаем под ним. Итак, что же такое искусственный разум и почему его так многие опасаются?

Ученые не могут конкретно выразить суть интеллекта в каком-то одном определении. В начале 80-х гг. ученые в области теории вычислений Барр и Файгенбаум предложили следующее определение искусственного интеллекта. Искусственный интеллект – это область информатики, которая занимается разработкой интеллектуальных компьютерных систем, то есть систем, обладающих возможностями, которые мы традиционно связываем с человеческим разумом, – понимание языка, обучение, способность рассуждать, решать проблемы и т. д. На наш взгляд искусственный интеллект – это не какой-то определенный компьютер или робот-человек, а это целая научная область, целью которой является разработка способов создания так называемых машин, автоматов или роботов, которые бы обладали свойством человеческого интеллекта.

Несмотря на последние достижения в области искусственного интеллекта, до появления разумных машино-существ еще далеко, признают ученые и специалисты. Ведь в создании данного мощного искусственного интеллекта существует огромное количество проблем: этических, психологических и даже юридических и т. д.

Как известно, изобретение искусственного интеллекта связывают с созданием нейронных сетей. Нейронные сети – это одно из направлений исследований в области искусственного интеллекта, основанное на моделировании биологических процессов, которые происходят в человеческом мозгу. Именно им мы обязаны появлению впечатляющих результатов в распознавании речи и изображений, постановке медицинских диагнозов, переводе текста и создании изображений, генерации речи и музыкальных композиций. Сегодня, как признают специалисты, нейронные сети признаны одним из лучших алгоритмов машинного обучения, а решения на их основе показывают на данный момент самые выдающиеся результаты. Однако, даже в этой области существует большое количество проблем. Дело в том, что нейроны, моделируемые в нейронных сетях, значительно проще устроены, нежели нейроны в человеческом мозге к тому же это всего лишь программы. А создавать искусственные нервные клетки современная наука пока не научилась. Даже если бы это удалось, то воссоздать человеческий мозг все равно бы не получилось, потому что его структура крайне сложна. Кроме того, все возможности человеческого мозга до конца не изучены. Но если в ближайшие пару сотен лет и это станет возможным, исследователи столкнутся с новой проблемой. Как наделить такой мозг знаниями и опытом? Ведь на самом деле человеческий мозг развивается только благодаря деятельности человека на протяжении всей его жизни. Также существует еще одна необъяснимая до сих пор проблема так называемого паралича сети. Существует своеобразная аритмия сигналов, поступающих с нейронов, в результате чего все нейроны начинают вырабатывать ошибочные сигналы. Ошибка в сигнале одного нейрона выводит из строя всю сеть.

Современные нейронные сети устроены в полторы тысячи раз проще, чем, например, головной мозг крысы. Сейчас создаются специализированные процессоры для обучения таких сетей (так называемые нейроморфические процессоры), которые позволят увеличить скорость вычислений на несколько порядков. На сегодняшний день разработчики не просто заняты увеличением количества нейронов в сети, но и изменением их конструкции.

В создании искусственного интеллекта также существует психологическая проблема. Дело в том, что систему искусственного интеллекта необходимо наделить самооценкой, само отношением и самоанализом. Данной системе нужно каким-либо образом дать понять, что она существует. А продвижений в этом вопросе до сих пор нет. Кроме того, чтобы система считалась интеллектуальной, она должна обладать мотивацией. Такие системы должны уметь сами ставить перед собой цели и находить способы их достижения. Таким образом, система, претендующая на звание интеллектуальной должна обладать способностью к самоанализу для того, чтобы иметь возможность выявлять мотивы к своей деятельности для постановки целей и решения задач. На данный момент существуют лишь гипотетические способы создания таких систем в виде многопроцессорных пространств, в которых информация накапливается и используется с помощью определенного свода правил. Что касается последствий искусственного интеллекта для человека и общества в целом, то как известно, человечеству свойственно саморазрушение. Из истории мы знаем, что многие научные изобретения принесли изначально огромное количество бед, прежде чем их научились использовать разумно, во благо общества. Поэтому стоит хорошо задуматься, к чему приведет человечество создание искусственного разума.

Первым последствием, о котором беспокоится большинство людей – в результате создания искусственного интеллекта многие люди лишатся своих рабочих мест. Люди все больше будут перекладывать часть своих служебных заданий и многие рутинные задачи на машину, что позволит им сосредоточиться на творческой работе, но с применением сильного искусственного интеллекта неизбежно пострадают менее квалифицированные кадры, и уже сейчас необходимо задуматься, как их защитить, переучить и подготовить к новой жизни. Пострадать, как показывает практика, могут не только синие воротнички, но и работники умственного труда, особенно это будет заметно в условиях «глобализации, где все основные потребности каждого человека будут удовлетворены, а сам человек будет в целом избавлен от тяжелой монотонной физической работы». Искусственный интеллект сам по себе не тождественен автоматизации процессов, но развитие искусственного интеллекта приведет к тому, что все больше задач будет по силам компьютерной программе. Кроме того, существуют такие специальности, которые как раз и появились благодаря созданию автоматизированных линий производства. Например, системные администраторы, программисты. На наш взгляд появятся новые профессии, которые будут обслуживать искусственный интеллект. Однако, он принесет гораздо меньше рабочих мест, чем было бы до применения искусственного интеллекта. Также вопрос встанет в переобучении людей, не все смогут быстро приспособиться к новым профессиям. Второе возможное последствие для общества – может уменьшиться или, наоборот, увеличиться количество свободного времени, имеющегося в распоряжении людей. Говоря об автоматизации и всеобщем, глобальном применении искусственного интеллекта, с одной стороны, всем может показаться, что, если за человека все будет выполнять автоматическая разумная система, ему нечем будет заниматься. Однако в настоящий момент такая тенденция не подтверждается. Современные интеллектуальные системы снимают с человека часть нагрузки, но не делают все за него. Поэтому данной проблемы опасаться не стоит. Важной юридической проблемой также является то, что люди могут потерять некоторые из своих прав на личную жизнь. Дело в том, что развитие технологии распознавания речи может привести к широкому распространению средств прослушивания телефонных разговоров и поэтому потере гражданских свобод. Однако подобные технологии могут так же принести и пользу в предотвращении террористических актов и преступлений.

И самым главным и наиболее страшным последствием, которое выделяют эксперты, может стать уничтожение человечества. Многие специалисты утверждают, что успех в развитии искусственного интеллекта может стать началом конца человеческой цивилизации. Почти любая технология, попадая в злостные руки, обнаруживает потенциальные возможности для причинения вреда, но, когда речь идет об искусственном интеллекте и робототехнике, возникает новая проблема, связанная с тем, что эти злонамеренные руки могут принадлежать самой технологии. Так существует множество научно-фантастических произведений, фантазирующих на данную тему. Например, Трилогии «Терминатор» и «Матрица», в которых показывается возможная картина дальнейшего будущего для человечества, если мощный искусственный интеллект все-таки будет создан и применен.

Люди иногда используют интеллект в агрессивных формах, поскольку они обладают некоторыми агрессивными врожденными тенденциями обусловленными естественным отбором. Но машины не нуждаются в этом, если только сами люди не захотят спроектировать их для этих целей.

Существует еще одна этическая проблема и проблема свободы, потому что человек будет зависим от искусственного интеллекта, а «свобода человека заключается в том, чтобы следовать одной из сторон своей двойственной природы – и за этот свободный выбор человек несет всю полноту и ответственность». Принимая во внимание, как долго человечество шло к тому, чтобы наделить равными правами всех людей, вне зависимости от цвета их кожи, расы и даже гендера, можно уже сейчас предположить, что и машины они не сходу не признают равными.

Искусственный интеллект также влияет на образовательную деятельность. Следует отметить, что с появлением компьютерных технологий многие дисциплины стали преподаваться дистанционное обучение, а это приводит к отсутствию вербального общения между преподавателем и студентом, а также это привело к сокращению нагрузки преподавателей и сокращению численности профессорско-преподавательского состава. Так что же будет, если робот заменит преподавателя и что станет с системой образования? На наш взгляд, внедрение роботов, выполняющих функцию преподавателя негативно скажется на образовательном процессе, так как именно в школах приобретаются необходимые навыки и знания [5]. Студенты получают знания от преподавателя, общаясь, дискутируя, вступая в диалоги с одногруппниками, тем самым развивается коммуникативные способности, умение поддерживать беседу, речевые навыки. Если все это убрать, то дети просто замкнутся в себе и будут общаться только посредством различного рода гаджетов, при этом информационные технологии вытеснят речь. С другой стороны, если произойдет замена преподавателей роботами, то тысячи преподавателей останутся без работы, среди которых не только учителя в школьных учреждениях, но и преподаватели с кандидатскими степенями. Вместе с этическими появляются и юридические тонкости. Так, например, эксперты спорят, если в будущем машины смогут все-таки осознавать себя придется ли наделять их определенными правами, и что тогда будет делать человека человеком, а машину машиной? И как вообще буду складываться отношения между машинами и людьми? Кто возьмет на себя ответственность, если произойдет авария с участником беспилотного автомобиля или поломка умного медицинского устройства, которая унесет жизнь человека во время операции. Огромное количество нравственных вопросов: стоит ли развивать беспилотное оружие, способное действовать без ведома человека? Поэтому при создании искусственного интеллекта, нужно параллельно задумываться о создании четкой система контроля, которая будет следить за искусственным разумом, и в нужный момент сможет не только предотвратить все аварии, поломки и в непредвиденных случаях смогут исправить все последствия. Ведь сбои были, есть и будут в программах всегда и нельзя исключить такой же сбой даже в сильном искусственном интеллекте, который может привести к серьезным неминуемым последствиям.

Единого ответа, что же такое Искусственный интеллект на сегодняшний день не существует. Каждый автор имеет свою точку зрения. Некоторые считают, что искусственный разум может быть создан на основе нейронных сетей, но именно на текущем этапе развития человечества создать его все равно невозможно, другие вообще в принципе отрицают возможность создания искусственного интеллекта.

Тем не менее, при должной настойчивости любая область интеллектуальной деятельности человека, по крайней мере, если она не носит ярко выраженного творческого характера, может выполняться машиной [7]. Однако конечная цель проекта Искусственный интеллект – создание универсальной «разумной машины», которая могла бы обучаться, подобно человеку, и самостоятельно совершенствовать свое поведение, осваивать новые виды интеллектуальной деятельности. К сожалению, или может быть к счастью, эта цель не достигнута и появляется все больше сомнений в ее принципиальной достижимости. По крайней мере, никакого реального прогресса в создании такого самообучающегося интеллекта достигнуто не было и в ближайшее время не предвидится, по мнению экспертов.

Что касается проблем создания и последствий, то, на мой взгляд, с изобретением чего-либо всегда возникали проблемы, и они постоянно несли, как и позитивные, так и негативные последствия. Но эти проблемы всегда решаемы, а последствия исправляемы [4]. Общество развивается, ему необходим прогресс, поэтому создание искусственного разума, если не в ближайшем будущем, то в дальнейшем попросту неизбежно. Кроме того, не стоит бояться всех перечисленных выше последствий. Многие специалисты, задействованные в данный момент в разработке систем искусственного интеллекта, охотно признают, что машины не скоро сделают людей ненужными. Именно потому, что искусственный интеллект еще не настолько «умён». Главное, чего ему на сегодняшний день не хватает – автономной возможности думать.

Но кое-что уже происходит: понемногу стирается грань между работой или задачей, выполненной человеком, и задачей, выполненной машиной. Сейчас иногда сложно понять, кто сидит внутри системы – человек или программа.

Таким образом, по нашему мнению, сильный искусственный интеллект в ближайшее время создан не будет. Но на данный момент, уже создано много технологий искусственного интеллекта, которые несомненно влияют на человека и общество в целом.

Литература

1. Айер А. Язык, истина и логика. М: «Канон⁺» РООИ «Реабилитация», 2010. – С. 140.

2. Сирл Дж. Разум мозга – компьютерная программа? // В мире науки (Scientific American. Издание на русском языке). – № 3. – 1990. – М.: Мир, 1990.

3. Сёрль Дж. Рациональность в действии / Пер. с англ. А. Колодия, Е. Румянцевой. – М.: Прогресс-Традиция, 2004. – 336 с.

4. Васильев В.В. Трудная проблема сознания. – М., Прогресс-Традиция, 2009. – 272 с.

5. Замараева Е.И. Виртуализация современной реальности в аспекте дегуманизации информационного общества // Научно-техническая революция: 4:0 / Материалы Международной междисциплинарной научно-практической конференции / Под ред. Н.А. Ореховской, С.В. Назаренко, А.В. Волобуева, Л.Б. Омаровой. – Казань: Отечество, 2018. – 174 с.

6. Кузина Е.С. Образование и современный этап научно-технической революции // Научно-техническая революция: 4:0 / Материалы Международной междисциплинарной научно-практической конференции / Под ред. Н.А. Ореховской, С.В. Назаренко, А.В. Волобуева, Л.Б. Омаровой. – Казань: Отечество, 2018. – С. 47

7. Ореховская Н.А. Массовое сознание как объект информационно-коммуникативных PR-технологий: Монография. – М.: Международный изд. центр Этносоциум, 2010. – 156 с.

1.2. Искусственный интеллект и будущее человека

Искусственный интеллект в последнее время приобрел большое значение и стал исключительно актуальным. Президент В. Путин, выступая перед школьниками и студентами (1 сентября 2017 г., Ярославль), сказал, что «искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые угрозы»; «тот, кто станет лидером в этой сфере, будет властелином мира». На заседании Совета по науке и образованию (8 февраля 2018 г., Новосибирск) президент призвал к лидерству в сфере искусственного интеллекта, через призму которого он увидел Россию, устремленную в будущее.

Отчасти сходная ситуация наблюдается или перекликается в современной Франции. Здесь французский президент Э. Макрон 29 марта 2018 года выступил перед парламентом с докладом об искусственном интеллекте, в котором излагается и раскрывается стратегия дальнейшего развития страны. Президент убежден, что Франция имеет все необходимое, чтобы стать лидером в сфере искусственного интеллекта. Поэтому, несмотря на то, что, как отмечает газета Le Monde, на сегодня 18 млн. французов, или более четверти французского населения, плохо или совсем не владеют компьютером, будущее Франции четко определено: «цифровое включение – главная цель общества» [4, с. 7].

Для достижения поставленной цели, по инициативе президента, из бюджета выделяется 1,5 млрд евро. Выдвигаются более конкретные задачи: тройное увеличение к 2020 году лиц, получивших образование в сфере искусственного интеллекта. Повышение стипендии студентов и зарплаты молодых специалистов. Увеличение стипендии для иностранных студентов. Особое внимание уделяется феминизации образования: сейчас доля девушек, получающих образование в сфере искусственного интеллекта, составляет 10 %, ставится задача довести эту долю до 40 %.

Современный искусственный интеллект (ИИ) возник в середине XX века, хотя путь к нему начинался из далекой древности, из неолита.

В послевоенные годы исключительный вклад в развитие вычислительной техники и искусственного интеллекта внес английский математик А. Тьюринг. Уже в первой своей фундаментальной статье «Умные машины» (1947) он утверждает возможность создания искусственного мозга по аналогии с мозгом человека. Считается, что следующая его ключевая статья «Вычислительные машины и интеллект» (1950) представляет собой «настоящий акт рождения искусственного интеллекта» [3, с. 26], хотя в ней признается не столько то, что машина является умной и думающей, сколько то, что она может адекватно имитировать мышление человека. Он также ввел так называемый «тест Тьюринга», позволяющий определять соответствие уровня интеллекта компьютера уровню интеллекта человека, может ли компьютер стать неотличимым от интеллекта человека, подстроившись под его логику и сымитировав ход его мысли. Другими словами, тест означает проверку компьютера на разумность. Благодаря Тьюрингу компьютеры переставали быть простыми вычислительными машинами и становились универсальными машинами, способными имитировать все, включая человеческий интеллект [там же, с. 28].

Сам термин «искусственный интеллект» впервые предложил Дж. Маккарти (1955), а понятие искусственного интеллекта выдвинул М. Мински (1956), определяя его как ««науку, целью которой является осуществление с помощью машины задач, которые человек выполняет, используя свой интеллект» [там же, с. 16]. Сутью искусственного интеллекта является имитация машиной человеческого мышления. В том же 1956 году в Дартмутском университете США состоялась первая научная конференция, которая объявила искусственный интеллект новой областью научных исследований. Наряду с наукой искусственный интеллект является также технологией, выступая при этом одной из самых современных, ведущих и прорывных технологий. В этом плане он решительно преобразует современную промышленность, совершенно так же, как более века назад электричество преобразовало все области промышленности одну за другой. Различают «слабый» искусственный интеллект, который по своему уровню ниже человеческого, и «сильный» искусственный интеллект, который достигает и даже превосходит человеческий интеллект. Он предполагает способность мыслить и осознавать себя, хотя сопереживания и мудрость остаются под вопросом.

Вместе с появлением искусственного интеллекта вокруг него возникла оживленная и даже острая полемика.

Многие авторы выражают прямо противоположные позиции: от полного признания до полного отрицания. Ярким примером положительного отношения к искусственному интеллекту является позиция Р. Курцвейла – американского футуролога и изобретателя, технического директора Google. Билл Гейтс назвал его лучшим из тех, кто занимается предсказанием будущей эволюции искусственного интеллекта. Многие его предсказания сбылись, включая победу компьютера над Г. Каспаровым, чемпионом мира по шахматам; беспроводной доступ к персональному компьютеру и др. Как изобретатель, Р. Курцвейл создал первый планшетный сканер и первую читающую машину для незрячих.

Особенности его концепции во многом обусловлены методологией, где Р. Курцвейл называет себя строгим редукционистом. Редукционизм представляет собой методологический принцип, согласно которому сложные явления могут быть полностью объяснены с помощью законов, свойственных более простым явлениям. В социологии такой подход характерен для натурализма, механицизма и социал-дарвинизма, когда социальные явления объясняются биологическими, механическими или экономическими законами. Принцип редукции означает сведение сложного к простому, высшего к низшему, целого к свойствам частей.

Концепция Р. Курцвейла покоится в основном на трех идеях или понятиях: искусственный интеллект; технологическая сингулярность (единичность); закон ускорения отдачи. Они тесно взаимодействуют между собой, инициативной и ведущей силой при этом выступает искусственный интеллект, без которого технологическая сингулярность невозможна. Курцвейл особо выделяет искусственный интеллект, его эволюцию и развитие. Он также придает особую роль технологической сингулярности.

Все свои надежды Курцвейл возлагает на искусственный интеллект. Он развивает мысль о том, что искусственный интеллект спасет мир. Компьютер станет обладать разумом в человеческом понимании слова. К 2029 году он пройдет тест Тьюринга, доказывая наличие у него разума человеческого уровня. Курцвейл убежден, что создание сверхмощного искусственного интеллекта представляет собой реальный путь решения всех человеческих проблем. Он уверен, что скоро «различие между человеком и машиной начнет размываться, а потом и вовсе исчезнет» [1, c. 256]. Всесильный искусственный интеллект, компьютерный разум – это благо для человека, который последовательно будет превращаться в «постчеловека».

Касаясь эволюции человечества, Курцвейл отмечает, что мы будем становиться все менее биологическими, пока не дойдем до состояния, когда небиологическая (механическая) составляющая станет преобладать, а биологическая составляющая потеряет свое значение. Так что, если она вообще вдруг исчезнет, это не будет иметь отрицательных последствий, поскольку механическая часть уже полностью освоит биологическую и будет ее контролировать. У нас будет небиологическое тело, которое мы сможем создавать с помощью нанотехнологий, которое будет принимать любую форму. Такое тело может быть виртуальным, неотличимым от настоящего. Возникший постчеловек будет небиологическим существом.

В 2045 году Земля начнет превращаться в один гигантский компьютер и этот процесс будет постепенно распространяться на всю Вселенную.

Человечество в биологическом смысле и искусственный интеллект сольются в постчеловеческую реальность, именуемую «сингулярность». Курцвейл стал настоящим адептом технологической сингулярности, которая является неким предсказанием, касающимся экспоненциального ускорения технологического прогресса, который приводит к созданию супер- искусственного интеллекта, берущего в свои руки будущее человечества. Так что все это, следовательно, связано с предварительным возникновением сознательного, «сильного» искусственного интеллекта.

Курцвейл полагает, что в скором времени появятся законы, регулирующие права и обязанности роботов, а также их отношения с людьми. В недалеком будущем будет достигнуто бессмертие. Через несколько десятилетий солнечная энергия станет настолько дешевой и доступной, что обеспечит все энергетические потребности человечества. Большинство болезней человека исчезнет, поскольку их лечением займутся сверхэффективные нанороботы. Совсем скоро появятся люди-роботы, которые будут строить свой организм, исходя из своих потребностей.

В своих исследованиях и размышлениях Р. Курцвейл во многом опирается на два положения: с одной стороны, технологические инновации развиваются по экспоненте, с другой стороны, прогресс, достигнутый в одной области, оплодотворяет другие области. Так, складывается процесс беспрерывного взаимообогащения, который невиданным образом ускоряет технологический прогресс. Благодаря такому крестообразному оплодотворению все более многочисленных и все более быстро развивающихся технологий инновационные циклы становятся все более короткими, доходя до стадии, когда неожиданно возникает технологическая сингулярность [3, с. 79–80]. Курцвейл полагает, что точкой отсчета и точкой невозврата станет момент, когда искусственный интеллект превзойдет по всем параметрам человеческий интеллект. На этой же стадии возникнет супер- искусственный интеллект, более умный, чем человеческий. Своего высшего уровня, по мнению Курцвейла, он достигнет к 2045 году.

Закон ускорения отдачи дополняет и уточняет действие искусственного интеллекта и технологической сингулярности, хотя ему Курцвейл уделяет несколько меньше внимания. Этот закон является механическим, он показывает, что эволюционные процессы имеют тенденцию к ускорению. Примером проявления его действия выступает рост объема памяти и эффективности информационных технологий. Изучение действия этого закона раскрывает нам особенности информационных процессов, лежащих в основе биологических законов, включая законы функционирования нашего мозга. В изучении работы человеческого мозга Курцвейл видит один из самых важных проектов современной цивилизации.

В целом последствия технологической сингулярности могут быть разными, одна из них является оптимистической.

Этой версии придерживается Курцвейл. Он считает, что технологическая сингулярность решит все проблемы человечества. Он при этом полагает, что возникший интеллект будет по-прежнему представлять человеческую цивилизацию, что будущие машины будут человеческими, даже если фактически они уже не будут таковыми.

Будучи футурологом, Курцвейл является также известным представителем трансгуманизма. Трансгуманисты полагают, что прежняя эволюция человечества заканчивается, она вступает в трансгуманизм, который означает глубокие изменения во всех областях человеческой жизни. Благодаря опять же технологической сингулярности уже в нынешнем столетии развитие общества приобретет невиданное ускорение. Курцвейл считает, что уже сейчас темпы технологического прогресса каждые десять лет возрастают в два раза, а в последующие десятилетия ускорение будет идти по экспоненте и станет многократным. Курцвейл предсказывает, что через несколько десятилетий люди начнут переходить от тела с искусственными органами к телу нанороботов. Он опирается при этом на известный закон Г. Мура, согласно которому каждые 18 месяцев компьютеры становятся вдвое мощнее, считая, что действие этого закона можно успешно распространить на другие области, растущее число которых оказывается во власти сингулярности с ее «ускоряющимся ускорением». Новые технологии откроют путь к победе над болезнями и старостью, к растущему продолжению жизни. Радикальное продление жизни приведет к фактическому бессмертию постчеловека.

Концепция Р. Курцвейла является последовательно положительной и оптимистической. Она получила большое влияние и широкое распространение. Вместе с тем далеко не все ученые разделяют его взгляды, многие из них занимают двойственную позицию, сочетая признание и отрицание искусственного интеллекта. Таковой является позиция известного английского физика-теоретика Стива Хоккинга, профессора Кембриджского университета. Его концепция во многом является пессимистической. Вслед за Курцвейлом он называет себя «убежденным редукционистом», полагая, «что законы биологии можно свести к законам химии», «что химические законы могут быть сведены к физическим» [2, c. 165].

С. Хокинг считает роль искусственного интеллекта в человеческой истории неоднозначной. Сегодня нельзя сказать, будет ли он другом, соратником, соперником или даже врагом человека. Он может стать как наиболее положительным, так и наиболее отрицательным фактором для человека. Искусственный интеллект может быть успешно использован для борьбы с болезнями и преодоления бедности.

Вместе с тем Хокинг допускает, что последние достижения цивилизации могут привести к деградации человека. В то же время он отмечает, что при правильном подходе искусственный интеллект способен решить большинство проблем в современном мире. Он также не исключает, что искусственный интеллект «может стать последней технологической революцией, если человечество не научится контролировать риски».

В общем, так или иначе, искусственный интеллект фактически преобразует все аспекты нашей жизни. Он может стать как «лучшим», так и «худшим» событием в жизни человека, нести как преимущества, так и опасности. Наряду с выгодами искусственного интеллекта также создает угрозы, к каковым следует отнести новое автономное оружие, а также возможности для немногих господствовать над большинством. Хокинг согласен с теми, кто видит опасность в том, что интернет выступает командным центром для террористических организаций. Он не исключает того, что искусственный интеллект может вступить в конфликт с людьми. С недоверием и опасением смотрит он на развитие высоких технологий искусственного интеллекта, полагая, что роботы могут всюду заменить людей.

Хокинг допускает, что в будущем будет создан искусственный интеллект, который окажется способным воспроизводить и улучшать самого себя. Это станет новой формой жизни, которая превзойдет человеческую жизнь. У роботов может возникнуть желание избавиться от людей, или же люди могут погубить самих себя. Хокинг считает, что люди прошли точку невозврата. Земля становится слишком тесной для них, к тому же население растет слишком быстро и пугающими темпами, люди рискуют уничтожить самих себя. Созданные людьми изобретения все сильнее угрожают планете. Вместе с тем Хокинг не считает, что люди должны отказываться от движения вперед. Просто возникшими опасностями надо уметь управлять. Человечество должно найти способ покинуть Землю и освоить другие планеты.

Интересной представляется концепция французского ученого и философа Ж.-К. Эдена, который является автором многих книг и статей по искусственному интеллекту. Его подход является критическим, он также не лишен иронии.

Ж.-К. Эден отмечает, что в современном коллективном воображаемом искусственным интеллектом стал настоящим мифом всесильного технологического прогресса. Его технопророки активно предсказывают скорый приход супер-интеллекта, который во всем превзойдет человеческий разум, станет неким божеством и установит контроль над человеческой судьбой. Несмотря на призывы со стороны многих ученых вернуться к разуму и здравому смыслу, в реальной ситуации почти ничего не меняется. Публикации в пользу искусственного интеллекта и технологической сингулярности продолжают множиться. В этой сложной ситуации, когда самые светлые умы оказываются в плену самых фантастических построений, Ж.-К. Эден высказывает несколько предложений. Он полагает, что следует признавать существование искусственного интеллекта, а также стремиться как можно больше знать о нем. Французский ученый отмечает, что искусственный интеллект обладает большим потенциалом и может помочь в решении многих проблем, особенно в области здоровья и образования. Он напоминает, что, как показывает опыт истории, «обычно более полезным бывает скорее брать кое-что из прогресса, нежели противостоять ему» [8, c. 14]. В этом плане он предлагает свой подход к классификации искусственных интеллектов, включающий шесть уровней, не ограничиваясь простой оппозицией «сильного» и «слабого» искусственного интеллекта.

Уровень 1 – ниже человеческого интеллекта, (уступающий ему по многим параметрам).

Уровень 2 – равный человеческому интеллекту, созданный в 1970-е годы в Стэнфордском университете.

Уровень 3 – превосходящий человеческий интеллект. Его реальным примером выступает компьютер Deep Blue, разработанный IBM в 1990-е годы и обыгравший в 1997 г. чемпиона мира по шахматам Г. Каспарова.

Уровень 4 – превосходящий фактически все виды человеческого интеллекта. Его примером является компьютер AlphaGo, созданный Googl DeepMind и победивший лучшего игрока в мире по Go.

Уровень 5 – «общий», соответствующий названию программы AGI (Artificial General Intelligence) или «полному» искусственному интеллекту. Его реального примера пока нет.

Уровень 6 – «сингулярность», или «бесконечно превосходящий» человеческий интеллект, соответствующий «технологической сингулярности». Он предстает скорее, как гипотеза, по поводу которой еще нет согласия.

Уровни 1–4 соответствуют «слабому» или «ограниченному», «спецализированному» искусственному интеллекту, а уровни 5–6 соответствуют «сильному» или «общему» ИИ. Считается, что в будущем «общий» уровень может быть достигнут. Оптимисты отводят для этого десять лет, скептики – сто лет или даже больше. Жан-Клод Эден полагает, что уровень 6 находится ближе к научной фантастике, чем к науке. Он представляется ему в высшей степени маловероятным [3, c. 63–68].

В качестве некоторого итога можно сказать, что затронутые концепции являются распространенными, хотя их, разумеется, нельзя назвать исчерпывающими. Одной из центральных тем в них и других является тема будущего человека, его судьбы. В этом плане французские авторы Р. Желен и О. Гилем рассматривают названную тему через призму робота, назвав свою книгу: «Робот – это будущее человека?». Роботы уже принесли людям определенные риски: они отнимают у них рабочие места. Тем не менее, тысячелетний опыт научил человечество отличать добро от зла. Оно успешно справилось с индустриальной революцией, прошло через испытания недавней интернетной революции. И сегодня авторы возлагают надежды на этический фактор: «Человек должен оставаться ответственным за свои поступки, поскольку именно это отличает его от всех других творений – живых и искусственных» [5, с.156].

Сходные мысли французский философ Жан-Мишель Бенье развивает в своей книге «Завтра – постчеловек. Будущее еще нуждается в нас?». Он описывает процесс перехода прежнего мира модерна в сегодняшний мир постмодерна. Человечество переходит в постчеловечество. Автор полагает: «Время человека вышло» [6, с. 180], «Сегодняшний человек умирает» [6, с. 181]. Человеческое уступает место постчеловеческому и нечеловеческому. Постчеловек представляет собой нечто среднее между человеком, животным, роботом, киборгом и клоном, возникшее как результат скрещивания биотехнологий, нанотехнологий и искусственного интеллекта. Гуманизм смешивается с постгуманизмом и трансгуманизмом.

Шведский философ Ник Бостром, профессор Оксфордского университета, полагает, что главная угроза для человеческого общества идет от сильного искусственного интеллекта, сверхразума, его взрывного развития. Он считает, что «сверхразум, достигший возможности определять будущее земной цивилизации, легко может стремиться к конечным целям, глубоко чуждым интересам и ценностям человечества» [7, с. 185]. Так что гибель человечества предстает как неизбежное следствие взрывного развития сверхразума. Однако будущее самого сверхразума остается неопределенным. В этом плане Ник Бостром указывает на слишком завышенные и несбывшиеся ожидания относительно искусственного интеллекта, на разногласия, скептицизм и пессимизм относительно времени, сроков и возможности появления искусственного интеллекта среди его сторонников.

Американский исследователь Николас Карр в своей книге «Заменить человеческое. Критика автоматизации общества» выступает с критикой всеобщей автоматизации общества. Используя разного рода гаджеты, роботы и другие устройства связи, она заполонила все области человеческой жизни [8]. Опираясь на научные исследования и конкретные наблюдения, Н. Карр показывает, что наша растущая зависимость от автоматизированных систем не лишена опасности. Ограничивая связь с нашими чувствами [9, с. 59], нашим личным опытом и нашими интеллектуальными способностями, мы рискуем ослабить нашу независимость, сметливость и способность принимать решения. Н. Карр считает, что для обеспечения блага человека и общества надо «ставить акцент на социальном и личном расцвете индивидов» и «вновь выдвигать человеческое на первый план» [10, с. 233].

Литература

1. Курцвейл Р. Эволюция разума, Или бесконечные возможности человеческого мозга, основанные на распознавании образов. – М.: Эксмо, 2018.

2. Хокинг С. и др. Большое, малое и человеческий разум. – СПб.: ООО «Торгово-издательский дом «Амфора», 2015.

3. Heudin J.-C. Intelligeence Artificielle. Manuel de sur-vie. – Paris: Science-eBook, 2017.

4. Le Monde, 3 juillet 2018, p. 7.

5. Gelin R., Guilhem O. Le robot est-il l’avenir de l’homme? – Paris: La documentation Francaise, 2016.

6. Besnier J.-M. Demain les posthumains. Le futur a-t-il encore besoin de nous? – Paris, 2017.

7. Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. – М.: Манн, Иванов и Фербер, 2016.

8. Кузина Е.С. Адаптация постнеклассического образования к реалиям обыденного знания // Методология в науке и образовании / Материалы Всероссийской конференции университетов и академических институтов РАН. 2017 – М.: Изд-во Московского государственного технического университета им. Н.Э. Баумана (национальный исследовательский университет), 2017. – С. 190.

9. Кузина Е.С. Историческая судьба неолиберальной теории глобализации // Что день грядущий нам готовит? / Сборник научных трудов по материалам IV Международного форума Финансового университета и XII Фестиваля науки. Федеральное государственное образовательное бюджетное учреждение высшего образования «Финансовый университет при Правительстве Российской Федерации» (Финансовый университет). – Казань: Отечество, 2018. – С. 57.

10. Carr N. Remplacer l’humain. Critique de l’automatisation de la societe. – Paris: Editions L’Echappee, 2017.

1.3. Искусственный интеллект: игры закончились?

Человечество по-разному относилось к искусственному интеллекту. В 50–60-е годы XX века им увлекались.

Было написано много фантастических романов с действующими героями-машинами, в частности, знаменитый цикл «Я – робот» Айзека Азимова. Знаменитым этот цикл сделали «три закона роботехники». Вот, как они формулируются:

• Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

• Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

• Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам [1].

Последующие вариации писателей-фантастов на тему, следует ли робот этим законам или нет, разделили машин на «послушных», то есть следующих этим законам, и «непослушных» – нарушающих их. Тогда, в начале пути создания искусственного интеллекта, люди были уверены, что машины просто не могут принести им вред, ну, по крайней мере, если не сломаны.

В последнее время, однако, были сделаны открытия, которые изменили доверчивое отношение человечества к машинам. Клонирование животных, замена органов на копии на 3D-принтере, появление всемирной паутины постепенно начали пробуждать в людях осторожность. Вместе с осторожностью росло недоверие, а захочет ли такое совершенное произведение человеческого гения играть по правилам создателя? Вспоминаются такие персонажи прошлого, как Франкенштейн, многочисленные романы и фильмы о восстании машин. Один из последних фильмов «Из машины» (Ex Machina) демонстрирует уже совершенно иной тип робота, чем роботы Азимова. Это умный, беспощадный, быстро обучающийся, похожий на человека биомеханизм, который способен переиграть создателя. Он не просто не выполняет законы роботехники, он ставит себя на первое место, борясь за свое существование и используя, в первую очередь, человеческие слабости. У биороботов нет эмоций, но благодаря внешнему сходству с человеком они вполне могут их изображать. Это внушает страх: появилось кто-то или что-то столь похожее на человека и одновременно для него опасное.

Ученые, работающие в области создания и программирования искусственного интеллекта, также забеспокоились. Т.В. Черниговская – специалист в области нейронауки, теории сознания и психолингвистики пишет об искусственном интеллекте: «…Сегодня уже стоит бояться того, что, если у искусственного интеллекта появится сознание, наши планы, скорее всего, с его планами не совпадут» [2, 8].

Посмотрим, в чем человечество уже проиграло машине? Первое – это скорость. Обученная машина играет в шахматы быстрее человека. Соревнования проводили на протяжении долгого времени, и результаты изначально были разные, но вот Deep Blue, наконец, обыграл Гарри Каспарова. Конечно, болельщики Каспарова могут утешиться тем, что машина специально была «заточена» под гроссмейстера и «знала» о нем все: его ходы, стили игры и так далее. К тому же, компьютер не устает и не нервничает. Его не останавливает сложность игры, давление окружения, статуса и ответственности, эмоциональное состояние.

Человек проигрывает и по физиологическим характеристикам. Понятно, что машина гораздо более, чем человек, устойчива к некачественной еде, плохой экологии и отсутствию воздуха.

Черниговская отмечает, что программы побеждают уже не только шахматную логику. В таких «творческих» и спонтанных играх, как го и покер также одержаны победы (AlphaGo и AlphaZero в го и Libratus в покере) [2, 8]. И это происходит как раз не потому, что машины способны распознать «покер фэйс» противника. Им это и не нужно, просто они лучше играют.

«Скоростные лифты» научно-технического прогресса конца ХХ и начала ХХI века, которые подняли нас до уровня мира, объединенного в единое целое, сделали доступным многое, например, как изготовить бомбу «из ничего». Возникает вопрос, а меняется ли так быстро, как технологии, наше сознание, которое может притормозить угрозу изготовления бомбы в кружке «умелые руки»?

Исследователь цивилизационных изменений А.П. Назаретян предостерегает, что сегодняшние темпы технического развития еще не предельны. В недалеком будущем скорость изменения может возрасти до бесконечности. Серия расчетов, проведенных независимо исследователями Австралии, России и США, показала, что прыжок случится около середины ХХI века. Произойдет «беспрецедентная по значению глобальная полифуркация». [3, с. 755]. Этот вывод получен путем перенесения в будущее логарифмического закона ускорения, который характеризует важные этапы в истории биосферы и антропосферы земли на протяжении 4 млрд лет. Такое стремительное ускорение получило название «сингулярность» – бесконечное возрастание мощи техники за бесконечно малое время. Сингулярность может полностью изменить ход жизни на земле. Поэтому, чем выше мощь технологий, тем более совершенные средства внутренней человеческой регуляции необходимы для сохранения общественного равновесия.

А.П. Назаретян анализирует, как человечество преодолевало предыдущие кризисы: «По мере того, как мощь орудий и демографическая плотность возрастали, культура совершенствовала средства сублимации агрессии для адаптации к растущим разрушительным возможностям» [3, с. 758]. То есть человечество старалось различными путями осознавать и контролировать те мощные изобретения, которые оно творило. И главное из них – поддержание мира. Некоторый спад внешней агрессии на политической арене в конце ХХ века, который так порадовал специалистов по исследованию цивилизаций, сменился новым скачком в стремлении развязать «маленькую победоносную войну» в первом десятилетии ХХI века. Во время приближения к точке сингулярности, когда время, за которое происходят научно-технические прорывы, стремится к нулю, а сами изменения – к бесконечности, стремление к любой войне может стать последним моментом перед тем, как во всем мире «выключат свет». В этой ситуации возникает запоздалый, но правомерный вопрос: бесконечна ли способность человеческого сознания к внутренней регуляции? Или по-другому: так же ли она бесконечна, как бесконечна способность «искусственного интеллекта» к обучению самоусложнению?

Еще одним опасным фактором, который может усилить приближение планетарной катастрофы, исследователи считают ослабление генетического отбора. Если сравнить, какое количество детей доживали до взрослого возраста в начале ХХ века и в начале ХХI, получится неутешительная для естественного отбора, хотя и гуманная картина. В Англии начала прошлого века в семьях с тремя-пятью детьми до 28-летнего возраста в среднем доживал один ребенок. А что происходит сейчас? Современная медицина спасает многих, даже рождающихся с тяжелыми наследственными заболеваниями. Природе не позволяют «включить» естественный отбор, и это гуманно, но сам человек считает себя в праве изменять природу так, как ему удобно. Появляются генномодифицированные продукты. Химическое воздействие на мир возрастает, некоторые виды животных и рыб существуют только в искусственной среде обитания. Овощи и фрукты растут на земле, подвергнувшейся неоднократным химическим атакам пестицидов. Экологические катастрофы, отходы производства меняют климат нашей планеты. Наконец, подходят к концу запасы пресной воды. Кажется, что в таких условиях в будущем человеку трудно будет обойтись без вмешательства генной инженерии, которая вплотную займется усовершенствованием и приспособлением его к новой окружающей среде. А разрешение такого вмешательства сразу разворачивает нас лицом к возможному созданию биороботов и «людей-машин». Придется устанавливать, где в них начинается и заканчивается человеческое. Современная фантастика уже с удовольствием обсуждает такие возможности. Так Ханну Райаниеми, доктор наук в области теории струн, написал фантастический роман «Квантовый вор», где в качестве главного героя показывает человека, способного перемещаться в любом теле, пригодном для помещения его разума. Даже внутри робота или другого человека, если они позволяют подавить собственное сознание [9]. Фактически речь идет уже не о человека как таковом, а о его сознании, путешествующем в скафандре из компьютера или биокомпьютера по космосу. Мир «Квантового вора», в отличие от мира роботов Азимова, перестает быть «человекомерным». А Т.В. Черниговская замечает, что «человекомерность» исчезает уже сейчас. «В научном обороте появились единицы измерения, несопоставимые с человеческим телом физически, например, наносекунды, нанометры» [2, 9].

Совсем недавно мы впервые «познакомились» с маленьким симпатичный летающим аппаратом, который называется «квадрокоптер». И не успели мы к нему привыкнуть, как его запретили к использованию. Ведь эта маленькая «игрушка» способна нанести увечье или даже убить человека. А кто будет виноват? Особенно, если это случайность. Купить квадрокоптер с камерой, «недорогой и хороший», через Интернет возможно и сейчас. Вероятно, нетрудно найти информацию по созданию к нему небольшой пушки. Вопросы о праве, морали и этике в этом случае необходимо не только поднимать, но и дорегулировать, так как внутри мира машин нашей человеческой этики просто не существует. Возможно, следует вспомнить законы роботехники, усовершенствовать их и внедрять в программу создаваемого «искусственного интеллекта». Правда, никто не сможет гарантировать нам, что с помощью новых технологий не будет создан «суперинтеллект», способный обойти все внедренные запреты.

Страх человека перед таким развитием событий можно считать в какой-то мере экзистенциальным, так как мы и машины слишком разные. Но даже, если мы напишем, внедрим и будем всячески контролировать кодекс законов искусственного интеллекта, останется еще один важный вопрос, который не оставит нас как человечество в покое. Если мы доверимся «искусственному интеллекту», полностью «переложим» на него свои дела и обязанности, с чем мы сами останемся? Как продолжим тренировать свои тела и умы?

Уже сейчас есть поколения интернет-зависимых людей, у которых происходят изменения в мозге, сравнимые с изменениями алкоголиков и наркозависимых. Можно приводить много причин, почему современному человеку общение в сети больше нравится, чем живое. Например, очень многие люди в виртуальной коммуникации воплощают свои надежды и мечты, не решаясь реализовать их в реальности. Удовольствие от общения переносится в интернет, где появляются новые виртуальные друзья и целые сообщества. Интернет-коммуникация помогает удовлетворить социальные потребности и одновременно избегать трудностей, которые могли бы возникнуть от реального контакта. Кстати, такой контакт постепенно становится и не нужным, иногда даже опасным. И реальность для таких людей отмирает. Современные «затворники» не выходят из дома вообще или выходят только ночью. В Японии их стало так много, что они получили свое название – «хикикомори». В некоторых городах Японии их число достигло 10 % и более. Ответы на вопрос, почему эти люди не выходят из дома, самые разные. От «ненавижу других», до «мне и так хорошо». Исследователь темы Хироюки Ота пишет о хикикомори: «Они не ищут работы на протяжении многих лет, им не удается установить отношения с другими людьми, обзавестись семьей» [7]. Действительно, хикикомори не только не общаются с чужими людьми на улице, но зачастую не разговаривают даже с родителями. Молодой японец 27 лет заперся на кухне и перестал пускать туда родителей, те построили себе новую кухню и продолжают его кормить. Многие специалисты считают, что таких людей следует лечить. Примерно так же, как и интернет-зависимых, тех, кто полностью перешел в виртуальный мир и остался там.

В компьютерном поле игры, которое так притягивает зависимых от него людей, тоже есть смоделированные «вызовы» и трудности, но они отличаются от реальных. Они также могут требовать ловкости, знания, умения – тех качеств, которых пока еще ожидает от человека реальная жизнь. Но человек, сидящий за компьютером, не рискует своей жизнью, а только, возможно, здоровьем и деньгами, если он играет в компьютерные игры профессионально. А в реальном мире есть опасность быть отвергнутым или умереть. С дальнейшим техническим совершенствованием компьютерных игр виртуальный мир становится разнообразнее и в какой-то мере удивительнее реального. В ММОРПГ – массовой многопользовательской ролевой игре – игроки встречаются с различными персонажами, иногда делают их друзьями или врагами и проживают такие события, которые трудно себе представить в реальности. С другой стороны, многие из тех качеств, которыми участники «блещут» на разных уровнях сложности в игре, применить в жизненной практике невозможно. Однако развивает ли наш разум поле игры? Становимся ли мы лучше, играя в компьютерные игры?

Немецкий философ, основатель философской герменевтики Х.-Г. Гадамер писал об игре и беседе как об аналогиях понимания. Так как именно в игре участники сосредотачиваются на предмете игры и забывают о себе. Игра не получается, если игрок «тянет на себя одеяло», переигрывает или не пасует мяч другим игрокам. Только, если большинство участников сосредоточено на общем предмете игры или общей теме беседы, возможно наилучшее творческое понимание [6].

В увлечении виртуальной игрой человек любит, ненавидит, дружит и враждует с искусственными персонажами. Они могут собираться в группы, как в жизни, дружить с кем-то и против кого-то, коллективно исключить мешающего, «нелюбимого» игрока. Социальная жизнь перемещается таким образом в виртуальный мир. Фактически, с усложнением игры возрастает и мощь «искусственного интеллекта» и его влияние на человека. Похоже, мы снова имеем дело с двумя «встречными» тенденциями: ростом и усложнением «искусственного интеллекта» и «ослаблением» реальной активности человека. А ведь исследования показывают, что люди, используя искусственные возможности, еще не научились использовать полностью свой собственный мозг. Т.В. Черниговская начинает беседу с молодыми учеными, которые приходят к ней «заниматься мозгом»: «В голове у нас сложнейшая нейронная сеть, которую невозможно себе представить. Если вытянуть в одну линию все нейроны, которые находятся в голове – не у Энштейна, а у обычного человека, – получится страшная цифра 2,8 млн. км» [2, 9]. Когда мы перекладываем на машину свои трудности и таким образом облегчаем себе жизнь, мы забываем, что эволюционное развитие человечества шло как раз через трудности. И именно препятствия приводили к качественным эволюционным скачкам.

Что же нам делать? Остался ли одним из возможных путей для нашего развития путь совершенствования собственных возможностей, использования собственных ресурсов? Ведь, хотя обученная машина и переигрывает шахматиста или игрока в покер, обучение машин происходит принципиально иначе, чем обучение людей. Элисон Гопник – профессор психологии и философии в Калифорнийском университете сравнивает обучение детей и обучение искусственного интеллекта [4]. Она выделяет два способа обучения: «восходящий» и «нисходящий» по аналогии эмпирического и рационального методов в истории философии. В первом случае обучение машины начинается похоже на чувственное восприятия мира человеком: «фотоны и колебания воздуха, которые воспринимаем все мы» [4, с. 61]. Информация попадает в компьютер в виде точек цифрового изображения или аудиозаписи звука. Затем из этих данных компьютер выделяет ряд элементов, которые можно обобщить и идентифицировать как единый объект окружающего мира. Этот восходящий подход связан с идеями английского эмпиризма и И.П. Павлова. Ученые придумали способ, позволяющий компьютерам находить закономерности в таких данных по принципу работы нейронов. Идея нейронной сети переживает изменения в настоящее время и успешно «работает» на коммерческие цели. По этому методу устроены Google и Facebook.

Элисон Гопник считает, что с увеличением объема перерабатываемой информации, с лучшими вычислительными возможностями «нейросетевые системы могут обучаться гораздо более эффективно, чем мы могли когда-то предполагать» [4, с. 61]. То есть, восходящий метод развивается.

Другой, «нисходящий», метод знаком нам через рационалистический метод познания Рене Декарта. И даже еще ранее у Платона мы видим эту модель познания как «припоминания» Платона. В диалоге «Менон» ученик Сократа уже знает решение математической задачи, и философ побуждает его вспомнить. В рационалистической системе Декарта знание также присуще человеку с рождения. Этот метод также не стоит на месте в своем развитии. «В 2000 году этот принцип пережил второе рождение в виде вероятностного или байесовского моделирования» [4, с. 62]. В случае обучения машины по этому методу разработчики формируют и закладывают в нее абстрактные гипотезы о мире, и машина использует то, что в нее заложено, чтобы построить прогнозы, как будут выглядеть данные, если верны эти выдвинутые гипотезы. Системы пересматриваются в зависимости от наблюдаемого результата.

Гопник считает оба метода несовершенными. «Восходящий подход» в машинном обучении позволяет выявлять значимые признаки для решения поставленных задач определенного типа. Для этого нейронная сеть должна пройти процесс самообучения. Она изучает миллионы сообщений из огромных баз данных. И тут машины сталкиваются с трудностями, с которыми не сталкиваются при обучении люди. Так в «восходящем методе» компьютеру для различения усатых и мохнатых лиц требуется миллионы упорядоченных объектов. То есть для формирования «поля сравнения» в компьютер должны быть заложены миллионы изображений усатых людей и миллионы изображений мохнатых животных, чтобы компьютер начал систематически различать их. «После интенсивного обучения компьютер наконец может узнать кошку в изображении, которое он никогда не видел. Однако то, как он это делает, совершенно не похоже на процесс обобщения у человека» [4, с. 62]. Некоторые изображения не будут отмечены компьютером как кошки, а некоторые пятна, наоборот, будут таковыми считаться. Если мы сравним на этом этапе обучения способность и быстроту схватывания информации компьютером с возможностями ребенка, то оказывается, что малышу достаточно всего нескольких примеров, чтобы различить «усатого дядю» и животное.

В «нисходящем» подходе вместо тысячи примеров для выявления закономерностей ученые пользуются общей схемой действий, которая теоретически может привести к достижению определенного результата. Метод, названный по имени статистика и философа ХVIII века Томаса Байеса, объединяет данную модель с теорией вероятности, используя так называемый «байесовский вывод». «Вероятностная порождающая модель показывает, насколько вероятно то, что вы увидите какую-то структуру в данных, если верна гипотеза» [4, с. 63]. Этот метод подходит для того, чтобы научить машину учиться так, как это делают люди. Разработчики закладывают в машину определенный принцип отбора. Но для формулировки такого принципа требуется огромная предварительная работа.

К тому же в пользу человека и его способностей говорит и то, что оба описанные метода работают для узких и точно сформулированных задач. Это значит, что машина, обыгравшая Гарри Каспарова, не сыграет в покер. Элисон Гопник замечает: «С восходящим алгоритмом компьютеру не нужно понимать что-нибудь про кошек, чтобы начать учиться, но ему нужно очень большое количество данных» [4, с. 64]. «Нисходящий метод» помогает быстро обучиться на малом количестве примеров и делать более широкие обобщения. Однако при использовании этого метода требуется много предварительной работы, чтобы сформулировать правильный набор гипотез. А ребенок творит легко. Специалисты по психологии развития детей убедились, что «дети комбинируют лучшее от каждого подхода и затем продвигаются гораздо дальше» [4, с. 64]. Если добавить к этому уверенность в том, что людям свойственны творческие прорывы, и они могут рассуждать на темы, выходящие далеко за границы их собственного опыта, то в споре «человек – машина: кто кого?» появляется вполне оптимистичный перевес в сторону человека. Недаром Энштейн сказал: «Фантазия – это единственное наше оружие в борьбе с реальностью» [5]. Великий мыслитель имел в виду творческую способность человека совершать экскурс или «прыжок» в неизведанное. В конце концов, это люди изобрели все те машины, которых теперь сами и опасаются. По мнению философов ХХ века Хайдеггера и Гадамера, такая направленность в будущее или в неведомое возможна благодаря особому характеру понимания. Человек является «брошенной проекцией»: как спроецированное, его понимание внутренне связано с будущим, откуда и разворачиваются новые возможности. Понимание также является обусловленным наследием прошлого, которое человек, в силу своей конечности, воспринимает как традицию и в которой постоянно находится. Так, Хайдеггер доказывает, что любая интерпретация (даже научная) зависит от конкретной исторической ситуации интерпретатора. Не существует интерпретации без предрассудков, так как интерпретатор не может освободить себя от своей собственной фактичности. Он онтологически обусловлен всегда уже имеющейся временной ситуации как горизонтом, внутри которого все то, что он понимает, имеет для него первоначальное значение. Каждый шаг понимания является шагом, основывающимся на бесконечности «пред-данной» интерпретатору исторической традиции. Хайдеггер говорит о понимании как об «опережающем наброске». Этот набросок, однако, может быть развернут, что и становится одной из бесконечного количества интерпретаций [6, с. 317]. Как раз в таком творческом моменте и проявляется человеческая уникальность. «Историческое бытие никогда не исчерпывается знанием себя. Всякое знание-себя вырастает из исторической пред-данности» [6, с. 357]. Равенство всех возможных интерпретаций обеспечивается своеобразием каждой из них. И одновременно ролью интерпретатора как творца, обладающего уникальным взглядом именно из своей исторической ситуации.