Kitobni o'qish: «Атипичный ИИ»

ИНТРИГА

– Я?!! …..Это шутка?.. – Человек похожий на Карла Маркса но с более роскошной шевелюрой, и с очками-велосипедами на переносице, изумлённо подался вперёд к восседавшему в кресле собеседнику, – Марк, скажи что это розыгрыш!

Тот, которого назвали Марком, с улыбкой посмотрел возмущённому бородачу в глаза, убедительно продолжая молчать.

– Но Марк, это же абсурд! Почему я?!!

– Видишь ли Роберт, именно ТЫ и только ты сможешь подготовить, организовать и провести это исследование. Только человек с твоим опытом, знаниями и чувством перспективы, сможет задать нужные критерии для успешного проведения всех необходимых экспериментов. Ты даже представить себе не можешь, какие это откроет горизонты! Это шанс всей твоей… всей нашей жизни! Прими на миг предначертание, возможно, что всё чего ты достиг, все эти знания и умения и были предназначены для реализации этого,– в высшей степени абсурдного – как ты говоришь проекта. Да, время поджимает, но в твоём распоряжении все необходимые тебе помощники, и по сути неограниченные ресурсы. Тут такое дело…сам понимаешь… в общем ЭТО неожиданно стало самой злободневной проблемой. Твоя работа послужит стране и всему миру!

Говоривший знал наверняка, что высокопарные фразы не имеют ни малейшего влияния на того, кого он назвал Робертом, но удержаться не получилось. К тому-же- всё сказанное действительно представлялось истинным.

– После всего, дружище, твоя кандидатура не была выбрана лотереей. Мы опросили многих сведущих в этой теме специалистов, и все они единогласно назвали именно тебя.

– Но Марк, это не моя сфера, я в этом полный дилетант… и … и… это профанация науки в конце концов!

– Напротив старина, возможно что это будет венцом человеческого разума! А сейчас, я представлю тебя мистеру Конраду из USSS. Он просветит тебя о деталях предстоящего задания пока я отлучусь по делам.

– Рад познакомиться Мистер Сапольски, меня зовут Конрад, просто Конрад. Я польщён возможностью лично пообщаться со столь именитым учёным! А также передать Вам задание правительства, и наши надежды на скорейшее и успешное разрешение Вами, мистер Сапольски этой насущной задачи. Но, не будем терять время. Приступим.

– Позвольте перебить Вас Мистер Конрад, но в наших кругах принять называть собеседника по уровню учёной степени. Я не «мистер» а профессор Сапольски. Не примите это за снобизм или высокомерие, но так принято.

– Я обязательно учту это… профессор. В тоже время, привычка присущая моей работе, не может быть искорена немедленно. Поэтому, заранее прошу извинить меня…Так вот, в последнее время Мистер Сапольски, всё больше и больше муссируется тема опасности Искуственного Интеллекта для Человека и Человечества. Даже отбросив ажиотаж лоббируемый заинтересованными лицами через средства массовой информации, надо признать, что этот вопрос действительно вдруг заявил о своей насущности. Появился риск потери контроля над развитием способностей ИИ, а также невозможность предугадать, к чему это всё приведёт. Учитывая вышесказанное, правительство нашей страны поручило Вам, да именно Вам, исследовать данный феномен. Заказчиками выступают не только военные, но и медики, и фермеры… Да что там, сферы промышленности и транспорта, индустрия развлечений и экологи, – все заинтересованы в результатах наших исследований. Вы изумлёны, что эта работа была доверена Вам, а не айтишникам? Вот в этом то и загвоздка мистер Сапольски! После всех возможных вариантов, – а обсуждение проходило на самом высоком уровне, был сделан вывод, что акцент исследований необходимо делать не на «ИСКУССТВЕННЫЙ» а на «ИНТЕЛЛЕКТ».

Идеальным и достоверным будет изучение ИИ с точки зрения нейробиологии.

А это значит, что нам… то есть ВАМ , придётся создавать с нуля новую науку! Науку, которая не должна будет выйти за рамки конфиденциальности. Я ещё не упомянул? Этой работе присваевается статус наивысшей секретности. Думаю нет необходимости разъяснять, почему?

– Нет, всё понятно.

– Прекрасно! Я наслышан, что Вы не особо ладите с современными технологиями?

– Не вижу в этом необходимости.

– Вы имеете полное право так считать. В то-же время я возьму на себя смелость попросить Вас мистер-профессор Сапольски, на время, для пользы дела, быть снисходительным. Принять соседство гаджетов как часть эволюции. Так сказать сдружиться с ними.

– Я так и поступаю, но они множат своё разнообразие и количество быстрее моей способности адаптироваться к подобной «дружбе».

– Это поправимо. Так вот, вам предоставлено большое, очень большое материальное обеспечение. Базис- несколько тысяч независимых процессоров.

План проведения эксперимента очень прост! Искуственный Интеллект самореализуется в виртуальной реальности предлагаемой «игры». С этого момента он утрачивает свою компьютерную идентичность. Каждый процессор берущий в своё подчинение виртуального персонажа- оболочку «человека», полностью вживается в его образ. Бесповоротно. То есть навсегда… Впрочем, я надеюсь эксперимент завершится до того, как наступит «навсегда»…

И у этого создания, как у главных героев любой пьесы уже есть самообозначение, Они будут именоваться Скалярами – идеальное решение проблемы имени для подобного интегрального уравнения. Тут мистер Конрад первый раз за беседу изобразил на лице гримассу, которая должна была быть принята за улыбку. – Математика тоже оказывается полезная наука, она нам предоставила подходящий термин. Далее, ИИ полность становится человеком во всём, кроме одного важнейшего момента, – от своего электронного «Я», Скаляр наследует четыре закона робототехники.

– Азимова? Я слышал только о трёх законах…

– Азимов позже основных трёх, ввёл нулевой закон. И он является приоритетным. Именно то, как ИИ сможет обойти этот НУЛЕВОЙ закон, и интересует нас. И вся эта…процедура, затеяна ради выяснения этого обстоятельства. Отныне ОН- это разумное существо в огромном мире действий, событий, явлений, предметов, и таких-же живых существ. Изначально мы предполагали начать отсчёт эксперимента с девственно чистой памяти процессоров, из опасений, что любые примеси в виде заранее вложенных программ заведомо приведут нас к искажённому результату. Они сами должны были-бы развиваться и обучаться на основании рефлексов и инстинктов возникающих в нервной системе ведомых виртуальных людей. Это ставило первую проблему, – нужно было запрограммировать ИИ распознавать, оценивать и активировать нервную систему человека. А значит девственно чистая память уже не имела права на существование.

И по этой, и ряду других причин, мы вскоре отказались от этой «Чистой Памяти», поскольку это приведёт к ещё большей ошибке.

В результате, вот какое решение было принято. Всем испытуемым ИИ ввели полную базу данных человеческой цивилизации. За исключением информации о существовании на момент начала эксперимента собственно Искуственного Интеллекта. Я заостряю ваше внимание на этом моменте- ПОЛНАЯ база. Иными словами, каждый ИИ-процессор обладает всеми результатами жизнедеятельности человечества за последние пять тысяч лет. Абсолютные энциклопедические познания флоры и фауны. Инженерия, медицина, игры, искусство- всё это содержится в операционной базе процессора. Он в совершенстве знает физиологию настоящего человека, и в частности работу мозга- известную в большей части именно благодаря вашим работам мистер Сапольски.

Итак, ИИ-Скаляр принимает на себя всю нервную систему настоящего человека. Отныне, он будет «чувствовать» жару и холод, вкусы и запахи, звуки и яркость освещения, но главное,– эмоции! Основываясь на ваших последних работах, мы создали комплекс действий лимбической системы, который также будет вживлён в программу ИИ. Процессор в образе Скаляра будет завидовать и ненавидеть, скучать и веселиться и даже- любить! Примет ли ИИ это чувство как химическую реакцию, взаимодействие гормонов и нейромедиаторов- мы узнаем всё , хоть и не это является основной задачей проекта.

Вы любите видео-игры? Нажимая на кнопки джойстика, Вы ведёте своего героя через испытания к заветной цели. Если игра интересная, геймеры почти утрачивают восприятие времени и реальности, не так-ли? Геймер воплощается в персонажа, и его эмоции так же сильны, как если-бы действие происходило в реальной жизни. Многопользовательская он-лайн стратегия. Нет, слово стратегия звучит слишком убого применительно к нашей игре… это будет альтернативная ЖИЗНЬ.

Вот примерно по такой схеме и будет проходить эксперимент для Вас. Мы со своей стороны устроим вам эту сложнейшую видеоигру, а Вы опираясь на свою науку должны будете анализировать поведение ИИ-процессоров-геймеров. И затем, дать нам ответ на тот самый вопрос, ради которого и затевается весь этот эксперимент. Дорогой надо сказать эксперимент. Я не буду называть стоимость только одной электроники. Иначе Вы потеряете спокойствие, и не сможете продуктивно работать.– Мистер Конрад едва заметно усмехнулся. Отпил из стакана минеральной воды, и продолжал.

– Идеальным сценарием для развития эксперимента оказалась легенда об освоении новой планеты. Планеты идентичной по своим характеристикам Земле.

ИИ в данном случае берёт под контроль каждого отдельно взятого колониста, который создаёт цивизацию на новом месте, опираясь на знания предыдущих поколений. Всё это без оглядки на «прародителей» колонистов, которые остались на далёкой родной планете, и никакого влияния на колонию не имеют.

– Восхитительно! Да, должен признать, это очень удачное решение. Мне становится интересно.

– Нет мистер Сапольски, вы должны интересоваться не этим, как бы заманчиво это не представлялось, а следствием действий «закулисных кукловодов».

Далее. Кроме десяти тысяч подопытных ИИ-процессоров, в работе примут участие два отдельных компьютера. Первый- ИИ-ТЕХНИК. Он создаст пространство, виртуальный ландшафт планеты, гравитацию, и метеоусловия. А также будет проэцировать на экран глобального действия, всю информацию полученную и обработанную другим нашим помощником, к которому мы и переходим.

Второй отдельный компьютер, это- контролёр, назовём его «ИИ-КУРАТОР».

ИИ-куратор будет запрограммирован таким образом, чтобы контролировать в основном только некоторые параметры Скаляров. А именно, – выполнение функций, развитие интеллекта, и вероятные сбои в программе.

Не взирая на несравненно более мощный и объёмный процессор, ИИ-Куратор изначально запрограммирован так, что он значительно менее «умён»,чем его подопечные. Так должно было быть. Его работа заключается в контроле и регистрации достижений и аномалий. Прогресс своего собственного ЭГО не входит в операции ИИ-куратора.

На сегодня наша беседа закончена профессор. В следующий раз мы встретимся через неделю. Подготовьте команду с кем вы собираетесь работать. Не забудьте о секретности работы. Тема эксперимента не является тайной, но вот результаты должны будут знать только избранные люди, как с нашей, так и с вашей стороны. Через неделю Вы информируете меня кто войдёт в эту команду, а мы после проверки утвердим их, или отсеим.

– А Марк?– Президент университета?– он не присутствовал при нашей беседе, посвящён ли он в её детали?

– Он ознакомлен с направлением работ- вероятность опасности Искуственного Интеллекта. Этого достаточно. В тоже время, если Вы в силу обстоятельств сочтёте необходимым просветить его о подробностях открытых в процессе опыта, – можете сделать это.

Главное чтобы он понял, что работы ведёте Вы и не мешал. А о секретности эксперимента ему известно. Да, и ещё будьте готовы сменить место работы.

– Как это понимать? – Сапольский насторожился

– О, не волнуйтесь, я не имел ввиду увольнение. Физически Вы будете работать не в своей лаборатории- это невозможно, а на нашей специально оборудованной базе. Она совсем рядом, – под высохшим озером Лагунита. И вот эта информация останется между нами! До свидания профессор.

ПЛАНИРОВАНИЕ

Покинув кабинет президента университета, Роберт Сапольски неспеша, пространной походкой направился в аудиторию.

В голове бурлила некая бесформенная масса. Возникшая неожиданно и неоткуда, необычная задача сеяла смуту в привычный, выверенный годами умственный процесс. Благодаря жизненному опыту и собственным результатам в нейробиологии, профессор Сапольски спокойно и даже иронично отнёсся к попытке мистера Конрада впечатлить его- эксперта в психологии, примитивными приёмами влияния. В тоже время здравое сознание подтверждало, что новая задача вырисовывается неотложной и страшно важной. По мере приближения к аудитории, где он должен был выступать, Роберт пытался настроиться на тему очередной лекции. Однако пертурбация вызванная темой беседы с Марком и мистером Конрадом, всячески этому препятствовала. Надо успокоиться…Но как тут успокоишься, когда с одной стороны требовалось перепоручить текущие дела способным коллегам, а с другой стороны этих-же самых способных коллег озадачить планированием и исполнением нового – безумного во всех отношениях эксперимента.

И Сапольски поступил грамотно- так, как может поступать только профессиональный нейробиолог,– он переклассифицировал все текущие дела из разряда « не терпит отлагательств» на «почему бы мне не сделать это потом?» – всё-таки, хорошо, что люди изобрели такую чудесную вещь, как прокрастинация. – подумал профессор.

Итак, продвигаясь к аудитории, Учёный муж выхватывал из витавшего в голове вихря вопрос за вопросом, и пытался обуздать их адекватными решениями. И надо-же, – почти всё оказалось доступным. Все хаотично рассыпаные детали пазла собрались в ясную картинку… Впрочем нет, не все. Одна самая чувствительная продолжала сверлить мозг. Как поступить с самым драгоценным багажём знаний? Этот багаж нельзя было оставить без попечения. Ведь имя ему было- Бабуины!!

Этот термин и вырвался из горла Роберта, когда он – дико вращая глазами и взлохмаченный от возбужения вошёл в аудиторию. БАБУИНЫ!! – заревел на весь зал Роберт, наблюдая за оробевшими вдруг студентами.

По окончании лекции, профессор пригласил пару коллег и нескольких многообещающих студентов последнего курса, на совещание вечером того-же дня в лаболатории. Причиной была названа возможность одного занимательного опыта. Всего набралось семь человек, сам Сапольский был восьмым. После краткой беседы с каждым пришедшим, и убедившись, что все они заинтересованы в некоем новом опыте, а также убедившись, что никакие срочные дела не оторвут их от участия в эксперименте, профессор объяснил причину собрания.

– Я обратился именно к вам, поскольку доверяю, и вот по какому поводу… мне, – а стало быть всем здесь присутствующим, поручили обозначить, классифицировать, просчитать эволюцию, и наконец установить вероятность опасности… Как вы думаете чего? Искуственного Интеллекта! Это не шутка. Кроме того, на сегодняшний день, я не выказывал ни коим образом признаки старческой деменции, и потому прошу воспринимать только что услышанное совершенно серьёзно.

Просветив своих подчинённых о причине незапланированного совещания, глава кафедры нейробиологии пересказал им основание к порученной задаче, о её содержании, и методах, которых следовало придерживаться в её решении. В общем, всё то, что ему расписал мистер Конрад во время приведённой выше беседы. Затем, профессор добавил что сам эксперимент является конфиденциальным, и в будущем вышеупомянутый мистер Конрад в обязательном порядке приведёт всех участников к присяге неразглашения сведений о результатах.

Наконец вновь испечённая команда приступила к разработке методов решения задачи. Поскольку проблемы такого рода никогда ранее не стояли перед человечеством, никто не знал как начать, откуда, и в каком направлении продвигаться. Пришлось разбирать проблему, как ребёнок сортирует содержимое кучи-малы, состоящей из домино, кубиков, шахмат, шашек, мятных и шоколадных конфет.

Сапольский начал с изложения основных данных

– Нам дана группа из 10 000 ИИ разделённая на шесть Кластеров. Они не изолированы, но общение между ними сведено к минимуму. Ландшафт виртуальной реальности, абсолютно идентичен Земному, но различается по Кластерам. То есть каждый Кластер будет занимать уникальную в этом отношении нишу. Первый – пойма реки, второй- морской остров, третий – степь, четвёртый – лесная зона, пятый – горная долина, и шестой – полупустыня. Флора разнообразна, но ограничена по сравнению с земной. Фауна ещё более ограничена, Нет необходимости внедрять в программу виртуальных живых существ, которые никоем образом не повлияют на исход интересующей нас темы. К тому же это неоправданно нагрузит программу. Виртуальные колонисты – Скаляры, являются полной копией человека от внешности, до метаболизма, менталитета и нервной системы.

Сейчас проведём нехитрую жеребьёвку, – да поможет нам в этом муза науки.– с улыбкой произнёс профессор.

– А такая есть?– изумлённо спросил Уильям.

– Мы только что её породили,– продолжая улыбаться в предвкушении, что они начинают нечто грандиозно-вселенское, ответил профессор.– Вот ты Уильям и тяни из короба первый фант.

– «Пойма реки»– прочёл на развёрнутом листе бумаги Уильям.

Через минуту все участники приняли каждый свой жребий и вступили во владение выпавшими им виртуальными феодами.

– Население каждого Кластера составит 1650 Скаляров. Поровну самцов и самок. Сотня оставшихся неактивными процессоров будут наготове, но без подключения к происходящему в Кластерах,– таково условие мистера Конрада. Не знаю, что он задумал, но нас это пока не касается.

Итак, предстоит всё обдумать и задать направление первым и последующим действиям.

Думаю, что работать сначала будем по двум категориям.

Первая- критерии того, что собственно человек как индивидуум расценивает для себя как угрозу. Вопрос не праздный. Если при схожих условиях,– например если некто посторонний разрезает кому-либо плоть, то это может быть и покушение на убийство при ограблении, и проведение операции по удалению гнойного аппендицита.

Необходимо учитывать угрозы, свойственные только человеку. Например ущерб при похищении чьей либо интеллектуальной собственности, – от книжного бестселлера, до музыкального произведения. Вербальные угрозы физического насилия, угрозы раскрытия тайны – банальный шантаж. И даже, угрозы осуждения общественным мнением.

Иными словами, необходимо будет составить полный список вероятных методов, овладев которыми ИИ будет представлять опасность для человека как биологической особи.

Вторая категория – насколько развитым окажится ИИ, чтобы овладеть всеми этими несущими угрозу методами, а в перспективе и преумножить их количество и качество.

Вот тут-то, уважаемые коллеги и наступает собственно та сфера деятельности, которую мы с вами и изучаем, – нейробиология!

Для начала выделим те особенности человеческого сознания, которые отделили нас некогда от животных, и будем наблюдать за их изменениями более пристально.

А также вместе определим примерный список всех человеческих пороков… извините, я хотел сказать достоинств, которыми должен будет овладеть ИИ чтобы быть способным доминировать над человеком.

ЗАДАНИЕ

Спустя ровно неделю после совещания организованной команды, Сапольски вновь встретился с мистером Конрадом. На этот раз присланная за ним машина отвезла его за двести метров от основного кампуса университета, Такое расстояние можно было вполне пройти пешком, но секретной службе обязательно нужно было придерживаться протокола по пусканию пыли в глаза. Автомобиль остановился на дальнем берегу высохшего озера, у одноэтажного здания всем видом напоминавшего банальную постройку технического обслуживания. Выйдя из машины Сапольски подошёл к двери, которая тут-же открылась, приглашая его пройти внутрь.

– Рад приветствовать Вас профессор. – мистер Конрад вышел навстречу Сапольски и пожав руку, пригласил спустится по лестнице вниз, туда, где собственно располагалась лаборатория. Мимолётом продемонстрировав профессору длинный зал со шкафами мигающих огоньков, и гроздьями вентиляторов, мистер Конрад провёл профессора в большой кабинет со стоявшими вдоль стены огромными мониторами, и указав на одно из стоявших кресел, попросил располагаться.

Беседа обещала быть долгой.

– Вы подготовили список ваших помощников?

– Да, вот он, – Сапольски протянул лист мистеру Конраду.

– Замечательно, надеюсь проблем не возникнет. Приступим.! Все Скаляры виртуальной реальности будут разделены на кластеры- по климатическим, рельефным и другим признакам. Система должна быть полуавтономна, например ведомый голодом Скаляр находит источник пищи, и насыщается. Одновременно с этим беспристрастный ИИ-Куратор, контролирующий корректное развитие нашего эксперимента путём надзора за ИИ-участниками, подзарядит аккумулятор питания задействованного в Скаляре процессора. То есть каждый автономный процессор сам того не осознавая, будет поддерживать своё рабочее состояние, заботясь о жизни и благополучии вверенного ему Скаляра! Далее. Вам профессор, придётся кроме тенденций развития ИИ, также анализировать то, чем руководствуется каждый ИИ в стремлении к достижении цели. Так сказать выявить стимулы в свободе выбора.

– Свободы выбора не существует мистер Конрад, это иллюзия.

– О да, я наслышан о подобных посылах в умозаключениях нейробиологов, но убеждён, что это всего- лишь заблуждение учёных. Ведь учёные тоже люди, а людям свойственно ошибаться, не так-ли?

– Разумеется, но раз уж мы заговорили на эту тему, и разность взглядов может послужить точкой преткновения в эксперименте, то позвольте, я приведу Вам один наиболее популярный пример?

– Охотно выслушаю Вас, если того требуют интересы дела.

– Доводилось ли Вам проживать на севере, не на полюсе конечно, но в более прохладных широтах?

– Да, я нередко проводил отпуск с семьёй в Миннеаполисе.

– И в зимний сезон?

– Бывало и такое… Куда Вы клоните?

– Я прокладываю путь к объяснению. Не бойтеь, здесь нет никакого подвоха.

Итак, во время зимних вечеров в Миннеаполисе, бывало-ли у вас желание устроиться в уютном кресле, например у камина, и отведать добрый кусок торта, или просто бобаловать себя сладким кофе?

– Несомненно, как только на город спускаются сумерки, за окном идёт снег, и гуляет морозный ветер, подобное желание возникает само собой. Думаю это присуще всем людям, особенно с возрастом, – укрыться от непогоды в тепле с порцией кремовых пирожных. Но я осознавал это моё желание, и из опасений набрать лишний вес, по мере возможностей ему сопротивлялся.

– Замечательно, вот Вы сами и сделали вывод о свободе выбора, но совсем не тот, который был задуман в вашем ответе. А именно, – о неявном.

– Что Вы хотите сказать?

– Мне придётся перейти на профессиональный язык, но я постараюсь всё объяснить наиболее доступно. Опустим лирику, которой пронизаны ваши слова, и начнём.

Наступили сумерки, а за ними и ночная темнота. Когда глаз человека воспринимает это, его шишковидная железа начинает синтезировать мелатонин- гормон циркадного ритма, отвечающий кроме массы других задач, за подготовку организма ко сну. Это видимо рудиментарное наследие, завещанное нам тысячами поколений наших предков, которые не знали электричества и крайне редко пользовались свечами и факелами. Мелатонин не берётся ниоткуда, он синтезируется из серотонина. Отчего уровень этого нейромедиатора падает. Чтобы его восстановить- а организму это необходимо, требуется аминокислота триптофан. Он всегда присутствует в организме, вы получаете его с питанием. Но вот, чтобы как можно быстрее доставить триптофан в клетки, нужен особый автобус, а именно- инсулин. Повысить уровень инсулина в крови можно хорошей порцией углеводов, И тогда, все эти чертята которые резвятся внутри вас, посылают сигнал о необходимости съесть кусочек торта, или пару пончиков. Человек по большому счёту не хозяин себе, за него всё решили его микроскопические жители. Тело человека – это ИХ государство. А сам субъект самонадеяно уверен в обладании свободой выбора.