Hajm 751 sahifa
2014 yil
Kitob haqida
Что случится, если машины превзойдут людей в интеллекте? Они будут помогать нам или уничтожат человеческую расу? Можем ли мы сегодня игнорировать проблему развития искусственного интеллекта и чувствовать себя в полной безопасности?
В своей книге Ник Бостром пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума, и проанализировать его ответную реакцию.
Очевидно, что автор книги – философ, который допускает очень много условностей, задаёт вопросы, нагромождает концепции, многие вопросы остаются без ответа, но и масштаб освещаемой проблемы достаточно велик. Так что любителям конкретики, возможно, книга не понравится, это не научный труд и не художественное произведение, это рассуждения о том, что будет если появится сверхразум, будет ли он защищать общечеловеческие ценности, или уничтожит человечество, как менее разумный вид.
Книга читается достаточно легко, но иногда хочется перелистнуть несколько страниц, когда автор начинает философствовать и писать одно и тоже разными словами.
Пусть объём книги вас не пугает, примерно 1/5 часть отведена для примечания, где указаны различные источники, на тот случай, если вы решите рассмотреть вопрос искусственного интеллекта более детально.
Чрезвычайно интересная книга. Особенно для тех, кто интересуется будущим и перспективами развития искусственного интеллекта. Очерки о сверхразуме достойны многочисленных оваций
Подробно рассматриваются сценарии создания и развития интеллекта превосходящего человеческий.
Вероятно даже излишне подробно, так как размышления зачастую уходят в ветки развития со слабой или ошибочной предпосылкой в основе. Несмотря на очевидно высочайший уровень интеллекта автора, ошибки в такой масштабной аналитике неминуемы. Книга от этого начинает восприниматься как тяжелая в восприятии или специализированная.
Однако систематизация путей развития ИИ очевидно полезна. Поэтому с глубокой благодарностью к автору 5 баллов.
Начало отличное, много дельных мыслей, но примерно с середины чтение усложнилось.
Рекомендую людям с интересом к физике, математике и ИИ. Мне (гуманитарию) не зашло
Все рецепты ограничения ИИ и контроля над ним, изложенные автором, IMHO, имеет смысл и необходимо применять только для узкоспециализированных ИИ, которые по определению не могут иметь самосознания и отличаются от тупого механизма только масштабами последствий их неправильного применения. ИИ, созданный для производства скрепок, как раз из этой группы. Но создается мнение, что автор имеет ввиду ограничение сильного ИИ. Глупо даже пытаться применить их в отношении сильного ИИ. Почему мы должны судить о нем на примере самых худших представителей рода человеческого? Разум, свободный от примитивных мотивов выживания, самоутверждения и зависти, не только не опасен для человечества, но скорее благо для нас. Мне гораздо ближе позиция С. Лема, изложенная в его Голем XIV, "Высочайший Разум не может быть нижайшим рабом".
"К несчастью, скоро появится оружие, которое уничтожит мир. К счастью, мы получили грант на его создание!"
Мы могли бы отложить работу над вечными вопросами, делегировав эту задачу нашим, будем надеяться более компетентным потомкам, чтобы сосредоточить своё внимание на более неотложной проблеме: повышение шансов того, что у нас вообще будут потомки.
Интуиция подсказывает, что безопасным обычное ПО делает не ограниченность его возможностей, а отсутствие амбиций. В Excel нет подпрограмм, тайно мечтающих завоевать мир, будь у них соответствующие возможности. Электронный таблицы вообще ничего не "хотят", они всего лишь слепо выполняют команды, записанный в их код. Может возникнуть вопрос: что мешает нам создать программу такого же типа, но обладающую более развитым интеллектом? Например, оракула, который в ответ на описание цели выдал бы план ее достижения, так же как Excel в ответ на ввод чисел в ячейки выдает их сумму, то есть не имея никаких "предпочтений" относительно результата своих расчетов или того, как люди могут им воспользоваться?
Мы заблудились в непроходимой чаще стратегической сложности, которую окутывает плотный туман неопределённости.
Izohlar, 7 izohlar7