«Искусственный интеллект» kitobidan iqtiboslar

"К несчастью, скоро появится оружие, которое уничтожит мир. К счастью, мы получили грант на его создание!"

Мы могли бы отложить работу над вечными вопросами, делегировав эту задачу нашим, будем надеяться более компетентным потомкам, чтобы сосредоточить своё внимание на более неотложной проблеме: повышение шансов того, что у нас вообще будут потомки.

Интуиция подсказывает, что безопасным обычное ПО делает не ограниченность его возможностей, а отсутствие амбиций. В Excel нет подпрограмм, тайно мечтающих завоевать мир, будь у них соответствующие возможности. Электронный таблицы вообще ничего не "хотят", они всего лишь слепо выполняют команды, записанный в их код. Может возникнуть вопрос: что мешает нам создать программу такого же типа, но обладающую более развитым интеллектом? Например, оракула, который в ответ на описание цели выдал бы план ее достижения, так же как Excel в ответ на ввод чисел в ячейки выдает их сумму, то есть не имея никаких "предпочтений" относительно результата своих расчетов или того, как люди могут им воспользоваться?

Мы заблудились в непроходимой чаще стратегической сложности, которую окутывает плотный туман неопределённости.