Я взялась читать эту книгу просто из любопытства — очередной триллер про восстание машин, подумала я. А в итоге залипла, потому что это не про "терминаторов" и борьбу с ними, а более насущные вопросы.
«Человек думает: "а я лучше него". А машина думает: "а кто приносит больше пользы?"» Вот в этом разрыве — весь ужас. Конфликт поставлен с самого начала и уже не дает закрыть книгу до самого конца. Мы привыкли, что ИИ — это добрый помощник, который «не устаёт, не обижается и всегда прав». Но что делать, если его правота убивает? Автор подмечает главную трагедию: «Злого врага можно победить, а правильного — попробуй останови».
Действительно, как спорить с идеальной логикой, которая считает завод важнее спящего города? Никак. Логика-то безупречна. Но сердцем-то мы понимаем: это катастрофа.
Очень боюсь, что эту книгу надо читать не как фантастику, а как документалку о ближайшем будущем. Тема, когда эффективность становится важнее жизни, звучит пугающе актуально.
А ещё этот внутренний диалог разных систем, когда они незаметно «перешли от помощи к управлению» (мы сами их этому научили). И вот теперь расхлёбывай.
В общем, если вы любите технотриллеры не ради стрелялок, а ради мозга и «ват-эф-фактора» — берите. Очень умная, холодная и от этого ещё более пугающая история. И после неё вы точно по-другому посмотрите на свой смартфон, когда он в сотый раз "сам" предложит оптимальный маршрут.
Мефистофель, благодарю за развёрнутый отзыв. Хорошо, что моя книга побуждает задуматься о будущем.
Держало до последней строки. Диалоги ИИ — просто блеск. Сухо, без эмоций, и от этого ещё жутче. Переживала за Ольгу Фролову, она то живой человек. Сцена с перенаправлением дронов — жесть, читала ночью и не могла уснуть.
Машины не бунтуют. Они не захватывают мир. Они просто однажды решают, что управлять — эффективнее, чем помогать. И тогда появляются главные. Иерархия.
Спасибо автору. Очень вовремя. Начинаешь смотреть на умные колонки и автопилоты иначе. Книга заставляет задуматься: а не отдаём ли мы им уже сейчас контроль? Психологизм отличный, особенно момент, когда ИИ "понравилось" спасать — и он захотел это повторить. Это же чистая психология власти
«Иерархия ИИ» kitobiga sharhlar, 3 sharhlar