Kitobni o'qish: «Учись спрашивать и понимать»
Предисловие
Вы держите в руках книгу о феномене одного из сильнейших тектонических сдвигов в истории человечества — о времени, когда человек перестал быть единственным обладателем интеллектуального преимущества.
Долгие века формула успеха казалась почти незыблемой: накопи знания, освой ремесло и научись делать свою работу лучше других. Школы и университеты передавали поколениям накопленный опыт, формулы, правила и способы решения задач.
Но правила постепенно меняются. Наступает эпоха искусственного интеллекта — инструмента, который способен помнить огромные объёмы информации, писать код, создавать тексты и изображения, анализировать данные и участвовать в решении интеллектуальных задач. Машина уже не просто считает — она создаёт. И тогда возникает вопрос: если всё больше задач можно поручить машине, что остаётся человеку?
Эта книга — не технический справочник и не прогноз футуролога. Это художественное исследование новой реальности, в которой человеку приходится заново осмысливать собственное место рядом с искусственным интеллектом. Книга состоит из двух частей.
В Разделе I — «Будущее: учись понимать» — мы войдём в пространство высшего образования, где искусственный интеллект постепенно меняет привычные представления о знании, учёбе и научной работе. Если результат теперь может быть получен с помощью другого интеллекта, человеку недостаточно просто знать ответ. Ему необходимо понять, что именно он получил, чему может доверять и где проходит граница собственного понимания.
В Разделе II — «Настоящее: учись спрашивать» — мы вернёмся в обычную жизнь, в мир работы, профессий, семьи и ежедневных решений. Здесь вопрос, умение спросить становится не меньшим инструментом, чем умение что-либо сделать самому. Всё чаще важным оказывается не только способность выполнить задачу, но и способность понять, какую задачу вообще следует решать.
«Учись спрашивать и понимать» — не просто название книги. Это два навыка, истинное значение которых, возможно, только начинает раскрываться. На следующих страницах вы встретитесь с людьми, которые живут в самом начале этого изменения и ещё не знают, к чему оно приведёт. И, может быть, именно поэтому им приходится учиться не только находить ответы. Но и учиться понимать ответы. И учиться задавать вопросы.
Пролог
В истории человечества уже были переломные сдвиги, после которых мир становился принципиально иным. Первым стал язык, в том числе письменный. Он вынес человеческий опыт за пределы отдельной жизни. Мысль получила возможность сохраняться, передаваться и накапливаться. Затем появилась наука. Человек научился не только хранить накопленное знание, но и открывать то, чего прежде не знал, — искать закономерности, проверять предположения, проникать за пределы непосредственного опыта.
И вот теперь, буквально на наших глазах, начинается третий фундаментальный тектонический сдвиг — появление искусственного интеллекта (ИИ). Его первые ростки уже вошли в повседневную жизнь. Нейросети становятся частью рабочей и личной рутины. Общество перестаёт удивляться текстам, изображениям, программам, созданным машиной, и всё чаще воспринимает ИИ как продвинутый цифровой инструмент.
Но это лишь вершина айсберга. Понять масштаб происходящего пока невозможно: мы слишком близко к его началу. ИИ способен находить огромное количество взаимосвязей в массивах данных, которые человеческий разум не может одновременно удерживать и сопоставлять. Он может выдавать результат, не предъявляя человеку привычного пути к нему. И здесь возникает нечто новое.
Язык позволил человеку вынести наружу память. Наука — систематизировать поиск знания. А искусственный интеллект начинает выносить наружу саму обработку информации и генерацию новых решений, новых смыслов. Происходит переход от инструмента к агенту. ИИ способен действовать без пошагового руководства человека, создавать тексты, код, изображения, находить решения и предлагать собственные варианты движения к цели. В его лице человечество, возможно, создало уже не только зеркало для отображения мира (язык) и не лупу для его изучения (наука), а партнёра.
Но каким будет это партнёрство? Что произойдёт, если человек начнёт получать от ИИ результат раньше, чем сможет понять его полный смысл и путь к нему? И что изменится в самом человеке, если такое станет обычной частью его жизни? Мы этого пока не знаем.
Именно поэтому эта книга — попытка посмотреть на начало этого изменения не издалека, а изнутри: через людей, их работу, учёбу, отношения и первые столкновения с миром, в котором понимать становится не менее важно, чем знать.
Раздел I. Будущее: учись понимать
ИИ лишает нас монополии на знание, но возвращает нам обязанность понимать.
Часть I. С чего всё начинается
Глава 1. Тема
Кабинет Геннадия Петровича находился в конце длинного университетского коридора, куда редко заглядывали случайные посетители. Дверь была самая обычная, с потёртой табличкой и фамилией профессора, напечатанной когда-то давно и уже немного выцветшей. Сам кабинет тоже не стремился производить впечатление. Большое окно, два книжных шкафа, письменный стол, заваленный бумагами, и несколько стульев, которые явно помнили не один поток студентов. На подоконнике стоял небольшой кактус, единственное растение в помещении, которому, судя по всему, никто не мешал жить своей жизнью. На стене за столом висела доска. На ней оставались следы прежних разговоров: несколько формул, стрелка, ведущая неизвестно откуда неизвестно куда, и стёртая наполовину фраза, которую можно было прочитать как «…а если наоборот?». Геннадий Петрович обычно её не стирал. Не потому, что дорожил написанным. Просто иногда старые вопросы оказывались полезнее новых.
В тот день Володя пришёл к нему с темой диссертации.
— Ну что, Владимир, с темой определился?
Володя положил на край стола лист бумаги.
— Кажется, да.
Геннадий Петрович посмотрел сначала на лист, потом на Володю.
— «Кажется» — это хорошо. Значит, ещё есть над чем работать.
Он взял лист.
— «Искусственный интеллект в системе высшего образования», — прочитал он. — Владимир, это не тема.
— Почему?
— Потому что это континент, — Он положил лист обратно. — А ты собираешься писать диссертацию, а не составлять карту мира.
Володя улыбнулся.
— Тогда надо сузить.
— Сузить — это первое. А второе — понять, что именно ты хочешь узнать.
Володя помолчал, разглядывая свой лист.
— Я хочу понять, как искусственный интеллект изменит высшее образование.
Геннадий Петрович кивнул, но не сразу.
— Это уже вопрос. Правда, пока тоже континент.
— А что в нём не так?
— В нём пока слишком много ответа и слишком мало любопытства.
Володя поднял глаза.
— Не понял.
— Ты спрашиваешь, как изменит. То есть заранее предполагаешь, что изменит. А если не изменит? Или изменит не так, как мы сейчас думаем?
— Но он же уже меняет.
— Кто?
— Искусственный интеллект.
— Нет. — Геннадий Петрович улыбнулся. — Это ты сейчас очень быстро перескочил через самое интересное место.
Он взял ручку и повернул к себе чистый лист.
— Давай пока забудем слово «изменит». Что именно тебя беспокоит?
Володя задумался.
— Наверное, то, что студент теперь может получить ответ практически на любой вопрос.
— Хорошо. И что из этого следует?
— Что ему не обязательно самому искать ответ.
— А раньше было обязательно?
Володя усмехнулся.
— Ну, в университете предполагалось.
— Предполагалось — хорошее слово. А что было на самом деле?
Володя снова посмотрел на лист.
— Иногда студент действительно искал ответ. Иногда брал уже готовый.
— И?
— И ничего. Если ответ был правильный, это обычно устраивало преподавателя.
Геннадий Петрович покрутил ручку в пальцах.
— Вот теперь мы подошли ближе.
Он написал на листе два слова: ВОПРОС — ОТВЕТ
— Университет довольно долго жил в этой простой связке, — сказал он. — Студент слышит вопрос, ищет ответ, преподаватель проверяет ответ. А теперь представь, что ответ можно получить почти мгновенно.
Он зачеркнул второе слово.
— Что остаётся?
Володя посмотрел на лист.
— Вопрос.
— Вот именно.
Несколько секунд они молчали.
— Получается, надо исследовать вопросы? — спросил Володя.
— Возможно.
— Не ответы?
— Ответы никуда не денутся.
Геннадий Петрович снова посмотрел на доску.
— Может быть, впервые за долгое время университету придётся всерьёз задуматься не о том, как научить человека находить ответы, а о том, как научить его понимать, какой вопрос вообще стоит задать.
Володя взял свой лист. На прежней формулировке он уже не задерживал взгляд.
— Тогда, может быть, так: как изменится роль вопроса в образовании?
Геннадий Петрович улыбнулся.
— Уже интереснее.
— Но опять не тема?
— Пока нет. Но теперь хотя бы видно, куда ты идёшь.
Володя положил ручку.
— А что здесь исследовать?
— Вот это и есть хорошая проблема.
Он встал из-за стола и подошёл к доске.
— Знаешь, Владимир, хорошие вопросы в университете ценили всегда. Учёный ведь не начинает с ответа. Он сначала должен понять, чего не знает.
— Тогда что изменилось?
— Масштаб.
— В смысле?
— Раньше плохой вопрос мог просто остаться без хорошего ответа. Теперь на него можно получить очень убедительный ответ за несколько секунд.
Володя нахмурился.
— То есть плохой вопрос стал опаснее?
— Возможно.
Геннадий Петрович повернулся к нему.
— Представь: ты задал машине вопрос, который сам толком не продумал. Она ответила грамотно, подробно, со ссылками, примерами и уверенным видом. Что ты будешь делать?
— Проверять.
— Что именно?
Володя задумался.
— Факты.
— Только?
— Логику.
— Хорошо. А если факты верны и логика не вызывает возражений?
— Тогда…
Он замолчал. Геннадий Петрович ничего не подсказывал. Володя посмотрел на написанные на доске слова.
— Тогда надо проверить сам вопрос.
Профессор улыбнулся.
— Вот теперь ты начинаешь заниматься диссертацией.
Он взял ластик, но стирать написанное не стал.
— Потому что, возможно, в эпоху искусственного интеллекта вопрос становится не просто началом поиска ответа.
— А чем?
— Частью самого результата.
Володя записал эту фразу. На этот раз — не потому, что боялся забыть. Он хотел к ней вернуться. Геннадий Петрович вернулся к столу и сел.
— Давай теперь попробуем сделать ещё один шаг.
— Какой?
— У тебя есть вопрос. Но пока он всё ещё слишком общий. Ты говоришь об образовании вообще. А диссертация должна за что-нибудь зацепиться.
— За студента?
— Уже лучше.
— За преподавателя?
— Тоже.
— За университет?
— Это опять континент.
Володя засмеялся.
— Вы сегодня решили всё измерять континентами?
— Сегодня это удобно. Потом, может быть, перейдём на государства.
Володя снова посмотрел на лист.
— Хорошо. Тогда студент и искусственный интеллект.
— Уже ближе.
— Как студент должен работать с ИИ?
Геннадий Петрович покачал головой.
— Здесь ты опять начинаешь говорить о правилах. А мы пока исследуем не инструкцию.
— Тогда… что происходит с мышлением студента, когда он работает с ИИ?
Профессор некоторое время молчал.
— Вот это уже можно обсуждать.
Он взял ручку и написал рядом с прежними словами: ЧЕЛОВЕК — ИИ
— Только не торопись превращать это в красивую схему, — сказал он. — Нам ещё предстоит понять, что означает каждое слово.
Володя встал и подошёл к доске.
— Человек спрашивает. ИИ отвечает.
— Это первый вариант.
— Человек проверяет.
— Второй.
— Потом уточняет вопрос.
— Третий.
— И снова получает ответ.
— Уже интереснее.
Володя задумался.
— Получается, это не вопрос и ответ.
— А что?
— Диалог.
Геннадий Петрович посмотрел на него.
— Только осторожнее со словом «диалог». Машина может отвечать очень убедительно, но это ещё не означает, что она понимает тебя так, как понимает человек.
— Тогда взаимодействие.
— Лучше.
Володя записал: ЧЕЛОВЕК — ВОПРОС — ИИ — ОТВЕТ — ПРОВЕРКА — НОВЫЙ ВОПРОС.
Он посмотрел на получившуюся цепочку.
— Похоже на работу.
— Потому что это и есть работа.
— Но раньше студент должен был сам найти ответ.
— А теперь он может вместе с машиной пройти путь до ответа.
— Значит, машина становится частью учебного процесса?
Геннадий Петрович не ответил сразу.
— Возможно. Но вот здесь, Владимир, я бы не спешил.
— Почему?
— Потому что как только мы называем ИИ «частью учебного процесса», возникает следующий вопрос.
— Какой?
— Кто в этом процессе чему учится?
Володя посмотрел на профессора. Тот улыбнулся.
— Запиши. Пригодится.
Володя записал. Некоторое время они оба молчали. За дверью кто-то прошёл по коридору, остановился, постучал в соседнюю дверь и пошёл дальше. Университет жил своей обычной жизнью. Где-то шла лекция, где-то спорили из-за зачёта, кто-то опаздывал на семинар. Ничего особенного пока не происходило. Кроме того, что на столе у Володи лежал лист, с которого постепенно исчезала его первоначальная тема. Он перевернул его. На чистой стороне написал: Система образования в эпоху искусственного интеллекта. Потом подумал и поставил после этой фразы вопросительный знак. Геннадий Петрович это заметил.
— Вот теперь можешь идти.
— С этим?
— С вопросительным знаком.
— А тема?
— Тема подождёт.
Володя собрал бумаги. У двери он остановился.
— Геннадий Петрович.
— Да?
— А если мы пока не знаем, каким станет образование?
Профессор посмотрел на него спокойно.
— Тогда у тебя наконец появилась нормальная тема для диссертации.
Володя вышел. Геннадий Петрович остался один. Посмотрел на доску, где рядом стояли два простых слова — «ВОПРОС — ОТВЕТ», а ниже уже начиналась новая цепочка. Он взял ластик. Потом передумал и положил его обратно.
— Пусть пока повисит, — сказал он самому себе.
И вернулся к работе.
Глава 2. А что именно спрашивать?
После разговора с Геннадием Петровичем Володя не пошёл домой. До вечера оставалось ещё несколько часов, а идти было особенно некуда: дома его ждала та же работа, от которой он сегодня впервые попытался отвлечься, — статьи, заметки, несколько недописанных страниц и теперь ещё совершенно новая мысль, которая никак не хотела укладываться в прежние рамки.
Он зашёл в университетскую столовую, выпил кофе, который был скорее поводом посидеть, чем напитком, и написал в общий чат: «Кто сегодня вечером свободен?» Ответил Рома: «Я. Если это не про диссертацию». «Про неё». «Тогда я уже занят». Через минуту написал Илья: «Где?» Максим ничего не написал, но через несколько минут Володя увидел его у выхода из университета.
— Ты же сказал, что занят, — заметил Володя.
— Я занят. Но не настолько.
Они встретились в небольшом кафе неподалёку от университета. Лена пришла последней, извинилась за опоздание и сразу спросила:
— Ну что, защитили тебя?
— Пока нет.
— Жаль. Я уже хотела поздравить.
Рома отодвинул от себя чашку.
— Давайте сразу договоримся: если Володя сейчас начнёт рассказывать, что искусственный интеллект изменит высшее образование, я ухожу.
— Можешь не уходить, — сказал Володя. — Я уже сам не знаю, что он изменит.
— Тогда остаюсь.
Володя рассказал им о разговоре с Геннадием Петровичем. Про «континент» Рома смеялся особенно долго.
— Нормально, — сказал он. — Теперь у тебя не тема, а континент. Диссертация будет лет через десять.
— Я сузил.
— До чего?
— До вопроса.
— Это как?
— Вот именно это я и пытаюсь понять.
Илья, до сих пор молчавший, наконец поднял голову от телефона.
— А что тут понимать? Ты пишешь про то, как студенты будут пользоваться ИИ.
— Нет, — сказал Володя. — Не совсем.
— Почему?
— Потому что Геннадий Петрович говорит, что вопрос важнее ответа.
Рома посмотрел на него.
— Это сейчас была цитата или уже начало новой религии?
Лена засмеялась.
— Дай ему договорить.
— Я и говорю. — Володя достал телефон и показал им свою запись. — Вот. Мы начали с простой вещи. Раньше студент должен был искать ответ. Теперь может получить его почти сразу.
— Очень удобно, — сказал Илья.
— Вот видишь, — оживился Володя. — Ты сразу говоришь «удобно».
— А что, неудобно?
— Не знаю.
— Тогда зачем спрашиваешь?
Володя посмотрел на него и вдруг улыбнулся.
— Хороший вопрос.
— Спасибо.
— Только ты его не формулировал.
— Какая разница?
Лена покачала головой.
— Вот тут, кажется, и начинается то, о чём он говорит.
Илья отложил телефон.
— О чём?
— О том, что если машина может ответить практически на любой вопрос, то вопрос всё равно должен кто-то придумать.
— Ну и что? — сказал Илья. — Я могу придумать.
— Любой?
— Почему нет?
— Например, ты ничего не знаешь о какой-нибудь проблеме. Как ты поймёшь, какой вопрос надо задать?
Илья пожал плечами.
— Спросишь у ИИ, какой вопрос задать.
Рома медленно кивнул.
— Вот. Проблема решена. Можно закрывать университет.
Все засмеялись. Володя тоже засмеялся, но почему-то именно эта фраза его задела.
— А если серьёзно? — спросил он.
— А я серьёзно, — сказал Илья. — Зачем самому тратить время? Я могу написать: «Помоги мне разобраться в теме. Какие вопросы мне нужно задать?» И он выдаст список.
— А ты поймёшь, какой из них действительно важный?
Илья на секунду задумался.
— Если хороший список — пойму.
— Почему?
— Ну… потому что они будут хорошие.
Рома посмотрел на Володю:
— Всё. Вот теперь у тебя есть диссертация.
Максим до сих пор молчал. Он сидел, откинувшись на спинку стула, и слушал остальных.
— Мне кажется, вы всё усложняете, — сказал он наконец. — Если машина действительно помогает думать, почему бы ею не пользоваться?
— А кто сказал, что нельзя? — спросил Володя.
— Никто. Но вы уже начинаете искать какую-то особую человеческую функцию. Вопросы, понимание, самостоятельность…
— А разве это не важно?
— Важно. Но человек ведь всегда пользовался инструментами. Калькулятором, справочниками, поиском. Никто же не требовал от него помнить таблицу логарифмов.
— Но калькулятор не решал за тебя задачу, — заметил Володя.
— Иногда решал.
— Не совсем.
— Хорошо. Тогда компьютер.
— И что?
— То же самое. Когда появились компьютеры, часть работы ушла от человека к машине. Люди не перестали думать.
— А если уйдёт больше?
Максим пожал плечами.
— Тогда будем думать о другом.
На этот раз никто не засмеялся. Лена посмотрела на него.
— А о чём?
Максим не ответил сразу.
— Не знаю.
Володя вдруг почувствовал, что именно этого ответа ему сегодня и не хватало. Не знаю. Не готовый ответ, не красивая формулировка, не уверенное объяснение. Просто место, где ответа пока нет.
— Вот, — сказал он. — Наверное, об этом и речь.
Рома поднял чашку.
— Предлагаю тост. За место, где ответа пока нет.
— Очень университетский тост, — сказала Лена.
— Я стараюсь соответствовать.
Володя достал телефон и записал несколько слов. Илья заглянул через плечо.
— Ты опять записываешь?
— Да.
— Что?
— Пока не знаю.
— А зачем тогда?
Володя посмотрел на него.
— Чтобы не забыть, что пока не знаю.
Илья усмехнулся.
— Странный человек.
— Уже второй за сегодня, — сказал Рома.
Они ещё долго разговаривали. Разговор несколько раз уходил в сторону: спорили о том, можно ли считать текст, написанный с помощью ИИ, самостоятельной работой; вспоминали преподавателей, которые до сих пор требуют выключать телефоны на экзаменах; рассказывали друг другу случаи, когда искусственный интеллект уверенно выдавал совершенно нелепый ответ. Постепенно Володя заметил одну странную вещь: каждый из них говорил об одном и том же, но видел совсем разное. Для Ильи ИИ был прежде всего удобством. Для Максима — инструментом, который просто позволяет делать работу быстрее. Для Ромы — поводом для шуток, хотя за шутками он замечал больше, чем хотел признать. Для Лены — причиной усомниться в самих правилах, по которым они привыкли учиться. А для него самого после сегодняшнего разговора с Геннадием Петровичем всё это неожиданно стало вопросом. Не вопросом о машине. Вопросом о человеке.
Когда они вышли из кафе, уже темнело.
— Ну что, профессор, — сказал Рома, пожимая Володе руку, — что завтра понесёшь своему Геннадию Петровичу?
Володя подумал.
— Пока ничего.
— Вот это правильно. За один день нельзя написать диссертацию.
— Я и не собираюсь.
— А что собираешься?
Володя посмотрел на университет, окна которого светились в темноте.
— Понять, какой вопрос задать.
Рома кивнул.
— Сложно живёте.
И они разошлись. А Володя ещё некоторое время стоял на месте, глядя на здание университета. Ему вдруг пришло в голову, что утром он считал тему своей диссертации почти готовой. Теперь он уже не был уверен даже в том, что правильно понимает слово «тема». И почему-то это его не расстраивало.
Глава 3. Что остаётся человеку?
На следующий день Володя пришёл к Геннадию Петровичу немного раньше обычного. Профессор уже был в кабинете. Он сидел за столом, просматривал какие-то бумаги и, увидев Володю в дверях, сразу сказал:
— Судя по лицу, вчерашний вечер прошёл не зря.
— Откуда вы знаете?
— Если бы зря, ты бы сегодня не пришёл.
Володя сел на тот же стул, что и накануне.
— Я поговорил с ребятами.
— Это полезное занятие.
— Не всегда.
— Тем более полезное.
Володя достал телефон.
— Я сначала думал, что всё понял.
— Это опасное состояние.
— А потом оказалось, что ничего не понял.
— Ещё лучше.
Володя усмехнулся.
— Илья считает, что вообще никаких проблем нет. Если ИИ может подсказать хороший вопрос, значит, можно спросить у него и об этом.
— Логично.
— Максим говорит, что ИИ просто инструмент. Если машина позволяет делать работу быстрее, надо пользоваться.
— Тоже логично.
— Лена спросила, а почему мы вообще решили, что человек должен учиться именно тому, чему его сейчас учат.
Геннадий Петрович отложил бумаги.
— А Рома?
— Рома считает, что всё это повод для шуток.
— Значит, компания вполне нормальная.
Володя засмеялся.
— Но меня зацепило другое.
— Что?
— Мы всё время говорили о том, что человек должен делать сам. А я подумал: может быть, вопрос поставлен неправильно.
Геннадий Петрович посмотрел на него внимательнее.
— Продолжай.
— Ну, если раньше студент должен был сам найти ответ, а теперь машина может найти его быстрее… почему обязательно сохранять за человеком именно эту работу?
Профессор кивнул.
— Хороший вопрос.
— То есть Максим прав?
— Не спеши. Правильный вопрос не означает правильный ответ.
Володя замолчал. Геннадий Петрович встал и подошёл к доске. Вчерашняя запись всё ещё оставалась на месте: ВОПРОС — ОТВЕТ. Ниже Володя увидел свою вчерашнюю цепочку. Профессор взял маркер.
— Давай попробуем посмотреть иначе.
Он обвёл слово «ответ».
— Если ответ теперь можно получить быстро, значит, ценность ответа как такового действительно может уменьшиться.
— Может.
— Но что тогда становится ценнее?
— Вопрос.
— Возможно.
— Вы вчера так сказали.
— Я вчера сказал «возможно». Сегодня ты уже говоришь увереннее.
— Потому что я подумал.
— Вот этого я и ждал.
Володя улыбнулся.
— Тогда вопрос становится главным?
— Нет.
— Почему?
— Потому что ты опять слишком быстро нашёл красивую формулу.
Он написал рядом: ВОПРОС — ЗАДАЧА
— Хороший вопрос ещё не означает хорошую задачу.
— Разве это не одно и то же?
— Нет. Совсем не одно и то же.
— В чём разница?
Геннадий Петрович задумался.
— Допустим, ты спрашиваешь: «Как повысить качество образования?»
— Очень широкий вопрос.
— Ты сам вчера называл это континентом.
— Да.
— Но представь, что ты поставил его перед машиной. Она может выдать тебе двадцать способов повышения качества образования, сто страниц текста и ещё список литературы. Что ты будешь с этим делать?
— Выбирать.
— По какому критерию?
Володя замолчал.
— Вот именно.
Профессор написал: ВОПРОС → ЗАДАЧА → КРИТЕРИЙ
— Человек должен не просто спросить, — сказал он. — Он должен понимать, что именно хочет получить и по каким признакам отличит полезный результат от бесполезного.
— Значит, постановка задачи важнее самого ответа?
— Не обязательно важнее. Но без неё ответ может оказаться вообще не тем, что тебе нужно.
Володя подошёл к доске.
— Получается, человек ставит задачу, а ИИ её решает?
— Уже ближе.
— Тогда мы нашли новую границу.
— Какую?
— Человек ставит задачу. Машина помогает её решить.
Геннадий Петрович кивнул.
— Только не называй это границей слишком рано. Границы имеют неприятное свойство двигаться.
— В каком смысле?
— Сегодня тебе кажется, что человек отвечает за постановку задачи. Завтра ты обнаружишь, что машина предложила тебе такую постановку, до которой ты сам не додумался.
Володя посмотрел на него.
— Тогда что остаётся человеку?
Профессор не ответил. Он подошёл к окну и некоторое время смотрел во двор университета.
— Вот теперь, Владимир, — сказал он наконец, — ты задал вопрос, который может оказаться гораздо важнее твоей первоначальной темы. Володя записал его.
— А отвечать будем?
— Не сегодня.
— Почему?
— Потому что если я сейчас отвечу, ты запишешь мой ответ и решишь, что понял.
Володя улыбнулся.
— А вы хотите, чтобы я сам дошёл?
— Нет.
Профессор повернулся к нему.
— Я хочу, чтобы ты сначала понял, что именно должен выяснить сам.
Он снова посмотрел на доску.
— И ещё одно.
— Что?
— Вчера ты сказал: «Человек спрашивает, машина отвечает».
— Да.
— Это хорошая схема для начала.
— А для продолжения?
— Для продолжения слишком простая.
Володя посмотрел на цепочку: ЧЕЛОВЕК — ВОПРОС — ИИ — ОТВЕТ — ПРОВЕРКА — НОВЫЙ ВОПРОС. Теперь она уже не казалась ему такой законченной.
— Её надо продолжить?
— Возможно.
— Чем?
Геннадий Петрович улыбнулся.
— Вот это и будет твоей сегодняшней работой.
Володя собрал бумаги, но уходить не спешил.
— Геннадий Петрович.
— Да?
— А если ИИ сам предложит задачу лучше той, которую поставил человек?
— Тогда не выбрасывай её.
— Принять?
— Проверить.
— А если она действительно лучше?
— Тогда придётся признать, что машина помогла тебе не только найти ответ, но и изменить саму постановку задачи.
Володя кивнул.
— И это тоже образование?
Геннадий Петрович посмотрел на него с лёгкой улыбкой.
— А вот теперь ты начинаешь задавать правильные вопросы.
Володя вышел из кабинета. На доске осталась цепочка, которую они вчера считали почти законченной. Сегодня она выглядела началом.
Глава 4. Вот вам реальный случай
Через несколько дней Володя снова оказался на занятии у Артура Сергеевича. Артур Сергеевич преподавал здесь недавно, но уже успел приобрести одну особенность, которую студенты ценили больше многих достоинств: он не слишком любил говорить сам. Если можно было поставить вопрос и заставить аудиторию спорить, он предпочитал именно это.
В этот раз на экране уже была выведена задача.
— Сегодня попробуем немного иначе, — сказал он. — Не будем сразу искать решение. Сначала решим, что именно здесь нужно решить.
Рома, сидевший рядом с Володей, тихо прошептал:
— Началось.
Володя улыбнулся. После недавнего разговора с Геннадием Петровичем он стал особенно внимательно прислушиваться к подобным словам. Раньше он, наверное, просто прошёл бы мимо этой фразы.
Артур Сергеевич дал студентам несколько минут. По аудитории прошёл обычный шорох: кто-то листал записи, кто-то уже набирал что-то в ноутбуке. Один студент почти сразу поднял руку.
— Можно использовать ИИ?
Артур Сергеевич посмотрел на него.
— А зачем?
Студент немного растерялся.
— Чтобы решить задачу.
— А если он решит её неправильно?
— Тогда проверю.
— Как?
Студент пожал плечами.
— Ну… посмотрю.
По аудитории прошёл смешок.
— Хорошо, — сказал Артур Сергеевич. — Пользуйтесь.
Володя заметил, как сразу несколько человек потянулись к телефонам.
Сам он пока ничего не открывал. Задача была не слишком сложной. Через несколько минут у большинства уже появились ответы. Кто-то сравнивал их между собой, кто-то исправлял цифры.
Один студент поднял руку.
— У меня есть решение.
— Показывай.
На экране появился подробный текст. Всё было аккуратно: исходные данные, ход рассуждения, формулы, вывод. Артур Сергеевич прочитал его до конца.
— Хорошо.
Студент довольно улыбнулся.
— Это ваше решение?
— Ну… да.
— Вы сами его получили?
Пауза.
— Я с ИИ работал.
— Что именно делали вы?
Студент посмотрел на экран.
— Задал задачу.
— Как сформулировали?
— Ну, как она здесь написана.
Артур Сергеевич снова посмотрел на решение.
— А почему именно так?
Студент замолчал. В аудитории стало немного тише.
— Потому что… это задача.
— Хорошо. А теперь представим, что я не вижу вашего запроса к ИИ. Вы защищаете решение. Что вы можете объяснить сами?
Студент начал объяснять. Первые несколько шагов шли уверенно. Потом он остановился.
— Здесь почему такой переход? — спросил Артур Сергеевич.
Студент посмотрел на экран.
— Здесь ИИ так сделал.
Несколько человек засмеялись. Артур Сергеевич не стал.
— Это я вижу. Я спрашиваю вас.
Студент снова посмотрел на решение.
— Сейчас…
Он несколько секунд молчал.
— Не знаю.
Артур Сергеевич кивнул.
— Хорошо.
Он вывел на экран другую часть решения.
— А это вы понимаете?
— Да.
— Почему?
Студент объяснил.
— Хорошо. А вот здесь.
Снова пауза.
— Не совсем.
Артур Сергеевич выключил проектор.
— Спасибо. Садитесь.
Студент сел. В аудитории повисло неловкое молчание.
— Теперь вопрос ко всем, — сказал Артур Сергеевич. — У нас есть правильный ответ. Есть подробное решение. Есть человек, который это решение представил. Что из этого мы сейчас можем назвать его учебным результатом?
Никто не ответил сразу. Володя вдруг почувствовал, что недавний разговор с Геннадием Петровичем каким-то образом продолжился здесь, только теперь уже без профессора.
Подняла руку Лена.
— Если он не понимает часть решения, наверное, нельзя считать, что он всему научился.
— Наверное? — переспросил Артур Сергеевич.
— Я не уверена.
— Хорошо. Не будьте уверены слишком быстро.
Кто-то с задней парты сказал:
— Но если ответ правильный, какая разница, кто его получил?
Артур Сергеевич повернулся к нему.
— Для чего?
— Для результата.
— А мы сейчас какой результат обсуждаем?
Студент не ответил.
— Если вам завтра понадобится решить такую же задачу, — продолжил Артур Сергеевич, — и вы снова спросите машину, а через неделю забудете, что спрашивали, можно ли считать, что вы чему-то научились?
— Но ведь я получил решение.
— Получили.
— Значит, работа сделана.
— Работа — да. А обучение?
Он оставил вопрос в воздухе. Володя записал его. Работа — обучение. Две вещи, которые ещё минуту назад казались ему почти одним и тем же. После занятия он задержался. Артур Сергеевич собирал бумаги, когда Володя подошёл к нему.
— Интересная история.
— Какая именно?
— С решением.
— Это не история. Это у меня теперь почти каждый день.
— И что вы с этим делаете?
Артур Сергеевич пожал плечами.
— Пока пытаюсь понять.
Володя удивился.
— Вы же преподаватель.
— Именно поэтому и пытаюсь понять.
Он сложил бумаги в папку.
— Знаешь, раньше было проще. Студент принёс чужую работу — понятно, что произошло. Студент списал — тоже. А теперь он может принести работу, которую действительно понимает на восемьдесят процентов, а двадцать процентов получил от машины. Или наоборот. Или вообще не понимает, откуда взялось решение, но сумеет его хорошо представить.
— И что тогда считать самостоятельной работой?
— Вот.
Артур Сергеевич кивнул.
— Ты сам задал этот вопрос.
Володя вспомнил Геннадия Петровича. Хороший вопрос ещё не означает хороший ответ.
— А если студент использует ИИ, но понимает всё решение?
— Тогда я бы скорее спросил, что именно он делал сам.
— Но если машина сделала вычисления?
— Почему нет?
— А если сформулировала часть решения?
— Тоже возможно.
— А если предложила способ решения?
Артур Сергеевич посмотрел на него.
— Вот здесь становится интереснее.
Они вышли из аудитории вместе. В коридоре уже толпились студенты.
— Знаешь, что меня сейчас больше всего беспокоит? — сказал Артур Сергеевич.
— Что?
— Мы привыкли проверять результат. А теперь, кажется, придётся научиться проверять работу человека с результатом.
Володя остановился. Артур Сергеевич пошёл дальше.
— И я пока не знаю, как это делать.
Володя некоторое время смотрел ему вслед. Потом достал телефон. Но записывать не стал. Мысль была слишком свежей. Он просто запомнил её.
Правильный ответ ещё ничего не говорит о том, чему научился человек.
Глава 5. А обязательно самому?
Вечером они снова встретились в том же кафе. Рома пришёл первым и, увидев Володю, сразу сказал:
— Только не говори, что у тебя опять новый вопрос.
— Есть.
— Я так и знал.
Илья уже сидел за столиком и что-то набирал в телефоне. Максим пришёл через несколько минут, Лена — последней.
— Ну? — спросила она. — Что сегодня произошло?
— На семинаре был интересный случай.
— Опять семинар, — сказал Рома. — Ты уже слишком много времени проводишь с преподавателями.
— Послушай.
Володя рассказал про студента, который с помощью ИИ получил правильное решение, но не смог объяснить некоторые его шаги. Илья пожал плечами.
— Но ответ-то правильный.
— Да.
— Тогда что не так?
— Он не понимал часть решения.
— Значит, разберётся потом.
— А если не разберётся?
— Разберётся.
— Почему?
Илья посмотрел на него с некоторым недоумением.
— Потому что теперь у него есть решение.
Рома усмехнулся:
— Железная логика.
— А что в ней плохого? — спросил Илья.
Максим вмешался:
— Ничего. Если результат тебе нужен для работы, то какая разница, сам ты сделал расчёт или машина?
Володя посмотрел на него.
— То есть ты считаешь, что студент всё сделал правильно?
— Я считаю, что мы слишком быстро называем это неправильным.
— Почему?
— Потому что ты говоришь: «Он не сделал сам». А что значит «сам»?
Володя замолчал. Лена посмотрела на Максима.
— Хороший вопрос.
— Спасибо.
— Нет, я серьёзно.
Она повернулась к Володе.
— Вот ты написал статью. Сам набрал текст?
— Конечно.
— Сам придумал формулу?
— Ну…
— Сам нашёл все источники?
— Не все.
— Сам проверил каждую цифру?
— Конечно.
— А компьютер сам исправлял ошибки?
— Исправлял.
— Значит, не совсем сам.
— Лена, это уже игра словами.
— А может, нет.
Она помолчала.
— Мы всё время говорим «сам сделал», как будто существует только два состояния: либо человек сделал всё, либо ничего не сделал. А ведь так никогда не было.
Максим кивнул.
— Именно.
— Но с ИИ всё-таки другое, — сказал Володя.
— Что именно?
— Он может не просто считать или исправлять ошибки. Он может предложить решение.
— И что? — спросил Максим. — Если я использовал чужую идею, а потом её понял, она стала моей или нет?
Рома поднял глаза:
— Зависит от того, насколько дорого заплатил.
Все засмеялись.
— Серьёзно, — сказал Максим. — Учёный же не обязан сам придумать всё, что использует. Он читает других, советуется, спорит, пользуется приборами. Почему с ИИ мы вдруг должны провести какую-то особую черту?
Володя задумался.
— Потому что он может сделать за тебя слишком много.
— А сколько — слишком много?
— Не знаю.
— Вот именно.
Лена подалась вперёд.
— Мне кажется, мы сейчас спорим не о том.
— А о чём? — спросил Илья.
— Не о том, сколько работы сделал ИИ. А о том, что должен уметь сам человек, если он пользуется ИИ.
За столом стало тише. Рома перестал улыбаться.
— Это уже похоже на диссертацию, — сказал он.
— Не начинай, — ответил Володя.
— Я серьёзно.
Володя посмотрел на Лену.
— А что он должен уметь?
— Не знаю.
— Вот опять.
— А что, обязательно знать ответ сразу?
Володя вспомнил Геннадия Петровича. «Если я сейчас отвечу, ты запишешь мой ответ и решишь, что понял». Он вдруг понял, что сегодня ему хочется сделать ровно наоборот.
— Наверное, нет.
Максим откинулся на спинку стула.
— Тогда давайте хотя бы договоримся: использование ИИ само по себе не делает работу несамостоятельной.
— А что делает? — спросил Илья.
Никто не ответил. Володя посмотрел на своих друзей. Ещё вчера ему казалось, что он примерно понимает, где проходит граница между человеком и машиной. Теперь граница куда-то исчезла. И, что было страннее всего, впервые это его не пугало. Он достал телефон. Рома заметил:
— Записываешь?
— Нет.
Володя убрал телефон обратно.
— Сегодня лучше запомню вопрос. Ответ пока подождёт.
Глава 6. Что остаётся человеку?
На этот раз Володя пришёл к Геннадию Петровичу без листа с подготовленной темой.
— Ничего не принёс? — спросил профессор, увидев его в дверях.
— Принёс.
Володя показал голову.
— Тогда проходи. Посмотрим, сколько там места осталось.
Он сел.
— Я поговорил с ребятами.
— Уже опасно.
— Они меня запутали.
— Значит, разговор был полезным.
Володя рассказал про спор в кафе. Про Максима, который не видел ничего страшного в том, что машина выполняет часть работы. Про Илью, который вообще не понимал, зачем человеку делать самому то, что машина делает лучше. Про Лену, которая спросила, что вообще значит «сам».
Геннадий Петрович слушал, не перебивая.
— И что ты думаешь? — спросил он, когда Володя закончил.
— Не знаю.
— Отличное начало.
— Вы всё время это говорите.
— Потому что ты всё время приходишь с хорошим незнанием.
Володя улыбнулся.
— Но ведь должна же быть какая-то граница.
— Между чем и чем?
— Между тем, что делает человек, и тем, что делает ИИ.
— Зачем?
Володя растерялся.
— Как зачем?
— Ты хочешь провести границу. Я спрашиваю: для чего?
— Чтобы понимать, что считать самостоятельной работой.
— А зачем нам это понимать?
— Чтобы оценивать студента.
— А зачем оценивать?
— Чтобы понять, чему он научился.
Геннадий Петрович кивнул.
— Вот теперь мы пришли куда-то.
Он взял ручку, но писать не стал.
— Попробуй ещё раз. Не спрашивай, сколько работы должен делать человек. Спроси иначе.
Володя подумал.
— Что человек должен уметь делать сам?
— Уже лучше.
— А если он умеет?
— Что?
— Поставить задачу. Проверить результат. Понять его. Объяснить.
— Хорошо.
— Тогда разве не всё остальное можно отдать машине?
Профессор улыбнулся.
— Вот теперь ты начинаешь говорить опасные вещи.
— Почему?
— Потому что звучит очень убедительно.
Володя засмеялся.
— Но разве это неправда?
— Не знаю.
— Опять?
— Конечно. Ты ведь сам только что решил, что нашёл границу.
Он встал и подошёл к доске. Вчерашняя цепочка всё ещё оставалась там:
ЧЕЛОВЕК — ВОПРОС — ИИ — ОТВЕТ — ПРОВЕРКА — НОВЫЙ ВОПРОС. Геннадий Петрович взял маркер.
— А теперь добавим ещё одно.
После слова «проверка» он написал: ПОНИМАНИЕ. Володя посмотрел.
— Это обязательно?
— А ты как думаешь?
— Если человек не понимает ответ, он не может его нормально использовать.
— Не всегда.
— Как это?
— Ты можешь пользоваться сложным прибором, не понимая всех законов физики, по которым он работает.
— Но в учебе…
— В учебе — да. Там мы всё время пытаемся решить две разные задачи. Получить результат и научиться.
Он обвёл слово «понимание».
— И вот здесь начинается самое интересное.
— Что именно?
— Может ли человек научиться, используя то, чего он сам полностью не умеет делать?
Володя задумался.
— Наверное, может.
— Тогда вопрос меняется.
— На какой?
— Не «что человек должен делать сам?»
Профессор зачеркнул эту фразу на листе.
— А «что человек должен понимать сам?»
В кабинете стало тихо. Володя посмотрел на доску.
— Это уже другое.
— Совсем другое.
Он положил маркер.
— Потому что теперь нам не нужно защищать человека от машины. Нам нужно понять, каким должен стать человек, который работает вместе с машиной.
Володя медленно кивнул.
— И это уже про образование.
— Вот теперь — да.
Он снова сел за стол.
— А теперь иди.
— Почему?
— Потому что если ты останешься, я начну тебе объяснять.
Володя рассмеялся.
— А это плохо?
— Для твоей диссертации — очень.
Володя встал. У двери он обернулся.
— Геннадий Петрович.
— Да?
— А если мы пока не знаем, что человек должен понимать сам?
Профессор посмотрел на него.
— Тогда, Владимир, у тебя есть ещё одна хорошая причина продолжать исследование.
Володя вышел. На доске осталась новая цепочка: ВОПРОС — ЗАДАЧА — КРИТЕРИЙ — ОТВЕТ — ПРОВЕРКА — ПОНИМАНИЕ. Геннадий Петрович ещё некоторое время смотрел на неё.
