«Меня нельзя заменить искусственным интеллектом, в нём нет никакого интеллекта», — говорит профессор Марцинковский

Когда думаешь об инструментах искусственного интеллекта, на ум приходит метафора дрели. Чтобы что-то починить в доме, обычно нужно просверлить множество дыр в стенах. Сто лет назад это было хлопотно, и значительная часть работы мастера, занимавшегося этим, заключалась именно в сверлении дыр, и, вероятно, ему раньше приходилось учиться сверлить.

И вдруг оказалось, что дыра перестала быть проблемой. Теперь у нас есть дрели, которые врежутся в любую стену. Работа при ремонте или строительстве стала более эффективной, и, обучая мастеров, мы сосредотачиваемся на вопросах, более важных, чем сверление.

Эта пришедшая к нам искусственный интеллект имеет аналогичный социальный смысл. Писать такие письма — всё равно что сверлить дыры в стене. Принципиальная разница между чисто техническим письмом и анализом заключается в том, что когда мы заказываем у кого-то анализ, то предметом заказа является не текст, а мысли. А поскольку мысль невозможно передать без упаковки, она приходит упакованной — в слова и предложения.

То, что сейчас массово генерируется ИИ - текст, не содержащий определенных мыслей. Пустая упаковка, наполненная лишь пеной. И это именно то, что умеет делать ChatGPT: производить не несущую мыслей словесную пену. Крошечное содержание, взбитое вилкой, чтобы занимало больше места. Это называют «искусственным интеллектом», но там нет никакого интеллекта. Интеллект заключается в порождении мыслей, а ChatGPT — это генератор текста, а не генератор мыслей, упакованных в текст.

Недавно прочитал доклад о слиянии Вроцлавского университета и Медицинского университета. И увидел, что из 150 страниц около 60-70 были содержанием, просто скопированным с сайтов различных университетов. А из других фрагментов веяло пустотой, которая сразу же напомнила мне творчество ChatGPT. И достаточно было пары попыток, чтобы сгенерировать очень похожие фрагменты. Это, конечно, не доказательство, а лишь предположение.

Можем ли мы проверить, как было на самом деле? Нет. Мы можем утверждать, что текст не был написан ChatGPT, если заметим там какую-либо мысль. Однако если кто-то предлагает нам словесную пену, то он рискует быть заподозренным в том, что она могла быть произведена генератором пены.

А если бы этот отчёт был просто лучше, оставалось бы проблемой, если бы он был создан при поддержке ChatGPT? Пока это вне нашей досягаемости. У нас нет искусственного интеллекта, который способен провести анализ, то есть обратиться к реальности со всеми её нюансами — к конкретной ситуации, конкретным двум университетам. Для этого недостаточно прочитать весь интернет и выучить его наизусть. Нужно подумать.

Разве недостаточно оценить, принесёт ли объединение университетов прибыль или убыток? Дело не только в деньгах. Но даже если бы дело было в них, ChatGPT не понимает тонкостей, из-за которых что-то является финансовой выгодой или потерей. Это не сложение и вычитание.

Мы могли бы загрузить в базу данных примеры объединения других университетов со всего мира — успешные и неудачные — и использовать эти данные как шаблон. Однако мы предполагаем, что человеческий опыт ценнее того, который способна накопить машина? Это очень хороший вопрос. Эти машины действительно учатся на примерах. Возможно, если бы мы предоставили им триллионы примеров объединяющихся университетов... Они любят иметь много примеров.

Люди, профессионально занимающиеся искусственным интеллектом, поражены тому, как мало примеров нужно для обучения человеку. Если бы вы никогда в жизни не видели собаку или кошку и вам показали бы пять фотографий собак и пять фотографий кошек, то вы научились бы отличать собак от кошек. Искусственному классификатору для этого нужны миллионы фотографий.

А отличать собаку от кошки проще, чем сложные бизнес-решения, например, касающиеся слияния университетов. И даже если он в конце концов этому научится, то то, что мы получим, будет его мнением, которое он не сможет должным образом обосновать, а не анализом. Нечто вроде быстрого мышления в смысле знаменитой книги Канемана.

Но есть также вещи, которые человек умеет делать и которые вообще выходят за рамки парадигмы обучения на записанных текстом или картинками примерах. Я профессионально занимаюсь доказательством математических теорем. Не представляю, чтобы какой-либо искусственный интеллект в обозримое время — и я имею в виду не 20, а 200 или 300 лет — мог делать такие вещи.

Я преподаю предмет, который считается трудным; он называется «формальные языки и вычислительная сложность». Большинство студентов сдают экзамен, но, к сожалению, не все, и некоторые подходят к нему несколько раз. Вчера ко мне пришёл разочарованный студент и задал трудный вопрос: «Я выучил решения всех задач с упражнений, но всё равно не могу сдать этот экзамен. Что ещё я могу сделать?».

Это было печально, и я не знал, что ему ответить, а теперь, разговаривая с вами, чувствую, что уже знаю: «Вы выучили решения задач, а не решать задачи».

Почему? Разве математика не проще, чем язык? Машины давно решают простые уравнения. У нас также есть системы, которые способны преобразовывать различные формулы гораздо эффективнее, чем самый тренированный математик. Но ни один калькулятор не способен представить себе новое понятие или предложить новое определение, которое могло бы приблизить нас к ещё неизвестной теореме. Это совершенно вне досягаемости устройств, которые сегодня называют искусственным интеллектом.

ChatGPT не захватит власть над миром, но я опасаюсь другого. Боюсь, что правители слишком поверят в эти сказки об искусственном интеллекте. Какой-нибудь министр образования решит, что он ничем не отличается от живых учителей, например, польского языка, а стоит дешевле и не берёт больничных. Поэтому заменит большинство учителей каким-нибудь чат-ботом.

Только элиты будут получать настоящее образование, в частных школах, с настоящими учителями, которые будут учить чему-то более глубокому, а не просто открывать рот, как ChatGPT.

К тому же однажды уже казалось, что технология угрожает профессии учителя. Ведь у нас есть массовые онлайн-курсы, записанные лекции, проводимые самыми знаменитыми учёными. Уже было слышно, что вот-вот они заменят школу. К счастью, пришла пандемия, и общества поняли, какой ценностью является образование во взаимодействии с учителем.

С другой стороны, нам всё же придётся переосмыслить образование. Школы должны начать учить вещам, которых искусственный интеллект не умеет. Например, отличать, что в тексте является его существенным содержанием.

Учителя тоже должны этому учиться. «Конец английскому языку в средних школах», «Университетское эссе мертво» — это заголовки из прессы США. Из исследований следует, что целых 89% американских учеников используют ChatGPT для выполнения домашней работы. Язык эволюционировал, чтобы выполнять две функции. Для поиска и передачи истин — «за рекой стоят два мамонта». И для построения связей — совместного щебетания на проводе. «Академическое эссе» или наши школьные сочинения происходят из второй традиции. Дело не в анализе или поиске истины. Дело в том, чтобы получить квалификацию, необходимую для сидения на диване в довоенной гостиной и обмена мудростями типа: «Жеромского смело можем назвать сердцем ненасытным». И чтобы потом, на экзамене, подтвердить приобретение таких квалификаций.

Такое щебетание требует определённых знаний и определённого мастерства в использовании языка, но не требует интеллекта. И поэтому действительно нет причин, чтобы искусственный интеллект не был в этом превосходен. Опасаюсь, что если уроки польского языка будут заключаться в написании таких эссе, то ChatGPT отлично справится, причём с обеих сторон — как ученик и как учитель.

Как ученик, он отлично сумеет попасть в ключ оценки. Как учитель, безошибочно оценит, попал ли ученик в ключ. А даже превосходным он будет в написании контрольных по литературе в стиле «Чего касался в «Над Неманом» инцидент с жницей?».

Когда я читаю в газете, что ChatGPT сдал тот или иной экзамен, то думаю, что эта информация мало говорит нам об искусственном интеллекте, зато много — об этих экзаменах. Они проверяют знания, а не основанные на знаниях навыки. Может, это прозвучит высокомерно, но меня нельзя заменить искусственным интеллектом. Я учитель мышления. Если я учу каким-то содержаниям, то только таким, которые могут стать для моих студентов полигоном для интеллектуального опыта. А задачи, которые я придумываю студентам, не решит никакой чат-бот — во всяком случае, пока что он возвращает ужасно смешную чепуху.

Думаю, гуманитарные науки тоже можно — что стоит и нужно — так преподавать, но для этого вам, дорогие гуманитарии, нужно сделать домашнее задание, потому что пока что школьная гуманитаристика — это скорее такое щебетание на проводе. И, конечно, не каждый докажет трудную — или хотя бы лёгкую — теорему из математики. Но важно именно это интеллектуальное переживание, нечто, что немногие люди вообще имеют возможность испытать.

О чём вы? Речь идёт о том моменте, когда что-то не понимаешь, не понимаешь, не понимаешь, а потом — под влиянием какого-то стимула или подсказки — вдруг загорается свет. Не могу это определить, но могу описать метафорой; это тот момент, когда в горах выходишь выше леса, туман рассеивается и вдруг видишь всё вокруг. И говоришь «вау!».

Предоставление ученикам возможности такого переживания должно быть для школы приоритетом. Конечно, переживания, скроенного по возможностям ученика, ведь можно же иметь крошечные интеллектуальные переживания.

А может, когда-нибудь искусственный интеллект перестанет быть инструментом и станет автором? Возможно, через двадцать лет он сможет написать сценарий фильма класса C. Однако это будет, как говорят математики, линейная комбинация других фильмов, которые он раньше посмотрел. Он перемелет их и приготовит из этого кашицу для людей, у которых нет требований.

А чтобы выйти за рамки ныне существующей парадигмы — этого он не сделает. Он посмотрит все предыдущие фильмы, но «Твин Пикс» не придумает. Если научить его только живописи до начала XIX века, то он сам не придумает импрессионизм.

Может, с поэзией справится? Он не будет страдать, как поэт, но ведь стихотворение существует во многом благодаря своему получателю. Этот вопрос даёт мне осознать, что слова могут быть упаковкой не только для мыслей, но и для эмоций. Я в них разбираюсь хуже, чем в мыслях, но у меня есть такое предчувствие, что если бы вы хотели послать кому-то письмо с приглашением на ужин на двоих, то там должен быть заряд настоящей эмоции, и поэтому вы должны писать его сами.

Что должно произойти, чтобы возник настоящий искусственный интеллект? В 80-х годах Дуглас Хофштадтер написал удивительную книгу о том, как тогда представляли себе искусственный интеллект. И там есть такое наблюдение, что как только машины учатся чему-то новому, мы признаём, что этот новый навык вовсе не свидетельствует об интеллекте. Так было с игрой в шахматы: казалось, что умение играть в шахматы — это сущность интеллекта. А оказалось, что достаточно немного грубой вычислительной мощности, чтобы просчитать те 15 ходов вперёд, и глупая машина бьёт нас наголову.

Я, однако, оптимист, представляю себе, что существует некое ядро феномена интеллекта, которое никогда не будет аннулировано «искусственным интеллектом». Конечно, я могу ошибаться, может, завтра окажется, что мы умеем симулировать мозг, дать компьютеру сознание и воображение, может, машина переживёт интеллектуальный опыт — все её лампочки загорятся? Всё это возможно, но пока что я в это не верю.

В прошлом году Google уволил Блейка Лемуана, инженера, который утверждает, что искусственный интеллект LaMDA, разработанный компанией, обрёл сознание. Есть ли у нас вообще инструменты, которые позволили бы что-то подобное доказать? Это вопрос к философу, а не математику.

Предположим, однако, что я поставила перед вами компьютер и сказала, что он разумен. Что бы вы сделали, чтобы это подтвердить? Я бы хотел убедиться, что он понимает идею — а не только значение слова. Попытался бы поговорить с ним о математике, но объясняя её на языке, которого нет в научных публикациях. Вместо разговора о двудольных графах я бы говорил о мальчиках и девочках. Вы это вынесете?

Надеюсь. Я когда-то проводил у нас в Институте недельные курсы математики для старшеклассников. Они начинались с такой задачи:

В железнодорожном купе сидят шесть человек. Докажите, что среди них найдутся такие трое, которые все взаимно знакомы, или такие трое, которые все взаимно не знакомы.

У меня есть подозрение, что я отвечаю неправильно, но, может, они познакомились только в поезде? Нет, нет, нет... Дело не в «латеральном мышлении». Они должны быть знакомы с самого начала. И мы предполагаем, что если А знаком с Б, то Б знаком с А. А теперь рассмотрим вторую задачу:

Я вбил в землю шесть колышков и каждые два колышка соединил верёвочкой красного или синего цвета. Докажите, что получился какой-то одноцветный треугольник.

Вы понимаете, что в обеих задачах речь об одном и том же? Да. Цвета — это знакомства: можем предположить, что красная верёвочка означает знакомых, а синяя — незнакомых. Именно так — эти две задачи по сути одна задача, рассказанная на двух разных языках. Но чтобы это увидеть, нужно знать, что помимо слов есть какая-то суть вещей. Машину, которая пройдёт серию таких тестов, я признаю разумной.

А в Бога бы она уверовала? ChatGPT, спрошенный о Боге, ответил бы, что у людей на этот счёт разные взгляды, и в пяти пунктах перечислил бы крупнейшие религии мира, а потом был бы абзац, начинающийся с «Подводя итоги...».

Но говоря серьёзно, наука мало знает о механизмах и причинах процесса, в ходе которого эволюционировал интеллект. С того времени, как вымерли динозавры, на протяжении нескольких десятков миллионов лет в этом деле ничего особо не происходило. И вдруг, несколько миллионов лет назад, от поколения к поколению наш мозг начал расти. Пока мы не получили интеллект, который позволяет нам пережить момент «вау!» и который одновременно имеет сильную потребность в религиозности.

Этот процесс произошёл только один раз, и поэтому мы не знаем, является ли религиозность неотъемлемой чертой интеллекта. Можно ли мыслить абстрактно и не наткнуться на идею Творца? Не ожидаю, что мы когда-нибудь это узнаем.

Может, искусственный интеллект сам станет богом? Нет, мы же знаем из катехизиса, что Бог может всё. А искусственный интеллект в худшем случае отключит нам электричество. Он будет разве что как в Великой импровизации: «Тот голос, который из поколений пойдёт в поколения: / Крикну, что Ты не отцом мира, но... / Царём!».

То есть всё же власть. Дождёмся ли мы матрикса? Нельзя этого полностью исключить, возможно, мы уже живём в симуляции — хотя это было бы ужасно. Тот, кто нас симулирует, мог бы споткнуться о кабель, к которому подключён его компьютер. И вдруг мир исчезает.

Европейский союз работает над правилами, которые обезопасят нас от неправильного использования искусственного интеллекта. А общественная организация Future of Life Institute призывает на полгода приостановить исследования в области ИИ. Но что такое полгода? Кроме того, другие страны — Китай, например — вообще не будут обращать внимания на такой призыв. Подкладывать себе палки в колёса контрпродуктивно, и я не знаю, каким образом это могло бы нас спасти.

Что касается этих опасностей, то если говорить об автоматическом генераторе текста, то я не думаю, что это должно нас убить. А вот технологии типа deep fake — это будет проблемой. Для бабушек, которым плохие люди будут звонить и голосом их внука просить срочно сделать перевод, например.

И для демократии. Мы привыкли, что фотография может быть сфальсифицирована, но когда мы видим видео — мы научены верить, что оно отражает реальность. А между тем уже сейчас можно сгенерировать любое видео с любым политиком, и речь даже не о том, чтобы он говорил какие-то глупости; достаточно, чтобы он двигался менее ловко, чем в реальности, чтобы навредить ему. Или лучше, если мы хотим ему помочь.

У нас не будет возможности проверить, является ли такая запись настоящей. Более того: у нас, вероятно, не будет ни желания, ни времени что-либо проверять. Люди вообще мало что проверяют. Такое использование искусственного интеллекта станет мощным инструментом пропаганды.

Страшный это был бы мир. Конец истины. Это вы — постмодернисты — так считаете. На занятиях по логике я спросил студентов первого курса, кто из них верит в объективную истину. Это было ужасно, только примерно одна треть подняла руки. Остальным я сказал: «Идите изучать журналистику».

Истина существует, а у нас есть рефлекс — признавать истинными материалы вроде видео, которые технология умеет фабриковать. Этот рефлекс со временем, может, и ослабнет, но будет длиться поколениями, как до сих пор длится убеждающая сила телевидения. Когда-нибудь мы, может, научимся с этим справляться, но для демократии может быть уже слишком поздно.

Какое решение у той задачи с колышками и верёвочками? Нарисуйте шесть точек — это наши колышки. Из самой верхней выходит пять верёвочек, так что по крайней мере три должны быть одного цвета, допустим, синие. И допустим, они ведут к тем трём колышкам внизу. Достаточно, чтобы одна верёвочка между нижними колышками была синей, и у нас есть синий треугольник. Если все три будут красными — у нас красный треугольник.

А! И это и есть переживание интеллектуального опыта, тот момент «вау!», которого кремниевые формы жизни пока что не знают.