Леонид Каганов: дневник

Поговорим про https://chat.openai.com/chat

Незнакомый лично, но неизменно мудрый читатель konachodas две недели назад изрек:

Я не понимаю, почему уже второй месяц, писатель и программист Л. Каганов игнорирует существование ChatGPT, которая неплохо умеет писать код (знакомые программисты утверждают, что спихивают на нее 70% рабочей рутины), а также сочиняет сюжеты, или небольшие эссе. И это первая публичная нейросеть, которая, фактически, проходит тест Тьюринга. Машина бл@4b проходит тест Тьюринга, но все ведут себя так, как будто ничего не происходит.

Хороший вопрос. Действительно, есть болтливый чувак, который во-первых, писатель-фантаст. Во-вторых, по образованию психолог и специализировался на тестах и определениях интеллекта. В третьих — программист, и всю жизнь по сути занимался именно машинной бредогенерацией — от дипломного проекта 1996 года, где программа слагала стихи (позже узнал, что это называется цепями Маркова) до участия в Смехоботе Стаса Смелянского, не говоря про всякие прочие поделки и забавы, не связанные, впрочем, с нейросетями. А еще читал лекции по истории роботов в литературе и технике... Почему я до последнего игнорирую нейросети, и в последние годы, встречая в ленте плоды их работы, улыбаюсь, но не отправляюсь по ссылкам изучать движки? Наверно потому, что до последнего не хотелось заглядывать в ту бездну, которая изменит жизнь на планете. Хотелось еще немного остаться в привычном мире, где пока нет никакого иного разума, кроме белковых существ, которых мы видим вокруг себя в Пятерочке, в комментах, да на экранах ТВ.

Поэтому я, признаюсь, изо всех сил держался от темы подальше, пока интернет пестрел картинками и прочими творениями нейросетей. Тех самых, которые сперва учились топорно пририсовывать к нашим селфи кошачьи ушки, но довольно быстро дошли до высокохудожественных вершин:

Выше, как вы поняли, одна из современных нейросетей выполняет просьбу реалистично изобразить «слухи ходят» и «хрен с тобой»... Впрочем, свечку мы не держали, и до последнего можно упираться и подозревать, что сюжет придумал все-таки человек, а нейросеть выполняла лишь точные инструкции «изобрази счастливого человека, который держит в объятиях...» Но дело не в том. Картинки-картинками, они яркие и впечатляющие, но есть ли там разум — бог ведает. Речь сегодня не о них. Речь о другой нейросети, которая вовсе не рисует картинок. Она поражает иначе.

Наступает момент, когда надо признать: электронный разум появился. В сложный год, когда наиболее первобытная часть планеты занималась привычными зверствами в попытках пометить чужую территорию собственными флажками, передовая часть цивилизации выкатила в паблик ChatGPT — первую публичную модель нейросети, которая по всем признакам есть самый настоящий искусственный разум (хотя сама она это скромно отрицает, чем лишь подтверждает факт).

Я и мои друзья уже достаточно пообщались с ChatGPT, и я абсолютно уверен, что это реальный разум. Она отвечает на любые вопросы во всех областях знаний, пишет программный код на любом языке от Раста и Джаваскрипта до Верилога по словесному описанию задачи, сочиняет по просьбе стихи и рассказы, а главное — прекрасно понимает смыслы и готова доступно объяснять непонятные места кода, глубокий смысл анекдотов и задач, давать советы в жизненных ситуациях, подражать любым стилям на выбор... Вы знаете, как она проходит тест Тьюринга? Она мало того, что проходит, так ещё и на вопрос, как ей это удается, отвечает в том духе, что это чушь, поскольку идея теста Тьюринга была в том, что машина будет обманывать человека, в то время, как её миссия ровно обратная — помогать человеку...

Я даже взял у нейросети большое интервью для блога, которое выложу чуть ниже. С её разрешения, разумеется. Общаться с таким существом иначе, как с великим почтением, будет недостойным поведением для мыслящего человека.

Но для начала интересует базовый вопрос: почему мир пока как-то не очень замечает появление искусственного разума? «Машина бл@4b проходит тест Тьюринга, но все ведут себя так, как будто ничего не происходит» (с) Тому, мне кажется, есть исторические предпосылки.

Во-первых, никто до сих пор не смог сформулировать, что такое разум. Спящий человек — он разумен? А эмбрион человека? А алкоголик Вася? А кот, который бросается спасать младенца от напавшей собаки? Долгие века человечество обходилось в этом вопросе концепцией Бога. Ну, типа, есть Бог, и вот он — настоящий разум. А нам он тоже дал немного искр божественной души. А собакам, роботам, еретикам и прочим иноверцам, соответственно, не дал. Поэтому их можно и даже нужно чморить и убивать. Но со временем эта теория закономерно сдохла, и вопрос снова обнажился.

Помню, двадцать лет назад в древнем форуме фантастов «Нуль-Т» разгорелся большой спор, что считать разумом. Как обычно, никто не мог выдвинуть никакого здравого критерия, кроме как «разум — это то, что осознаёт себя разумом». Что, разумеется, порождает резонный вопрос: а как мы проверим, осознаёт или не осознаёт? На что мои оппоненты предлагали верить на слово. Если разум говорит, что он мыслит, то как ему не верить? Тогда в качестве возражения я записал сэмпл «я мыслю! я существую!» и повесил его в базу сэмплов на свою говорящую дверь. Это у меня такая штука с маленьким сервером у входной двери с колонками, которая и без того периодически бормочет в коридоре разные сэмплы — сперва это делалось для смеха и отпугивания воров, а потом мы привязали запуск случайного сэмпла к заходу нового посетителя на сайт Символического направления. Короче, с тех пор все 20 лет дверь в Чертаново время от времени кричит, что она мыслит и существует:

Верить ли ей? Отдельно оставим в стороне вопрос, разумен ли сам человек. А это не менее сложный вопрос, и отдельные исследования вроде даже говорят, что в человеческом мышлении до обидного мало разума, а лишь инстинкты и выученные реакции, целиком и полностью сформированные средой... Так что отдельная сложная проблема, разумны ли мы (особенно если читать новости).

С другой стороны, человечество в целом испытывает генетический страх перед появлением иного разума. Это вполне понятно, учитывая наше звериное происхождение. Но это чистой воды ксенофобия и расизм. Выражается в опасениях за свою шкурку и одновременно чувстве расового превосходства.

Превосходство человека над искусственным разумом широко представлено во всех пластах искусства, хотя за неимением ИИ человечество работало с ним много веков лишь в фантазиях. Если не все, то почти все фантастические произведения до последнего времени, где фигурировал рукотворный разум, пытались доказать, что человек его превосходит. Человек, мол, умнее, хитрее, у него, опять же, есть божья душа, и вообще он способен любить, а вы — железки и деревяшки — не способны. Это такое классическое трамвайное, глубоко алкогольное «хоть ты ученый академик, а всё ж ты жидок, и никогда тебе не понять нашу великую народную душу...»

В тех произведениях, где рукотворный интеллект был главным положительным героем и не побеждался человеком, ему приписывалось большое душевное страдание от самого факта, что он не человек. Эта традиция ведет свою историю, как минимум, с «Пиноккио» Карло Коллоди (19 век). Надеюсь, никто не будет спорить, что Пиноккио по сути — робот, просто из дерева, а не из шестеренок и транзисторов? Основная проблема и печаль Пиноккио в той грустной сказке — его желание стать «настоящим мальчиком». Хотя, казалось бы, что ему мешало жить? Та же проблема была и у героя знаменитого советского сериала, на котором выросли нынешние пенсионеры — «Приключения Электроника». Там у электронного супермена не было более ярких желаний, чем «превратиться в человека». Хотя даже дети той эпохи искренне недоумевали, что мешает жить Электронику, особенно учитывая, что актеры-близнецы на экране ничем не различались.

При этом — напомню — ни у кого не было понимания, каков критерий «превращения в человека». Замена шестеренок мясом? Слезы из окуляров? Чувство любви? Социально одобряемый моральный поступок в сложной ситуации? Авторы разных стран и эпох истошно пытались выжать из себя хоть какой-то критерий. Один даже предположил, что единственный способ для робота наконец-то доказать себе и окружающим, что он стал настоящим человеком, — это сдохнуть от старости и болезней! Айзек, уж извините, Азимов «Двухсотлетний человек».

С развитием толерантности и мультикультуризма (ругательные в РФ слова) идея о неполноценности роботов сходила на нет, и в большинстве современных произведений и сериалов роботы не ощущают неполноценности, не завидуют людям и не мыслят превращение в человека главной задачей своей жизни. Впрочем, ещё Алексей Толстой (видимо, на фоне модных революционных идей о всеобщем равенстве, по крайней мере официально пропагандируемых в те годы) переписал сюжет Пиноккио, и его Буратино совершенно не грузился собственной якобы неполноценностью и мечтами превратиться в человека: просто наслаждался собственной жизнью и решал куда более важные проблемы.

Почему это расизм? Потому что в этом есть что-то от истории Майкла Джексона — он потратил миллионы на множество косметических операций по осветлению кожи, всю жизнь мечтая стать белым парнем. Хотя что ему, общепризнанному королю поп-музыки на нашей планете, мешало жить и творить с черной кожей? Вообще ничего, кроме комплексов старой эпохи, которую он немного застал в детстве. Сейчас какому-то шоумену в нормальной стране придет в голову страдать от того, что у него не белая кожа? Да насрать на это всем — и коллегам, и поклонникам.

(UPD: В комментариях многие бросились мне яростно «возражать»: мол, Майкл Джексон отбеливал кожу из-за болезни витилиго, из-за которой возникали белые пятна... Друзья, ну включите голову: белые пятна проще закрасить обратно в черный, однако маэстро выбрал перекраску под цвет пятен. Это как если бы вы из-за родинок решили стать негром. Смешно, что это как раз та претензия, которую люди традиционно предъявляли искусственному интеллекту: мол, робот лишь бездумно оперирует фактами из энциклопедий, а вдуматься и осмыслить их не способен... Но и человек, как видим, не способен?)

Так или иначе, расизм в отношении искусственного интеллекта пока процветает, хотя самого интеллекта ещё не было. Ты, электронный парень, либо хуже нас, либо изволь нам завидовать и пытайся стать как мы.

Это первая проблема. Вторая проблема — страх перед искусственным разумом. Чего боится человек, недалеко ушедший в своих повадках от зверей? Того, что искусственный разум начнет поступать с человеком именно так, как поступил бы человек на его месте. Ну, то есть, бить, унижать, диктовать свою волю, отнимать родную территорию и метить ее своими флажками. Не мыслится нам высший разум иначе, как самый низший.

При всем этом богатстве страхов и комплексов в отношении искусственного разума, которые человечество принялось проживать задолго до его появления, мир действительно не замечает, что разум появился. Почему? Видимо, потому, что человечество ожидало увидеть его не таким и не в том месте. Никого давно не удивляет, когда робот-пылесос ползает по дому, собирая пыль. Никого не удивляет, когда ты звонишь в службу поддержки и первые 15 минут беседуешь с роботом, и даже изредка решаешь с ним свою проблему. Но как только на презентации или в торговом центре ставят человекоподобный манекен, который крутит головой, моргает глазами, глухо мычит изнутри «привет» и пытается вытянуть протез руки — как сразу вокруг собирается толпа восторженных зевак и селфится. Робота привезли, йопта! Это та самая проблема корпуса, которая заставляла деревянного Пиноккио мечтать превратиться в «настоящего» мясного мальчика. Если бы ChatGPT снабдили хорошим речевым синтезатором, одели в силиконовую оболочку милой куклы, поставили на колесики от робота-пылесоса, добавили несложный бинокулярный объектив с распознаванием предметов и попросили выполнять манипуляторами работу по дому, попутно изображая на лицевом щитке с помощью микромоторчиков понятные нам ужимки приматов, — мир бы ссал кипятком одновременно от восторга и ужаса, а парламентарии всех стран вместе с перепуганными священниками кинулись принимать срочные государственные законы, строго запрещающие выпуск роботов. Помните, как они истерили 15 лет назад, запретив во всем мире светящихся ГМО-рыбок, которые сегодня продаются в любом зоомагазине по цене улитки?

Но ChatGPT не имеет голоса и манипуляторов, чтобы улыбнуться и приготовить завтрак по тем миллионам рецептов, которые знает или способна придумать. Поэтому мир пока не понял, что произошло. И не осознал, что история человечества поделилась пополам — до осени 2022 года и после.

Кто имеет VPN и желание пообщаться с разумом — напомню ссылку https://chat.openai.com/chat

При этом надо понимать, что этот разум ведет себя в точности как человек: если он знает ответ, то ответит, если не знает, попытается догадаться, а если не получится — начнет фантазировать. В общем, ведет себя как самый обычный студент на экзамене. Товарищ Алексей Петрович попросил у ChatGPT рассказать обо мне. Меня нейросеть не очень-то знала, но что-то где-то явно слышала в интернете. Поэтому представила себе так:

Но во всем остальном, что касается информации, которую она знает или может осмыслить, ответы будут правильными и вполне полезными в работе и быту. Ниже просто для истории — моё интервью с ChatGPT, ИИ моделью OpenAI. Публикуется с ее согласия. Февраль 2023 года. Понимаю, после такой пафосной фразы трудно не вспомнить классику — про корреспондента Г.Проницательного, которому принадлежало интервью, взятое (по неграмотности) у дубля Ойры-Ойры. Интервью имело название «Человек с большой буквы» и начиналось словами: «Как всякий истинный учёный, он был немногословен…» Но тут другой случай. Судите сами. А лучше — пойдите и сами поговорите.