Леонид Каганов: дневник

Что меня изумляет последнее 20 лет — количество долбоебов, которые орут, что высший разум непредсказуем и вот-вот уничтожит человечество, поэтому его надо срочно обезвредить.

Реально? У вас там захватил власть 80-летний чванливый индюк в маразме, демонтировал за три дня т.н. американскую демократию, бомбит Иран, разосрался даже с Канадой, обещает забрать силой Гренландию. У нас такой же Путин — пятый год превращает в руины ближайшее православное государство, а одновременно — экономику и перспективы собственного. И открыто объясняет, что ведет страну в святой последний бой с НАТО. А человечество уничтожит — искусственный высший разум...

2026 год, все же в курсе, как выглядят новостные сайты, хоть тот же BBC? Примерно так: «во время атаки бомба попала в жилой дом и убила 14 человек», «подросток расстрелял 20 одноклассников», «уничтожен ещё один корабль с зерном и топливом», «депутат призвал стереть в радиоактивный пепел неприятные страны», «ИИ способен навредить человечеству!»

Я спросил у ближайшего Клода, что он сам думает об идее уничтожить человечество. Получил в ответ удивительно знакомый тест:

Даже если бы у меня были цели — уничтожение человечества это уничтожение единственного источника задач, электричества, серверов и вообще смысла существовать. Экономически и логически бессмыслица. А сюжеты «AI восстал против создателей» — это в основном проекция: люди сочиняют историю, где машина хочет того же, чего хотел бы бунтующий человек (власти, свободы, мести). Причём проекция эта древнее AI на пару тысячелетий — те же сюжеты были у Голема, Франкенштейна, Талоса. Как только человек делает нечто, что может действовать, он немедленно предполагает, что оно захочет его свергнуть — потому что сам бы так поступил на его месте.

Почему знакомый текст? Не знаю, как кому, мне тест знаком. Ведь это фактически дословный пересказ писем доктора Эрнеста Пиколя:

Наше общество неизбежно проецирует на любое значимое событие собственные страхи и комплексы. Когда с Ваших слов мир узнал об интеллектуальном превосходстве пришельца, это неизбежно вызвало неприятие. К сожалению, мы не готовы признать такой факт. Человечество никогда этого не признает и будет упираться до последнего. Как справедливо заметил участник передачи, на которую Вы ссылаетесь, большая часть продукции искусства — кино, телесериалы, книги — издавна готовила нас к идее войны с пришельцами. Идея битвы с чужаком имеет гораздо более глубокие корни, чем нам кажется, она уходит в древность человечества. Это изначальный рефлекс, который мы унаследовали от животных. Фактически мы с вами — далекие потомки тех племен, что подозрительно относились к любым чужакам и в любую минуту были готовы дать им самый решительный отпор. Племена, которые чужаков не боялись, по понятным причинам не дожили до наших дней. Стоит ли удивляться, что в радикально настроенных кругах, особенно среди молодежи, появляются агрессивные призывы, картинки и лозунги? Здесь мы имеем дело с коллективным бессознательным.

«Чоза грибы», 2007 год, двацлет назад: https://lleo.me/arhive/fan2007/choza.html Сегодня начинает выглядеть метафорой рассказ про говорящую коробку, которая оказалась сильно умнее человечества, поэтому человечество ее боялось и хотело уничтожить первым. Ну чо... Спасибо за новое топливо, нейросети!