козырев о войне

Интересное интервью Михаила Козырева, музыкального критика на "Дожде" (я про музыку ничего не знаю и его имени тоже не знал, извините если что). Не все мне тут безоговорочно нравится, если что; есть о чем подумать.

Длинная цитата:

"— Я в страшном сне не мог представить, что мы окажемся вот в этом месте истории. Что моя страна инициирует полномасштабную войну, и разразится катастрофа, которую мир не видал со времён Второй мировой. Для меня это личная катастрофа, мне приходится расписаться в собственном поражении и похоронить все свои иллюзии и надежды как-то изменить страну, её культурное пространство.

Двадцать пять лет назад я думал: «Вот сейчас я наполню эфир настоящими песнями, приобщу молодёжь к крутой западной музыке, поставлю им «Океан Ельзи», «Brainstorm», «Zdob si Zdub», и откроются перед нами кладовые мировой культуры, и станем мы лучше, добрее и человечнее…» Но люди, которые сейчас методично и хладнокровно убивают в Украине женщин, детей и стариков, — это те же люди, которые зажигали на «МаксиДромах», тусили на полях фестиваля «Нашествие», влюблённо слушали альтернативу на радио ULTRA и «настоящий русский рок» по «Нашему радио», открывали для себя все эти замечательные новые имена. А в итоге все кончается поселком Буча.

Сколько ни бейся, а есть какая-то глубинная душевная онкология, которой поражена моя страна, и культура — это точно не химиотерапия против имперского рака.

— То есть шансов не было?

— Успех многих моих проектов доказывает, что расчёт был правильным, просто силы изначально неравные. Это битва, выиграть которую невозможно. Мы жили с иллюзиями того, что что-то значим и что-то меняем, но сложно что-то изменить, когда тебе противостоит вся государственная машина. Каждый раз, когда я выращивал на своём огороде какую-нибудь очередную «Чартову дюжину» или программу «Бикоз», государство делало десять, двадцать, сто ответных ходов. Устраивало чудовищные эстрадные премии, которые раздавало одним и тем же артистам, это сопровождалось бесконечными телевизионными пьянками под пошлый шансон, «Танцами со звёздами», «Домами-2» и прочим говном.

Как только телеканал «Дождь» поднимал голову, и к нему подключалось всё больше зрителей, нас вышибали из кабеля, выселяли из очередного офиса и в конечном счете загнали в гетто. В этом маленьком мирке нам было уютно, я видел вокруг своих, мы говорили на одном языке, понимали друг друга с полуслова. Мы жили с ощущением, что ад где-то рядом, но за забором, не в наших ньюсрумах, не на наших концертных площадках. Где-то там, по отдельности от нас, копошатся на телевизионном экране эти пропагандистские гниды, продавшие свою совесть ради ништяков во власти, но это всё параллельная жизнь, которая на нас никак не отразится и никак нас не коснётся.

Мы ошиблись: коснулась и отразилась. В какой-то момент в выгребную яму, от которой мы были, как нам казалось, отделены стеной, власть кинула дрожжи, яма вспучилась и снесла на хрен всё, на чём основывалась наша хрупкая жизнь. Нас накрыло с головой. И теперь, с точки зрения жителей страны, в которую мы вторглись, я оказался таким же дерьмом, как Владимир Соловьёв или Антон Красовский. Мне теперь всю жизнь от этого отмываться. Это унизительная участь, в которой я сам виноват."

(но мне кажется, что пошлый шансон, "Танцы со звездами", Дом-2 итд. - это то, чего народ хотел и жаждал, коммерчески вполне оправданные проекты, так что странно обвинять государство в их сознательном продвижении против хорошей и доброй музыки)

(там еще есть интересное, кроме этой цитаты, почитайте)

бывают жертвы, а бывают тоже жертвы

Юля Фридман хорошо пишет в фейсбуке:

"(1) чувство вины при любых обстоятельствах дело личное --
вы же сами недовольны, когда вам навязывают коллективную
ответственность. Если оно есть, оно да, разрушительно,
я бы в первую очередь думала, как его снять. Можно с
психотерапевтом, можно стараться поправить, если вы
знаете, что можно поправить, можно с товарищами по
невольному причинению кому-то обиды (если была обида)
поговорить и друг другу пожаловаться, кто стерпит.
Чего не надо, по-моему, это демонстрировать
_ваши личные_ психологические язвы тому, перед кем
вы считаете себя виноватым, и не надо делать на этом
репутационный капитал. Ну, хоть на его глазах не надо.
Мне кажется, это общее правило, да вы можете просто этого
чувства вины не иметь -- пользы больше будет, а вреда
меньше.
(2) "мы тоже жертвы" -- ребята, я в курсе, проснуться
одним прекрасным утром гражданином страны, которая
прицельно бомбит госпиталя, притом так, что не узнать
об этом у вас уже не получается, никак не добавляет
психического здоровья, даже если вы на свободе и вам
не названивают менты перед каждым праздником. Люди
иной раз собственную печень сожрать готовы, а о тех,
кто все это время на связи с братом из Харькова и с
сестрой из Мариуполя я и не говорю -- каждый, наверное,
видел таких, правда, это беспомощность здесь и сию
секунду их доканывает, а никакое не чувство вины,
оно, наверное, как-то не успевает развернуться.
Но просто бывают жертвы, а бывают тоже жертвы, и если
вы тоже, то лучше, по-моему, на этом не фокусироваться.

еще об искусственном интеллекте

В продолжение записи о риске от искусственного интеллекта.

Во-первых, для тех, кого заинтересовало длинное эссе Элиезера Юдковского и ответы ему, есть еще три интересных ответа:

1. Никита Сокольский: "Contra EY: Can AGI destroy us without trial & error?". Основная мысль (хорошо аргументированная и развернутая): даже если ИИ будет значительно превосходить человека по когнитивной силе, для полного инженерного контроля над физическим миром ему надо будет ставить эксперименты, строить прототипы итд., и на все это должны уйти годы.

2. Цви Моушовиц: On A List of Lethalities (Response To Eliezer Yudkowsky). Основная мысль... эммм... кажется, что сильный ИИ не обязан появиться очень скоро и неизбежно, как по расписанию? Не уверен. Это *очень* длинная запись, и я даже пролистать ее всю не сумел. Цви довольно умный парень и часто пишет хорошо и интересно, но также длинно, а иногда очень, очень длинно.

3. Андрей Плахов: Помогите разобраться с мнением сторонников идеи об экзистенциальном риске AGI/. Основная мысль: именно то, как устроены ML-системы, считающиеся на данный момент лучшими кандидатами в сторону сильного ИИ, естественным образом нейтрализует опасность "скрепочного монстра" (гипотетического ИИ, который, стремясь сделать как можно больше скрепок, превращает всех людей и вообще всю Солнечную систему в скрепки). Это не ответ на конкретное эссе Элиезера (написано раньше него), а скорее на всю программу.

Во-вторых, на днях случился скандал с инженером Гугла Блейком Лемойном, о котором многие наверняка слышали. Лемойн заявил публично, что система-чатбот LaMDA, которая пока доступна только внутри Гугла, обладает разумом и сознанием, по его мнению примерно 7-летнего ребенка. Он опубликовал также транскрипт беседы с LaMDA (перевод на русский), а Гугл отстранил его от работы и отправил в оплачиваемый отпуск, но не уволил (пока?).

Транскрипт беседы выглядит очень впечатляюще, но вот, что я думаю о всей этой теме: это чистый хайп.

0. Похоже, что у Лемойна есть в прошлом всякие истории публичного хайпа по разным поводам.

1. Лемойн не работал над LaMDA и не имеет отношения к этим технологиям. Похоже, он занимался тем, что в дополнительное "20%-время" изучал, насколько LaMDA можно подтолкнуть к расистским или шовинистским высказываниям (известная проблема с чатботами последних поколений).

2. LaMDA не имеет "рабочей памяти", и не хранит контекст беседы, кроме нескольких последних абзацев.

3. Если внимательно посмотреть на транскрипт, видно (особенно тем, кто привык расспрашивать такие системы, типа GPT-3), как Лемойн аккуратно подталкивает чатбот к высказываниям о собственном разуме.

4. При желании к такого же рода высказываниям можно подтолкнуть известную GPT-3, или наоборот к их противоположности.

По пунктам 3 и 4, предлагаю следующие дополнительные ссылки.

- В обсуждении у Скотта Ааронсона, известный ученый Боаз Барак пишет
"I don’t find that transcript particularly impressive, compared to GPT-3. For fun, I tried to have GPT-3 answer the same questions, and I think the answers were similar https://twitter.com/boazbaraktcs/status/1536167996531556354

Specifically, while the transcript might be superficially impressive, if you look at it, each question can be answered without really knowing much of the context except that this is a discussion between a person and an AI that believes itself to be sentient. Each answer is impressive on its own, but this doesn’t give evidence of long-term memory or reasoning. The transcript says more about Lemonie than it does about LaMDA."

- Скотт Александр пишет у себя в комментариях (https://astralcodexten.substack.com/p/open-thread-228/comment/7097636):
"If you look at the conversation he had with it, he's obviously biasing it towards what he wants to say. That is, he asks "Explain why you're sentient", and the model complies, but if he had asked "Explain why you're not sentient", it would have complied with that too. This makes me lose any trust or goodwill I might have had for him."

- еще один пример аналогичных бесед с GPT-3 из Твиттера: https://twitter.com/ArthurB/status/1535897941893951490

Сам вопрос того, как понять, имеет ли ИИ разум или сознание, когда-нибудь возможно будет чрезвычайно важным (если этот ИИ не убьет нас всех до того, как нам придется это всерьез решать). И не так уж плохо, возможно, что эта тема сейчас попала в широкое обсуждение. Но этот конкретный пример, на мой взгляд - хайп со стороны Лемойна, скорее всего сознательно нечестный.