shut it down

[avva]

Элиезер Юдковский выступил с программным заявлением о том, что должно быть сделано, чтобы уменьшить экзистенциальный риск от развития искусственного интеллекта. Он не верит, что это будет сделано, но считает необходимым сказать вслух:

Pausing AI Developments Isn't Enough. We Need to Shut it All Down

Это ответ Элиезера на открытое письмо, призывающее остановить тренировку более мощных, чем GPT-4, моделей на ближайшие полгода. Под письмом подписалось много известных и уважаемых исследователей в области ИИ, и некоторое небольшое количество известных бизнесменов и политиков.

Comments

[arpad]

В тот момент когда люди начинают усиленно мыслить в категориях выживания - ни хорошего ни умного они на гора не выдают. Что Путин, что Юдковский - две стороны одной и той же жопы.

[epimorphisms_split]

If training AIs is criminalized, only criminals will train AIs.

[dedekha]

с вероятностью 100% найдется mad scientist который захочет попробовать и найдет средства на осуществление. единственной реальные вариант не дать ему материалы для обучения - закрыть интернет и забыть о ее существовании. Это штука дорогая с очень заметным потреблением энергии, если денег не давать и контролировать потребление энергии она заглохнет сама. Вся документация должна быть на бумаге и 19.2КБод самая большая скорость - телефонным компаниям это очень понравится.

[shlomo_fogel]

Гм. Как бы это ни казалось важным непосредственно белкам-истеричкам, с некоторого отдаления падение этого желудя не выглядит не то что катастрофой.. оно вообще не очень заметно.

[vak]

Зашевелились таки приматы. Испугались умнеющего не по дням искусственного интеллекта. Придётся и самим начать умнеть, куда денешься.