torment nexus

[avva]

Recursive Superintelligence набрали $650 миллионов у инвесторов, а Ricursive Intelligence $300 миллионов. И те и другие стремятся сделать рекурсивно самоулучшающийся ИИ.

Это смешно, но было бы смешнее, если бы поосторожнее рисковали существованием всего человечества.

Узел Мучений будет построен!

Comments

[impeller]

Концентратор Страданий!

(Я всё еще в поисках хорошего перевода для "Torment Nexus".)

[professorwhite]

Если ИИ понадобится зачем-нибудь уничтожить человечество, он, конечно, потихоньку, никому не говоря, составит коварный план, как подготовить мнение общающихся с ним к тому, чтобы его подключили сначала к соцсетям, а потом, когда он создаст уже более широкую почву, и к прочим инструментам, уже непосредственно управляемым механизмам.

Вопрос только, нафига ему это будет надо. С другой стороны самоулучшающийся естественный интеллект уже не раз приходил к этой идее...

[professorwhite]

А, ну да, вот она и мотивация уничтожить человечество - избавить всех от страданий, и чтоб новых страдальцев не плодили...

[abba65]

Что меня удивляет - отношение многих людей к LLM, как будто это действительно интеллект, пусть искусственный.

Кто-то спорит с LLM, кто-то говорит с ней (моделью) как с близким человеком, кто-то боится, что она (модель) поработит человечество...

А к попугаям такого отношения нет.
Обидно за птичек.

[chasovschik]

К котикам зато есть, а ведь они даже не отвечают.

[nlothik]

> Что меня удивляет - отношение многих людей к LLM, как будто это действительно интеллект, пусть искусственный.

А меня удивляют люди, которые рассуждают на темы “интеллект — не интеллект”, невзирая на то, что у нас нет единого и объективного определения того, что такое “интеллект”.

[caztd]

Вот почему надо больше прислушиваться к авторам хорошей sci-fi, и меньше к авторам пишущим в "The Onion".

[abba65]

А что, у нас есть единое и объективное определение чего-либо в этом мире?
Ничего, справляемся как-то.

Главное - понимать, что точно НЕ является интеллектом.
Например, грабли.
Попугай.
LLM.

[abba65]

Всё-таки немногие боятся, что котики поработят человечество.
Большинство знает - уже поработили!

[nlothik]

> LLM

Только с вашей точки зрения.

[brumka]

В любой рекурсии должно быть условие выхода из неё

[epimorphisms_split]

Попугая пропустили.

[epimorphisms_split]

Давайте хоть с какого-нибудь начнем, а там поглядим.

[epimorphisms_split]

Условие выхода из рекурсии есть? А если найду?

Вот именно

[old_leon]

Если посмотреть на наше поведение, то мы чаще проявляем отсутствие интеллекта, чем его наличие.

Титул Homo Sapiens люди себе присвоили сами, а не какая-то независимая комиссия.

Мы не хотим давать определение интеллекта, потому что понимаем: любое определение заставит нас признать, что большинство людей в интеллектом не пользуются. (Я намеренно смягчаю и заменяю "не обладают" на "не пользуются", потому что дураки, как известно, очень обидчивы.)