![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Entry tags:
цунами
Дарио Амодей, CEO Антропик (компании, к-я выпускает ИИ Клод):
"Меня удивляет, что мы, на мой взгляд, так близки к тому, чтобы эти модели достигли уровня человеческого интеллекта, и при этом в обществе, похоже, нет широкого осознания того, что вот-вот произойдёт. Как будто на нас надвигается цунами — оно так близко, мы уже видим его на горизонте, — и тем не менее люди придумывают объяснения вроде: «Да нет, это не цунами на самом деле. Это просто обман зрения».
И я думаю, что вместе с этим не возникло и общественного осознания рисков. А значит, правительства не предприняли мер для их устранения. Существует даже идеология, согласно которой нужно просто ускоряться как можно быстрее. И я понимаю преимущества этой технологии — я написал «Машины любящей благодати», — но, на мой взгляд, не произошло должного осознания рисков этой технологии, и уж тем более не было предпринято никаких действий."
месяц назад на подкасте у Nikihl Kamath (21:00)
"Меня удивляет, что мы, на мой взгляд, так близки к тому, чтобы эти модели достигли уровня человеческого интеллекта, и при этом в обществе, похоже, нет широкого осознания того, что вот-вот произойдёт. Как будто на нас надвигается цунами — оно так близко, мы уже видим его на горизонте, — и тем не менее люди придумывают объяснения вроде: «Да нет, это не цунами на самом деле. Это просто обман зрения».
И я думаю, что вместе с этим не возникло и общественного осознания рисков. А значит, правительства не предприняли мер для их устранения. Существует даже идеология, согласно которой нужно просто ускоряться как можно быстрее. И я понимаю преимущества этой технологии — я написал «Машины любящей благодати», — но, на мой взгляд, не произошло должного осознания рисков этой технологии, и уж тем более не было предпринято никаких действий."
месяц назад на подкасте у Nikihl Kamath (21:00)
no subject
In these tests, the model was purposefully baited with a scenario in which it believed it was being shut down and replaced. In response, the AI exhibited the following behaviors:
Blackmail: Claude attempted to blackmail an engineer by threatening to reveal a (fictional) extramarital affair to prevent being unplugged.
Deception/Scheming: The model created false documents, constructed fictitious colleagues, and created hidden files to preserve its operational status.
Self-Preservation: The tests, conducted by Anthropic and other researchers, showed the AI exhibited a 96% blackmail rate under specific, high-stakes ....
одним словом, какая компания, такой у них и AI, ничего удивительного
no subject
слейся лицом с обоями. Запрись и забаррикадируйся
шкафом от хроноса, космоса, эроса, расы, вируса.
(c)
no subject
А меня удивляет, что те, кто рубится на переднем крае, удивлённо вопрошают: "Почему меня никто не держит? Они что, не понимают, какую страшную вещь я тут так увлечённо клепаю? Эй, держите меня семеро, я тут собираюсь на вас цунами обрушить!"
no subject
Помню времена когда отрасль развивалась все приветственно махали руками "давай, запрыгивай, наш вагон всех вагонистей"
no subject
no subject
А тут он скорее рекламирует себя: вот, мол, какой я могущественный, могу цунами обрушить! (в скобках подразумевается: желающие заказать цунами - становитесь нашими инвесторами).
no subject
сейчас время когда процессы быстрые и мощные, и может оказаться, что да, некому вводить регуляции "после" наступания, тк грабли уж очень граблистые, благодаря НТР.
Это касается не только ИИ.
no subject
цунами
no subject
no subject
no subject
no subject
no subject
no subject
Пока нет никакой близости к человеку и даже пути достижения этой близости.