экзистенциальный ужас

[avva]

Маск запостил позавчера: "Иногда экзистенциальный ужас от AI переполняет".
Уверен (настолько, что спорил бы на значительную сумму), что это прямая реакция на новость о золотой медали на IMO.

Comments

[vak]

Илон Маск офигел от мысли, что он уже не самый крутой интеллект на этой планете. 😀

[dmm]

Но дело не в том, что чей-то AI решил 5 из 6-ти задач на IMO (это, само по себе, не так уж важно), а в деталях произошедшего.

То обстоятельство, что этого добились не специализированные системы, а просто "рассуждающие LLM" следующего поколения, означает, что эти модели готовы к тому, чтобы делать плодотворный AI research (=> non-saturating recursive self-improvement is coming sooner rather than later).

То обстоятельство, что этого добились сразу и OpenAI и Google DeepMind, похожими, но, всё же, несколько разными способами, означает, что 1) обе эти организации находятся в позиции начать агрессивно использовать AI для AI research (this means both acceleration and race to be the first), и 2) что в ближайшие месяцы и многие другие доберутся до этого уровня.