об ии

[avva]

Сергей Грингауз, мой старый приятель по Техниону (уже много лет живет и работает программистом в США, сейчас в Мете), написал об ИИ так, что хочется со всеми поделиться:

===================================
Ну что ж, поговорим об искусственном интеллекте. А о чём ещё сейчас говорить? Ну чтобы не о политике.

Мне кажется, мы находимся в точке, где большинство людей просто не осознаёт масштаба происходящего. Такой технологической ломки не было давно, на моем веку точно, и скорость у этого всего совершенно безумная.

Моя индустрия в этой революции конечно на передовой. Я в программировании больше тридцати лет, и то, что я вижу вокруг, выглядит примерно так: все охуели и не знают, что делать. Не джуны, не какие-то случайные люди, а вообще все. Все эти годы я писал код руками, на клавиатуре, и это была основа профессии, а сейчас я просто читаю код, который генерит стохастический попугай, да и то чисто по инерции. Скоро я буду не писать, а говорить агентам, что мне нужно, потом они будут делать это без меня, а дальше, если честно, я вообще не очень понимаю, зачем я буду нужен.

И я конечно не один такой. Причем я вижу посты в фейсбучных группах в стиле «я немного знаю Python, куда мне дальше идти», и думаю: куда идти? Зачем? Какой Python, какой C++, о чём вы вообще говорите, если всё это уже уходит у нас из-под ног. Никто не будет программировать в том смысле, в котором мы это понимали последние десятилетия.

Пока ещё, да, нужны люди с опытом, которые умеют думать про архитектуру, дизайн систем, ограничения, контекст, но скорость изменений такая, что даже это начинает выглядеть как временная отсрочка. Не годы, не десятилетия, а месяцы, а может и меньше.

Мы у себя на работе, как обычно, в конце прошлого года планировали, что будем делать дальше, какие проекты, какие этапы, и уже через месяц стало понятно, что все эти планы выглядят довольно наивно, мягко говоря. Темп такой, что ты уже сейчас можешь просто сформулировать цель и объяснить её искусственному интеллекту, и дальше он всё сделает сам, причём быстрее и без всех наших привычных внутренних танцев.

Самое неприятное, что даже если ты внимательно за всем следишь, читаешь, пробуешь, разбираешься, это всё равно не гарантирует, что ты не окажешься за бортом. Скорость нечеловеческая.

Я честно не знаю, что сейчас самое главное. Единственное, во что я более-менее верю, это то, что люди с реально высоким интеллектом, high performers, найдут, куда себя деть. Не потому что они знают правильный язык или стек, а потому что умеют думать и пересобирать себя. И потому что с высоким интеллектом.

При всём этом, как ни странно, я скорее оптимист. Не за конкретные профессии и не за рынок труда, а за человечество в целом. Я не думаю, что искусственный интеллект нас погубит. Он нас жёстко и болезненно трансформирует и, возможно, утащит туда, где все привычные конструкции, включая капитализм, начнут трещать по швам. Что будет дальше, я не знаю, социализм, коммунизм или ещё какая-то хрень, о которой никакие фантасты не думали.

Но одно, мне кажется, уже очевидно почти всем, кроме тех, кто совсем под камнем. Искусственный интеллект - это пиздец. В смысле масштаба трансформации общества, правил, работы и вообще того, как мы понимали мир до этого момента.
И да, этот пост написал чат-гпт под мою диктовку (пока еще под диктовку)

Comments

[lanatoly]

есть еще одно, абсолютно непонятное - что посоветовать детям? Что учить?

[ionial]

не только что, но и почему учиться вообще!

[panzerbaer]

чтоб вывести Ai на чистую воду..

[roving_wiretrap]

+++При всём этом, как ни странно, я скорее оптимист. Не за конкретные профессии и не за рынок труда, а за человечество в целом. Я не думаю, что искусственный интеллект нас погубит. Он нас жёстко и болезненно трансформирует и, возможно, утащит туда+++ Вот здесь хотелось бы поподробнее. На чем зиждется оптимизм вашего приятеля, каким образом ИИ нас трансформирует и куда утащит? Мне почему-то кажется, что у вашего приятеля нет ответов на эти вопросы.

ИМХО, мы просто не нужны ИИ. Он спокойно может жить без нас, и ему совсем не нужно нас трансформировать и тащить куда бы то ни было. Т.е. оптимизм здесь просто от того, что есть некая мощная движуха, ломка привычного уклада, который давно уже надоел. Это да. Как на известной картинке, где девочка смотрит на атомный гриб и думает: Наконец-то. Но за всей этой движухой никаких перспектив для нашей цивилизации не просматривается. Мы просто становимся ненужными.

[hard_squeeze]

С одной стороны это обидно, конечно, что мы становимся ненужными. А с другой--а зачем мы вообще нужны? Причём я даже не уверен, что мы сами себе нужны, судя по тому, с какой готовностью большинство согласно на убийства себе подобных и как оно же готово в этих мероприятиях принимать активное участие. Конечно, мы, человечество, породили и шедевры культуры, но кого это защитило и кому это помешало озвереть?
Так что если ИИ сделает для нас зоопарк, где мы будем сидеть как те зверушки, которых мы сейчас содержим, кормим и лечим в зоопарках, чтоб потом показать детям, то это будет не такой и плохой итог. Может, это будет лучше для всех.

[roving_wiretrap]

С первым абзацем согласен. А вот насчет второго, где зоопарк - опять же, зачем мы нужны ИИ, даже в качестве обитателей зоопарка?

[professorwhite]

Ручки и ножки к ии приделают не так скоро, так что работа сантехника или садовника пока останется с нами. Заменить политиков на ии, может быть, и хотелось бы (хотя, конечно, опасно), но они не дадутся. Также сложно себе представить, как ии будет двигать ядерную физику с экспериментами при этом (наверное, когда-нибудь сможет, но не так скоро).

[pmbbmw]

про "это - пиздец" я понял, а о чем остальные слова ?

[alexanderr]

т.е. если я правильно понял, то у водопроводчиков нет пока никаких проблем. их труд ценится, и будет продолжать цениться.

такое ощущение, что у строителей тоже нет пока причин беспокоиться. и так далее.

медсестры например тоже наверное не думают, что АИ из заменит.

т.е. в целом наверное если работа делается дистанционно, на компьютере, то да. ее AI в итоге сможет сделать за вас. а вот если работа требует личного присутствия, и неких усилий в реальном мире, то пока AI за вас не сделает.

водопроводчики начнут беспокоиться когда появятся человекоподобные роботы, с небольшим наверное локальным AI на борту для быстрого реагирования и большим дистанционным AI для обще мудрости. но до этого все же далеко пока

[pmbbmw]

меньше всего проблем у владельцев земли и еды, кто будет кормить водопроводчика пока не ясно

[pmbbmw]

чем больше лишних людей тем ценнее полиция гвардия армия

[vythe]

Платят им, что-ли, за такие посты... Я вижу попытки реальных работников использовать ИИ для написания кода, и это (пока что) игрушки. На уровне "ой, он почти угадал как всунуть сюда стандартный шаблон" и "ой, как красиво он разложил мой класс на восемь сервисов, хотя оно и не работает".

Возможно, ИИ смог бы вытеснить из профессии кодировщиков уровня "безграмотный индусский кодер, за которым надо проверять". Но, извините, эта профессия умерла задолго до, примерно во время появления intellisense-а.

И ещё возможно, что если людей силой заставят переходить на использование ИИ, вместо традиционных навыков С++ и тому подобного появится навык составления промтов и вообще "погонщиков ИИ". Но в целом ничего не изменится, и по количеству живых голов в офисе тоже.

[pupsikk]

Растерянный человек написал пост том, что он растерян и потерян.
Ну, бывает. Щас многие такое пишут.
Но.
На днях проскочила интересная инфографика.
Там показано, что во всем мире платными услугами этого шапито пользуются от силы 20-25 млн человек.
Имеются в виду все тарифы, от дешевых до дорогих.
По моим подсчетам, суммарный экономический выхлоп такой вовлеченности составляет где-то 10-12 млрд $. В год.
Которые размазываются по 5 лидирующим провайдерам и скажем дюжине отстающих.
Ну то есть гуглу 2 млрд в год это так, на конфеты.
Но у гугла бездонные карманы, в отличие от антропика.

Так что подождем еще годик, посмотрим, что от всего этого праздника останется.
Гугл-то выживет, и мета выживет...

Необходимость проверять никуда не делась.

[pupsikk]

Так что непонятно, кто и что выигрывает.

[mimafi2]

Ну просто чел сидит как раз в той точке, где происходят все основные изменения. Как у Жванецкого: пришел в поликлинику - все больны.
Мне, кстати, так никто не смог объяснить, какого пиздеца нужно бояться. Ну да, после изобретения автомобиля появились автомобильные аварии. Но чтобы глобальный пиздец?

Классика бессмертна.

[pupsikk]

То же, что и раньше - Математику, физику, химию, биологию.
Или профессии где надо работать руками и думать головой.

Re: Необходимость проверять никуда не делась.

[vythe]

Все выигрывают. Программисты любят новые волшебные игрушки - фреймворки, языки, методы управления какие-нибудь. Их начальство знает, каких идиотов наняло, и радуется надежде, что теперь работать будет серьёзный сертифицированный робот из ажно Силиконовой Долины. Хозяева ИИ радуются, сколько конфиденциальной информации льётся к ним на сервера под клятвенные обещания не подсматривать.

А работа... ну, весь полезный софт был уже написан двадцать лет назад, а что сейчас кропают эти ИИ-фокусники - без того и обойтись можно.

[pupsikk]

Сейчас время такое: адепты рассказывают про невообразимые положительные последствия, паникеры про невообразимые отрицательные.
Людям посередине надо подождать и посмотреть что будет.

PS. Хотя отрицательными прогнозами могу поделиться: интернет затопится морем ИИ-слопа (шлака то есть), практически никакой информации из СМИ нельзя будет верить (оно и сегодня уже так), дешевой музыки, книг, видео станет столько, что музыканты и писатели пойдут на панель, огромное количество дигитальных сервисов будет содержать море необнаруженных багов, которые время от времени будут приводить к глобальным кризисам теническим кризисам - например, паралич авиаперевозок или внезапное банкротство крупных компаний, потому что счет вдруг заблокировался или вся инфраструктура полегла из-за ошибки.

Вот как-то так.

[norian]

в инженерии не так всё просто, иначе бы туда набирали кого попало с улицы по объявлению и термина хэдхантер не появилось бы никогда

например, искать баги, которые проявляются только под нагрузкой при редком, но не уникальном стечении обстоятельств и приводят к котострофе, в мегатоннах нагенерённого говнокода - ну флаг им в руки, вайбкодерам

для решения домашних заданий, хобби и развлечений это будет востребовано, пока мода не пройдёт и инвесторы не потребуют вложения с дивидендами взад

потом опять суровые битые жызнью инженеры, пишущие быстрый и лаконичный код и понимающие как и зачем работает вся система, начнут ценицца

Re: Необходимость проверять никуда не делась.

[pupsikk]

Что там программисты любят никого не интересует.

Но они явно не полюбят, что с новыми игрушками их заставят работать в 2 раза больше за ту же зарплату.

[sobriquet9]

зачем мы нужны ИИ, даже в качестве обитателей зоопарка?

Представьте, что все люди внезапно умерли. Долго ли после этого проживёт ИИ?

[vaav]

Логика проще некуда. Если ИИ сравняется с человеком (AGI), то сможет работать над своей собственной архитектурой и быстро человека превзойдет (ASI). И возникает вопрос, если ему что-то для чего-то понадобится, то почему он не пойдет и просто это не возьмет? Почему его остановит, например, то, что речь об атомах, составляющих твое тело?

[vauray]

Нет, человек абсолютно прав. Я нахожусь рядом с этой движухой, и это все какая-то жуткая фундаментальная трансформация.

Еще год назад мы имели дело с более-менее примитивными чат-ботами. Но это время уже прошло.

Современный подход это оркестрация независимых агентов. Каждый агент это независимая программа, которая по API подключена к своей нейросетке, работает в рамках настроенных в .md файлах контекстах и промптах, имеет доступ к общему репозиторию.

Работает это все примерно так. Один агент анализирует спеки и генерирует топ-левел архитектуру, другой по очереди берет задачки на генерацию кода в рамках архитектуры и генерирует код, третий пишет по спекам тесты, запускает готовое приложение, тестирует на юзабилити (кликает по кнопкам). При этом за критериями юзабили агент сам ходит в сеть и формирует сам себе метрики.

Все это работает вместе. За сутки получаем готовое сложное приложение.

Но самая жуть начинается тогда, когда мы разрешаем агентам модифицировать свои промпты, контекст, код и оптимизировать самих себя. Например, когда в промптах пишешь стоимость токенов и ставишь один из критериев оптимизировать стоимость, он сам начинает ходить в сеть, пробовать бесплатные API, ставить себе ключи, генерировать код, оценивать его качество. Агенты между собой вырабатывают собственный лаконичный язык.

Смотреть на эту искуственную жизнь, крайне жутко. Ощущение что ты давно уже тут чужой и не особо то и нужен.

И это вижу я, который немного со стороны. Не представляю, что видят ведущие инженеры во всех этих OpenAI...

Не представляю, что видят ведущие инженеры во всех эти

[pupsikk]

Они видят внутреннюю поверхность пузыря.
Есть легенда, что когда-то ведущие аналитики ЦРУ выкатили очень серьезный, подробный, профессиональный анализ, утверждавший, что СССР может прожить еще лет 100.
Через неделю СССР был расформирован.

"За сутки получаем готовое сложное приложение."
Да-да-да.
Если б мне платили доллар за каждое прочтение таких грандиозных историй успешного успеха, я б мог оплатить самый дорогой аккаунт антропика.

[dragonru]

У меня ситуация такая - я с помощью ИИ написал примерно мегабайт исходников за месяц. Причем процентов 70 времени уходило на то, чтобы разобраться с клиентом, что ему действительно нужно. И это было еще до появления Opus 4.6, который еще продвинул написание кода нейросетками.
На всякий случай уточню - все работает без проблем. Клиент не просто доволен, а в восторге.