AI, Bitcoin и зима

[avva]

(может быть интересно израильтянам)

Сегодня в 7 вечера, очередная встреча любителей рациональности в Тель-Авиве. Тема - три разных темы, три мини-лекции о недавних событиях. Одна об алгоритме DeepMind AlphaZero, который учится играть в игры с нуля и победил лучшие известные программы в шахматы и го. Вторая о Bitcoin и его метеорном взлете в последние месяцы. Третья - в преддверии самой длинной ночи года - о вечном и преходящем, о смерти и жизни, о том, чего мы боимся и на что надеемся.

Адрес - тель-авивский офис Гугла, ул. Игаль Алон 98, 29-й этаж, сбор в 7 вечера, начало лекций в 7:30.

Лекции будут либо на английском (если часть присутствующих не знают иврит), либо на иврите.

Comments

[freedom_of_sea.livejournal.com]

я слышал мнение что с шахматной спецциализированной программой намухлевали

[urod.livejournal.com]

У AlphaZero было 4 TPU, как я понимаю, 180 терафлоп. У Stockfish - жалкие 32 ядра. На этих ядрах они зачем-то запустили 64 треда. Ещё стокфишу ограничили хэш 1 гигабайтом, а время на размышление 1 минутой на ход (вообще-то стокфиш умеет определять, в каких позициях стоит думать подольше - но его лишили этого права.) Афигеть победа. Я тоже могу победить Шумахера в автогонках, если мне разрешить ездить на гоночной машине, а ему на запорожце со спущенными шинами.

[ivanoff272.livejournal.com]

да, примерно так -- АЗ выдрал СФ "с форой 2-х ладей" как сидорову-кОзу

[(Anonymous)]

> На этих ядрах они зачем-то запустили 64 треда

есть такая штука hyperthreading патамушта

[akor168.livejournal.com]

4 TPU это много-много терафлоп исключительно на специализированных задачах, связанных с нейронными сетями(умножение матриц с половинной точностью). Если предоставить эту же технику обычным шахматным движкам, они никак не смогут выжать эти терафлопы во что-то полезное для них. А вот, кстати, портировать нейронную сеть на обычный компьютер вполне можно с небольшим ухудшением качества, но так как DeepMind вряд ли собирается заниматься распространением своего движка то понятно они этого не делали и вряд ли будут делать.

А вот с хешом для обычного движка да, это косяк, и сильно влияет на игру в худшую сторону.

[urod.livejournal.com]

4 TPU это много-много терафлоп исключительно на специализированных задачах, связанных с нейронными сетями(умножение матриц с половинной точностью). Если предоставить эту же технику обычным шахматным движкам, они никак не смогут выжать эти терафлопы во что-то полезное для них.

Вот именно. Для своего алгоритма они обеспечили специальное железо, предназначенное для этого и подобных алгоритмов. Второй алгоритм бежал на самом обычном железе. Если бы они хотели сравнивать осмысленно, надо было сделать специальное железо для старфиш (то, которое оценивает позиции).

А вот, кстати, портировать нейронную сеть на обычный компьютер вполне можно с небольшим ухудшением качества

С небольшим ухудшением качества? То есть их нейросеть бежала бы на обычном 32-ядерном процессоре почти так же быстро? Серьёзно? :)

[p2004r.livejournal.com]

Конкретно их сеть нет, но масса сетей (LSTM например) не очень то быстрее идут на GPU.

Ну а конкретно эта сеть влезет по ресурсам на обычный комп только в режиме исполнения на CPU и не только 64 потока способна линейно отмасштабировать, а "сколько дашь".

[vsvor.livejournal.com]

В статье вроде бы было написано про 64 треда, не не про 32 ядра. SF просто не умеет использовать больше чем 64 потока. Как и тензорные процессоры/видеокарты. Да, CPU не предназначены специально для шахматных алгоритмов, но и TPU разрабатывались для задач машинного обучения в широком смысле, а не для отдельно взятого проекта. Если же сравнивать энергопотребление и сложность чипов (по числу транзисторов на кристалле), думаю, если и будет разница, то максимум в несколько раз.

[(Anonymous)]

Я тоже не удивлен что AZ стокфиш обыграл.
Я удивлен тем КАК он его обыграл. Это абсолютнейших разнос, с игрой по первой линии в дебюте без дебютных книг, с нечеловеческой тактической точностью характерной для движков, помноженной на человеческое стратегическое давление, в котором движки раньше в общем не преуспевали.

С моей точки зрения слабого мса альфа зеро - это совершенно новый недосягаемый уровень.

Если интересно можете посмотреть как Шипов со Свидлером результаты комментируют: http://crestbook.com/node/9818
Они в общем тоже не вчера родились и понимают разницу в железе, но результатом также поразены.

[urod.livejournal.com]

Шипов тоже говорит и про слабое железо, и про (я об этом не знал) лишение дебютной справочной, и про старую версию стокфиша (тоже не знал), и про ограниченное время. А главное - он иногда удивляется грубейшим ошибкам, которые делает стокфиш по, надо думать, сочетанию вышеописанных причин. Да, ему нравится стиль AZ, но вот насколько AZ действительно сильнее стокфиша, если сильнее - загадка.

[(Anonymous)]

Да, согласен, насколько AZ сильнее - неясно. Но создается впечатление что он дьявольски хорош в тех моментах где стандартные движки просто хороши и которые считались чисто человеческими.

[igorla.livejournal.com]

Необходима запись чтобы внутрь пустили?

[avva.livejournal.com]

Нет, просто скажите внизу в лобби, что вам в Гугл на 29-й этаж. Там есть несколько разных лифтовых шахт, вам нужны те, что по правую руку от стойки информации в лобби. Лифты работают по системе "набрать номер этажа и пульт покажет, в какой лифт заходить".

[igorla.livejournal.com]

Да, спасибо за описание, и, конечно, за лекции. Было интересно и познавательно, особенно последние две.
Заодно и вставлю свои 2 копейки по поводу трех D.
- Альцгеймер - это ужасная болезнь, однако в первую очередь для близких. По поводу самого больного у меня до сих пор нет четкого мнения, хотя несколько лет с ними работал. Гораздо хуже медленное угасание когнитивных функций вкупе со склерозом. Тут все успеваешь как следует "огрокать" :(
- Меня тоже напрягает больше ментальный decay, но есть впечатление, что существует корреляция намного более четкая между занятием умственным трудом (как можно дольше и невзирая на возраст) и поздней деменцией или отсутствием таковой. В отличии от более слабой связи между ЗОЖ и раком, инсультом или другой гадостью.
Ну и чтобы не заканчивать на совсем грустной ноте - иконки над туалетами улыбнули :)

[avva.livejournal.com]

:) здорово, что пришли!

[bortans.livejournal.com]

А почему бы вам не делать прямую видео-трансляцию этих встреч? Многим было бы интересно. У Гугла, насколько я слышал, даже есть какой-то сервис где можно выкладывать live video :)

[michk.livejournal.com]

Это прекрасно :-) А третья лекция так и заявлена?

[avva.livejournal.com]

Это моя попытка описать то, что там будет.

[shadow-ru.livejournal.com]

Зима близко?

[avva.livejournal.com]

В Израиле? Не очень. Но самая длинная ночь года уже почти тут.

[shadow-ru.livejournal.com]

Мне просто серьёзность третьей лекции и её название напомнило "Игру престолов": winter is coming.)

[(Anonymous)]

Кстати вот, об искусственном интеллекте. Я только что убедился в том, что в этой области происходит не только прогресс, а иногда даже вовсе наоборот.

Гугловский распознаватель речи уже долгое время прекрасно умеет понимать несколько языков без необходимости переключаться между ними. Скажу ему по-английски — понимает, по-русски — понимает, на иврите — тоже, зараза, понимает! Причем умеет отличить, когда я говорю "Гарри Поттер", "Harry Potter" и даже, сцуко, "הרי פוטר". ИИ рулит! Я этим вовсю пользовался на телефоне, потому что клавиатура буэ.

И что? А приходит обновление, и место гугл апп занимает гугл ассистант. Который способности распознавать разные языки лишен напрочь. English, motherfucker! Отключить его пока можно, но функции гуглоаппа восстанавливаются при этом не все.

Но естественный интеллект победить, сцуко, трудно. Я нашел выход: если мне надо искать что-то по-русски, я ему говорю launch voice search, и он запускает старое приложение, которое понимает все мои языки! Подозреваю, впрочем, что эта радость только до очередного обновления.

Так что через некоторое время программы, которые сейчас бьют чемпионов, могут начать стремительно проигрывать кандидатам в мастера. Если Гуглу их доверить, конечно.

;)

[vvagr.livejournal.com]

Я, было, испугался - тоже увидел подобное вчера, не мог заставить распознать русскую диктовку. Но сейчас проверил - всё работает как раньше.

[ign.livejournal.com]

А в январе не планируется таких встреч? Я бы зашел)

[avva.livejournal.com]

Должна быть 16-го, тема пока не заявлена.

[ign.livejournal.com]

Спасибо! Если не окажусь как раз в этот день в Эйлате, то обязательно зайду.

[geish-a.livejournal.com]

А летом я ни разу не видела объявлений, а то я бы сходила. А как часто лекции проходят по-английски?