открытая запись
May. 30th, 2016 08:03 pmПостите понравившиеся вам ссылки, задавайте любые вопросы мне или другим читателям, открывайте дискуссию на любые темы. Это открытая запись.
Случайные объявления и замечания:
- книга Александра Шапиро
burrru - набор интереснейших (иногда спорных!) заметок о поэзии, искусстве и переводах - теперь доступна бесплатно на Амазоне, а также в файле, рекомендую;
- из сериалов за последнее время: больше всего "Horace and Pete". Это что-то необыкновенное.
- Неожиданно понравилась также первая серия "Гравити Фоллз".
- Кто на самом деле был адвокатом Савченко? У меня создалось странное впечатление, что на публику были Фейгин и Полозов, а реальную работу делал Новиков - насколько это далеко от истины?
- Понравилось интервью с Хилари Мэнтел, настолько, что хочется теперь прочитать "Волчий зал".
- программисты, скажите мне что-то хорошее/плохое о Rust? Только личное мнение, обзорные статьи я сам читал.
Случайные объявления и замечания:
- книга Александра Шапиро
- из сериалов за последнее время: больше всего "Horace and Pete". Это что-то необыкновенное.
- Неожиданно понравилась также первая серия "Гравити Фоллз".
- Кто на самом деле был адвокатом Савченко? У меня создалось странное впечатление, что на публику были Фейгин и Полозов, а реальную работу делал Новиков - насколько это далеко от истины?
- Понравилось интервью с Хилари Мэнтел, настолько, что хочется теперь прочитать "Волчий зал".
- программисты, скажите мне что-то хорошее/плохое о Rust? Только личное мнение, обзорные статьи я сам читал.
no subject
Date: 2016-05-30 05:20 pm (UTC)Еще я прослезился от эпической серии кабшотов на реддите.
no subject
Date: 2016-05-30 05:38 pm (UTC)no subject
Date: 2016-05-30 05:48 pm (UTC)no subject
Date: 2016-05-30 05:58 pm (UTC)What should we learn from past AI forecasts?
http://www.openphilanthropy.org/focus/global-catastrophic-risks/potential-risks-advanced-artificial-intelligence/what-should-we-learn-past-ai-forecasts
https://news.ycombinator.com/item?id=11784481
Давно думал о том, как так получилось, что столько умных людей так ошибались по поводу сроков.
P.S. В дискуссиях на эту тему надо заранее приводить вот эту ссылку: The Maes-Garreau Point (http://kk.org/thetechnium/the-maesgarreau/)
no subject
Date: 2016-05-30 06:16 pm (UTC)no subject
Date: 2016-05-30 06:17 pm (UTC)Возможно, я несколько преувеличиваю под воздействием свежести впечатлений (не так давно досмотрел), и развитие того же Adventure Time мне тоже очень нравится, например, но все же, полагаю, суждение это у меня уже не сильно изменится.
экономика в связи с будущим появлением сильного ИИ
Date: 2016-05-30 06:30 pm (UTC)Допустим, что вот сильный ИИ изобретен, быстренько себе размножился, но вместе с тем предположим, что он мир не захватил и все же некоторая "самая умная" часть людей пока этими дешевыми не хотящими кушать интеллектуальными агентами как-то управляет.
Мне как полному профану видится два совершенно различных сценария.
1. Либо это постапокалипсис в стиле Облачного Атласа с разделением на условных морлоков и элоев: обычных никому не нужных людей, вытесненных машинами, и выжившей счастливой элиты, кучки людей, которых взяли в тусовку. Обычные люди как-то себе выживают, питаются кореньями, и в целом живут лишь надеждой, что вот сейчас в очередные смотрины кого-нибудь из них завербуют (с помощью, скажем, ДНК- и МРТ-теста) и заберут к себе в мир, где бессмертие, все на ховербордах и в красивых белых туниках такие тусуются.
2. Либо же никакой дихотомии не будет, всё в конечном счете достанется более или менее всем, добрые трудолюбивые роботы будут за всех вкалывать, а людям каждому по потребностям, от каждого по способностям, опять же ховерборды и туники и все ходят красивые.
Пока вроде бы научный прогресс приводит к росту индекса Джини (предельным случаем какового является вариант 1), но опять же в целом благосостояние людей растет (а это уже к варианту 2).
Вроде бы вопрос не праздный, есть хороший шанс застать сильный ИИ при нашей жизни, и кажется, что должны были серьезные дядьки такое моделировать.
Re: экономика в связи с будущим появлением сильного ИИ
Date: 2016-05-30 06:59 pm (UTC)http://slatestarcodex.com/2016/05/28/book-review-age-of-em/
Robin Hanson считает, что симуляция людей будет раньше, чем полноценный ИИ, ну и всё, оттуда следующее по ссылке.
no subject
Date: 2016-05-30 07:05 pm (UTC)Re: экономика в связи с будущим появлением сильного ИИ
Date: 2016-05-30 07:08 pm (UTC)Резкая смена взглядов с уклоном в конспирологию: распа
Date: 2016-05-30 07:11 pm (UTC)Небольшое время назад что-то внутри него щелкнуло, и за пару лет на глазах почтенной публики произошел тотальный фазовый переход. Теперь он сталинист-ультраконсерватор. Эволюция шла в прямом эфире, я за ней наблюдал в жж, и это реально было страшно! Страшно в первую очередь то, с какой легкостью менялись факты в угоду новым теориям. Теперь Вассерман вполне серьезно рассуждает о фальшивом приложении к пакту Риббентропа-Молотова, делится аналитикой об учиненной немцами Катыни, рассказывает о Хрущеве, за спиной Сталина творившем все репрессии, искренне кается в собственных прошлых ошибках и т.д.
Вопрос: это вот вообще что было? Это просто сошел с ума человек (т.е. у этого есть клинически определяемый диагноз)? Или это пограничное расстройство личности, не сумасшествие, но и нормальным это не назовешь? Или это и вовсе вариант нормы, и мы с вами тоже ничуть не менее ловко натягиваем сову на глобус в повседневной жизни?
Если это клиника, то как называется этот диагноз? Какова распространненость заболевания? Можно ли тот же диагноз поставить, скажем, Фоменко с его Новой Хронологией А Задорнову, который, насколько я вижу, уже давно не шутит касательно своих лингвистических построений?
Если это же вариант нормы, то это ведь вообще страшно. Как тогда кому-либо (и себе) верить? Читать Юдковского? Записаться в общество less wrong? Поделитель, кто пробовал - оно помогает? :)
no subject
Date: 2016-05-30 07:19 pm (UTC)Четвётрый сезон "Корры", кстати, весьма неплох, если брать последние несколько лет.
no subject
Date: 2016-05-30 07:24 pm (UTC)Вассерман выступает за отмену пенсий и считает, что всеобщее пенсионное обеспечение — один из главных источников демографического кризиса.
Считает, что в России необходимо разрешить использование огнестрельного оружия для гражданской самообороны.
Вассерман раскритиковал предложение Рамзана Кадырова сажать в тюрьму участников националистических митингов. Он заявил, что это «лекарство из разряда тех, что хуже самой болезни».
Так что никакого тотально мировоззренческого перехода не произошло, человек (инженер-теплотехник и телезвезда) просто перешел в другой политический лагерь. Всё равно это смотрится дико, конечно, но на то он и "со странностями".
no subject
Date: 2016-05-30 07:42 pm (UTC)no subject
Date: 2016-05-30 07:46 pm (UTC)А кто что думает про взрыв результатов в слабом ИИ за последние годы. Точнее, кто может объяснить толково, почему вроде бы заброшенные тупиковые ветви нейронных сетей и машинного обучения (чуть ли не первые идеи, как я понимаю еще из 60-х) вдруг заработали. Почему не работали, не работали, и вдруг, ап, и в дамки. Ощущение, что "власти скрывали".
Не есть ли это пузырь? И где пределы?
no subject
Date: 2016-05-30 07:58 pm (UTC)История там такая: водитель мусоровоза выложил фотографию своей кабины изнутри, для тех, кто с детства мечтал это увидеть. Потом это же начали делать операторы других машин, от локомотива до Боинга. А потом пришел астронавт (https://www.reddit.com/r/pics/comments/4lm5ej/it_may_be_a_bit_complicated_to_get_to_my/) и всех уделал.
Как один написал, When was the last time a spaceman and a wookie copied what you did?
(Peter Mayhew, который Chewbacca из звездных войн, тоже выложил бывший командир МКСкабину своего Millennium Falcon).
В общем, ничего такого особенного, но моему внутреннему ребенку понравилось. Слава водителям мусоровозов, без них цивилизация перестала бы функционировать!
no subject
Date: 2016-05-30 08:04 pm (UTC)Re:
Date: 2016-05-30 08:08 pm (UTC)Это действительно вариант нормы. Таких много. Это вовсе не значит, что все такие.
Верить себе - довольно легко. Верить другим - с оглядкой. По-моему, ничего страшного в этом нет.
no subject
Date: 2016-05-30 08:13 pm (UTC)no subject
Date: 2016-05-30 08:15 pm (UTC)no subject
Date: 2016-05-30 08:25 pm (UTC)no subject
Date: 2016-05-30 08:27 pm (UTC)Очень похожее впечатление, да.
no subject
Date: 2016-05-30 08:39 pm (UTC)no subject
Date: 2016-05-30 08:43 pm (UTC)1 Набор инженерно-технических трюков, которые сделали возможной тренировку "глубоких" (условно состоящих из большого количества слоёв) сетей - правильная инициализация, relu в качестве активационной функции, batch norm, вот это всё;
2 Появление быстрых видеокарт и простое api, позволяющее тренировать сети на видеокартах. Там много вычислений и такое ускорение тренировки часто делает её вообще возможной;
3 Появление больших размечаных датасетов. Для тренировки "глубоких" сетей нужно много данных
После первых удачных результатов на imagenet туда потянулось много умных людей, которые в свою очередь что-то улучшали, получали ещё лучше результаты и притягивали ещё больше умных людей. Пока процесс продолжается.
no subject
Date: 2016-05-30 08:53 pm (UTC)