avva: (Default)
[personal profile] avva
(для программистов в основном)

Райан Даль, известный в качестве создателя технологии Node.js, недавно ушел в монастырь ушел на год заниматься глубинным обучением в Гугл, и по итогам этого стажерства написал довольно интересное резюме:

http://tinyclouds.org/residency/

Цитата: "I remain bullish that machine learning will transform essentially all industries and eventually improve the lives of every human. There are many industrial processes that can benefit from the smart guesses that ML provides. I believe my motivating demo will be achieved some day soon—you will watch Charlie Chaplin in 4K resolution and it will be indistinguishable from a modern movie.

That said, I've found it very difficult to build, train, and debug models. Certainly much of that difficulty is just my own inexperience, but that itself points to how much experience is needed to effectively train these beasts. My work has been focused on the easiest branch of ML: supervised learning. Even with perfect labels, developing models can be quite difficult. [...] If I use the word "working" in a subjective, gut-reaction way of describing software: Image classification seems to work robustly. Generative models barely work and are not well understood. GANs have great images, but are almost impossible to build—my experience has been that any small change to the architecture and it will just stop working. I've heard reinforcement learning is even more difficult. I can't speak to recurrent networks. [...]

The signal-to-noise ratio in papers is low. There's too much volume to keep up with. People are often not upfront about the failures of their models because conferences prefer accuracy over transparency. [...] It's an exciting time for ML. There is ample work to be done at all levels: from the theory end to the framework end, much can be improved. It's almost as exciting as the creation of the internet. Grab a shovel!"

Date: 2017-06-12 04:54 pm (UTC)
From: [identity profile] tandem-bike.livejournal.com
схватили лопату давно и врачи. АЙБиЭм сейчас разрабатывает ДМЛ для диагностики на своем суперкомпе, давно уже, лет 5.


однако мне эта давка немножечко напоминает то что было уже с артифишиал интеллидженс, или в медицине с функциональным МРИ. все побежали и я побежал - стратегия иногда выигрышная, конечно.

ДМЛ впечатляет в распознавании визуальном и звуковом. пэттернс. но это там где3 можно тренировать. и на сигнале сравнительно с небольшим шумом. ирландский сеттер от бультеръера даже в приличном добавленном отличается. а не все медицинские например пэттернс тренируемы, они очень шумные, и пусть например ДМЛ начнут с простых - с рентгена легких, например. если получится, то я свой скептицизм съем с солью и перцем. а так - эти вопли про "новую революцию" только удручают. и бежать не хочется. хотя я побежал.

Date: 2017-06-12 05:22 pm (UTC)
From: [identity profile] i-v-s.livejournal.com
Да вот недавно же на кагле конкурс был https://arxiv.org/abs/1705.09435

Date: 2017-06-12 05:25 pm (UTC)

Date: 2017-06-12 05:23 pm (UTC)
From: [identity profile] nameless--one.livejournal.com
О!

А вы не можете подсказать где можно толково почитать почему до сих пор не создали AI-терапевта? А то на самый поверхностный взгляд кажется что компьютер с доступом к справочным материалам и medical guidelines должен ставить диагнозы не хуже сельского врача, у которого к тому же сегодня похмелье.

Date: 2017-06-12 05:32 pm (UTC)
From: [identity profile] tandem-bike.livejournal.com
не могу. мне бы самой кто подсказал.
все что я пока читала было настолько неубедительно что хотелось чем-то бросить в экран.
автоматическое чтение ЭКГ старее чем?? 30 лет, и введено в машинку клиническую, но все равно читает кардиолог после, а машинное чтение как бы вообще никуда не идет, хотя на мой некардиологический взгляд оно аккуратное. но дело в том что я не имею права суди не посмотрев какие-то исследования - какова аккурси машинки по сравнению с кардиологами, какой конкорданс и так далее. вроде простой вопрос, наверняка кто-то ответил уже. мне честно говоря лень смотреть. для лекции понадобится, посмотрю тогда.

зря вы так про сельского с похмельем.

диагнозы неплохо ставят даже неумные алгоритмы, не ДМЛ, причем дифференциал выдают "на ввод симптомов и тестов".

но он же очевидный. т.е. ну совсем просто. а неочевидные диагнозы машинка не ставит. ПОКА. а ставит сельский, с похмелем.

может это тоже до времени. но понимаете о чем я? для простого диагноза машинка не нужна, а сложный она не может. пока.

когда-нибудь будет как в стар треке робот диагност. тут я тоже буллиш. но пока - далеко до этого, очень. почему а ХЗ. т.е. я имею идеи кое-какие, но не уверенна что хочу подробно.

(no subject)

From: [identity profile] sviatoy-duhh.livejournal.com - Date: 2017-06-12 07:15 pm (UTC) - Expand

(no subject)

From: [identity profile] tandem-bike.livejournal.com - Date: 2017-06-12 07:31 pm (UTC) - Expand

(no subject)

From: (Anonymous) - Date: 2017-06-12 07:50 pm (UTC) - Expand

Date: 2017-06-12 05:53 pm (UTC)
From: [identity profile] i-v-s.livejournal.com
Делают, делают
https://www.youtube.com/watch?v=Fbzk1bqAPjU

(no subject)

From: [identity profile] nameless--one.livejournal.com - Date: 2017-06-12 07:56 pm (UTC) - Expand

Date: 2017-06-12 05:20 pm (UTC)
From: [identity profile] ny-quant.livejournal.com

Слухи о скорой победе искусственного интеллекта над человеческим сильно преувеличены.

Date: 2017-06-12 05:37 pm (UTC)
From: (Anonymous)
нет.

I'm a bot, bleep, bloop.

Date: 2017-06-12 06:07 pm (UTC)
From: [identity profile] nlothik.livejournal.com
КМК, на данный момент это проблема чисто инженерная. Учитывая, что количество связей между нейронами в мозгу человека составляет около 1.5E14, понадобятся несколько другие компьютеры, чем те, которые мы имеем сейчас.

Но в любом случае, появление AI, равного по интеллекту человеческому -- не за горами.

Думаю, что около 2030 года будет.

Какое количество этических конфликтов это породит....

Date: 2017-06-12 06:32 pm (UTC)
From: [identity profile] ny-quant.livejournal.com

Лет 25 назад был почти такой же энтузиазм насчет neural networks. Они и сейчас никуда не делись, но так и осталось одним из направлений в ML.


Мы уже убедились, что компьютер можно научить решать общую достаточно узкую задачу лучше человека (играть в шахматы или го, например, - я помню время когда в это многие не верили), и круг таких проблем будет расширяться. И это очень круто, это во многом изменит нашу жизнь, в том числе к худшему. Тем не менее, это будет растущий набор инструментов, а не один искусственный интеллект, который будет конкурировать с нами.


Так же как и роботы сменившие ручной труд на многих производствах не полностью заменили и не заменят человека. Люди поставили роботов на конвейер потому что они там лучше справляются. Но гвозди в стену мы забиваем сами не в последнюю очередь потому, что мы знаем куда их надо забить и зачем.

(no subject)

From: [identity profile] nlothik.livejournal.com - Date: 2017-06-12 07:13 pm (UTC) - Expand

(no subject)

From: [identity profile] ny-quant.livejournal.com - Date: 2017-06-12 08:12 pm (UTC) - Expand

(no subject)

From: [identity profile] nlothik.livejournal.com - Date: 2017-06-12 08:27 pm (UTC) - Expand

(no subject)

From: [identity profile] ny-quant.livejournal.com - Date: 2017-06-12 08:54 pm (UTC) - Expand

(no subject)

From: [identity profile] misha-b.livejournal.com - Date: 2017-06-13 06:30 am (UTC) - Expand

(no subject)

From: [identity profile] ny-quant.livejournal.com - Date: 2017-06-13 12:30 pm (UTC) - Expand

Date: 2017-06-12 06:57 pm (UTC)
From: [identity profile] misha-b.livejournal.com
Сильные утверждения. Мы пока не понимаем, как человеческий интеллект работает. Но, скорее всего, не так , как в компьютере. В частности нейронные сети в организме сильно отличаются от "нейронным сетей" в МЛ по многим параметром (например, темпорально).

(no subject)

From: [identity profile] nlothik.livejournal.com - Date: 2017-06-12 07:23 pm (UTC) - Expand

(no subject)

From: [identity profile] misha-b.livejournal.com - Date: 2017-06-13 06:21 am (UTC) - Expand

(no subject)

From: [identity profile] nlothik.livejournal.com - Date: 2017-06-13 12:42 pm (UTC) - Expand

(no subject)

From: [identity profile] misha-b.livejournal.com - Date: 2017-06-13 04:48 pm (UTC) - Expand

(no subject)

From: [identity profile] nlothik.livejournal.com - Date: 2017-06-13 05:31 pm (UTC) - Expand

(no subject)

From: [identity profile] misha-b.livejournal.com - Date: 2017-06-13 06:28 pm (UTC) - Expand

Date: 2017-06-12 06:15 pm (UTC)
From: [identity profile] lelia-br.livejournal.com
абсолютно согласна...

Date: 2017-06-13 02:39 am (UTC)
From: [identity profile] repliki.livejournal.com
2016 has seen a great narrowing of the gap between AI and human intelligence, with most movement on the human side.
https://twitter.com/esyudkowsky/status/775666130694184961

Date: 2017-06-12 07:26 pm (UTC)
From: (Anonymous)
> Image classification seems to work robustly.

LOL

https://twitter.com/Meaningness/status/846477427505164288

Date: 2017-06-12 09:16 pm (UTC)
From: [identity profile] avva.livejournal.com
Забавно, спасибо. Я помню, были статьи про такие обманки год-два назад, эта, видимо, еще круче.

(no subject)

From: [identity profile] p2004r.livejournal.com - Date: 2017-06-13 02:12 pm (UTC) - Expand

Date: 2017-06-12 08:10 pm (UTC)
From: (Anonymous)
А вот про "Factoring Large Numbers" это шутка или нет? Есть какие-то статьи про подобные применения DL?

Date: 2017-06-12 09:15 pm (UTC)
From: [identity profile] avva.livejournal.com
Никто не ожидает от DL ничего интересного в таких применениях. Я думаю, это была шутка в том смысле, что Даль это сделал просто чтобы попробовать, ради прикола. Как дедушка Паскаля, который играл на трубе перед тюльпанами.
Edited Date: 2017-06-12 09:16 pm (UTC)

(no subject)

From: (Anonymous) - Date: 2017-06-12 10:28 pm (UTC) - Expand

(no subject)

From: [identity profile] avva.livejournal.com - Date: 2017-06-12 10:29 pm (UTC) - Expand

Date: 2017-06-13 04:19 am (UTC)
migmit: (Default)
From: [personal profile] migmit (from livejournal.com)
Как-то весь этот хайп по поводу ML выглядит... ну очень сомнительно.
From: (Anonymous)
А вот кто бы мне накидал ссылок на простейшие исходники различных типов нейросетей на C++, для самообразования? Просто чтобы лучше понимать, как что работает. Есть ведь наверно такое в сети.
From: [identity profile] nlothik.livejournal.com
Свою первую нейронную сеть я срисовал с этой книги:

https://www.amazon.com/gp/product/B00TXPGEHG/ref=oh_aui_search_detailpage?ie=UTF8&psc=1

С пороговой функцией.

From: (Anonymous) - Date: 2017-06-13 02:21 pm (UTC) - Expand
From: [identity profile] i-v-s.livejournal.com
Вначале хотел дать ссылку https://en.wikipedia.org/wiki/Comparison_of_deep_learning_software
Но потом заметил "простейшие". Сорри.
(правда всё равно не понял зачем вручную делать простейшое, когда вокруг столько всего вкусного и сложного)

Чтобы понимать.

From: (Anonymous) - Date: 2017-06-14 01:28 pm (UTC) - Expand

Re: Чтобы понимать.

From: [identity profile] i-v-s.livejournal.com - Date: 2017-06-14 03:35 pm (UTC) - Expand

Спасибо.

From: (Anonymous) - Date: 2017-06-15 07:26 am (UTC) - Expand

Date: 2017-06-13 02:15 pm (UTC)
From: [identity profile] templarr.livejournal.com
Забавно. Мы сейчас в DataRobot как раз работаем над максимальной автоматизацией и упрощением процесса построения моделей в supervised learning + продвинутое построение отчетов о механизме их действия и результатах.

Date: 2017-06-13 02:31 pm (UTC)
From: [identity profile] avva.livejournal.com
Вы имеете в виду автоматизацию процесса работы с моделью, или автоматизацию самого выбора модели из многих возможных? Если второе, то какие виды моделей вообще рассматриваются?

(no subject)

From: [identity profile] templarr.livejournal.com - Date: 2017-06-13 02:40 pm (UTC) - Expand

(no subject)

From: [identity profile] avva.livejournal.com - Date: 2017-06-13 04:19 pm (UTC) - Expand

(no subject)

From: [identity profile] templarr.livejournal.com - Date: 2017-06-13 06:52 pm (UTC) - Expand

Date: 2017-06-13 03:34 pm (UTC)
From: [identity profile] p2004r.livejournal.com
> В нашем тесте наименьшая различимая деталь равна 0.006мм и на 35мм, и на 16мм. Следовательно, по всей ширине пленки будет 24.576мм/0.006 = 4096 деталей или точек для 35мм пленки и 12.35/0.006 = 2048 точек для 16мм пленки. Я специально называю единицы измерения точками, а не пикселями, потому что мы по-прежнему оперируем в аналоговом мире.

Что за проблема увидеть Чаплина в "высоком разрешении"? Скорее проблема увидеть с высокой частотой кадров :)

Date: 2017-07-01 07:10 pm (UTC)
From: [identity profile] merlin-l.livejournal.com
Список книг, видео и курсов по машинному обучению и математике, всё на русском языке. Большая, качественная подборка. Почти все pdf'ки книг гуглятся.
https://ru.stackoverflow.com/a/683632/

January 2026

S M T W T F S
    1 2 3
4 5 6 7 8 910
11121314151617
18192021222324
25262728293031

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jan. 10th, 2026 07:54 pm
Powered by Dreamwidth Studios