мозг как компьютер

[avva]

Я предлагаю обсудить очень интересное (на мой взгляд), и, пожалуй, провокационное эссе американского психолога Роберта Эпштейна

The empty brain
русский перевод: Мозг - не компьютер

Эпштейн утверждает - попробую перечислить основные тезисы, но лучше не верьте мне, а прочитайте статью:
- что в наше время царит метафорическое отношение к мозгу как к сложной системе обработки информации, как к очень сложному компьютеру, про который мы пока не понимаем, как он устроен и что там за алгоритмы внутри, но работаем над этим
- что эта метафора не само собой разумеющаяся истина, а всего лишь очередная попытка объяснить устройство человека недавно открытой "крутой" технологией
- что мозг неверно считать компьютером, что он не обрабатывает информацию в том смысле, в котором обычно используют эти слова
- что наша метафора мозг=компьютер мешает нам продвигаться в изучении мозга, из-за нее мы буксуем на месте

Подробные объяснения, вместе с прикольным примером однодолларовой бумажки, см. в статье.

Любопытно, что эта статья породила огромное количество отрицательных комментариев в обсуждении на Hacker News.

Как вы думаете - есть в этом что-то, и если есть - что? На самом деле меня интересуют не столько конкретные аргументы Эпштейна (некоторые из них меня совсем не убеждают), сколько вопрос о том, как можно усилить его тезис до максимально интересного и нетривиального утверждения. То есть, если вам построения Эпштейна кажутся фактически неверными или софистикой - как многим в Hacker News - то есть ли в них все-таки хоть какое-то рациональное зерно, и в чем оно состоит? Можете ли вы раскрыть подробно утверждение "мозг фундаментально отличается от компьютера" таким способом, который вас самих если не убеждает, то хотя бы заставляет серьезно задуматься?

Comments

[amigofriend.livejournal.com]

Надо бы этого Эпштейна с Асей "нейронные связи архитектуры коры головного мозга" Казанцевой стравить...

[akor168.livejournal.com]

А он кандидат наук?

[selfmade.livejournal.com]

Мозг фундаментально отличается от компьютера тем, что делает целеполагание.

Но во многом методы работы мозга и компьютера схожи.

Мозг это нейросеть.

[(Anonymous)]

Нейросеть перерабатывает входные сигналы от органов чувств в выходные сигналы, управляющие движением мышц и т.п., с целью получить поощрение и избежать наказания. Для инстинктивной части мозга поощрение и наказание это определённые, наследственно заданные сочетания входных сигналов. Для разумной части мозга поощрение это совпадение входного сигнала с прогнозируемым, а наказание - несовпадение. Прогнозирование осуществляется на уровне каждого нейрона (входящего в систему интеллекта) или даже каждого синапса. Никаких образов, картинок в мозге конечно нет, там есть рефлекторные дуги, алгоритмы для получения поощрения и избежания наказания. Не картинка "как выглядит доллар", а алгоритм "как реагировать на просьбу нарисовать доллар, чтобы похвалили" (в инстинктивной части), либо "как реагировать на эту просьбу, чтобы результат соответствовал ожидаемому" (в интеллектуальной части).

[amigofriend.livejournal.com]

Вспомнилось сразу как во Fringe Уолтер Бишоп попросил этого, как его, Ленорда Нимова вырезать у него, Уолтера, кусочки мозга с определёнными воспоминаниями, и прятать их в мозгах других людей до поры до времени.

[3eta.livejournal.com]

Честно, не представляю, потому что "фундаментально отличается" - очень широкая трактовка. С одной стороны, динозавры фундаментально отличаются от людей. С другой стороны, можно найти и то чем они похоже. Хордовые, например :)

[amigofriend.livejournal.com]

Прочёл до середины пока, по-моему он вполне очевидные вещи говорит...

[amigofriend.livejournal.com]

Да и до конца тож.

[spamsink]

Ой, да что там мозг! Представим себе попытку описать, как работает радио (например, супергетеродинный приёмник), как если бы там внутри был цифровой компьютер. Получим ужас и безумие, требующее жутко быстрого процессора с минимальным энергопотреблением, до сочетания каковых фич мы еще не дожили.

А на самом деле там внутри лишь немного сложнее, чем пресловутая неонка.

[vsopvs.livejournal.com]

В современной радиоаппаратуре в качестве перестраиваемых гетеродинов всё чаще применяют цифровые синтезаторы частоты, которые обладают рядом важных преимуществ. - Гетеродин

[occuserpens.livejournal.com]

[The idea that memories are stored in individual neurons is preposterous: how and where is the memory stored in the cell?]

Ранние энтузиасты CETI полагали, что сообщения, передаваемые между развитыми цивилизациями, представлены в чем-то вроде кода Морзе. Настроился на определенную волну, поймал и сиди рашифровывай.

Но сейчас понятно, что, например, современный WiFi и радио оборудование 1920х гг несовместимы в принципе, на уровне того времени ловить и рашифровывать просто нечего.

Т.е. в принципе нейронная память возможна, мы просто не знаем как она устроена.

[http://users.livejournal.com/sorcerer_/]

Современное видео в h.265 кодеке очень слабо отличимо от белого шума.

[http://users.livejournal.com/sorcerer_/]

Современные нейронные сети отличаются от "компьютера" в фон неймановском понимании, тупо тем, что у них нет памяти.
Т.е. современнная нейронная сеть очень близка по строению к мозгу, мало того есть как минимум одно исследование которое доказывает это на примере визуального кортекса.

[alaev.livejournal.com]

Вопрос, кажется, не в том, кто близок по строению к мозгу, а кто может нормально описывать результат его работы.

[solomon2.livejournal.com]

Мозг принципиально отличается от фоннеймановского компьютера - это очевидно. На самом деле мозг - квантовый нейрокомпьютер.

[spamsink]

Что квантовый - это еще Пенроуз надвое сказал. А что нейрокомпьютер - нет, ну кто бы мог подумать!

[akimka.livejournal.com]

До чтения стаьи сразу хочется сказать, что любому человеку начинающему рассуждать на эти темы нужно ознакомиться с теорией информации (локальное уменьшение энтропии), тезисом Черча-Тьюринга и прочими _базовыми_ вещами. Сейчас буду читать статью и уже напишу по сути.

[egovoru.livejournal.com]

"пожалуй, провокационное эссе"

Провокационным является утверждение, что мозг - это компьютер, а не отрицание этого ;) Одной фразой можно сказать так: мы знаем, как устроен последний, но не знаем, как устроен первый: уже поэтому между ними нельзя ставить знак равенства. Перечисленные Вами тезисы автора кажутся мне совершенно здравыми. А подробнее мы обсуждали это вот здесь (http://egovoru.livejournal.com/44142.html) - может быть, Вы захотите примкнуть?

[(Anonymous)]

https://vk.com/page-80512191_50590464 — перевод. За качество не ручаюсь.

[avva.livejournal.com]

О, спасибо!

[michaelm1234.livejournal.com]

точную копию мозга мы все же не слепим. Я думаю что успешный искусственный интеллект не будет похож на человеческий.

Я думаю что они забуксовали на том что есть один механизм/представление данных, которое может полностью описать человеческий интеллект. В зависимости от моды выбирают символьное описание, логику первого порядка или нейронные сети.

Марвин Мински говорил что каждый подход подходит для своего круга задач. (Длкинные лекции тут https://www.youtube.com/watch?v=-pb3z2w9gDg&list=PLUl4u3cNGP61E-vNcDV0w5xpsIBYNJDkU ) и что одна система должна сочетать разные подходы

Меня вот заинтриговала етология - изучение поведения зверей (в том числе и подход к решению задач/интеллекта). Для етологов интеллект имеет функцию адаптации организма к изменению условий окружения, к тому же могут быть разные варианты решения.

Интересный обзор книги "Are we smart enough to know how smart animals are?" http://www.theatlantic.com/magazine/archive/2016/05/how-animals-think/476364/?single_page=true

Оспаривается мнение что интеллект это исключительное свойство человека, и что всех можно мерить по нашей мерки.

“a better way to think about other creatures would be to ask ourselves how different species have developed different kinds of minds to solve different adaptive problems. Children and chimps and crows and octopuses are ultimately so interesting not because they are mini-mes, but because they are aliens—not because they are smart like us, but because they are smart in ways we haven’t even considered “

Я вот тоже думаю что любой подход верен если он может решить свою проблему / проблему адаптации. Так что выживание и адаптация они достаточные меры/критерии успеха интеллекта - живого или машинного.

[michaelm1234.livejournal.com]

Более доступное обсуждение тут http://www.scottaaronson.com/blog/?p=2756 (очень долго). спорят Скотт Аронсон и Рогер Пенроуз: Пенроуз говорит что деятельность мозга основанна на квантовых эффектах, по этому невозможно в точности смоделировать отдельно взятый мозг и невозможно предсказать деятельность отдельного мозга - есть свобода выбора. Аронсон говорит что мозг все же занимается вычислениями и ничего такого неисчислимого не происходит.

Все это философские споры, ничем не связанные с практикой...

[yucca.livejournal.com]

Сразу вспомнила пост про принцип детерминированности Ньютона. То есть он от довольно очевидныx утверждений, что в мозгу нет никаких символических представлений реальности, и мозги разных людей одну и ту же внешнюю информацию перерабатывают по-разному (поймала себя на "неправильной" метафоре), переходит к более сильному утверждению, что мозг - недетерминированая система.

[akimka.livejournal.com]

Забавная статья... Читаешь, думаешь, ну да, все верно, но когда же начнется буллшит и он начинается ;)

But the IP metaphor is, after all, just another metaphor – a story we tell to make sense of something we don’t actually understand. And like all the metaphors that preceded it, it will certainly be cast aside at some point – either replaced by another metaphor or, in the end, replaced by actual knowledge.

Чел уже передернул неслабо. Аргументация уровня "ну раньше мы думали что земля на трех китах стоит, так наверное и теперь наши представления фигня".

Ой а дальше там ад разверзся.

I challenged researchers there to account for intelligent human behaviour without reference to any aspect of the IP metaphor.

эээ ну как бы мозг человека больше ничем не занимается в общем-то. С чего бы рассуждать в другой парадигме?

It is based on a faulty syllogism – one with two reasonable premises and a faulty conclusion. Reasonable premise #1: all computers are capable of behaving intelligently. Reasonable premise #2: all computers are information processors. Faulty conclusion: all entities that are capable of behaving intelligently are information processors.

Это уже отсутствие логики.

1. Земля круглая
2. Мяч круглый
3. Земля это мяч.

Чо? Нет - интеллект это способность системы к локальному уменьшению энтропии в общем случае если заходить с такой точки зрения. И с такой точки зрения и комьютер и мозг и планета земля как система некие общности в более высоким интеллектом чем белый шум например.

Дальше банальщина. Да, в мозгу человека обв нет "памяти" и "процессора". Да, мы узнаем предметы и явления, а не достаем их образы из памяти.

А дальше уже пошел незамутненый пиздеж.

Misleading headlines notwithstanding, no one really has the slightest idea how the brain changes after we have learned to sing a song or recite a poem.

Да ладно, дядя.

Мы прекрасно понимаем ЧТО происходит внутри. Вот что

https://www.youtube.com/watch?v=ghEmQSxT6tw

мы не знаем пока КАК ИМЕННО, но это для нашего вопроса и неважно.

Ну дальше этот бред продолжается снова:

then to create and analyse an internal model of the path along which the ball will likely move, then to use that model to guide and adjust motor movements continuously in time in order to intercept the ball.

Нет, не требуется прописывать алгоритмы и формулы для того, чтобы что-то работало так, как будто использует эти формулы.

Как и альфа го не знает как играть в го, хотя может обыграть человека. http://googleresearch.blogspot.com/2016/01/alphago-mastering-ancient-game-of-go.html

также и в случае с играми http://www.theverge.com/2015/2/25/8108399/google-ai-deepmind-video-games обученная сеть будет действовать как будто знает правила и действует "completely free of computations, representations and algorithms".

Дальше уже идет не такой явный бред, но...

Fortunately, because the IP metaphor is not even slightly valid, we will never have to worry about a human mind going amok in cyberspace

never say never. Сейчас, конечно, мы не можем "просканировать" живой мозг и получить энергетическое состояние каждого атома в нем, но кто знает. Но вцелом да, эта задача выглядит очень непростой. также еще более непростой выглядит создание модели, чтобы точно отобразить все процессы в теле человека (без них мозг не операбелен сам по себе). Так что можно отчасти согласиться.

"snapshot of the brain’s current state might also be meaningless unless we knew the entire life history of that brain’s owner" абсурдное в материальном мире утверждение. Или у нас есть копия чего-то или наша копия неточна. История не может иметь значение. Дальше уже идет бред опять. Нет, нам не надо знать состояние всех атомов самолета, чтобы понять основу как он летает. Но да, очевидно, вернуть к жизни Наполеона не удастся, ну это и так понятно.
Да human brain project распильная хрень (ученые попилили себе денг на гранты), ну да, бывает, чо.

Что человек хотел сказать-то? Что у нас пока нет достаточных знаний чтобы смоделировать мозг человека? Ну да, чо. Принципы понятны, сложность вопрос решаемый со временем. Что смоделировать мозг человека очень сложная задача? ну кто спорит. Смоделировать орла нам тоже не по силам, летать не мешает. Короче автор не владеет вопросом и пишет банальности вперемешку с бредом.

[messala.livejournal.com]

"Смоделировать орла нам тоже не по силам, летать не мешает"

Ну вот поэтому самолет - не орел, а устройство, выполняющее некоторые (немногочисленные) функции орла и еще кучу других.

"Принципы понятны"

Правда? Тогда расскажите, как человек пишет стихи (ну и, соответственно, что это вообще такое). И кстати, зачем.

[xxxxx.livejournal.com]

ты так пишешь будто априори "мозг это компьютер" --- сама собой подразумевающаяся аксиома, а не наивная метафора

[geish-a.livejournal.com]

ага

[keleg.livejournal.com]

Чем современные компьютеры сильно-сильно отличаются от современных мозгов?
Тем что мозги
1) Аналоговые
2) Используют "все, что под рукой", являясь открытой системой
Подробнее можно прочитать в http://1500py470.livejournal.com/5047.html

Извините, не совсем.

[(Anonymous)]

Мозги не совсем аналоговые. Точнее, совсем не. Нейрон может либо сработать (выдать потенциал действия), либо не сработать. Не может сработать наполовину или отчасти. См. "закон всё-или-ничего". Так что, мозговые сигналы именно цифровые, булевские.

[geish-a.livejournal.com]

Я, возможно, банальность сейчас скажу. Но мы эти вопросы все рассматриваем изнутри нашего мозга. Мы не можем их со стороны сравнить. То есть мы, конечно, силимся понять, как оно все устроено, но аппарат для понимания и объект изучения - один и тот же. И этот аппарат, в частности, создает нашу реальность (то есть наше восприятие реальности). И компьютер создан этим же аппаратом. Поэтому можно, конечно, сравнивать, но...

[irrelative.livejournal.com]

Ну что это такое!

The faulty logic of the IP metaphor is easy enough to state. It is based on a faulty syllogism – one with two reasonable premises and a faulty conclusion. Reasonable premise #1: all computers are capable of behaving intelligently. Reasonable premise #2: all computers are information processors. Faulty conclusion: all entities that are capable of behaving intelligently are information processors.

Серьезно? Да с чего бы?

Скорее так:

#1: Устройство, способное воспринимать, хранить и преобразовывать информацию называется информационным процессором.
#2: Мозг способен воспринимать, хранить и преобразовывать информацию.
Следовательно: мозг является информационным процессором.

А у Эпштейна - "соломенное чучелко".

[messala.livejournal.com]

У Эпштейна хотя бы нет ошибки в посылке #1.

[bakhtin.livejournal.com]

Меня несколько лет назад занесло на конференцию по физике мозга. Они там уверенно говорили, что "мозг как компьютер" - устаревшая метафора.

[amigofriend.livejournal.com]

А мужыки-то не знают. Особенно на Hacker News. Ну, может с Эпштейна начнётся, и таки до них дойдёт.

[richard-grm.livejournal.com]

мозг фундаментально отличается от компьютера тем, что мы знаем, как работает компьютер и не знаем, как работает мозг.
и пока мы этого не узнаем, говорить о сходстве/различии большого резона нет.

возможно, выяснится, что мозг и вправду можно исчерпывающе описать с помощью компьютерной терминологии.
но пока мозг как компьютер - это просто метафора.

[gineer.livejournal.com]

Знаем уже достаточно.

Просто, усилия по совмещению этого знания в одном мозгу, зашкаливают.

Так, мы и для обычного компьютера можем нарисовать схемку -- из чего он состоит и что там и как и с чем взаимодействует,
но только очень небольшое количество людей, которые это все знают/могут понять.

А мозг -- он по определению еще на несколько порядков сложнее.

[progulki.livejournal.com]

Когда я учила когнитивную психологию в 2004 году, то нам явно говорили, что метафора "мозг, как компьютер" уже давно не катит. КОгда мы поинтересовались, какая метафора катит, ответ был "мозг, как мозг"

[tyomitch.livejournal.com]

Метафора -- это инструмент для понимания непонятного.

Отказываться от "недостаточно подходящего" инструмента в пользу ничего -- это абсурд.

[hautboy.livejournal.com]

Не менее, чем очевидный вопрос "Что такое мозг?"
Эпштейн невольно поднимает очень правильный вопрос - "Что такое компьютер?"

[bazar-wokzal.livejournal.com]

Целиком не возьмусь, но в части памяти мозг очень херовый компутер. Он не просто теряет память - он ее (если верить Уоттсу) портит в самых важных местах.

[gineer.livejournal.com]

Ну так... и компьютер постоянно "портит" информацию,
преобразовывая её из одног формата в другой.

[(Anonymous)]

///Как вы думаете - есть в этом что-то, и если есть - что?
Есть дурацкая попытка в милионный раз атаковать физикализм "нейронаук". Можно было с тем же успехом написать, что и mind это не компьютер.