лытдыбр, лекция Шапиро и прочая

[avva]

Я снова в строю, благодаря помощи m_k, одолжившего мне на время монитор, за что я ему невыразимо благодарен.

Вчера вечером (во вторник вечером) я сходил на интересную лекцию, о которой написать в дневнике не успел, и сейчас, наверное, не успею. Профессор Стюарт Шапиро, философ, занимающийся в основном философией математики и логики (мне до сих пор не доводилось читать его статьи или книги) приехал погостить в местный университет и прочёл вчера лекцию о "новом аргументе" Роджера Пенроза против механизма. Пенроз использует теоремы Гёделя о неполноте в своих книгах The Emperor's New Mind и Shadows of the Mind, пытаясь с их помощью доказать, что наша способность к математическим рассуждениям заведомо мощнее такой же способности любого, идеального, сколь угодно мощного компьютера.

Это, наверное, не очень понятно, но я постараюсь об этом отдельную запись сделать завтра или послезавтра, заодно и свои мысли по этому поводу в порядок привести.

Завтра (т.е. уже сегодня, в четверг), я приглашён на ужин с этим самым Шапиро, перед второй его лекцией. Это хорошо главным образом потому, что в его аргументации я нашёл, мне кажется, несколько слабых (но интересных именно своей слабостью) мест, которые хотел бы с ним обсудить. Но особенно ценно то, что присутствовавший на вчерашней лекции Сол Крипке (update 24/05/02: я обознался. Это вовсе даже был куда менее известный Mark Steiner) (знаменитый в своей области философ и очень интересный человек) в беседе с Шапиро после лекции привлёк общее внимание к статье Бенасеррафа 67-го года в журнале The Monist; в ней Бенасерраф расправляется с гёделевым аргументом Лукаса, предшественника Пенроза на этом поприще.

Статья Бенасеррафа окажется, видимо, более интересной находкой, чем сама лекция Шапиро; сегодня я отксерил её в Национальной библиотеке; пока что успел только проглядеть первые несколько страниц, но уже выглядит очень интересно.

Раз уж я оказался в библиотеке, то просмотрел несколько последних номеров наиболее интересных для меня философских журналов и отксерил в общей сложности штук семь статьей для последующего прочтения. Надеюсь где-нибудь на этих выходных ими заняться.

Comments

[ex-ilyavinar899.livejournal.com]

Живую клетку можно смоделировать на компьютере. На 10¹⁰ компьютерах можно смоделировать орган из 10¹⁰ клеток, в том числе мозг. I refute you thus.

[silpol.livejournal.com]

интересно, а как насчет того чтобы залить в этот смоделированный "мозг" те знания, что накапливались людьми тысячелетиями? или вы его сдадите в семью и будете "растить как ребенка"? так у него нет всей человеческой сенсорики/моторики, так что все равно это не будет работающей моделью человеческого мозга - это будет только "реплика с мозга", не более.

[angerona.livejournal.com]

There's the "society of the mind" argument of the whole being greater than the sum of the parts -- that something may be missing in the interaction. Besides, we don't know everything about the cells (protein folding, for example), so it's still a possibility.

Reminds me of a silly question on old exam:

A problem undecidable on a turing machine can be decided by:
a) universal turing machine
b) a PC
c) a gerbil
d) none of the above.

We were mighty upset when the correct answer turned out to be (c) -- for the rest of the semester there was an on-going gerbil debate.

Re:

[ex-ilyavinar899.livejournal.com]

Я буду его растить, как ребенка.

Человеческий мозг существует в чисто информационном пространстве. Сенсорика и моторика взаимодействуют с ним через информационные каналы.

[avva.livejournal.com]

Это не refutation, а вот что.

[ex-ilyavinar899.livejournal.com]

Это банальное modus ponens + modus tollens:

Мы хотим узнать истинность 1.:
1. Мозг способен на большее, чем компьютер.

Мы замечаем истинность 2:
2. Мозг в принципе можно смоделировать на компьютере.

Следовательно,

3. На компьютере в принципе можно смоделировать нечто большее, чем можно вычислить на компьютере.

Но 3. - очевидно ложно.

Следовательно, 1. ложно.

[trurle.livejournal.com]

Рассуждение, которое имел в виду Винарский,выглядит примерно так:

Утверждение 1. Мыслительная деятельность есть следствие взаимодействий клеток высшей нервной системы.
Доказательство: повреждение высшей нервной системы приводит к дефектам или прекращению мышления.

Утверждение 2. Клетки нервной системы действуют и взаимодействуют электрохимическим образом.

Утверждение 3. Электрохимическое действие и взаимодействия нервных клеток могут быть промоделированы на компьютере

Вывод: Мыслительная деятельность может быть смоделирована на компьютере.
Где здесь циркулярный аргумент?

[avva.livejournal.com]

Утверждение 1. Мыслительная деятельность есть следствие взаимодействий клеток высшей нервной системы.

Доказательство: повреждение высшей нервной системы приводит к дефектам или прекращению мышления.

Это всего лишь показывает, что высшая нервная система является активным участником процесса мышления (даже не доказывает, что неизбежно всегда будет являться таким участником; более того, и ещё более важно, не доказывает, что деятельность высшей нервной системы сводима к взаимодействию отдельных клеток).

Предположение того, что мышление и есть исключительно результат действия высшей нервной системы, сводимого к детерминистким взаимодействиям клеток, как раз и есть механизм. Т.е. аргумент предполагает то, что стремится доказать, что является случаем begging the question.
Утверждение 2. Клетки нервной системы действуют и взаимодействуют электрохимическим образом.

Не доказано, что только таким образом. Например, тот же Пенроз пытается показать возможность того, что квантовые эффекты играют нетривиальную роль.

Утверждение 3. Электрохимическое действие и взаимодействия нервных клеток могут быть промоделированы на компьютере

Утверждение, во-первых, плохо определённое, во-вторых, недоказанное.

Где здесь циркулярный аргумент?

Begging the question - не циркулярный аргумент, а пресуппозиция желаемого результата; совсем другая штука.

[avva.livejournal.com]

"Замечание" истинности 2. на самом деле нисколько не очевидно, и предполагает отрицание 1. в качестве существенной предпосылки. Это и называется begging the question.

[ex-ilyavinar899.livejournal.com]

Макроскопические квантовые явления, напр. сверхпроводимость, тоже можно смоделировать на компьютере.

[silpol.livejournal.com]

гхм.. сложный это вопрос - даст ли это искомый результат? и что вообще ищется? насколько я понимаю, для "эмуляции" окружающего мира в процессе "взращивания" тоже потребуется система. все же проблема рефлексии не так проста...

[ex-ilyavinar899.livejournal.com]

Более того: компьютер, построенный на основе элементов, использующих макроскопические квантовые эффекты, может быть качественно эффективнее, чем классический компьютер (см. алгоритмы Гровера и Шора), но насколько я помню, он тоже не может решить The Halting Problem, и поэтому теореме Гёделя он тоже подвластен.

Re:

[avva.livejournal.com]

но насколько я помню, он тоже не может решить The Halting Problem

Да, это верно, он тривиально эмулируется обычным компьютером с экспоненциальным замедлением.

[ex-ilyavinar899.livejournal.com]

Так что же все-таки в мозгу есть такое, что принципиально нельзя смоделировать на машине Тьюринга, подвластной теореме Гёделя? Пенроуз дает какие-либо намеки?

Я читал статью Пенроуза в сборнике The Third Culture (http://www.edge.org/documents/ThirdCulture/v-Ch.14.html) в 1996 или 1997 году, и нашел ее совершенно неубедительной. Все остальные участники сборника с ним не согласны.

[ipain.livejournal.com]

у меня есть гигантская уверенность, основанная на сумме моих знаний в разных областях, что ИЭ невозможен. но что видимо возможно, так это построить 2 и больше машин, которые смогут общаясь между собой, создать некое подобие информационной жизни. это не будет интеллект в нашем понимании, но это может быть разумная жизнь. в тему: недавно посмотрел фильм колоссус, где американские и советские одновременно, независимо и в тайне, создают суперкомпьютеры для управления ядерной войной. при включении американского компьютера, его первые слова типа были: есть другой. дальше все тоже красиво, они заставляют людишек установить им связь, быстро обмениваются инфо, вырабатывают свой язык общения и терминатор зироу.

[bbb.livejournal.com]

А почему вы начали с клеток? Наверно, молекулы, даже самые сложные, смоделировать еще легче. Тогда "доказательство" будет еще короче.

Re:

[ex-ilyavinar899.livejournal.com]

Речь не идет о "легче" или "сложнее", а о "в принципе возможно" и "в принципе невозможно".

[bbb.livejournal.com]

А молекулу смоделировать в принципе невозможно? Я от чистого сердца спрашиваю - для меня новость и то, что клетку можно смоделировать (более того, я даже не знаю, что это, собственно, означает - "смоделировать клетку").

Потом, возможность воспроизвести составные части еще ничего не говорит о возможности воспроизвести целое.

Re:

[ex-ilyavinar899.livejournal.com]

Если все законы природы, молекулой управляющие, в принципе известны, то почему бы и нет?

[bbb.livejournal.com]

Неужели-таки они уже все известны? Электрон-то исчерпался, получается?

А как узнать - все уже известны или не все?

Живую клетку можно смоделировать на компьютере

[(Anonymous)]

Xa-Xa-Xa! Nu, poprobuy - Nobelevku polu4ish!

Если все законы природы, молекулой управляющие, в прин

[(Anonymous)]

Komu isvestny? Ya xo4u videt' etogo 4eloveka!

[cema.livejournal.com]

Vse zakony prirody v principe neizvestny. Zakonov v prirode voobsche net, eto vsego lish' sposob, kotorym chelovecheskoe soznanie uporyadochivaet informaciyu o mire. (Tut, konechno, est' o chem posporit'; no v takom podxode, vo vsyakom sluchae, net nichego protivorechivogo.)

Eto, vprochem, ne oprovergaet vozmozhnosti "smodelirovat'" molekulu. No chto takoe "modelirovanie"? Eto mozhno ponimat' po-raznomu.

[1] Modelirovanie: postroenie modeli mira (ili ego chasti, skoree), sootvetstvuyuschej nekotoroj teorii ili nekotoromu chertezhu, grubo govorya (simulation.) Takuyu model' mozhno soorudit' na komp'yutere, no nel'zya pogruzit' v nastoyaschij mir, a tol'ko v model' mira.

[2] Modelirovanie: postroenie dejstvuyuschej modeli kuska mira, kotoraya tak zhe vzaimodejstvuet s ostal'nym mirom, kak esli by etot kusok byl tam na samom dele (emulation). Takuyu model' mozhno pomestit' v nastoyaschij mir, no ee nel'zya sdelat' na komp'yutere, za isklyucheniem, konechno, sluchaya, kogda izuchaemyj nami mir i est' komp'yuter. (No v nashem sluchae eto ne tak.)

Ya ne sovsem akkuratno vyrazilsya, potomu chto yazyk segodnya ne podveshen, i potomu chto davno ne chital umnyx knizhek. Tem ne menee. My mozhem, naprimer, postroit' model' molekuly s uchetom vsex nyne imeyuschixsya teorij. Znachit li eto, chto my uchli vse vozmozhnye otnosyaschiesya k delu teorii? Net, konechno. Vot posmotrim na etu model', sravnim ee povedenie i xarakteristiki s povedeniem i xarakteristikami nastoyaschix molekul (poskol'ku my mozhem ix izmerit', a eto nashe umenie tozhe izmenyaetsya s techeniem vremeni) -- vot togda i budem znat', naskol'ko udachno nashi teorii opisyvayut nastoyaschij mir.

Poetomu teoreticheskie rassuzhdeniya na etu temu nichego ne dokazyvayut, poka ne postroena prakticheskaya model', libo -- naoborot -- poka ne stali obscheprinyatymi oprovergayuschie teorii.

Uff. Ya nadeyus', kto-nibud' smozhet vse eto skazat' poluchshe menya; today is not my day.

[ex-ilyavinar899.livejournal.com]

Попытаюсь пояснить предмет спора (не используя технические термины). Уже в 1930х годах было доказано, что для любой сколь-либо сложной логической системы можно привести утверждение, которое истинно, но в рамках этой системы недоказуемо. Простой пример недавно привел Авва (кинь ссылочку!): существует определенным образом описанная игра-солитер "Геркулес и гидра"; при любой стратегии игрока игра завершается его победой; но опираясь лишь на теорию целых чисел, нельзя построить доказательство этого факта; для этого нужна более сложная логическая система - но для нее тоже существуют такие утверждения. Так как все известные нам типы вычислительных машин построены на основе логических систем, на них это ограничение тоже распространяется; оно звучит так: существуют некоторые задачи, для которых не существует алгоритма решения на любой вычислительной машине. Пример: нельзя написать программу, которой можно дать текст другой программы, и которая определяла бы, заканчивается ли входная программа, или же она работает бесконечно (это легко доказать от противного). Причем доказал это один гениальный математик в 1930х годах, когда компьютеров в нашем смысле слова не существовало.

В 1990х годах английский математик Роджер Пенроуз начал утверждать, что в живых клетках якобы присутствуют макроскопические квантовые эффекты, и эти макроскопические квантовые эффекты якобы позволяют создать компьютер, не подчиняющийся теореме о неполноте. Человеческий мозг состоит из живых клеток; следовательно, пишет Пенроуз, человеческий мозг не подчиняется теореме о неполноте. Следовательно, машина не может мыслить - радуйтесь, люди!

Насколько я знаю, никто из профессиональных ученых и философов Пенроуза всерьез не принимает, по нескольким причинам. Во-первых, любой компьютер, использующий макроскопические квантовые эффекты, можно съэмулировать на обычном компьютере, пусть это будет невероятно медленно. Так что если какие-то задачи невычислимы на обычном компьютере, они также невычислимы на квантовом. Во-вторых, никто не доказал, что эти макроскопические квантовые эффекты вообще имеют место. В-третьих, никто не доказал, что даже если они имеют место, то они имеют какое-то отношение к мышлению. В-четвертых, все известные нам модели вычислительных машин, основанных на физических элементах, подчиняются некоторому набору запретов, истекающих, например, из трехмерности пространства, ограничения скорости передачи информации скоростью света и т. д.; невычислимость некоторых функций суть один из них, далеко не самое ограничивающее. Мы не знаем в точности, как работает человеческий мозг, но очевидно, что мышление имеет физическую подоплеку, и у нас нет никаких оснований полагать, что от этих запретов он освобожден.

Вот хорошая рецензия на книжку Пенроуза на amazon.com:

(продолжение следует)

The amazon.com review

[ex-ilyavinar899.livejournal.com]

Absolute Zero, February 20, 2000
Reviewer: A reader from New London, Connecticut
From "Cold Numbers Unmake the Quantum Mind," as reported by Charles Seife in SCIENCE for February 4, 2000, Volume 287, on page 791. "The idea [of a brain as a quantum computer] attracted a few physicists, some consciousness researchers, and a large number of mystics. Quantum physicists, however, largely ignored it as too speculative to be worth testing with numerical calculations. Now [Max] Tegmark, a physicist at the University of Pennsylvainia, has done the numbers. In the February issue of Physical Review E, Tegmark presents calculations showing just what a terrible environment the brain is for quantum computation."

"...the problem is that the matter inside our skulls is warm and ever-changing on an atomic scale, an environment that dooms any nascent quantum computation before it can affect our thought patterns. For quantum effects to become important, the brain would have to be a tiny fraction of a degree above absolute zero."

So quantum consciousness may finally, after an eleven year bestselling run, hit the junkheap of large offbrand ideas about how the brain works. Another system of unaccepted ideas will come along to replace it soon enough. It seems there is always, in every decade, a shadow science of ideas about how the brain works.

One question for the "real" science of the brain must be: Why do these shadow sciences thrive so wonderfully?

The answer is that the real science of the brain is not believable. There exists no reasonable explanation of how the brain actually works. Something is wrong. Some fundamental and incorrect and huge going-in assumption about the brain must be blindsiding us. The rise and fall of cult books like this one, and the murky brain sciences they urge, should be understood as one signal that the established science of the brain is a failure.