лытдыбр, лекция Шапиро и прочая

[avva]

Я снова в строю, благодаря помощи m_k, одолжившего мне на время монитор, за что я ему невыразимо благодарен.

Вчера вечером (во вторник вечером) я сходил на интересную лекцию, о которой написать в дневнике не успел, и сейчас, наверное, не успею. Профессор Стюарт Шапиро, философ, занимающийся в основном философией математики и логики (мне до сих пор не доводилось читать его статьи или книги) приехал погостить в местный университет и прочёл вчера лекцию о "новом аргументе" Роджера Пенроза против механизма. Пенроз использует теоремы Гёделя о неполноте в своих книгах The Emperor's New Mind и Shadows of the Mind, пытаясь с их помощью доказать, что наша способность к математическим рассуждениям заведомо мощнее такой же способности любого, идеального, сколь угодно мощного компьютера.

Это, наверное, не очень понятно, но я постараюсь об этом отдельную запись сделать завтра или послезавтра, заодно и свои мысли по этому поводу в порядок привести.

Завтра (т.е. уже сегодня, в четверг), я приглашён на ужин с этим самым Шапиро, перед второй его лекцией. Это хорошо главным образом потому, что в его аргументации я нашёл, мне кажется, несколько слабых (но интересных именно своей слабостью) мест, которые хотел бы с ним обсудить. Но особенно ценно то, что присутствовавший на вчерашней лекции Сол Крипке (update 24/05/02: я обознался. Это вовсе даже был куда менее известный Mark Steiner) (знаменитый в своей области философ и очень интересный человек) в беседе с Шапиро после лекции привлёк общее внимание к статье Бенасеррафа 67-го года в журнале The Monist; в ней Бенасерраф расправляется с гёделевым аргументом Лукаса, предшественника Пенроза на этом поприще.

Статья Бенасеррафа окажется, видимо, более интересной находкой, чем сама лекция Шапиро; сегодня я отксерил её в Национальной библиотеке; пока что успел только проглядеть первые несколько страниц, но уже выглядит очень интересно.

Раз уж я оказался в библиотеке, то просмотрел несколько последних номеров наиболее интересных для меня философских журналов и отксерил в общей сложности штук семь статьей для последующего прочтения. Надеюсь где-нибудь на этих выходных ими заняться.

Comments

[ex-ilyavinar899.livejournal.com]

Живую клетку можно смоделировать на компьютере. На 10¹⁰ компьютерах можно смоделировать орган из 10¹⁰ клеток, в том числе мозг. I refute you thus.

[silpol.livejournal.com]

интересно, а как насчет того чтобы залить в этот смоделированный "мозг" те знания, что накапливались людьми тысячелетиями? или вы его сдадите в семью и будете "растить как ребенка"? так у него нет всей человеческой сенсорики/моторики, так что все равно это не будет работающей моделью человеческого мозга - это будет только "реплика с мозга", не более.

Re:

[ex-ilyavinar899.livejournal.com]

Я буду его растить, как ребенка.

Человеческий мозг существует в чисто информационном пространстве. Сенсорика и моторика взаимодействуют с ним через информационные каналы.

[angerona.livejournal.com]

There's the "society of the mind" argument of the whole being greater than the sum of the parts -- that something may be missing in the interaction. Besides, we don't know everything about the cells (protein folding, for example), so it's still a possibility.

Reminds me of a silly question on old exam:

A problem undecidable on a turing machine can be decided by:
a) universal turing machine
b) a PC
c) a gerbil
d) none of the above.

We were mighty upset when the correct answer turned out to be (c) -- for the rest of the semester there was an on-going gerbil debate.

[avva.livejournal.com]

Это не refutation, а вот что.

[ex-ilyavinar899.livejournal.com]

Это банальное modus ponens + modus tollens:

Мы хотим узнать истинность 1.:
1. Мозг способен на большее, чем компьютер.

Мы замечаем истинность 2:
2. Мозг в принципе можно смоделировать на компьютере.

Следовательно,

3. На компьютере в принципе можно смоделировать нечто большее, чем можно вычислить на компьютере.

Но 3. - очевидно ложно.

Следовательно, 1. ложно.

[trurle.livejournal.com]

Рассуждение, которое имел в виду Винарский,выглядит примерно так:

Утверждение 1. Мыслительная деятельность есть следствие взаимодействий клеток высшей нервной системы.
Доказательство: повреждение высшей нервной системы приводит к дефектам или прекращению мышления.

Утверждение 2. Клетки нервной системы действуют и взаимодействуют электрохимическим образом.

Утверждение 3. Электрохимическое действие и взаимодействия нервных клеток могут быть промоделированы на компьютере

Вывод: Мыслительная деятельность может быть смоделирована на компьютере.
Где здесь циркулярный аргумент?

[bbb.livejournal.com]

А почему вы начали с клеток? Наверно, молекулы, даже самые сложные, смоделировать еще легче. Тогда "доказательство" будет еще короче.

Re:

[ex-ilyavinar899.livejournal.com]

Речь не идет о "легче" или "сложнее", а о "в принципе возможно" и "в принципе невозможно".

Живую клетку можно смоделировать на компьютере

[(Anonymous)]

Xa-Xa-Xa! Nu, poprobuy - Nobelevku polu4ish!

Re: Живую клетку можно смоделировать на компьютере

[ex-ilyavinar899.livejournal.com]

Уважаемый анонимус!

Назовите что-нибудь, содержащееся в живой клетке, такое, что оно в принципе не может быть смоделировано на компьютере.

[muchandr.livejournal.com]

Если я правильно помню аргумент Пенроза, он говорил что-то вроде того, что наш мозг - это квантовый компьютер, т.е. он недетерминистичен. Для эффективной эмуляции недетерминистической машины не хватит никакого количества детерминистических. (Я сам, как ты знаешь, с этим не согласен, но по общепринятой вычислительной теории выходит именно так)

[ex-ilyavinar899.livejournal.com]

Квантовый компьютер можно сэмулировать на обычном (с экспоненциальным замедлением). Везде, когда делается наблюдение, жива ли кошка Шрёдингера или мертва, мы делаем fork; один процесс считает, что она мертва; другой - что она жива.

[ipain.livejournal.com]

у меня есть гигантская уверенность, основанная на сумме моих знаний в разных областях, что ИЭ невозможен. но что видимо возможно, так это построить 2 и больше машин, которые смогут общаясь между собой, создать некое подобие информационной жизни. это не будет интеллект в нашем понимании, но это может быть разумная жизнь. в тему: недавно посмотрел фильм колоссус, где американские и советские одновременно, независимо и в тайне, создают суперкомпьютеры для управления ядерной войной. при включении американского компьютера, его первые слова типа были: есть другой. дальше все тоже красиво, они заставляют людишек установить им связь, быстро обмениваются инфо, вырабатывают свой язык общения и терминатор зироу.

[iliat.livejournal.com]

Мне иногда кажется, что это вопрос количественный а не качественный: т.е. сможем ли мы создать систему сравнимую
по сложности наблюдаемого поведения (реакций на изменение
среды) с человеком.
Интересно было-бы разработать какую-то систему отсчета уровней сложности отличную от принятой в theory of computation. Ведь поведение амебы мы, наверное, можем смоделировать сегодня.
Идем дальше - муха?,кошка ?,человек ?,человечество ? Как определить скачки в сложности ?
Последнее, что читал в этом направлении был сборник "THE MIND'S I" (D.Hofstadter & D. Dennet).
С удовольствием почитал бы еще чего-нибудь - посоветуйте люди добрыя :)

[ex-ilyavinar899.livejournal.com]

Мне кажется, что даже если мы никогда не сможем построить ИИ, причиной этому будет нечто иное, чем теорема Гёделя.

[avva.livejournal.com]

Об этих скачках в сложности была как-то интересная дискуссия у меня в комментах, месяца полтора назад, когда я написал запись о Strong AI. Не видел?

[http://users.livejournal.com/_baum/]

"Гедель, Эшер, Бах" Хофштадтера читали? Он тут у нас в центре провел в этом году два месяца, показывал тогда русское издание. Перевод очень посредственный, напечатали где-то в Самаре - рекомендую достать оригинал.

[http://users.livejournal.com/_baum/]

Если Вам нужно резюме того, в чем заключается "геделев аргумент" Пенроуза, посмотрите здесь (http://nivat.free.fr/p/summary.doc).

[avva.livejournal.com]

Спасибо, но честно говоря -- простите мне эту самонадеянность -- я подозреваю, что могу объяснить его аргумент намного лучше многих.

Я посмотрю, конечно, мало ли что.

[ex-ilyavinar899.livejournal.com]

Я посмотрел, и остался неудовлетворенным.

Есть ли у Пенроуза доказательство того, что оракул А "that human beings use" действительно используется людьми? Если у него нет такого доказательства, то этот аргумент - чистой воды шарлатанство.

[iliat.livejournal.com]

Нагуглил более формальное опровержение: ARefutation of Penrose's G¨odelian Case Against AI.

Re:

[avva.livejournal.com]

Спасибо, это очень интересно. Буду читать.

Re:

[avva.livejournal.com]

Увы, ужасная, на редкость идиотская статья.

[ex-ilyavinar899.livejournal.com]

Сегодня напишу большой постинг про ИИ, Пенроуза и т. д.