![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
avvaПереношу в свой дневник содержание коммента к записи у ![[livejournal.com profile]](https://www.dreamwidth.org/img/external/lj-userinfo.gif)
d_off, в к-м я более-менее точно высказал своё отношение к AI как дисциплине, по крайней мере до недавнего времени.
Я вижу историю AI начиная с середины 50-х годов как один большой скандал. Ведущие специалисты в AI не раз, не два и не три заявляли нам за последние пол-века, что ещё через 30, 20 или 15 лет у нас будет машина, такая же умная, как человек. Сейчас понятно, что все эти заявления были в лучшем случае самообманом, в худшем - наглым враньём с целью получить ещё больше финансирования. Самые убедительные примеры интеллектуального соревнования машины с человеком достигнуты вообще в обход AI как дисциплины (напр. шахматные компьютеры, построенные все как один на грубом переборе с некоторыми вариациями). Ни одной действительно серьёзной цели, поставленной AI перед собой, она не смогла добиться.
В этой ситуации полного интеллектуального провала, на который невозможно больше закрывать глаза, стало популярно сейчас утверждать, что дескать AI не должен имитировать человека, не должен ему подражать, что неверно оценивать успешность AI по человеческим меркам типа теста Тюринга.
Но мне это кажется всего лишь попыткой, со стороны тех специалистов AI, что так говорят, сделать хорошую мину при плохой игре. Если оценивать AI не по тому, насколько хорошо он делает что-то интеллектуальное, что умеет делать человек, то КАК его оценивать? Если просто по соответствию поставленной задаче, тогда алгоритм сортировки bubble-sort - очень удачный AI.
Всё в конце концов сводится к тому, что мы знаем только один вид intelligence - наш собственный; и единственный способ назвать что-то другое intelligent - если это что-то может соревноваться с нами в обще-интеллектуальных занятиях или результатах, или в чём-то даже превосходит нас. Тест Тюринга - самый простой и верный способ это проверить. Отказываясь от этой меры, мы остаёмся ни с чем - никакого эффективного метода ранжировки степени интеллектуальности разного рода AI у нас больше нет. Такое положение вещей, возможно, и выгодно тем людям внутри AI, которые отчаялись (и справедливо!) доказать окружающему миру, что они добились чего-то значимого. Но научное сообщество в целом с этим подлогом соглашаться не должно.
d_off, в к-м я более-менее точно высказал своё отношение к AI как дисциплине, по крайней мере до недавнего времени. Я вижу историю AI начиная с середины 50-х годов как один большой скандал. Ведущие специалисты в AI не раз, не два и не три заявляли нам за последние пол-века, что ещё через 30, 20 или 15 лет у нас будет машина, такая же умная, как человек. Сейчас понятно, что все эти заявления были в лучшем случае самообманом, в худшем - наглым враньём с целью получить ещё больше финансирования. Самые убедительные примеры интеллектуального соревнования машины с человеком достигнуты вообще в обход AI как дисциплины (напр. шахматные компьютеры, построенные все как один на грубом переборе с некоторыми вариациями). Ни одной действительно серьёзной цели, поставленной AI перед собой, она не смогла добиться.
В этой ситуации полного интеллектуального провала, на который невозможно больше закрывать глаза, стало популярно сейчас утверждать, что дескать AI не должен имитировать человека, не должен ему подражать, что неверно оценивать успешность AI по человеческим меркам типа теста Тюринга.
Но мне это кажется всего лишь попыткой, со стороны тех специалистов AI, что так говорят, сделать хорошую мину при плохой игре. Если оценивать AI не по тому, насколько хорошо он делает что-то интеллектуальное, что умеет делать человек, то КАК его оценивать? Если просто по соответствию поставленной задаче, тогда алгоритм сортировки bubble-sort - очень удачный AI.
Всё в конце концов сводится к тому, что мы знаем только один вид intelligence - наш собственный; и единственный способ назвать что-то другое intelligent - если это что-то может соревноваться с нами в обще-интеллектуальных занятиях или результатах, или в чём-то даже превосходит нас. Тест Тюринга - самый простой и верный способ это проверить. Отказываясь от этой меры, мы остаёмся ни с чем - никакого эффективного метода ранжировки степени интеллектуальности разного рода AI у нас больше нет. Такое положение вещей, возможно, и выгодно тем людям внутри AI, которые отчаялись (и справедливо!) доказать окружающему миру, что они добились чего-то значимого. Но научное сообщество в целом с этим подлогом соглашаться не должно.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
Re:
Date: 2002-04-10 09:27 am (UTC)Âû íå ïîíèìàåòå. Íè î êàêîé "ïîäãîíêå" ïîò òåñò Òþðèíãà íå ìîæåò áûòü è ðå÷è. Ìû íå çíàåì äàæå, êàê ñäåëàòü õîòü ìàëåíüêèé øàã â îáùåì íàïðàâëåíèè ê ñîçäàíèþ ÷åãî-òî, ÷òî ïðîéä¸ò òåñò Òþðèíãà.
ïðè÷åì ó÷èòûâàÿ, ÷òî ýòîò ñàìûé òåñò îïðåäåëåí êðàéíå íå÷åòêî è ôîðìàëüíûõ êðèòåðèåâ åãî ïðîâåäåíèÿ ôàêòè÷åñêè íåò (èëè åñòü? òîãäà õîòåëîñü áû èõ óñëûøàòü - ò.å. ôîðìàëüíîå îïèñàíèå òåñòà Òüþðèíãà)
Åñòü, êîíå÷íî. Îïèñàíî â êó÷å èñòî÷íèêîâ, âêëþ÷àÿ ñòàòüþ ñàìîãî Òþðèíãà. Ó ìåíÿ íåò ïîä ðóêîé ññûëêè, ìîæåò, åñëè ó êîãî-òî åñòü, êèíåò? Åñëè íåò, ÿ ïîòîì íàéäó. ß äàæå êîãäà-òî ïèñàë ó ñåáÿ â äíåâíèêå î òîì, ÷òî íà ñåòè ãäå-òî åñòü îðèãèíàëüíàÿ ñòàòüÿ Òþðèíãà.
Íå ãîâîðÿ óæ î òîì, ÷òî ó íàñ íåò äîñòàòî÷íî ìîùíîé ïðîãðàììû óñòðîéñòâà "áàçû äàííûõ", â êîòîðîé ìîæíî áûëî áû õðàíèòü è èäåíòèôèöèðîâàòü âñþ ýòó èíôîðìàöèþ
Ýòî ëåãêî ðàçðåøàåìûå ñ óâåëè÷åíèåì ñêîðîñòè îáîðóäîâàíèÿ è áþäæåòà (çàäà÷à äîñòàòî÷íî ëåãêî ðàñïàðàëëåëèâàåòñÿ, êàê ìíå êàæåòñÿ) ïðîáëåìû. Êðèòè÷åñêèõ îãðàíè÷åíèé íà ðàçìåð áàçû èëè ñêîðîñòü ïîèñêà â íåé ÿ íå âèæó.
Íåò, ðå÷ü èä¸ò íå î ôèçè÷åñêèõ îãðàíè÷åíèÿõ, à î ëîãè÷åñêîì óñòðîéñòâå. Ýòî æå íå ïîèñê ïî êëþ÷åâûì ñëîâàì, à ñåìàíòè÷åñêèé ïîèñê. Íóæíà ñèñòåìà ñèìâîëè÷åñêîé ðåïðåçåíòàöèè çíàíèÿ; òàêîé ñèñòåìû óäîâëåòâîðèòåëüíîãî êà÷åñòâà ó íàñ íåò.
À âîò ýòîìó õîòåëîñü áû ïîëó÷èòü îáüÿñíåíèå. Âîò Âû - ýòîò íàáëþäàòåëü. Î ÷åì âû ñ íåé áåñåäîâàòü ñòàíåòå?
Ëþáîé âîïðîñ íà ïîíèìàíèå. Íàïðèìåð, ÿ ïðèäóìàþ íåáîëüøóþ áàñíþ, ïî ìîòèâàì Êðûëîâà íî ÷óòü äðóãóþ, ðàññêàæó åé è ïîïðîøó îáúÿñíèòü ìíå, â ÷¸ì ìîæåò áûòü å¸ ìîðàëü.
Åùå âîïðîñ: çàéäèòå íà êàêîé-íèáóäü ÷àò è ñêàæèòå, ìíîãî ëè ó÷àñòíèêîâ òàì î÷åíü ñëîæíî ïðîìîäåëèðîâàòü äàæå íà íûíåøíåì óðîâíå ïðîãðàììîé òàê, ÷òîáû â òå÷åíèå îáîçðèìîãî ñðîêà íèêòî íà ÷àòå ýòîãî íå çàìåòèë?
Äà, ýòî àáñîëþòíî íåâîçìîæíàÿ çàäà÷à. Ïðîãðàììà-ìîäåëü áóäåò ñáèâàòüñÿ âñÿêèé ðàç, êàê ê íåé îáðàòÿòñÿ ñ âîïðîñîì, íå âõîäÿùèì â êàêîé-íèáóäü ñòàíäàðòíûé ðåïåðòóàð, ê-é ìîæíî çàðàíåå çàáèòü; à òàêîå âñòðå÷àåòñÿ íå òàê óæ ÷àñòî.
Åñòåñòâåííî, ïðåäóïðåæäàòü ó÷àñòíèêîâ ÷àòà î çàìåíå èëè äàæå âîçìîæíîñòè çàìåíû çàïðåùåíî.
Ìîäåëü òåñòà Òþðèíãà ïðåäïîëàãàåò, ÷òî ïðîâåðÿþùèé çíàåò î òîì, ÷òî åãî ñîáåñåäíèê ìîæåò áûòü êîìïüþòåðîì.
no subject
Date: 2002-04-10 09:33 am (UTC)Óâåðåíû ëè Âû, ÷òî ëþáîé ÷åëîâåê ñìîæåò îáüÿñíèòü Âàì ìîðàëü ïðèäóìàíîé áàñíè? Îñîáåííî, ñêàæåì, åñëè ÷åëîâåê ýòîò - ñêàæåì, êàêîé-íèáóäü áóøìåí, è âîîáùå â æèçíè íå ñëûøàë íè ñëîâà 'áàñíÿ', íè ñëîâà 'ìîðàëü'?
Äà, ýòî àáñîëþòíî íåâîçìîæíàÿ çàäà÷à. Ïðîãðàììà-ìîäåëü áóäåò ñáèâàòüñÿ âñÿêèé ðàç, êàê ê íåé îáðàòÿòñÿ ñ âîïðîñîì, íå âõîäÿùèì â êàêîé-íèáóäü ñòàíäàðòíûé ðåïåðòóàð,
Íà ÷òî îíà áóäåò îòâå÷àòü "îé, îòñòàíü, ïðîòèâíûé, êî ìíå íà÷àëüíèê ïðèøåë, ïîãîâîðèì ïîçæå" - è åùå 180000 âàðèàíòîâ îòêàçà îò áåñåäû. ×òî, â ÷àòàõ íå áûâàåò? Áûâàåò, ïëàâàëè.
Ìíå æå íå íàäî ïîñòðîèòü ðàçóìíóþ ïðîãðàììó - ìíå íàäî íàäóòü íàáëþäàòåëÿ! À ýòî ãîðàçäî ïðîùå - äàæå Ýëèçà ñêîëüêî íàðîäó íàäóâàëà...
no subject
Date: 2002-04-10 09:49 am (UTC)no subject
Date: 2002-04-10 09:51 am (UTC)Re:
Date: 2002-04-10 09:54 am (UTC)no subject
Date: 2002-04-10 09:57 am (UTC)no subject
Date: 2002-04-10 10:01 am (UTC)no subject
no subject
Date: 2002-04-11 04:38 am (UTC)no subject
Date: 2002-04-10 09:50 am (UTC)no subject
Date: 2002-04-10 09:51 am (UTC)no subject
Date: 2002-04-10 09:53 am (UTC)Re:
Date: 2002-04-10 09:57 am (UTC)no subject
òåñò-òî ïîëó÷àåòñÿ àññèìåòðè÷íûé, ÷åëîâåê äîëæåí ãîâîðèòü ïðàâäó, à ìàøèíà - âðàòü! Íåêîòîðûå ëþäè, íàïðèìåð, ïðîñòî íå óìåþò ïðàâäîïîäîáíî âðàòü...
no subject
no subject
Date: 2002-04-10 09:57 am (UTC)no subject
Date: 2002-04-11 04:31 am (UTC)Re:
Date: 2002-04-10 09:59 am (UTC)Íåîáÿçàòåëüíî "ïðàâèëüíî", êîíå÷íî, íî ñìîæåò ñêàçàòü ìíå íåñêîëüêî îñìûñëåííûõ ïðåäëîæåíèé íà ýòó òåìó.
Îñîáåííî, ñêàæåì, åñëè ÷åëîâåê ýòîò - ñêàæåì, êàêîé-íèáóäü áóøìåí, è âîîáùå â æèçíè íå ñëûøàë íè ñëîâà 'áàñíÿ', íè ñëîâà 'ìîðàëü'?
Ñ áóøìåíîì, åñòåñòâåííî, ÿ áóäó ãîâîðèòü íà áóøìåíñêîì ÿçûêå, à íå íà ðóññêîì, è ñîîòâåòñòâåííûì îáðàçîì èçìåíþ âîïðîñ.
Íà ÷òî îíà áóäåò îòâå÷àòü "îé, îòñòàíü, ïðîòèâíûé, êî ìíå íà÷àëüíèê ïðèøåë, ïîãîâîðèì ïîçæå" - è åùå 180000 âàðèàíòîâ îòêàçà îò áåñåäû.
Ò.å. îíà ïî ñóòè äåëà íå áóäåò àêòèâíî ó÷àñòâîâàòü â áåñåäå, à áóäåò îò íå¸ îòêàçûâàòüñÿ. Ýòî íåèíòåðåñíî.