![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
avvaПереношу в свой дневник содержание коммента к записи у ![[livejournal.com profile]](https://www.dreamwidth.org/img/external/lj-userinfo.gif)
d_off, в к-м я более-менее точно высказал своё отношение к AI как дисциплине, по крайней мере до недавнего времени.
Я вижу историю AI начиная с середины 50-х годов как один большой скандал. Ведущие специалисты в AI не раз, не два и не три заявляли нам за последние пол-века, что ещё через 30, 20 или 15 лет у нас будет машина, такая же умная, как человек. Сейчас понятно, что все эти заявления были в лучшем случае самообманом, в худшем - наглым враньём с целью получить ещё больше финансирования. Самые убедительные примеры интеллектуального соревнования машины с человеком достигнуты вообще в обход AI как дисциплины (напр. шахматные компьютеры, построенные все как один на грубом переборе с некоторыми вариациями). Ни одной действительно серьёзной цели, поставленной AI перед собой, она не смогла добиться.
В этой ситуации полного интеллектуального провала, на который невозможно больше закрывать глаза, стало популярно сейчас утверждать, что дескать AI не должен имитировать человека, не должен ему подражать, что неверно оценивать успешность AI по человеческим меркам типа теста Тюринга.
Но мне это кажется всего лишь попыткой, со стороны тех специалистов AI, что так говорят, сделать хорошую мину при плохой игре. Если оценивать AI не по тому, насколько хорошо он делает что-то интеллектуальное, что умеет делать человек, то КАК его оценивать? Если просто по соответствию поставленной задаче, тогда алгоритм сортировки bubble-sort - очень удачный AI.
Всё в конце концов сводится к тому, что мы знаем только один вид intelligence - наш собственный; и единственный способ назвать что-то другое intelligent - если это что-то может соревноваться с нами в обще-интеллектуальных занятиях или результатах, или в чём-то даже превосходит нас. Тест Тюринга - самый простой и верный способ это проверить. Отказываясь от этой меры, мы остаёмся ни с чем - никакого эффективного метода ранжировки степени интеллектуальности разного рода AI у нас больше нет. Такое положение вещей, возможно, и выгодно тем людям внутри AI, которые отчаялись (и справедливо!) доказать окружающему миру, что они добились чего-то значимого. Но научное сообщество в целом с этим подлогом соглашаться не должно.
d_off, в к-м я более-менее точно высказал своё отношение к AI как дисциплине, по крайней мере до недавнего времени. Я вижу историю AI начиная с середины 50-х годов как один большой скандал. Ведущие специалисты в AI не раз, не два и не три заявляли нам за последние пол-века, что ещё через 30, 20 или 15 лет у нас будет машина, такая же умная, как человек. Сейчас понятно, что все эти заявления были в лучшем случае самообманом, в худшем - наглым враньём с целью получить ещё больше финансирования. Самые убедительные примеры интеллектуального соревнования машины с человеком достигнуты вообще в обход AI как дисциплины (напр. шахматные компьютеры, построенные все как один на грубом переборе с некоторыми вариациями). Ни одной действительно серьёзной цели, поставленной AI перед собой, она не смогла добиться.
В этой ситуации полного интеллектуального провала, на который невозможно больше закрывать глаза, стало популярно сейчас утверждать, что дескать AI не должен имитировать человека, не должен ему подражать, что неверно оценивать успешность AI по человеческим меркам типа теста Тюринга.
Но мне это кажется всего лишь попыткой, со стороны тех специалистов AI, что так говорят, сделать хорошую мину при плохой игре. Если оценивать AI не по тому, насколько хорошо он делает что-то интеллектуальное, что умеет делать человек, то КАК его оценивать? Если просто по соответствию поставленной задаче, тогда алгоритм сортировки bubble-sort - очень удачный AI.
Всё в конце концов сводится к тому, что мы знаем только один вид intelligence - наш собственный; и единственный способ назвать что-то другое intelligent - если это что-то может соревноваться с нами в обще-интеллектуальных занятиях или результатах, или в чём-то даже превосходит нас. Тест Тюринга - самый простой и верный способ это проверить. Отказываясь от этой меры, мы остаёмся ни с чем - никакого эффективного метода ранжировки степени интеллектуальности разного рода AI у нас больше нет. Такое положение вещей, возможно, и выгодно тем людям внутри AI, которые отчаялись (и справедливо!) доказать окружающему миру, что они добились чего-то значимого. Но научное сообщество в целом с этим подлогом соглашаться не должно.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2002-04-10 02:54 pm (UTC)ß, ÷åñòíî ãîâîðÿ, ñêëîíåí äóìàòü, ÷òî Âû íåìíîãî äðàìàòèçèðóåòå ñèòóàöèþ (ëèáî æå íàêàë ñòðàñòåé ñàì ïî ñåáå äðàìàòè÷íåå, ÷åì íàäî). Ìíå êàæåòñÿ î÷åâèäíûì, ÷òî îæèäàòü, ïîêà ïåðåä íàìè ïîÿâèòñÿ, êàê deus ex machina, ñèÿþùèé õðîìèðîâàííûé AI, íå íàäî. Âîîáùå ñòðàííî, êàê ìîæíî áûëî äàâàòü ïðîãíîçû (10, 20, 50 ëåò), íå ïîíèìàÿ òîëêîì, êàê èìåííî ðàáîòàåò òî, ÷òî ìû ïûòàåìñÿ ñìîäåëèðîâàòü - ÷åëîâå÷åñêèé óì.
ß, ÷åñòíî ãîâîðÿ, ñêëîíåí äóìàòü, ÷òî Âû íåìíîãî äðàìàòèçèðóåòå ñèòóàöèþ (ëèáî æå íàêàë ñòðàñòåé ñàì ïî ñåáå äðàìàòè÷íåå, ÷åì íàäî). Ìíå êàæåòñÿ î÷åâèäíûì, ÷òî îæèäàòü, ïîêà ïåðåä íàìè ïîÿâèòñÿ, êàê deus ex machina, ñèÿþùèé õðîìèðîâàííûé AI, íå íàäî. Âîîáùå ñòðàííî, êàê ìîæíî áûëî äàâàòü ïðîãíîçû (10, 20, 50 ëåò), íå ïîíèìàÿ òîëêîì, <i>êàê</i> èìåííî ðàáîòàåò òî, ÷òî ìû ïûòàåìñÿ ñìîäåëèðîâàòü - ÷åëîâå÷åñêèé óì.
<i?> è åäèíñòâåííûé ñïîñîá íàçâàòü ÷òî-òî äðóãîå intelligent - åñëè ýòî ÷òî-òî ìîæåò
> ñîðåâíîâàòüñÿ ñ íàìè â îáùå-èíòåëëåêòóàëüíûõ çàíÿòèÿõ èëè ðåçóëüòàòàõ, èëè â
> ÷¸ì-òî äàæå ïðåâîñõîäèò íàñ</i>
Âîâñå íåîáÿçàòåëüíî ñîðåâíîâàòüñÿ, íà ìîé âçãëÿä. Äîñòàòî÷íî ïðåäîñòàâèòü âàðèàíò ðåøåíèÿ çàäà÷è/ðàçðåøåíèÿ ñèòóàöèè/îòâåòà íà âîïðîñ, êîòîðûé íå âûòåêàë áû ïðÿìî èç ñêîëü óãîäíî ñëîæíîé ýíäîãåííîé êîìáèíàöèè çàëîæåííûõ â ìàøèíó çíàíèé. Ò.å. íàäî íàó÷èòü ìàøèíó ìûñëèòü äåäóêòèâíî, à íå èíäóêòèâíî - âûâîäèòü èç çàëîæåííîé èíôîðìàöèè <i>âíåøíèå</i> àáñòðàêòíûå êàòåãîðèè. Ýòè êàòåãîðèè ñîâñåì íå îáÿçàíû áûòü ëîãè÷íûìè â íàøåì, ÷åëîâå÷åñêîì ïðåäñòàâëåíèè. Äà, ðàçóìååòñÿ, æåëàòåëüíî, ÷òîáû ìû ìîãëè èõ îñìûñëèòü è ïðèíÿòü. Íî ýòî íå îáÿçàòåëüíî. Ìû ïðîñòî äîëæíû áûòü â ñîñòîÿíèè îöåíèòü èõ îòîðâàííîñòü îò èçíà÷àëüíûõ äàííûõ.
<i>>ìû çíàåì òîëüêî îäèí âèä intelligence - íàø ñîáñòâåííûé</i>
Äàæå íàø ñîáñòâåííûé èíòåëëåêò - ïîíÿòèå âåñüìà íåîäíîðîäíîå. Âîçüìèòå àóòèñòîâ, î êîòîðûõ Âû íåäàâíî ïèñàëè, èëè ëþäåé ñ MPD (multiple personality disorder, çàáûë, óâû, êàê ýòî ïî-ðóññêè) èëè áîëüíûõ øèçîôðåíèåé. Âñå ýòè ëþäè ìîãóò ïî-ðàçíîìó ìûñëèòü (â ñìûñëå, ìûøëåíèå áóäåò ðàçëè÷àòüñÿ ñòðóêòóðíî). Ìûñëèòåëüíûå ïðîöåññû äâóõ ñëó÷àéíûõ ëþäåé èç äâóõ ðàçíûõ êàòåãîðèé ñîâñåì íå îáÿçàòåëüíî áóäóò äî òàêîé ñòåïåíè ïîõîæè, ÷òîáû ìîæíî áûëî ÷åòêî îòíåñòè îáúåêòû ê "ëþäÿì" è "ìàøèíàì". Íàïðèìåð, âïîëíå âîçìîæåí òàêîé äèàëîã:
- Êàê òåáÿ çîâóò?
- Òåìà.
- Ñêîëüêî òåáå ëåò?
- Íå çíàþ.
- Ñêîëüêî áóäåò 1231413449*12314134?
- Ñòîëüêî-òî.
Âûâîä ñîáåñåäíèêà: ýòî ìàøèíà, ïîòîìó ÷òî ÷åëîâåê òàê íå óìååò, ïîòîìó ÷òî íå çíàåò ñîáñòâåííîãî âîçðàñòà. À âûâîä íåïðàâèëüíûé, ïðîñòî Òåìà - àóòèñò, "÷åëîâåê-êàëüêóëÿòîð". Ïîýòîìó òåñò Òþðèíãà (êîòîðûé, êñòàòè, ïðîâîäèòñÿ ñ âðåìåííûìè îãðàíè÷åíèÿìè, êàê ÿ ïîíÿë) âîâñå íå äîëæåí áûòü öåëüþ â ñåáå. Ìàøèíà, ìûñëÿùàÿ àáñîëþòíî àáñòðàêòíî, ìîæåò åãî è íå ïðîéòè - ïðîñòî ïîòîìó, ÷òî interrogator áóäåò îæèäàòü îòâåòîâ, óêëàäûâàþùèõñÿ â åãî ïðåäñòàâëåíèÿ î òîì, êàêèìè äîëæíû áûòü îòâåòû. À îò ÷èñòîãî AI, ñïîñîáíîãî ìûñëèòü, íî íå îòÿãîùåííîãî êàêîé-ëèáî ïðåäâàðèòåëüíîé ñòðóêòóðîé ñòåðåîòèïîâ, ïî ïîíÿòíûì ïðè÷èíàì ìîæíî îæèäàòü èìåííî àáñîëþòíîé, èëè ñòðåìÿùåéñÿ ê àáñîëþòíîé, àáñòðàêòíîñòè.
Êàê èìåííî ïåðåéòè êà÷åñòâåííûé ïîðîã, îòëè÷àþùèé ñèíòåòè÷åñêóþ îáðàáîòêó äàííûõ îò ìûøëåíèÿ? Ìîæíî ëè åãî ïåðåéòè? Ëè÷íî ÿ äóìàþ, ÷òî ìîäåëèðîâàíèå ÷åëîâå÷åñêîãî èíòåëëåêòà â ïðèíöèïå âîçìîæíî. Íî ÿ ïîäîçðåâàþ, ÷òî äëÿ ñóùåñòâîâàíèÿ ðàçóìà ìîæåò áûòü íåîáõîäèìà æèâàÿ ñðåäà, áèîëîãè÷åñêàÿ îñíîâà (êëåòêà), áåç êîòîðîé íåâîçìîæíî îðãàíèçîâàòü ñàìîîáó÷àþùóþñÿ ñàìîîðãàíèçóþùóþñÿ ñèñòåìó. Ïîäòâåðäèòü òàêîå ïîäîçðåíèå ÿ, êîíå÷íî, íå ìîãó.
no subject
Date: 2002-04-10 03:02 pm (UTC)Re:
Date: 2002-04-10 03:07 pm (UTC)Re:
Date: 2002-04-10 03:06 pm (UTC)ß áû ñêàçàë òàê: ñîçäàíèå AI òðåáóåò, ïî ìîåìó óáåæäåíèþ, áîëüøîãî êîë-âà ôèëîñîôñêèõ îòêðûòèé, è â ÷àñòíîñòè íàìíîãî áîëåå ãëóáîêîãî ïîíèìàíèÿ, êàê óñòðîåí íàø ñîáñòâåííûé èíòåëëåêò (è â ýòîé îáëàñòè - ñîòðóäíè÷åñòâà ôèëîñîôèè è áèîëîãèè). ß íå äóìàþ, ÷òî ýòî íåâîçìîæíî â ïðèíöèïå, íî ñàìóþ îïòèìèñòè÷åñêóþ îöåíêó äëÿ äàæå ÷àñòè÷íîãî óñïåõà â ýòîì íàïðàâëåíèè ÿ áû ïîñëàë ëåò íà 100 â áóäóùåå.
Ìíå êàæåòñÿ, ÷òî íè îäíî èç ñóùåñòâóþùèõ íàïðàâëåíèé â AI íå èìååò íè ìàëåéøåãî øàíñà íà óñïåõ â äåëå ñîçäàíèÿ ñîáñòâåííî AI. ß áû îöåíèë èõ âñå, ìåòàôîðè÷åñêè, êàê ïîïûòêó ïîñòðîèòü êîñìè÷åñêèé êîðàáëü, ñêëàäûâàÿ âìåñòå áîëüøîå êîëè÷åñòâî øåñòåð¸íîê.
Âîîáùå ñòðàííî, êàê ìîæíî áûëî äàâàòü ïðîãíîçû (10, 20, 50 ëåò), íå ïîíèìàÿ òîëêîì, êàê èìåííî ðàáîòàåò òî, ÷òî ìû ïûòàåìñÿ ñìîäåëèðîâàòü - ÷åëîâå÷åñêèé óì.
Äåéñòâèòåëüíî ñòðàííî. Íî òåì íå ìåíåå, ýòè ïðîãíîçû ðåãóëÿðíî äàâàëèñü. È ýòî ìåíÿ âîçìóùàåò.
(êàê ìîæíî áûëî? ïðîñòî: ñòîðîííèêè êëàññè÷åñêîãî ïîäõîäà â AI ñ÷èòàëè, ÷òî äîñòàòî÷íî ïîñòðîèòü îãðîìíóþ ñèñòåìó ðåïðåçåíòàöèè ñèìâîëè÷åñêèõ äàííûõ, çàêà÷àòü òóäà ãðîìàäíîå êîë-âî äàííûõ îá îêðóæàþùåì ìèðå, è îíî ñàìî âñ¸ çàðàáîòàåò. Òåïåðü, à òðåçâûì ëþäÿì è òîãäà, ïîíÿòíî áåçóìèå (îïóùó áîëåå ñèëüíûå ýïèòåòû) ýòîãî ïîäõîäà).
Íî ýòî íå îáÿçàòåëüíî. Ìû ïðîñòî äîëæíû áûòü â ñîñòîÿíèè îöåíèòü èõ îòîðâàííîñòü îò èçíà÷àëüíûõ äàííûõ.
 ïðèíöèïå, ýòî èíòåðåñíûé ïîäõîä. Ìíå îí èìïîíèðóåò. Âîïðîñ â òîì, ìîæåì ëè ìû íàéòè îáúåêòèâíûé êðèòåðèé îöåíêè ýòîé ñàìîé îòîðâàííîñòè. Âåäü "îòîðâàííîñòü" çäåñü - î÷åíü íåòðèâèàëüíîå ïîíÿòèå.
no subject
Ýòî, âîîáùå ãîâîðÿ, òàêîé time-honoured question of alien logic. È, êîíå÷íî, òàêîé êðèòåðèé ïðèäóìàòü î÷åíü ñëîæíî, ïîòîìó ÷òî, ôàêòè÷åñêè, âñå ñâîäèòñÿ ê òðåáîâàíèþ: "ïîïðîáóéòå îöåíèòü èíòåëëåêò ìàøèíû, êîòîðàÿ äóìàåò òàêèì îáðàçîì, ÷òî ïîíÿòü åå Âû íå ìîæåòå ôèçè÷åñêè" - ôèçè÷åñêè íå â ñìûñëå óðîâíÿ, à â ñìûñëå êà÷åñòâà.
Ìíå êàæåòñÿ, ÷òî äâå ìîë÷àëèâûå ïîñûëêè, íà êîòîðûõ ñòðîèëñÿ (äî íåäàâíåãî âðåìåíè, êàê ÿ ïîíèìàþ) AI research, òàêîâû: âî-ïåðâûõ, ëþáîé èíòåëëåêò ïî îïðåäåëåíèþ èíòåëëåêò ÷åëîâå÷åñêîãî òèïà; âî-âòîðûõ, ñóùåñòâóåò íåêèé ïîðîã, çà êîòîðûì êîëè÷åñòâî ïåðåõîäèò â êà÷åñòâî, è ñëîæíàÿ ñèñòåìà, åñëè åé äàòü ìíîãî èíôîðìàöèè è ìíîãî ïðàâèë, ïî êîòîðûì ýòà èíôîðìàöèÿ îðãàíèçóåòñÿ, ñòàíåò ñàìà ñåáÿ îáó÷àòü. Îáå ýòè ïîñûëêè, ÿ äóìàþ, íåâåðíû - ÷òî êàñàåòñÿ ïåðâîé, òî ýòî âïîëíå åñòåñòâåííî, à ÷òî êàñàåòñÿ âòîðîé, òî íåÿñíî, êàêîãî ðàçìåðà äîëæíà áûòü èíôîðìàöèîííàÿ áàçà, ÷òîáû ñòàëî ïîíÿòíî, ÷òî ýòî íå òàê è îïëîäîòâîðåíèÿ ðàçóìîì íå ïðîèñõîäèò.
Òåñò Òþðèíãà, áåçóñëîâíî, ïîëåçåí â êà÷åñòâå ýäàêîé âåõè ðàçâèòèÿ. Íî îí ïðåäïîëàãàåò ïðîäîëæèòåëüíîñòü ðàçâèòèÿ AI, è íå ó÷èòûâàåò èìåííî âîò ýòîé ïîòåíöèàëüíîé ñòðóêòóðíîé íåñîïîñòàâèìîñòè ìûñëèòåëüíûõ ïðîöåññîâ, äèñêðåòíîñòè ðàçâèòèÿ. Ìîæåò áûòü, ìåæäó A (÷åëîâå÷åñêèì ðàçóìîì) è B (ýìóëèðóåìûì ðàçóìîì) íåò ïðîìåæóòî÷íûõ çíà÷åíèé.
Ëàäíî, ÿ ñòàë ïîâòîðÿòüñÿ, ïîýòîìó íàáîëåâøåå: íå ïîäñêàæåòå ëè, êàê ñäåëàòü òàê, ÷òîáû â îáñóæäåíèè ñîçäàâàëèñü òðåäû?
Ñïàñèáî!
Re:
Date: 2002-04-10 03:34 pm (UTC)Î òðåäàõ: èõ íèêàê ñîçäàòü íåëüçÿ, îíè ñîçäàþòñÿ ñàìè àâòîìàòè÷åñêè ïîñëå òîãî, êàê êîë-âî çàïèñåé ïðåâûøàåò íåêèé ïðåäåë. Äëÿ ðåøåíèÿ, êàêèå èìåííî êîììåíòû ïîêàçàòü íà ñòðàíèöå, à êàêèå óïðÿòàòü â äåðåâî òðåäà, èñïîëüçóåòñÿ íåòðèâèàëüíûé àëãîðèòì (ê-é äàâíî ïîðà áû óëó÷øèòü), âîçäåéñòâîâàòü íà ê-é þçåð íå èìååò âîçìîæíîñòè.