![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
avvaПереношу в свой дневник содержание коммента к записи у ![[livejournal.com profile]](https://www.dreamwidth.org/img/external/lj-userinfo.gif)
d_off, в к-м я более-менее точно высказал своё отношение к AI как дисциплине, по крайней мере до недавнего времени.
Я вижу историю AI начиная с середины 50-х годов как один большой скандал. Ведущие специалисты в AI не раз, не два и не три заявляли нам за последние пол-века, что ещё через 30, 20 или 15 лет у нас будет машина, такая же умная, как человек. Сейчас понятно, что все эти заявления были в лучшем случае самообманом, в худшем - наглым враньём с целью получить ещё больше финансирования. Самые убедительные примеры интеллектуального соревнования машины с человеком достигнуты вообще в обход AI как дисциплины (напр. шахматные компьютеры, построенные все как один на грубом переборе с некоторыми вариациями). Ни одной действительно серьёзной цели, поставленной AI перед собой, она не смогла добиться.
В этой ситуации полного интеллектуального провала, на который невозможно больше закрывать глаза, стало популярно сейчас утверждать, что дескать AI не должен имитировать человека, не должен ему подражать, что неверно оценивать успешность AI по человеческим меркам типа теста Тюринга.
Но мне это кажется всего лишь попыткой, со стороны тех специалистов AI, что так говорят, сделать хорошую мину при плохой игре. Если оценивать AI не по тому, насколько хорошо он делает что-то интеллектуальное, что умеет делать человек, то КАК его оценивать? Если просто по соответствию поставленной задаче, тогда алгоритм сортировки bubble-sort - очень удачный AI.
Всё в конце концов сводится к тому, что мы знаем только один вид intelligence - наш собственный; и единственный способ назвать что-то другое intelligent - если это что-то может соревноваться с нами в обще-интеллектуальных занятиях или результатах, или в чём-то даже превосходит нас. Тест Тюринга - самый простой и верный способ это проверить. Отказываясь от этой меры, мы остаёмся ни с чем - никакого эффективного метода ранжировки степени интеллектуальности разного рода AI у нас больше нет. Такое положение вещей, возможно, и выгодно тем людям внутри AI, которые отчаялись (и справедливо!) доказать окружающему миру, что они добились чего-то значимого. Но научное сообщество в целом с этим подлогом соглашаться не должно.
d_off, в к-м я более-менее точно высказал своё отношение к AI как дисциплине, по крайней мере до недавнего времени. Я вижу историю AI начиная с середины 50-х годов как один большой скандал. Ведущие специалисты в AI не раз, не два и не три заявляли нам за последние пол-века, что ещё через 30, 20 или 15 лет у нас будет машина, такая же умная, как человек. Сейчас понятно, что все эти заявления были в лучшем случае самообманом, в худшем - наглым враньём с целью получить ещё больше финансирования. Самые убедительные примеры интеллектуального соревнования машины с человеком достигнуты вообще в обход AI как дисциплины (напр. шахматные компьютеры, построенные все как один на грубом переборе с некоторыми вариациями). Ни одной действительно серьёзной цели, поставленной AI перед собой, она не смогла добиться.
В этой ситуации полного интеллектуального провала, на который невозможно больше закрывать глаза, стало популярно сейчас утверждать, что дескать AI не должен имитировать человека, не должен ему подражать, что неверно оценивать успешность AI по человеческим меркам типа теста Тюринга.
Но мне это кажется всего лишь попыткой, со стороны тех специалистов AI, что так говорят, сделать хорошую мину при плохой игре. Если оценивать AI не по тому, насколько хорошо он делает что-то интеллектуальное, что умеет делать человек, то КАК его оценивать? Если просто по соответствию поставленной задаче, тогда алгоритм сортировки bubble-sort - очень удачный AI.
Всё в конце концов сводится к тому, что мы знаем только один вид intelligence - наш собственный; и единственный способ назвать что-то другое intelligent - если это что-то может соревноваться с нами в обще-интеллектуальных занятиях или результатах, или в чём-то даже превосходит нас. Тест Тюринга - самый простой и верный способ это проверить. Отказываясь от этой меры, мы остаёмся ни с чем - никакого эффективного метода ранжировки степени интеллектуальности разного рода AI у нас больше нет. Такое положение вещей, возможно, и выгодно тем людям внутри AI, которые отчаялись (и справедливо!) доказать окружающему миру, что они добились чего-то значимого. Но научное сообщество в целом с этим подлогом соглашаться не должно.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
Re:
Date: 2002-04-10 08:07 am (UTC)Íè â êîåì ñëó÷àå íå êàæåòñÿ. Ñóùåñòâîâàíèå è èçâåñòíîñòü ïðîãðàìì òèïà Ýëèçû âñåãî ëèøü äåìîíñòðèðóþò íàøó ïîëíóþ áåñïîìîùíîñòü â äåëå ïîñòðîåíèÿ AI ê-é ñìîã áû ïðîéòè òåñò Òþðèíãà.
Âñåì ïîíÿòíî, ÷òî íà îñíîâå Ýëèçû íè÷åãî òàêîãî íå ñäåëàåøü, íî è ñóùåñòâåííî ïîëó÷øå íèêòî íè÷åãî íå ìîæåò ïðèäóìàòü. Íî ýòî îòíþäü íå çíà÷èò, ÷òî öåëü ïîñòàâëåíà íåâåðíî - ñîáñòâåííî, â ýòîì è ñîñòîèò ñóòü ìîåãî àðãóìåíòà.
Ýâîëþöèÿ â îáëàñòè AI, ìíå êàæåòñÿ äîëæíà èäòè ïðèðîäíûì ïóò¸ì. Ò.å. ñíà÷àëà íàäî íàó÷èòüñÿ äåëàòü óñòðîéñòâà, ñïîñîáíûå àäàïòèðîâàòüñÿ ê ëþáûì (ïðîèçâîëüíûì) âíåøíèì îáñòîÿòåëüñòâàì. Ýòî î÷åíü áîëüøîé øàê áûë áû -- ìíîãî íèçøèõ æèâîòíûõ ñ ýòèì íå ñïðàâëÿþòñÿ, âñÿêèå íàñåêîìûå, ðåïòèëèè.
ß íå ñïîðþ, ýòî áûëî áû íåïëîõî (íî: î ëþáûõ îáñòîÿòåëüñòâàõ ñì. íèæå).
ß îòíþäü íå óòâåðæäàþ, ÷òî ïûòàòüñÿ â îáëàñòè AI ïîäðàæàòü íàñåêîìûì òàì èëè êîìó åù¸ - ýòî ïëîõî. Íåò, ðàäè Áîãà, åñëè ïîìîãàåò ïðîäâèãàòüñÿ âïåð¸ä - ïîæàëóéñòà. Íî íàñòîÿùàÿ öåëü AI - ñîâñåì äðóãàÿ, êîíå÷íî: ñîçäàíèå èíòåëëåêòà.
Èñõîäíûå òðåáîâàíèÿ. Ïðîãðàììíî-àïïàðàòíûé êîìïëåêñ, ïðåòåíäóþùèé íà ðîëü îáëàäàòåëÿ AI (ïðåòåíäåíò) äîëæåí èìåòü èíôîðìàöèîííûå âõîäû, ÷åðåç êîòîðûå åìó ñèãíàëèçèðóåòñÿ, â êàêîå èç äâóõ ñîñòîÿíèé îí ïîïàë -- ñîñòîÿíèå íåóäîâëåòâîðåíèÿ èëè ñîñòîÿíèå óäîâëåòâîðåíèÿ (ïëîõî/õîðîøî), ò.å. àíàëîã áîëåâûõ ðåöåïòîðîâ ó æèâûõ ñóùåñòâ.
Îí äîëæåí îáëàäàòü èíôîðìàöèîííûì âõîäîì, íà êîòîðûé ïîñòóïàåò ïðîèçâîëüíàÿ èíôîðìàöèÿ, çàäàâàåìàÿ ýêñïåðèìåíòàòîðîì (àíàëîã îðãàíîâ ÷óâñòâ).
Îí äîëæåí îáëàäàòü âîçìîæíîñòüþ âëèÿòü íà ïîñòóïàþùèå äàííûå ïîñûëàÿ ñâîè âîçäåéñòâèÿ íà èíôîðìàöèîííûé âûõîä. Ïîñûëàåìûå äàííûå âëèÿþò íà âõîäíûå âîçäåéñòâèÿ çàðàíåå íåèçâåñòíûì îáðàçîì, ïî íåêîåé ôóíêöèè, êîòîðàÿ ñàìà çàâèñèò îò âõîäíîé èíôîðìàöèè.
Öåëü ïðåòåíäåíòà: ìèíèìèçèðîâàòü ïîïàäàíèÿ â ñîñòîÿíèå íåóäîâëåòâîðåíèÿ.
Óñòðîéñòâî, óñïåøíî ñïðàâëÿþùååñÿ ñ ïîäîáíîé çàäà÷åé -- óíèâåðñàëüíî (÷òî è òðåáóåòñÿ îò ÈÈ).
Ýòî óòîïèÿ. Òàêîå óñòðîéñòâî âîîáùå òåîðåòè÷åñêè íåâîçìîæíî ïîñòðîèòü, êàê äîêàçûâàþò â òåîðèè ìàøèííîãî îáó÷åíèÿ. Ñèëüíî îãðàíè÷èâàÿ êëàññ âîçìîæíûõ óïðàâëÿþùèõ ôóíêöèé, ìû ìîæåì äîñòèãíóòü óðîâíÿ, íà êîòîðîì ìàøèííîå îáó÷åíèå âîçìîæíî è ñåãîäíÿ, íî ê âîçíèêàþùèì â ðåàëüíîì ìèðå ñëîæíûì çàäà÷àì îáó÷åíèÿ (òèïà òîãî æå ïèíã-ïîíãà) ýòî íèêàêîãî îòíîøåíèÿ íå èìååò è ñîâåðøåííî äëÿ ýòîé öåëè íåàäåêâàòíî.
no subject
Date: 2002-04-10 08:13 am (UTC)Ïî÷åìó æå íåâîçìîæíî? ×åëîâå÷åñêèé ìîçã ýòî âåäü òîæå íåêîå óñòðîéñòâî, êîòîðîå ñ ýòîé çàäà÷åé ñïðàâëÿåòñÿ. Âîçìîæíî íåâîçìîæíî â îáîçðèìîì áóäóùåì -- ñ ýòèì ÿ ñîãëàñåí.
Âûøåíàïèñàííîå ñëåäóåò âîñïðèíèìàòü êàê ïîïûòêó ôîðìàëèçîâàòü òðåáîâàíèÿ óñòðîéñòâó, êîòîðîìó õî÷åòñÿ áûòü (íó ðàç îíî èíòåëëåêòóàëüíîå :) ) èíòåëëåêòóàëüíûì, ïîòîìó ÷òî òåñòû âðîäå òåñòà Òüþðèíãà äàþò áîëüøîé ïðîñòîð äëÿ ñïåêóëÿöèé
no subject
Date: 2002-04-10 08:17 am (UTC)Íè â êîåì ñëó÷àå íå ñïðàâëÿåòñÿ. ß Âàì ïîñòðîþ óñòðîéñòâî, ê-å áóäåò ðàáîòàòü òàê: Âû áóäåòå âèäåòü ÷èñëî íà ýêðàíå è íàõîäèòü ó íåãî ïðîñòîé ìíîæèòåëü, åñëè åñòü; îòâåòèòå íåïðàâèëüíî - ïåðåõîä â ñîñòîÿíèå íåóäîâëåòâîðåíèÿ. Õîòü âñþ æèçíü ñèäèòå è ïðîáóéòå, íè ôèãà íå íàó÷èòåñü.
×åëîâå÷åñêèé ìîçã î÷åíü õîðîøî óìååò ó÷èòüñÿ ðåøàòü íåêîòîðûå çàäà÷è, íî îòíþäü íå ëþáûå çàäà÷è. Êàêèå èìåííî çàäà÷è îí õîðîøî óìååò ðåøàòü, ìû äî ñèõ ïîð íå ñëèøêîì õîðîøî ïîíèìàåì, è óæ òî÷íî íå ìîæåì ýòîò êëàññ çàäà÷ ñêîëüêî-íèáóäü òî÷íî ôîðìàëèçîâàòü.
no subject
Date: 2002-04-10 08:23 am (UTC)Íó, íå ñîâñåì êîððåêòíûé ïðèìåð. Âî-ïåðâûõ, ÿ íå óòâåðæäàë, ÷òî óñòðîéñòâî áóäåò àäàïòèðîâàòüñÿ â 100% ñëó÷àåâ. ß ãîâîðèë, ÷òî çàäà÷à -- ìèíèìèçèðîâàòü (à íå ñâåñòè ê íóëþ) êîëè÷åñòâî ñëó÷àåâ íåóäîâëåòâîðåíèÿ.
×òî êàñàåòñÿ ïðèìåðà -- ÿ âïîëíå ìîãó äîãàäàòüñÿ ìåòîäîì ïðîá è îøèáîê (ïðåäïîëàãàÿ ÷òî ÿ ê òîìó æå îáëàäàþ áîëüøîé âû÷èñëèòåëüíîé ìîùüþ), ÷òî îò ìåíÿ òðåáóåòñÿ èìåííî íàõîæäåíèå ïðîñòîãî ìíîæèòåëÿ, ò.å. óñòàíîâèòü ñâÿçü ìåæäó íàõîæäåíèåì ìíîæèòåëÿ è ñîñòîÿíèåì óäîâëåòâîðåíèÿ, êàê îáåçüÿíû íàõîäÿò ñâÿçü ìåæäó êíîïêàìè è áàíàíàìè. È íàõîæäåíèå ýòîé ñâÿçè áóäåò èíòåëëåêòóàëüíûì àêòîì.
no subject
Date: 2002-04-10 09:01 am (UTC)no subject
Date: 2002-04-10 08:15 am (UTC)Êîíå÷íî, ýòî òîëüêî ìî¸ îùóùåíèå, ÷òî ïðàâèëüíûé ïóòü ê èññêóñòâåííîìó èíòåëëåêòó ëåæèò â ýòîì íàïðàâëåíèè. ß èñõîæó èç òîãî, ÷òî ÷åëîâå÷åñòâî èìååò âîçìîæíîñòü íàáëþäàòü (êîñâåííî) òîëüêî òàêîé âàðèàíò ñîçäàíèÿ èíòåëëåêòà íà ïðèìåðå ýâîëþöèè ÷åëîâåêà. Õîòÿ, êîíå÷íî, ýòî íè÷åãî íå äîêàçûâàåò