Gondolkodó chatbotok?

Már manapság is léteznek olyan programok, amelyek képesek szimulálni egy emberi chat-partnert. (Csak két egyszerűbb: http://jozsichat.tk/index.php , http://www.boborjan.hu/) Elvben lehetséges, hogy partnered, David102 üzeneteit igazából egy program generálja, miközben te azt hiszed, egy élő emberrel beszélgetsz. E programok jelenleg még nincsenek azon a szinten, hogy ne derülne ki elég hamar a csalás, ám – ha nem is rohamléptekben – de fejlődnek, és talán eljön az idő, amikor az emberektől megkülönböztethetetlen chatelők lesznek. Rendben – mondhatnád –, ha ez a robot nem leplezhető le, akkor végső soron ugyanolyan intelligens, mint az ember.

Alan Turing – az informatika egyik úttörője – egy ehhez hasonló tesztet javasolt annak eldöntésére, hogy mikor tekinthető egy gép intelligensnek: ha a vizsgáztató emberi lény pusztán a chaten keresztül nem tudja leleplezni a gépet, akkor minden alapunk megvan arra, hogy intelligensnek tekintsük.

Bár a mai chatbotok leginkább szövegstatisztikai alapokon működnek, a legmerészebb mesterséges intelligencia kutatók szerint lehetséges olyan számítógépes programot írni, amely valóban gondolkodik, sőt, az emberi gondolkodás maga sem áll másból, mint a számítógépes utasításokhoz hasonló szabályokból, természetesen hihetetlenül bonyolult változatban.

John Searle szerint ez a kutatási program halva született, akármilyen rafinált programokat is írunk. Ha a gép csupán szabályokkal dolgozik – bármilyen bonyolultak legyenek is azok –, valójában nem fog megérteni semmit. Legfeljebb, csak ügyesen úgy tesz, mintha értene valamit. Ennek bizonyítására szolgál az alábbi gondolatkísérlet.

Képzeljük el, hogy kínai tudósok kifejlesztik azt intelligensnek tűnő számítógépes programot, amellyel kínaiul matematikáról, költészetről és az élet értelméről társalognak, és a program meglehetősen kellemes és értelmes beszélgetőpartnernek bizonyul. (A kínaiul való társalgás miatt ezt a gondolatkísérletet a mai napig a kínai szobaként emlegetik.) Searle szerint, a látszat ellenére, a program nem ért semmit, legalábbis abban az értelemben nem, amelyben úgy gondoljuk, hogy értjük, ha magyarul beszélnek hozzánk. Searle, aki egy szót sem tud kínaiul – folytatódik a gondolatkísérlet –, bezáratja magát egy szobába, magával viszi a program kódját – az utasításokat, melyekből a program áll –, és elkezdi ő maga papírral és ceruzával futtatni a programot. Kívülről csupán a számára teljesen értelmetlen kínai szimbólumokat tartalmazó szöveget kapja. Minden egyes szimbólum láttán fellapozza szabálygyűjteményét, és végrehajtja azokat az utasításokat, amelyekkel a gép is értelmezné a szöveget, merevlemez és memória helyett kockás füzetet és hasonlókat használ, de minden tekintetben ugyanúgy jár el, mint a program, így –bár alighanem megőszül, mire pár mondattal végez – ugyanazokat az intelligens válaszokat fogja adni kínai beszélgetőpartnereinek, mint az eredeti program. A kínaiak ismét megállapítják, hogy programot végrehajtó gép – ez esetben Searle –, rendkívül intelligens beszélgetőpartnernek bizonyult, mire Searle előbújik, és (tolmács útján) közli velük, hogy még mindig nem ért egy kukkot sem kínaiul. Röviden: a megértés nem magyarázható utasítások végrehajtásával.


De ne siessünk annyira! Akkor mi mással lenne magyarázható? Azt, hogy valami képes megértésre, nem magyarázhatjuk csupán azzal, hogy van benne valami, ami képes megértésre. Searle, ha kínaiul nem is, de angolul tud. Ezt pedig nem magyarázhatjuk meg azzal, hogy ott ül a fejében egy apró emberke – egy homunkulusz –, aki tud angolul. Az még csak hagyján, hogy belefér-e a homunkulusz Searle fejébe! Az igazi nehézség az, hogy ezzel nem adunk érdemi választ a megértés mikéntjére vonatkozó kérdésre, hiszen egy szinttel odébb újra felmerül ugyanaz a kérdés: és a homunkulusz hogyan érti meg az angolt? Az igazi válaszhoz, úgy sejtjük, egy olyan történetet kell elmondanunk, amelyben önmagukban semmit nem értő tényezők összjátéka hozza létre a megértést. De ha ez így van, akkor miért baj az, hogy a kínaiul társalgó szobában ücsörgő Searle nem tud kínaiul? Nem úgy kell-e inkább Searle-re tekintenünk, mint egy kínaiul tudó rendszer önmagában kínaiul nem tudó részére?

Na mit gondolsz?