Lehet MI-t tanítani, de ahhoz magunkról kell tanulni

2022. január 3. hétfő, 11:20
Tele van az internet olyan hírekkel, hogy az MI valamit csinált vagy megtanult, készül arra, hogy átvegye a munkánkat vagy talán már át is vette. De mi is az igazság? Mi az a mesterséges intelligencia, sőt, mi az intelligencia maga? Szabados Leventével, a Neuron Solutions vezető szakértőjével és a Frankfurt School of Finance and Management docensével beszélgettünk.

Twitter megosztás
Cikk nyomtatása

- Infotér: A napokban kitöltöttem egy mennyit tud ön az MI-ről tesztet, ami mutatta azt is, hogy más kitöltők mennyire találták el a jó választ. Az volt a feltűnő, hogy az emberek önálló cselekvést, az érzelmek megértését és többcélúságot várnak az MI-től. Szóval olyasminek gondolják, mint a sci-fi filmek robotjait.

- Szabados Levente, docens, Neuron Solutions (http://neuronsolutions.hu): Abszolút, és azért, mert az intelligencia fogalmához sokaknál nem társul a világkép, amit leginkább kognitivizmusnak nevezhetnénk. Az embereknek általában nincs tudatosságuk arról, ahogy mi magunk kognitív értelemben tervezünk vagy döntéseket automatizálunk. Ezekből többnyire sem a döntés, sem az automatizáció kifejezés sem mond semmit. Pedig a fő kérdés, hogy egy cselekvéshez szükségünk van valamiféle becslésre, hogy az adott cselekedet mit fog okozni a világban. Ehhez szükségünk van egy világmodellre és előre kell jósolni, hogy mik lesznek tettünk következményei.

Erről ilyen absztraktul nem szokás gondolkodni, pedig ez az informatika magja is, az is döntésekről és automatizációról szól. Döntéseinket egyrészről meghozhatjuk tudásra alapozva, másrészről tanulásra alapozva. Ezzel az absztrakcióval szemben a közkeletű elképzelésekben az intelligencia mindig robotszerű testet öltött: beszélünk neki, interakcióba keveredünk vele. Ez nem csak azért van így mert az emberek sok sci-fit néznek, hanem azért is, mert fogalmuk sincs, hogy mi az intelligencia. Részben jogosan, mert a tudománynak sincs minden esetben, de még mindig több fogalma van róla, mint amit a naiv elképzelések mutatnak.

- Infotér: Van már jó intelligencia definíciónk? Mi az?

- Szabados Levente: Én azt gondolom, hogy az intelligencia az valamilyen adott kontextusban jól beváló cselekvés vagy megismerés. Tehát az intelligencia maximalizálja azt, hogy az adott kontextusban a magad számára hasznosan cselekedj.

- Infotér: Ez így még nehezen megfogható a hétköznapokban talán. Az emberek ráadásul az IQ kapcsán kerülnek kapcsolatba az intelligencia fogalmával.

- Szabados Levente: Ott általában az okosságra asszociálnak. Ez igencsak elterjedt. Régen a szakértői rendszerek vagy a „gépi tudás” sztori is azt sugallta, hogy „okos vagy fiam, sokat tudsz". Sokáig ez volt az alap paradigma, hogy nagy tudásrendszereket kezelünk, tudásbázist építünk, leképezzük a tudást, Wikipédiát írunk meg szemantikus webet készítünk.

Az oka is egyértelmű, ezt könnyű mérni. Az a fajta képesség, hogy tudod-e ki volt Petőfi Sándor, az könnyen tesztelhető. Az a képesség, hogy mennyi idő alatt sajátítasz el egy új tudást, az viszont nehezen mérhető. Pedig az intelligenciának van egy tanulási aspektusa, a gépi tanulás is ebbe az irányba indul. Képes vagy-e kitalálni, kevés jelből kiegészíteni valamilyen képet? Ez a feladat. Az IQ tesztek ilyen vizuálisan egészítse ki feladatokkal is méricskélnek, jobb ötlet híján.

- Infotér: Az szól mellette, hogy ez a merre mozog a négyzethálóban a fekete pötty meg a plusz jel típusú feladat nem kultúrafüggő, nem?

- Szabados Levente: Még a vizuális jellegű IQ-teszteket is kritizálják sokan, mivel valamennyire kultúrafüggőek. Az a kulturális kondicionálástól függ, hogy mennyire vagyunk hajlandóak az absztrakt jeleket absztrakt jeleknek venni. Szóval, hogy fekete pöttyöt és plusz jelet látnak-e a képben, ami egy fogalom absztrakciója, egy logikai feladvány, vagy valamit belelátnak a kép egészébe, mint a tájképbe.

- Infotér: Menjünk tovább a robot téma mentén. Mert az említett teszt az önálló cselekvést is feltételezte. Ez gyanúsan ismerős, ha máshonnan nem, akkor a Frankensteinből és az összes arra épülő a teremtmény és a mester viszonyát boncolgató műből.

- Szabados Levente: Sok mindenre van szükség ahhoz, hogy bármilyen mesterséges intelligencia cselekedni tudjon. A gemkapocs maximalizálós gondolatkísérletben minden cselekvés meg van engedve az ágensnek, amit nagyon nehéz megcsinálni. A jelenleg ismert technológia határa az, hogy a rendszer számára elérhetővé kell tenni a konkrét kontroll lehetőségeket. Képzeld el úgy, mintha egy ugrálós játékot kellene játszani, de ehhez valakinek a kezedbe kell adni a kontrollert. Anélkül nem tudsz játszani, hogy odaadja az irányítót és ne lenne rajta jobbra, balra meg ugrás gomb.

Közkeletű tévedés, hogy ágenciát, cselekvésre való képességet tulajdonítanak a mesterséges intelligencia rendszereknek. A kettő között nem sok összefüggés van. Az intelligencia ilyen szempontból passzív képesség. De baromira rettegünk ettől mert mi egy alapvetően már operáló lényből indulunk ki. Nagyon erős előítéleteket támaszt bennünk az intelligencia tekintetében az, hogy az egyetlen általunk ismert általános intelligencia az szomorú módon mi magunk vagyunk.

- Infotér: Nincs ezzel kapcsolatban egy olyan problémánk, hogy a Drake-egyenlet megmondja egy másik értelmes életforma létezésének esélyét, de a változók egy részét megközelítőleg sem tudjuk megmondani?

- Szabados Levente: Biztos, hogy van másik. Az, hogy operatíve létezik-e most, az mindegy, de annak a lehetősége, hogy legyen „más megoldás”, az garantált. A problémák alul determináltak, és van egy olyan elmélet, ami szerint nincs ingyen ebéd, ezért biztosak lehetünk abban, hogy nincs olyan modell, ami minden tekintetben optimális. Magyarul igen valószínű, hogy van többféle megközelítés, ezek egyike vagyunk mi.

- Infotér: Megint a kérdés filozófiai oldalán találjuk magunkat. Hol gondolkodunk hibásan? Mi, mármint a feltételezett közember, aki olvassa az MI-híreket a neten.

- Szabados Levente: Az általános rettegés tárgya, ha nem egy nagy, szép, megismerhető univerzumból indulsz el. Az akadályozza az embereket, hogy a posztmodern nem érintette meg őket. Nem képesek egy nyitott és alul determinált világban létezni. Hinniük kell abban, hogy van egy egyszerű helyes válasz, különben szorongani fognak.

- Infotér: Ugyanakkor vannak kérdések, amiknek egy helyes válasza van. Például, hogy a velem szemközt álló bármely kisebbséghez tartozó ember is embernek számít-e.

- Szabados Levente: Én nem a helyest használnám, hanem az elfogadhatót. De innentől kezdve nincs köztünk vita. Azért kötöm az ebet a karóhoz azzal, hogy mi vállalható és mi nem, mert azt gondolom, hogy a végén ott az egyéni ágencia. Tehát nekem megúszós, gyáva megállapítás az, hogy ez az egyetlen helyes válasz. Ennél bátrabb, hogy minden helyzetben ezt fogom választani. Én merő autonómiából választom ezt, átvágom a csomót, és vállalom a döntésemet, aminek lehet, hogy nincs racionális támasztéka, mert egy értékválasztás. Tegyük hozzá, egy klasszikus liberális demokrácia abból indul ki, hogy mindenki megtette az értékválasztásait.

- Infotér: Pedig ez a helyességkultusz mélyen gyökerezik. Akkor nincs egy helyes szakértői álláspont sem?

- Szabados Levente: Ezt egy modernista megközelítés, a helyesség kultusza. Kitűnően lehet belőle például világháborút csinálni, az előző században sikerült is kétszer.

Ha vissza akarunk evezni innen MI-területre, akkor tegyük hozzá, hogy egy MI rendszernél is fontos, hogy hogyan fogalmazunk. Nem az a kérdés, hogy tudja-e vagy nem tudja, hanem hogy milyen bizonyossággal. Ami 99 százalékban jó, az egy százalékban nem jó.

- Infotér: Ezen akadunk most fel a vírus és az oltások kapcsán.

- Szabados Levente: Igen! Egy probabilisztikus történetet képtelenek vagyunk kezelni, mert az már szorongást okoz. Igényünk van a kognitív lezárásra.

- Infotér: Lépjünk még eggyel tovább az MI-vel kapcsolatos elvárások listáján. Szakértelmet is várunk tőle.

- Szabados Levente: Ettől a terület soha nem volt mentes. Fel kell tegyük a kérdést, hogy miért gondoljuk azt, hogy a komplex szakértői tudást nehéz modellezni, a hétköznapi ismereteket meg könnyebb. Aztán rá kellett jönnünk, hogy a két adatot leíró differenciálegyenletet egyszerűbb matematikai módon leírni és automatizálni, mit azt, hogy anyám miért néz ki árnyékban ugyanúgy, mint jól megvilágítva. Sokkal jobb apparátusunk van arra, hogy az egyetemi, szakértői tudást modellezzük. Belevetítés volt, hogy az okosságot nehezebb gépivé tenni.

Magyarország egy „Rousseau - Petőfi Sándor” irányba mozog kulturálisan. Az „élet iskoláját” elvégzett praktikus bölcs allergiás mindenre, ami komplex, mert a dolgoknak egyszerűnek kell lenniük, és az áldott anyatermészet majd megmond mindent. Ez egy felvilágosodás kontra romantika ellentét. Evvel szemben állnak a technokraták, és a szakértő kultusza, végül pedig az 1968-as anarchisták, akik szerint mindenkinek igaza van.

- Infotér: Megvan, hogy hol csúsztunk el. Ha jól értem, mindenhol. De hogyan mászunk ki ebből. Lehet MI-t oktatni az iskolában?

- Szabados Levente: Én azt gondolom, hogy lehet. Úgy lehet, hogy tapasztalatot adunk arról, ahogy egy gépi tanulási módszer működik. Példát mutatsz, megnézitek, hogyan hibázik. Személyes tapasztalatból kell kiindulni és utána ezt megbeszélni a hallgatóval, hogy amikor ő tudást épít, akkor az hogyan működik. Egy élményből tudod megérteni a saját intelligenciádat, nem pedig fordítva. Képtelenség az intelligencia fogalmából levezetni dolgokat, mert az emberek ledobják a gépszíjat az absztrakció miatt.

A Google-nek van egy csomó ilyen kipróbálható kísérlete, Experiments with Google néven futnak. Látványos, előre csomagolt, nyomkodható cuccok, ezzel így a tanárnak sincs sok dolga.(https://experiments.withgoogle.com)

- Infotér: Annak idején az első hardveres ilyen Google kísérlet járt a kezemben. Háromszor raktam össze a vasat és a szoftvert, háromszor nem működött.

- Szabados Levente: Hát igen, meg az eleve sok esetben el is terel, mert megint egy bigyóról beszélünk a szoftver helyett. Azért nem szeretem, hogy hardverekkel demonstráljuk az MI-t, mert ez megerősíti azt, hogy az MI az egy gép. Iszonyúan kötődik a fizikai világhoz mindenki. Szeretnék megfogni azt MI-t. Vagy ha azt nem is, de a legkönnyebben a fizikai világhoz közeli részeit tudják megérteni: képfelismerő, hangfelismerő. Ott veszítesz el mindenkit, ha ezt úgy magyarázod, hogy a percepció az mérés, és egy táblázatból kinyert adatból dolgozni vagy bemenő pixelekből dolgozni, az ugyanaz. Pedig technikailag ez történik az MI-ben.

Ha megnézed, akkor 2012 óta a legnagyobb előrelépés a percepciós területen volt. Előtte a nagy tudást igénylő szakértői döntéshozatalt támadta az MI-kutatás, és hatalmas szabálygépek, tudásbázisok, atomerőmű irányítását végző rendszerek készültek. Mára a percepciós terület vált az elsődlegessé. A telepített MI megoldások nagy része is ilyen.