Itt az igazi veszély: az MI lassan már a Skynet vagy a Mátrix szintjén tart

Budapest, 2024. október 17., csütörtök - Ellustulnak-e gyerekeink a generatív AI-tól és jelent-e egzisztenciális fenyegetést, hogy evolúcióképes a mesterséges intelligencia? Magától értetődő téma az MI az Infotér Konferencián, idén is több program szólt róla.

Két népszerű véleményt állított szembe az MI-vel kapcsolatban a moderátor, M. Dobos Marianne Az oktatás digitalizációja című panel elején. Az egyik szerint az MI csak minimális szerepet kaphat az iskolában, mert ellustulnak miatta a diákok. A másik szerint megfelelő használatával hatékonyabb lehet az oktatás, a gyerekek gyorsabban kaphatnak komplexebb tudást. A résztvevők különböző álláspontra helyezkedtek. Pölöskei Gáborné, a Kulturális és Innovációs Minisztérium szakképzésért felelős helyettes államtitkára jó lehetőségnek tartja az MI-t, ha mértékkel használjuk. Soltész Attila, az Informatika a Társadalomért Egyesület (INFOTÉR) elnöke is így látja, azt azonban fontos kérdésnek tartja, hogy hosszú távon milyen készségeket fejleszt majd vissza az MI. Dr. Charaf Hassan a Budapesti Műszaki és Gazdaságtudományi Egyetem rektora és Dr. Eigner György, az Óbudai Egyetem Neumann János Informatikai Karának dékánja egyetértettek abban, hogy teljes egészében támogatni kell a lehetőséget, hiszen a való életre kell felkészíteni a diákokat. „Amikor 1996-ban bevezettük a Windows programozást, azt mondták rám, hogy Microsoft-ügynök vagyok – idézett fel egy hasonló helyzetet a rektor. – Akkor is az volt a válaszom, hogy a hallgatót fel kell készíteni arra, mi várja a piacon.” A dékán ehhez hozzáteszi: azt az MI-t kell a kezükbe adni, amit mi tanítottunk felül, nem az általános gpt-t. Szani Ferenc, az INFOTÉR oktatási szakértője szerint akarjuk vagy sem, az MI-t eddig is használtuk és használni is fogjuk. A fiatalokat is ez veszi körül a világban, így helyet kell kapjon az oktatásban is. Egy emlék neki is eszébe jut: gimnazista korában a számológépet irtották tűzzel-vassal a tanórákról… „Azért azt ne felejtsük el, hogy az oktatásban különböző korú gyerekekről beszélünk – figyelmeztetett Pölöskei Gáborné. – A felsőoktatásban szinte már felnőttekről, jó ítélőképességgel, általános iskolában viszont egészen más a helyzet.” Hozzátette: a tanárok jelentős része sem használja a digitális eszközöket, például a nekik készült digitális tananyagot. Az igény és a bátorság még nincs meg ezek használatára. „Örülök, hogy azonosítottuk a problémát: segíteni kell a pedagógusoknak, hát kezdjük el!” Charaf Hassan feltette azt a költői kérdést is, hogy ha egy nemzetközi fórumon mondjuk egy koreai gyerekkel találkozik a diák, miért élje át azt, hogy ő kevesebb tudással rendelkezik. A cél az, hogy kiművelt emberfőket állítsunk elő a társadalomnak. Ha ehhez kell egy eszköz, akkor legyen, ha nem kell eszköz, ne legyen – summázott Szani Ferenc. Egy biztos: abban mindenki egyetértett, hogy tiltani ne tiltsuk az MI-t, mert az visszaüt. A mértékre azonban mindig érdemes odafigyelni. EVOLÚCIÓ ÉS ÖNÖS ÉRDEK AZ MI VILÁGÁBAN A mesterséges intelligencia esetében persze több kritikus bizonytalanság is van. Az MI-vel szemben hozott biztonsági intézkedések két okból is elégtelennek bizonyulhatnak. Egyrészt gyorsan mozgó célpontra irányul a szabályozás, és a domináns szereplők nem mutatnak hajlandóságot az együttműködésre, másrészt nagyrészt figyelmen kívül hagyjuk az MI evolúcióképes ágenseinek lehetséges megjelenését. Az ugrás a kibertérben, radar alatt akár már meg is történhetett a mi tudtunk nélkül. Az Infotér Konferencia izgalmas felvetést tett, amikor meghívta Szathmáry Eörs nemzetközi hírű evolúcióbiológust, a Magyar Tudományos Akadémia Fenntartható Fejlődés Elnöki Bizottság elnökét, hogy beszéljen arról, mennyiben egyezik meg a bioszféra elképesztő sokszínűségével a fejlődő MI ágensek sokfélesége. A csatát ugyanis könnyen elveszíthetjük, tekintettel arra, hogy a biológiához képest villámgyors az MI evolúciója. „A természetes szelekció általi evolúció során azok az egyedek szaporodnak el, amelyek rátermettsége a legjobb” – kezdte előadását egy általános ismertetővel, majd figyelmeztetett: azt, hogy a mesterséges intelligencia tudatos lesz-e, szinte álproblémának tartja. Nem attól kell félni, aminek tudata van, mert abszolút független ettől, hogy valami evolúcióra képes-e vagy sem. „Egy tudat nélküli rendszer egy nálánál sokkal bonyolultabb intelligens rendszert is ki tud használni a saját reprodukciója érdekében. Ahol a darwini dinamika megjelenik, ott érvényre jut az önérdek is! Ez az igazi veszély, mert ha az MI evolvábilisabbá válik, és nem mi szelektáljuk, hanem a kibertérben szelektálódik, az nem biztos, hogy egybeesik majd a mi érdekeinkkel.” Szathmáry Eörs szerint jelenleg minden komponens rendelkezésre áll ahhoz, hogy ez megtörténjen. Márpedig ami technológiailag lehetséges, azt valaki – akár rossz, akár jó szándékból – meg fogja valósítani. Az MI ugyanis már szoftvert is képes írni, vagyis vírust is képes létrehozni. „Egy önmásoló számítógépes program, amely tudja, hogy ki akarják törölni, és hasznot húz ebből, mindannyiunkat meg kell ijesszen!” Hogy mit lehet ez ellen tenni? Szathmáry szerint sterilizálni kell az MI-t, vagyis nem engedélyezni számára a teljesen autonóm reprodukciót. Továbbá az egyes MI-ket monitorozó kutatóintézetek létrehozását ösztönözné, amelyek nem nagyvállalatok mellékágai, hanem független, adott esetben a civil szférából érkező szereplők. Kiadó: INFOTÉR Nonprofit Kft. A Nemzeti Közleménytár oldalán található közlemények nem képezik az MTI hírkiadás részét, az MTI által szó szerint továbbított tartalomért minden esetben a közlemény beadója a felelős. A közlemények forrásmegjelöléssel (NKT) szabadon és korlátozás nélkül felhasználhatók. Az NKT szolgáltatással kapcsolatban további információt az nkt@dunamsz.hu elektronikus levelező címen kaphat.