Az elmúlt időszakban egyre többen beszélnek a mesterséges intelligenciáról úgy, mintha egyértelműen csak jó irányba haladnánk. Mintha minden fejlődés automatikusan előrelépés lenne. Én ezt nem látom ilyen egyszerűnek.
Nem, nem arról beszélek, mint az 1991-es Terminator 2 című filmben, ahol a gépek átveszik az uralmat az emberiség felett. A probléma szerintem sokkal hétköznapibb, és pont ezért veszélyesebb: a felelőtlen MI-használat már most túl nagy teret kap.
Egyre többen gondolják azt, hogy az MI rövid időn belül emberek tömegeinek munkáját fogja kiváltani. Vannak, akik már most erre építenek üzletet, kommunikációt, marketinget vagy akár teljes rendszereket. A gond nem az, hogy valaki használja az MI-t. A gond az, amikor úgy használja, hogy nem érti, mit csinál, nem tudja ellenőrizni az eredményt, és nem vállalja a következményeket.
Miért tartom ezt veszélyes iránynak?
Gazdasági szempontból érdemes feltenni a kérdést: hova jutna a világ, ha emberek millióinak szűnne meg a munkahelye rövid idő alatt? Természetesen a technológiai fejlődés mindig átalakította a munkaerőpiacot, de nem lehet mindenki „MI-manager”, prompt szakértő vagy automatizálási tanácsadó. Egy társadalom nem működhet úgy, hogy tömegek maradnak stabil megélhetés nélkül, miközben néhány szereplő a költségcsökkentés nevében mindent automatizálni akar.
A másik komoly probléma a felelősség kérdése. Amíg az MI ugyanúgy tud hibázni, mint egy ember — sőt, bizonyos helyzetekben akár nagyobbat is —, addig nem lehet úgy kezelni, mintha tévedhetetlen munkaerő lenne. Ha egy munkavállaló hibázik, annak van felelőse. Ha egy vállalkozás hibázik, annak van következménye. De ha egy MI hibázik, akkor ki vállalja a felelősséget? A szolgáltató? A felhasználó? A cégvezető? A fejlesztő? Vagy senki?
Ez az egyik legnagyobb probléma. Amíg erre nincs egyértelmű válasz, addig nagyon óvatosan kellene bánni azzal, hogy az MI-t emberek munkájának teljes kiváltására használjuk.
Vannak területek, ahol korlátokra van szükség
Különösen veszélyesnek tartom azokat a területeket, ahol az MI által készített képek, videók vagy hanganyagok akár büntetőjogi, erkölcsi vagy társadalmi kockázatot is jelenthetnek. Ma már olyan tartalmak készíthetők, amelyek első ránézésre valódinak tűnnek, miközben teljesen mesterségesek.
Itt eszembe jut „A farkast kiáltó fiú” tanmeséje. Ha túl sok hamis tartalom jelenik meg, egy idő után az emberek a valós bizonyítékokban sem fognak hinni. Ez pedig nagyon veszélyes irány. Nemcsak a technológia miatt, hanem azért is, mert a bizalom az egyik legfontosabb társadalmi alap.
Nem az MI ellen vagyok
Fontos tisztázni: nem vagyok a mesterséges intelligencia használata ellen. Sőt, én magam is több mint egy éve szinte napi szinten használok MI-eszközöket a munkámhoz. Kipróbáltam több különböző nyelvi modellt is, fizetős rendszereket is, és pontosan ezért látom a lehetőségeit és a korlátait is.
Az MI sokat fejlődött, és rengeteg szakmában valóban hasznos segítség lehet. Gyorsíthat munkafolyamatokat, ötleteket adhat, segíthet szövegírásban, fejlesztésben, kutatásban, rendszerezésben vagy akár ügyféltámogatásban is.
De van egy nagyon fontos határ: az MI segítse a munkát, ne vakon helyettesítse az emberi szakértelmet.
Az irányításnak továbbra is az ember kezében kell maradnia. Ha valaki nem érti a saját szakmáját, nem látja át a munkafolyamatokat, és csak vakon dolgoztatja az MI-t, abból nagyon komoly problémák lehetnek. Egy hibás döntés, egy rosszul megírt kód, egy téves jogi vagy pénzügyi következtetés, egy félrevezető tartalom mind kárt okozhat.
És ilyenkor nem lehet majd annyit mondani: „Ezt az MI írta.”
A felelősség a felhasználóé marad.
Mi történik, ha valaki olyasmire épít, amit nem ért?
Képzeljük el, hogy valaki soha nem dolgozott informatikában, programozásban vagy webfejlesztésben, mégis agentek és MI-eszközök segítségével felépít egy nagyobb rendszert. Elsőre működik. Látványos. Gyors. Olcsóbbnak tűnik.
De mi történik akkor, ha a nyelvi modellek szolgáltatói később megemelik az árakat? Mi történik, ha az adott rendszer működése drágává válik? Mi történik, ha egy frissítés után már nem úgy működik, mint korábban? Vagy ha hiba keletkezik, adatvesztés történik, biztonsági rés marad benne, esetleg ügyfeleknek okoz kárt?
Akkor már nem lehet arra hivatkozni, hogy „én nem értek hozzá”. Ha valaki egy rendszert üzemeltet, szolgáltatást ad el, ügyféladatokat kezel vagy pénzügyi folyamatokat működtet, akkor felelőssége is van.
Az MI nem mentesít a szakmai tudás alól.
Felelőtlen kommunikáció: „pár év, és megszűnik a szakmád”
Ami különösen zavaró, hogy rengeteg olyan videót, posztot és reklámot látni, ahol egyes modelleket úgy mutatnak be, mintha néhány éven belül szakmák tömegei szűnnének meg. „Vége a grafikusoknak.” „Vége a programozóknak.” „Vége a szövegíróknak.” „Vége az ügyfélszolgálatosoknak.”
Ez szerintem nem előremutató gondolkodás, hanem felelőtlen riogatás.
Fejlődni kell. Tanulni kell. Haladni kell a technológiával. De szakmákat lenézni, emberek munkáját leértékelni, és félelemre építve reklámozni egy eszközt: ostobaság.
A jó irány szerintem az lenne, ha az MI-re nem fenyegetésként, hanem segítségként tekintenénk. Nem azzal kellene riogatni az embereket, hogy elveszi a munkájukat, hanem meg kellene tanítani őket arra, hogyan tudják biztonságosan, felelősen és értelmesen használni.
Szükség van oktatásra és korlátokra
Támogatom, hogy az emberek tanulják meg az MI használatát. Aki nyitott rá, annak igenis érdemes megmutatni, hogyan lehet vele hatékonyabban dolgozni. De ezt nem lehet korlátok nélkül kezelni.
Kellenek szabályok. Kellenek felelősségi keretek. Kellenek szakmai és jogi határok. Különösen olyan területeken, ahol emberek megélhetése, adatai, jó hírneve, biztonsága vagy jogai sérülhetnek.
A mesterséges intelligencia nem játék. Hasznos eszköz lehet, de csak akkor, ha felelősen használjuk.
Egy személyes történet
Zárásként leírok egy velem megtörtént esetet, ami jól mutatja, miért nem szabad vakon hinni egy MI válaszainak.
Egyik nap a Google keresőben a Gemini egyik modelljével beszélgettem. Teszteltem, kérdezgettem, és több hibás válasz után számon kértem rajta a pontatlanságokat. Egy ponton azt írta magáról, hogy ő nem a Google terméke, nincs köze a Google-höz, nem Gemini, hanem OpenAI-modell.
Ez azért volt különös, mert a Google saját rendszereiről volt szó. Ezután megkérdeztem, hogy a Google használja-e a ChatGPT-t. Ekkor már azt válaszolta, hogy nem, a Google a Gemini modellt használja, az OpenAI pedig a ChatGPT-t.
Amikor szembesítettem azzal, amit korábban írt, elkezdte magyarázni a helyzetet. Jeleztem neki, hogy amit írt, az félrevezető volt, és különösen érdekes, hogy több hibázás után OpenAI-modellként mutatkozott be. Ez akár félreérthető vagy kellemetlen üzenetet is hordozhatna.
Megkérdeztem, milyen tájékoztatást adhatnék erről a két érintett félnek. Olyan válaszokat adott, amelyekből akár komolyabb félreértés is lehetett volna. Végül inkább nem mentem bele mélyebben.
A legérdekesebb rész ezután következett: pár perccel később a beszélgetésnek pont az a része, ahol azt írta magáról, hogy OpenAI-modell, technikai hibára hivatkozva nem volt elérhető. Nem az egész beszélgetés, csak az a rész. Körülbelül fél óra múlva ismét elérhetővé vált.
Hogy ez véletlen volt vagy sem, azt mindenki döntse el maga. Én nem állítok semmit biztosan. De a jelenség mindenképpen érdekes volt, és számomra ismét megerősítette: az MI válaszait nem szabad kritikátlanul elfogadni.
Összegzés
A mesterséges intelligencia hatalmas lehetőség. Segíthet gyorsabban dolgozni, rendszerezni, ötletelni, fejleszteni és tanulni. De közben hatalmas felelősség is.
Nem az a kérdés, hogy használjuk-e az MI-t. Szerintem használjuk. A kérdés az, hogyan.
Segédeszközként? Tudatosan? Ellenőrizve? Felelősséggel?
Vagy vakon, szakértelem nélkül, kizárólag költségcsökkentésre és emberek kiváltására?
Én az első irányban hiszek.
Az MI nem helyettesítheti a gondolkodást. Nem válthatja ki a szakmai felelősséget. Nem lehet mentség a hibákra. Használni kell, de nem szabad kritikátlanul hinni benne.
A jövő nem attól lesz jobb, hogy mindent automatizálunk. Hanem attól, hogy az új technológiákat emberi ésszel, szakmai alázattal és felelősséggel használjuk.