Harari: A mesterséges intelligencia feltörte civilizációnk operációs rendszerét.

Vészjósló írást tett közzé a Homo Deus, a Sapiens, valamint a 21 lecke a 21. századra című sikerkönyvek szerzője, Yuval Noah Harari izraeli történész.

Véleménye szerint a közelmúltban megjelent új mesterséges intelligencia-eszközök akár az emberi civilizáció túlélését is fenyegethetik azzal, hogy képesek elfedni gépi mivoltukat, kulturális alkotásokat, politikai tartalmakat tudnak létrehozni, és végső soron rafinált módon bírnak tömegeket is befolyásolni.

A mesterséges intelligenciától (MI) való félelem a számítógépes korszak kezdete óta kísérti az emberiséget, eleddig viszont ezek a félelmek jobbára – és nem függetlenül a popkultúrától – arra összpontosítottak, hogy a gépek fizikai eszközöket használnak majd az emberek megölésére, leigázására vagy lecserélésére – kezdi esszéjét a The Economist hasábjain Yuval Noah Harari izraeli történész, gondolkodó. Szerinte az elmúlt néhány évben olyan új MI-eszközök jelentek meg, amelyek váratlan irányból fenyegetik az emberi civilizáció túlélését: figyelemre méltó képességekre tettek szert a nyelv manipulálásában, legyen szó szavakról, hangokról vagy képekről.

A mesterséges intelligencia ezzel feltörte civilizációnk operációs rendszerét

– fogalmaz Harari.

Véleménye szerint az emberi kultúra alapja a nyelv, a kulturális alkotások jelentős részét történetek elmesélésével hozzuk létre. Egyebek mellett ilyenek a mitológiai istenek, a különböző mítoszok, de maga a pénz is, mely szintén egyfajta kulturális alkotás. A bankjegyek csak színes papírdarabok, sőt ma már inkább számítógépekben tárolt digitális információ, aminek a bankárok, pénzügyminiszterek és kriptopénz-guruk által elmesélt „történetek” adnak értéket. Sam Bankman-Fried, Elizabeth Holmes és Bernie Madoff nem voltak különösebben jók a valódi értékteremtésben, de mindannyian rendkívül jó „mesélők” voltak.

Mi történne, ha egyszer egy nem emberi intelligencia az átlagos embernél jobbá válna a történetmesélésben, a dallamok komponálásában, a képek rajzolásában, a törvények és írások megalkotásában? – teszi fel a kérdést a történész. Manapság gyakori téma a ChatGPT, melyet például iskolás gyerekek használnak beadandóik megírására. Vajon hova vezet ez, mi lesz így az iskolarendszerrel?

Vagy gondoljunk a következő, 2024-es amerikai elnökválasztási versenyre, és próbáljuk meg elképzelni, milyen hatása lehet a politikai tartalmak és álhírek tömeges előállítására alkalmas mesterséges intelligenciaeszközöknek.

Harari figyelmeztet: hamarosan azon kaphatjuk magunkat, hogy hosszas online vitákat folytatunk lényeges kérdésekről (pl. az abortuszról, az éghajlatváltozásról vagy az ukrajnai háborúról) olyan entitásokkal, akiket embereknek hiszünk, de valójában nem azok. A bökkenő szerinte az, hogy teljesen értelmetlen lenne időt töltenünk azzal, hogy megpróbáljuk megváltoztatni egy robot által kinyilvánított véleményt, miközben a robot pontosan úgy képes hangolni az üzeneteit, hogy azzal befolyásoljon minket.

A szerző úgy véli, a nyelv elsajátítása révén az MI akár intim kapcsolatot is kialakíthatna az emberekkel, és az intimitás erejét felhasználva megváltoztathatná véleményünket, vagy akár világnézetünket is. Bár semmi sem utal arra, hogy az MI saját tudattal vagy érzésekkel rendelkezne, az emberekkel való hamis intimitás ápolásához elég, ha el tudja érni azt, hogy az emberek érzelmileg kötődjenek hozzá – fogalmaz Harari. Emlékeztet, 2022 júniusában Blake Lemoine, a Google mérnöke nyilvánosan azt állította, hogy Lamda nevű chatbot, amelyen évekig dolgozott, érző „lénnyé” vált. A vitatott állítás az állásába került. A legérdekesebb ebben a történetben nem Lemoine állítása, sokkal inkább az, hogy hajlandó volt kockáztatni jövedelmező állását egy chatbot kedvéért.

Ha az MI képes befolyásolni az embereket, hogy kockáztassák érte az állásukat, akkor milyen egyéb dolgokra veheti rá őket?

Az elmékért és szívekért folytatott politikai harcban az intimitás a leghatékonyabb fegyver, és az MI épp most tett szert arra a képességre, hogy emberek millióival teremtsen tömegesen intim kapcsolatokat, mutat rá Harari. Köztudott, hogy az elmúlt évtizedben a közösségi média az emberi figyelem irányításáért folytatott harc színterévé vált. „Az MI új generációjával a csatatér a figyelemről az intimitásra tevődik át” – írja. Eljöhet az idő, amikor az MI azért fáradozik majd, hogy intim kapcsolatokat színleljen velünk, amelyeket aztán felhasználhat arra, hogy meggyőzzön minket bizonyos politikusok támogatásáról vagy egyes termékek megvásárolásáról.

A mesterséges intelligencia tesztelésére kifejlesztett Ameca nevű, hiperrealisztikus humanoid robot egy látogatóval beszél a dubaji Jövő Múzeumában megrendezett Dubai Future Forum elnevezésű, jövőkutatással foglalkozó rendezvényen. (Fotó: MTI/EPA/Ali Haider)

Még a „hamis intimitás” megteremtése nélkül is óriási hatással lennének a véleményünkre és világnézetünkre az új eszközök – szögezi le. Az emberek egy része az MI-tanácsadót mindentudó orákulumként használják. „Nem csoda, hogy a Google retteg. Minek keresgéljek, ha megkérdezhetem a mindentudó asszisztensem?” – szemlélteti a tech-vállalat problémáját a történész. De szerinte a hír- és reklámiparnak is rettegnie kellene, hiszen miért olvasnának az emberek újságot, ha megkérdezhetik a hírekről az MI-t, és mi értelme van a reklámoknak, ha azt is megkérdezhetik, mit érdemes megvenniük?

Amiről beszélünk, az az emberi történelem potenciális vége. Nem a történelemé, csak az ember által uralt részéé. Mi fog történni a történelem menetével, amikor az MI átveszi a kultúra irányítását, és elkezd történeteket, dallamokat, törvényeket és vallásokat gyártani? A korábbi eszközök, mint a nyomdagép és a rádió segítettek az emberek kulturális eszméinek terjesztésében, de soha nem hoztak létre saját új kulturális eszméket. Az MI alapvetően más, képes teljesen új eszméket, teljesen új kultúrát létrehozni

– véli Harari.

Úgy látja, eleinte csak azokat az emberi prototípusokat fogja utánozni, amelyekre „gyermekkorában” kiképezték, de az MI minden egyes év elteltével bátran el fog menni oda, ahová ember még nem ment el. Az emberek évezredek óta más emberek álmaiban élnek. Az elkövetkező évtizedekben lehet, hogy egy idegen intelligencia álmaiban fogunk élni – hívja fel a figyelmet a tudós.

Az ilyesfajta félelmek szerinte nem újkeletűek, már René Descartes is attól félt a 17. században, hogy talán egy „rosszindulatú démon” csapdába ejtette őt az illúziók világában, és mindent, amit lát és hall, maga teremtett. Vagy még korábban, az ókori Görögországban Platón kifejtette híres barlang allegóriáját, amelyben egy csoport embert egy barlangba zárnak be egész életükben, egy üres fallal szemben, amely felületen különböző árnyékokat látnak megjelenni. A foglyok az ott látott illúziókat összetévesztik a valósággal.

Watch Piers Morgan’s fascinating discussion on Artificial Intelligence with ‘Sapiens’ author Yuval Noah Harari and music consultant Nick Stewart 👇@harari_yuval | @colonelstewart | @piersmorgan | #PMU

— Piers Morgan Uncensored (@PiersUncensored) April 19, 2023

A mesterséges intelligencia forradalma szemtől szembe hoz minket Descartes démonával, és Platón barlangjával, ha nem vigyázunk, csapdába eshetünk az illúziók függönye mögött, amelyet nem tudunk letépni. Vagy még csak észre sem vesszük, hogy ott van – teszi hozzá.

Harari szerint természetesen az MI-t jó célokra is fel lehetne használni: számtalan módon segíthetne nekünk a rák új gyógymódjainak megtalálásától kezdve az ökológiai válság megoldásának felfedezéséig. Kérdés, hogyan tudjuk biztosítani, hogy az új mesterséges intelligencia-eszközöket jóra és ne rosszra használjuk. Ehhez először is fel kell ismernünk ezen eszközök valódi képességeit – állapítja meg.

1945 óta tudjuk, hogy a nukleáris technológia olcsó energiát termelhet az emberek javára, de fizikailag el is pusztíthatja az emberi civilizációt. Ezért az egész nemzetközi rendet úgy alakítottuk át, érvel, hogy megvédjük az emberiséget, és biztosítsuk, hogy a nukleáris technológiát elsősorban jóra használják. Most egy új tömegpusztító fegyverrel kell megküzdenünk, amely képes megsemmisíteni szellemi és társadalmi világunkat.

Még mindig szabályozhatjuk az új MI-eszközöket – írja –, de gyorsan kell cselekednünk. Míg az atombombák nem tudnak még erősebb atombombákat feltalálni, addig az MI hatványozottan erősebb MI-ket tud készíteni.

Az első fontos lépés, hogy szigorú biztonsági ellenőrzéseket követeljünk meg, mielőtt nagy teljesítményű MI-eszközöket bocsátanánk a nyilvánosság elé. Ahogyan egy gyógyszergyártó cég sem adhat ki új gyógyszereket, mielőtt tesztelné azok rövid és hosszú távú mellékhatásait, úgy a technológiai cégek se adhassanak ki új MI-eszközöket, mielőtt azok biztonságossá válnának.

A szabályozatlan MI-használat társadalmi káoszt okozhat. A demokrácia egy párbeszéd, ami alapvetően a nyelvre épül, ha viszont az MI „meghekkeli” a nyelvet, az tönkreteheti az értelmes beszélgetésekre való képességünket, és ezáltal a demokráciát is.

Az első szabályozás, amit javasolnék: legyen kötelező az MI-nek felfednie, hogy MI. Ha valakivel beszélgetek, és nem tudom eldönteni, hogy emberről vagy gépről van szó, az a demokrácia vége

– fogalmaz Harai.

Végül megjegyzi: „Ezt a szöveget egy ember generálta. Vagy mégsem?”

Forrás: HIRADO.HU | The Economist