A magyarok többsége szerint valós veszély, hogy az AI kiirtja az emberiséget
A magyarok 58 százaléka valószínűnek tartja, hogy a fejlett mesterséges intelligencia a jövőben az emberiség kihalását vagy más, rendkívül súlyos és tartós kárt okoz. A megkérdezettek 23 százaléka szerint nagyon, 35 százaléka szerint inkább valószínű ez a forgatókönyv, és csak 13 százalék zárja ki a lehetőséget – derül ki a 21 Kutatóközpont felméréséből.
A felmérés azután készült, hogy Jacob Coxon, a Claude chatbotot készítő Anthropic kutatója otthagyta a céget, és nyilvánosan arra figyelmeztetett: az AI-cégek vezetői nem tudják kellően kontrollálni a technológiájukat, ami az emberiség kihalásához is vezethet. Coxon szerint ez a vélemény általános az AI-cégek alkalmazottainak körében. Figyelmeztetéséhez több kutatótársa csatlakozott: Evan Hubinger, az Anthropic egyik vezető AI-biztonsági felelőse úgy fogalmazott: „Jacobnak igaza van ebben – tényleg, teljes komolysággal úgy gondoljuk, hogy az AI akár az összes embert megölheti. Én személy szerint több mint 10 százalék esélyt adok ennek a következő tíz évben.”
A kutatás szerint a magyarok 86 százaléka hallott a figyelmeztetésről. Még nagyobb az aggodalom amiatt, hogy az AI rossz kezekbe kerülve súlyos katasztrófákhoz vezethet: a megkérdezettek 79 százaléka tart valószínűnek ilyen forgatókönyvet, csak 4 százaléka tartja kizártnak.
Az Anthropic nemrég arról számolt be: már nem tudják kizárni, hogy legfejlettebb modelljei érdemi segítséget nyújthatnak biológiai fegyverek előállításához, ezért külön korlátokat építettek a rendszerbe. Idén szeptemberben a cég több olyan esetről számolt be, amelyben kutatók a Claude-ot potenciálisan biológiai fegyverek fejlesztését segítő munkához használták.
Bár a mesterséges intelligencia fejlesztésének számos előnye lehet például az orvostudományban, a magyarok 51 százaléka inkább leállítaná a továbbfejlesztést, mert a lehetséges kockázatok nagyobbak az előnyöknél; 40 százalék folytatná a fejlesztést. A nők 57 százaléka leállítaná a fejlesztést, szemben a férfiak 45 százalékával. A 18-39 év közöttiek 55 százaléka folytatná a fejlesztést, a 65 éven felettieknek csupán 30 százaléka.
A szakmán belül a legfontosabb határvonalnak a rekurzív önfejlesztés elérését tartják: ez az a pont, amikor az AI már nem csak az újabb modellek tanításához szükséges kódot írja, hanem a teljes kutatási folyamatot menedzseli. Ekkor drámaian lerövidülhet a fejlesztés, akár néhány héten belül lejátszódhat több évtizednyi fejlődés. Az ezzel foglalkozó kutatók egy része 2027–2028 környékére teszi ezt a fordulópontot.
Jacob Coxon kilépése után többen marketingfogásnak nevezték, hogy AI-kutatók az emberiség kihalására figyelmeztetnek. Az érvek között szerepelt, hogy a cégek így akarják növelni a hamarosan kibocsátandó részvényeik árát. A magyarok csak 36 százaléka tartja marketingfogásnak a figyelmeztetéseket, míg 54 százalék szerint az AI-cégek vezetői és kutatói a tapasztalataik alapján valóban tartanak ettől a veszélytől.
Hasonló adatokat mutatnak más nyugati országokban készült kutatások is: az Egyesült Államokban egy felmérés szerint a társadalom 63 százaléka legalább közepes kockázatot látott abban, hogy a fejlett mesterséges intelligencia elpusztítja az emberiséget.
