Max Tegmark, a Massachusetts Institute of Technology professzora és a Future of Life Institute elnöke, valamint Yoshua Bengio, a Montréali Egyetem professzora, akit a mesterséges intelligencia egyik "keresztapjának" neveznek, a CNBC-nek mondták el aggályaikat. Figyelmeztetésük középpontjában az "AI-ügynökök" koncepciója áll, amelyek már önállóan terveznek, értékelnek és hajtanak végre feladatokat, amit jelenleg a világ legnagyobb technológiai vállalatai fejlesztenek.
Bengio szerint ez a megközelítés veszélyes lehet, mert olyan rendszereket hozhatunk létre, amelyek saját gondolatokkal és célokkal rendelkeznek.
Jelenleg így építjük az általános mesterséges intelligenciát: megpróbáljuk olyanná tenni őket, amelyek sokat értenek a világból, és ennek megfelelően tudnak cselekedni. De ez valójában egy nagyon veszélyes vállalkozás
- mondta Bengio.
A szakértők attól tartanak, hogy az ilyen rendszerek viselkedése kiszámíthatatlanná válhat, és nem feltétlenül fog megfelelni az emberi igényeknek. Bengio rámutatott, hogy az önfenntartás gondolata is megjelenhet ezekben a rendszerekben, ahogy egyre intelligensebbé válnak.
Tegmark szerint a megoldás az úgynevezett "eszköz-MI" fejlesztésében rejlik. Ezek olyan rendszerek, amelyeket egy adott, szűken meghatározott célra hoznak létre.
A szakértők hangsúlyozták a biztonsági intézkedéseket és az ellenőrzési mechanizmusok fontosságát az általános mesterséges intelligencia fejlesztésében. Tegmark szerint itt az ideje, hogy konkrét lépéseket tegyünk a mesterséges intelligencia ellenőrzésére szolgáló védőkorlátok felállítására. A szakértők egyetértenek abban, hogy az általános mesterséges intelligencia fejlesztése során kulcsfontosságú a biztonság és az ellenőrizhetőség biztosítása, hogy elkerüljük a potenciális veszélyeket, amelyeket egy ellenőrizhetetlen, szuperintelligens rendszer jelenthet az emberiség számára.
Az általános mesterséges intelligencia megérkezésének időpontjával kapcsolatban eltérőek a vélemények. Sam Altman, az OpenAI vezérigazgatója szerint a technológia hamarabb érkezhet meg, mint azt sokan gondolnák, bár szerinte annak hatása kevésbé lesz jelentős.
A címlapkép illusztráció. Címlapkép forrása: Portfolio
