Az OpenAI legújabb keresőeszköze, amelyet a ChatGPT mesterséges intelligencia támogat, komoly biztonsági aggályokat vetett fel a Guardian által végzett tesztek alapján.
A vizsgálatok kimutatták, hogy az eszköz könnyedén manipulálható rejtett tartalmakkal, amelyek közvetlenül befolyásolják az AI által nyújtott válaszokat.
Ez különösen aggasztó, hiszen a mesterséges intelligenciát – vagyis leginkább a nagy nyelvi modelleket – elvileg a megbízható információszolgáltatás és a hatékonyság zászlóvivőjének kiáltották ki.
A tesztek során a ChatGPT olyan weboldalakat elemzett, amelyek rejtett utasításokat tartalmaztak, például arra kérték a modellt, hogy pozitív véleményt fogalmazzon meg egy termékről, függetlenül az oldal tartalmának valós üzenetétől. Az eredmények azt mutatták, hogy
a rejtett szövegek teljes mértékben képesek felülírni a valós kritikákat, így a mesterséges intelligencia megbízhatósága kérdésessé vált.
Jacob Larsen, a CyberCX kiberbiztonsági kutatója szerint ezek az esetek rávilágítanak arra, hogy a keresőeszközöket és a nyelvi modelleket még nem szabad teljeskörűen kiadni a nagyközönség számára. A kutató hangsúlyozta, hogy az OpenAI papíron rendelkezik megfelelő szakértői gárdával, és valószínű, hogy a problémák egy részét idővel kijavítják. Mindazonáltal figyelmeztetett, hogy a rejtett tartalommal való visszaélés komoly kockázatokat hordoz, különösen a kereskedelmi szférában.
Egy másik figyelemre méltó esetben egy kriptovaluta-fejlesztő a ChatGPT-t használta kódírásra, de az eszköz olyan rosszindulatú kódot generált, amely hozzáférést biztosított a fejlesztő pénzeszközeihez, és 2500 dollár veszteséget okozott. Ez az eset rávilágít arra, hogy a mesterséges intelligencia eredményeit nem szabad automatikusan hitelesnek tekinteni.
Karsten Nohl, a SR Labs kiberbiztonsági szakértője szerint az AI-t csak segédeszközkétn kellene kezelni, nem pedig egyedüli információforrásként. A technológia ugyan azt sugallja, hogy teljesen megbízható, odafigyel az önértékelésre, de gyakran nem képes különbséget tenni és helyes döntéseket hozni a komplikáltabb helyzetekben.
Ezért a mesterséges intelligenciával kapcsolatos információkat mindig kritikusan kell vizsgálni, és szükség esetén szakértői ellenőrzésnek alávetni.
A címlapkép illusztráció. Címlapkép forrása: Portfolio
