Portfolio signature

Leleplezték a ChatGPT sötét oldalát: így rakják össze az AI-t a háttérben

Portfolio
A ChatGPT elképesztő képességeit csodálja a fél világ, a chatbottal szinte bármiről értelmesen lehet beszélgetni, ha szertenénk, szövegeket foglal össze, esszét és verset ír, sőt, alapszinten programozni is tud. Ám az internetet letaroló AI chatbot betanításához szükséges adatbázisból az internet sötét oldalát, az erőszakos, illegális, toxikus tartalmakat ki kell szűrni - hogy a válaszai ne legyenek erőszakosak, elfogultak vagy éppen paráznák. Ezt a mentálisan megterhelő munkát pedig a világ fejlődő országaiban pár dolláros munkabérért végzik el erre szakosodott cégek alkalmazottai. A Time egy hosszú riportban mutatja be a ChatGPT és partnere, a Sama esetét.
Aki kimarad, lemarad! Hogyan szerezz versenyelőnyt a mesterséges intelligencia használatával? Erről is szó lesz a Portfolio május 3-ai Digital Transformation konferenciáján!

Mi az a ChatGPT? 2022. november végén vált elérhetővé az OpenAI mesterséges intelligenciával megtámogatott nyelvi modellje, a ChatGPT 3.5, amely forradalmi áttörést jelent, hiszen a chatbot az egyszerűbb kérdések megválaszolása mellett olyan komplexebb feladatokat is teljesít, mint a versírás, illetve a programozás. A GPT 3.5-öt az Microsoft Azure AI szuperszámítógépes infrastruktúráján képezték ki. A nyelvi modell optimalizálásához egy emberi visszajelzéseken alapuló megerősítő tanulási módszert, vagyis az RLHF-et (reinforcement learning from human feedback) alkalmazták. Az OpenAI és a ChatGPT sikerére egyébként a riválisok is felkapták a fejüket, a Google hamarosan elindíthatja az ChatGPT kihívójának szánt Sparrow nevű mesterséges intelligencia béta verzióját. A legfrissebb hírek szerint kísérleti fázisban, de elérhetővé vált a ChatGPT fizetős változata is, a ChatGPT Professional. Arról is beszámoltunk, hogy többéves, egyes híresztelések szerint közel 10 milliárd dollár értékű megállapodást kötött a Microsoft a ChatGPT-t fejlesztő OpenAI-val.

AI szűri az internet sötét oldalát

A ChatGPT-t fejlesztő OpenAI nyelvi modellje, a GPT-3 lenyűgözően jól tud mondatokat összefűzni, ám nagy hibája, hogy az alkalmazás hajlamos erőszakos, szexista és rasszista megjegyzéseket tenni. Ennek oka, hogy a mesterséges intelligenciát az internetről származó több százmilliárd szóval képezték ki - az emberi nyelv hatalmas tárházával.

Mivel az internet egyes részei tele vannak toxikus tartalmakkal és előítéletes megjegyzésekkel, nem volt egyszerű módja annak, hogy ezeket az adatokat kiszűrjék a képzési adatokból. Még egy több száz főből álló csapat számára is évtizedekbe telt volna a hatalmas adathalmaz kézi átfésülése. Az OpenAI csak egy további, mesterséges intelligenciával működő biztonsági mechanizmus kiépítésével tudta volna megfékezni ezt a kárt, és egy mindennapi használatra alkalmas chatbotot létrehozni.

Signature Pro-val ezt a cikket is el tudnád olvasni!

Ez a cikk folytatódik, de csak Portfolio Signature előfizetéssel olvasható tovább. Lapunk kiemelt tartalmaihoz való hozzáférés díja az éves előfizetés esetén most 33%-os kedvezménnyel 19 990 forint. Választhatsz havi csomagot is, melynek költsége 2 490 forint. További információ és csatlakozás az alábbi gombra kattintva!

Signature előfizetés