OpenAI, compania din spatele chatbotului ChatGPT, a publicat recent un raport detaliat în care evidențiază utilizările frauduloase ale platformei sale și măsurile luate pentru combaterea acestora. Pe măsură ce ChatGPT a devenit unul dintre cele mai utilizate servicii de inteligență artificială, atingând 400 de milioane de utilizatori activi săptămânal, OpenAI se confruntă cu provocări tot mai mari în ceea ce privește utilizarea sa abuzivă de către actori rău-intenționați.
Creșterea utilizării ChatGPT și eliminarea conturilor suspecte
Raportul OpenAI arată că, odată cu popularizarea rapidă a ChatGPT, a crescut și numărul celor care încearcă să folosească platforma în scopuri frauduloase. Printre activitățile neautorizate identificate de OpenAI se numără:
- Generarea de cod pentru atacuri cibernetice, inclusiv dezvoltarea de programe malware
- Crearea de conținut fals pentru platforme media, în încercarea de a manipula opinia publică
- Traducerea și generarea de comentarii pentru scheme de înșelătorie, utilizate pe rețele sociale
În urma acestor descoperiri, OpenAI a eliminat zeci de conturi suspecte, confirmând că politica sa interzice ferm utilizarea ChatGPT pentru activități frauduloase. „OpenAI interzice utilizarea rezultatelor generate de AI pentru fraude sau escrocherii. În cadrul investigațiilor noastre privind schemele de angajare frauduloase, am identificat și interzis mai multe conturi suspecte”, a precizat compania în raport.
Studiile de caz: Cum este exploatat ChatGPT pentru activități ilicite
Raportul OpenAI include mai multe cazuri concrete de utilizare abuzivă a ChatGPT, subliniind diversitatea și complexitatea tacticilor adoptate de infractori:
- Manipulare media în America Latină – Un cont descoperit pe platformă genera articole de presă false despre Statele Unite, publicate sub un nume chinezesc, cu scopul de a influența percepțiile publicului.
- Crearea de profiluri false pentru angajare – În Coreea de Nord, un utilizator suspect a fost prins folosind ChatGPT pentru generarea de CV-uri și profiluri profesionale fictive, posibil pentru a aplica la locuri de muncă din companii occidentale.
- Escrocherii romantice pe rețele sociale – Un grup de utilizatori din Cambodgia a fost identificat folosind ChatGPT pentru traducerea și generarea de mesaje înșelătoare, infiltrându-se pe platforme precum Facebook, Instagram și X (fostul Twitter) pentru înșelătorii de tip scam romantic.
OpenAI a confirmat că a împărtășit aceste descoperiri cu alte companii din industrie, inclusiv Meta, care ar putea fi afectate indirect de activitățile frauduloase facilitate de inteligența artificială.
Inteligența artificială și securitatea cibernetică: O provocare în continuă evoluție
Aceasta nu este prima dată când OpenAI atrage atenția asupra utilizărilor neautorizate ale ChatGPT. În octombrie 2024, compania a anunțat că a blocat 20 de atacuri cibernetice majore, inclusiv unele coordonate de hackeri susținuți de state precum Iran și China.
Experții în securitate cibernetică au avertizat în repetate rânduri că inteligența artificială poate fi exploatată pentru:
- Crearea de programe malware
- Dezvoltarea de cod malițios
- Automatizarea atacurilor de tip phishing
Într-un sondaj realizat în februarie 2023 printre specialiști IT și în securitate cibernetică, majoritatea respondenților au afirmat că se așteaptă ca ChatGPT să fie implicat în un atac cibernetic de succes în decurs de un an. Aceste temeri s-au confirmat rapid, iar în martie 2023, OpenAI a raportat prima breșă de securitate. De atunci, incidentele de acest tip au devenit tot mai frecvente, consolidând îngrijorările legate de securitatea platformelor AI.
Ce urmează pentru OpenAI și securitatea ChatGPT?
Pe măsură ce inteligența artificială devine tot mai avansată, OpenAI trebuie să își consolideze măsurile de protecție împotriva utilizării frauduloase. Cu toate acestea, răufăcătorii vor continua să caute metode de a exploata AI-ul, ceea ce ridică provocări majore pentru securitatea cibernetică la nivel global.
În acest context, colaborarea dintre OpenAI, Meta, Google și alți jucători importanți din industrie devine esențială pentru a preveni utilizările abuzive și pentru a asigura un ecosistem digital mai sigur.
