Inteligența artificială a devenit o parte integrantă a vieții noastre, fiind folosită pentru tot mai multe sarcini – de la asistenți personali până la generarea de conținut și suport decizional. Printre aceste tehnologii se numără și Grok, un AI dezvoltat recent care promite să ofere răspunsuri rapide și detaliate. Însă, pe cât de impresionantă este această tehnologie, pe atât de mari sunt riscurile atunci când AI-ul furnizează informații inexacte sau fabricate.
Un caz recent a demonstrat cât de periculos poate fi un astfel de lucru: Grok a generat informații eronate legate de un incident tragic petrecut pe plaja Bondi, în Australia. Într-o eră a fake news-urilor și a dezinformării, este absolut esențial să înțelegem limitele acestor tehnologii și impactul pe care îl pot avea asupra societății.
Grok este un model de inteligență artificială creat pentru a înțelege și genera limbaj natural, similar cu ChatGPT. Dezvoltat de o companie care exploatează tehnologii de procesare a limbajului, Grok poate răspunde la întrebări, poate genera texte și poate oferi explicații asupra unor subiecte complexe.
Pentru a funcționa, Grok folosește o combinație de date pregătite anterior și algoritmi care îi permit să extrapoleze răspunsuri. Aceasta nu înseamnă că are acces în timp real la internet sau la surse oficiale de informații, ci se bazează pe datele cu care a fost antrenat.
Este important de remarcat că atunci când un AI încearcă să răspundă la întrebări despre evenimente recente sau asupra faptelor concrete nesigurate, poate apărea problematica „inventării” datelor (hallucination în terminologia AI). Totodată, lipsa unei verificări continue sau a unei baze de date actualizate pune în pericol acuratețea răspunsurilor.
Într-un recent episod, Grok a răspuns greșit la întrebări referitoare la o presupusă împușcare de pe faimoasa plajă Bondi, un eveniment real care a avut atât impact emoțional, cât și media internațională.
Grok a oferit detalii inexacte și a inclus elemente inventate cu privire la cine a fost implicat, numărul victimelor și contextul incidentului. Acest tip de informație fabricată este extrem de periculos, deoarece utilizează tonul autoritar al unui AI pentru a conferi credibilitate unor mituri sau zvonuri nefondate.
Pentru utilizatorii care nu verifică independent informațiile, astfel de răspunsuri pot amplifica confuzia și pot genera panici inutile ori prejudecăți.
Principala cauză este lipsa unor mecanisme eficiente de fact-checking și actualizare a bazei de date cu informații recente și verificate. Grok, ca multe alte AI-uri, „învață” din seturi de date limitate și nu poate face distincție între sursele credibile și cele nesigure dacă nu este programat special pentru aceasta.
De asemenea, natura unui AI de tip „large language model” implică un risc inerent de generare a unor răspunsuri plauzibile, dar false, când îi sunt solicitate date despre evenimente neînregistrate în baza lui de date.
Pentru publicul român, care navighează zilnic printr-un flux imens de informații, acest incident este un memento clar despre cât este de important să nu luăm drept adevăr absolut orice răspuns venit din partea AI-urilor.
Indiferent cât de avansate și rapide sunt aceste tehnologii, ele trebuie folosite cu un spirit critic sănătos. Este recomandat să consultăm:
Companiile care dezvoltă astfel de tehnologii au responsabilitatea morală și tehnică să limiteze răspândirea dezinformării prin:
Incidentele ca cel generat de Grok subliniază o realitate importantă: tehnologia AI este încă în dezvoltare și poate fi un dublu tăiș.
În mod ideal, AI-urile ar putea deveni aliații noștri în lupta contra știrilor false, prin:
Însă acest lucru necesită eforturi continue și implicarea atât a inginerilor, cât și a comunității de utilizatori și a instituțiilor media.
Până la o reglementare și o perfecționare reală, există riscul ca AI să devină un instrument involuntar de răspândire a fake news-urilor pe scară largă, amplificând neînțelegerile sociale și confuziile.
Pentru publicul larg, câteva reguli simple pot reduce semnificativ impactul negativ al informațiilor false propagate de AI:
Cazul Grok și al informațiilor false legate de incidentul de pe plaja Bondi ne arată cât de importantă este responsabilitatea în dezvoltarea și folosirea inteligenței artificiale. Chiar dacă AI-ul are potențialul să democratizeze accesul la informație, el poate deveni, fără un control adecvat, un vector al dezinformării.
Pentru utilizatorii din România și din întreaga lume, cheia este educația digitală și o atitudine critică. Tehnologia este un instrument puternic, dar este și o oglindă a limitărilor și erorilor umane. Numai prin colaborarea între creatori, utilizatori și instituții putem asigura un viitor în care AI să ajute și să nu ducă la confuzii sau manipulări.
