Industria aplicațiilor mobile devine din ce în ce mai diversificată și uneori controversată. Mai recent, Apple și Google au fost raportate că direcționează utilizatorii către aplicații „nudify” – software-uri care pot manipula fotografiile pentru a crea imagini nud ale persoanelor, fără acordul acestora. Acest fenomen a stârnit un val de discuții critice la nivel global, dar și în România, unde utilizarea aplicațiilor de tip AI și deepfake câștigă teren rapid.
Cu siguranță, mulți dintre noi ne punem întrebarea: cum de companii gigant precum Apple și Google permit promovarea unor astfel de aplicații? Care sunt implicațiile etice, legale și sociale ale promovării unor tehnologii de acest fel? Vom analiza în detaliu fenomenul „nudify” și cum se poziționează cele două platforme majore în acest context
.
„Nudify” este un termen care desemnează aplicații ce utilizează inteligența artificială pentru a modifica fotografii, creând imagini care par să arate o persoană nudă. Aceste aplicații folosesc tehnologii de tip *deep learning* și rețele neuronale pentru a analiza trăsăturile foto și a le modifica, deseori fără să aibă acordul celor fotografiați.
Aplicațiile „nudify” bazate pe AI folosesc un proces numit *image-to-image translation*. Acesta permite algoritmilor să transforme o imagine de bază într-una complet diferită, păstrând trăsăturile cheie ale subiectului, dar schimbând contextul vizual (în acest caz, îndepărtarea hainelor).
Această tehnologie este o ramură a inteligenței artificiale denumită *Generative Adversarial Networks (GANs)*. GAN-urile sunt formate din două rețele neuronale: una generează imagini false, iar cealaltă încearcă să le detecteze ca fiind false, îmbunătățind încontinuu calitatea rezultatelor.
Conform investigațiilor recente, atât Apple App Store cât și Google Play Store au început să includă în recomandările lor aplicații care facilitează crearea de conținut „nudify”. Aceasta în ciuda faptului că ambele companii au politici clare împotriva conținutului abuziv, ilegal sau ofensator.
Ulterior, s-a observat că aceste platforme prioritizează astfel de aplicații în rezultatele căutărilor sau în secțiunile „aplicații recomandate” pentru anumite cuvinte-cheie. Această situație ridică semne de întrebare privind criteriile pe baza cărora se fac recomandările algoritmice.
Deși nu există o explicație oficială clară, un posibil motiv este dorința Apple și Google de a crește timpul de utilizare al aplicațiilor și, implicit, veniturile obținute prin reclame sau cumpărături în aplicație. Aplicațiile „nudify” atrag un public numeros, iar algoritmii platformelor sunt programați să favorizeze conținutul popular, fără a evalua suficient implicațiile etice.
Promovarea acestor aplicații ridică numeroase probleme de ordin moral și social. Mai ales în era digitală, unde confidențialitatea și consimțământul sunt esențiale, folosirea inteligenței artificiale pentru a crea imagini nud fără acordul persoanelor implicate este extrem de problematică.
În România, Legislația privind protecția datelor personale (GDPR) protejează dreptul la viață privată, iar distribuirea neconsimțită a unor materiale intime poate fi penalizată. Totuși, zona juridică este încă puțin clară în cazul imaginilor „nudify”, însă se discută deschiderea unor breșe legale pentru a putea combate astfel de practici.
Pentru publicul din România și nu numai, este important să fim conștienți de riscurile asociate acestor aplicații și să adoptăm măsuri pentru a ne proteja pe termen lung.
Este clar că minimizarea impactului negativ al aplicațiilor „nudify” necesită acțiuni ferme din partea gigantului tehnologic și a autorităților. Iată câteva măsuri care ar putea fi adoptate:
Apple și Google ar trebui să-și recalibreze algoritmii astfel încât să nu promoveze aplicații care pot fi folosite pentru a încălca drepturile utilizatorilor. Atenția la criteriile de conținut și la impactul social trebuie să fie mult mai strictă decât simpla popularitate a aplicației.
Verificarea serioasă a aplicațiilor înainte de aprobare, interzicerea clară a celor ce încalcă dreptul la imagine și sancționarea dezvoltatorilor care promovează conținut abuziv sunt pași esențiali.
Gigantii tech trebuie să coopereze cu instituțiile statului pentru a asigura că aplicațiile cu potențial abuziv sunt investigate și eliminate rapid, iar creatorii lor să fie trași la răspundere.
Fenomenul aplicațiilor „nudify” aduce în fața noastră un complex de provocări tehnologice, etice și legale. Apple și Google, prin rolul lor de gatekeeperi ai ecosistemului mobil, au o responsabilitate uriașă în filtrarea și gestionarea acestor aplicații, pentru a proteja utilizatorii împotriva abuzurilor și violărilor dreptului la intimitate.
Publicul românesc, de asemenea, trebuie să fie informat și precaut când vine vorba de folosirea aplicațiilor care despredatează imagini și conținut personal. Educația digitală și o legislatie adaptată sunt vitale pentru a contracara impactul negativ al acestor tehnologii.
În final, tehnologia folosită corect poate aduce beneficii imense. Este imperios necesar ca toți actorii implicați – utilizatori, companii și autorități – să colaboreze pentru a impune limite clare și pentru a crea un mediu digital sigur și respectuos pentru fiecare dintre noi.
