El perill ocult darrere les eines d'IA que converteixen fotos en dibuixos animats

¿Sabies que transformar les teves fotos en dibuixos animats pot posar en perill la teva privacitat?

En les darreres setmanes, s'ha popularitzat l'ús d'aplicacions d'IA que transformen les nostres fotografies en versions estil "Studio Ghibli" o amb altres efectes artístics i ChatGPT està obtenint uns resultats impressionants aconseguint més d'un millor d'usuaris nous a l'hora. Aquestes imatges poden semblar encantadores i creatives, però, poques persones s'adonen dels riscos reals que comporta aquest tipus de tecnologia.

¿Què passa quan utilitzem aquestes eines?

Hem de ser conscients que quan fem servir aquestes eines d'IA, podem estar exposant-nos a diversos perills relacionats amb la nostra privacitat:

• Cedim les nostres dades biomètriques: El nostre rostre és una dada única i identificable que pot ser feta servir sense el nostre consentiment. La biometria facial és un element clau en la seguretat digital i pot ser explotada per empreses o cibercriminals.

• Acceptem termes i condicions abusives: Moltes aplicacions inclouen clàusules que els permeten emmagatzemar, modificar o fins i tot vendre les nostres imatges a tercers sense transparència.

• Exposició a riscos digitals: Les nostres fotos poden ser utilitzades per a crear perfils falsos, muntatges ofensius o fins i tot deepfakes, una tècnica cada vegada més sofisticada que pot danyar greument la reputació.

• Alimentem bases de dades d'intel·ligència artificial: Moltes empreses fan servir aquestes imatges per entrenar els seus models d'IA sense oferir cap control sobre l'ús futur de les dades.

  
  

 Principals riscos d'aquestes aplicacions

1. Estàs regalant la teva imatge

   • En pujar una foto, perds el control sobre el seu destí.

   • Algunes aplicacions conserven una còpia de la teva imatge i poden utilitzar-la per entrenar la seva intel·ligència artificial o vendre-la a empreses terceres sense notificació.

   • Les dades personals poden ser explotades per empreses publicitàries, governs o entitats amb finalitats comercials o fins i tot fraudulentes.

     
     

2. El teu rostre és una dada biomètrica

   • El teu rostre és tan únic com la teva empremta dactilar i pot ser usat per identificar-te, rastrejar-te o suplantar-te sense que ho sàpigues.

   • La suplantació d'identitat amb IA pot afectar la seguretat bancària, les transaccions en línia o fins i tot procediments legals.

     
     

3. Risc de muntatges i perfils falsos

   • Les teves imatges poden ser manipulades per crear perfils falsos a les xarxes socials, utilitzats per estafadors o per a activitats il·legals.

   • Poden generar-se deepfakes o fotomuntatges comprometedors que poden danyar la teva reputació, ser fets servir per ciberassetjament o extorsió.

   • La creació de contingut fals amb imatges manipulades pot afectar figures públiques i ciutadans comuns per igual.

     
     

4. Manca de transparència en moltes eines d'IA

   • La majoria d'usuaris no llegeixen els termes i condicions i desconeixen els permisos que atorguen.

   • Algunes aplicacions es reserven el dret d'emmagatzemar, modificar i compartir les teves fotos sense que en siguis conscient.

   • La legislació sobre protecció de dades varia segons el país, i moltes aplicacions operen en jurisdiccions amb poques regulacions.

Normativa i Protecció de Dades

A Europa, el Reglament General de Protecció de Dades (GDPR) estableix que qualsevol dada biomètrica està subjecta a regulacions estrictes. No obstant això, moltes aplicacions operen des de països amb lleis més laxes, cosa que dificulta la protecció dels usuaris.

Per tant, és fonamental que com usuaris siguem conscients dels riscos i actuem de manera proactiva per protegir la nostra identitat digital.

 Com protegir la teva privacitat?

• Informa't abans de descarregar i utilitzar qualsevol aplicació.

• Llegeix sempre els termes i condicions abans d'acceptar-los.

• Utilitza comptes de correus electrònics desvinculats del teu personal.

• Evita compartir fotos personals sense haver reflexionat sobre les possibles conseqüències.

• Configura la privacitat dels teus comptes en xarxes socials per reduir l'accés a les teves imatges.

• Protegeix la identitat digital dels menors, evitant exposar la seva imatge en aquestes plataformes.

• Utilitza eines de protecció digital, com marques d'aigua o aplicacions que limiten la compartició d'imatges en servidors externs.

La protecció de la identitat digital és una responsabilitat individual i col·lectiva. L'auge de la intel·ligència artificial i les seves aplicacions suposa una revolució tecnològica amb grans beneficis, però també comporta riscos significatius.

Cal fer un exercici de reflexió i prendre consciència de totes les accions que realitzem. Com a societat hem de fomentar una cultura de seguretat digital per garantir que les nostres dades personals es mantinguin sota el nostre control i evitar possibles abusos. La teva imatge forma part de la teva identitat: protegeix-la de la mateixa manera que protegeixes el teu DNI o les teves contrasenyes.