Juga i dictamina. La teva decisió és ètica i moral? Les decisions de la intel·ligència artificial a través de dades subjectives

https://www.moralmachine.net/hl/es

Sabies que la intel·ligència artificial no només ens assisteix, sinó que comença a prendre decisions per nosaltres? Però, què passa quan aquestes decisions impliquen dilemes morals? Qui decideix què és "correcte"?

La web Moral Machine (https://www.moralmachine.net/hl/es) obre una finestra inquietant i reveladora sobre aquesta qüestió.

Aquesta plataforma recull perspectives humanes sobre les decisions ètiques que han de prendre les màquines intel·ligents, com per exemple els cotxes autònoms.

La web presenta a l’usuari una sèrie de situacions hipotètiques on cal escollir entre dues opcions moralment complicades, com per exemple: salvar una dona embarassada o un doctor? Dos joves que travessen pel semàfor en vermell o una parella gran que ho fa bé?

Aquests escenaris posen a prova el nostre criteri ètic i ens obliguen a enfrontar-nos a decisions que en un futur podria haver de prendre una màquina.

Un aspecte interessant de la plataforma és que et permet comparar les teves decisions amb les d’altres usuaris d’arreu del món. Aquí és on s’evidencia una veritat incòmoda: les dades que alimenten la IA no són neutres. Són el reflex de valors, creences culturals, prejudicis i experiències personals.

Hem de tenir present que la IA decideix a través de dades, però aquestes dades provenen de persones i les persones som subjectives.

Això ens porta a una qüestió clau: si la intel·ligència artificial pren decisions morals basades en el que la majoria considera acceptable, fins a quin punt aquestes decisions són justes o universals? Podria una IA entrenada amb dades d’un país amb valors conservadors prendre decisions que vulnerin drets reconeguts en altres llocs? O viceversa?

Et convido a reflexionar, no només sobre el futur de les màquines, sinó sobre nosaltres mateixos: quins valors volem transmetre a la tecnologia que ens ha d'acompanyar? I encara més important, estem preparats per a confiar decisions de vida o mort a sistemes que, en el fons, reflecteixen les nostres pròpies contradiccions?

En un món cada cop més automatitzat, el debat sobre l'ètica no pot quedar només en mans dels enginyers. Tots hi hem de participar. Perquè quan una màquina pren decisions, ho fa basant-se en el que nosaltres li hem ensenyat. I això no sempre és just ni neutral.