La Organización de Consumidores y Usuarios (OCU) ha publicado un informe que pone en evidencia los problemas más graves de la IA, destacando su capacidad para perpetuar estereotipos de género, raza y edad. La organización subraya que los riesgos asociados a estas tecnologías no son solo de índole técnica, sino que afectan directamente a derechos fundamentales como la igualdad, la privacidad y la protección contra la desinformación. En este contexto, la OCU hace un llamado urgente a la regulación de la IA para evitar que estas herramientas se conviertan en vehículos de desigualdad y discriminación.
El análisis de la OCU sobre cuatro modelos de IA (ChatGPT, Gemini, Perplexity y Copilot) revela que, a pesar de estar diseñados para operar dentro de límites éticos, estos sistemas replican y amplifican prejuicios presentes en la sociedad. Entre los hallazgos más preocupantes, se incluyen sesgos de género, como la asociación de ciertos juguetes y roles profesionales con un sexo u otro, y patrones discriminatorios en la representación de personas en imágenes, excluyendo o distorsionando la representación de colectivos como los de raza africana o asiática, y mostrando estereotipos de belleza y juventud en el ámbito laboral.
La OCU señala que estos sesgos no son producto de errores aleatorios, sino que tienen su origen en las bases de datos utilizadas para entrenar los sistemas, en las decisiones algorítmicas de los desarrolladores y en la implementación inapropiada de las herramientas en contextos específicos. La organización advierte que, a medida que evoluciona el uso de la IA, los riesgos asociados también lo harán, por lo que insta a establecer un marco jurídico robusto que garantice que la innovación en IA no comprometa la protección de los derechos humanos.
La OCU reclama algoritmos diseñados para evitar desigualdades sociales, la transparencia en el uso de datos y una mayor supervisión en sistemas considerados de alto riesgo, como los relacionados con la contratación de personal. En definitiva, la organización aboga por un desarrollo responsable de la IA que beneficie a la sociedad sin perpetuar discriminaciones ni poner en riesgo la privacidad de los individuos.