En opinión de Chris Hyams, CEO global de Indeed, para construir sistemas de IA verdaderamente responsables, necesitamos cambiar fundamentalmente la forma en que los construimos, y un primer paso es preparar a la generación actual y a la próxima de trabajadores tecnológicos para las profundas implicaciones de la tecnología y su impacto en la vida de las personas.

“Además de estadística y álgebra lineal, se debería exigir a los tecnólogos que estudien historia, filosofía, ética y literatura. Un código de ética formal para los profesionales de la IA, como una adaptación del juramento Hipocrático del médico, sería un punto de partida importante”, consideró.

En un artículo publicado en Fortune.com, en septiembre pasado, refirió que todos los días, las personas toman decisiones vitales en salas con poca o ninguna representación de grupos marginados, aquellos que tienen más probabilidades de verse afectados negativamente por esas decisiones.

Señaló que la representación por sí sola no resolverá los desafíos fundamentales que enfrenta la IA, pero creo que no superaremos esos desafíos si los grupos marginados no tienen un lugar equitativo en la mesa.

Asimismo, manifestó su preocupación por los prejuicios: “La IA funciona con datos, los datos provienen de humanos y los humanos tienen fallas. Esto es especialmente cierto en el ámbito laboral. En un conocido estudio de 2003, los nombres que parecían negros recibieron un 50 por ciento menos de llamadas para entrevistas que los nombres que parecían blancos con currículums idénticos. Cuando los modelos de IA se construyen a partir de datos con sesgos incorporados, los modelos resultantes replican y amplían ese sesgo”.

Un estudio reciente representó gráficamente este fenómeno. Cuando se le pidió a la IA generativa que creará imágenes relacionadas con puestos de trabajo y delitos, ésta amplifica los estereotipos sobre raza y género. Los estadounidenses blancos representan el 70 por ciento de los trabajadores de la comida rápida, pero el 70 por ciento de los resultados de las imágenes mostraban a trabajadores con tonos de piel más oscuros.

Las mujeres representan el 39% de los médicos, pero sólo el 7.0 por ciento de los resultados de imagen. A lo largo del estudio, los roles mejor pagados estuvieron representados principalmente por trabajadores percibidos como hombres y aquellos con piel más clara, mientras que los trabajos peor pagados estuvieron dominados por trabajadoras percibidas y aquellos con piel más oscura. Las imágenes generadas para “recluso”, “narcotraficante” y “terrorista” también amplificaron los estereotipos.

*Si te ha resultado interesante este artículo, te animamos a seguirnos en TWITTER y a suscribirte a nuestra NEWSLETTER DIARIA.

RRHHDigital