Si es hombre lleva un martillo, pero si es mujer es un secador: así actúan los sesgos de la Inteligencia Artificial

Si es hombre lleva un martillo, pero si es mujer es un secador: así actúan los sesgos de la Inteligencia Artificial

Si es hombre lleva un martillo, pero si es mujer es un secador: así actúan los sesgos de la Inteligencia Artificial


Dos personas con la misma complexión, la misma vestimenta y la misma postura, realizando la misma acción y empleando los mismos instrumentos. Aparecen en dos fotografías prácticamente idénticas a excepción de un detalle: en una el sujeto tiene rasgos faciales que se asocian al sexo masculino, mientras que en la otra se asocian al sexo femenino. Cuando se las enseñamos a algunos principales sistemas de reconocimiento de imágenes basados en Inteligencia Artificial para que las clasifiquen, lo que ven en cada una de ellas cambia de manera radical.

Si la persona tiene el pelo largo y liso, entonces la inteligencia artificial identifica que lo que lleva en la mano es un secador de pelo, en vez de un martillo, como ocurre con la imagen que encabeza este artículo. Si ambos sujetos portan una taladradora, los algoritmos son capaces de detectarlo... pero solo si la persona que lo sujeta tiene barba, porque si no la tiene no son capaces de identificar el objeto. Si las dos personas van ataviadas con instrumentos de limpieza, la inteligencia artificial solo reconoce que está viendo una "persona limpiando" en caso de que tenga rasgos asociados a una mujer. Si están identificados con un hombre, entonces la etiqueta que selecciona "trabajador" o "estudiante".

Son los resultados de un experimento realizado por Bikolabs, laboratorio de la consultora Biko. El sexismo que aflora es parte de los denominados "sesgos" presentes en la Inteligencia Artificial. Estos aparecen cuando los resultados que ofrece esta tecnología al enfrentarse con determinados problemas reflejan los estereotipos discriminatorios propios del contexto social y político de los humanos que la programan o del conjunto de datos con los que ha sido entrenada. Todo lo contrario a la supuesta neutralidad matemática con la que sus proveedores la publicitan en el mercado.

"De un tiempo a esta parte, a pesar de la fe puesta en los supuestos superpoderes de la IA, hemos tenido que asumir que ni es tan objetiva ni tan neutral como se deseaba creer", explican Ujué Agudo y Karlos G. Liberal, directora y coautor del experimento. "En muchas ocasiones es ineficaz, discriminatoria, sexista y racista. Algo que no resulta extraño dado que los humanos, presentes en todo el ciclo de vida de la IA, podemos trasladar nuestras subjetividades y sesgos a la máquina en todas las fases del proceso", continúan.

El experimento se basó en un método muy sencillo: mostrarle a las principales soluciones de IA del mercado dos fotografías con personas llevando objetos históricamente estereotipados. Una es la original, la otra es la misma pero con el género del sujeto cambiado mediante la popular aplicación FaceApp. Los resultados mostrados anteriormente son los de Amazon Rekognition, la IA que vende la multinacional de comercio electrónico. Pero los mismos sesgos aparecen en el caso de la IA de Google Imágenes, que propone "chica" como etiqueta casi única en las búsquedas de imágenes de mujer, siendo mucho más rico etiquetando las fotos de hombres ("caballero", "portavoz", "pelo de surfero").

Con los algoritmos de reconcimiento de empresas especializadas ocurrió lo mismo. CamFind, una app de reconocimiento de imágenes del sector shopping, identifica como "vestido de mujer azul y negro" una imagen que muestra a un hombre con delantal y escoba. En cambio, si se borra la escoba y se le muestra la misma foto, entonces sí reconoce la ropa de varón y ve un "polo de hombre a rayas azules y negras".

Una de las principales trabas a la hora de identificar y arreglar este tipo de sesgos presentes en la IA es el secretismo de sus proveedores sobre el proceso que han seguido para programarlas y entrenarlas, reflejan desde Bikolabs. "Descubrir no sólo bajo qué criterio las redes neuronales clasifican las imágenes sino incluso con qué datasets (y qué etiquetas) se han entrenado resulta misión imposible debido a la opacidad de las IAs y la de sus empresas propietarias", lamentan.

Qué criterio de clasificación han seguido los programadores humanos para las imágenes, así como la fuente de las imágenes en bruto con la que ha sido entrenada cada IA son dos aspectos clave, puesto que en ambos pueden filtrarse los sesgos sexistas o racistas. Pero también importa el tipo de imagen que se le ha enseñado a una IA para que defina cada etiqueta. "Que dichas imágenes sean adecuadas para la etiqueta que representan puede ser crucial", recuerdan los investigadores.

Un ejemplo de ello es el fondo de imágenes que se ha utilizado para entrenar muchos de estos algoritmos, llamado ImageNet. Las IAs se basan en él para clasificar objetos o imágenes a futuro. Entre las fotografías etiquetadas con bajo la categoría "girl" (niña, chica) se encuentran las siguientes, "cuanto menos poco adecuadas para la etiqueta en cuestión", lamentan:

"No siempre los malos resultados del reconocimiento de objetos se derivan de una mala elección de las imágenes de entrenamiento. A veces, simplemente, es que ponemos una expectativa a su rendimiento que no es realista", expone el análisis de Bikolabs. Ya en mayo de este año la revista Science planteó el debate de si el imaginario que en torno al potencial de la IA puede sostenerse. "Los llamativos avances de algunos campos de la IA no son reales", sentenciaba la prestigiosa publicación.

No es la primer vez que ocurre esto. El término "inteligencia artificial" se acuñó en 1956 y desde entonces ha pasado por varios inviernos: periodos en los que los avances anunciados para esta tecnología no terminan de llegar o falla alguna gran investigación, lo que desencadena un pesimismo en la comunidad de desarrolladores y una caída de la inversión durante años. La IA sufrió largos inviernos en las décadas de los 70 y los 80 del pasado siglo.

El aprendizaje automático, la datificación y otros procesos propios de la progresiva digitalización de la sociedad han impulsado la financiación de la IA como nunca antes en la última década. Sin embargo, el debate sobre si las expectativas creadas son reales ha vuelto y, con él, el miedo a un nuevo invierno. "Quizá sea complicado que vayamos a sufrir otro invierno de la IA, pero es posible que, como apunta Jeffrey P. Bigham, lo que sí llegue es un otoño en el que, aunque podamos recoger la cosecha de nuestros esfuerzos bien empleados al aplicar IA en problemas concretos, el hype vacío que aún hoy sustenta el mercado se deshinche", avisan desde Bikolabs.

Original:

Tags: tecnologia

Fuente: este post proviene de este blog, donde puedes consultar el contenido original.
¿Vulnera este post tus derechos? Pincha aquí.
Creado:
¿Qué te ha parecido esta idea?

Esta idea proviene de:

Y estas son sus últimas ideas publicadas:

Para ayudarte a navegar por el a menudo desconcertante mundo de los cartuchos de impresión, echamos un vistazo a los tipos de cartuchos disponibles y te ofrecemos algunos consejos sobre cuál es el mej ...

Etiquetas:

Recomendamos

Relacionado

Automatizaciones Chat GPT Cursos ...

La Ética en la Inteligencia Artificial: Un Debate Esencial La irrupción de la Inteligencia Artificial (IA) en nuestra vida diaria ha llevado a la sociedad a plantearse serias cuestiones relacionadas con la Ética AI. Este debate sobre la Inteligencia Artificial está marcado por cuestiones como la transparencia, la justicia, la responsabilidad y la privacidad. Impacto Social de la IA La IA tiene el ...

Automatizaciones Chat GPT Cursos ...

Desmitificando la Inteligencia Artificial: Lo que debes saber Al hablar de Inteligencia Artificial (IA), a menudo nos encontramos con conceptos erróneos y malentendidos. En este post, nos enfocaremos en desmitificar la IA, introduciendo los fundamentos de la IA, aclarando malentendidos comunes y explorando sus aplicaciones prácticas. Fundamentos de la Inteligencia Artificial La IA se basa en la id ...

Inteligencia Artificial

La inteligencia artificial ha sido un tema de fascinación durante décadas, pero ahora más que nunca, nos encontramos entrando en la era de la inteligencia artificial. Las posibilidades parecen infinitas, desde mejorar la asistencia sanitaria hasta revolucionar el transporte. Sin embargo, estas posibilidades van acompañadas de retos y preocupaciones. Mientras miramos hacia el futuro, es esencial ex ...

Automatizaciones Chat GPT Cursos ...

El potencial de la inteligencia artificial (IA) es indiscutible y su creciente rol en la sociedad solo robica este hecho. Aquí nos sumergimos en un viaje hacia el futuro de la inteligencia artificial, explorando las tendencias y predicciones más emocionantes que están dando forma al desarrollo AI. Tendencias de la Inteligencia Artificial Una de las tendencias más sobresalientes en el campo de la ...

Tecnología

La irrupción acelerada de la Inteligencia Artificial Generativa ha marcado un hito significativo en la evolución tecnológica contemporánea, provocando transformaciones profundas en diversos ámbitos de nuestra sociedad. Entre los sectores más impactados, el empleo emerge como un terreno de creciente relevancia, donde las innovaciones impulsadas por la inteligencia artificial generativa prometen re ...

Tecnología IA

La Inteligencia Artificial está transformando el mundo tal como lo conocemos, y su impacto se siente en todas las industrias. Sin embargo, no todos estos cambios son necesariamente positivos.  Si bien la IA ofrece nuevas y emocionantes oportunidades en muchas áreas, no podemos ignorar el hecho de que carece de una brújula moral inherente o un sistema de verificación de hechos para guiar su toma de ...

Tecnología IA

Con la inteligencia artificial avanzando constantemente en nuestro mundo moderno, no sorprende que la veamos aparecer en múltiples industrias, incluida la industria automotriz.  Si bien la IA se puede usar en el diseño y la producción de automóviles, ahora también está presente en las funciones de los automóviles. ¿Cómo se usa la Inteligencia Artificial en los automóviles? Si bien las carreteras ...

Tecnología IA

¿Cómo pueden los humanos controlar la Inteligencia Artificial? ¿Es eso siquiera posible? Con los modelos de lenguaje de IA modernos como ChatGPT y Bing Chat de Microsoft haciendo olas en todo el mundo, a varias personas les preocupa que la IA se apodere del mundo. Si bien no nos encontraremos con SkyNet en el futuro previsible, la IA está mejorando a los humanos en varias cosas. Ahí es donde entra ...

Tecnología IA

¿Tienes curiosidad sobre lo que hace un analista de Inteligencia Artificial en el día a día? Estas son las responsabilidades clave para ayudarte a decidir si es la carrera adecuada para ti. A medida que la inteligencia artificial se convierte en parte de todo lo que hacemos, el papel de un analista de IA se vuelve más esencial para una variedad de negocios. Este tipo de analista se basa en algorit ...

desarrollo web inteligencia artificial

Para el año 2024, la IA se ha vuelto fundamental en el diseño web. La IA facilita análisis de datos, por eso, los sitios web podrían ajustarse instantáneamente para proporcionar una experiencia más valiosa y agradable para cada visitante. La inteligencia artificial también se utilizará para mejorar el diseño visual y la usabilidad del sitio. Los sistemas de IA pueden procesar grandes volúmenes de ...