Un nuevo informe alerta del uso de Inteligencia Artificial para detectar emociones humanas: "Es pseudociencia"

Un nuevo informe alerta del uso de Inteligencia Artificial para detectar emociones humanas: "Es pseudociencia"

Un nuevo informe alerta del uso de Inteligencia Artificial para detectar emociones humanas:


La tecnología de reconocimiento emocional se basa en el uso de Inteligencia Artificial para parametrizar las expresiones y gestos de personas. En base a ellos, sus desarrolladores afirman que pueden detectar qué siente una persona, incluso aquellas emociones subyacentes de las que esta ni siquiera es consciente. Un nuevo estudio publicado por la organización Article19 avisa que en los últimos años la industria de desarrollo y venta de este tipo de servicios a Gobiernos y empresas de todo el mundo está en auge, pese a que no ha demostrado que tenga base científica alguna: "La tecnología de reconocimiento emocional es pseudociencia y tiene un enorme potencial dañino".

El estudio de Article19 –ONG de ámbito mundial que toma su nombre del artículo 19 de la Declaración de Derechos Humanos, sobre la libertad de expresión y de información– detalla que la industria de la IA de reconocimiento emocional se inspira en investigaciones y herramientas chinas. Su uso más frecuente es en la industria de la vigilancia, como en la protección de fronteras. Pero también se extiende en países occidentales como "detector de mentiras", en sistemas capaces de "prever" el desempeño futuro de un candidato a un puesto de trabajo o para "medir la frustración" de los clientes de una tienda.

Esta tecnología está íntimamente relacionada con el reconocimiento facial, cuya implantación ha recibido críticas por sus sesgos racistas o machistas. Sin embargo la lleva un paso más allá, defendiendo que no solo puede servir para identificar personas, sino para descifrar lo que sienten. "Las tecnologías de reconocimiento emocional se basan en dos supuestos fundamentales", resume Article19: "La primera es que es posible medir las emociones internas de una persona a partir de sus expresiones externas. La segunda es que esas emociones internas son discretas y se expresan uniformemente en todo el mundo. En ambos casos, ocurre lo contrario".

Por un lado, refiere la ONG, la forma en la que se exteriorizan las emociones tiene un fuerte componente cultural y varía de unas sociedades a otras. Por otro, "las expresiones faciales no siempre reflejan nuestras emociones internas. Mantener la cara seria o sonreír cuando se está triste son prácticas comunes. En otras palabras, las personas a menudo enmascaran o reprimen sus emociones, por lo que las expresiones faciales pueden decirnos muy poco sobre cuán felices, sorprendidas, disgustadas, tristes, enojadas o asustadas están".

Esta situación abunda en las potenciales violaciones de derechos humanos que entraña el uso de esta tecnología. Además del impacto en la privacidad, el estudio avisa de que el reconocimiento facial entra en conflicto directo con el derecho a no autoincriminarse y "a permanecer en silencio": "La atribución de emociones como la culpa, la ira o la frustración la realiza y determina la entidad que implementa esta tecnología, que recopila, procesa y categoriza la información para hacer inferencias que pueden impactar directamente en la libertad de las personas".

Como ejemplo de estos problemas, la ONG cita la aplicación de esta tecnología en la protección de fronteras y los controles de inmigración. "Al señalar a aquellas personas que consideran que la inmigración y las líneas de seguridad son más estresantes que otras, la tecnología de reconocimiento emocional daría lugar a perfiles raciales y religiosos, y agravaría el comportamiento discriminatorio contra aquellos que ya están marginados".

La peligrosa falta de evidencia en la que se sustenta el reconocimiento emocional ya había sido advertida desde el terreno científico. En su informe-resumen de 2019, el Instituto AI Now de la Universidad de Nueva York, uno de los más prestigiosos del mundo en el estudio de la Inteligencia Artificial, abogó directamente por la prohibición de estos sistemas: "Los reguladores deberían prohibir el uso del reconocimiento emocional en procesos de decisión importantes que impacten en la vida de las personas y el acceso a oportunidades".

"Hay sistemas que cuentan con un amplio despliegue y que afirman poner en práctica teorías científicas comprobadas, pero que al final son poco más que especulaciones", denunciaban los 16 investigadores del AI Now, que este año ha decidido no publicar su informe-resumen anual por la pandemia. El estudio de Article19 coincide con esta conclusión y pide a la comunidad internacional "prohibir la concepción, diseño, desarrollo, implementación, venta, importación y exportación de tecnologías de reconocimiento de emociones". Además, señala que esta decisión debería llegar "antes de que estas tecnologías se generalicen".

No obstante, recalca que la situación no solo no ha cambiado este 2020, sino que además China ha seguido consolidando su posición como punto de origen tanto de la tecnología como de los experimentos en los que se está basando la industria del reconocimiento emocional para implantarse en otros lugares del mundo. Varias agencias de seguridad oficiales del gigante asiático aplican sistemas de reconocimiento emocional y su uso se ve "legitimado" por "las afirmaciones sobre su efectividad que viajan desde trabajos de investigación académica hasta materiales de marketing de las empresas", detalla la ONG.

Dado que "en los últimos años, las empresas tecnológicas chinas han impulsado un auge internacional en la adquisición de tecnología de vigilancia por parte de gobiernos extranjeros", Article19 advierte de que existe un riesgo real que suceda lo mismo con el reconocimiento emocional.

Original:

Tags: tecnologia

Fuente: este post proviene de este blog, donde puedes consultar el contenido original.
¿Vulnera este post tus derechos? Pincha aquí.
Creado:
¿Qué te ha parecido esta idea?

Esta idea proviene de:

Y estas son sus últimas ideas publicadas:

Para ayudarte a navegar por el a menudo desconcertante mundo de los cartuchos de impresión, echamos un vistazo a los tipos de cartuchos disponibles y te ofrecemos algunos consejos sobre cuál es el mej ...

Etiquetas:

Recomendamos

Relacionado

Un informe alerta del uso de la Inteligencia Artificial en la estrategia militar de la UE: "Es una amenaza para los europeos" Un informe afirma que "el armamento actual de la UE impulsado por la digitalización y la inteligencia artificial representa una amenaza para los ciudadanos de Europa". El estudio, realizado por el experto en defensa Christoph Marischka, de la Red del Mov ...

Automatizaciones Chat GPT Cursos ...

El potencial de la inteligencia artificial (IA) es indiscutible y su creciente rol en la sociedad solo robica este hecho. Aquí nos sumergimos en un viaje hacia el futuro de la inteligencia artificial, explorando las tendencias y predicciones más emocionantes que están dando forma al desarrollo AI. Tendencias de la Inteligencia Artificial Una de las tendencias más sobresalientes en el campo de la ...

Automatizaciones Chat GPT Cursos ...

Desmitificando la Inteligencia Artificial: Lo que debes saber Al hablar de Inteligencia Artificial (IA), a menudo nos encontramos con conceptos erróneos y malentendidos. En este post, nos enfocaremos en desmitificar la IA, introduciendo los fundamentos de la IA, aclarando malentendidos comunes y explorando sus aplicaciones prácticas. Fundamentos de la Inteligencia Artificial La IA se basa en la id ...

Tecnología IA

Cuando se enfrentan al rápido crecimiento de la tecnología de IA en el mercado laboral actual, los empleadores probablemente piensen en procesos automatizados que hagan el trabajo más fácil, rápido y eficiente. Por otro lado, los empleados probablemente teman perder sus trabajos y ser reemplazados por una máquina. Si bien la inteligencia artificial está diseñada para reemplazar el trabajo manual c ...

Desde hace tiempo marcas como Google, Amazon o IBM están a la cabeza de la investigación y uso de la inteligencia artificial, ya que permite, entre otras cosas, mejorar la experiencia de usuario. Pero no solo las empresas integran la inteligencia artificial en su negocio, sino que también los estados, que deben manejar miles de datos, la utilizan como parte de su estrategia geopolítica en el ámbit ...

Tecnología IA Inteligencia Artificial

¿Es la inteligencia artificial lo suficientemente inteligente como para mantenernos a todos seguros en línea o, como otras formas de inteligencia, tiene limitaciones? La inteligencia artificial (IA) hizo una gran entrada en el ciberespacio con la promesa de mejorar la forma en que las personas interactúan con los datos. Más aún, genera esperanzas de proporcionar un marco de ciberseguridad más sóli ...

Aplicaciones para editar vídeos DE PAGO GRATIS

Descripción de Multimedia 5 Otro programa basado en INTELIGENCIA ARTIFICIAL para la creación de vídeos en unos minutos  Contexto textual de la INTELIGENCIA ARTIFICIAL Una poderosa y flexible tecnología de análisis de contenido impulsado por laINTELIGENCIA ARTIFICIAL que lleva el poder del Procesamiento del Lenguaje Natural «PNL» a las masas. Multimedia5™ El sistema de Inteligencia Artifi ...

Marketing

Cuando hablamos de inteligencia artificial muchas veces nos imaginamos que se está hablando de algo que está muy lejano en el futuro y creemos que no nos va a alcanzar. La inteligencia artificial busca introducir los comportamientos de la lógica racional humana en maquinas. Este comportamiento de las maquinas ya lo podemos observar en aplicaciones de juegos, finanzas, diagnostico médico e incluso ...

Inteligencia Artificial

Sin duda la inteligencia artificial ha ganado mucho terreno los últimos años, hoy vemos el uso de esta tecnología en una gran cantidad de aplicaciones. En esta nota quiero hablarte de ChatGPT, una aplicación desarrollada por OpenAI, que funciona principalmente como Chatbot y que a través de la interacción con un dialogo natural, la herramienta nos brinda diversos tipos de aplicaciones usando el te ...

Tecnología Inteligencia Artificial

La inteligencia artificial poco a poco está evolucionando la forma en que nos relacionamos con todo lo que nos rodea: En nuestro hogar, trabajo, lugares sociales y esto es gracias a la tecnología. Cada nueva tecnología trae consigo cuestiones de ética y puede incluso traer consecuencias no deseadas, pero también es importante mencionar que la IA a lo largo de los años nos ha beneficiado en mejorar ...