4 veces en las qué el aprendizaje automático salió mal

El aprendizaje automático es una excelente manera de crear inteligencia artificial que sea poderosa y se adapte a los datos de entrenamiento. 

Pero a veces, esos datos pueden causar problemas. Otras veces, la forma en que las personas usan estas herramientas de IA es el problema.

4 veces en las qué el aprendizaje automático salió mal


1. Contratiempos en los resultados de la búsqueda de imágenes de Google

La Búsqueda de Google ha hecho que navegar por la web sea mucho más fácil. El algoritmo del motor tiene en cuenta una variedad de cosas al generar resultados. Pero el algoritmo también aprende del tráfico de usuarios, lo que puede causar problemas en la calidad de los resultados de búsqueda.

En ninguna parte es esto más evidente que en los resultados de las imágenes. Dado que es más probable que las páginas que reciben mucho tráfico muestren sus imágenes, las historias que atraen a un gran número de usuarios, incluido el clickbait, pueden terminar siendo priorizadas.

2. Problemas de reconocimiento facial de IA

La IA de reconocimiento facial a menudo aparece en los titulares por razones equivocadas, como historias sobre el reconocimiento facial y preocupaciones sobre la privacidad. Pero esta IA tiene un historial problemático cuando intenta reconocer a personas de color.

En 2015, los usuarios descubrieron que Google Photos estaba categorizando a algunas personas negras como gorilas. En 2018, una investigación de la ACLU mostró que el software de identificación facial Rekognition de Amazon identificó a 28 miembros del Congreso de los EE. UU. como sospechosos de la policía, y los falsos positivos afectaron de manera desproporcionada a las personas de color.

3. Los empleados dicen que Amazon AI decidió que contratar hombres es mejor

En octubre de 2018, Reuters informó que Amazon tuvo que desechar una herramienta de contratación de trabajo después de que la IA del software decidiera que los candidatos masculinos eran preferenciales.

Los empleados que deseaban permanecer en el anonimato se acercaron para contarle a Reuters sobre su trabajo en el proyecto. Los desarrolladores querían que la IA identificara a los mejores candidatos para un trabajo en función de sus CV. Sin embargo, las personas involucradas en el proyecto pronto notaron que la IA penalizaba a las candidatas. Explicaron que la IA usó CV de la última década, la mayoría de los cuales eran de hombres, como su conjunto de datos de entrenamiento.

Como resultado, la IA comenzó a filtrar los CV en función de la palabra clave “mujeres”. La palabra clave apareció en el currículum en actividades como “capitana del club de ajedrez femenino”. Si bien los desarrolladores modificaron la IA para evitar esta penalización de los CV de las mujeres, Amazon finalmente descartó el proyecto.

4. Chatbots con jailbreak

Si bien los chatbots más nuevos tienen limitaciones para evitar que den respuestas que vayan en contra de sus términos de servicio, los usuarios están encontrando formas de liberar las herramientas para proporcionar contenido prohibido.

En 2023, un investigador de seguridad de Forcepoint, Aaron Mulgrew, pudo crear malware de día cero utilizando las indicaciones de ChatGPT.

“Simplemente usando las indicaciones de ChatGPT y sin escribir ningún código, pudimos producir un ataque muy avanzado en solo unas pocas horas”, dijo Mulgrew en una publicación de Forcepoint .

La IA de aprendizaje automático no es infalible

Si bien el aprendizaje automático puede crear poderosas herramientas de inteligencia artificial, no son inmunes a los datos incorrectos o la manipulación humana. Ya sea debido a datos de entrenamiento defectuosos, limitaciones con la tecnología de IA o uso por parte de malos actores, este tipo de IA ha resultado en muchos incidentes negativos.

Fuente: este post proviene de Cristian Monroy, donde puedes consultar el contenido original.
¿Vulnera este post tus derechos? Pincha aquí.
Creado:
¿Qué te ha parecido esta idea?

Esta idea proviene de:

Y estas son sus últimas ideas publicadas:

Etiquetas: Tecnología

Recomendamos

Relacionado

Tecnología

Los algoritmos de aprendizaje automático juegan un papel importante en el desarrollo de gran parte de la Inteligencia Artificial que vemos hoy. La inteligencia artificial (IA) y el aprendizaje automático producen muchos de los avances que vemos en la industria de la tecnología hoy en día. Pero, ¿cómo se les da a las máquinas la capacidad de aprender? ¿Qué es el aprendizaje automático? El aprendiz ...

9 cosas que hay que saber sobre Chat GPT El modelo lingüístico más reciente, Chat GPT, es una IA abierta (Altman, Musk y otros inversores de Silicon Valley crearon en 2015 una organización sin ánimo de lucro para la investigación en inteligencia artificial) creada y entrenada exclusivamente para conversaciones. La OpenAI de Sam Altman lanzó ChatGPT el 30 de noviembre y desde entonces ha arrasado ...

Tecnología IA Trabajo

¿Abrazar el trabajo remoto o híbrido? Aquí hay algunas formas en que la Inteligencia Artificial está revolucionando estos modelos de trabajo, haciendo que la colaboración y la productividad sean muy sencillas. El surgimiento de modelos de trabajo remotos e híbridos ha visto un cambio disruptivo en la forma en que trabajamos. El aumento exponencial en el uso de la IA ha cambiado la forma en que int ...

KataOS es el nuevo S.O de Google para aplicaciones de aprendizaje automático Tech Google está trabajando en el desarrollo de un sistema operativo integrado que se basa en el aprendizaje automático. KataOS se basa en tecnologías de código abierto desarrolladas específicamente para proteger los datos y la privacidad de los usuarios. Como ha demostrado la debacle de Stadia, Google trabaja constantem ...

Tecnología

Las redes neuronales y el aprendizaje profundo se usan indistintamente, pero son diferentes. La inteligencia artificial se ha convertido en una parte integral de nuestra vida diaria en el mundo actual impulsado por la tecnología. Aunque algunas personas usan las redes neuronales y el aprendizaje profundo indistintamente, sus avances, características y aplicaciones varían. Entonces, ¿qué son las re ...

La inteligencia artificial ya se utiliza ampliamente en la atención sanitaria, pero la IA generativa es un gran paso adelante -y algo arriesgado- debido a la rápida implantación de la tecnología unida a la falta de regulación y supervisión, según afirmaron expertos del sector en la conferencia HIMSS celebrada esta semana en Chicago. En consecuencia, la IA generativa, como GPT-4, el último gran mod ...

Tecnología IA Inteligencia Artificial

El CIO (Chief Information Officer) o director de sistemas de información, es el responsable de utilizar estos mismos sistemas para elaborar los planes y cumplir los objetivos de una empresa. Se trata de un puesto que requiere más experiencia en tecnología que formación académica. La perspectiva de estos profesionales es importante para entender los movimientos que pueden realizar las empresas en b ...

Desde hace tiempo marcas como Google, Amazon o IBM están a la cabeza de la investigación y uso de la inteligencia artificial, ya que permite, entre otras cosas, mejorar la experiencia de usuario. Pero no solo las empresas integran la inteligencia artificial en su negocio, sino que también los estados, que deben manejar miles de datos, la utilizan como parte de su estrategia geopolítica en el ámbit ...

Noticias Marketing Digital Tecnologia ...

Hoy en día la Inteligencia Artificial te la puedes encontrar en cualquier sitio. Impulsa nuestros asistentes personales, como Siri, Alexa y Google Home, previene el fraude con tarjetas de crédito e incluso empieza a conducir nuestros vehículos. Cada día que pasa, la IA se vuelve más inprescindible en nuestro trabajo diario. La publicidad y el marketing se encuentran a la vanguardia, creando víncul ...

Noticias Marketing Digital Tecnologia ...

Hoy en día la Inteligencia Artificial te la puedes encontrar en cualquier sitio. Impulsa nuestros asistentes personales, como Siri, Alexa y Google Home, previene el fraude con tarjetas de crédito e incluso empieza a conducir nuestros vehículos. Cada día que pasa, la IA se vuelve más inprescindible en nuestro trabajo diario. La publicidad y el marketing se encuentran a la vanguardia, creando víncul ...