Expertos discuten las mayores amenazas que plantea la IA

Durante el Foro Ejecutivo de Seguridad Cibernética Pro WSJ en Nueva York, varios expertos se reunieron para expresar sus opiniones acerca de las mayores amenazas del uso de Inteligencia Artificial. Entre todos los tópicos, el contenido falso fue considerado como el mayor peligro actual.

Camille François, directora de innovación de la firma de análisis de redes sociales Graphika, dice que los artículos falsos representan el mayor peligro. Algunas “fake news” creadas por humanos han sido viralizadas en redes sociales y han generado estragos, tan solo imaginemos lo riesgoso que puede ser que la automatización entre en juego, a favor del contenido falso.

Precisamente, François destaca que los artículos falsos y las campañas de desinformación de hoy dependen de mucho trabajo manual para crear y difundir un mensaje falso.

“Cuando nos fijamos en las campañas de desinformación, la cantidad de trabajo manual que se necesita para crear sitios web falsos y blogs falsos es gigantesca”, dijo François. “Si simplemente se puede automatizar texto creíble y atractivo, entonces se puede inundar Internet de basura de una manera muy automatizada y escalable”. La experta agregó que ante ese riesgo se siente realmente preocupada.

Y las fake news generadas por IA no son ciencia ficción. Recordemos que en febrero de este año, OpenAI presentó su herramienta GPT-2 que genera texto falso convincente. La IA fue entrenada en 40 gigabytes de texto que abarca ocho millones de sitios web. Pero por el temor de las repercusiones que pudieran tener las noticias falsas, la empresa de nuevas tecnologías y algoritmos decidió no lanzar públicamente GPT-2. Sin embargo, fueron los responsables de dejar esta idea en el aire y más tarde en agosto, dos graduados decidieron recrear el generador de texto de OpenAI.

Estos dos nuevos involucrados señalaron que no ven su algoritmo como una amenaza, y lo publicaron para mostrarle al mundo lo que era posible sin ser una empresa o gobierno con grandes cantidades de recursos. Vanya Cohen, una de las graduadas dijo a Wired:

“Esto permite que todos tengan una conversación importante sobre seguridad y que los investigadores ayuden a protegerse contra futuros abusos potenciales”.

En el panel del evento, Celeste Fralick, científica de datos en jefe e ingeniera principal en McAfee, recomendó que las compañías se asocien con firmas especializadas en detectar falsificaciones profundas. En el orden de ideas de las amenazas que representa la IA, también se mencionaron los “ataques adversos de aprendizaje automático” mediante los cuales un pirata informático encuentra y explota una vulnerabilidad en un sistema de inteligencia artificial.

Para describir esta amenaza Fralick puso el ejemplo de un experimento realizado por Dawn Song, profesor de la Universidad de California, Berkeley, en el que se engañó a un automóvil sin conductor al creer que una señal de alto era una señal de límite de velocidad de 45 MPH con solo usar calcomanías. Fralick agregó que McAfee realizó experimentos similares y descubrió más vulnerabilidades, por ejemplo, una señal de límite de velocidad de 35 MPH se modificó una vez más para engañar a la IA de un automóvil sin conductor.

Ambos panelistas opinan que es imperativo asegurarse de que las personas tengan conocimientos básicos de inteligencia artificial para contrarrestar las amenazas.

Fuente: este post proviene de IntelDig, donde puedes consultar el contenido original.
¿Vulnera este post tus derechos? Pincha aquí.
¿Qué te ha parecido esta idea?

Esta idea proviene de:

Y estas son sus últimas ideas publicadas:

Recomendamos

Relacionado

Computación Inteligencia Artificial AI ...

Open IA oculta hallazgos por posibles impactos en la sociedad

Open IA decidió ocultar los hallazgos de su última investigación por temor a sus posibles usos indebidos y el impacto social negativo que tendría. El hallazgo tiene que ver con artículos convincentes de “fake news”. El instituto, respaldado por personalidades como Elon Musk y Peter Thiel, desarrolló una IA que puede producir esas noticias falsas sobre cualquier tema. Los artículos solo ...

Innovation New Business and ICT Organizational Ethnography / Anthropology ...

Que quede claro "la IA no tiene nada que ver con data science" - #IA #DataScience

La verdad este post nace por la importancia de que ciertas ideas y conceptos se manejen con claridad, como Inteligencia Artificial y Data Science. Quienes trabajamos en innovación y hemos vivido varios hype por la innovación, hemos visto como muchos directivos caen ante "vendedores de humo" o "seudo expertos" que comienzan a usar conceptos como parte de su experticia, pero su ...

Noticias Marketing Digital Tecnologia ...

5 Formas en que la IA Transforma el Marketing Digital

Hoy en día la Inteligencia Artificial te la puedes encontrar en cualquier sitio. Impulsa nuestros asistentes personales, como Siri, Alexa y Google Home, previene el fraude con tarjetas de crédito e incluso empieza a conducir nuestros vehículos. Cada día que pasa, la IA se vuelve más inprescindible en nuestro trabajo diario. La publicidad y el marketing se encuentran a la vanguardia, creando víncul ...

Apps antivirus android malware ...

Los Mejores Antivirus para Android [ACTUALIZADO]

En los tiempos que corren, mucha es la información importante que guardamos en nuestros dispositivos Android. Es por ello que quizás te hayas planteado instalar algún software de seguridad, como un  antivirus. Pero, ¿es realmente necesario? Existe cierto debate acerca de si las apps antivirus para smartphones y tabletas son realmente necesarias. La verdad, esto depende del uso que le des a tu disp ...

tecnología

Ransomware: la familia de código malicioso que tiene en jaque la información de las empresas

Cada vez es más frecuente escuchar que las empresas han sido víctimas del ransomware, infectando y bloqueando el acceso a diversos dispositivos o archivos, por lo cual los usuarios se han visto obligados a pagar un rescate para recuperar el acceso a su información. Entre las preocupaciones de seguridad informática de las empresas en Latinoamérica, el primer lugar del podio lo ocuparon los secuest ...