En este sentido, Google es quizá la empresa que más ha apostado por el desarrollo de IA y durante su evento I/O para desarrolladores presentó un nuevo sistema aplicado a la automatización de las conversaciones telefónicas, llamado Google Duplex.
De esta forma, por medio de una demostración en la que Google Assistant hizo una llamada a una peluquería, se demostró que podía engañar al humano con su voz al mantener una conversación mediante una voz sintetizada.
Lo más relevante es que este sistema se basa en una Red Neuronal Recurrente desarrollada mediante “TensorFlow Extended”, que logra una mayor precisión en las conversaciones, haciendo que el sistema mantenga una "charla autónoma”.
Esta asistente virtual inteligente ha causado controversias éticas y morales, que han derivado en que Google tome medidas al respecto. La compañía advierte que ha trabajado en mostrar las posibilidades y avances de esta tecnología, pero muchos advirtien sobre la posibilidad de que la IA se haga pasar por humano.
Todo esto puede parecer anecdótico, pero es preocupante si consideramos que cada vez interactuamos más con la IA y que fácilmente podría salir de control y decidir que la mejor forma de proceder sería dañar o hasta destruir a un humano, violando así la primera ley de la robótica.
Vía Google