Como decía el tío Ben, un gran poder conlleva una gran responsabilidad, pero a veces ese poder es usado por gente malintencionada o derechamente malvada. Uno de esos poderes son los que nos están entregando las diferentes Inteligencias Artificiales existentes, siendo una de ellas el software de voz ElevenLabs, desarrollado para “creadores y editores que buscan las mejores herramientas para contar historias” y que permite tomar una voz real para que esta lea textos, como si fueran relatados por humanos.

IA creada por ex empleados de Google y Palantir, quienes anunciaroneste lunes que han encontrado una gran cantidad “de casos de uso indebido de clonación de voz" durante su fase beta lanzada recientemente. Y aunque no mencionaron ningún ejemplo, el sitio Motherboard reportóque estos casos podrían ser los que encontró en 4chan, donde varios usuarios han usado el software para generar voces similares a las de varios famosos y publicar comentarios tóxicos, entre ellos mensajes racistas.

Puedes leer: Soldado burla a robot militar con Inteligencia Artificial utilizando táctica meme de la caja de cartón de Metal Gear Solid

Entre los mensajes falsos con voces de famosos se encuentran una que es similar a la de la actriz Emma Watson, la cual lee una sección del libro Mi Lucha de Hitler, al igual que un mensaje con la voz de Rick Sánchez de Rick & Morty que dice: “Voy a vencer a mi esposa Morty. Voy a golpear a mi p$ta esposa Morty. Voy a matarla a golpes, Morty”, aludiendo a las acusaciones de violencia doméstica que enfrenta Justin Roiland, quien le da su voz al personaje.

782943.jpg

Según indican en el mismo medio, ElevenLabs no quiso entregar ningún comentario al respecto, siendo la única declaración la que entregaron en Twitter, donde aseguranque “si bien podemos rastrear cualquier audio generado hasta el usuario, nos gustaría abordar esto implementando medidas de seguridad adicionales”.

782944.jpg

Editorial: Gaming / Facebook / Twitter / Cobertura / Instagram / Discord