Imagina recibir una llamada del presidente Biden pidiéndote que no votes. Ahora, imagina que esa voz era una clonación creada con IA.
La Estafa Que Sorprendió a New Hampshire
En enero, votantes de New Hampshire fueron bombardeados con llamadas automáticas que parecían ser del propio presidente Biden, instándoles a no participar en las primarias. Sin embargo, todo era un engaño, utilizando tecnología de clonación de voz que ha avanzado rápidamente en los últimos años.
La FCC ha tomado cartas en el asunto, proponiendo una multa de 6 millones de dólares al responsable de esta estafa, que no solo violó las leyes sobre llamadas automáticas, sino que también abusó de la tecnología de IA para intentar manipular las elecciones.
Tecnología a Nuestro Alcance
Hoy en día, crear una voz falsa no es un desafío técnico. Plataformas de IA generativa permiten clonar voces con apenas unos minutos de grabaciones. Esto incluye discursos públicos del presidente, disponibles en línea con facilidad.
Servicios de clonación de voz han proliferado, ofreciendo voces clonadas con pocas restricciones. Sin embargo, usar estas voces para fines ilegales, como la supresión de votantes, está claramente prohibido.
La Respuesta de la FCC
La FCC y otras agencias de la ley han sido enfáticas: no permitirán que estas tecnologías sean usadas para interferir en las elecciones, defraudar a consumidores o comprometer datos confidenciales.
Loyaan Egal, jefe de la Oficina de Cumplimiento de la FCC, afirmó: «Actuaremos con rapidez y decisión para garantizar que los malos actores no puedan utilizar las redes de telecomunicaciones de EE. UU. para facilitar el uso indebido de la tecnología de inteligencia artificial generativa.»
Los Involucrados
El principal responsable identificado es Steve Kramer, un «consultor político» que, junto con Life Corporation y Lingo (una empresa con múltiples alias), ejecutaron esta estafa. La Life Corporation ya había sido acusada previamente de realizar llamadas automáticas ilegales.
Kramer ha violado varias regulaciones, pero hasta ahora no hay procesos penales en su contra. La multa de 6 millones de dólares impuesta es una cifra significativa, aunque la cantidad real pagada podría ser menor por diversas razones.
Nuevas Regulaciones
En respuesta a este caso, en febrero se declaró oficialmente ilegal el uso de voces generadas por IA en llamadas automáticas. La FCC decidió que estas voces contaban como “artificiales” y, por lo tanto, debían ser reguladas estrictamente.
Conclusión
El caso del clon de voz de Biden subraya los desafíos y peligros del uso indebido de la tecnología de IA. Si bien estas herramientas ofrecen enormes beneficios, también presentan riesgos significativos que deben ser manejados con cautela y firmeza.
