La próxima función, anunciada hoy en la conferencia anual de desarrolladores de Zoom, traducirá un videoclip que los usuarios graban de sí mismos en un clon digital, con cabeza, brazos y hombros.
Por: Sandra Petrucci Lic. Sistemas / Locutora Integral
Los usuarios podrán escribir un guion de lo que quieren que diga el doble digital y Zoom generará un audio que se sincronizará con los movimientos de los labios del avatar.
Smita Hashim, directora de productos de Zoom, dijo en la conferencia de hoy, que los avatares personalizados fueron diseñados para ayudar a las personas a chatear “asincrónicamente” con colegas de una manera “más rápida y productiva”.
“Los avatares ahorrarán a los usuarios un tiempo y un esfuerzo valiosos a la hora de grabar clips, y les permitirán escalar la creación de videos”, afirmó Hashim. Sin embargo, también podrían suponer un riesgo de deepfake.
Varias empresas han desarrollado tecnología de inteligencia artificial para “clonar” digitalmente el rostro de una persona y asociarlo con un habla sintética que suene razonablemente natural.
Tavus, por ejemplo, ayuda a las marcas a crear personajes virtuales para anuncios de video personalizados, y el año pasado Microsoft lanzó un servicio, que puede generar sustitutos digitales convincentes de una persona.
Pero muchas de estas herramientas implementan medidas de seguridad específicas y estrictas para protegerlas contra el uso indebido.
Tavus requiere declaraciones de consentimiento verbales y Microsoft exige que sus clientes obtengan el permiso y el consentimiento por escrito de cualquier avatar destacado.
Señalando las políticas de uso de Zoom que prohíben el uso indebido, Hashim dijo que la compañía está incorporando “numerosas medidas de seguridad” en su función de avatar personalizado, incluida la “autenticación avanzada” y la marca de agua.
“Seguiremos revisando y añadiendo salvaguardas según sea necesario en el futuro”, dijo Hashim. “Utilizamos (…) tecnología para que sea obvio cuando un clip se genera con un avatar y (…) para ayudar a garantizar la integridad del contenido generado por avatar”.
Las semejanzas digitales de Zoom se alinean con la visión más amplio, del CEO Eric Yuan, de crear IA que algún día puedan hablar en reuniones de Zoom por usted, responder correos electrónicos y atender llamadas telefónicas.
Pero estas semejanzas llegan en un momento en que los deepfakes se están extendiendo como un reguero de pólvora por las redes sociales, haciendo más difícil distinguir la verdad de la desinformación.
En lo que va del año, las imágenes falsas protagonizadas por el presidente Joe Biden, Taylor Swift y la vicepresidenta Kamala Harris, han acumulado millones de visitas y se han compartido.
Más recientemente, imágenes falsas generadas por inteligencia artificial que mostraban destrucción y sufrimiento humano inundaron la web, tras el huracán Helene.
Los deepfakes también se han utilizado para atacar a personas, haciéndose pasar por seres queridos, por ejemplo.
Las pérdidas vinculadas a estafas de suplantación de identidad superaron los mil millones de dólares el año pasado, según la FTC.
¿Cómo evitará Zoom que los estafadores utilicen su herramienta para generar vídeos de personas que dicen cosas que no dijeron con fines maliciosos?
Aún no está claro. Una maqueta proporcionada por la empresa muestra una marca de agua visible en la esquina superior derecha de un vídeo de avatar personalizado.
Pero marcas de agua como estas se pueden recortar fácilmente con herramientas de grabación de pantalla.
Esperamos saber más a medida que se acerque la primera mitad de 2025, cuando Zoom planea lanzar avatares personalizados para Zoom Clips, su herramienta de video asincrónico, como parte de un complemento premium de $12 por usuario por mes.
Independientemente de las medidas que tome (o no) Zoom, hay esfuerzos regulatorios en curso para intentar contrarrestar la avalancha de deepfakes.
A falta de una ley que penalice los deepfakes a nivel federal en Estados Unidos, más de 10 estados han promulgado estatutos contra la suplantación de identidad con ayuda de inteligencia artificial.
La ley de California, actualmente estancada, será la primera en facultar a los jueces para ordenar a quienes publican deepfakes que los eliminen o se enfrenten a posibles sanciones monetarias.
