El gusto de Taylor Swift por Le Creuset es real: su colección de menaje de cocina apareció en un gráfico de Tumblr dedicado a decorar la casa de la estrella del pop, como lo demuestran los auspiciosos regalos que el dios le hizo a una seguidora y en un documental de Netflix publicado en la página de Facebook de Le Creuset. .
Lo que no es real es el supuesto patrocinio de Swift hacia los productos de la compañía, que en las últimas semanas han aparecido en anuncios publicados en Facebook y otros medios vendiendo su nombre y voz.
Los anuncios son una de las muchas historias famosas que la inteligencia artificial ha creado y que resultan más convincentes. En solo una semana de octubre, el actor Tom Hanks, la periodista Gayle King y la celebridad de YouTube Mrbeast Dijeron que utilizaron versiones de sí mismos impulsadas por inteligencia artificial, sin permiso, para promocionar aviones dentales sospechosos, ofertas de regalos de iPhone y otros anuncios.
Según los expertos, en el caso de Swift, la tecnología de inteligencia artificial ayudó a crear una versión sintética de la voz de la cantante, que combinó con sus imágenes y vídeos de las palabras de Le Creuset. En diversos anuncios, la voz clonada de Swift se dirigió a los “swifties”, sus seguidores, y decidió que estaba “encantada” para regalar utensilios de cocina. Todo lo que tenía que hacer para recibir las herramientas era presionar un botón y responder una pregunta antes de que terminara el día.
Le Creuset dijo que no colaboraba de ninguna manera con el cantante. La empresa pidió a los compradores que revisaran sus datos oficiales en línea antes de hacer clic en anuncios sospechosos. Los representantes de Swift, nombrada persona del año 2023 por la revista Time, no respondieron a las solicitudes de comentarios.
Los famas han prestado su fama a los locutores desde que existe la publicidad. A veces, sin querer. Más de tres décadas después, Tom Waits demandó a Frito-Lay (y ganó casi 2,5 millones de dólares) después de que la compañía Papa Fritas imitara la voz del cantante en un anuncio de radio sin su permiso. La campaña de estafa con Le Creuset también incluyó versiones falsas de Martha Stewart y Oprah Winfrey, quienes en 2022 publicaron un video en el que expresaron su molestia por la prevalencia de anuncios falsos en redes sociales, correos electrónicos y sitios web que afirmaban de manera falsa que ella defendía Uns codos para adelgazar.
En el último año, importantes avances en inteligencia artificial han hecho que sea mucho más fácil producir una réplica digital no autorizada por una persona real. Las falsificaciones de audio fueron particularmente fáciles de producir y difíciles de identificar, según Siwei Lyu, profesor de informática que dirige el Laboratorio Forense Medios de la Universidad de Buffalo, en Nueva York.
La campaña stafa de Le Creuset probablemente se creó con un servicio de conversión de texto a voz, explicó Lyu. Estas herramientas suelen traducir la guía en una voz generada por IA, que luego puede incorporar secuencias de vídeo existentes mediante programas de sincronización de labios.
“Todos los días, estos elementos son muy accesibles”, dijo Lyu, añadiendo que es posible hacer un “vídeo de calidad decente” en menos de 45 minutos. “Es fácil moverse y por eso lo estamos haciendo más”.
Décadas de anuncios diferentes de Le Creuset, pero similares a los mostrados en Swift (muchos de ellos publicados este mes), eran visibles desde finales de la semana pasada en la selección pública de anuncios de Meta. (La empresa es propietaria de Instagram y Facebook). La campaña también fue publicada en TikTok.
Los anuncios se envían a usuarios de sitios web que imitan medios legítimos, como Food Network, donde se muestran noticias falsas sobre la oferta de Le Creuset junto con testimonios ficticios de clientes. Se dirigió a los participantes que pagaron una “pequeña tarifa de envío de $9,96” por los utensilios de cocina. Los que asisten son llevados apresuradamente a cargamentos mensuales no declarados sin recibir los utensilios de cocina prometidos.
Algunos anuncios falsos de Le Creuset, como uno que imitaba a la diseñadora de interiores Joanna Gaines, tienen un brillo brillante de legitimidad en las redes sociales gracias a etiquetas que los identifican como publicaciones patrocinadas o cuentas verificadas.
En abril, el Better Business Bureau advirtió a los consumidores que las escenas de celebridades falsas impulsadas por inteligencia artificial eran “más convincentes que nunca”. Las víctimas se encontraron con el menú con cargas superiores a las expectativas y pecado del producto que habían pedido. Los banqueros también han informado de intentos de expertos de utilizar grabaciones de voz ultrafalsas, o réplicas sintéticas de voces de personas reales, para combatir el fraude financiero.
Durante el año pasado, varias figuras conocidas intentaron distanciarse públicamente de anuncios en lo que aparece su imagen o su voz manipulada por inteligencia artificial.
Es cierto que en Internet se difundieron anuncios falsos en los que aparecía el cantante de country Luke Combs promocionando codos para cumplir su consejo sobre su colega Lainey Wilson. Wilson publicó un vídeo en Instagram denunciando los anuncios, en el que decía que “la gente obtendrá lo que quiera por ganar un dólar, incluso si mienten”. El manager de Combs, Chris Kappy, también publicó un vídeo en Instagram negando su participación en la campaña de empujón y acusando a empresas extranjeras de utilizar inteligencia artificial para replicar el parecido de Combs.
“Para los directivos que vienen a verme, la inteligencia artificial es un terreno fértil y la utilizan contra nosotros”, escribió.
Un portal de TikTok dice que la política publicitaria de la aplicación exige que los locutores obtengan consentimiento para “cualquier medio sintético que contenga una figura pública” y añade que las directrices de la comunidad de TikTok exigen que los creadores se regocijen cuando hay ” “medios sintéticos o manipulados que deben mostrar escenas realistas”.
Meta dije que Tomó reflexionó sobre los anuncios que violaban su política, que prohíbe el contenido que utilice personajes públicos de manera engañosa para tratar de estafar a los usuarios. La empresa informó que había emprendido acciones legales contra algunos autores de este tipo de actividad, pero añadió que los anuncios maliciosos lograron evadir los sistemas de revisión de Meta disfrazando su contenido.
Dado que no existen leyes federales que respeten las etapas de la IA, los legisladores han propuesto leyes para limitar sus daños. Dos proyectos de ley presentados en el Congreso el año pasado (la Ley de Responsabilidad Ultrafake en la Cámara de Representantes y la Ley Anti-False en el Senado) requieren salvaguardias como etiquetas de contenido o permiso para usar la voz o la imagen de alguien.
En menos estados nuevos, incluidos California, Virginia, Florida y Hawái, tenemos leyes que regulan el contenido generado por IA.
A partir de ahora, Swift probablemente seguirá su tema de experimentos con esta tecnología. Versiones sintéticas de tu voz aparecen regularmente en TikTok, interpretando canciones que no cantaron, criticando a los críticos y sirviendo como tono de llamada. Una entrevista en inglés que el programa concedió en 2021 Tarde en la noche con Seth Meyers fue doblada con una interpretación artificial de su voz en mandarín. Un sitio web cobra hasta 20 dólares por mensajes de voz personalizados del “clon de inteligencia artificial de Taylor Swift”, prometiendo “que la voz que ves es indistinguible de la real”.
