El Partido Demócrata ha comenzado a probar el uso de inteligencia artificial para escribir los primeros borradores de algunos mensajes de recaudación de fondos, llamamientos que a menudo funcionan mejor que los escritos en su totalidad por seres humanos.
Las imágenes falsas de inteligencia artificial de Donald J. Trump arrestado en Nueva York se difundieron más rápido de lo que pudieron verificarse la semana pasada.
Y las herramientas de clonación de voz están produciendo un audio vívidamente real del presidente Biden, y muchos otros, diciendo cosas que en realidad no dijeron.
La inteligencia artificial no solo llegará pronto a la campaña electoral de 2024. Ya está aquí.
El rápido avance de la IA promete ser tan disruptivo para la esfera política como para la sociedad en general. Ahora, cualquier aficionado con una computadora portátil puede producir los tipos de sonidos e imágenes convincentes que alguna vez fueron dominio de los reproductores digitales más sofisticados. Esta democratización de la desinformación está desdibujando los límites entre lo real y lo falso en un momento en que la aceptación de las verdades universales —que Biden venció a Trump en 2020, por ejemplo— ya se está tensando.
Y a medida que los medios sintéticos se vuelven más creíbles, la pregunta es: ¿Qué sucede cuando las personas ya no pueden confiar en sus propios ojos y oídos?
Dentro de las campañas, se espera que la inteligencia artificial pronto ayude a realizar tareas mundanas que antes requerían flotas de pasantes. Tanto los ingenieros republicanos como los demócratas están compitiendo para desarrollar herramientas que aprovechen la IA para hacer que la publicidad sea más eficiente, para participar en análisis predictivos del comportamiento público, para escribir más y más textos personalizados y para descubrir nuevos patrones en montañas de datos de votantes. La tecnología está evolucionando tan rápido que la mayoría predice un impacto profundo, incluso si las formas específicas en las que pondrá patas arriba el sistema político son más especulaciones que ciencia.
“Es un momento iPhone, ese es el único corolario que todos apreciarán”, dijo Dan Woods, director de tecnología de la campaña 2020 de Biden. “Se necesitarán pruebas de presión para determinar si es bueno o malo, y probablemente sean ambos”.
OpenAI, cuyo chatbot ChatGPT marcó el comienzo de la fiebre del oro del texto generativo, ya ha lanzado un modelo más avanzado. Google ha anunciado planes para expandir las ofertas de IA dentro de aplicaciones populares como Google Docs y Gmail, y está implementando su propio chatbot. Microsoft también ha lanzado una versión al mercado. Una empresa más pequeña, ElevenLabs, ha desarrollado una herramienta de texto a audio que puede imitar la voz de cualquier persona en minutos. Midjourney, un popular generador de arte de IA, puede evocar imágenes hiperrealistas con unas pocas líneas de texto que son lo suficientemente convincentes como para ganar concursos de arte.
“La IA está a punto de hacer un cambio significativo en las elecciones de 2024 debido a la capacidad predictiva del aprendizaje automático”, dijo Brad Parscale, el primer director de campaña de Trump en 2020, quien desde entonces fundó una empresa digital que anuncia algunas capacidades de IA.
La desinformación y los “deepfakes” son el miedo dominante. Si bien las falsificaciones no son nada nuevo en la política, una imagen modificada con Photoshop de John Kerry y Jane Fonda fue ampliamente compartido en 2004 – la capacidad de producirlos y compartirlos se ha acelerado, y las imágenes virales de IA de Trump siendo retenido por la policía son solo el ejemplo más reciente. Una imagen falsa de Papa Francisco con bata blanca hinchada también se volvió viral en los últimos días.
Una nueva generación de chatbots
Un valeroso nuevo mundo. Una nueva cosecha de chatbots impulsados por inteligencia artificial ha iniciado una lucha para determinar si la tecnología podría cambiar la economía de Internet, convirtiendo a las potencias actuales en pasados y creando los próximos gigantes de la industria. Aquí están los bots para saber:
ChatGPT. ChatGPT, el modelo de lenguaje de inteligencia artificial de un laboratorio de investigación, OpenAI, ha estado en los titulares desde noviembre por su capacidad para responder a preguntas complejas, escribir poesía, generar código, planificar vacaciones y traducir idiomas. GPT-4, la última versión presentada a mediados de marzo, puede incluso responder a imágenes (y aprobar el examen de la barra uniforme).
Bing. Dos meses después del debut de ChatGPT, Microsoft, el principal inversionista y socio de OpenAI, agregó un chatbot similar, capaz de tener conversaciones de texto abiertas sobre prácticamente cualquier tema, a su motor de búsqueda en Internet Bing. Pero fueron las respuestas ocasionalmente inexactas, engañosas y extrañas del bot las que atrajeron gran parte de la atención después de su lanzamiento.
Ernie. El gigante de las búsquedas Baidu dio a conocer el primer gran rival de China para ChatGPT en marzo. El debut de Ernie, abreviatura de Representación mejorada a través de la integración del conocimiento, resultó ser un fracaso después de que se revelara que se había grabado una demostración “en vivo” prometida del bot.
Muchos están particularmente preocupados por las carreras locales, que reciben mucho menos escrutinio. Antes de la reciente primaria en la carrera por la alcaldía de Chicago, un video falso surgió en una cuenta de Twitter llamada “Chicago Lakefront News” que se hizo pasar por un candidato, Paul Vallas.
“Desafortunadamente, creo que la gente descubrirá cómo usar esto para el mal más rápido que para mejorar la vida cívica”, dijo Joe Rospars, quien fue estratega jefe en la campaña 2020 de la senadora Elizabeth Warren y ahora es director ejecutivo de una consultoría digital.
Quienes trabajan en la intersección de la política y la tecnología vuelven repetidamente a la misma hipótesis histórica: si hoy se rompiera la infame cinta de “Access Hollywood”, en la que se escucha a Trump jactándose de agredir a las mujeres y salirse con la suya, ¿el Sr. ¿Reconoce Trump que fue él, como lo hizo en 2016?
La respuesta casi universal fue no.
“Pienso en ese ejemplo todo el tiempo”, dijo Matt Hodges, quien fue director de ingeniería en la campaña 2020 de Biden y ahora es director ejecutivo de Zinc Labs, que invierte en tecnología demócrata. Los republicanos, dijo, “puede que ya no usen ‘noticias falsas’. Puede ser ‘Woke AI’”
Por ahora, se espera que la función de primera línea de AI en las campañas sea escribir los primeros borradores de las interminables solicitudes de efectivo por correo electrónico y texto.
“Dada la cantidad de palabrería tonta y de memoria que se produce en la política, la gente la pondrá a trabajar”, dijo Luke Thompson, un estratega político republicano.
Como experimento, The New York Times le pidió a ChatGPT que produjera un correo electrónico de recaudación de fondos para el Sr. Trump. La aplicación inicialmente decía: “No puedo tomar partido político ni promover ninguna agenda política”. Pero luego proporcionó de inmediato una plantilla de un posible correo electrónico similar a Trump.
El chatbot rechazó una solicitud para hacer que el mensaje fuera “más enojado”, pero cumplió cuando se le pidió que “le diera más ventaja”, para reflejar mejor el tono a menudo apocalíptico de las súplicas de Trump. “Necesitamos su ayuda para enviar un mensaje a la izquierda radical de que no daremos marcha atrás”, decía el mensaje revisado de AI. “Dona ahora y ayúdanos a hacer que Estados Unidos vuelva a ser grandioso”.
Entre los grupos destacados que han experimentado con esta herramienta se encuentra el Comité Nacional Demócrata, según tres personas informadas sobre los esfuerzos. En las pruebas, el contenido generado por IA que ha utilizado el DNC, en la mayoría de los casos, se ha desempeñado tan bien o mejor que la copia redactada en su totalidad por humanos, en términos de generar participación y donaciones.
Los funcionarios del partido aún editan los borradores de AI, dijeron las personas familiarizadas con los esfuerzos, y aún no se han escrito mensajes de AI bajo el nombre de Biden o cualquier otra persona, dijeron dos personas. El DNC se negó a comentar.
Cómo los reporteros del Times cubren la política. Confiamos en que nuestros periodistas sean observadores independientes. Entonces, si bien los miembros del personal del Times pueden votar, no se les permite respaldar o hacer campaña por candidatos o causas políticas. Esto incluye participar en marchas o mítines en apoyo de un movimiento o dar dinero o recaudar dinero para cualquier candidato político o causa electoral.
Higher Ground Labs, una pequeña empresa de capital de riesgo que invierte en tecnología política para los progresistas, está trabajando actualmente en un proyecto, llamado Quiller, para utilizar de forma más sistemática la IA para escribir, enviar y probar la eficacia de los correos electrónicos de recaudación de fondos, todo a la vez.
“La IA ha estado principalmente comercializando galimatías durante los últimos tres ciclos”, dijo Betsy Hoover, socia fundadora de Higher Ground Labs y directora de organización digital para la campaña del presidente Barack Obama en 2012. “Estamos en un momento en el que hay cosas que la gente puede hacer que son realmente útiles”.
Operativos políticos, a varios de los cuales se les otorgó el anonimato para discutir usos potencialmente desagradables de la inteligencia artificial que les preocupan o planean implementar, plantearon una serie de posibilidades.
Algunos malos actores temidos podrían aprovechar los chatbots de IA para distraer o desperdiciar el valioso tiempo del personal de una campaña haciéndose pasar por votantes potenciales. Otros flotaron produciendo falsificaciones profundas de su propio candidato para generar videos personalizados, agradeciendo a los seguidores por sus donaciones, por ejemplo. En la India, uno candidato en 2020 produjo un deepfake para difundir un video de sí mismo hablando en diferentes idiomas; la tecnología es muy superior ahora.
El propio Sr. Trump compartió una imagen de IA en los últimos días que parecía mostrarlo arrodillado en oración. Lo publicó en Truth Social, su sitio de redes sociales, sin explicación.
Un estratega predijo que la próxima generación de trucos sucios podría ser información errónea directa al votante que omite por completo los sitios de redes sociales. ¿Qué pasaría si, dijo este estratega, una grabación de audio de AI de un candidato se enviara directamente al correo de voz de los votantes en vísperas de una elección?
El audio y el video sintéticos ya circulan en línea, en gran parte como parodia.
En TikTok, hay todo un género de videos que muestran al Sr. Biden, al Sr. Obama y al Sr. Trump bromeando profanamente, con el audio generado por IA superpuesto como comentario durante sesiones imaginarias de videojuegos en línea.
En “The Late Show”, Stephen Colbert usó recientemente audio de IA para que el presentador de Fox News, Tucker Carlson, “leyera” en voz alta sus mensajes de texto criticando a Trump. El Sr. Colbert etiquetó el audio como IA y la imagen en pantalla mostraba una mezcla del rostro del Sr. Carlson y un cyborg Terminator para enfatizar.
El provocador derechista Jack Posobiec publicó un video “deepfake” el mes pasado en el que Biden anunciaba un borrador nacional debido al conflicto en Ucrania. fue rapido visto por millones.
“Los videos que hemos visto en las últimas semanas son realmente el canario en la mina de carbón”, dijo Hany Farid, profesor de informática en la Universidad de California en Berkeley, que se especializa en análisis forense digital. “Medimos los avances ahora no en años sino en meses, y quedan muchos meses antes de las elecciones”.
Algunas herramientas de inteligencia artificial se implementaron en 2020. La campaña de Biden creó un programa, cuyo nombre en código es Couch Potato, que vinculaba el reconocimiento facial, la voz a texto y otras herramientas para automatizar la transcripción de eventos en vivo, incluidos los debates. Reemplazó el trabajo de una gran cantidad de pasantes y asistentes, y se pudo buscar de inmediato a través de un portal interno.
La tecnología ha mejorado tan rápidamente, dijo Woods, que las herramientas disponibles en el mercado son “1000 veces mejores” que las que se tenían que construir desde cero hace cuatro años.
Una pregunta inminente es qué pueden y no pueden hacer las campañas con las poderosas herramientas de OpenAI. una lista de usos prohibidos el otoño pasado se agruparon “campañas políticas, contenido para adultos, spam, contenido de odio”.
Kim Malfacini, quien ayudó a crear las reglas de OpenAI y forma parte del equipo de confianza y seguridad de la empresa, dijo en una entrevista que “las campañas políticas pueden usar nuestras herramientas con fines de campaña. Pero es el uso a escala lo que estamos tratando de prohibir aquí”. IA abierta revisó sus reglas de uso luego de ser contactado por The Times, especificando ahora que está prohibido “generar grandes volúmenes de materiales de campaña”.
Tommy Vietor, un ex vocero de Obama, incursionó con la herramienta de IA de ElevenLabs para crear una grabación falsa de Biden llamando al popular podcast “Pod Save America” que es coanfitrión de Vietor. Pagó unos pocos dólares y subió un audio real del Sr. Biden, y salió una imagen de audio.
“La precisión fue asombrosa”, dijo Vietor en una entrevista.
El programa lo etiquetó claramente como IA. Pero el Sr. Vietor no pudo evitar notar que algunos comentaristas en línea, sin embargo, parecían confundidos. “Empecé a jugar con el software pensando que esto es muy divertido, que será un gran vehículo para las bromas”, dijo, “y terminé pensando: ‘Oh, Dios, esto va a ser un gran problema’”.
