Herzog y Žižek se convierten en siniestros bots de IA atrapados en interminables conversaciones


Agrandar / Retratos generados por IA de Slavoj Žižek y Werner Herzog de The Infinite Conversation. Giacomo Miceli / Ars Technica Esta semana, un artista y programador italiano llamado Giacomo Miceli presentó el sitio web The Infinite Conversation, un chat continuo impulsado por IA entre versiones artificiales del director alemán Werner Herzog y el filósofo esloveno Slavoj Žižek, con voces realistas. Al visitar el sitio web, que no está afiliado a ninguna de las personas, verá retratos de carboncillo generados por IA de los dos hombres de perfil. En el medio, una transcripción del texto generado por IA se resalta en amarillo mientras las voces generadas por IA que simulan las de Herzog o Žižek lo leen. La conversación va y viene entre ellos, completa con distintos acentos, y puedes saltar entre cada segmento haciendo clic en las flechas debajo de los retratos. Su creador posiciona el sitio como un comentario social sobre falsificaciones de audio y nuevas tecnologías que pueden erosionar la confianza en los medios en un futuro cercano. «Este proyecto tiene como objetivo crear conciencia sobre lo fácil que es usar herramientas para sintetizar una voz real», escribe Miceli en el sitio web. «En este momento, cualquier tonto motivado con una computadora portátil en su habitación puede hacer eso».
Agrandar / Una captura de pantalla del sitio web The Infinite Conversation en acción. Giacomo Miceli Herzog y Žižek parecen ser objetivos particularmente maduros para la suplantación de IA, ya que los oyentes pueden inclinarse a pensar que el director filosófico y el filósofo podrían estar diciendo cosas profundas que son difíciles de entender. Como resultado, cuando el gran modelo de lenguaje de estilo GPT-3 detrás de The Infinite Conversation escupe tonterías filosóficas, casi suena como la realidad. Aquí hay un ejemplo de algo que dijo el falso duque en el sitio: publicidad

En cierto modo, Freud también tiene algo que ver con la literatura. Después de todo, él era un escritor. Sí, era un científico, quería ser un científico, pero también era un escritor que escribió estas extrañas historias en desacuerdo con Freud. Por un lado, tenía una visión antropológica tan fuerte que me parece muy atractiva, por otro lado, tenía una comprensión limitada de la historia cultural. Era muy anticuario, para él la antigüedad era la época más importante porque revelaba claramente los instintos, mientras que la Edad Media era simplemente mala. Solo hacia el final de su vida vio algo bueno en la Edad Media.

El diálogo parece continuar para siempre. «Cuando abres este sitio web, te llevan a un punto aleatorio del diálogo», escribe Miceli. “Cada día se agrega un nuevo segmento de la conversación. Los nuevos segmentos se pueden generar más rápido de lo que se tarda en escucharlos. Teóricamente, esta conversación podría durar hasta el final de los tiempos». Según los informes, Miceli construyó el sitio utilizando «herramientas de código abierto disponibles para cualquiera» y se negó a proporcionar detalles técnicos, aunque escribió en Hacker News, que podría producir un artículo explicativo dentro de la siguiente semana. «La creación del guión en sí se realiza utilizando un modelo de lenguaje popular que se ha perfeccionado mediante entrevistas y contenido escrito por cada uno de los dos actores de voz», escribe en las preguntas frecuentes del sitio. En Ars, hemos cubierto previamente tecnologías que pueden manipular su voz usando IA o incluso permitir que alguien suplante audiblemente a otra persona. Y en octubre, vimos un podcast que usaba una tecnología de síntesis de voz similar para respaldar una entrevista falsa entre Steve Jobs y Joe Rogan. Pocos pueden dudar de que estamos a la vanguardia de una nueva era en medios sintéticos, pero cuando las máquinas hablen, ¿tendrán sentido? Ese no es exactamente el caso con The Infinite Conversation. «Todo lo que escuchas es generado completamente por una máquina», escribe Miceli. “Las opiniones y creencias expresadas no representan a nadie. Son las alucinaciones de una placa de silicio”.

Deja una respuesta

Tu dirección de correo electrónico no será publicada.