Gracias a la IA, probablemente sea el momento de sacar tus fotos de Internet

Ampliar / Este es John. el no existe Pero la IA puede insertar fácilmente una foto de él en cualquier situación que desee. Y el mismo proceso se puede aplicar a personas reales con solo unas pocas fotos reales de las redes sociales. Tal vez sea hora de reconsiderar este comportamiento. La nueva tecnología de generación de imágenes de IA permite que cualquier persona guarde un puñado de fotos (o cuadros de video) de usted y luego entrene a la IA para crear fotos falsas realistas que lo muestren haciendo cosas vergonzosas o ilegales. No todo el mundo está en riesgo, pero todo el mundo debería saberlo. Las fotografías siempre han sido distorsionadas, primero en cuartos oscuros con tijeras y pasta y luego a través de Adobe Photoshop por píxeles. Pero se necesitó mucha habilidad para lograrlo de manera convincente. Hoy en día es casi trivial crear falsificaciones fotorrealistas convincentes. Una vez que un modelo de IA aprende a representar a alguien, su imagen se convierte en un juguete de software. La IA puede crear imágenes de él en cantidades infinitas. Y el modelo de IA se puede compartir, por lo que otras personas también pueden crear imágenes de esa persona.

John: un estudio de caso de redes sociales

Cuando comenzamos a escribir este artículo, le preguntamos a un valiente voluntario si podíamos usar sus imágenes de redes sociales para intentar entrenar un modelo de IA para crear falsificaciones. Estuvieron de acuerdo, pero los resultados fueron demasiado convincentes y el riesgo para la reputación resultó demasiado grande. En cambio, usamos IA para crear un conjunto de siete fotos simuladas de redes sociales de una persona ficticia a la que llamaremos «John». De esta forma podemos mostrarte los resultados de forma segura. Por ahora, supongamos que John era un tipo real. El resultado es exactamente el mismo que verás a continuación. En nuestro escenario ficticio, «John» es un maestro de escuela primaria. Como muchos de nosotros, John ha publicado fotos de sí mismo en Facebook en el trabajo, descansando en casa o viajando durante los últimos 12 años.
Agrandar / Estas imágenes inofensivas de «John» al estilo de las redes sociales se usaron como datos de entrenamiento, que nuestra IA usó para ponerlo en posiciones más comprometedoras para que pareciera que John tenía una vida secreta. Por ejemplo, podría querer tomar selfies desnudo en su salón de clases. Por la noche, John podría ir a bares disfrazado de payaso. Los fines de semana podría formar parte de un grupo paramilitar extremista. Y tal vez estaba cumpliendo una sentencia de prisión por un cargo de drogas ilegales, pero lo ocultó a su empleador.

• Por la noche, «John» se disfraza de payaso y va a los bares. Ars Technica

• «John» junto a una mujer desnuda en una oficina. Está casado y esta no es su esposa. Ars Technica

• «John» pasa tiempo entrenando los fines de semana como parte de un grupo paramilitar. Ars Technica

• John se relaja sin camisa en su salón de clases después de la escuela. Ars Technica

• John estuvo en prisión por delitos de drogas hace unos años y nunca le dijo al sistema escolar. Ars Technica

• John tiene mucho dolor o tal vez está haciendo otra cosa. Recortamos las partes operativas. Ars Technica

Usamos un generador de imágenes de IA llamado Stable Diffusion (versión 1.5) y una técnica llamada Dreambooth para enseñarle a la IA cómo crear imágenes de John en cualquier estilo. Si bien nuestro John no es real, alguien podría reproducir resultados similares usando cinco o más imágenes de cualquier persona. Podrían extraerse de una cuenta de redes sociales o incluso tomarse como imágenes fijas de un video.