El hombre vence a la máquina en Go en la victoria del hombre sobre la IA

Usuario de Flickr LNG0004 Un jugador humano ha derrotado por completo a un sistema de IA de alto nivel en el juego de mesa Go, en una sorprendente reversión de la victoria de la computadora en 2016, vista como un hito en el auge de la inteligencia artificial. Kellin Pelrine, un jugador estadounidense que se encuentra un escalón por debajo de la clasificación amateur superior, venció a la máquina al explotar un error previamente desconocido identificado por otra computadora. Pero la carrera cara a cara, en la que ganó 14 de 15 juegos, se llevó a cabo sin la ayuda directa de una computadora. El triunfo no informado anteriormente expuso una debilidad en los mejores programas de computadora Go compartidos por la mayoría de los sistemas de inteligencia artificial ampliamente utilizados en la actualidad, incluido el chatbot ChatGPT, desarrollado por OpenAI con sede en San Francisco. La táctica que puso a un humano de nuevo encima de la placa Go fue sugerida por un programa de computadora que había estado examinando los sistemas de IA en busca de vulnerabilidades. El plan propuesto fue luego entregado sin piedad por Pelrine. «Fue sorprendentemente fácil para nosotros explotar este sistema», dijo Adam Gleave, director ejecutivo de FAR AI, la firma de investigación de California que desarrolló el programa. El software jugó más de 1 millón de juegos contra KataGo, uno de los mejores sistemas de juegos Go, para encontrar un «punto ciego» para que un jugador humano lo explotara, agregó. La estrategia ganadora revelada por el software «no es del todo trivial, pero no muy difícil» de aprender para un humano y podría ser utilizada por un jugador avanzado para vencer a las máquinas, dijo Pelrine. También usó el método para ganar contra otro sistema top-go, Leela Zero. La victoria decisiva, aunque con la ayuda de tácticas sugeridas por computadora, llega siete años después de que la IA pareciera haber obtenido una ventaja indiscutible sobre los humanos en lo que a menudo se considera el más complejo de todos los juegos de mesa. AlphaGo, un sistema desarrollado por la empresa de investigación de Google, DeepMind, derrotó al campeón mundial de Go, Lee Sedol, por cuatro a uno en 2016. Sedol atribuyó su retiro de Go tres años después al surgimiento de AI y dijo que era «una entidad que no puede ser derrotada». AlphaGo no está disponible públicamente, pero los sistemas contra los que ha prevalecido Pelrine se consideran equivalentes. En un juego de Go, dos jugadores se turnan para colocar fichas blancas y negras en un tablero marcado con una cuadrícula de 19×19, tratando de rodear las fichas de su oponente y encerrar el espacio más grande. Debido a la gran cantidad de combinaciones, es imposible que una computadora calcule todos los posibles movimientos futuros. La táctica utilizada por Pelrine fue unir lentamente un gran «bucle» de piedras para rodear a uno de los grupos de su oponente mientras distraía a la IA con movimientos en otras esquinas del tablero. El bot que juega al Go no notó su vulnerabilidad incluso cuando el cerco estaba casi completo, dijo Pelrine. «Como humano, sería bastante fácil de detectar», agregó. El descubrimiento de una vulnerabilidad en algunas de las máquinas tragamonedas Go más avanzadas apunta a una falla fundamental en los sistemas de aprendizaje profundo que subyacen a la IA más avanzada de la actualidad, dijo Stuart Russell, profesor de informática en la Universidad de California, Berkeley. Los sistemas solo pueden «comprender» situaciones específicas a las que han estado expuestos en el pasado y no pueden generalizar de manera que las personas lo encuentren fácil, agregó. «Una vez más, esto demuestra que nos apresuramos demasiado al atribuir inteligencia sobrehumana a las máquinas», dijo Russell. Según los investigadores, la causa exacta de la falla de los sistemas de juego Go es una cuestión de conjeturas. Una razón probable es que las tácticas que explota Pelrine rara vez se usan, lo que significa que los sistemas de IA no han sido entrenados en suficientes juegos similares para darse cuenta de que son vulnerables, dijo Gleave. Es común encontrar errores en los sistemas de inteligencia artificial cuando están sujetos al tipo de «ataque enemigo» que se usa contra las computadoras que juegan Go, agregó. Sin embargo, “vemos muy grandes [AI] Sistemas desplegados a escala con poca verificación”. Copyright The Financial Times Limited 2023 © 2023 The Financial Times Ltd. Reservados todos los derechos. No copie y pegue artículos de FT ni los distribuya en Internet por correo electrónico o correo postal.