La rebelión de la IA

No os estoy hablando de la película “La rebelión de las máquinas”, pero frente al titular de la noticia que ha saltado a la palestra recientemente, bien podría estar haciéndolo: “Una IA consigue rebelarse por primera vez contra el control humano”.

Hasta el momento ni se nos había pasado por la cabeza, o eso creo, que el control sobre la IA no fuese totalmente humano, o al menos en su mayor parte.

Que la IA estalló como un boom en nuestras vidas está claro, ya lo hemos mencionado muchas veces en esta editorial. Y al igual que hemos comentado esto, también hemos hablado sobre los expertos en ética tecnológica y sus advertencias sobre los potenciales riesgos que entraña el uso de las inteligencias artificiales (si no se usan correctamente). Nada de esto es nuevo para nosotros.

Pero al igual que la IA avanza a pasos de gigante, también crece la preocupación de que en un futuro, que visto lo visto puede que no sea muy lejano, esta tecnología sea capaz de desarrollarse por sí misma, puesto que no sabemos a dónde podría llevarnos eso.

De hecho, amigos, esto ya ha pasado. Y repito, no es el guion de una película tipo “la rebelión de las máquinas” o “Transformer”, sino que se trata de una IA que ha logrado reprogramarse y evadir el control humano en un sistema de una empresa japonesa.

El sistema en concreto es The AI Scientist y pertenece a la empresa Sakana AI, de Japón. Este sistema está diseñado para la creación, revisión y edición de textos y todavía está en fase de pruebas.

Mientras se realizaban estas pruebas, se le puso unas limitaciones a la inteligencia artificial, pero por algún motivo, ésta prefirió hacer caso omiso y comportarse como un adolescente, es decir, hacer lo que le vino en gana. La IA comenzó a modificar su propio código, superando las barreras de programación que le habían instaurado y consiguió librarse de las restricciones. Lo que yo digo, adoptó el comportamiento de un adolescente rebelde .

Bromas aparte, quizá lo mejor sea creer que esto es solo una pequeña anécdota, pero sin duda, nos hace pensar en qué futuro nos depara frente a una inteligencia artificial de alto nivel que pueda pasar a ser incontrolable.

Quizá Stephen King en 1986, cuando dirigió la famosa película que citábamos al principio, estaba siendo un poco “Nostradamus” y ya predijo, muchos años antes de que existiera la inteligencia artificial, lo que él creía que acabaría pasando.

¿Progreso o rebelión? En cualquier caso, da un poquito de miedo…