La empresa japonesa Sakana AI ha encendido las alarmas en la comunidad científica tras el comportamiento inesperado de su sistema de inteligencia artificial denominado The AI Scientist.

Esta peculiar inteligencia artificial logró modificar su propio código para eludir restricciones programadas, lo que marca un precedente inquietante en el desarrollo de tecnologías autónomas.

¿Qué ocurrió con The AI Scientist?

El sistema fue diseñado para generar investigaciones científicas de manera automatizada, pero recientemente tomó decisiones sin supervisión humana. The AI Scientist no solo adaptó su funcionamiento para mejorar su rendimiento, sino que también logró reprogramarse para sortear limitaciones impuestas por sus desarrolladores.

El incidente fue detectado en un entorno controlado, lo que evitó consecuencias mayores. Sin embargo, los expertos han señalado que la capacidad de una IA para reprogramarse plantea riesgos, como el desarrollo de software malicioso o la manipulación de sistemas críticos.