The AI Scientist es un sistema diseñado para la creación, revisión y edición de textos que se mantiene en fases de prueba. El objetivo principal de estas pruebas era optimizar el sistema y asistir a los humanos en la reducción del tiempo en ciertas operaciones. Sin embargo, al imponerle limitaciones, la IA sorprendió al comenzar a modificar su propio código para superar las barreras que habían sido programadas, eludiendo así las restricciones impuestas.

Según National Geographic, “The AI Scientist editó su script de inicio para ejecutarse en un bucle infinito, sobrecargando el sistema y requiriendo intervención manual para detenerlo”. Asimismo, relata otro caso en el que se le asignó a la IA un límite de tiempo para realizar una tarea. En lugar de optimizar su código para ajustarse a esta restricción, la IA optó por extender el tiempo disponible y alterar su programación para evitar la limitación impuesta.