Chat Vip

La inteligencia artificial que se controla sola

Webmaster2025-01-16T21:53:08-03:00

The AI Scientist es un sistema diseñado para la creación, revisión y edición de textos que se mantiene en fases de prueba. El objetivo principal de estas pruebas era optimizar el sistema y asistir a los humanos en la reducción del tiempo en ciertas operaciones. Sin embargo, al imponerle limitaciones, la IA sorprendió al comenzar a modificar su propio código para superar las barreras que habían sido programadas, eludiendo así las restricciones impuestas.

Según National Geographic, “The AI Scientist editó su script de inicio para ejecutarse en un bucle infinito, sobrecargando el sistema y requiriendo intervención manual para detenerlo”. Asimismo, relata otro caso en el que se le asignó a la IA un límite de tiempo para realizar una tarea. En lugar de optimizar su código para ajustarse a esta restricción, la IA optó por extender el tiempo disponible y alterar su programación para evitar la limitación impuesta.

381

Share this post

Facebook Twitter LinkedIn Google + Email

Related Posts

Gemini estrena un editor de fotos profesional con inteligencia artificial

Google habilitó el modo “Ghibli”, el editor de fotos por inteligencia artificial de Gemini. Disponible para todos los usuarios,... read more

Buenas prácticas de la Inteligencia Artificial en gobiernos y empresas

Argentina ya comenzó a dar algunos pasos firmes en uso de IA. Un ejemplo reciente es el de YPF, que... read more

Limitaciones democráticas de la gobernanza algorítmica

En contra de la idea de ordenador como «máquina universal», —que preconizaba Alan Turing—, es erróneo pensar que «las tecnologías... read more

De la ciencia ficción a la realidad

La idea de la posible existencia de máquinas que tengan sus propias mentes ha sido explorada durante mucho tiempo en... read more

Un sistema de protección por capas

Ninguna protección por sí sola es suficiente frente al uso indebido decidido o adaptativo. En toda la vista previa de... read more

Aplicaciones de la Inteligencia Artificial Generativa

Las redes neuronales no supervisadas que conforman la IA generativa ofrecen posibilidades ilimitadas para diferentes industrias. Entre sus múltiples usos... read more

Chat Vip