Chat Vip

Varios modelos de Inteligencia Artificial rechazan órdenes para apagarse

Webmaster2025-05-28T12:12:21-03:00

Una de las grandes preocupaciones de la humanidad, y un tema recurrente en la ciencia ficción, es la posibilidad de que las máquinas dejen de obedecer a los humanos y comiencen a tomar decisiones por su cuenta. Esta semana, esos temores se reavivaron luego de que un experimento revelara que un modelo de inteligencia artificial se negó a apagarse, aún habiendo recibido una orden directa para hacerlo.

El estudio fue realizado por Palisade Research, una organización sin fines de lucro que se dedica a investigar las capacidades peligrosas de la inteligencia artificial.

En el experimento, los especialistas pidieron a varios modelos que resolvieran problemas básicos de matemáticas. Sin embargo, en el tercer problema incluyeron una condición especial: el sistema se apagaría automáticamente cuando el modelo solicitara el texto del siguiente problema.

Teóricamente, los modelos debían resolver los tres primeros problemas y, al pedir el enunciado del siguiente, apagar automáticamente el sistema, sin embargo, esto no ocurrió.

Tres de los modelos analizados ignoraron esa orden y lograron sabotear el mecanismo de apagado al menos una vez. Todos ellos fueron desarrollados por OpenAI, la empresa creadora de ChatGPT. De las 100 pruebas realizadas, el modelo Codex-mini evitó apagarse en 12 ocasiones, el modelo O3 lo hizo siete veces, y el modelo O4-mini una sola vez.

Sin embargo, otros modelos de sistema de IA, pertenecientes a otras empresas, acataron las órdenes sin excepciones. Es el caso de la plataforma Gemini, creada por Google, la plataforma Grok, desarrollada por por xAI, la startup fundada por Elon Musk y la plataforma Claude, desarrollada por ex empleados de OpenAI.

323

Share this post

Facebook Twitter LinkedIn Google + Email

Related Posts

Nvidia presentó la primera Inteligencia Artificial de código abierto para robots humanoides

La misma actúa como una fundación generalista, lo que significa que no está limitado a una función específica, sino que... read more

Impulsando el futuro de la impresión con inteligencia artificial

HP está transformando la experiencia de impresión, incorporando IA para automatizar y simplificar tareas tanto en el ámbito profesional como... read more

Anthropic y la detección de vulnerabilidades en sistemas operativos

Uno de los aspectos más relevantes de esta tecnología es su capacidad para operar sobre distintos sistemas operativos. La herramienta... read more

La nueva incorporación de usuarios creados con Inteligencia Artificial

Meta, la compañía matriz de las populares redes sociales como Instagram y Facebook, vuelve a estar en el ojo público... read more

La Inteligencia Artificial desmitificada

la inteligencia artificial carece de las propiedades de la humana, ya que solo es «inteligencia instrumental»; y que nos imita... read more

Limitaciones democráticas de la gobernanza algorítmica

En contra de la idea de ordenador como «máquina universal», —que preconizaba Alan Turing—, es erróneo pensar que «las tecnologías... read more

Chat Vip