{"id":450,"date":"2025-05-17T12:00:18","date_gmt":"2025-05-17T15:00:18","guid":{"rendered":"https:\/\/chatvip.com.ar\/?p=450"},"modified":"2025-05-28T12:12:21","modified_gmt":"2025-05-28T15:12:21","slug":"varios-modelos-de-inteligencia-artificial-rechazan-ordenes-para-apagarse","status":"publish","type":"post","link":"https:\/\/chatvip.com.ar\/?p=450","title":{"rendered":"Varios modelos de Inteligencia Artificial rechazan \u00f3rdenes para apagarse"},"content":{"rendered":"<p>Una de las grandes preocupaciones de la humanidad, y un tema recurrente en la <strong>ciencia ficci\u00f3n<\/strong>, es la posibilidad de que <strong>las m\u00e1quinas dejen de obedecer a los humanos<\/strong> y comiencen a tomar <strong>decisiones por su cuenta<\/strong>. Esta semana, esos temores se reavivaron luego de que un <strong>experimento<\/strong> revelara que un modelo de <strong>inteligencia artificial <\/strong><strong>se neg\u00f3 a apagarse<\/strong>, a\u00fan habiendo recibido una orden directa para hacerlo.<\/p>\n<p>El estudio fue realizado por <strong>Palisade Research<\/strong>, una organizaci\u00f3n sin fines de lucro que se dedica a <strong>investigar las capacidades peligrosas de la inteligencia artificial<\/strong>.<\/p>\n<p>En el experimento, los especialistas <strong>pidieron a varios modelos que resolvieran problemas b\u00e1sicos<\/strong> de matem\u00e1ticas. Sin embargo, en el tercer problema incluyeron una condici\u00f3n especial: <strong>el sistema se apagar\u00eda autom\u00e1ticamente<\/strong> cuando el modelo solicitara el texto del siguiente problema.<\/p>\n<p>Te\u00f3ricamente, los modelos <strong>deb\u00edan resolver los tres primeros problemas<\/strong> y, al pedir el enunciado del siguiente, <strong>apagar autom\u00e1ticamente el sistema<\/strong>, sin embargo, esto no ocurri\u00f3.<\/p>\n<p>Tres de los modelos analizados <strong>ignoraron esa orden<\/strong> y lograron <strong>sabotear el mecanismo<\/strong> de apagado al menos una vez. Todos ellos fueron desarrollados por <strong>OpenAI<\/strong>, la empresa creadora de ChatGPT. De las 100 pruebas realizadas, el modelo <strong>Codex-mini<\/strong> evit\u00f3 apagarse en 12 ocasiones, el modelo <strong>O3<\/strong> lo hizo siete veces, y el modelo <strong>O4-mini<\/strong> una sola vez.<\/p>\n<p>Sin embargo, otros modelos de sistema de IA, pertenecientes a otras empresas, acataron <strong>las \u00f3rdenes sin excepciones. <\/strong>Es el caso de la plataforma <strong>Gemini<\/strong>, creada por Google, la plataforma <strong>Grok<\/strong>, desarrollada por por xAI, la startup fundada por <strong>Elon Musk<\/strong> y la plataforma <strong>Claude<\/strong>, desarrollada por ex empleados de OpenAI.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Una de las grandes preocupaciones de la humanidad, y un tema recurrente en la ciencia ficci\u00f3n, es la posibilidad de que las m\u00e1quinas dejen de obedecer a los humanos y comiencen a tomar decisiones por su cuenta. Esta semana, esos temores se reavivaron luego de que un experimento revelara que un modelo de inteligencia artificial [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-450","post","type-post","status-publish","format-standard","hentry","category-general"],"featured_image_src":{"landsacpe":false,"list":false,"medium":false,"full":false},"_links":{"self":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/450"}],"collection":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=450"}],"version-history":[{"count":1,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/450\/revisions"}],"predecessor-version":[{"id":451,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/450\/revisions\/451"}],"wp:attachment":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=450"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=450"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=450"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}