El profesor canadiense Yoshua Bengio, considerado uno de los padres de la inteligencia artificial, present\u00f3 el martes su nueva organizaci\u00f3n dedicada a la IA responsable, cuyo objetivo es, sobre todo, dise\u00f1ar software capaz de evitar los abusos de los agentes de IA.<\/p>\n
Desde hace varios a\u00f1os, este ganador del Premio Turing (2018), tambi\u00e9n conocido como el Nobel de la inform\u00e1tica, viene advirtiendo de los riesgos asociados al desarrollo de la IA, ya sea en t\u00e9rminos de uso malicioso o de que el propio software salga mal.<\/p>\n
“Los sistemas m\u00e1s avanzados ya est\u00e1n mostrando signos de autopreservaci\u00f3n y comportamiento enga\u00f1oso”, explica el investigador en un comunicado publicado este martes.<\/p>\n
“Y esto solo va a acelerarse a medida que aumenten sus capacidades y autonom\u00eda”, anuncia.<\/p>\n
Su nueva organizaci\u00f3n sin \u00e1nimo de lucro, llamada LawZero, pretende ser “una respuesta a estos retos”.<\/p>\n
Varios ejemplos recientes han confirmado que la IA ha alcanzado recientemente nuevos niveles de sofisticaci\u00f3n, entre ellos un estudio de la start-up Anthropic.<\/p>\n
En una simulaci\u00f3n, la nueva interfaz de IA generativa de Anthropic, Claude 4, fue advertida de su inminente sustituci\u00f3n por un ingeniero de software.<\/p>\n
Acorralada, intent\u00f3 por iniciativa propia chantajear al ingeniero para disuadirle de deshacerse de ella.<\/p>\n
Una de las misiones de LawZero es “proponer una forma de supervisar a los agentes de IA”, la nueva generaci\u00f3n de modelos generativos de IA capaces de realizar un sinf\u00edn de tareas de forma aut\u00f3noma, desde buscar en Internet hasta llamar a un cliente o escribir un programa en c\u00f3digo.<\/p>\n
“Uno de los primeros objetivos es desarrollar una forma de IA que pueda utilizarse como salvaguarda para garantizar que la IA se comporta bien”, describe Bengio en un v\u00eddeo de la web de LawZero.<\/p>\n
“La IA puede ser extremadamente beneficiosa si nos aseguramos de que no va a hacer da\u00f1o a la gente”, “ya sea porque est\u00e9 en las manos equivocadas o de forma aut\u00f3noma”, agrega.<\/p>\n
LawZero tambi\u00e9n quiere trabajar en una IA con autonom\u00eda limitada para su uso en investigaci\u00f3n cient\u00edfica.<\/p>\n
La organizaci\u00f3n cuenta ya con m\u00e1s de 15 investigadores y ha recibido varias aportaciones econ\u00f3micas, una de ellas de Schmidt Sciences, organizaci\u00f3n ben\u00e9fica creada por el ex jefe de Google Eric Schmidt y su esposa Wendy.<\/p>\n
LawZero se puso en marcha bajo los auspicios del Instituto de Montreal para el Aprendizaje de Algoritmos (Mila), fundado en 1993 por Bengio.<\/p>\n","protected":false},"excerpt":{"rendered":"
El profesor canadiense Yoshua Bengio, considerado uno de los padres de la inteligencia artificial, present\u00f3 el martes su nueva organizaci\u00f3n dedicada a la IA responsable, cuyo objetivo es, sobre todo, dise\u00f1ar software capaz de evitar los abusos de los agentes de IA. Desde hace varios a\u00f1os, este ganador del Premio Turing (2018), tambi\u00e9n conocido como […]<\/p>\n","protected":false},"author":1,"featured_media":166,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-473","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general"],"featured_image_src":{"landsacpe":["https:\/\/chatvip.com.ar\/wp-content\/uploads\/2024\/09\/Artificial-1140x445.png",1140,445,true],"list":["https:\/\/chatvip.com.ar\/wp-content\/uploads\/2024\/09\/Artificial-463x348.png",463,348,true],"medium":["https:\/\/chatvip.com.ar\/wp-content\/uploads\/2024\/09\/Artificial-300x150.png",300,150,true],"full":["https:\/\/chatvip.com.ar\/wp-content\/uploads\/2024\/09\/Artificial.png",1280,640,false]},"_links":{"self":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/473"}],"collection":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=473"}],"version-history":[{"count":1,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/473\/revisions"}],"predecessor-version":[{"id":474,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/473\/revisions\/474"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/media\/166"}],"wp:attachment":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=473"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=473"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=473"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}