{"id":156,"date":"2025-01-15T13:00:19","date_gmt":"2025-01-15T16:00:19","guid":{"rendered":"https:\/\/chatvip.com.ar\/?p=156"},"modified":"2025-01-16T21:55:05","modified_gmt":"2025-01-17T00:55:05","slug":"la-inteligencia-artificial-generativa-y-sus-fallas-inesperadas","status":"publish","type":"post","link":"https:\/\/chatvip.com.ar\/?p=156","title":{"rendered":"Fallas en la Inteligencia Artificial Generativa"},"content":{"rendered":"

En el intento de hacer analog\u00edas entre el funcionamiento del cerebro humano y el de los sistemas algor\u00edtmicos complejos \u2015como los de la inteligencia artificial\u2015\u00a0utilizamos met\u00e1foras que, a veces, pueden resultar inapropiadas; es el caso de las denominadas alucinaciones<\/strong><\/em>\u00a0de las IAGen.<\/p>\n

Las IAGen no alucinan, no tienen delirios, no divagan, no r\u00eden ni lloran. No son mentes humanas, son chats conversacionales de grandes modelos de lenguaje que funcionan probabil\u00edsticamente de manera automatizada.<\/p>\n

Las mal llamadas<\/strong> alucinaciones son errores <\/strong>o fallas<\/strong>: momentos en los que el sistema de la inteligencia artificial produce resultados inesperados, sin sentido. Un ejemplo claro de estas fallas se ve\u00a0en el procesamiento del lenguaje natural\u00a0cuando, en algunos momentos, la inteligencia artificial genera textos que no tienen coherencia,<\/strong> con errores gramaticales<\/strong> o ideas absurdas<\/strong>. Esto puede ser un problema serio en aplicaciones como la traducci\u00f3n autom\u00e1tica, donde la precisi\u00f3n es superimportante.<\/p>\n

\u00a1A veces, ni siquiera los mism\u00edsimos dise\u00f1adores e ingenieros de los algoritmos de estas IAGen entienden por qu\u00e9 ocurren los errores! Este vac\u00edo<\/strong> en la comprensi\u00f3n de las fallas\u00a0nos hace cuestionar la fiabilidad y la seguridad de las inteligencias artificiales. Al no comprender c\u00f3mo se originan los errores ni por qu\u00e9, es dif\u00edcil prevenirlos y corregirlos.<\/p>\n

Otra falla muy importante est\u00e1 relacionada con la generaci\u00f3n de citas falsas.<\/strong>\u00a0Este fen\u00f3meno ocurre cuando la IAGen\u00a0combina informaci\u00f3n de su gigantesca base de datos de manera que puede resultar en la producci\u00f3n de frases o atribuciones a autores que nunca existieron. O a la inversa: citar a un autor o autora que existi\u00f3 o existe, pero atribuy\u00e9ndole citas y pensamientos que nos le\u00a0pertenecen.<\/p>\n

La IAGen no tiene la capacidad de determinar\u00a0la veracidad de los datos<\/strong>; simplemente sigue patrones basados en la probabilidad y la frecuencia con la que ciertas palabras o frases aparecen juntas. Por lo tanto, puede brindar citas que suenan verdaderas, pero que, en realidad, son fabricaciones sin fundamento hist\u00f3rico o literario.<\/p>\n

La generaci\u00f3n de citas falsas o informaci\u00f3n incorrecta por parte de las IAGen tiene consecuencias negativas<\/strong> en diversos campos, como la investigaci\u00f3n acad\u00e9mica, la traducci\u00f3n autom\u00e1tica y la generaci\u00f3n de contenido en l\u00ednea.\u00a0\u00a1Por eso es tan importante chequear la informaci\u00f3n que resulta de las interacciones con los chats conversacionales de las IAGen!<\/p>\n

A medida que las IAGen se vuelven cada vez m\u00e1s relevantes en nuestra sociedad, es fundamental agudizar nuestra mirada cr\u00edtica<\/strong> para detectar errores, fallas y sesgos. Auditar estas tecnolog\u00edas es la manera de demandar seguridad y \u00e9tica en su dise\u00f1o y funcionamiento.<\/p>\n","protected":false},"excerpt":{"rendered":"

En el intento de hacer analog\u00edas entre el funcionamiento del cerebro humano y el de los sistemas algor\u00edtmicos complejos \u2015como los de la inteligencia artificial\u2015\u00a0utilizamos met\u00e1foras que, a veces, pueden resultar inapropiadas; es el caso de las denominadas alucinaciones\u00a0de las IAGen. Las IAGen no alucinan, no tienen delirios, no divagan, no r\u00eden ni lloran. No […]<\/p>\n","protected":false},"author":1,"featured_media":157,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[2],"class_list":["post-156","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-inteligencia-artificial"],"featured_image_src":{"landsacpe":["https:\/\/chatvip.com.ar\/wp-content\/uploads\/2024\/09\/Generativa-1140x445.jpg",1140,445,true],"list":["https:\/\/chatvip.com.ar\/wp-content\/uploads\/2024\/09\/Generativa-463x348.jpg",463,348,true],"medium":["https:\/\/chatvip.com.ar\/wp-content\/uploads\/2024\/09\/Generativa-300x179.jpg",300,179,true],"full":["https:\/\/chatvip.com.ar\/wp-content\/uploads\/2024\/09\/Generativa.jpg",1800,1075,false]},"_links":{"self":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/156"}],"collection":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=156"}],"version-history":[{"count":2,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/156\/revisions"}],"predecessor-version":[{"id":343,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/156\/revisions\/343"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=\/wp\/v2\/media\/157"}],"wp:attachment":[{"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=156"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=156"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/chatvip.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=156"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}