Chat Vip

La Inteligencia Artificial y los sesgos

Webmaster2024-12-02T14:02:36-03:00

A principio de año Google lanzó Gemini y se mencionó que generaba imágenes con un enfoque “woke” y fue muy criticado por eso ¿A qué se debe esa crítica?

Eso se relaciona con un fenómeno más amplio conocido como sesgos en Inteligencia Artificial. Los algoritmos de IA se entrenan con grandes volúmenes de datos, y, por ende, reproducen los patrones que encuentran en ellos. Por ejemplo, si entreno un algoritmo con fotos de perros y gatos, podría fallar si le presento un gato que no se asemeja a los ejemplos que ha visto. Esto se complica aún más cuando consideramos que ciertos grupos están subrepresentados en esos datos, lo que lleva a resultados sesgados.

Gemini, como otros modelos generativos, intenta ofrecer representaciones culturalmente diversas. Sin embargo, su enfoque para corregir los sesgos no fue bien implementado. Por ejemplo, si le pedís una imagen de un soldado alemán, la intención era generar una representación. Pero lo que ocurrió fue que la instrucción interna al algoritmo priorizaba la diversidad sobre la precisión histórica. Así, los resultados podían parecer incoherentes con la realidad, lo que llevó a críticas.

Google buscó mejorar la representación en las imágenes, pero no evaluó adecuadamente cómo sus modificaciones afectarían los resultados. Cada vez que se lanza un nuevo algoritmo, se somete a un exhaustivo análisis por parte de la comunidad para descubrir sus debilidades. Existen posturas extremas: algunos consideran que estos algoritmos son infalibles y otros que no sirven para nada.

455

Share this post

Facebook Twitter LinkedIn Google + Email

Related Posts

Ser imprescindible cuando la Inteligencia Artificial escribe el código

La gran oportunidad para los desarrolladores está en convertirse en 'cirujanos del código'. La IA puede escribir mucho, pero también... read more

¿Qué es la inteligencia artificial generativa?

La IA generativa es en una inteligencia que se basa en métodos de aprendizaje automático profundo, también conocido como deep... read more

¿Qué son los Asistentes de Inteligencia Artificial?

Los asistentes de IA tradicionales, como los que utilizan grandes modelos de lenguaje, son capaces de generar respuestas, redactar textos... read more

¿Desde cuándo existe la Inteligencia Artificial?

Para 1842, la matemática y escritora Ada Lovelace se convirtió en la primera programadora de la historia tras afirmar que... read more

Modelos de OpenAI en los programas de Microsoft

Microsoft utiliza estos modelos en una amplia gama de sus productos tanto para consumidores como para empresas. Algunas integraciones son: Aplicaciones... read more

¿Qué es la inteligencia artificial generativa?

El sector tecnológico utiliza varios términos para describir el momento en que la tecnología supere las capacidades humanas, destacando la... read more

Chat Vip