¿Qué son las alucinaciones en modelos como ChatGPT?
Las alucinaciones ocurren cuando el chatbot proporciona información incorrecta pero lo hace con confianza. Por ejemplo, se ha afirmado que un profesor universitario había cometido un delito sexual o, incluso, ha creado casos legales que no existen y los abogados los han citado en una corte. Esto revela la necesidad de supervisión humana, ya que estos modelos no son confiables en todas las tareas.
