InicioÚltima HoraOpenAI revela por qué los chatbots inventan respuestas (18:50)

OpenAI revela por qué los chatbots inventan respuestas (18:50)

OpenAI explicó las razones detrás de las llamadas “alucinaciones” en sus modelos de inteligencia artificial, incluido GPT-5.

Según la compañía, los sistemas suelen ser entrenados y evaluados de manera que se les incentiva a arriesgar conjeturas, incluso descabelladas, antes que admitir desconocimiento.

Esta lógica hace que los modelos generen afirmaciones falsas con aparente seguridad, un problema que persiste a pesar de los avances tecnológicos.

La empresa señaló que los protocolos de evaluación actuales favorecen a los modelos que intentan responder, aun sin fundamento, sobre aquellos que optan por reconocer incertidumbre.

OpenAI reconoció que la precisión nunca será absoluta, ya que algunas preguntas del mundo real son intrínsecamente ambiguas.

No obstante, aseguró que reparar estos mecanismos de evaluación podría mejorar las técnicas para reducir las alucinaciones y aumentar la confiabilidad de la IA en el futuro. (Agencias)

ARTÍCULOS RELACIONADOS
- Advertisment -

MÁS POPULARES