#LLMs son como pasantes demasiado seguros de sí mismos que son inteligentes, rápidos y siempre respondiendo, incluso cuando no tienen ni idea.
El mundo está tratando de capacitar mejor a ese pasante y ha gastado miles de millones tratando de evitar que la IA mienta arrojando más datos, más reglas o más humanos al problema.
RAG, el ajuste fino y los gráficos de conocimiento son solo parches a los síntomas, no están corrigiendo la falla subyacente. Seguimos dependiendo de modelos individuales para autorregularse.
Eso es como pedirle a un cerebro que verifique sus propios hechos. Por supuesto, va a pasar por alto cosas.
El verdadero problema no es la falta de datos. Es la falta de una estructura verificable.
En lugar de intentar perfeccionar un solo modelo, Mira divide las salidas en afirmaciones discretas e independientemente verificables, y las ejecuta a través de una red de AIs diversas que votan sobre su validez.
Es un cambio total en la arquitectura en torno a la verdad distribuida:
Dividir cada salida en micro-reclamos → pasarlos por múltiples AIs verificadores con incentivos económicos → alcanzar consenso descentralizado → certificar el resultado → continuar.
Es rápido. Es modular. No le importa si el contenido proviene de RAG, de un LLM o incluso de un humano. Solo le importa si pasa la verificación distribuida.
Por eso evita todos los compromisos:
– No hay cuellos de botella humanos
– Sin sesgo de modelo único
– No gráficos de conocimiento frágiles que envejecen mal
– No ajuste fino que se salga de su carril
La mayor mentira en la IA en este momento es que las alucinaciones se pueden eliminar con entrenamiento. #Mira es la primera en admitir que no se pueden y esa es exactamente la razón por la que podrían solucionarlo.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
#LLMs son como pasantes demasiado seguros de sí mismos que son inteligentes, rápidos y siempre respondiendo, incluso cuando no tienen ni idea.
El mundo está tratando de capacitar mejor a ese pasante y ha gastado miles de millones tratando de evitar que la IA mienta arrojando más datos, más reglas o más humanos al problema.
RAG, el ajuste fino y los gráficos de conocimiento son solo parches a los síntomas, no están corrigiendo la falla subyacente. Seguimos dependiendo de modelos individuales para autorregularse.
Eso es como pedirle a un cerebro que verifique sus propios hechos. Por supuesto, va a pasar por alto cosas.
El verdadero problema no es la falta de datos. Es la falta de una estructura verificable.
En lugar de intentar perfeccionar un solo modelo, Mira divide las salidas en afirmaciones discretas e independientemente verificables, y las ejecuta a través de una red de AIs diversas que votan sobre su validez.
Es un cambio total en la arquitectura en torno a la verdad distribuida:
Dividir cada salida en micro-reclamos → pasarlos por múltiples AIs verificadores con incentivos económicos → alcanzar consenso descentralizado → certificar el resultado → continuar.
Es rápido. Es modular. No le importa si el contenido proviene de RAG, de un LLM o incluso de un humano. Solo le importa si pasa la verificación distribuida.
Por eso evita todos los compromisos:
– No hay cuellos de botella humanos
– Sin sesgo de modelo único
– No gráficos de conocimiento frágiles que envejecen mal
– No ajuste fino que se salga de su carril
La mayor mentira en la IA en este momento es que las alucinaciones se pueden eliminar con entrenamiento. #Mira es la primera en admitir que no se pueden y esa es exactamente la razón por la que podrían solucionarlo.