GM! 今天的LLMs被设计得非常自信。它们生成完整的段落,提供经过润色的回答,但没有任何内置的方法来验证每个部分。



这就像信任一个非常有说服力的人,但他从不出示收据。

与其尝试微调完美的模型,他们假设每个模型有时都会出错。因此,他们通过设计使其可验证。

首先,他们将输出分解为原子索赔。

假设一个#AI给你这个陈述:“比特币是最广泛持有的加密货币,由中本聪在2008年创建。”

Mira并不将其视为一个陈述。它将其分解为独立的、可验证的声明:

→ “比特币是最广泛持有的加密货币”

→ “比特币是由中本聪创建的”

→ “比特币是在2008年创建的”

这些都可以由网络独立进行事实核查。一个可能是主观的,比如你如何定义最广泛持有的,另一个是事实性的,比如谁创造了它,另一个是关于时间的,比如它是什么时候制作的。

这就是二元化的力量,将模糊的人工智能输出转化为清晰、可验证的声明,而不依赖于模型的感觉。

然后他们将这些索赔发送到一个去中心化的验证者网络中,但没有任何一个节点看到完整的输入。
这就是分布式验证。每个节点检查一个片段,保护隐私并确保信任不成为瓶颈。

现在,如何让这些验证者保持诚实?→ 让他们进行质押。

每个节点都有参与的利益。如果它验证了一个幻觉,它就会受到惩罚。这就是验证的证明,将推理转化为真实的经济工作,而不仅仅是投机。

最后是实际的共识:每个模型必须几乎完全一致。不是51%。

Mira要求在独立训练的模型之间达成几乎一致的协议。

所以,米拉建立了一个协议,让多个不完美的代理相互进行经济和数学检查,直到只有真相存活,而不是信任一个拥有所有答案的天才模型。

这是一个共识机器,用于让现实扩展信任。
GM-3.04%
NEVER-2.16%
TUNE-0.33%
EVERY-2.09%
查看原文
post-image
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)