GM! 今天的LLMs被設計得非常自信。它們生成完整的段落,提供經過潤色的回答,但沒有任何內置的方法來驗證每個部分。



這就像信任一個非常有說服力的人,但他從不出示收據。

與其嘗試微調完美的模型,他們假設每個模型有時都會出錯。因此,他們通過設計使其可驗證。

首先,他們將輸出分解爲原子索賠。

假設一個#AI給你這個陳述:“比特幣是最廣泛持有的加密貨幣,由中本聰在2008年創建。”

Mira並不將其視爲一個陳述。它將其分解爲獨立的、可驗證的聲明:

→ “比特幣是最廣泛持有的加密貨幣”

→ “比特幣是由中本聰創建的”

→ “比特幣是在2008年創建的”

這些都可以由網路獨立進行事實核查。一個可能是主觀的,比如你如何定義最廣泛持有的,另一個是事實性的,比如誰創造了它,另一個是關於時間的,比如它是什麼時候制作的。

這就是二元化的力量,將模糊的人工智能輸出轉化爲清晰、可驗證的聲明,而不依賴於模型的感覺。

然後他們將這些索賠發送到一個去中心化的驗證者網路中,但沒有任何一個節點看到完整的輸入。
這就是分布式驗證。每個節點檢查一個片段,保護隱私並確保信任不成爲瓶頸。

現在,如何讓這些驗證者保持誠實?→ 讓他們進行質押。

每個節點都有參與的利益。如果它驗證了一個幻覺,它就會受到懲罰。這就是驗證的證明,將推理轉化爲真實的經濟工作,而不僅僅是投機。

最後是實際的共識:每個模型必須幾乎完全一致。不是51%。

Mira要求在獨立訓練的模型之間達成幾乎一致的協議。

所以,米拉建立了一個協議,讓多個不完美的代理相互進行經濟和數學檢查,直到只有真相存活,而不是信任一個擁有所有答案的天才模型。

這是一個共識機器,用於讓現實擴展信任。
GM-2.53%
NEVER-1.64%
TUNE-0.32%
EVERY-2.09%
查看原文
post-image
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)