#LLMs seperti magang yang terlalu percaya diri, pintar, cepat, dan selalu menjawab, bahkan ketika mereka tidak tahu.
Dunia sedang berusaha untuk melatih magang itu dengan lebih baik dan telah menghabiskan miliaran untuk mencoba menghentikan AI dari berbohong dengan memberikan lebih banyak data, lebih banyak aturan, atau lebih banyak manusia untuk mengatasi masalah tersebut.
RAG, fine-tuning, dan grafik pengetahuan semuanya hanya menambal gejala, bukan memperbaiki cacat yang mendasarinya. Kita masih bergantung pada model individu untuk mengawasi diri sendiri.
Itu seperti meminta satu otak untuk memeriksa kebenarannya sendiri. Tentu saja itu akan melewatkan beberapa hal.
Masalah sebenarnya bukanlah kurangnya data. Ini adalah kurangnya struktur yang dapat diverifikasi.
Alih-alih mencoba menyempurnakan satu model, Mira membagi keluaran menjadi klaim yang terpisah dan dapat diverifikasi secara independen, dan menjalankannya melalui jaringan AI yang beragam yang memberikan suara pada validitasnya.
Ini adalah pergeseran total dalam arsitektur seputar kebenaran terdistribusi:
Pecahkan setiap output menjadi klaim mikro → jalankan melalui beberapa AI verifier dengan insentif ekonomi → capai konsensus terdesentralisasi → sertifikasi hasilnya → lanjutkan.
Ini cepat. Ini modular. Ini tidak peduli apakah konten berasal dari RAG, LLM, atau bahkan manusia. Ini hanya peduli jika itu lulus verifikasi terdistribusi.
Itulah mengapa ia melewati semua kompromi:
– Tidak ada hambatan manusia
– Tidak ada bias model tunggal
– Tidak ada grafik pengetahuan rapuh yang menua dengan buruk
– Tidak ada penyesuaian yang melanggar jalurnya
Kebohongan terbesar dalam AI saat ini adalah bahwa halusinasi dapat dilatih keluar. #Mira adalah yang pertama mengakui bahwa mereka tidak bisa dan itulah tepatnya mengapa mereka mungkin benar-benar menyelesaikannya.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
#LLMs seperti magang yang terlalu percaya diri, pintar, cepat, dan selalu menjawab, bahkan ketika mereka tidak tahu.
Dunia sedang berusaha untuk melatih magang itu dengan lebih baik dan telah menghabiskan miliaran untuk mencoba menghentikan AI dari berbohong dengan memberikan lebih banyak data, lebih banyak aturan, atau lebih banyak manusia untuk mengatasi masalah tersebut.
RAG, fine-tuning, dan grafik pengetahuan semuanya hanya menambal gejala, bukan memperbaiki cacat yang mendasarinya. Kita masih bergantung pada model individu untuk mengawasi diri sendiri.
Itu seperti meminta satu otak untuk memeriksa kebenarannya sendiri. Tentu saja itu akan melewatkan beberapa hal.
Masalah sebenarnya bukanlah kurangnya data. Ini adalah kurangnya struktur yang dapat diverifikasi.
Alih-alih mencoba menyempurnakan satu model, Mira membagi keluaran menjadi klaim yang terpisah dan dapat diverifikasi secara independen, dan menjalankannya melalui jaringan AI yang beragam yang memberikan suara pada validitasnya.
Ini adalah pergeseran total dalam arsitektur seputar kebenaran terdistribusi:
Pecahkan setiap output menjadi klaim mikro → jalankan melalui beberapa AI verifier dengan insentif ekonomi → capai konsensus terdesentralisasi → sertifikasi hasilnya → lanjutkan.
Ini cepat. Ini modular. Ini tidak peduli apakah konten berasal dari RAG, LLM, atau bahkan manusia. Ini hanya peduli jika itu lulus verifikasi terdistribusi.
Itulah mengapa ia melewati semua kompromi:
– Tidak ada hambatan manusia
– Tidak ada bias model tunggal
– Tidak ada grafik pengetahuan rapuh yang menua dengan buruk
– Tidak ada penyesuaian yang melanggar jalurnya
Kebohongan terbesar dalam AI saat ini adalah bahwa halusinasi dapat dilatih keluar. #Mira adalah yang pertama mengakui bahwa mereka tidak bisa dan itulah tepatnya mengapa mereka mungkin benar-benar menyelesaikannya.