Lapisan Kepercayaan AI: Bagaimana Jaringan Mira Mengatasi Masalah Bias dan Ilusi AI

Baru-baru ini, sebuah versi beta publik jaringan bernama Mira diluncurkan, menarik perhatian industri. Tujuan proyek ini adalah untuk membangun lapisan kepercayaan untuk AI, menyelesaikan masalah bias dan ilusi AI. Jadi, mengapa AI perlu dipercaya? Dan bagaimana Mira menyelesaikan masalah ini?

Saat membahas AI, orang sering kali lebih memperhatikan kemampuannya yang kuat. Namun, masalah "ilusi" atau bias pada AI sering diabaikan. Apa yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang "membuat-buat" atau berbicara omong kosong dengan serius. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna pink, ia mungkin dengan serius memberikan serangkaian penjelasan yang tampak masuk akal.

Kemunculan "ilusi" atau bias dalam AI terkait dengan beberapa jalur teknologi AI saat ini. Misalnya, AI generatif mencapai koherensi dan kelogisan dengan memprediksi konten yang "paling mungkin", tetapi terkadang tidak dapat memverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiktif, yang semuanya dapat memengaruhi keluaran AI. Dengan kata lain, AI belajar dari pola bahasa manusia, bukan dari fakta itu sendiri.

Mekanisme generasi probabilitas saat ini ditambah dengan model berbasis data, hampir tidak dapat dihindari akan menyebabkan AI menghasilkan ilusi. Jika output yang bias atau ilusif ini terbatas pada pengetahuan umum atau konten hiburan, untuk sementara tidak akan menyebabkan konsekuensi langsung. Namun, jika terjadi di bidang yang memerlukan ketelitian tinggi seperti medis, hukum, penerbangan, dan keuangan, dapat memiliki dampak yang signifikan. Oleh karena itu, mengatasi masalah ilusi dan bias AI menjadi salah satu isu inti dalam proses pengembangan AI.

Proyek Mira bertujuan untuk mengatasi masalah ini dengan membangun lapisan kepercayaan AI untuk mengurangi bias dan ilusi AI, serta meningkatkan keandalan AI. Lalu, bagaimana Mira mencapai tujuan ini?

Strategi inti Mira adalah memverifikasi output AI melalui konsensus dari berbagai model AI. Ini pada dasarnya adalah jaringan verifikasi yang menggunakan konsensus dari beberapa model AI untuk memvalidasi keandalan output AI. Yang lebih penting, Mira mengadopsi metode verifikasi konsensus yang terdesentralisasi.

Kunci jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi. Cara ini tidak hanya memanfaatkan keunggulan di bidang kripto, tetapi juga memanfaatkan keuntungan kolaborasi multi-model, dengan menggunakan mode verifikasi kolektif untuk mengurangi bias dan ilusi.

Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan yang dapat diverifikasi secara independen. Pernyataan ini memerlukan partisipasi operator node untuk melakukan verifikasi. Untuk memastikan kejujuran operator node, Mira mengadopsi mekanisme insentif/hukuman ekonomi kriptografi, sambil melibatkan berbagai model AI dan operator node terdesentralisasi untuk menjamin keandalan hasil verifikasi.

Arsitektur jaringan Mira terdiri dari tiga bagian: konversi konten, verifikasi terdistribusi, dan mekanisme konsensus, yang bertujuan untuk mencapai keandalan verifikasi. Dalam arsitektur ini, konversi konten adalah bagian yang penting. Jaringan Mira terlebih dahulu akan membagi konten kandidat menjadi pernyataan-pernyataan yang dapat diverifikasi yang kemudian didistribusikan oleh sistem kepada node untuk diverifikasi, guna menentukan validitas pernyataan tersebut, dan mengumpulkan hasil untuk mencapai konsensus. Untuk melindungi privasi pelanggan, konversi konten kandidat dipecah menjadi pasangan pernyataan, yang akan diberikan kepada node yang berbeda dengan cara pemecahan acak, untuk mencegah kebocoran informasi selama proses verifikasi.

Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim, dan mengirimkan hasil verifikasi. Motivasi mereka untuk terlibat dalam verifikasi klaim berasal dari potensi untuk mendapatkan imbalan. Imbalan ini berasal dari nilai yang diciptakan untuk pelanggan. Tujuan jaringan Mira adalah mengurangi tingkat kesalahan AI (halusinasi dan bias), dan setelah tujuan tercapai, dapat menghasilkan nilai yang besar di bidang medis, hukum, penerbangan, keuangan, dan lainnya. Oleh karena itu, pelanggan bersedia membayar untuk itu. Tentu saja, keberlanjutan dan skala pembayaran tergantung pada apakah jaringan Mira dapat terus memberikan nilai kepada pelanggan. Untuk mencegah perilaku curang dari respons acak node, node yang terus menyimpang dari konsensus akan kehilangan token yang dipertaruhkan.

Secara keseluruhan, Mira menawarkan pendekatan baru untuk mencapai keandalan AI. Ini membangun jaringan verifikasi konsensus terdesentralisasi di atas beberapa model AI, yang membawa keandalan lebih tinggi untuk layanan AI pelanggan, mengurangi bias dan halusinasi AI, serta memenuhi kebutuhan pelanggan akan akurasi dan presisi yang lebih tinggi. Pada saat yang sama, ini memberikan manfaat kepada peserta jaringan Mira berdasarkan nilai yang diberikan kepada pelanggan. Singkatnya, Mira berusaha untuk membangun lapisan kepercayaan AI, yang akan mendorong pengembangan aplikasi AI yang lebih mendalam.

Saat ini, pengguna dapat berpartisipasi dalam jaringan pengujian publik Mira dengan menggunakan Klok. Klok adalah aplikasi obrolan LLM yang berbasis Mira, di mana pengguna dapat merasakan keluaran AI yang terverifikasi dan memiliki kesempatan untuk mendapatkan poin Mira. Mengenai penggunaan masa depan poin-poin ini, belum ada pengumuman.