#LLMs giống như những thực tập sinh tự tin thái quá, thông minh, nhanh nhạy, và luôn trả lời, ngay cả khi chúng không có ý tưởng.
Thế giới đang cố gắng đào tạo thực tập sinh đó tốt hơn và đã chi hàng tỷ đô la để ngăn chặn AI nói dối bằng cách đưa ra nhiều dữ liệu hơn, nhiều quy tắc hơn, hoặc nhiều con người hơn để giải quyết vấn đề.
RAG, tinh chỉnh và đồ thị tri thức đều chỉ khắc phục triệu chứng, không sửa chữa lỗi cơ bản. Chúng ta vẫn phụ thuộc vào các mô hình cá nhân để tự giám sát.
Điều đó giống như việc yêu cầu một bộ não tự kiểm tra sự thật của chính nó. Tất nhiên nó sẽ bỏ lỡ một số thứ.
Vấn đề thực sự không phải là thiếu dữ liệu. Mà là thiếu cấu trúc có thể xác minh.
Thay vì cố gắng hoàn thiện một mô hình duy nhất, Mira chia nhỏ các đầu ra thành các tuyên bố riêng biệt, có thể xác minh độc lập và chạy chúng qua một mạng lưới các AI đa dạng để bỏ phiếu về tính hợp lệ của chúng.
Đó là một sự thay đổi hoàn toàn trong kiến trúc xung quanh sự thật phân tán:
Phân chia mọi đầu ra thành các yêu cầu vi mô → chạy chúng qua nhiều AI xác minh với các động lực kinh tế → đạt được sự đồng thuận phi tập trung → chứng nhận kết quả → tiến hành.
Nó nhanh. Nó mô-đun. Nó không quan tâm liệu nội dung đến từ RAG, một LLM, hay thậm chí là một con người. Nó chỉ quan tâm nếu nó vượt qua xác minh phân phối.
Đó là lý do tại sao nó vượt qua tất cả các sự đánh đổi:
– Không có điểm nghẽn do con người
– Không có thiên lệch theo mô hình đơn
– Không có đồ thị tri thức dễ gãy mà lão hóa kém
– Không tinh chỉnh nào vượt ra ngoài phạm vi của nó
Lời nói dối lớn nhất trong AI hiện nay là ảo giác có thể được đào tạo ra. #Mira là người đầu tiên thừa nhận rằng chúng không thể và đó chính là lý do tại sao họ có thể thực sự giải quyết vấn đề này.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
#LLMs giống như những thực tập sinh tự tin thái quá, thông minh, nhanh nhạy, và luôn trả lời, ngay cả khi chúng không có ý tưởng.
Thế giới đang cố gắng đào tạo thực tập sinh đó tốt hơn và đã chi hàng tỷ đô la để ngăn chặn AI nói dối bằng cách đưa ra nhiều dữ liệu hơn, nhiều quy tắc hơn, hoặc nhiều con người hơn để giải quyết vấn đề.
RAG, tinh chỉnh và đồ thị tri thức đều chỉ khắc phục triệu chứng, không sửa chữa lỗi cơ bản. Chúng ta vẫn phụ thuộc vào các mô hình cá nhân để tự giám sát.
Điều đó giống như việc yêu cầu một bộ não tự kiểm tra sự thật của chính nó. Tất nhiên nó sẽ bỏ lỡ một số thứ.
Vấn đề thực sự không phải là thiếu dữ liệu. Mà là thiếu cấu trúc có thể xác minh.
Thay vì cố gắng hoàn thiện một mô hình duy nhất, Mira chia nhỏ các đầu ra thành các tuyên bố riêng biệt, có thể xác minh độc lập và chạy chúng qua một mạng lưới các AI đa dạng để bỏ phiếu về tính hợp lệ của chúng.
Đó là một sự thay đổi hoàn toàn trong kiến trúc xung quanh sự thật phân tán:
Phân chia mọi đầu ra thành các yêu cầu vi mô → chạy chúng qua nhiều AI xác minh với các động lực kinh tế → đạt được sự đồng thuận phi tập trung → chứng nhận kết quả → tiến hành.
Nó nhanh. Nó mô-đun. Nó không quan tâm liệu nội dung đến từ RAG, một LLM, hay thậm chí là một con người. Nó chỉ quan tâm nếu nó vượt qua xác minh phân phối.
Đó là lý do tại sao nó vượt qua tất cả các sự đánh đổi:
– Không có điểm nghẽn do con người
– Không có thiên lệch theo mô hình đơn
– Không có đồ thị tri thức dễ gãy mà lão hóa kém
– Không tinh chỉnh nào vượt ra ngoài phạm vi của nó
Lời nói dối lớn nhất trong AI hiện nay là ảo giác có thể được đào tạo ra. #Mira là người đầu tiên thừa nhận rằng chúng không thể và đó chính là lý do tại sao họ có thể thực sự giải quyết vấn đề này.