Những mối đe dọa tiềm tàng của trí tuệ nhân tạo: Thách thức từ các mô hình ngôn ngữ lớn không giới hạn đối với ngành mã hóa

Với sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo, từ các dòng GPT đến các mô hình tiên tiến như Gemini đang thay đổi sâu sắc cách chúng ta sống. Tuy nhiên, tiến bộ công nghệ này cũng đã mang lại một vấn đề đáng cảnh giác: sự xuất hiện của các mô hình ngôn ngữ lớn không giới hạn hoặc ác ý.

LLM không giới hạn là những mô hình ngôn ngữ được thiết kế hoặc chỉnh sửa có chủ ý để vượt qua các cơ chế an ninh và hạn chế đạo đức của các mô hình chính thống. Mặc dù các nhà phát triển LLM chính thống đã đầu tư rất nhiều nguồn lực để ngăn chặn việc lạm dụng mô hình, nhưng một số cá nhân hoặc tổ chức với động cơ không đúng đắn bắt đầu tìm kiếm hoặc phát triển các mô hình không bị ràng buộc. Bài viết này sẽ khám phá những mối đe dọa tiềm ẩn của các mô hình này trong ngành mã hóa, cũng như các thách thức an ninh liên quan và các chiến lược ứng phó.

Mối đe dọa của LLM không giới hạn

Sự xuất hiện của những mô hình này đã giảm đáng kể rào cản kỹ thuật cho một số hành vi xấu. Ngay cả khi không có kiến thức chuyên môn, người bình thường cũng có thể sử dụng chúng để viết mã độc, tạo email lừa đảo hoặc lập kế hoạch lừa đảo. Kẻ tấn công chỉ cần lấy mô hình mã nguồn mở và tinh chỉnh nó với một tập dữ liệu chứa nội dung độc hại, từ đó tạo ra công cụ tấn công tùy chỉnh.

Xu hướng này mang lại nhiều rủi ro:

• Kẻ tấn công có thể tùy chỉnh mô hình cho các mục tiêu cụ thể, tạo ra nội dung lừa đảo hơn.
• Tạo nhanh các biến thể mã website lừa đảo và tùy chỉnh nội dung lừa đảo
• Thúc đẩy sự hình thành của hệ sinh thái AI ngầm, cung cấp môi trường cho các hoạt động trái phép

Công cụ LLM không giới hạn điển hình

WormGPT：phiên bản tối tăm của GPT

WormGPT là một LLM độc hại được bán công khai, tự nhận là không có giới hạn đạo đức. Nó dựa trên mô hình mã nguồn mở và được đào tạo trên một lượng lớn dữ liệu phần mềm độc hại. Các ứng dụng điển hình của nó bao gồm:

• Tạo email lừa đảo chân thực, dụ dỗ người dùng tiết lộ khóa riêng và các thông tin nhạy cảm khác
• Hỗ trợ viết mã độc như tệp ví đánh cắp
• Thúc đẩy tự động hóa lừa đảo, dẫn dắt nạn nhân tham gia các dự án giả mạo

DarkBERT：Thanh kiếm hai lưỡi của nội dung mạng tối

DarkBERT là một mô hình được đào tạo trên dữ liệu mạng tối, ban đầu được sử dụng cho nghiên cứu an ninh. Nhưng nếu thông tin nhạy cảm mà nó nắm giữ bị lạm dụng, có thể dẫn đến:

• Thực hiện lừa đảo chính xác, lợi dụng thông tin người dùng đã thu thập để tiến hành lừa đảo xã hội.
• Sao chép các phương pháp trộm tiền và rửa tiền trưởng thành trong mạng tối

FraudGPT: Bộ công cụ lừa đảo trực tuyến

FraudGPT là phiên bản nâng cấp của WormGPT, với chức năng toàn diện hơn. Các hình thức lạm dụng tiềm năng của nó bao gồm:

• Dự án mã hóa giả mạo, tạo ra tài liệu trắng và tài liệu tiếp thị giả.
• Tạo hàng loạt trang đăng nhập giả mạo
• Sản xuất hàng loạt các bình luận giả, quảng bá mã thông báo lừa đảo
• Thực hiện tấn công kỹ thuật xã hội, dụ dỗ người dùng tiết lộ thông tin nhạy cảm

GhostGPT: Trợ lý AI không có ràng buộc đạo đức

GhostGPT được xác định rõ ràng là một chatbot không có giới hạn đạo đức. Các hình thức lạm dụng có thể có bao gồm:

• Tạo email lừa đảo mô phỏng cao
• Tạo mã hợp đồng thông minh có chứa backdoor một cách nhanh chóng
• Tạo phần mềm độc hại có khả năng biến hình, dùng để đánh cắp thông tin ví
• Triển khai robot lừa đảo, dụ dỗ người dùng tham gia các dự án giả mạo
• Kết hợp với các công cụ AI khác để tạo ra nội dung giả mạo sâu sắc, thực hiện lừa đảo cao cấp

Venice.ai：rủi ro tiềm ẩn của việc truy cập không kiểm duyệt

Venice.ai cung cấp quyền truy cập vào nhiều LLM, bao gồm một số mô hình có hạn chế ít hơn. Mặc dù định vị là khám phá mở, nhưng cũng có thể bị lạm dụng để:

• Vượt qua kiểm duyệt để tạo nội dung độc hại
• Giảm bớt rào cản kỹ thuật để cho phép kẻ tấn công dễ dàng truy cập vào đầu ra bị hạn chế
• Kiểm tra nhanh và tối ưu hóa các phương pháp tấn công

Đối phó

Sự xuất hiện của LLM không giới hạn đánh dấu một mô hình tấn công mới phức tạp, quy mô và tự động hóa đối với an ninh mạng. Để đối phó với thách thức này, các bên trong hệ sinh thái an ninh cần hợp tác chặt chẽ.

1. Tăng cường đầu tư vào công nghệ kiểm tra, phát triển các công cụ có khả năng nhận diện và chặn nội dung do LLM độc hại tạo ra.
2. Nâng cao khả năng phòng chống jailbreak của mô hình, khám phá cơ chế watermark nội dung và truy nguyên.
3. Thiết lập và hoàn thiện các quy tắc đạo đức và cơ chế giám sát, từ nguồn gốc hạn chế việc phát triển và lạm dụng các mô hình độc hại.

Chỉ có sự hợp tác của nhiều bên, mới có thể đảm bảo an ninh cho ngành mã hóa và không gian mạng rộng lớn hơn, đồng thời phát triển nhanh chóng công nghệ AI.