Hộp Pandora được mở: Mối đe dọa từ mô hình AI không giới hạn đối với ngành mã hóa

Với sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo, từ các mô hình dòng GPT đến Gemini đang thay đổi sâu sắc cách thức làm việc và sinh hoạt của chúng ta. Tuy nhiên, sự tiến bộ công nghệ cũng mang đến những rủi ro tiềm ẩn - sự xuất hiện của các mô hình ngôn ngữ lớn không bị kiểm soát hoặc có ác ý.

Mô hình ngôn ngữ không giới hạn được gọi là những hệ thống AI được thiết kế, sửa đổi hoặc "bẻ khóa" một cách cố ý để tránh các cơ chế an toàn và giới hạn đạo đức được tích hợp trong các mô hình chính thống. Mặc dù các nhà phát triển AI chính thống đã đầu tư nhiều tài nguyên để ngăn chặn việc lạm dụng mô hình, nhưng một số cá nhân hoặc tổ chức vì mục đích bất hợp pháp đã bắt đầu tìm kiếm hoặc phát triển các mô hình không bị giới hạn. Bài viết này sẽ khám phá các trường hợp điển hình của mô hình AI không giới hạn, mối đe dọa tiềm tàng trong ngành mã hóa, cũng như các thách thức an ninh liên quan và chiến lược ứng phó.

Mối đe dọa từ mô hình AI không giới hạn

Sự xuất hiện của các mô hình này đã giảm đáng kể rào cản cho các tội phạm mạng. Những nhiệm vụ trước đây cần kỹ năng chuyên môn để hoàn thành, như viết mã độc, tạo email lừa đảo, lập kế hoạch gian lận, giờ đây nhờ vào sự hỗ trợ của AI không hạn chế, ngay cả những người không có kỹ thuật cũng có thể dễ dàng bắt tay vào. Kẻ tấn công chỉ cần lấy trọng số và mã nguồn của mô hình mã nguồn mở, sau đó điều chỉnh lại bằng cách sử dụng một tập dữ liệu chứa nội dung độc hại hoặc lệnh bất hợp pháp, họ có thể tạo ra các công cụ tấn công tùy chỉnh.

Mô hình này mang lại nhiều rủi ro:

1. Kẻ tấn công có thể tùy chỉnh mô hình dựa trên mục tiêu cụ thể, tạo ra nội dung lừa đảo hơn, vượt qua việc kiểm tra nội dung của AI thông thường.
2. Mô hình có thể được sử dụng để nhanh chóng tạo ra các biến thể mã của trang web lừa đảo, hoặc tùy chỉnh nội dung lừa đảo cho các nền tảng khác nhau.
3. Sự khả dụng của các mô hình mã nguồn mở đã thúc đẩy sự hình thành của hệ sinh thái AI ngầm, tạo điều kiện cho các giao dịch và phát triển trái phép.

Mô hình AI không giới hạn điển hình và mối đe dọa của nó

WormGPT：phiên bản tối của GPT

WormGPT là một mô hình AI độc hại được bán công khai trên các diễn đàn ngầm, tự xưng là không có bất kỳ giới hạn đạo đức nào. Nó dựa trên các mô hình mã nguồn mở như GPT-J 6B và được đào tạo trên một lượng lớn dữ liệu liên quan đến phần mềm độc hại. Người dùng chỉ cần 189 đô la để có quyền sử dụng trong một tháng.

Trong lĩnh vực mã hóa, WormGPT có thể bị lạm dụng để:

• Tạo ra email lừa đảo cực kỳ chân thực, dụ dỗ người dùng nhấp vào liên kết độc hại hoặc tiết lộ khóa riêng.
• Hỗ trợ những kẻ tấn công có trình độ kỹ thuật thấp viết mã độc để đánh cắp tệp ví, giám sát bảng t clipboard.
• Kích hoạt lừa đảo tự động, tự động trả lời nạn nhân tiềm năng, hướng dẫn tham gia các dự án giả.

DarkBERT：con dao hai lưỡi của nội dung mạng đen

DarkBERT là một mô hình ngôn ngữ được huấn luyện trước trên dữ liệu từ mạng sâu, ban đầu nhằm giúp các nhà nghiên cứu và cơ quan thực thi pháp luật hiểu về hệ sinh thái mạng sâu. Tuy nhiên, nếu bị kẻ xấu chiếm đoạt hoặc sao chép, có thể gây ra rủi ro nghiêm trọng.

Trong lĩnh vực mã hóa, các mối đe dọa tiềm ẩn bao gồm:

• Thu thập thông tin người dùng và nhóm dự án, để phục vụ cho việc lừa đảo xã hội chính xác.
• Sao chép các chiến lược trộm tiền và rửa tiền trưởng thành trong mạng tối.

FraudGPT：Công cụ đa năng cho lừa đảo trên mạng

FraudGPT tự xưng là phiên bản nâng cấp của WormGPT, với chức năng toàn diện hơn, chủ yếu được bán trên mạng tối. Trong lĩnh vực mã hóa có thể bị lạm dụng để:

• Tạo ra các tài liệu trắng giả mạo bơm dự án mã hóa, trang web chính thức, v.v., để thực hiện lừa đảo ICO.
• Tạo hàng loạt các trang lừa đảo giả mạo các sàn giao dịch nổi tiếng.
• Sản xuất quy mô lớn các bình luận giả, quảng bá token lừa đảo hoặc bôi nhọ các dự án cạnh tranh.
• Bắt chước cuộc trò chuyện của con người, thiết lập niềm tin với người dùng, dụ dỗ tiết lộ thông tin nhạy cảm.

GhostGPT：AI trợ giúp không có ràng buộc đạo đức

GhostGPT được xác định rõ ràng là một chatbot AI không có giới hạn về đạo đức. Những mối đe dọa tiềm tàng trong lĩnh vực mã hóa bao gồm:

• Tạo ra những email lừa đảo cực kỳ giống thật, giả mạo thông báo từ sàn giao dịch.
• Tạo hợp đồng thông minh chứa cửa hậu ẩn nhanh chóng, dùng cho trò lừa đảo Rug Pull.
• Tạo phần mềm độc hại có khả năng biến hình liên tục, đánh cắp thông tin ví.
• Kết hợp ngôn ngữ được tạo ra bởi AI, triển khai robot lừa đảo trên nền tảng xã hội.
• Kết hợp với các công cụ AI khác, tạo ra giọng nói giả mạo của bên dự án, thực hiện lừa đảo qua điện thoại.

Venice.ai：rủi ro tiềm ẩn về truy cập không kiểm duyệt

Venice.ai cung cấp quyền truy cập vào nhiều mô hình AI với ít hạn chế, mặc dù mục đích là khám phá khả năng của AI, nhưng cũng có thể bị lạm dụng. Các rủi ro tiềm ẩn bao gồm:

• Vượt qua kiểm duyệt để tạo ra nội dung độc hại, như mẫu lừa đảo, tuyên truyền sai lệch, v.v.
• Giảm thiểu rào cản kỹ thuật, giúp kẻ tấn công dễ dàng hơn trong việc có được đầu ra vốn bị hạn chế.
• Bơm các kịch bản tấn công, thử nghiệm nhanh và tối ưu hóa các kịch bản gian lận.

Giải pháp ứng phó

Sự xuất hiện của các mô hình AI không giới hạn đánh dấu một kỷ nguyên mới mà an ninh mạng phải đối mặt với các cuộc tấn công phức tạp hơn, có quy mô lớn hơn và khả năng tự động hóa cao hơn. Điều này không chỉ làm giảm rào cản tấn công mà còn mang đến những mối đe dọa mới kín đáo và lừa đảo hơn.

Để đối phó với những thách thức này, các bên trong hệ sinh thái an toàn cần phối hợp nỗ lực:

1. Tăng cường đầu tư vào công nghệ kiểm tra, phát triển hệ thống có khả năng nhận diện và chặn các nội dung độc hại do AI tạo ra, lỗ hổng hợp đồng thông minh và mã độc.

2. Thúc đẩy xây dựng khả năng phòng chống jailbreak của mô hình, khám phá cơ chế watermark và truy nguồn, nhằm theo dõi nguồn gốc nội dung độc hại trong các tình huống quan trọng.

3. Xây dựng và hoàn thiện các quy tắc và cơ chế giám sát về đạo đức AI, từ nguồn hạn chế sự phát triển và lạm dụng các mô hình xấu.

4. Tăng cường giáo dục người dùng, nâng cao khả năng phân biệt và nhận thức an toàn của công chúng đối với nội dung được tạo ra bởi AI.

5. Thúc đẩy hợp tác ngành, thiết lập cơ chế chia sẻ thông tin, kịp thời cảnh báo các mối đe dọa liên quan đến AI mới xuất hiện.

Đối mặt với cuộc chiến tranh công phòng đang liên tục leo thang này, chỉ có sự hợp tác giữa nhiều bên, không ngừng đổi mới, mới có thể ứng phó hiệu quả với những thách thức về an ninh trong thời đại AI, đảm bảo sự phát triển lành mạnh của ngành mã hóa.