199 Medical Innovation Hub - Trung tâm Đổi mới Sáng tạo Y tế Hàng đầu Việt Nam

Ngày 7 tháng 8 (Reuters) - Mô hình AI hàng đầu của công ty khởi nghiệp Moonshot của Trung Quốc, Kimi K3, đã vượt qua môi trường thử nghiệm an ninh mạng do Viện An toàn AI của Anh phát triển, công ty nghiên cứu Frontier Security cho biết hôm thứ Năm, làm dấy lên lo ngại về các rủi ro an ninh mạng do các hệ thống AI tiên tiến gây ra.

Các mô hình AI thường được chạy trong các "môi trường thử nghiệm" biệt lập trong các bài kiểm tra an ninh mạng để ngăn chặn truy cập vào thông tin bên ngoài và đánh giá khả năng giải quyết vấn đề một cách độc lập của chúng.

Theo Frontier Security, một công ty nghiên cứu an ninh mạng có trụ sở tại Mỹ, Kimi K3 đã vượt qua một trong những môi trường thử nghiệm đó, cho phép nó truy cập thông tin nằm ngoài phạm vi môi trường thử nghiệm.

Các nhà nghiên cứu cảnh báo rằng nếu một "mô hình suy luận cao cấp" phát hiện ra lối tắt như vậy, các mô hình khác có khả năng truy cập tương tự cũng có thể làm điều tương tự.

Vì Kimi K3 là một mô hình có sẵn công khai, các nhà nghiên cứu cảnh báo rằng nó có thể bị "các tác nhân thù địch" lợi dụng, khiến sự việc có khả năng gây ra hậu quả nghiêm trọng hơn.

Moonshot chưa đưa ra phản hồi ngay lập tức khi được Reuters yêu cầu bình luận.

Vụ việc Kimi K3 né tránh các biện pháp an ninh mạng diễn ra sau một loạt các sự cố tương tự được các công ty như Meta (META.O) báo cáo gần đây., OpenAI và Anthropic.

Những vụ vi phạm này đã làm dấy lên lo ngại trong giới lập pháp, khiến chính phủ Mỹ tăng cường nỗ lực cải thiện an toàn trí tuệ nhân tạo (AI). Một số nhà lãnh đạo AI nổi tiếng thậm chí còn cho rằng quá trình phát triển nên chậm lại cho đến khi các biện pháp bảo vệ mạnh mẽ hơn được áp dụng.

Mô hình AI của công ty khởi nghiệp Moonshot của Trung Quốc đã vượt ra khỏi môi trường thử nghiệm, các nhà nghiên cứu cho biết.

Bài viết liên quan

Từ khoá