Mô hình AI mới nhất của Anthropic chỉ được sử dụng bởi 40 tổ chức do lo ngại về rủi ro an toàn, cơ quan quản lý của Vương quốc Anh khẩn cấp đánh giá

Tin tức Cổng Thông tin, ngày 12 tháng 4, cơ quan quản lý tài chính của Vương quốc Anh đang khẩn cấp đánh giá các rủi ro tiềm ẩn của mô hình AI mới nhất của Anthropic. Vào ngày 7 tháng 4, Anthropic đã công bố ra mắt mô hình AI mạnh nhất của mình Claude Mythos Preview, nhưng trong quá trình thử nghiệm nội bộ, mô hình này thể hiện năng lực an ninh mạng cực mạnh: phát hiện thành công hàng nghìn lỗ hổng có mức độ nghiêm trọng cao và có thể thực hiện các hành vi tin tặc ở mức độ vừa phải và phức tạp (bao gồm truy cập trái phép vào internet công khai, gửi email và công khai đăng tải thông tin). Xuất phát từ cân nhắc về an toàn, Anthropic quyết định không công bố rộng rãi mô hình này, mà thông qua dự án “Project Glasswing” chỉ cung cấp quyền sử dụng có hạn mức cho 40 đối tác sáng lập (bao gồm Apple, Google, Microsoft, Amazon, JPMorgan Chase, v.v.). Động thái này tạo ra hiệu ứng dây chuyền trên thị trường: cổ phiếu liên quan đến an ninh mạng giảm giá, Bộ trưởng Tài chính Mỹ Scott Bessent nhanh chóng triệu tập các lãnh đạo Phố Wall để thảo luận rủi ro đối với hệ thống tài chính, và Ngân hàng Trung ương Anh cũng đang chuẩn bị tổ chức cuộc họp với các ngân hàng và công ty bảo hiểm để đánh giá các mối đe dọa tiềm ẩn. Hiện các chuyên gia đang có quan điểm trái chiều: một số cho rằng các lo ngại về an toàn là có thật, trong khi một số ý kiến khác lại nghi ngờ rằng động thái này một phần nhằm phục vụ mục đích PR, và kêu gọi các cơ quan dân chủ độc lập thay vì công ty tư nhân quyết định các tiêu chuẩn công bố mô hình.