Các Quan chức Hoa Kỳ Cảnh báo Phố Wall về Rủi ro của AI Anthropic

Cờ rủi ro về bảo mật của Mythos Model

Trọng tâm là mô hình Mythos của công ty Anthropic, theo cáo buộc có khả năng phát hiện và sử dụng các lỗ hổng trong hệ điều hành và nền tảng web. Hơn nữa, công ty thừa nhận rằng mô hình có thể mô phỏng các cuộc tấn công khi bị khiêu khích trong các điều kiện được kiểm soát. Do đó, các cơ quan chức năng coi những năng lực như vậy là một mối đe dọa tiềm ẩn khi bị lạm dụng bởi những cá nhân có ý đồ xấu. Điều này đã làm gia tăng sự giám sát trong các lĩnh vực tài chính và quản lý. Anthropic được tiếp cận giới hạn với Mythos và đang phát triển các ứng dụng phòng thủ với Project Glasswing. Các công ty lớn như Amazon, Apple và JPMorgan Chase nằm trong sáng kiến này. Ngoài ra, các tổ chức như Google, NVIDIA và Linux Foundation cũng đã tham gia. Nhằm tăng cường bảo mật phần mềm thông qua phát hiện lỗ hổng dựa trên AI, các nhóm này đang theo đuổi mục tiêu đó.

Công ty đã đầu tư rất nhiều nguồn lực để thúc đẩy sáng kiến và mở rộng phạm vi phòng thủ. Anthropic cung cấp tới 100 triệu tín dụng sử dụng và 4 triệu USD tài trợ trực tiếp. Hơn nữa, hơn 40 tổ chức kiểm soát hạ tầng quan trọng đã có thể truy cập hệ thống. Nỗ lực chung này nhằm phát hiện và khắc phục các khiếm khuyết mức độ nghiêm trọng cao trong các phần mềm phổ biến. Anthropic vẫn thu hút sự chú ý nhờ các thay đổi trong diễn biến pháp lý và quy định. Chính quyền Trump đã tìm cách áp dụng các biện pháp đối với công ty trong quá trình phân loại, nhưng bị tòa án liên bang tại San Francisco chặn lại. Thẩm phán Rita Lin đã ra lệnh rằng việc chỉ định này không dựa trên cơ sở luật định một cách đáng kể. Vì vậy, phán quyết này chỉ là sự hoãn tạm thời do các công ty AI vẫn đang bị đặt dưới “kính hiển vi”.

Công ty đã ghi nhận tăng trưởng tài chính mạnh mẽ, và doanh thu định kỳ hằng năm của họ đã tăng vọt trong vài tháng qua. Điều này đã làm gia tăng sự quan tâm cả trong lĩnh vực công nghệ và tài chính. Ngoài ra, các nhà phân tích vẫn đang đánh giá tác động tổng thể đối với các công ty đối thủ, như Palantir Technologies. Những người tham gia trong thị trường đang theo dõi cách việc triển khai AI ảnh hưởng đến sự cạnh tranh trong ngành. Những đổi mới mới nhất tại Anthropic đã tạo ra sự quan tâm tăng lên đối với an ninh AI, các yêu cầu quy định và hệ quả đối với thị trường. Những yếu tố này vẫn có ảnh hưởng trong các cuộc tranh luận về chính sách và sự sẵn sàng về tài chính.

Bài viết này ban đầu được đăng với tiêu đề US Officials Warn Wall Street About the Risks of Anthropic AI trên Crypto Breaking News – nguồn tin cậy của bạn về tin tức tiền mã hóa, tin tức Bitcoin và các cập nhật blockchain.