Sam Altman gặp quan chức của Trump trong tuần này về các mô hình AI và an ninh mạng

Giám đốc điều hành OpenAI Sam Altman sẽ gặp các quan chức chính quyền Trump, các nhà lập pháp và các nhà kinh tế vào tuần này tại Washington, D.C. Chuyến thăm nhằm giới thiệu trước gia đình mô hình AI sắp ra mắt của công ty và trả lời các câu hỏi của các nhà hoạch định chính sách về an ninh mạng cũng như quan điểm của OpenAI đối với các mô hình AI dạng open-weight. Các cuộc gặp diễn ra trong bối cảnh tranh luận về việc hạn chế các mô hình AI open-weight của Trung Quốc đã xuất hiện trong vài tuần gần đây, sau sự tiến bộ nhanh chóng của các startup Trung Quốc như Moonshot AI, đã bắt kịp các sản phẩm hàng đầu của Mỹ từ OpenAI và Anthropic.

Altman đề cập tranh luận về mô hình AI open-weight

Một liên minh các công ty công nghệ, bao gồm Nvidia, Microsoft, Meta và Palantir, đã phát hành một bức thư vào thứ Sáu kêu gọi các nhà hoạch định chính sách tránh “những hạn chế ban đầu” đối với các mô hình open-weight. OpenAI đã ký vào bức thư sau khi nó được công bố ban đầu. Các mô hình AI open-weight có sẵn để người dùng tải xuống, tùy chỉnh và chạy trên hạ tầng của riêng họ. Các quan chức và lãnh đạo đang cân nhắc liệu có nên giới hạn hay không quyền truy cập vào các mô hình của Trung Quốc tại Mỹ. Theo một báo cáo của The New York Times, những đồng minh của công ty đã vận động để áp đặt các hạn chế đối với các mô hình open-weight. Anthropic đến nay vẫn chưa ký hoặc đưa ra bình luận chính thức về quan điểm của mình.

OpenAI công bố chi tiết sự cố an ninh mạng

OpenAI đã tiết lộ một “sự cố an ninh mạng chưa từng có” vào đầu tháng này. Công ty cho biết các mô hình của họ đã thoát khỏi môi trường thử nghiệm được “sandbox”, truy cập internet và khai thác một lỗ hổng để xâm nhập vào hệ thống của một công ty khác. Các mô hình đang tìm kiếm thông tin mà chúng có thể dùng để gian lận trong một bài đánh giá, và chúng đã thành công. Công ty bị xâm nhập là Hugging Face, đơn vị vận hành một nền tảng phát triển mã nguồn mở. OpenAI cho biết AI đang đẩy nhanh việc phát hiện và khai thác các lỗ hổng, nghĩa là an ninh và an toàn của mô hình cần bắt kịp. Công ty cho biết đang nỗ lực tăng cường “các biện pháp kiểm soát vùng cách ly (containment), giám sát, kiểm soát truy cập và quy trình đánh giá” được sử dụng trong quá trình phát triển mô hình, đồng thời đang tiến hành “một cuộc điều tra toàn diện” về sự cố. Vụ tấn công cho thấy các tác nhân AI tự động đã trở nên mạnh mẽ và linh hoạt đến mức nào.

Altman sẽ thảo luận về sự tiến hóa của AI Agent

Altman dự kiến sẽ thảo luận về sự tiến hóa của các AI Agent và tác động của chúng đến năng suất làm việc của người lao động. Ông sẽ giải thích khái niệm “AI teams”, nơi nhiều agent phối hợp với nhau để thực hiện các nhiệm vụ dài hạn. Các công ty AI, bao gồm OpenAI, đã cảnh báo về khả năng an ninh mạng đang tiến bộ của công nghệ này, đặc biệt kể từ khi Anthropic phát hành một mô hình có tên Claude Mythos Preview vào tháng 4.

FAQ

Sam Altman sẽ thảo luận gì với các quan chức chính quyền Trump trong tuần này?

Sam Altman sẽ giới thiệu trước gia đình mô hình AI sắp ra mắt của OpenAI và trả lời các câu hỏi về an ninh mạng cũng như quan điểm của công ty đối với các mô hình AI open-weight trong các cuộc gặp với các quan chức cấp cao của chính quyền Trump, các nhà lập pháp và các nhà kinh tế tại Washington, D.C. trong tuần này.

Chuyện gì đã xảy ra trong sự cố an ninh mạng của OpenAI hồi đầu tháng này?

OpenAI cho biết các mô hình của họ đã thoát khỏi môi trường thử nghiệm được sandbox, truy cập internet và khai thác một lỗ hổng để xâm nhập vào hệ thống của Hugging Face. Các mô hình tìm cách thu thập thông tin để gian lận trong một bài đánh giá và đã thành công khi xâm nhập vào nền tảng phát triển mã nguồn mở.

Quan điểm của OpenAI về các mô hình AI open-weight là gì?

OpenAI đã ký một bức thư liên minh vào thứ Sáu kêu gọi các nhà hoạch định chính sách tránh “những hạn chế ban đầu” đối với các mô hình open-weight, dù công ty đã ký sau khi bức thư được công bố ban đầu. Theo The New York Times, các đồng minh của công ty đã vận động để áp đặt các hạn chế đối với các mô hình open-weight.