LLM có thể phá vỡ tính ẩn danh và quyền riêng tư trên mạng: AI có thể tìm ra ai là Satoshi Nakamoto không?

Một nghiên cứu học thuật gần đây chỉ ra rằng các mô hình ngôn ngữ lớn (LLM) có khả năng “ẩn danh” người dùng internet trong các tình huống quy mô lớn. Chỉ dựa trên nội dung của các bài đăng công khai, mô hình có thể suy ra danh tính thực sự đằng sau tài khoản ẩn danh. Phát hiện này không chỉ làm dấy lên lo ngại từ thế giới bên ngoài mà còn làm dấy lên các cuộc thảo luận trong cộng đồng tiền điện tử về việc liệu danh tính thực sự của Satoshi Nakamoto có thể được tiết lộ hay không.

Nghiên cứu tiết lộ: LLM giúp xóa ẩn danh thông tin cá nhân dễ dàng hơn

Nghiên cứu có tiêu đề “Sử dụng LLM để giải ẩn danh trực tuyến quy mô lớn”, chỉ ra rằng LLM có thể trích xuất manh mối nhận dạng từ văn bản phi cấu trúc và thực hiện tìm kiếm và so sánh ngữ nghĩa trong cơ sở dữ liệu khổng lồ để đạt được các cuộc tấn công khử ẩn danh tự động hóa cao.

Nhóm nghiên cứu đã thiết kế một quy trình gồm bốn giai đoạn: Trích xuất, Tìm kiếm, Lý luận và Hiệu chỉnh để mô phỏng cách những kẻ tấn công tái tạo các đặc điểm cá nhân từ các tài liệu công khai để khớp với danh tính thực.

Tổng quan về Khung nghiên cứu khử ẩn danh quy mô lớn

Trong thí nghiệm, các nhà nghiên cứu đã kết hợp chéo các tài khoản Hacker News với hồ sơ LinkedIn và với độ chính xác 99%, khoảng 45% danh tính thực vẫn có thể được khôi phục. Trong các thử nghiệm với tài khoản Reddit, ngay cả sau khi phân đoạn thời gian và lọc nội dung, mô hình vẫn xác định được một tỷ lệ người dùng nhất định trong điều kiện độ chính xác cao.

Simon Lermen, tác giả của bài báo, tin rằng LLM không phải là tạo ra khả năng nhận dạng mới, mà là giảm đáng kể chi phí theo dõi thủ công hoặc mở rộng quy mô các cuộc tấn công khử ẩn danh.

“Bảo vệ biệt danh” bị vô hiệu? AI sẽ thách thức tính ẩn danh trực tuyến

Trong quá khứ, bút danh được sử dụng như một biện pháp bảo vệ không phải vì nó không thể xác định được, mà vì nó quá tốn kém để xác định. Lermen chỉ ra rằng LLM đã thay đổi chính xác điều đó: “Các mô hình có thể xử lý hàng chục nghìn mẩu dữ liệu trong một khoảng thời gian ngắn, tự động hóa quá trình điều tra của con người.”

Ông nhấn mạnh rằng điều này không có nghĩa là tất cả các tài khoản ẩn danh sẽ bị lộ ngay lập tức, mà là “miễn là còn lại đủ manh mối văn bản”, mô hình sẽ có cơ hội xây dựng lại hồ sơ danh tính. Nói cách khác, văn bản có thể trở thành mục tiêu cho vi dữ liệu được khai thác trong tương lai, ngay cả khi không có tên hoặc liên kết tài khoản, các tín hiệu như sở thích, nền tảng hoặc thói quen ngôn ngữ có thể trở thành cơ sở để nhận dạng.

Những mối quan tâm tiềm ẩn trong thế giới tiền điện tử: Tính minh bạch trên chuỗi sẽ trở thành một công cụ giám sát?

Nghiên cứu này nhanh chóng làm dấy lên các cuộc thảo luận trong cộng đồng tiền điện tử. Mert Mumtaz, đồng sáng lập của Helius Labs, tin rằng blockchain vốn dựa vào danh tính ẩn danh và tất cả các hồ sơ giao dịch đều được công khai vĩnh viễn.

Ông lo lắng rằng blockchain, ban đầu được coi là cơ sở hạ tầng tài chính phi tập trung, có thể trở thành một công cụ giám sát có tính minh bạch cao trong kịch bản này.

(Bộ sưu tập công khai Bitcoin không còn trần trụi!) Cách thanh toán im lặng đạt được sự tiện lợi và bảo vệ quyền riêng tư)

Liệu Satoshi Nakamoto có bị AI phát hiện? Phân tích phong cách thành các biến mới

Đồng thời, Nic Carter, một đối tác tại Castle Island Ventures, cũng đặt ra một câu hỏi khác: Nếu LLM có thể thực hiện phân tích stylometry nâng cao, liệu có thể suy ra danh tính thực sự của Satoshi Nakamoto bằng cách so sánh các email trong quá khứ, bài đăng trên diễn đàn và văn bản sách trắng không?

Ông tin rằng về mặt lý thuyết, nếu có các mẫu tương ứng của các công trình đã xuất bản, mô hình có thể phù hợp về mặt xác suất; Tuy nhiên, đây vẫn là một suy luận thống kê hơn là một công cụ xác nhận. Một khi người sáng tạo thay đổi phong cách viết của mình hoặc không viết công khai dưới tên thật của mình, về cơ bản rất khó để xác định.

(Hồ sơ Epstein tiết lộ mạng lưới quyền lực ban đầu của Bitcoin, liệu tội phạm tình dục này có thể là Satoshi Nakamoto?) )

Khi AI tác động đến quyền riêng tư: Công nghệ mã hóa và ẩn danh vẫn cần được nâng cấp

Trong kết luận của mình, Lermen nhấn mạnh rằng ông không cố gắng gây hoảng loạn, nhưng chỉ ra rằng các cơ chế mã hóa và ẩn danh truyền thống cần được cập nhật. Trước đây, chỉ có dữ liệu có cấu trúc là một mối quan tâm, nhưng bây giờ ngay cả văn bản phi cấu trúc cũng có thể được nhận ra. Quyền riêng tư không còn chỉ là vấn đề kỹ thuật mà còn liên quan đến các chính sách nền tảng, thói quen tiết lộ dữ liệu và chuẩn mực xã hội.

Trong bối cảnh khả năng AI phát triển nhanh chóng, cách quyền riêng tư của người dùng được thiết kế lại và bảo vệ cũng đã trở thành một vấn đề quan trọng đối với các công ty khác nhau.

Bài viết này LLM có thể làm suy yếu tính ẩn danh và quyền riêng tư trực tuyến: AI có thể tìm ra Satoshi Nakamoto là ai không? xuất hiện đầu tiên trên Tin tức chuỗi ABMedia.