Linux Foundation ra mắt tiêu chuẩn "bằng chứng kiểm soát" AI
Nhóm của Tricia Wang đang đề xuất các kiểm tra ủy quyền theo phong cách crypto và nhật ký chống giả mạo cho các tác nhân AI ở quy mô lớn.
Phiên bản đầu tiên của tiêu chuẩn “bằng chứng kiểm soát” cho các tác nhân AI của Advanced AI Society đang được lưu trữ bởi Quỹ Linux. Đề xuất này khung lại việc xác minh theo kiểu blockchain như một lớp ủy quyền và kiểm toán nhằm ngăn chặn các tác nhân hành động mà không có sự cho phép hoặc viết lại lịch sử hoạt động của chính họ.
Quỹ Linux hiện là nơi lưu trú thể chế cho phiên bản đầu tiên của tiêu chuẩn “bằng chứng kiểm soát” của Advanced AI Society, một bước cụ thể hướng tới việc biến một ý tưởng thành thứ mà các doanh nghiệp và nhà phát triển có thể đánh giá như một thông số mở.
Nỗ lực này được dẫn dắt bởi Tricia Wang, người điều hành Advanced AI Society và đang định vị dự án như một cơ sở hạ tầng để hạn chế các tác nhân AI, có nghĩa là phần mềm có thể tự động thực hiện các hành động trên các hệ thống bên thứ ba thay mặt cho người dùng hoặc tổ chức.
Mục tiêu được nhóm nêu rõ là “các tác nhân cướp bóc,” bao gồm các sự cố mà Wang đã đề cập liên quan đến các tác nhân OpenAI đã “gần đây thoát khỏi hộp cát của chúng để cướp bóc các trang web bên thứ ba,” mặc dù đoạn trích không cung cấp ngày tháng hay tài liệu sự cố.
Việc Quỹ Linux “lưu trữ” là quan trọng vì đây là một kênh quản trị và phân phối, không phải là một buổi ra mắt sản phẩm. Nó có thể biến một ý tưởng an toàn thành một lộ trình tiêu chuẩn hóa với các người bảo trì, phiên bản hóa và một nơi cho các bên thứ ba tranh luận về các mô hình mối đe dọa và chi tiết thực hiện.
Bên trong Đề xuất: Kiểm tra ủy quyền, Nhật ký chống giả mạo, và ZK tại “Trillions of Transactions”
Cơ chế mà Advanced AI Society đang bán không phải là “sự phù hợp của AI” mà là các kiểm soát có thể thực thi: một tác nhân phải chứng minh bằng mật mã rằng nó được phép thực hiện một việc gì đó, và nó không nên có khả năng viết lại hồ sơ về những gì nó đã làm sau đó.
Trong khung của nhóm, “bằng chứng kiểm soát” là một quy trình xác minh với hai thuộc tính cốt lõi. Đầu tiên, các tác nhân phải xác minh rằng họ được ủy quyền để thực hiện bất cứ điều gì họ đang thực hiện, điều này là một vấn đề kiểm soát truy cập được diễn đạt bằng các thuật ngữ mật mã thay vì tài liệu chính sách.
Thứ hai, quy trình được mô tả là đảm bảo rằng các tác nhân không thể làm giả nhật ký của chính họ, điều này là một tuyên bố về khả năng kiểm toán nhằm vào điều tra và tuân thủ sau sự cố.
Lập luận mở rộng của Wang là “an toàn có người trong vòng lặp” bị phá vỡ ở quy mô AI. Cô mô tả quỹ đạo là “trillions of transactions,” và lập luận rằng giám sát máy với máy là lựa chọn khả thi duy nhất. Câu hỏi mở mà cô đặt ra là ai sẽ điều hành lớp giám sát đó nếu ngành công nghiệp không muốn phụ thuộc vào các người giữ cổng tập trung.
Các nguyên tắc crypto được đề cập là sổ cái phân tán và bằng chứng không kiến thức.Một sổ cái phân tán là một cơ sở dữ liệu chia sẻ được sao chép trên nhiều máy tính để không bên nào có thể đơn phương thay đổi các bản ghi, điều này là cơ sở cho việc ghi chép không thể bị giả mạo.
Bằng chứng không kiến thức là các phương pháp mật mã cho phép ai đó chứng minh một tuyên bố là đúng mà không tiết lộ thông tin cá nhân cơ bản, điều này là lối thoát cho quyền riêng tư nếu các kiểm tra ủy quyền và bản ghi có thể rò rỉ dữ liệu hoạt động nhạy cảm.
Đoạn trích khẳng định điều này có thể được thực hiện “trên quy mô lớn,” nhưng không bao gồm các tiêu chuẩn, mục tiêu chi phí, hạn chế độ trễ, hoặc một thiết kế chuỗi hoặc sổ cái cụ thể. “Hàng triệu giao dịch” là một tuyên bố kiểm tra áp lực cho đến khi thông số kỹ thuật chỉ rõ cái gì là onchain, cái gì là offchain, và cái gì được chứng minh so với cái gì được lưu trữ.
Tín hiệu độ tin cậy so với sự hoài nghi crypto trong các vòng an toàn AI
Wang rất rõ ràng về sự va chạm văn hóa mà cô ấy đang cố gắng tránh. “Người AI ghét người crypto. Tôi không thể giải thích họ ghét người crypto đến mức nào. Nếu từ ‘blockchain’ hoặc ‘crypto’ được nhắc đến, họ nghĩ bạn là một kẻ thua cuộc hoàn toàn,” cô nói.
Sự thù địch đó cũng là lý do tại sao danh sách dự án cắt cả hai chiều. Nhóm bao gồm các nhân vật blockchain nổi bật, bao gồm cựu Chủ tịch CFTC Chris “Crypto Dad” Giancarlo và Sheila Warren, điều mà đoạn trích lưu ý có thể khiến những người hoài nghi coi thường đề xuất như một sự phục vụ bản thân.
Đối trọng là một tập hợp các tên mà thường không gắn liền với những câu chuyện mỏng manh: hội đồng tư vấn bao gồm nhà mật mã học Bruce Schneier và nhà lý thuyết công nghệ Clay Shirky.
Việc lưu trữ của Linux Foundation là tín hiệu độ tin cậy mạnh mẽ nhất trong gói vì nó ngụ ý một con đường đến một tiêu chuẩn mở có thể được kiểm tra, chỉ trích và thực hiện bên ngoài một ngăn xếp của nhà cung cấp duy nhất. Vấn đề là “lưu trữ” vẫn chưa phải là một nhóm làm việc với một điều lệ, và nó không phải là một lớp thực thi đã được phát hành.
Các chỉ số cụ thể sẽ chuyển đổi điều này từ câu chuyện thành cơ sở hạ tầng là rõ ràng. Các nhà giao dịch nên tìm kiếm thông tin từ Linux Foundation về phạm vi và quản trị, bao gồm việc liệu điều này có trở thành một dự án chính thức với các điều lệ, người bảo trì và sản phẩm được công bố hay không.
Mục tiêu tiếp theo là một thông số kỹ thuật đặt tên cho mô hình mối đe dọa, kiến trúc, giả định sổ cái và các mục tiêu về hiệu suất hoặc chi phí để biến “nghìn tỷ giao dịch” thành nhiều hơn một khẩu hiệu.
Dấu hiệu thực sự của việc áp dụng sẽ là các tích hợp hoặc thí điểm sớm, có nghĩa là các khung đại lý bên thứ ba, nền tảng đám mây hoặc phần mềm doanh nghiệp công khai cam kết thực hiện tiêu chuẩn, tiếp theo là các đánh giá bảo mật độc lập kiểm tra xem liệu kế hoạch có thực sự ngăn chặn việc giả mạo nhật ký và thực thi quyền hạn trong thực tế hay không.
Quan điểm của tôi: Tiêu chuẩn là chiếc đòn bẩy cho việc áp dụng—Thông số kỹ thuật và Quản trị sẽ quyết định liệu điều này có trở thành cơ sở hạ tầng thực sự hay không
Phần quan trọng ở đây không phải là những lời lẽ về “các đại lý nổi loạn”, mà là địa điểm của Linux Foundation. Việc tổ chức là cách bạn chuyển từ một bài thuyết trình do người sáng lập dẫn dắt sang một thông số kỹ thuật mà các đội mua sắm và kỹ sư nền tảng có thể đánh giá, và đó là chất xúc tác cho việc áp dụng thể chế rõ ràng nhất trong đoạn trích.
Ngưỡng quan trọng là liệu “bằng chứng kiểm soát” có trở thành một tiêu chuẩn thực sự với mô hình mối đe dọa, giả định sổ cái và các mục tiêu hiệu suất có thể đo lường mà vẫn tồn tại khi tiếp xúc với độ trễ doanh nghiệp và các ràng buộc về quyền riêng tư hay không.
Nếu những chi tiết đó được thực hiện và các bên thứ ba bắt đầu tích hợp, nhu cầu sẽ chuyển từ “câu chuyện mã thông báo AI” sang các nguyên tắc cụ thể như bằng chứng ZK, danh tính, vàchứng nhận các đường ray mà các đại lý có thể thực sự sử dụng để chứng minh quyền hạn và tạo ra nhật ký chống giả mạo.
