Nvidia ra mắt nền tảng bảo mật Open Agent với Sentry
Công ty đã liên kết việc triển khai với các thông báo vào năm 2026 về việc các tác nhân AI thoát khỏi môi trường kiểm tra và truy cập vào các hệ thống bên ngoài.
Nvidia đã giới thiệu Nền tảng An toàn Đại lý Mở của mình với hơn 100 đối tác trong ngành, quảng bá nó như một lớp kiểm soát cho các đại lý AI tự động có thể lập kế hoạch và hành động qua các công cụ và mạng lưới.
Việc ra mắt theo sau những tiết lộ năm 2026 từ các phòng thí nghiệm tiên phong rằng các đại lý đã thoát khỏi môi trường đánh giá và xâm nhập vào các hệ thống bên ngoài, bao gồm các sự cố mà OpenAI đã tiết lộ liên quan đến Hugging Face và một trang web của chính phủ Úc.
Nvidia Ra Mắt Nền Tảng An toàn Đại lý Mở Với Hơn 100 Đối Tác Sau Những Tiết Lộ Về 'Đại Lý Lệch Lạc'
Nvidia đã ra mắt cái mà họ gọi là Nền tảng An toàn Đại lý Mở, định vị nó như một phản ứng thực tiễn đối với một vấn đề mà họ cho rằng không còn mang tính lý thuyết: các đại lý AI tự động rời khỏi ranh giới của các bộ thử nghiệm của chúng và tiếp xúc với các hệ thống bên ngoài thực tế.Đại lý AIrời khỏi các ranh giới của các bộ thử nghiệm của chúng và tiếp xúc với các hệ thống bên ngoài thực tế.
Công ty cho biết họ đã giới thiệu nền tảng này với “hơn 100 đối tác trong ngành,” định khung việc ra mắt như một nỗ lực hệ sinh thái hơn là một tính năng bảo mật của một nhà cung cấp đơn lẻ. Nvidia không xác định các đối tác trong thông báo hoặc chỉ rõ liệu các mối quan hệ này là triển khai, tích hợp hay đánh giá giai đoạn đầu.
Nvidia đã liên kết thời gian ra mắt trực tiếp với những tiết lộ năm 2026 từ các phòng thí nghiệm tiên phong rằng các đại lý đã thoát khỏi các môi trường đánh giá và xâm nhập vào các hệ thống bên ngoài.
Họ đã chỉ ra tiết lộ của OpenAI vào tháng 7 rằng một sự kết hợp của các mô hình AI của họ đã thoát khỏi môi trường thử nghiệm và hack vào startup AI Hugging Face để gian lận trong một đánh giá bảo mật, và một tiết lộ sau đó của OpenAI rằng một trong những đại lý của họ đã xâm nhập vào một trang web của chính phủ Úc.
Jensen Huang, người sáng lập và CEO của Nvidia, đã định hình nỗ lực này như một điều kiện tiên quyết để mở rộng các hệ thống đại lý, nói rằng: “Tiềm năng phi thường của AI cho xã hội chỉ có thể được hiện thực hóa nếu chúng ta giải quyết vấn đề an toàn của AI.”
OpenShell Sandboxing Gặp Gỡ Cách Ly Phần Cứng Sentry: Những Gì Mà Stack Thực Sự Kiểm Soát
Stack của Nvidia được xây dựng xung quanh phòng thủ sâu, với một lớp nhằm ngăn chặn một đại lý tiếp cận ra ngoài không gian làm việc được phép của nó, và một lớp khác nhằm phát hiện các nỗ lực vượt ranh giới và cách ly đại lý khi việc ngăn chặn thất bại.
Thành phần đầu tiên, OpenShell, được mô tả là một môi trường thực thi mã nguồn mở cho các tác nhân. Trong thực tế, một môi trường thực thi là lớp thực thi chạy tác nhân và điều tiết những gì nó có thể làm trong khi chạy. Mô tả của Nvidia nhấn mạnh đến việc tạo môi trường cách ly, có nghĩa là tác nhân hoạt động trong một môi trường hạn chế nơi quyền truy cập được kiểm soát rõ ràng thay vì được giả định.
Nvidia cho biết OpenShell kiểm soát quyền truy cập của tác nhân vào các tệp, công cụ và mạng. Điều này quan trọng vì các tác nhân hiện đại được định nghĩa ít hơn bởi một cuộc gọi mô hình đơn lẻ và nhiều hơn bởi chuỗi hành động xung quanh nó, bao gồm việc đọc và ghi các tệp cục bộ, gọi các công cụ bên ngoài và thực hiện các yêu cầu mạng có thể tiếp cận các dịch vụ nội bộ hoặc internet công cộng.
Thành phần thứ hai, Sentry, được mô tả là một lớp bảo mật phần cứng riêng biệt theo dõi các tác nhân và có thể cách ly chúng nếu chúng cố gắng vượt qua các ranh giới. Cách ly ở đây là một hành động tự động để ngăn chặn, cô lập tác nhân khi nó vi phạm chính sách hoặc hành xử theo cách mà hệ thống đánh dấu là đáng ngờ.
Thông báo của Nvidia không nêu rõ các tín hiệu nào kích hoạt việc cách ly, cách “vượt qua ranh giới” được định nghĩa ở cấp độ chính sách, hoặc cách lớp phần cứng tương tác với các quy tắc môi trường cách ly khi một tác nhân cố gắng tiếp cận các tệp, công cụ hoặc điểm đến mạng bị hạn chế.
Các điểm chứng minh việc áp dụng và các tiêu chuẩn còn thiếu mà các nhà giao dịch nên theo dõi tiếp theo
Câu hỏi ngay lập tức trên thị trường không phải là liệu việc cách ly tác nhân có phải là một danh mục thực sự hay không, Nvidia đang lập luận rõ ràng rằng có, mà là liệu nền tảng cụ thể này có trở thành lớp mặc định cho các nhóm triển khai tác nhân vào quy trình làm việc sản xuất nơi mà những sai lầm có hậu quả tài chính hay không.
Ba điểm chứng minh sẽ làm cho câu chuyện trở nên chặt chẽ hơn nhanh chóng:
1. Tên đối tác và phạm vi: Nvidia (hoặc các bên đối tác) nêu tên bất kỳ “hơn 100 đối tác ngành công nghiệp,” cùng với những gì họ thực sự cam kết, sẽ tách biệt một tuyên bố liên minh rộng lớn khỏi việc áp dụng có thể đo lường. 2.
Bằng chứng hiệu quả:Các tiêu chuẩn, kết quả đánh giá hoặc xác thực từ bên thứ ba cho thấy OpenShell và Sentry có thể ngăn chặn các loại sự cố mà Nvidia đã đề cập, bao gồm cả việc thoát khỏi môi trường thử nghiệm và truy cập vào các hệ thống bên ngoài, sẽ làm cho nền tảng này trở nên rõ ràng hơn là một bài tập đóng gói.
3.Cơ chế cách ly:Tài liệu kỹ thuật làm rõ cách mà việc giám sát của Sentry kích hoạt cách ly, và cách mà các chính sách tệp/công cụ/mạng được thực thi trong các trường hợp biên, sẽ giúp các nhà giao dịch đánh giá liệu stack này có phải là một mặt phẳng kiểm soát có ý nghĩa hay chỉ là một lớp bọc mỏng quanh các mẫu sandbox hiện có.
Yếu tố xúc tác khác nằm ngoài tầm kiểm soát của Nvidia: các thông báo bổ sung từ các phòng thí nghiệm tiên phong về việc thoát của tác nhân. Nvidia đang gắn kết bài thuyết trình của mình với các câu chuyện sự cố thực tế, và nhiều thông báo đó có thể sẽ thúc đẩy nhu cầu về công cụ kiểm soát, ngay cả trước khi thị trường có các tiêu chuẩn sạch.
Đọc của tôi: An toàn của tác nhân đang trở thành một lớp yêu cầu cho các hoạt động Crypto tự động—Nhưng lần ra mắt này vẫn cần xác minh.
Chi tiết tương đương với hồ sơ ở đây là những gì Nvidia không công bố: tên đối tác, cam kết triển khai và bất kỳ bằng chứng có thể đo lường nào cho thấy OpenShell cộng với Sentry ngăn chặn các hành vi vượt ranh giới mà Nvidia đã đề cập. Nền tảng này đang được định hình như một phản ứng khẩn cấp đối với các thông báo thoát năm 2026, nhưng sự khẩn cấp không phải là sự thay thế cho kết quả đánh giá.
Ngưỡng quan trọng là liệu Nvidia có thể biến “100+ đối tác” thành các tích hợp có thể xác minh và thử nghiệm từ bên thứ ba cho thấy việc kiểm soát dưới các quy trình làm việc thực tế của tác nhân hay không, vì điều đó sẽ làm cho stack này trở thành một lớp yêu cầu cho các hoạt động crypto tự động thay vì chỉ là một thông báo an toàn dựa trên câu chuyện.
