Chủ tịch công nghệ EU: AI Act kiểm soát AI "nổi loạn"
Henna Virkkunen cho biết Ủy ban đang đánh giá các phản hồi về an toàn và bảo mật từ hơn 30 công ty AI đã được liên hệ vào cuối tháng Tám.
Người đứng đầu công nghệ EU, Henna Virkkunen, cho biết châu Âu "được trang bị tốt" để giải quyết các rủi ro về an toàn và bảo mật từ các mô hình AI có khả năng cao, lập luận rằng các quy định của khối có thể xử lý những lo ngại về các tác nhân AI "mất kiểm soát" hoạt động ngoài tầm kiểm soát của con người.
Những bình luận của cô được đưa ra khi Ủy ban Châu Âu xem xét thông tin về an toàn và bảo mật mà họ đã yêu cầu vào cuối tháng Tám từ hơn 30 công ty AI.
Henna Virkkunen, người đứng đầu công nghệ của Liên minh Châu Âu, đang dựa vào Đạo luật Trí tuệ Nhân tạo của Liên minh Châu Âu như một khuôn khổ sẵn có cho an toàn mô hình tiên tiến, định vị nó như có khả năng xử lý các kịch bản "tác nhân mất kiểm soát" hiện đang thúc đẩy cuộc tranh luận quốc tế.
"Chúng tôi thấy rằng an toàn và bảo mật của các mô hình rất có khả năng là một chủ đề rất nóng trên toàn cầu và chúng tôi ở châu Âu được trang bị tốt cho điều đó," Virkkunen nói trong một cuộc phỏng vấn với Reuters vào thứ Sáu.
Lập luận của cô mang tính quy trình, không phải triết lý. Virkkunen chỉ ra thiết kế dựa trên rủi ro của Đạo luật AI EU, nơi các nghĩa vụ tỷ lệ với mức độ rủi ro, và nhấn mạnh rằng luật này nhằm bao phủ toàn bộ vòng đời của các mô hình AI chứ không chỉ là việc phát hành ban đầu của chúng. "Chúng tôi có Đạo luật AI của mình và Đạo luật AI bao phủ toàn bộ vòng đời của những mô hình này," cô nói.
Virkkunen cũng đã phản bác lại một chỉ trích quen thuộc từ các ngành công nghiệp và chính sách rằng các quy định của châu Âu đã lạc hậu. Cô đã bác bỏ những tuyên bố rằng các quy định AI của khối đã lỗi thời, lưu ý rằng Đạo luật AI đã được thông qua cách đây hai năm.
Thái độ của Ủy ban ở đây quan trọng đối với tự động hóa liên quan đến crypto vì "các tác nhân mất kiểm soát" không chỉ là một cụm từ an toàn trong phòng thí nghiệm nữa.
Nó ngày càng được sử dụng như một cách nói tắt cho các hệ thống tự động có thể thực hiện hành động, chuỗi công cụ, và tồn tại theo những cách vượt quá hoặc lẩn tránh sự kiểm soát của con người, chính là loại khả năng bắt đầu giao thoa với thanh toán, hoạt động lưu ký, và quy trình giao dịch do AI điều khiển khi các tác nhân được phép chạm vào các đường ray thực tế.
Brussels đang xem xét phản hồi an toàn từ hơn 30 công ty AI
Những bình luận của Virkkunen đang diễn ra giữa một chu kỳ thu thập thông tin tích cực. Ủy ban Châu Âu đã yêu cầu thông tin vào cuối tháng Tám từ hơn 30 công ty AI chưa xác định, yêu cầu chi tiết về các biện pháp an toàn và bảo mật của họ. Virkkunen cho biết cô hiện đang đánh giá các phản hồi.
Ủy ban chưa xác định công ty nào đã nhận được yêu cầu, và họ cũng chưa công bố nội dung của các phản hồi hoặc liệu có kế hoạch bước tiếp theo nào không. Điều này để lại cho thị trường một tín hiệu liên quan đến việc thực thi, nhưng chưa có chi tiết nào cho phép các nhà giao dịch đánh giá công ty nào hoặc gia đình mô hình nào có khả năng gặp phải nhiều khó khăn nhất dưới các yêu cầu rủi ro cao hơn của Đạo luật AI.
Virkkunen đã định hình cách tiếp cận của Ủy ban là kỹ thuật và lặp đi lặp lại, với các nhà quản lý cung cấp hướng dẫn cho các công ty về cách đánh giá các mô hình của họ. Cô cho biết rằng hướng dẫn này đang tính đến các khuyến nghị từ 60 chuyên gia AI, một chi tiết mà đọc như một nỗ lực để ngăn chặn những chỉ trích rằng một khuôn khổ lập pháp không thể theo kịp với khả năng mô hình đang phát triển nhanh chóng.
Bối cảnh chính sách là sự gia tăng sự chú ý toàn cầu vào "các quốc gia nổi loạn".Đại lý AI," với cuộc tranh luận được làm sắc nét bởi những đề cập đến các sự cố tại OpenAI và Anthropic. Các sự cố cụ thể không được nêu chi tiết, điều này khiến việc liên kết đánh giá hiện tại của Ủy ban với một tập hợp các chế độ thất bại hoặc mô hình mối đe dọa xác định trở nên khó khăn.
Một dấu hiệu cụ thể về cách cuộc trò chuyện về an toàn đang được định hình đến từ Giám đốc điều hành Anthropic, Dario Amodei, người đã từng cảnh báo rằng tốc độ phát triển AI có thể “vượt qua khả năng của chúng ta để hiểu và kiểm soát những hệ thống này.” Cuộc thảo luận tương tự cũng đã chỉ ra việc cải tiến tự hồi quy, nơi AI giúp xây dựng các hệ thống AI có khả năng hơn, như một yếu tố thúc đẩy sự gia tăng có thể vượt qua sự giám sát.
Các tín hiệu tiếp theo là quy trình. Các nhà giao dịch nên theo dõi xem Ủy ban có công bố những công ty nào trong số “hơn 30” đã được liên hệ hay không, hoặc công bố bất kỳ kết quả tổng hợp nào có thể đánh giá các thực tiễn an toàn trong toàn ngành. Một dấu hiệu thứ hai sẽ là bất kỳ hướng dẫn theo dõi nào về đánh giá mô hình mà thắt chặt kỳ vọng theo các yêu cầu về vòng đời và rủi ro theo Đạo luật AI.
Thứ ba là định nghĩa: sự làm rõ công khai về các kịch bản rủi ro “đại lý AI nổi loạn” mà các nhà quản lý đang ưu tiên, trong bối cảnh hiện tại thiếu chi tiết về các tham chiếu của OpenAI và Anthropic.
Đọc của tôi: Châu Âu đang ra tín hiệu về thái độ thực thi trước khi công bố tên tuổi.
Các bình luận đang được đọc như một sự đảm bảo, nhưng chi tiết liên quan đến thị trường hơn là Ủy ban đã bắt đầu thu thập các thông tin về an toàn và bảo mật từ hơn 30 công ty AI, đây là loại thông tin mà bạn thu thập khi muốn so sánh các thực tiễn trong một lĩnh vực và quyết định nơi nào hướng dẫn kết thúc và giám sát bắt đầu.
Ngưỡng quan trọng là liệu đánh giá này có tạo ra các sản phẩm có thể công bố, dưới dạng những người nhận được đặt tên, các phát hiện tổng hợp, hoặc hướng dẫn đánh giá mô hình trở thành một tiêu chuẩn tuân thủ de facto theo Đạo luật AI hay không.
Nếu điều đó xảy ra, “các tác nhân nổi loạn” không còn là một danh mục rủi ro hùng biện mà bắt đầu hoạt động như một tiêu chuẩn vận hành mà các công ty AI, và bất kỳ người dùng hạ nguồn nào tích hợp các tác nhân vào quy trình tài chính, sẽ phải xây dựng xung quanh.
