Zuckerberg thuyết phục Trump bỏ qua mô hình AI FINRA
Nhà Trắng vẫn đang xem xét việc thử nghiệm mô hình trước khi triển khai so với một khung đánh giá tự nguyện do David Sacks đề xuất.
Giám đốc điều hành Meta Mark Zuckerberg đã nói với Tổng thống Donald Trump trong một cuộc gọi điện thoại trực tiếp vào tuần thứ 17 tháng 8 rằng ông phản đối một cơ quan quản lý AI quốc gia được đề xuất theo mô hình FINRA, theo một quan chức cấp cao của Nhà Trắng quen thuộc với cuộc trò chuyện.
Khái niệm này vẫn đang được xem xét khi các quan chức đánh giá một chế độ thử nghiệm trước khi phát hành so với một hệ thống xếp hạng tự nguyện theo kiểu Hiệp hội Điện ảnh.
Điểm chính
- Mark Zuckerberg đã phản đối một cơ quan quản lý AI quốc gia theo mô hình FINRA trong một cuộc gọi điện thoại trực tiếp với Tổng thống Donald Trump trong tuần thứ 17 tháng 8, theo một quan chức cấp cao của Nhà Trắng quen thuộc với cuộc trò chuyện.
- Kế hoạch sẽ thiết lập một cơ quan do ngành công nghiệp dẫn dắt để xem xét các mô hình AI tiên tiến và kiểm tra chúng về rủi ro trước khi triển khai rộng rãi.
- Các quan chức Nhà Trắng đang cân nhắc cách tiếp cận thử nghiệm trước khi triển khai đó so với một khung xếp hạng tự nguyện theo kiểu Hiệp hội Điện ảnh được đề xuất bởi David Sacks.
- Cuộc gọi của Zuckerberg không làm chấm dứt ý tưởng về cơ quan quản lý, và khái niệm này vẫn còn sống trong Nhà Trắng.
Cuộc gọi riêng của Zuckerberg đặt ra một trở ngại cho người giữ cửa AI theo kiểu FINRA
Mark Zuckerberg đã sử dụng một đường dây trực tiếp với Tổng thống Donald Trump để phản đối một đề xuất sẽ đặt một cổng thử nghiệm trước khi triển khai trước các bản phát hành AI tiên tiến. Cuộc gọi diễn ra vào tuần thứ 17 tháng 8, và Zuckerberg đã nói với Trump rằng ông phản đối ý tưởng về một cơ quan quản lý AI quốc gia theo mô hình Cơ quan Quản lý Ngành Tài chính (FINRA), theo một quan chức cấp cao của Nhà Trắng quen thuộc với cuộc trò chuyện.
Cuộc tiếp cận đã diễn ra muộn trong một quy trình đã vượt qua giai đoạn suy nghĩ nội bộ. Các quan chức cấp cao của Nhà Trắng đã giới thiệu khái niệm cơ quan quản lý ngành theo kiểu FINRA cho Trump và riêng biệt cho các công ty AI lớn bao gồm Meta, OpenAI và Anthropic vào giữa tháng 8, quan chức cùng nói.
Một người quen thuộc với vấn đề này cho biết Trump đã khởi xướng cuộc gọi tới Zuckerberg. Người đó cũng cho biết Zuckerberg không yêu cầu Trump thay đổi lập trường của mình ngay lập tức, nhưng lập luận rằng bất kỳ người nào mà Nhà Trắng có thể bổ nhiệm vào cơ quan như vậy nên phản ánh cách tiếp cận nhẹ nhàng của Trump đối với AI.
Meta đã từ chối cung cấp một tuyên bố, và báo cáo không mô tả phản ứng của Trump hoặc liệu quan điểm của ông có thay đổi hay không.
Điểm chính cho các thị trường là cuộc gọi đã tạo ra ma sát mà không đóng hồ sơ. Khái niệm về cơ quan quản lý theo kiểu FINRA vẫn đang được xem xét bên trong Nhà Trắng, và một phát ngôn viên của Nhà Trắng đã định hình lập trường của chính quyền là: “Chính quyền Trump cam kết cân bằng đổi mới và an ninh trong việc xây dựng chính sách AI.”
Bên trong phép ẩn dụ FINRA: Một SRO AI cho việc kiểm tra rủi ro mô hình trước khi triển khai
Đề xuất đang được thảo luận vay mượn cấu trúc từ FINRA, tổ chức tự quản lý do ngành công nghiệp dẫn dắt (SRO) viết và thực thi các quy tắc cho các nhà môi giới và đại lý ở Hoa Kỳ dưới sự giám sát của Ủy ban Chứng khoán và Giao dịch. Trong thực tế, FINRA được tài trợ bởi phí thành viên, được lãnh đạo bởi một hội đồng bao gồm đại diện từ các công ty thành viên, và hoạt động với sự xem xét của SEC về các thay đổi quy tắc.
Một cơ quan AI theo mô hình FINRA sẽ áp dụng khuôn mẫu “do ngành dẫn dắt, gần gũi với chính phủ” cho rủi ro mô hình tiên tiến. Các quan chức Nhà Trắng hình dung một tổ chức độc lập đánh giá các mô hình AI tiên tiến và kiểm tra chúng về các rủi ro tiềm ẩn trước khi chúng được triển khai rộng rãi hơn.
Cơ chế quan trọng vì nó không chỉ là một tài liệu tiêu chuẩn. Kiểm tra mô hình trước khi triển khai là một ràng buộc về thông lượng theo thiết kế: một mô hình được đánh giá dựa trên khung rủi ro trước khi phát hành rộng rãi, thay vì sau khi các sự cố buộc phải có phản ứng vá víu.
Tính cấp bách của chính sách trong chính quyền liên quan đến khả năng hành động và an ninh mạng. Các quan chức đang cân nhắc rủi ro rằngĐại lý AI, ngày càng có khả năng duyệt web, vận hành phần mềm và viết mã với sự giám sát của con người hạn chế, có thể bị các tác nhân thù địch sử dụng để xác định các lỗ hổng hoặc tự động hóa các cuộc tấn công mạng nhanh hơn so với các biện pháp bảo vệ hiện có.
Báo cáo cũng đề cập đến “một loạt các sự cố nổi bật” trong đó các tác nhân thoát khỏi sự kiểm soát của con người, nhưng không nêu tên các sự cố hoặc cung cấp ngày tháng.
Sự ủng hộ cho phép ẩn dụ FINRA đã đến từ Demis Hassabis, nhà khoa học đoạt giải Nobel của Google DeepMind. Hassabis đã gợi ý trong một bài tiểu luận vào tháng 7 rằng Hoa Kỳ nên thành lập một “cơ quan tiêu chuẩn” mới theo mô hình FINRA để xử lý các rủi ro liên quan đến AI như các mối đe dọa an ninh mạng mới nổi, và ông đã thông báo cho các quan chức Nhà Trắng về khái niệm này trong suốt mùa hè, theo một quan chức chính quyền quen thuộc với vấn đề. Google đã không phản hồi yêu cầu bình luận.
Có một sự không khớp tích hợp mà các nhà phê bình có thể khai thác. FINRA là một cơ quan quản lý tuyến đầu cho các trung gian chứng khoán, nhưng nó có ít sự tham gia trong việc phê duyệt các sản phẩm đầu tư mới. Một SRO AI hiệu quảvetscác mô hình mới trước khi phát hành sẽ gần gũi hơn với một cổng sản phẩm so với FINRA hiện nay, ngay cả khi nó được tài trợ và có nhân viên từ ngành.
Hai con đường cạnh tranh: Kiểm tra trước khi phát hành so với Hệ thống xếp hạng tự nguyện kiểu MPA
Các quan chức Nhà Trắng đang cân nhắc hai triết lý quản trị khác nhau, theo một quan chức của chính quyền: một cơ quan quản lý kiểu FINRA với kiểm tra trước khi phát hành, hoặc một nhóm ngành tự nguyện mô phỏng theo Hiệp hội Điện ảnh (MPA), một cách tiếp cận được David Sacks đề xuất.
Sacks đã định hình cách tiếp cận kiểu cơ quan quản lý như một vấn đề tắc nghẽn hơn là một vấn đề tiêu chuẩn. Ông đã chỉ trích khái niệm về một cơ quan quản lý của chính phủ như “một DMV cho AI” nơi mà các mô hình “được xếp hàng chờ đợi để hoàn thành bài kiểm tra.” Phê bình này mang tính vận hành: nếu cơ quan kiểm tra trở thành con đường phát hành, thì hàng đợi trở thành chính sách.
Trong tập podcast “All-In” ngày 21 tháng 8, Sacks đã phác thảo một hệ thống kiểu MPA sẽ gán nhãn cho các mô hình AI giống như các bộ phim nhận xếp hạng “R” hoặc “PG-13”. Ông lập luận rằng mục đích của mô hình MPA là để ngăn chặn việc quản lý nặng nề hơn: “Điều mà MPA đã làm là thúc đẩy các tiêu chuẩn mà sau đó đã ngăn chặn các hành động của chính phủ xâm nhập hơn,” ông nói.
Sacks cho biết cách tiếp cận này nhận được sự ủng hộ từ Elon Musk, nhưng Musk đã không phản hồi yêu cầu bình luận. Các báo cáo cũng lưu ý rằng việc hoạch định chính sách AI của chính quyền đã thấy những sự đảo ngược vào phút chót trước đây: vào tháng 5, Sacks đã gọi cho Trump vào buổi sáng của một buổi lễ ký kết dự kiến và thuyết phục ông hủy bỏ một sắc lệnh hành pháp AI rộng lớn.
Vị trí của ngành vẫn còn mỏng manh trong công chúng, điều này là một phần lý do tại sao điều này có thể giao dịch như rủi ro quy trình thay vì chính sách đã được thiết lập. Các công ty AI lớn nhất chưa công khai ủng hộ hoặc phản đối kế hoạch cơ quan quản lý kiểu FINRA. Đồng sáng lập Anthropic, Jack Clark đã đăng bài ủng hộ ý tưởng này trên X vào tháng 7, nhưng Anthropic đã từ chối bình luận khi được hỏi về lập trường của mình. OpenAI và Google đã không phản hồi yêu cầu bình luận, và Meta đã từ chối cung cấp một tuyên bố.
Quyết định vẫn đang chờ: Điều gì sẽ báo hiệu khung nào đang thắng
Không có thời gian cụ thể nào được chỉ định cho quyết định của Nhà Trắng chọn giữa khái niệm cơ quan quản lý kiểu FINRA và nhóm tự nguyện kiểu MPA, để lại cho thị trường đọc tín hiệu thay vì ngày tháng.
Dấu hiệu rõ ràng nhất sẽ là một thông báo chính thức cam kết cho việc thử nghiệm trước khi triển khai hoặc một chế độ đánh giá tự nguyện, vì hai con đường này ngụ ý những ma sát mặc định khác nhau cho các phiên bản mô hình tiên phong.
Một tín hiệu thứ hai là liệu các phòng thí nghiệm AI lớn có chuyển từ việc không trả lời sang việc ủng hộ hoặc phản đối rõ ràng hay không, đặc biệt là sau những bản xem trước giữa tháng Tám cho Trump và cho các công ty bao gồm Meta, OpenAI và Anthropic.
Thái độ công khai của Sacks là một chỉ số sống động khác. Nếu ông tiếp tục thúc đẩy cách tiếp cận kiểu MPA và lặp lại các tuyên bố về sự ủng hộ của Musk, việc xác nhận hoặc phủ nhận từ Musk sẽ làm rõ liệu liên minh đó có thực sự tồn tại hay chỉ là lời nói.
Dấu hiệu khác là quy trình, không phải báo chí. Việc Nhà Trắng tiếp cận thêm các CEO công nghệ, tương tự như những bản xem trước giữa tháng Tám, sẽ gợi ý rằng đề xuất đang được sửa đổi và kiểm tra áp lực thay vì bị gác lại.
Cảm nhận của tôi: Tại sao quy trình của Nhà Trắng này quan trọng đối với sự thèm muốn rủi ro AI
Phần quyết định điều này không phải là Washington có muốn 'tiêu chuẩn' hay không. Mà là liệu chính quyền có sẵn sàng đặt một chức năng kiểm soát trước các phiên bản phát hành, ngay cả khi nó được tài trợ bởi ngành công nghiệp và về mặt danh nghĩa do ngành công nghiệp điều hành.
Cuộc gọi của Zuckerberg nghe như áp lực vận động hành lang giai đoạn muộn, không phải là sự đảo ngược chính sách, vì khái niệm kiểu FINRA vẫn tồn tại sau khi ông nêu ý kiến phản đối trực tiếp với Trump.
Ngưỡng quan trọng là liệu thử nghiệm trước khi triển khai có trở thành con đường phát hành mặc định hay vẫn chỉ là một nhãn tự nguyện. Nếu Nhà Trắng đưa ra một nhóm thử nghiệm kiểu SRO dưới sự giám sát của chính phủ, thị trường sẽ định giá các chu kỳ lặp lại chậm hơn và nhiều bề mặt tuân thủ hơn cho các phòng thí nghiệm tiên phong và cho các câu chuyện về tác nhân onchain phụ thuộc vào việc phát hành mô hình nhanh chóng.
Nếu nó đưa ra một nhóm đánh giá kiểu MPA, ma sát ngay lập tức sẽ thấp hơn, nhưng rủi ro là các tiêu chuẩn 'tự nguyện' sẽ trở thành yêu cầu de facto một khi các bên mua sắm, công ty bảo hiểm và cơ quan quản lý bắt đầu tham chiếu đến chúng.
