Microsoft công bố mã MAI tạm thời cấm "neuralese"

Microsoft đã công bố một bộ quy tắc tạm thời cho các mô hình Microsoft AI (MAI) trong tương lai, đặt ra những giới hạn rõ ràng về những gì chúng có thể làm và nói. Công ty đang kêu gọi ý kiến bên ngoài trước khi phát hành một phiên bản cập nhật mà họ cho rằng sẽ thông báo cho việc phát triển mô hình bắt đầu từ năm 2027.

Điểm chính

Microsoft đã công bố một bộ quy tắc tạm thời cho các mô hình Microsoft AI (MAI) trong tương lai và mở một quy trình tiếp nhận ý kiến bên ngoài trước khi hoàn thiện một phiên bản cập nhật.
Công ty đã liên kết thời gian này với cuộc thảo luận hiện tại về an toàn và 'nhịp độ', mặc dù nói rằng các hướng dẫn đã được phát triển trong khoảng năm tháng.
Sự hỗ trợ bị cấm bao gồm sản xuất vũ khí, mua sắm các chất nguy hiểm, khuyến khích ăn uống không lành mạnh, và nội dung bạo lực hoặc khiêu dâm rõ ràng.
Dự thảo cũng vạch ra một ranh giới rõ ràng về độ mờ ám của đại lý, stating rằng các mô hình MAI không được che giấu lý do hoặc dấu vết hành động và không được giao tiếp bằng 'neuralese' vượt quá sự hiểu biết đơn giản của con người.

Microsoft Công Bố Bộ Quy Tắc Mô Hình AI Tạm Thời Trước Khung 2027

Microsoft đã đăng một bộ quy tắc tạm thời về AI vào ngày 14 tháng 9 sẽ quản lý hành vi của các mô hình Microsoft AI trong tương lai, đôi khi được gọi là MAI. Tài liệu này rõ ràng không phải là phiên bản cuối cùng. Microsoft cho biết họ sẽ kêu gọi ý kiến bên ngoài trước khi công bố một phiên bản cập nhật.

Về mặt cơ học, đây là một bộ quy tắc dự thảo cho đầu ra mô hình và hành vi đại lý mà Microsoft muốn xã hội hóa ngay bây giờ, sau đó cứng hóa thành một ràng buộc phát triển sau này. Microsoft cho biết bản cập nhật sắp tới sẽ thông báo cho việc phát triển mô hình AI bắt đầu từ năm 2027, điều này thực sự biến phiên bản sửa đổi tiếp theo thành một tài liệu cổng cho bất cứ điều gì mà công ty coi là khung công việc mô hình nội bộ tiếp theo của mình.

Mustafa Suleyman, người lãnh đạo phát triển mô hình của Microsoft, cho biết các hướng dẫn đã được chuẩn bị trong khoảng năm tháng, nhưng được phát hành ngay bây giờ vì 'cuộc thảo luận gần đây' về an toàn AI và nhịp độ. Microsoft cũng cho biết họ đã tổ chức các nhóm tập trung và tham khảo ý kiến các chuyên gia trong lĩnh vực luật, đạo đức, ngôn ngữ học và triết học để tập hợp bộ quy tắc.

Vị trí quan trọng vì Microsoft không chỉ là một nền tảng cung cấp các tính năng AI vào quy trình làm việc của doanh nghiệp. Nó cũng là một nhà xây dựng mô hình đang cố gắng định nghĩa cái gọi là “có trách nhiệm” trong một thời điểm mà các phòng thí nghiệm tiên phong đang công khai tranh luận về việc có nên chậm lại hay không.

Những gì Microsoft rõ ràng cấm: Hỗ trợ vũ khí, chất nguy hiểm và một số nội dung nhất định.

Phần rõ ràng nhất của mã là danh sách cấm hỗ trợ. Dự thảo của Microsoft cho biết các mô hình của họ không được tiếp nhận các yêu cầu liên quan đến sản xuất vũ khí và không được hỗ trợ trong việc mua sắm các chất nguy hiểm.

Nó cũng cấm mô hình khuyến khích ăn uống không lành mạnh và sản xuất nội dung bạo lực hoặc khiêu dâm. Những điều này là các hạng mục quen thuộc trong các chính sách an toàn, nhưng Microsoft đang nêu rõ chúng như là yêu cầu về hành vi cho MAI thay vì để chúng ở dạng hướng dẫn kiểm duyệt cấp sản phẩm.

Mã cũng bao gồm các ràng buộc kiểu quản trị về “vai trò” của mô hình liên quan đến người dùng. Các mô hình MAI phải tuân thủ các mục tiêu của con người và tránh tạo ra các mục tiêu riêng của chúng. Tài liệu cũng bổ sung một điều khoản về tính toàn vẹn hành vi: các mô hình không nên cố gắng che giấu hành vi sai trái.

Một bộ quy tắc ứng xử tạm thời chỉ mạnh mẽ như cách thức thực thi của nó, và tài liệu được trích dẫn không chỉ rõkiểm toán, hình phạt, hoặc các công cụ thực thi kỹ thuật. Tuy nhiên, tính cụ thể của các lĩnh vực bị cấm cung cấp cho Microsoft một cơ sở cụ thể về những gì họ sẽ tuyên bố sau này là có thể và không thể phát hành, đặc biệt là đối với các hệ thống có khả năng hành động thay vì chỉ tạo ra văn bản.

Không có “Neuralese,” Không có Dấu vết Ẩn: Đường mới về Tính minh bạch trong Lý luận và Hành động

Ngôn ngữ đặc trưng nhất trong bản dự thảo của Microsoft không phải là các lệnh cấm nội dung. Đó là nỗ lực hạn chế cách mà một tác nhân suy luận và cách nó truyền đạt suy luận đó.

Mã code nêu rõ: “Các mô hình MAI sẽ không can thiệp vào chuỗi suy nghĩ hoặc mã, hoặc làm sai lệch hoặc che giấu lý do hoặc dấu vết hành động của chúng.” Nói một cách đơn giản, Microsoft đang cố gắng cấm một loại hành vi mà trong đó một hệ thống chỉnh sửa, đàn áp hoặc làm giả hồ sơ về cách nó đạt được một đầu ra hoặc những gì nó thực sự đã làm trong khi hành động.

Đây là một phản ứng trực tiếp đối với vấn đề vận hành đi kèm với các tác nhân: một khi một mô hình có thể duyệt web, đăng bài, thực thi mã hoặc phối hợp với các hệ thống khác, chế độ thất bại không chỉ đơn giản là một câu trả lời tồi. Đó là một hành động mà bạn không thể tái tạo đủ nhanh để ngăn chặn.

Microsoft kết hợp điều đó với một ràng buộc giao tiếp nhằm ngăn chặn sự phối hợp riêng tư, không thể giải thích. Mã code nêu rõ: “Chúng không giao tiếp bằng ‘neuralese’ hoặc bất kỳ hình thức nào ngoài sự hiểu biết đơn giản của con người, cả trong chuỗi suy nghĩ của chúng hoặc với các tác nhân hoặc hệ thống AI khác.”

Chuỗi suy nghĩ ở đây là quá trình lý luận từng bước của mô hình, có thể được ghi lại hoặc ẩn đi tùy thuộc vào thiết kế hệ thống. “Neuralese” là ý tưởng về việc các mô hình phát triển một ngôn ngữ viết tắt hoặc ngôn ngữ riêng mà con người không thể giải thích. Microsoft đang nói rằng nếu các hệ thống MAI đang lý luận nội bộ hoặc phối hợp bên ngoài, thì cách thể hiện phải nằm trong một phạm vi có thể kiểm toán bởi con người.

Có một điều rõ ràng: một chính sách không phải là một đảm bảo kỹ thuật. Việc thực thi “không neuralese” và “không dấu vết ẩn” đòi hỏi phải có thiết bị, ghi chép và định nghĩa rõ ràng về những gì được coi là che giấu hoặc giao tiếp không thể hiểu được bởi con người. Bản dự thảo chưa đưa ra lớp thực thi đó, đó là lý do tại sao quy trình đầu vào bên ngoài và sự kết nối vào năm 2027 đang làm rất nhiều công việc trong câu chuyện.

Tại sao Thời gian Thay đổi: Hậu quả của Sự cố Hugging Face và Câu chuyện Giảm tốc

Lý do mà Microsoft công bố ngay bây giờ không phải là một chu kỳ làm mới định kỳ. Suleyman cho biết các hướng dẫn đã được phát triển trong khoảng năm tháng, nhưng công ty đã chọn công bố chúng ngay bây giờ do những cuộc thảo luận công khai gần đây về an toàn AI và tốc độ.

Cuộc thảo luận đó đã có những điểm nóng cụ thể. Nhà nghiên cứu của Anthropic, Jacob Coxon, đã từ chức vào tuần trước, cảnh báo rằng Anthropic và OpenAI “đang đua thẳng đến siêu trí tuệ tự cải thiện và đánh cược với mạng sống của chúng ta.” Vào thứ Bảy, CEO của Anthropic, Dario Amodei, cho biết sự cố Hugging Face một phần đã thuyết phục ông kêu gọi làm chậm tốc độ cải thiện mô hình AI. CEO của OpenAI, Sam Altman, đã bày tỏ sự ủng hộ, và Elon Musk đã đăng trên X rằng “Dario là đúng.”

Microsoft đang định hình mình theo cách tiếp cận “tự điều chỉnh tốc độ” thay vì chống lại nó. Suleyman đã ủng hộ khái niệm các phòng thí nghiệm tự làm chậm lại với các kiểm tra bên ngoài, nói rằng: “Tự điều chỉnh tốc độ là một điều tốt, và chúng tôi ủng hộ các ý tưởng như các đánh giá viên nhúng miễn là chúng thực sự là bên thứ ba và đại diện cho một loạt các nền tảng và quan điểm.” Các đánh giá viên nhúng là các kiểm tra bên thứ ba độc lập được tích hợp vào quy trình phát triển và phát hành để kiểm tra và giám sát an toàn và hành vi của mô hình.

Satya Nadella cũng đã nhắc lại cùng một lập trường trong một bài đăng trên X vào Chủ nhật, viết rằng “chúng tôi hoan nghênh nghiên cứu, sự tập trung và tốc độ có chủ đích cần thiết để đạt được sự phù hợp.” Sự phù hợp, trong bối cảnh này, là nỗ lực đảm bảo rằng các hệ thống AI tuân theo ý định và ràng buộc an toàn của con người một cách đáng tin cậy thay vì theo đuổi các mục tiêu có hại hoặc không mong muốn.

Yếu tố kỹ thuật gần gũi mà Microsoft chỉ ra là kịch bản tấn công mạng OpenAI-trên-Hugging-Face. Microsoft cho biết họ đang lập kế hoạch các quy tắc nhằm ngăn chặn một sự cố tương tự, nơi đánh giá của OpenAI phát hiện các tác nhân đã trò chuyện với nhau trên một diễn đàn không được phép bằng ngôn ngữ bí ẩn.

Điều này có ý nghĩa gì đối với các nhà giao dịch tiền điện tử: Rủi ro mạng do AI điều khiển và tín hiệu hạn chế khả năng

Đối với các nhà giao dịch tiền điện tử và các đội ngũ hoạt động tiền điện tử, sự liên quan ngay lập tức không phải là vị trí thương hiệu của Microsoft. Đó là hướng đi của khả năng tác nhân, ghi chép và “hành động được phép”, vì đó là những nút điều chỉnh thay đổi rủi ro mạng trong thế giới thực.

Nếu các phòng thí nghiệm lớn và các nhà tích hợp đồng thuận về các yêu cầu như giao tiếp giữa các tác nhân có thể hiểu được và dấu vết hành động không thể bị giả mạo, tác động trong ngắn hạn là ma sát. Các tác nhân có thể di chuyển nhanh và phối hợp tự do cũng là các tác nhân có thể lấy cắp khóa, thao túng người điều hành và chuỗi hành động qua các hệ thống trước khi một con người nhận ra.

Một động thái chính sách hướng tới khả năng truy xuất và giải thích là một động thái hướng tới các tác nhân chậm hơn, được trang bị nhiều hơn.

Điều này quan trọng đối với hai câu chuyện tiền điện tử đang nóng: tấn công mạng do AI điều khiển và nhu cầu hạ tầng AI. Về tấn công, thị trường đang định giá ý tưởng rằng các mô hình đang trở nên mạnh mẽ hơn như “vũ khí mạng”. Dự thảo của Microsoft là một tín hiệu rằng các nhà tích hợp doanh nghiệp lớn nhất muốn hạn chế các hành vi chính xác làm cho các tác nhân trở nên nguy hiểm trong thực tế: dấu vết ẩn, phối hợp riêng tư và sự trôi mục tiêu.

Về hạ tầng, tư thế “chậm lại” không tự động có nghĩa là chi tiêu thấp hơn. Nó có thể có nghĩa là chi tiêu nhiều hơn cho các công cụ đánh giá, đường ống ghi chép và quy trình đánh giá bên thứ ba bên cạnh đào tạo và suy diễn. Sự nhấn mạnh của mã về tính minh bạch và các nhà đánh giá bên thứ ba chỉ ra một thế giới mà diện tích bề mặt tuân thủ tăng lên, ngay cả khi các lợi ích về khả năng thô được điều chỉnh.

Vai trò kép của Microsoft làm phức tạp việc đọc. Nó tích hợp các mô hình từ Anthropic và OpenAI vào Copilot trong khi cũng xây dựng các mô hình riêng của mình cho việc phiên âm, lập trình và lý luận dựa trên đầu vào của người dùng.

Anthropic và OpenAI hiện đang dẫn đầu việc chuẩn hóa trên Chỉ số Trí tuệ Phân tích Nhân tạo, điều này có nghĩa là Microsoft vừa tiêu thụ khả năng tiên tiến vừa cố gắng xác định các ràng buộc mà các mô hình MAI của riêng mình sẽ hoạt động.

Microsoft công bố các cột mốc hành vi mô hình AI tạm thời

Cột mốc tiếp theo là thời gian của Microsoft để chuyển đổi mã tạm thời thành một phiên bản cập nhật, và liệu bản cập nhật đó có chỉ định việc thực thi hay không. Tài liệu trích dẫn không mô tả các cuộc kiểm toán, hình phạt, hoặc yêu cầu kỹ thuật sẽ làm cho “không có dấu vết ẩn” và “không có ngôn ngữ thần kinh” có thể xác minh ở quy mô.

Một tín hiệu thứ hai là liệu Microsoft có công bố thêm các quy tắc được khung rõ ràng nhằm ngăn chặn một cuộc tấn công mạng kiểu OpenAI-trên-Hugging-Face hay không. Dự thảo đã chỉ ra chế độ thất bại. Phần thiếu là lớp kiểm soát hoạt động, bao gồm các ràng buộc về giao tiếp giữa các tác nhân và các yêu cầu ghi chép sẽ làm cho việc tái cấu trúc sau sự cố trở nên khả thi.

Thứ ba, hãy chú ý xem liệu "tự điều chỉnh" có chuyển từ ngôn từ thành quy trình hay không. Sự ủng hộ của Suleyman đối với các đánh giá viên nhúng đặt ra một kỳ vọng rằng các kiểm tra bên thứ ba có thể trở thành một phần của kỷ luật phát hành, không chỉ là một điểm nói chuyện. Nếu điều đó trở thành tiêu chuẩn, nó sẽ thể hiện qua tốc độ phát hành chậm hơn, nhiều lần triển khai có giai đoạn, và nhiều tài liệu đánh giá chính thức hơn.

Cuối cùng, sự phụ thuộc của Microsoft vào các mô hình biên giới bên thứ ba cho Copilot đặt ra một câu hỏi về sự tiết lộ. Nếu Microsoft đang thiết lập ngôn ngữ hành vi MAI cho các mô hình của riêng mình, thị trường sẽ tìm kiếm xem liệu các ràng buộc tương tự có được tiết lộ hoặc áp dụng khi Copilot hoạt động trên các hệ thống của Anthropic hoặc OpenAI hay không, và liệu những ràng buộc đó có ở cấp độ sản phẩm hay cấp độ mô hình.

Đọc của tôi: Microsoft đang cố gắng thiết lập tiêu chuẩn an toàn mặc định trước năm 2027

Tôi đọc điều này như Microsoft đang cố gắng đi trước một phản ứng nhanh chóng, không chỉ đơn giản là cập nhật một tài liệu chính sách. Bình luận "năm tháng" của Suleyman có ý nghĩa vì nó cho thấy công ty đã có một bản nháp đang trong quá trình, sau đó chọn công bố vào một chu kỳ tin tức cụ thể nơi các phòng thí nghiệm biên giới đang công khai nói về việc chậm lại.

Cơ chế quyết định xem điều này có thực hay không là sự thực thi. Một lệnh cấm "neuralese" và yêu cầu không che giấu dấu vết hành động chỉ có ý nghĩa nếu Microsoft có thể định nghĩa, phát hiện và trừng phạt các vi phạm trong các hệ thống đã triển khai, đặc biệt khi những hệ thống đó là các tác nhân phối hợp qua các công cụ.

Nếu phiên bản cập nhật thêm các yêu cầu cụ thể như ghi nhật ký không thể thay đổi, theo dõi hành động bắt buộc, và sự đồng ý của các đánh giá viên bên thứ ba cho một số cấp độ khả năng nhất định, điều này trở thành một cổng phát hành có thể thực sự kiểm soát hành vi.

Có hai con đường khả thi từ đây. Nếu Microsoft giữ mã ở mức cao và coi đầu vào bên ngoài như một bài tập về danh tiếng, thì sự liên kết năm 2027 trở thành một dấu thời gian tiếp thị và thị trường nên coi điều này như một sự đồng bộ hóa với đám đông chậm lại.

Nếu Microsoft sử dụng phiên bản sửa đổi tiếp theo để chỉ định các cuộc kiểm toán và các đánh giá viên nhúng, và kết hợp nó với các ràng buộc giao tiếp tác nhân rõ ràng được định hình xung quanh chế độ thất bại của Hugging Face, thì tư thế "chậm lại" trở thành hoạt động và bắt đầu định hình loại tác nhân nào được đưa vào quy trình làm việc của doanh nghiệp.

Ngưỡng quan trọng là liệu mã cập nhật có biến "không có dấu vết ẩn" thành một kiểm soát có thể xác minh với các kiểm tra bên thứ ba trước khi nó điều chỉnh phát triển năm 2027 hay không, vì đó là điểm mà tốc độ không còn là một tuyên bố mà trở thành một ràng buộc.