OpenAI công bố 370+ kết quả toán, IAS cảnh báo độc quyền

OpenAI đã công bố hơn 370 kết quả toán học trong các lĩnh vực bao gồm đại số, khoa học máy tính lý thuyết và logic toán học, đưa sản phẩm nghiên cứu của các mô hình tiên tiến nhất của mình ra công chúng. Sự phát hành này đã làm sắc nét cuộc chiến về quản trị liên quan đến việc liệu các mô hình tiên tiến sở hữu có thể tạo ra các chứng minh mà cộng đồng toán học rộng lớn hơn không thể truy cập, xác minh hoặc chịu trách nhiệm hay không.

Phát hành Kết quả Toán học 370+ của OpenAI Đưa Xác minh vào Tâm điểm

OpenAI đã công bố hơn 370 kết quả toán học trải dài từ đại số, khoa học máy tính lý thuyết đến logic toán học. Lần phát hành này diễn ra trong bối cảnh một tuyên bố nổi bật hơn từ tháng trước, khi OpenAI cho biết họ đã giải quyết được phương trình Navier–Stokes, một vấn đề cơ bản trong động lực học chất lỏng được mô tả là có phần thưởng 1 triệu đô la cho một giải pháp đúng.

Về mặt cơ học, căng thẳng rất đơn giản: các phòng thí nghiệm tiên tiến có thể chạy các vấn đề phức tạp thông qua các mô hình mà bên ngoài không thể truy cập hoặc kiểm tra tự do, sau đó công bố các đầu ra trông giống như kết quả nghiên cứu.

Điều đó hoạt động như một bản demo khả năng, nhưng nó cũng biến xác minh thành một câu hỏi quản trị, vì cộng đồng được yêu cầu xác thực công việc có thể không có cùng công cụ, quyền truy cập mô hình hoặc khả năng truy xuất cần thiết để tái tạo nó.

Sự phản đối ngay lập tức không phải về việc “370” có phải là một con số lớn hay không. Nó liên quan đến việc liệu quy trình đã sản xuất những kết quả đó có đủ rõ ràng để kiểm tra độc lập hay không, và liệu các động lực của một phòng thí nghiệm tư nhân có phù hợp với các tiêu chuẩn thẩm định cần thiết để làm cho các tuyên bố toán học bền vững hay không.

IAS và Các Nhà Toán học Nêu Ra Các Rủi Ro Cốt lõi: Chứng minh không thể xác minh, Trách nhiệm và Quyền truy cập

Viện Nghiên cứu Cao cấp (IAS) ở Princeton, New Jersey, cho biết họ không ủng hộ việc các phòng thí nghiệm tiên tiến thử nghiệm các vấn đề toán học phức tạp trên các mô hình AI sở hữu mà không thể truy cập được đối với cộng đồng toán học rộng lớn hơn. Sự phản đối của họ được định hình như một khoảng trống trách nhiệm do các đầu ra của mô hình có thể vượt quá khả năng hiểu biết của con người.

“Hiện nay, AI có thể đưa ra các lập luận toán học trong các tình huống mà con người đã kích hoạt không thể hiểu được các lập luận đó, xác minh chúng hoặc chịu trách nhiệm về chúng,” IAS cho biết. Viện cũng bổ sung: “Chúng tôi tin rằng sự hiểu biết của con người về toán học vẫn là điều quan trọng hàng đầu.

Làm thế nào, trong kỷ nguyên mới này, chúng ta có thể hướng tới một mô hình mới bao gồm sự hiểu biết của con người về toán học như một phần của sản phẩm học thuật có trách nhiệm?”

Một ranh giới riêng biệt là nguồn gốc, không chỉ là độ chính xác. Nhà toán học Tristan Buckmaster của NYU đã cảnh báo rằng hành động kích hoạt có thể tự nó đưa vào thông tin quan trọng, làm mờ đi nguồn gốc của “kết quả” và ai xứng đáng nhận được tín dụng.

Buckmaster cũng nêu ra rủi ro rằng công việc hỗ trợ bởi mô hình có thể thực sự hoàn thành ý tưởng đã phát triển một phần của người khác: “Có khả năng sẽ có một loạt kết quả nơi họ lấy công việc của ai đó và sau đó hoàn thành nó.”

Một hội đồng tư vấn cũng đã kêu gọi các phòng thí nghiệm AI cấp “quyền truy cập công bằng” cho các mô hình AI của họ cho cộng đồng toán học toàn cầu, lập luận rằng các hệ thống nội bộ đóng kín có nguy cơ chia tách lĩnh vực thành hai nhóm: có và không có.

“Việc sử dụng các mô hình nội bộ sở hữu bởi các phòng thí nghiệm AI để thực hiện nghiên cứu toán học có nguy cơ tạo ra một hệ thống hai tầng, nơi các phòng thí nghiệm vượt qua phần còn lại của lĩnh vực, làm cho cộng đồng toán học bị tách biệt khỏi chính ngành của mình,” nhóm này viết.

Những gì IAS Outreach của OpenAI báo hiệu cho việc quản trị mô hình tiên tiến

Phản ứng của OpenAI là sự tham gia, không phải rút lui. Công ty cho biết sẽ làm việc với IAS để “các nhà toán học có tiếng nói trong cách chúng tôi tiến về phía trước,” nhưng không chỉ ra rằng họ sẽ ngừng thử nghiệm các mô hình AI của mình với các bài toán toán học nâng cao.

Điều đó để lại tranh chấp cốt lõi: liệu nghiên cứu mô hình tiên tiến có thể được coi là khoa học cộng đồng mà không có sự tiếp cận của cộng đồng hay không. Tín hiệu cụ thể tiếp theo sẽ là một khung công bố xác định ai tham gia, cái gì được xem xét, và theo thời gian nào, vì “tiếng nói” mà không có phạm vi thì không phải là một sự kiểm soát.

Hai cột mốc khác quan trọng cho cách câu chuyện này được giải quyết. Một là liệu OpenAI, hoặc các phòng thí nghiệm tiên tiến khác, có tiến tới tiêu chuẩn “tiếp cận công bằng” mà hội đồng tư vấn đã kêu gọi, điều này sẽ trực tiếp giảm bớt động lực hai tầng.

Cái còn lại là trạng thái xác minh: tài liệu nguồn không thiết lập sự tái tạo độc lập hoặc đánh giá đồng nghiệp cho hơn 370 kết quả hoặc cho giải pháp Navier–Stokes được tuyên bố, vì vậy bất kỳ cập nhật nào về khả năng tái sản xuất và các con đường đánh giá sẽ có trọng số hơn một con số tiêu đề khác.

Quan điểm của tôi: Đối với các nhà giao dịch, đây là một chất xúc tác cho câu chuyện về AI-Trust, không phải là một bước đột phá toán học mà bạn có thể định giá ngay bây giờ

Phần mà làm thị trường chuyển động ở đây không phải là liệu một mô hình đóng có thể đưa ra hàng trăm kết quả toán học hay không. Đó là IAS vạch ra một ranh giới rõ ràng chống lại các phòng thí nghiệm tiên tiến thử nghiệm các vấn đề nâng cao trên các hệ thống mà lĩnh vực rộng lớn hơn không thể tiếp cận, vì điều đó biến “khả năng” thành một vấn đề quản trị và tính hợp pháp có thể tràn vào cảm xúc về token AI.

Ngưỡng quan trọng là liệu OpenAI và IAS có biến outreach thành một khung xác minh và tiếp cận cụ thể hay không, và liệu bất kỳ kết quả nào trong số hơn 370 hoặc tuyên bố Navier–Stokes có được một con đường xác thực độc lập mà những người bên ngoài thực sự có thể thực hiện hay không. Nếu điều đó xảy ra, câu chuyện chuyển từ rủi ro kể chuyện sang quy trình có thể đo lường, và đó là điều làm cho nó có ý nghĩa về mặt thực tiễn.

Nguồn

The Guardian