Hinton, Bengio và lãnh đạo OpenAI kêu gọi chuẩn bị cho AI…

Hơn 20 nhà nghiên cứu và giám đốc điều hành AI, bao gồm Geoffrey Hinton, Yoshua Bengio, nhà khoa học trưởng của OpenAI Jakub Pachocki và đồng sáng lập Anthropic Jack Clark, đã công bố một báo cáo cảnh báo rằng việc tự động hóa R&D AI có thể kích hoạt một "cuộc bùng nổ trí tuệ" không thể kiểm soát.

Các tác giả kết hợp cơ chế đó với các đề xuất chính sách sẽ trực tiếp nhắm đến khả năng tính toán và tốc độ phát triển, tạo ra một chất xúc tác quy định mới cho các câu chuyện về AI và trung tâm dữ liệu.

Điểm chính

• Hơn 20 tác giả, bao gồm Geoffrey Hinton, Yoshua Bengio, đồng sáng lập Anthropic Jack Clark và nhà khoa học trưởng của OpenAI Jakub Pachocki, đã công bố "Điều gì sẽ xảy ra nếu việc tự động hóa R&D AI kích hoạt một cuộc bùng nổ trí tuệ?".
• Bài báo định nghĩa "cuộc bùng nổ trí tuệ" là một "sự tăng tốc mạnh mẽ do AI thúc đẩy trong tiến bộ AI, nén lại những tiến bộ mà nếu không sẽ mất nhiều năm thành vài tháng hoặc ít hơn".
• R&D AI tự động và "cải tiến tự lặp" được coi là con đường chính, với các tác giả lập luận rằng một nhà phát triển có thể hiệu quả chỉ huy "hàng triệu" nhà nghiên cứu hàng đầu một khi các hệ thống đạt được khả năng R&D AI ở cấp độ chuyên gia.
• Các công cụ chính sách được đề xuất bao gồm báo cáo tiến độ minh bạch với các kiểm toán viên độc lập, các hạn chế về tốc độ phát triển, phối hợp trung tâm dữ liệu để tạm dừng các dự án, yêu cầu cách ly cho các hệ thống R&D tự động, và kế hoạch ứng phó khẩn cấp.

Hinton, Bengio và các lãnh đạo OpenAI/Anthropic đưa "Cuộc bùng nổ trí tuệ" vào chương trình chính sách

Báo cáo, có tiêu đề "Điều gì sẽ xảy ra nếu việc tự động hóa R&D AI kích hoạt một cuộc bùng nổ trí tuệ?", được công bố với một danh sách tác giả có trọng lượng: nhà khoa học đoạt giải Nobel Geoffrey Hinton, nhà khoa học máy tính Yoshua Bengio, đồng sáng lập Anthropic Jack Clark và nhà khoa học trưởng của OpenAI Jakub Pachocki là một trong hơn 20 người đóng góp được nêu tên.

Động thái cốt lõi của bài báo là lấy một lập luận an toàn đã tồn tại lâu và gắn nó với một con đường hoạt động cụ thể, sau đó gắn các đòn bẩy cụ thể mà chính phủ có thể kéo.

Các tác giả định nghĩa "cuộc bùng nổ trí tuệ" là một "sự tăng tốc mạnh mẽ do AI thúc đẩy trong tiến bộ AI, nén lại những tiến bộ mà nếu không sẽ mất nhiều năm thành vài tháng hoặc ít hơn". Họ cũng cảnh báo rằng "Khi một cuộc bùng nổ trí tuệ bắt đầu, cửa sổ cho hành động có thể đóng lại."

Khung cảnh đó quan trọng hơn như một tuyên bố về thời gian hơn là một tuyên bố về khả năng, vì nó được thiết kế để biện minh cho việc cam kết trước: các quy tắc ràng buộc các phòng thí nghiệm tiên phong và ngăn xếp tính toán trước khi bước tiếp theo trong tự động hóa đến.

Đối với các nhà giao dịch, sự liên quan ngay lập tức không phải là liệu các hệ thống "siêu nhân" có sắp xảy ra hay không. Mà là một nhóm nổi bật đang cố gắng chính thức hóa "quản trị tính toán" như một loại chính sách, với các đề xuất sẽ ảnh hưởng đến các phiên đào tạo, quy trình đánh giá và hoạt động trung tâm dữ liệu thay vì các ứng dụng hạ nguồn.

Cơ chế: Nghiên cứu và Phát triển AI Tự động và Tự cải tiến Đệ quy

Cơ chế của tài liệu này là tự cải tiến theo đệ quy, được mô tả là các hệ thống AI cải thiện các hệ thống AI với sự tham gia của con người ngày càng giảm. Trong ngôn ngữ của báo cáo, điều này được gọi là “nghiên cứu và phát triển AI tự động,” và nó được coi là con đường có khả năng nhất dẫn đến một cuộc bùng nổ trí tuệ vì nó tấn công vào nút thắt thường làm chậm tiến trình: lao động chuyên gia khan hiếm và chu kỳ lặp chậm.

Yêu cầu về khả năng mở rộng là rõ ràng. Khi các hệ thống AI đạt được khả năng tương đương với cấp độ chuyên gia trong nghiên cứu và phát triển AI, tài liệu lập luận rằng “một nhà phát triển duy nhất có thể điều hành một lực lượng lao động tương đương với ‘hàng triệu’ nhà nghiên cứu hàng đầu.” Về mặt cơ học, điều này không phải là một mô hình trở nên toàn tri thức.

Nó liên quan đến tính song song: nhiều công nhân có khả năng tự chủ tạo ra giả thuyết, viết mã, thực hiện thí nghiệm và lặp lại các kiến trúc và công thức đào tạo nhanh hơn so với khả năng phối hợp của các nhóm người.

Phần thứ hai của cơ chế là tốc độ triển khai. Các tác giả lập luận rằng R&D AI tự động là đặc biệt nguy hiểm vì các hệ thống cải tiến có thể được “triển khai nhanh chóng ngay khi được xây dựng,” biến lợi thế nghiên cứu thành lợi thế sản xuất một cách nhanh chóng. Đó là lý do tại sao các điểm nghẽn trong báo cáo nằm ở phía thượng nguồn.

Nếu vòng lặp là “mô hình giúp xây dựng mô hình tốt hơn,” thì bề mặt nhạy cảm là quyền truy cập tính toán và tốc độ lặp lại, chứ không phải sự chấp nhận của người dùng.

Những gì các tác giả chỉ ra như bằng chứng: 80% mã, tác nhân tự động, và dự đoán tự động hóa năm 2028

Báo cáo cố gắng gắn câu chuyện cải tiến tự hồi quy vào quy trình làm việc trong phòng thí nghiệm hiện tại, không phải những giả thuyết xa vời. Nó trích dẫn tuyên bố của Anthropic rằng AI hiện sản xuất 80% mã của chính nó. Nó cũng chỉ ra việc OpenAI sử dụng các hệ thống tự động.Đại lý AItrong các lĩnh vực như đào tạo các mô hình mới, định vị tự động hóa có tác động như đã được tích hợp sẵn trong các quy trình phát triển tiên tiến.

Các tác giả cẩn thận, ít nhất là trên giấy tờ, về vị trí của ngưỡng hiện tại. Họ viết: “Lợi ích năng suất từ tự động hóa R&D AI vẫn chưa đạt đến ngưỡng cần thiết để kích hoạt một cuộc bùng nổ trí tuệ, nhưng lợi ích từ các hệ thống mới hơn có khả năng đang tiến gần đến ngưỡng đó,” và họ lưu ý về những trục trặc hiện tại, bao gồm các hệ thống không tuân theo hướng dẫn.

Tuy nhiên, ngôn ngữ thời gian đang phát huy tác dụng. Báo cáo dự đoán rằng các dự án R&D mà con người sẽ mất hàng tháng để hoàn thành có thể được tự động hóa hoàn toàn bởi AI vào năm 2028. Đây không phải là một dự đoán về việc phát hành một mô hình cụ thể. Đó là một tuyên bố về việc tự động hóa các nhiệm vụ trong các tổ chức R&D, chính là lĩnh vực mà những cải tiến nhỏ tích lũy lại.

Bài báo cũng chỉ ra sự không chắc chắn về tốc độ mà sự tăng tốc phần mềm sẽ chuyển thành khả năng thực tế. Nó lưu ý rằng các đột phá có thể bị chậm lại do thiết lập chuỗi cung ứng cho các vật liệu đặc biệt hoặc do tuân thủ quy định. Nó cũng lập luận rằng AI có thể tăng tốc độ giảm thiểu cũng như khả năng, làm phức tạp bất kỳ câu chuyện sạch nào về "nhiều tự động hóa đồng nghĩa với nhiều rủi ro".

Công cụ Chính sách Có Thể Ảnh Hưởng Đến Tính Toán: Kiểm Toán Viên, Hạn Chế Tốc Độ, và Phối Hợp Tạm Dừng Trung Tâm Dữ Liệu

Chương trình chính sách của báo cáo là rất thực tiễn. Các ưu tiên hàng đầu của nó bao gồm yêu cầu báo cáo tiến độ minh bạch về R&D liên quan đến AI, bao gồm việc nhúng các kiểm toán viên độc lập vào các công ty, và "tìm cách hạn chế sự phát triển AI nhanh chóng", bên cạnh việc chuẩn bị để thích ứng với một cuộc bùng nổ trí tuệ.

Ngoài những ưu tiên đó, bài báo liệt kê các công cụ mà trực tiếp liên quan đến các hoạt động tính toán và đào tạo. Nó đề xuất giới hạn tốc độ mà AI có thể cải thiện trong một khoảng thời gian nhất định, làm việc với các trung tâm dữ liệu để cho phép tạm dừng một số dự án R&D AI, và đảm bảo rằng các hệ thống R&D AI tự động hoàn toàn được cách ly và không thể thoát khỏi sự kiểm soát của con người. Nó cũng kêu gọi "các kế hoạch ứng phó khẩn cấp" cho các kịch bản có thể phát sinh từ một cuộc bùng nổ trí tuệ.

Ý tưởng phối hợp trung tâm dữ liệu là công cụ có liên quan nhất đến thị trường vì nó ngụ ý việc thực thi ở cấp độ hạ tầng. Nếu các nhà quản lý từng chuyển từ báo cáo cấp mô hình sang nghĩa vụ cấp trung tâm dữ liệu, đơn vị kiểm soát thực tế sẽ trở thành quá trình đào tạo và cụm, không phải ứng dụng.

Đó là loại chuyển đổi có thể định giá lại nhanh chóng các câu chuyện liên quan đến AI, vì nó thay đổi độ dốc kỳ vọng của tiến bộ thay vì thị trường có thể tiếp cận.

Đọc của tôi cho các Nhà Giao Dịch Tiền Điện Tử: Khi An Toàn AI Trở Thành Một Hạn Chế Tính Toán, Các Câu Chuyện Được Định Giá Nhanh Chóng

Ngưỡng quan trọng ở đây không phải là liệu kịch bản "bùng nổ trí tuệ" của báo cáo có đúng về mặt giá trị hay không. Mà là liệu các kiểm soát được đề xuất của nó có trở thành các đối tượng chính sách rõ ràng: báo cáo tiến độ bắt buộc với các kiểm toán viên độc lập nhúng, các hạn chế rõ ràng về tốc độ phát triển, và phối hợp tạm dừng cấp trung tâm dữ liệu có thể được thực thi.

Nếu những ý tưởng đó bắt đầu xuất hiện trong các đề xuất của chính phủ, cấu trúc bắt đầu trông có vẻ mang tính cấu trúc hơn là dựa trên câu chuyện, vì các điểm nghẽn nằm ở phía thượng nguồn và có thể đo lường được.

Sự khác biệt thực tế rất đơn giản: an toàn AI ngừng trở thành một cuộc tranh luận về danh tiếng và trở thành một hạn chế tính toán, và đó là khi các câu chuyện liên quan đến AI và trung tâm dữ liệu được định giá lại dựa trên rủi ro chính sách thay vì tốc độ lặp lại thuần túy.

Nguồn

• The Guardian