Rows of NVIDIA Grace Blackwell servers in a data
Trí tuệ nhân tạo

Mistral ra mắt ML4 "le Chonk" 1T tham số, ưu tiên bảo mật

Mistral cho biết flagship mở trọng lượng sẽ được mở rộng vào cuối tháng 10 sau các buổi giới thiệu với các nhà phát triển, lãnh đạo an ninh mạng và các cơ quan nhà nước.

Bởi Elliot Marsh5 phút đọc

Mistral đã giới thiệu Mistral Large 4 (ML4), được gọi là “le Chonk,” một mô hình flagship với 1 triệu tham số mà họ cho rằng là mô hình mở mạnh nhất được phát triển ngoài Trung Quốc. Công ty đang bắt đầu với một bản xem trước nhắm đến các nhà phát triển và các bên liên quan về an ninh trước khi phát hành rộng rãi vào cuối tháng Mười.

“le Chonk” của Mistral đã đến: 1T tham số, tham vọng mở, thời gian phát hành vào tháng Mười

Mistral đã công bố Mistral Large 4 (ML4) vào ngày 6 tháng 10, đặt tên cho mô hình là “le Chonk” và mô tả nó như một hệ thống với 1 triệu tham số. Công ty đang quảng bá nó như một câu trả lời của phương Tây cho bảng xếp hạng mô hình mở hiện tại, khẳng định rằng ML4 là mô hình mở mạnh nhất được phát triển ngoài Trung Quốc với “một khoảng cách đáng kể.”

Kế hoạch triển khai là chi tiết có thể hành động hơn so với số lượng tham số. Mistral cho biết ML4 sẽ được ra mắt dưới dạng bản xem trước cho các nhà phát triển và “các nhà lãnh đạo an ninh mạng,” cùng với các cơ quan nhà nước, trước khi phát hành rộng rãi vào cuối tháng Mười.

Về chi tiết xây dựng, Mistral cho biết ML4 đã được đào tạo trên 4.000 GPU Nvidia Grace Blackwell trong hai tháng, được triển khai tại các trung tâm dữ liệu thuộc sở hữu của Mistral ở Châu Âu. Sự kết hợp đó quan trọng cho việc định vị: đó là một tuyên bố về khả năng, và cũng là một tuyên bố về hosting và quyền tài phán, nhắm đến những người mua quan tâm đến việc mô hình hoạt động ở đâu và ai kiểm soát hạ tầng.

Mistral đã định hình ML4 là đặc biệt hiệu quả cho các lĩnh vực an ninh mạng, lập trình, sản xuất, tài chính và công việc đa phương thức. “Đa phương thức” ở đây có nghĩa là mô hình có thể xử lý hơn một loại dữ liệu, chẳng hạn như văn bản cộng với hình ảnh, điều này thường là nơi mà quy trình làm việc của doanh nghiệp bắt đầu trông giống như sản phẩm hơn là bản demo.

Tại sao một bản xem trước ưu tiên an ninh lại quan trọng cho việc áp dụng mô hình mở

“Mở trọng số” là từ khóa trong lần ra mắt này. Nó đề cập đến các mô hình mà tham số của chúng, các giá trị số xác định cách mà mạng xử lý đầu vào, được công khai để người khác có thể chạy và sửa đổi chúng trên hạ tầng của riêng họ. Điều đó trái ngược với một mô hình đóng, nơi quyền truy cập chủ yếu thông qua một APIvà các trọng số không được phát hành.

Nhóm xem trước của Mistral giống như một chiến lược ra mắt cho các môi trường kiểm soát, không phải là một cú sốc cho người tiêu dùng. Một sự triển khai ưu tiên an ninh cho các nhà phát triển, các nhà lãnh đạo an ninh mạng và các cơ quan nhà nước là một tín hiệu rằng ML4 đang được định vị cho các quy trình làm việc an ninh doanh nghiệp và chính phủ, nơi tự lưu trữ và khả năng kiểm toán là một phần trong danh sách kiểm tra mua sắm.

Bối cảnh cạnh tranh là rõ ràng. Mistral đang ra mắt vào một thị trường mà các mô hình mở có khả năng nhất chủ yếu là của Trung Quốc và đang được mô tả là ngày càng được áp dụng toàn cầu, và nơi việc tiếp cận các mô hình mở đã trở thành một điểm nóng trong cuộc cạnh tranh công nghệ giữa Mỹ và Trung Quốc. Mistral đang cố gắng chèn một lựa chọn mở với trọng số châu Âu vào nhu cầu đó.

Công ty cũng đã liên kết khía cạnh an ninh của mô hình với một chế độ thất bại cụ thể của các hệ thống đóng: jailbreak, hoặc vượt qua các quy tắc an toàn để buộc hành vi không được phép. Guillaume Lample, đồng sáng lập và giám đốc khoa học của Mistral, cho biết: “Hơn nữa, khả năng phòng thủ mạng sẽ cho phép các doanh nghiệp và chính phủ tự bảo vệ mình trước các tác nhân đe dọa đang jailbreak các mô hình đóng để thực hiện các cuộc tấn công mạng.”

Yếu tố thực sự của tháng Mười: ‘Các tham số cốt lõi’ có nghĩa là gì và liệu các tiêu chuẩn có giữ vững không

Yêu cầu hiệu suất lớn nhất của Mistral là có điều kiện. Công ty cho biết rằng “khi các tham số cốt lõi của nó được phát hành,” ML4 sẽ đứng trong số các mô hình mở trọng số hàng đầu toàn cầu về hiệu suất tổng hợp, có nghĩa là một cái nhìn tổng hợp qua nhiều bài kiểm tra tiêu chuẩn hóa được sử dụng để so sánh các mô hình.

Hai khoảng trống quan trọng đối với các nhà giao dịch. Thứ nhất, gói này không bao gồm tên hoặc điểm số của các tiêu chuẩn, vì vậy yêu cầu “hàng đầu” không thể được xác minh từ các tài liệu được cung cấp. Thứ hai, “các tham số cốt lõi” không được định nghĩa ở đây, và phạm vi của những gì được phát hành sau đó vào tháng Mười vẫn chưa rõ ràng, liệu điều đó có nghĩa là trọng số đầy đủ, trọng số một phần, hay một hình thức phát hành khác bị hạn chế.

Mistral cũng đã xây dựng một điều kiện riêng vào việc ra mắt. Công ty cho biết ML4 “vẫn tụt lại phía sau ở các lĩnh vực như lập trình,” mà không định lượng khoảng cách hoặc nêu tên các mô hình tiên tiến được sử dụng để so sánh. Lập trình là danh mục thường bị thử nghiệm căng thẳng nhanh nhất bởi các nhà phát triển, vì vậy các đánh giá độc lập sớm có thể xác thực hoặc làm giảm uy tín của marketing.

Tín hiệu tiến bộ khác là khả năng mở rộng tính toán. Mistral đã huy động được 3 tỷ euro (3,4 tỷ USD) trong vòng Series D vào tháng Chín với định giá 21 tỷ euro, và Lample đã liên kết các cải tiến khả năng với nguồn vốn đó, nói rằng: “Các khả năng của mô hình sẽ được cải thiện hơn nữa khi chúng tôi mở rộng khả năng đào tạo của mình, theo sau việc huy động vốn Series D,” điều này thiết lập kỳ vọng cho khả năng đào tạo tiếp theo vượt qua 4.000 GPU Grace Blackwell đã báo cáo.

Quan điểm của tôi: ML4 là một sự chuyển mình trong câu chuyện—Nhưng giao dịch phụ thuộc vào phạm vi phát hành và bằng chứng.

Phần quyết định điều này không phải là tiêu đề 1T-parameter, mà là sự phân phối và công bố. Một bản xem trước nhằm vào các nhà phát triển, các nhà lãnh đạo an ninh mạng và các cơ quan nhà nước là Mistral đang cho bạn biết nơi mà họ nghĩ rằng việc áp dụng sẽ bám rễ: an ninh tự lưu trữ và triển khai có quy định, nơi trọng số mở là một tính năng mua sắm và các trung tâm dữ liệu châu Âu là một phần trong lời chào hàng.

Ngưỡng quan trọng là liệu “các tham số cốt lõi” có biến thành một phiên bản mở thực sự với các bảng chuẩn mà có thể tồn tại qua các lần chạy độc lập, đặc biệt là trong việc lập trình và đánh giá đa phương thức hay không. Nếu sự giảm giá vào tháng Mười bị hạn chế một cách có ý nghĩa hoặc các kết quả từ bên thứ ba sớm không gây ấn tượng, ML4 vẫn là một chất xúc tác cho câu chuyện.

Nếu phiên bản này rộng rãi và các con số giữ vững, nó trở thành một điểm neo đáng tin cậy không phải từ Trung Quốc cho việc triển khai mô hình mở trong các môi trường nhạy cảm về an ninh.

Nguồn