OpenAI 370'ten fazla matematik sonucunu paylaştı, IAS…
OpenAI, İleri Araştırmalar Enstitüsü ile çalışacağını açıkladı, ancak kapalı modellerde sınır problemleri test etmeyi durdurma taahhüdünde bulunmadı.
OpenAI, cebir, teorik bilgisayar bilimi ve matematiksel mantık gibi alanlarda 370'ten fazla matematiksel sonuç yayınladı ve en gelişmiş modellerinin araştırma çıktısını kamuya açtı. Bu yayın, özel sınır modellerinin daha geniş matematik topluluğunun erişemediği, doğrulayamadığı veya sorumluluk almadığı kanıtlar üretebilir mi sorusu üzerinde bir yönetim mücadelesini keskinleştirdi.
OpenAI’nin 370+ Matematik Sonucu Yayını Doğrulamayı Gündeme Getiriyor
OpenAI, cebir, teorik bilgisayar bilimi ve matematiksel mantığı kapsayan 370'ten fazla matematiksel sonuç yayınladı. Bu toplu yayın, geçen ay OpenAI'nin Navier–Stokes denklemine çözümler bulduğunu iddia ettiği daha yüksek profilli bir iddianın gölgesinde gerçekleşti; bu, doğru bir çözüm için 1 milyon dolarlık ödül taşıyan temel bir akışkan dinamiği problemidir.
Mekanik olarak, gerilim basit: sınır laboratuvarları, dışarıdan erişilemeyen veya denetlenemeyen modeller aracılığıyla ileri düzey problemleri çalıştırabilir ve ardından araştırma sonuçları gibi görünen çıktılar yayınlayabilir.
Bu, bir yetenek gösterimi olarak işe yarar, ancak aynı zamanda doğrulamayı bir yönetim sorusuna dönüştürür, çünkü çalışmayı doğrulaması istenen topluluk, bunu yeniden üretmek için gerekli olan aynı araçlara, model erişimine veya izlenebilirliğe sahip olmayabilir.
Hemen gelen itiraz, “370” sayısının büyük olup olmadığı ile ilgili değil. Bu, o sonuçları üreten sürecin bağımsız kontrol için yeterince okunabilir olup olmadığı ve bir özel laboratuvarın teşviklerinin matematiksel iddiaları kalıcı hale getiren gerekli özen normlarıyla uyumlu olup olmadığı ile ilgilidir.
IAS ve Matematikçiler Temel Riskleri İşaret Ediyor: Doğrulanamaz Kanıtlar, Sorumluluk ve Erişim
New Jersey, Princeton'daki İleri Araştırmalar Enstitüsü (IAS), özel AI modellerinde ileri düzey matematik problemlerini test eden sınır laboratuvarlarının uygulamasını desteklemediğini söyledi. İtirazı, model çıktılarının insan anlayışını aşabilmesi nedeniyle oluşturduğu bir sorumluluk boşluğu olarak çerçeveleniyor.
IAS, "Artık AI, insanın anlayamadığı durumlarda matematiksel argümanlar üretebiliyor ve bu argümanları doğrulamak veya bunlar için sorumluluk almak mümkün olmuyor," dedi. Enstitü, "Matematikte insan anlayışının son derece önemli olduğuna inanıyoruz. Bu yeni çağda, matematik anlayışını sorumlu akademik çıktının bir parçası olarak içeren yeni bir paradigma için nasıl çalışabiliriz?" diye ekledi.
Ayrı bir fay hattı, sadece doğruluk değil, aynı zamanda köken meselesidir. NYU matematikçisi Tristan Buckmaster, yönlendirme eyleminin kendisinin anahtar bilgileri enjekte edebileceği ve “sonucun” nereden geldiğini ve kimin kredi alması gerektiğini bulanıklaştırabileceği konusunda uyardı.
Buckmaster ayrıca, model destekli çalışmanın bir başkasının kısmen geliştirilmiş fikrini etkili bir şekilde tamamlayabileceği riskini de gündeme getirdi: "Birinin çalışmasını alıp onu tamamlayacak birçok sonuç olma olasılığı var."
Bir danışma kurulu, AI laboratuvarlarının küresel matematik topluluğuna AI modellerine "eşit erişim" sağlamasını da talep etti ve kapalı iç sistemlerin alanı sahipler ve sahip olmayanlar olarak bölme riski taşıdığını savundu.
"AI laboratuvarlarının matematiksel araştırma yapmak için özel iç modelleri kullanması, laboratuvarların alanın geri kalanını geride bırakması ve matematik topluluğunu kendi disiplininden etkili bir şekilde yabancılaştırması riski taşır," diye yazdı grup.
OpenAI'nin IAS İletişimi Sınır Modeli Yönetimi İçin Ne Anlama Geliyor
OpenAI'nin yanıtı geri çekilmek değil, katılım oldu. Şirket, "matematikçilere nasıl ilerleyeceğimiz konusunda bir ses verme" sözü verdi, ancak AI modellerini ileri düzey matematik problemleri ile test etmeyi bırakacağına dair bir işaret vermedi.
Bu, temel anlaşmazlığı canlı bırakıyor: Sınır modeli araştırmasının topluluk erişimi olmadan topluluk bilimi olarak ele alınıp alınamayacağı. Bir sonraki somut işaret, kimin katıldığını, neyin gözden geçirileceğini ve hangi zaman diliminde olduğunu belirten yayımlanmış bir çerçeve olacaktır, çünkü kapsam olmadan "ses" kontrol değildir.
Bu hikayenin nasıl çözüleceği açısından iki başka kilometre taşı önemlidir. Birincisi, OpenAI'nin veya diğer sınır laboratuvarlarının danışma kurulunun çağrıda bulunduğu "eşit erişim" standardına yönelip yönelmeyeceğidir; bu, iki katmanlı dinamiği doğrudan azaltacaktır.
Diğeri ise doğrulama durumu: Kaynak materyal, 370'ten fazla sonuç veya iddia edilen Navier–Stokes çözümü için bağımsız tekrar üretim veya akran incelemesi sağlamamaktadır, bu nedenle tekrar üretilebilirlik ve inceleme yolları ile ilgili güncellemeler, başka bir başlık sayısından daha fazla önem taşıyacaktır.
Benim Görüşüm: Tüccarlar İçin Bu, Henüz Fiyatlandırabileceğiniz Bir Matematik Atılımı Değil, Bir AI-Güven Anlatısı Katalizörü
Burada piyasaları hareket ettiren kısım, kapalı bir modelin yüzlerce matematik sonucu üretebilir olup olmadığı değil. IAS'ın, daha geniş alanın erişemediği sistemlerde ileri düzey problemleri test eden sınır laboratuvarlarına karşı net bir sınır çizmesidir, çünkü bu, "yetkinliği" bir yönetim ve meşruiyet sorunu haline getirir ve AI-token hissiyatına yansıyabilir.
Önemli olan eşik, OpenAI ve IAS'ın iletişimi somut bir doğrulama ve erişim çerçevesine dönüştürüp dönüştürmeyeceği ve 370'ten fazla sonuç veya Navier–Stokes iddiasının dışarıdan birinin gerçekten uygulayabileceği bağımsız bir doğrulama yoluna sahip olup olmayacağıdır. Eğer bu olursa, hikaye anlatı riskinden ölçülebilir bir sürece kayar ve bu, pratik anlamda önemli kılar.
