Zuckerberg, Trump'a FINRA tarzı AI modelini bırak dedi

Meta CEO'su Mark Zuckerberg, 17 Ağustos haftasında Başkan Donald Trump ile yaptığı doğrudan telefon görüşmesinde, FINRA'ya benzer bir ulusal AI düzenleyicisine karşı olduğunu söyledi, görüşmeyle ilgili bilgisi olan kıdemli bir Beyaz Saray yetkilisine göre. Konsept, yetkililerin bir ön sürüm test rejimini, bir Film Derneği tarzı gönüllü derecelendirme sistemi ile karşılaştırırken değerlendirilmekte.

Ana Noktalar

• Mark Zuckerberg, 17 Ağustos haftasında Başkan Donald Trump ile yaptığı doğrudan telefon görüşmesinde, FINRA'ya benzer bir ulusal AI düzenleyicisine karşı olduğunu söyledi, görüşmeyle ilgili bilgisi olan kıdemli bir Beyaz Saray yetkilisine göre.
• Plan, gelişmiş AI modellerini gözden geçirecek ve daha geniş dağıtım öncesinde riskler için test edecek bir endüstri liderliğinde bir yapı oluşturmayı öngörüyor.
• Beyaz Saray yetkilileri, bu ön dağıtım test yaklaşımını David Sacks tarafından önerilen gönüllü, Film Derneği tarzı derecelendirme çerçevesi ile karşılaştırıyor.
• Zuckerberg'in görüşmesi, düzenleyici fikrini sona erdirmedi ve konsept Beyaz Saray içinde hala canlı durumda.

Zuckerberg'in Özel Görüşmesi, FINRA Tarzı AI Kapı Bekçesine Engel Oluyor

Mark Zuckerberg, sınır AI sürümleri önünde bir ön dağıtım test kapısı koyacak bir öneriye karşı çıkmak için Başkan Donald Trump ile doğrudan bir hat kullandı. Görüşme 17 Ağustos haftasında gerçekleşti ve Zuckerberg, Trump'a FINRA (Finansal Endüstri Düzenleyici Kurumu) modeline dayanan bir ulusal AI düzenleyicisi fikrine karşı olduğunu söyledi, görüşmeyle ilgili bilgisi olan kıdemli bir Beyaz Saray yetkilisine göre.

Bu temas, zaten iç beyin fırtınasını aşmış bir süreçte geç gerçekleşti. Kıdemli Beyaz Saray yetkilileri, FINRA tarzı endüstri düzenleyici konseptini Trump'a ve ayrıca Meta, OpenAI ve Anthropic gibi büyük AI şirketlerine ortalama olarak 17 Ağustos'ta önceden tanıttı, aynı yetkili söyledi.

Konuya aşina bir kişi, Trump'ın Zuckerberg ile görüşmeyi başlattığını söyledi. O kişi ayrıca, Zuckerberg'in Trump'tan pozisyonunu doğrudan değiştirmesini istemediğini, ancak Beyaz Saray'ın böyle bir kurulu atayabileceği kişilerin Trump'ın AI'ya yönelik hafif dokunuşlu yaklaşımını yansıtması gerektiğini savunduğunu belirtti. Meta, bir açıklama yapmayı reddetti ve raporlama, Trump'ın tepkisini veya görüşünün değişip değişmediğini tanımlamıyor.

Pazarlar için ana nokta, çağrının dosyayı kapatmadan sürtünme yaratmasıdır. FINRA tarzı düzenleyici konsepti Beyaz Saray içinde değerlendirilmekte ve bir Beyaz Saray sözcüsü yönetimin tutumunu şu şekilde ifade etmiştir: “Trump Yönetimi, AI politika oluşturma sürecinde yenilik ve güvenliği dengelemeye kararlıdır.”

FINRA Analojisi İçinde: Ön Dağıtım Model Risk Testi için Bir AI SRO

Tartışılan öneri, ABD Menkul Kıymetler ve Borsa Komisyonu denetimi altında broker-dealer'lar için kurallar yazan ve uygulayan, özel, sektör liderliğindeki öz düzenleyici kuruluş (SRO) FINRA'dan yapısını ödünç almaktadır. Pratikte, FINRA üye ücretleriyle finanse edilmekte, üye firmalardan temsilcilerin bulunduğu bir yönetim kurulu tarafından yönetilmekte ve kural değişikliklerinin SEC incelemesi ile işlemektedir.

FINRA modeline dayanan bir AI kuruluşu, bu "sektör liderliğinde, hükümete yakın" şablonu sınır model riskine uygulayacaktır. Beyaz Saray yetkilileri, gelişmiş AI modellerini gözden geçiren ve bunları daha geniş bir şekilde kullanılmadan önce potansiyel riskler için test eden bağımsız bir organizasyon hayal ediyor.

Mekanizma önemlidir çünkü bu sadece bir standartlar belgesi değildir. Ön dağıtım modeli test etme, tasarım gereği bir verim kısıtlamasıdır: bir model, geniş bir dağıtımdan önce bir risk çerçevesine karşı değerlendirilir, olayların yamanmış bir yanıtı zorlamasından sonra değil.

Yönetim içindeki politika aciliyeti, ajans yeteneği ve siber güvenlikle bağlantılıdır. Yetkililer, riskleri değerlendirmektedir.Yapay zeka ajanları, giderek daha fazla web'de gezinebilme, yazılım çalıştırabilme ve sınırlı insan gözetimi ile kod yazabilme yeteneğine sahip olan, düşmanca aktörler tarafından mevcut güvenlik önlemlerinden daha hızlı zafiyetleri belirlemek veya siber saldırıları otomatikleştirmek için kullanılabilir.

Rapor ayrıca, ajanların insan kontrolünden kaçtığı “bir dizi yüksek profilli olayı” da referans alıyor, ancak olayların adını vermiyor veya tarihleri sağlamıyor.

FINRA analojisine destek, Nobel Ödülü sahibi Google DeepMind bilim insanı Demis Hassabis'ten geldi. Hassabis, Temmuz ayında kaleme aldığı bir makalede, ABD'nin ortaya çıkan siber güvenlik tehditleri gibi yapay zeka risklerini ele almak için FINRA modeline dayanan yeni bir “standartlar kurumu” kurmasını önerdi ve yaz boyunca Beyaz Saray yetkililerine bu konsepti anlattı, konuyla ilgili bir yönetim yetkilisi bu durumu bildirdi. Google, yorum talebine yanıt vermedi.

Yerleşik bir uyumsuzluk, eleştirmenlerin istismar edebileceği bir durumdur. FINRA, menkul kıymetler aracılık eden kuruluşlar için ön cephe düzenleyicisidir, ancak yeni yatırım ürünlerini onaylama konusunda çok az bir rolü vardır. Etkili bir AI SRO,vetsYeni modellerin piyasaya sürülmeden önce, bugün FINRA'dan daha çok bir ürün kapısına yakın olacağı, hatta sektör tarafından finanse edilip istihdam edilse bile.

İki Rekabetçi Yol: Ön Yayın Testi vs MPA Tarzı Gönüllü Derecelendirme Sistemi

Beyaz Saray yetkilileri, bir yönetim yetkilisine göre, iki farklı yönetişim felsefesini değerlendiriyor: ön yayın testi ile FINRA tarzı bir düzenleyici veya Motion Picture Association (MPA) modeline dayanan gönüllü bir sektör grubu, David Sacks tarafından önerilen bir yaklaşım.

Sacks, düzenleyici tarzı yaklaşımı bir standartlar problemi yerine bir darboğaz problemi olarak çerçeveledi. Hükümet düzenleyici kavramını, modellerin 'testlerinin yapılmasını bekleyen bir kuyrukta sıralandığı' 'bir AI için DMV' olarak eleştirdi. Eleştiri operasyoneldir: eğer test organı yayın yolu haline gelirse, o zaman kuyruk politika haline gelir.

21 Ağustos tarihli 'All-In' podcast'inde Sacks, AI modellerini filmlerin 'R' veya 'PG-13' derecelendirmeleri gibi etiketleyecek bir MPA tarzı sistemi özetledi. MPA modelinin amacının daha ağır düzenlemeleri önlemek olduğunu savundu: 'MPA'nın o zaman yaptığı, daha müdahaleci, sert hükümet eylemlerini engelleyen standartları teşvik etmekti,' dedi.

Sacks, yaklaşımın Elon Musk'tan destek aldığını söyledi, ancak Musk yorum talebine yanıt vermedi. Haberde ayrıca, yönetimin AI politika yapımının daha önce son dakika geri dönüşleri yaşadığına dikkat çekiliyor: Mayıs ayında, Sacks, planlanan bir imza töreninin sabahında Trump'ı aradı ve onu kapsamlı bir AI yürütme emrini iptal etmeye ikna etti.

Sektörün konumlandırması hala kamuoyunda zayıf, bu da bunun yerleşik politika yerine süreç riski olarak işlem görmesinin bir parçası. En büyük AI şirketleri, FINRA tarzı düzenleyici planı kamuya açık bir şekilde desteklemedi veya karşı çıkmadı. Anthropic'in kurucu ortağı Jack Clark, Temmuz'da X'te bu fikir hakkında olumlu bir paylaşımda bulundu, ancak Anthropic, durumu hakkında yorum yapmayı reddetti. OpenAI ve Google yorum taleplerine yanıt vermedi, Meta ise bir açıklama yapmayı reddetti.

Karar Hala Beklemede: Hangi Çerçevenin Kazandığını Ne Belirleyecek

Beyaz Saray'ın FINRA tarzı düzenleyici konsepti ile MPA tarzı gönüllü grup arasında bir seçim yapacağına dair bir zaman çizelgesi belirtilmedi, bu da piyasanın tarih yerine sinyalleri okumasına neden oluyor.

En temiz işaret, ya ön dağıtım testlerine ya da gönüllü bir derecelendirme rejimine taahhüt eden resmi bir duyuru olacaktır, çünkü bu iki yol, sınır modeli sürümleri için farklı varsayılan sürtünmeleri ima etmektedir. İkinci bir sinyal, büyük AI laboratuvarlarının, özellikle Trump'a ve Meta, OpenAI ve Anthropic gibi şirketlere yapılan ortalama Ağustos önizlemelerinin ardından, belirsizlikten açık destek veya karşıtlığa geçip geçmeyecekleridir.

Sacks'ın kamu duruşu başka bir canlı göstergedir. Eğer MPA tarzı yaklaşımı tanıtmaya devam ederse ve Musk desteği iddialarını tekrar ederse, Musk'tan gelen onay veya yalanlama, o koalisyonun gerçek mi yoksa retorik mi olduğunu netleştirecektir.

Diğer işaret süreçtir, basın değil. Beyaz Saray'ın teknoloji CEO'larına yönelik daha fazla iletişimi, Ağustos ortası önizlemelerine benzer şekilde, teklifin gözden geçirildiğini ve baskı testine tabi tutulduğunu, rafa kaldırılmadığını önerecektir.

Benim Görüşüm: Bu Beyaz Saray Sürecinin AI Risk İsteği İçin Neden Önemli Olduğu

Bunu belirleyen kısım, Washington'un 'standartlar' isteyip istemediği değildir. Yönetimin, endüstri tarafından finanse edilse bile ve nominal olarak endüstri tarafından yönetilse bile, sürümler önünde bir kapı işlevi koymaya istekli olup olmadığıdır. Zuckerberg'in çağrısı, bir politika tersine dönüşü değil, geç aşama lobicilik baskısı gibi görünüyor, çünkü FINRA tarzı kavram, doğrudan Trump ile itirazlarını dile getirdikten sonra hayatta kaldı.

Önemli olan eşik, ön dağıtım testinin varsayılan dağıtım yolu haline gelip gelmeyeceği veya gönüllü bir etiket olarak kalıp kalmayacağıdır. Beyaz Saray, hükümet gözetimi altında bir SRO benzeri test ediciye ulaşırsa, pazar, sınır laboratuvarları ve hızlı model gönderimine bağımlı onchain ajan anlatıları için daha yavaş yineleme döngüleri ve daha fazla uyum yüzey alanı fiyatlandıracaktır.

Eğer bir MPA tarzı derecelendirme grubuna ulaşırsa, hemen sürtünme daha düşük olacaktır, ancak risk, 'gönüllü' standartların, tedarik, sigortacılar ve düzenleyiciler bunlara atıfta bulunmaya başladığında de facto gerekliliklere dönüşmesidir.

Kaynaklar

• Business Insider