Güvenilir AI ajanları için kontrol düzlemi açıklandı

AI ajan çerçeveleri açıklandı: bunlar, özellikle orkestrasyon, durum, araç çağrısı ve gözlemlenebilirlik gibi bir AI ajanı oluşturmanın yeniden kullanılabilir parçalarını paketleyen yazılım platformlarıdır. Amaç, modelleri 'daha akıllı' hale getirmek değil, iş akışı uzun, araç yoğun ve çok ajanlı olduğunda ajan davranışını kontrol edilebilir ve tekrarlanabilir hale getirmektir.

Ana Noktalar

• AI ajançerçeveleri, önceden oluşturulmuş bileşenler ve soyutlamalar kullanarak AI ajanları oluşturmayı, dağıtmayı ve yönetmeyi basitleştiren yazılım platformlarıdır.
• Gerçek ayırt edici özellik kontrol düzlemidir: orkestrasyon modeli, açık durum yönetimi ve araç çağrıları ve yeniden denemeler başarısız olmaya başladığında gözlemlenebilirlik.
• Sıralı boru hatları doğruluk ve denetlenebilirlik için varsayılan iken, asenkron veya olay odaklı tasarımlar basitliği eşzamanlılık için feda eder.
• Çerçeveler, yanıt süresi, token kullanımı ve araç kullanımını ölçmek için altyapı gibi karşılaştırılabilir, hissiyat değil.

Ajan çerçeveleri ile sohbet botları arasındaki farklar

Bir sohbet botu döngüsü genellikle bir istek, bir model yanıtı ve ince bir istem biçimlendirme katmanıdır. Ajan sistemleri, ne yapacağını belirleyebilen bir kontrol döngüsü ekler; bu, araç çağırmayı, iş devretmeyi ve adımlar arasında bağlamı sürdürmeyi içerir. Bu nedenle, 'kripto para birimlerinde AI ajanları nedir' konuşması, istemlerden sistem tasarımına doğru kaymaya devam ediyor.

Bir AI ajanına hareket etme izni verildiğinde, hata modları 'kötü kelimeler' gibi görünmeyi bırakır ve 'yanlış araç, yanlış zaman, yanlış durum' gibi görünmeye başlar.

Microsoft'un AI Ajanları için Başlangıçlar dersi, AI ajan çerçevelerini, önceden oluşturulmuş bileşenler, soyutlamalar ve araçlar sağlayarak ajanların oluşturulmasını, dağıtımını ve yönetimini basitleştiren yazılım platformları olarak çerçeveliyor. Aynı ders, ajan çerçevelerini temel LLM uygulamalarından ayıran üç yeteneği vurguluyor: ajan işbirliği ve koordinasyonu, çok adımlı görev otomasyonu ve yönetimi, ve bağlamsal anlama ve uyum sağlama.

Bunlar pazarlama sıfatları değildir. Kod ve günlüklerde görünenlerle doğrudan eşleşir: birden fazla aktör, bir görev grafiği ve birden fazla model çağrısını aşması gereken durum.

Bu aynı zamanda "ajan çerçevesi"nin genel bir etiket olmaktan çıkıp somut bir seçim haline geldiği yerdir. Geleneksel AI SDK'ları, bir uygulamaya çıkarım yerleştirmeye yardımcı olur. Ajan çerçeveleri, çıkarım etrafında kontrol düzlemi inşa eder: adımların nasıl sıralandığı, araçların nasıl kaydedilip çağrıldığı, belleğin nasıl saklandığı ve sistemin nasıl gözlemlendiği.

Kripto ajan yığını terimleriyle, bu kontrol düzlemi, özetleri paylaşan bir oyuncak bot ile araştırma yapabilen, doğrulayan ve çok adımlı bir iş akışını sessizce spesifikasyondan sapmadan yürütebilen bir sistem arasındaki farktır.

Ajan sistemlerinin temel yapı taşları

Bir kullanıcı isteği ile tamamlanmış bir ajan çıktısı arasında üç şey olur ve bunlardan sadece biri "model cevap verdi"dir. Geri kalan, ekiplerin her projede yeniden inşa etmemesi için çerçevelerin standartlaştırdığı borulama ile ilgilidir.

1. Girdiler bir görev ve bağlama normalleştirilir. Girdi, bir kullanıcı mesajı, planlı bir iş veya bir olay olabilir. Bağlam, sistemin ileriye taşımaya karar verdiği her şeydir; bu nedenle durum tasarımı birinci sınıf bir endişe haline gelir. 2. Çerçeve, ajansal bir iş akışını çalıştırır. Bu iş akışı, hangi ajanın çalışacağına, hangi aracın çağrılabileceğine ve her adımın ardından ne olacağına karar veren orkestrasyon mantığıdır.

Burada sıralı ve olay güdümlü seçimler bulunur. 3. Çıktılar, eserler olarak üretilir. Çıktı, bir mesaj, bir dosya, bir veritabanı yazımı veya bir aracın yan etkisi olabilir. Üretimde, "çıktı" ayrıca sistemin ne yaptığını açıklayan izler, günlükler ve metrikleri de içerir.

Çerçeveler arasında, ilkel yapı taşları genellikle uyumlu olur:

Ajanslar: bir sonraki eylemi belirlemek için çıkarım kullanan hedef odaklı bileşen. Çoklu ajan kurulumlarında, ajanlar genellikle rollere ve sınırlara sahiptir.

Araçlar: ajanın çağırabileceği işlevler veyaAPI'lerMicrosoft'un Ajan Çerçevesi örneği, araçları bir ajan oluşturulurken kaydedilen Python işlevleri olarak gösterir ve ajan, konuşma bağlamına göre bunları çağırabilir.

Bellek ve durum: çok adımlı çalışmayı tutarlı kılan kalıcı bağlam. Bazı çerçeveler bunu "bellek" arkasında gizler, diğerleri bunu bir akışta geçirilen durum olarak açık hale getirir.

Orkestrasyon: sipariş verme, devretme, yeniden deneme ve sonlandırma için kontrol mantığı. Günlük hata ayıklamada çerçevelerin en çok ayrıştığı yer burasıdır.

Geri bildirim döngüleri: davranışı geliştirmek için mekanizmalar, bu basit bir yeniden deneme politikası ya da daha yapılandırılmış bir değerlendirme adımı olabilir. Anahtar, döngünün sistemin bir parçası olmasıdır, insanın istemleri yeniden çalıştırması değil.

Tekil ve çoklu ajanlar için orkestrasyon desenleri

Sıralı orkestrasyon, düşünmesi kolay ve uygulaması basit olduğu için temiz bir varsayılandır.denetimCrewAI'nin deposu, örnek ekip yapılandırmasında doğrudan bir sıralı seçenek gösteriyor, `process=Process.sequential` kullanarak. Bu, "bir şey bir seferde olur" modelidir. Sıkıcıdır ve sıkıcılık, sistemin açıklanabilir olması gerektiğinde bir özelliktir.

Rol tabanlı iş birliği, bu sıralamanın üzerine oturur. CrewAI'nin temel yapıları, bölümü açıkça ortaya koyar: "Ekipler",otonom ajanlarroller aracılığıyla iş birliği yaparken, “Akışlar” üretime hazır, olay odaklı iş akışlarıdır ve ayrıntılı kontrol ile durum yönetimi sağlar. Bu eşleşme, CrewAI dışında bile yararlı bir zihinsel modeldir. Ekipler “işi kim yapar” sorusunu yanıtlar, akışlar ise “iş nasıl ilerler” sorusunu yanıtlar.

Asenkron ve olay odaklı orkestrasyon diğer kutuptur. VentureBeat'in Microsoft AutoGen v0.4 ile ilgili haberi, ajanların katı bir sıralı sürecin bitmesini beklemek yerine eşzamanlı olarak çalışmasını sağlayan asenkron, olay odaklı bir mimariye doğru bir kaymayı tanımlıyor. Eşzamanlılık avantajı, paralel araştırma, çoklu araç G/Ç veya birden fazla bağımsız alt görev içeren iş yüklerinde belirgindir.

Maliyet ise, sistemin artık yarış koşullarını, paylaşılan bağlam çakışmalarını ve lineer bir anlatıya uymayan kısmi hataları yönetmek zorunda kalmasıdır.

Bu, kontrol düzlemi tezinin somut bir biçimidir. Orkestrasyon modeli net değilse, çerçeve seçimi bir hata ayıklama seçeneği haline gelir. Sıralı sistemler genellikle gürültülü ve yerel olarak başarısız olma eğilimindedir. Olay odaklı sistemler ise sessizce ve küresel olarak başarısız olabilir, çünkü "neden" olaylar, işleyiciler ve durum geçişleri arasında dağıtılmıştır. Gözlemlenebilirlik, o dünyada bir lüks değildir. Olan biteni yeniden inşa etmenin tek yoludur.

Popüler çerçevelerden somut örnekler

CrewAI, hem yüksek seviyede bir geçiş hem de düşük seviyede kontrol sağlamaya çalışan bir çerçevenin temiz bir örneğidir. Deposu, LangChain veya diğer ajan çerçevelerinden bağımsız ve sıfırdan inşa edilmiş olarak konumlandırmaktadır. Hızlı başlangıç tarzı iskelette, geliştiriciler ajanları ve görevleri YAML'da tanımlar, ardından bunları Python'da bağlar.

Örnek kod, "En son AI Geliştirme ekibini oluşturur" açıklamasıyla bir ekip fabrikası yöntemini içerir ve döndürülen nesne sıralı orkestrasyonu açıkça gösterir: `return Crew( agents=self.agents, ... tasks=self.tasks, ... process=Process.sequential, verbose=True, )`. Önemli olan kısım sözdizimi değildir. Uygulama yolunun adlandırılmış ve incelenebilir olmasıdır.

Microsoft Agent Framework, araç çağırma ve kurumsal entegrasyonun ön planda olduğu zıt bir örnektir. AI Agents for Beginners dersi, bir adı, talimatları ve araçları olan bir ajan oluşturmak için `AzureAIProjectAgentProvider` kullanıldığını gösterir; burada araçlar Python işlevleridir. Ajan daha sonra bir kullanıcı mesajı ile çalışır ve konuşma bağlamına dayalı olarak bir aracı çağırabilir.

Bu çok spesifik bir sınırdır: araçlar oluşturulma zamanında kaydedilir ve ajanın özerkliği o araç kemeri ile sınırlıdır.

VentureBeat'in Ocak 2025 kapsamına göre tanımlanan AutoGen v0.4, eşzamanlılığın gereksinim olduğu durumlarda akılda tutulması gereken örnektir. Makale, asenkron, olay odaklı mimariye geçişi, eşzamanlı ajan çalışmasını ve çoklu ajan sistemleri için daha iyi kaynak kullanımını sağlamak olarak çerçeveliyor. Bu, "bir ekip görevleri sırayla yürütür" ifadesinden farklı bir zihinsel modeldir. Ajanların işçi olarak yer aldığı bir olay otobüsüne daha yakındır.

Geniş ekosistem genelinde ajan çerçeve karşılaştırması yapan inşaatçılar için, ai-agents-frameworks deposu pratik bir harita sunmaktadır. AutoGen, CrewAI, LangChain, LangGraph, LlamaIndex, OpenAI Agents SDK, Pydantic-AI, smolagents, Google ADK ve Microsoft Agent Framework dahil olmak üzere birden fazla çerçeveyi listelemekte ve her çerçeve için pratik örnekler içermektedir.

Bu önemlidir çünkü "çerçeve özellikleri" genellikle aynı temel bileşenler için farklı isimlerdir. Örnekler, aslında açık olanı gösterir: araçlar, durum, orkestrasyon ve izler.

Kripto okuyucuları için hızlı bir not: "elizaos açıklandı" genellikle tek bir ürün sorusu gibi ele alınır, ancak faydalı bakış açısı hala aynıdır. Yığın sosyal ajanlara, ticaret ajanlarına veya operasyon otomasyonuna yönelik olsa da, üretim sınırı araç çağırma ve durumdur. Geri kalan paketlemedir.

Bir ajan çerçevesi nasıl seçilir

Çerçeve seçimi, popülariteden değil, orkestrasyondan başlar. Gereksinim "denetlenebilir ve açıklanabilir kadar belirgin olmalı" ise, sıralı orkestrasyon temel düzeydir. CrewAI'nin açık `Process.sequential` yapılandırması, uygulama yollarını okunabilir hale getiren bir sinyal türüdür.

Gereksinim "eşzamanlı alt görevleri yürütmeli ve olaylara tepki vermelidir" ise, AutoGen v0.4 için tanımlanan asenkron, olay odaklı model doğru yönü gösterir; durum ve gözlemlenebilirlik çalışmalarının daha ağır olacağı beklentisiyle.

Araç çağırma, özerkliğin operasyonel risk haline geldiği yer olduğu için bir sonraki filtreyi oluşturur. Microsoft Agent Framework'ün bir adı, talimatları ve belirtilmiş bir araç listesi ile ajanlar oluşturma modeli, açık kaydın iyi bir örneğidir. Araç tanımlarını ve çağrı yollarını görünür hale getiren çerçeveler, genellikle kısıtlamayı, test etmeyi ve gözden geçirmeyi daha kolay hale getirir.

Sonra ölçüm geliyor. ai-agents-frameworks deposu, yanıt süresi, token kullanımı ve araç kullanımını ölçen performans karşılaştırma betikleri ve yardımcı programları ile birlikte gerçek zamanlı karşılaştırma için bir Streamlit UI içeriyor.

Bu üç metrik, bir masanın bir yürütme yığını değerlendirmesiyle temiz bir şekilde eşleşir: gecikme, maliyet ve “doldurma kalitesi.” Bir çerçeve bir öğreticide harika görünüyorsa ama ajanlar arasında fazla sohbet ettiği için token yakıyorsa, karşılaştırma bunu gösterecektir.

Çerçeve pişmanlığını önlemek için basit bir değerlendirme döngüsü yeterlidir:

1. 3-5 temsilci görev seçin. En az bir araç ağırlıklı iş akışı ve bir çok adımlı iş akışı dahil edin. 2. Aynı görevleri iki çerçeve arasında tutarlı bir model ve araç seti kullanarak çalıştırın. 3. Yanıt süresi, token kullanımı ve araç kullanımını karşılaştırın, ardından hataların nerede kümelendiğini görmek için izleri inceleyin.

Son olarak, ekosistem uyumu önemlidir, ancak bu son adım olmalıdır, ilk değil. VentureBeat'in kapsamı, AutoGen'in Azure ile sıkı entegrasyonu ve kurumsal odaklı tasarımı olarak farklılaşmasını çerçeveliyor, ayrıca birçok geliştiricinin çerçevelerde prototip oluşturduğunu ve daha sonra dağıtım için özel ortamlara taşındığını belirtiyor. Bu, çerçevelere bir eleştiri değil. Bugün seçtiğiniz kontrol düzleminin yarın yaşamak zorunda olduğunuz hata ayıklama yüzeyi olacağını hatırlatır.

Kripto ajanlar artık gerçek bir kategori, bir meme değil. Kripto ajanlar ekosistemi, yeni sargılar ve yeni “beyinler” göndermeye devam edecek, ancak kalıcı karar aynı kalıyor: ajan çalışırken hala mantıklı olacak orkestrasyon modelini ve enstrümantasyonu seçin.

AI ajan çerçeveleri hakkında yaygın yanlış anlamalar

“Ajan çerçeveleri sadece istemci sargılarıdır.” Kaynaklar tam tersini gösteriyor. Microsoft'un tanımı, önceden oluşturulmuş bileşenler ve soyutlamalar ile yaratım, dağıtım ve yönetimi vurguluyor ve işbirliği, görev yönetimi ve bağlamsal uyum üzerinde duruyor. Bunlar sistem yetenekleridir, istemci kozmetik değil. İstemci önemlidir, ancak çerçevenin değeri istemcilerin etrafındaki kontrol düzlemidir.

“Çoklu ajan daha iyi sonuçlar demektir.” Çoklu ajan sistemleri, bir model problemi olmadan önce bir koordinasyon problemidir. CrewAI'nin rol tabanlı Ekipler ile üretim Akışları arasındaki ayrım, ekiplerin roller, devralmalar ve durumlar için ilkelere ihtiyaç duyduğunu kabul etmektedir. Bunlar olmadan, ajan eklemek genellikle sadece token kullanımını artırır ve hataların atfedilmesini zorlaştırır.

“En popüler çerçeveyi seçin ve güvendesiniz.” Popülarite bir çalışma zamanı garantisi değildir. VentureBeat'in makalesi, büyük çerçevelerin teknik olarak aşırı farklılaşmadığını ve seçimin genellikle ekosistem uyumu ve kullanılabilirliğe dayandığını savunuyor. Bu nedenle karşılaştırma önemlidir. İki çerçeve benzer çıktılar üretebilirken yanıt süresi, token kullanımı ve araç kullanımı konusunda keskin bir şekilde farklılaşabilir.

“Olay odaklı her zaman sıralıdan üstündür.” AutoGen v0.4'ün olay odaklı mimarisi, evrensel bir yükseltme değil, bir eşzamanlılık kilidi olarak konumlandırılmıştır. Sıralı boru hatları desteklenen ve yaygın bir desen olmaya devam etmektedir ve denetlemesi daha kolaydır. Olay odaklı sistemler, eşzamanlılık kazancı gerçek olduğunda ve ekip paylaşılan durumu düşünmeye hazır olduğunda değer kazanır.

“Eliza çerçevesi ajandır.” Eliza çerçevesi, diğer tüm çerçeveler gibi, iskelet yapıdır. Ajan davranışı, orkestrasyondan, alet kemerinden, durum tasarımından ve ekibin ajanın senaryodan çıktığında neler olduğunu görmesini sağlayan gözlemlenebilirlikten gelir.

Alıntı

Ekiplerin "ajan çerçevesi"ni bir marka kararı olarak ele alıp, ardından durumun nerede bulunduğu, alet çağrılarının nasıl kısıtlandığı ve günlüklerden bir yürütme yolunun nasıl yeniden oluşturulacağı gibi sıkıcı şeylere haftalar kaybettiklerini izledim. Bu yüzden OMS/EMS benzetmesini seviyorum. Kenar, ai ajanı değildir. Davranışı tekrarlanabilir hale getiren kontrol düzlemidir.

Eğer orkestrasyon gereksinimi bir cümlede ifade edilemiyorsa, çerçeve seçimi gerçekten bir hata ayıklama deneyimi seçimidir. Ardışık boru hatlarının projeleri kurtardığını gördüm çünkü izleme düz bir çizgiydi ve üç ajanın paylaşılan bağlamda yarıştığı asenkron, olay odaklı yapılar bir cinayet soruşturmasına dönüştü. Yanıt süresini, token kullanımını ve alet kullanımını erken ölçün, ardından bozulduğunda okunabilir kalan yığını seçin.

Kaynaklar

• Microsoft (ai-agents-for-beginners GitHub)
• CrewAI (GitHub deposu)
• martimfasantos/ai-agents-frameworks (GitHub deposu)
• VentureBeat