Yapay zekâ asistanlarını prototip aşamasından çıkarıp üretim (production) ortamında yüz binlerce isteği işleyecek şekilde kurgulamak, tekil bir LLM ajanına araçlar (tools) vermenin çok ötesinde yazılımsal kararlılık standartları gerektirir. Çoklu ajan (multi-agent) sistemlerinde en büyük problem, modellerin birbirlerine yanlış veya eksik bilgi aktarması, bağlam pencerelerinin şişmesi ve maliyetlerin katlanarak artmasıdır. Bu rehberde, büyük kurumsal yapılarda (J.P. Morgan'ın Ask D.A.V.I.D. mimarisinde olduğu gibi) kullanılan çoklu ajan yönlendirme taktiklerini ve sistem kararlılığını sağlamanın pratik kodlama prensiplerini ele alıyorum.
Supervisor-Specialist Ajan Yönlendirme Modeli
Karmaşık bir kurumsal iş akışında tek bir LLM modeline tüm araçları teslim etmek, modelin kafa karışıklığı yaşamasına ve yanlış araçları tetiklemesine neden olur. Bunun yerine LangGraph veya benzeri kütüphaneler kullanarak yönlendirici bir lider (supervisor) ve sadece kendi alanında uzmanlaşmış alt ajanlar (specialists) kurgulanmalıdır. Supervisor, kullanıcının sorusunu analiz eder, planlama yapar ve ilgili işi sadece o alana atanmış alt ajana (örneğin SQL veritabanı uzmanı veya PDF RAG asistanı) yönlendirir. Anthropic mühendislerinin yayınladığı analizlere göre, bu tür bir iş bölümü tekil modele kıyasla başarı oranını %90'ın üzerinde artırmaktadır. Ancak bu yapıda her ajanın bağlam penceresini izole tutmak ve aralarındaki veri akışını sınırlamak, maliyetlerin kontrolden çıkmasını engellemenin tek yoludur.
Filesystem-As-State: Ajanlar Arası Durum Yönetimi
Ajanlar arası iletişimde en büyük hata, ara çıktıların tamamını sürekli prompt içinde taşımaktır. Bu durum hem bağlam birikimine (context residue) yol açar hem de modellerin halüsinasyon görme sıklığını artırır. Kararlı üretim sistemlerinde, veriler ajanlar arasında ham metin olarak değil, dosya referansları şeklinde iletilmelidir. Ajanlar ara çıktılarını yerel diskteki belirli çalışma alanlarına (worktrees) yazar ve bir sonraki ajana sadece dosya yolunu bildirir. Bu yaklaşım, sistemin hem hafıza yükünü sıfırlar hem de herhangi bir adımda hata oluştuğunda sürecin kaldığı yerden (checkpoint) kolayca devam etmesini (retry) sağlar. Kurulan bu dosya tabanlı mimariyi destekleyen veri bağlantı standartlarını incelemek için Model Context Protocol (MCP) rehberimizi inceleyebilirsiniz.
Human-in-the-Loop: Kritik Onay Kapıları
Çoklu ajan sistemlerinde her adımı tamamen otonom bırakmak, özellikle finans, sağlık veya veri yönetimi gibi yüksek hata maliyeti olan alanlarda kabul edilemez riskler doğurur. Bu sebeple mimarimize deterministik onay kapıları (Human-in-the-Loop) entegre ediyoruz. Örneğin, alt ajanların hazırladığı raporlar veya veritabanı değişiklik teklifleri doğrudan kullanıcının önüne bir onay ekranı olarak düşer. İnsan gözüyle denetim sağlanıp tek tıkla onay verilmeden akış bir sonraki adıma geçemez. Bu disiplin, geliştirdiğimiz klinik kalite ve otomasyon projelerinde de başarıyla uyguladığımız, hata payını sıfıra indiren ana unsurdur. Üretim ortamında çalışan ajan sistemlerimizde deterministik kurallar ile esnek LLM gücünü bu şekilde dengeleyerek operasyonel kararlılığı garanti altına alıyoruz.