Otonom Yapay Zekâ Ajanlarında İnsan Onayı (Human-in-the-Loop)
Tamamen otonom bir yapay zekâ otomasyonu ilk gün büyüleyicidir, ama geri alınamaz bir hata yaptığında maliyeti katlanır. İnsan onaylı (human-in-the-loop) mimari, otomasyonu hız kaybetmeden nasıl güvenle ölçeklenebilir hale getirir.
İçindekiler
Bir otomasyonun en tehlikeli anı, çalışmadığı an değil; kimse bakmadan yanlış olanı büyük bir güvenle, hızla ve tekrar tekrar yaptığı andır. Yapay zekâ ajanları artık sadece metin üretmiyor; mail gönderiyor, CRM kaydı açıyor, ödeme başlatıyor, kayıt siliyor. Bu güç, doğru sınırlarla kurulmadığında hızla bir yükümlülüğe dönüşür. İnsan onaylı (human-in-the-loop) mimari tam da burada devreye girer: otomasyonun hızını korurken, geri alınamaz kararları bir insan onayına bağlar. Bu yazıda bu dengeyi pratikte nasıl kuracağınızı anlatıyorum.
Neden Tam Otonom Otomasyon Bir Tuzaktır?
"Her şeyi yapay zekâ halletsin" cazip gelir, çünkü ilk demoda kusursuz görünür. Ama üretim ortamında bir ajan, eğitim verisinde hiç görmediği bir durumla karşılaştığında da bir karar verir — ve o kararı sizin adınıza, sizin yetkinizle uygular. Yanlış müşteriye giden bir fiyat teklifi, sehven silinen bir kayıt ya da yanlış hesaba başlatılan bir işlem, kurtarılması saatler süren bir itibar ve para kaybına dönüşür. Sorun ajanın zekâsı değil; hatasının otonom biçimde ölçeklenmesidir. Bir insan saatte bir hata yapar; sınırsız bir ajan saniyede yüz hata yapar.
Doğru soru "otomasyonu tamamen ajana mı bırakmalıyım" değil, "hangi kararı ajana bırakmak güvenli" sorusudur. Bu ayrımı yapmadan kurulan her sistem, ya aşırı temkinli olup hiçbir işi bitiremez ya da aşırı cesur olup ilk ciddi hatada güveni yok eder.
Kritik Ayrım: Geri Alınabilir mi, Geri Alınamaz mı?
Kurduğum her otonom sistemin merkezinde tek bir soru var: bu eylem geri alınabilir mi? Cevap, ajanın ne kadar özgür bırakılacağını belirler. Taslak hazırlamak, dahili bir not düşmek, veriyi sınıflandırmak, bir raporu güncellemek geri alınabilir işlerdir — bunlarda ajan sormadan çalışır, çünkü bir hata anında düzeltilebilir. Ama üçüncü bir kişiye mesaj göndermek, kalıcı silme, ödeme/transfer, canlıya yayın geri alınamaz işlerdir — bunlarda ajan yalnızca hazırlar, uygulamaz.
| Eylem Türü | Tam Otonom (Onaysız) | İnsan Onaylı (Human-in-the-Loop) |
|---|---|---|
| Taslak / not / sınıflandırma | Uygun — anında düzeltilebilir | Gereksiz yavaşlatma |
| Dış kişiye mesaj / mail | Yüksek risk — itibar kaybı | Ajan hazırlar, insan onaylar |
| Kalıcı silme / ödeme / yayın | Kabul edilemez risk | Zorunlu onay + yedek doğrulama |
Bu tabloyu ekiple birlikte doldurmak, çoğu projede otomasyon stratejisinin en kritik yarım saatidir. Çünkü riski sonradan değil, tasarım anında sınıflandırırsınız.
Onay Kapısı (Approval Gate) Mimarisi Nasıl Kurulur?
Human-in-the-loop, "her şeyi insan onaylasın" demek değildir; öyle olsaydı otomasyonun anlamı kalmazdı. Amaç, insan dikkatini yalnızca gerçekten önemli olan yere odaklamaktır. Kurduğum sistemlerde üç katman işler:
- Otonom bant: Geri alınabilir işler sorulmadan yapılır ve sonucu tek satırda bildirilir. İnsan yükü sıfırdır.
- Onay kapısı: Geri alınamaz bir eylemde ajan durur, ne yapacağının kısa özetini ve bir tek dokunuşluk onay sunar (örneğin WhatsApp/Telegram üzerinden "Onayla" butonu). İnsan üç saniyede karar verir, ajan uygular.
- Denetim izi: Her onaylı eylem, kim-neyi-ne zaman onayladı bilgisiyle kaydedilir. Bir şey ters gittiğinde tahmin değil, kayıt konuşur.
Bu mimarinin gücü, onay isteme sıklığını zamanla düşürebilmenizdir: ajan güven kazandıkça, düşük riskli kategoriler otonom banda taşınır. Yani sistem sizinle birlikte olgunlaşır. Aynı yaklaşımı çok ajanlı kurulumlarda nasıl kararlı hale getirdiğimizi Üretim Ortamında Çoklu Ajan Mimarisi yazısında; CRM tarafındaki onaylı otomasyon akışını ise CRM ve Kurumsal Otomasyon rehberinde ele alıyorum. Bu prensiplerin uçtan uca bir kurumsal kuruluma nasıl döküldüğünü görmek isterseniz Yapay Zekâ ve İş Akışı Otomasyonu çözüm sayfamız iyi bir başlangıç noktasıdır.