AI ajanı nedir? Chatbot'tan farkı ve riskleri
AI ajanı sorulara cevap vermekle kalmaz, sistemlerinizde işlem yapar. Chatbot ve iş akışından farkı, riskleri ve insan onayının yeri.
Bir chatbot sorunuza cevap verir. Bir AI ajanı ise kendisine verilen işi yapmak için sistemlerinize bağlanır, bilgi toplar ve işlem yapar. İkisi aynı dil modellerini kullansa da şirket içinde doğurdukları sonuçlar, riskleri ve kurulum biçimleri farklıdır. Bu yazıda farkı, ara bir seçenek olan iş akışını ve ajan kurarken alınması gereken önlemleri anlatıyoruz.
Chatbot konuşur, ajan iş yapar
Klasik bir chatbot, kullanıcının yazdığı mesaja metinle cevap verir. Şirket belgelerine bağlı bir bilgi asistanı da bu gruba girer: doğru belgeyi bulur, cevabı yazar, ama sonraki adımı kullanıcıya bırakır. Siparişi açan, kaydı güncelleyen, e-postayı gönderen yine çalışandır.
AI ajanı bu son adımı da üstlenir. Anthropic'in Aralık 2024'te yayımladığı "Building effective agents" yazısı ajanı, dil modelinin kendi sürecini ve araç kullanımını dinamik olarak yönettiği, işi nasıl yapacağına kendisinin karar verdiği sistem olarak tanımlıyor[1]. Buradaki "araç", modelin çağırabildiği bir fonksiyondur: ERP'de stok sorgulamak, CRM'e not eklemek, bir dosyayı okumak gibi.
Aynı yazıya göre bu sistemlerin temel yapı taşı; arama, araçlar ve hafıza ile güçlendirilmiş bir dil modeli[1]. Ajan bir adımın sonucunu görür, bir sonraki adıma ona göre karar verir ve iş bitene kadar bu döngüyü sürdürür.
Arada bir seçenek daha var: iş akışı
Anthropic aynı yazıda iki yapıyı ayırıyor. İş akışında (workflow) model ve araçlar, önceden yazılmış kod yollarıyla yönetilir. Ajanda ise yolu model seçer[1]. Fark pratikte şöyle görünür:
- İş akışı (örnek senaryo): Gelen her sipariş e-postasında model, müşteri adını, ürün kodlarını ve adetleri çıkarır. Kod bu bilgiyi kontrol eder ve ERP'de taslak sipariş açar. Adımlar ve sıraları sabittir.
- Ajan (örnek senaryo): "Bu müşterinin geciken siparişini çöz" denir. Model önce sipariş durumuna, sonra stoka, sonra kargo kaydına bakmaya kendisi karar verir. Bulduğuna göre müşteriye cevap taslağı hazırlar ya da konuyu satın almaya yönlendirir.
Yazının önerisi, mümkün olan en basit çözümle başlamak ve karmaşıklığı ancak gerektiğinde artırmak. Ajan sistemleri daha iyi sonuç için genellikle gecikme ve maliyetten ödün verir. Adımları belli olan işlerde iş akışı daha öngörülebilir ve tutarlıdır. Çoğu uygulamada tek bir iyi kurgulanmış model çağrısı bile yetebilir[1].
Ajanın riskleri ve insan onayı
Ajanın serbestliği, hatanın da büyüyebileceği anlamına gelir. Anthropic, ajanların özerkliğinin daha yüksek maliyet ve birbirine eklenen hatalar getirebileceğini belirtiyor. Önerdiği önlemler: ajanı önce korumalı bir test ortamında kapsamlı biçimde denemek, en fazla adım sayısı gibi durma koşulları koymak ve ajanın belirli noktalarda ya da takıldığında insan görüşü için durmasını sağlamak[1].
OWASP'nin büyük dil modeli uygulamaları için hazırladığı 2025 risk listesinde bu konu "aşırı yetki" (Excessive Agency, LLM06) başlığıyla yer alıyor. Liste sorunun üç kaynağını sayıyor: ajana gereğinden fazla fonksiyon vermek, bu fonksiyonlara gereğinden geniş erişim tanımak ve etkisi büyük işlemleri bağımsız bir kontrol olmadan yaptırmak[2]. Yanlış bir model çıktısı ya da belgeye gizlenmiş bir talimat, bu durumda gerçek bir işleme dönüşebilir.
OWASP'nin önerileri de buna göre: araç sayısını en aza indirmek, her aracı en az yetkiyle çalıştırmak, işlemi talep eden kullanıcının kendi yetkisiyle yürütmek ve etkisi büyük işlemlerden önce insan onayı almak. Yetki kontrolü modele bırakılmamalı, bağlanılan sistemin kendisinde yapılmalı[2].
Şirketiniz için ne anlama geliyor?
- İhtiyacınız bilgiye ulaşmaksa bir bilgi asistanı ya da chatbot yeterli olabilir. Sistemlerinizde işlem yapılması gerekiyorsa iş akışı ya da ajan düşünün.
- Adımları belli, tekrar eden işlerde önce iş akışını deneyin. Ajanı, adımların duruma göre değiştiği işlere saklayın.
- Ajanın kullanacağı araçları ve her aracın yetkisini tek tek listeleyin. Okuma yetkisi yetiyorsa yazma yetkisi vermeyin.
- Ödeme, fiyat değişikliği, müşteriye giden e-posta gibi işlemleri onay adımına bağlayın ve ajanın yaptığı her işlemi kayıt altına alın.
- Canlıya almadan önce gerçek örneklerle, test ortamında deneyin.
İzlemek isterseniz
- Tips for building AI agentsAnthropic · yaklaşık 18 dk · İngilizce
ERP ve CRM'inizle sizin belirlediğiniz yetkilerle çalışan bir ajan kurmak isterseniz kurumsal yapay zekâ hizmetimize göz atın.
Kaynaklar
- Anthropic, "Building effective agents", 19 Aralık 2024. anthropic.com/engineering/building-effective-agents
- OWASP, "LLM06:2025 Excessive Agency", Top 10 for LLM Applications 2025. genai.owasp.org/llmrisk/llm062025-excessive-agency