AI Karar İzleme Nedir?
Karar izleme, her AI ajanı kararının arkasındaki tam akıl yürütmeyi yapılandırılmış, denetlenebilir belgeler olarak yakalama pratiğidir. Ne olduğunu kaydeden yürütme günlüklerinin aksine, karar izleri neden olduğunu kaydeder — değerlendirilen seçenekler, danışılan kanıtlar, tartılan argümanlar ve seçilen gerekçe. AIAgentree, Karar Paketleri aracılığıyla karar izlemeyi uygular: öneri, argüman ağacı, kanıt anlık görüntüleri, seçilen gerekçe ve sonuç takibi içeren mühürlü kayıtlar. Karar izleme, AB AI Yasası'nın 12-14. Maddeleri ile uyumu sağlar, Üç Güven Modunu destekler (İnsan-Döngüde, İnsan-Döngüde, Tam Otonomi) ve emsal olarak altyapı aracılığıyla kurumsal hafıza oluşturur. Mimari, normatif ilişkileri (destekler/karşıt) tanımlayıcı ilişkilerden (bahseder/ilgili) ayırarak, AI akıl yürütmesini sorgulanabilir, karşılaştırılabilir ve alıntılanabilir hale getirir.
Çoğu organizasyon günlük tutmayı (ajanın ne yaptığı) karar izleme ile (ne karar verildi ve neden) karıştırır. Ayrım önemlidir çünkü düzenleme, yönetişim ve kurumsal hafıza hepsi ikincisine bağlıdır.
- •Loglar yürütme olaylarını kaydeder — API çağrıları, gecikme, hatalar
- •Karar izleri yapılandırılmış akıl yürütmeyi — seçenekler, kanıtlar, gerekçeler, sonuçlar — yakalar.
- •Karar Paketleri, denetçilerin sorgulayabileceği ve yeniden oynatabileceği mühürlü belgelerdir.
- •Önceki karar, yapılandırılmış kararlardan otomatik olarak ortaya çıkar — altyapı olarak kurumsal hafıza
Bir düzenleyici, yapay zekanızın verdiği son 100 kararı istedi.
Cevap vermek için 30 gününüz var. Gerçekte neye sahipsiniz?
Orijinal Tez, Yeniden İfade Edildi
Yapay zeka kararlarının makbuzları olmalıdır. Kaydetme hesap verebilirlik değildir. Düşünce zinciri gerçeklik değildir.
Bu ifadeler doğru kalmaya devam ediyor. Ancak eksik.
Soru "Neden kararları kaydetmeliyiz?" açık bir cevaba sahiptir: uyum, hesap verebilirlik, hata ayıklama. Daha zor soru ise: "Bunu yaptığımızda ne olur?"
Cevap beklenmedik: kurumsal hafıza otomatik hale gelir. Üstüne inşa ettiğiniz bir özellik olarak değil. Sonradan eklediğiniz bir modül olarak değil. Veri modelinin doğal bir sonucu olarak.
"Karar"ın Gerçekte Ne Anlama Geldiği
Bir karar model çıktısı değildir. API yanıtı değildir. Fonksiyon dönüş değeri değildir.
Bir karar, aşağıdakileri içeren yapılandırılmış bir nesnedir:
- •Öneri — neyin kararlaştırıldığı (kredi #1234'ü onayla)
- •Değerlendirilmiş kanıtlar — karar anında gözden geçirilen, dondurulmuş gerçekler
- •Değerlendirilen alternatifler — değerlendirilen ve reddedilen seçenekler
- •Seçilen gerekçe — hangi argümanlar kararı etkiledi
- •Kaydedilen sonuç — sonrasında ne oldu (hemen, 6 ay, 1 yıl)
Bu, AIAgentree'nin Karar Paketi olarak adlandırdığı şeydir — denetçilerin sorgulayabileceği, yeniden oynatabileceği ve alıntı yapabileceği mühürlü, değiştirilemez bir kayıttır.
Logların Size Anlatmadığı Şeyler
| İşlem Günlüğü | Karar İzleme |
|---|---|
kredi_onayla(basvuru_id=1234, puan=0.87) | Öneri: Kredi #1234'ü onayla ARTI: Gelir doğrulaması geçti (ağırlık: 0.92) ARTI: 3 yıllık istihdam geçmişi (ağırlık: 0.85) EKSİ: Kredi puanı eşik altında (ağırlık: 0.78) İSTİSNA: Kıdemli Analist tarafından onaylanan manuel istisna Gerekçe: İstihdam istikrarı kredi endişesini aşıyor Sonuç (6ay): 0 kaçırılan ödeme |
| Ne oldu. Ne zaman oldu. Ne kadar sürdü. | Neden karar verildi. Ne düşünüldü. Sonrasında ne oldu. |
Kayıt, kredinin onaylandığını bildiriyor. İzleme, neden kredi puanı endişesine rağmen onaylandığını, istisnayı kimin yetkilendirdiğini ve bu kararın iyi sonuçlanıp sonuçlanmadığını söylüyor.
İki Primitif
Tüm karar izleme sistemi iki temel üzerine kuruludur:
Primitif 1: Dayanıklı Akıl Yürütme Kaydı
Modelin ne söylediği değil. Bir yapılandırılmış argüman grafiği ile iddialar, ilişkiler (destekler/karşı çıkar), kanıt referansları ve hiyerarşi.
Primitif 2: Dayanıklı Sonuç Kaydı
"Model 200 OK döndürmedi." Bir mühürlü karar kaydı ile sonuç, gerekçe argümanları, karar verici ve üç ufuk izleme.
Her ikisine sahip olduğunuzda, emsal artık "hatırladığınız" bir şey değildir. Artık sorgulayabileceğiniz, karşılaştırabileceğiniz ve alıntı yapabileceğiniz bir şey haline gelir.
Neden Normatif Tanımlayıcıdan Üstündür
Bağlam grafikleri tanımlayıcı ilişkileri saklar: "ilişkili," "bahsediyor," "sahip." Karar argüman grafikleri normatif ilişkileri saklar: "destekliyor," "karşı çıkıyor."
Ayrım temeldir:
- •Açıklayıcı: "Bu bilet bu müşteriden bahsediyor"
- •Normatif: "Bu kanıt onayı destekliyor çünkü tutarlı bir ödeme geçmişini gösteriyor"
Normatif yapı açıklanabilirliği, yönetişimi ve emsal oluşturmayı sağlar. Tanımlayıcı yapı arama ve keşfi mümkün kılar. Her ikisi de değerlidir. Sadece biri kurumsal yargıyı sağlar.
Önceki Kararın (Mekanik Olarak) Nasıl Ortaya Çıktığı
Uçan Tekerlek
Ajan, artı/eksi argüman ağacı oluşturur.
İnsanlar onaylar/red eder + mantıklı argümanlar seçer
Karar mühürlendi → dava kaydı donduruldu
Sonraki karar: ajan o davayı arar ve alıntılar.
Önceki durum, yeni davada bir argüman düğümü haline gelir.
Organizasyon, "nasıl karar veriyoruz" kalıplarının bir kütüphanesini oluşturur.
Desenler, güvenli otomasyonu (örnek odaklı özerklik) mümkün kılar.
Kurumsal hafızayı normal kullanımın bir yan ürünü olarak alırsınız, ayrı bir girişim olarak değil.
Saklananlardan Elde Edilebilir Olanlara: Kararlar Bir Grafik Olarak
Kararları yakalamak yalnızca değerin yarısıdır. Diğer yarısı geri almaktır — ve işte burada veri modeli değerini kazanır. Her karar, normatif bir argüman grafiği olarak depolandığı için (iddialar destekleyen/karşıt kenarlarla bağlantılıdır), yalnızca bir arşiv değil, birinci sınıf bir geri alma alt yapısı haline gelir.
Bir vektör aramasını ham günlükler üzerinde yönlendirdiğinizde "parça çorbası" alırsınız — bir sonuca atıfta bulunan ama karşı argümanı, onaylayanı ve emsali atlayan bağlantısız kesitler. Bunun yerine karar grafiğinden geri alırsanız, sınırlı bir Karar Paketi elde edersiniz: öneri, lehine ve aleyhine olan gerekçeler, kanıtlar ve sonuç, eksiksiz. Bu, AI kararları için GraphRAG — emsalin sorgulanabilir ve alıntılanabilir bir şey olmasının nedeni, sadece hatırlamayı umduğunuz bir şey olmamasıdır. (Geri alma alt yapısı hakkında daha fazla bilgi: karar geri alımı nedir.)
Güvenin Üç Modu
Şirketler kararları bir gecede AI'ya devretmez. Modlar aracılığıyla ilerlerler:
İnsan Döngüsü içinde
Ajan yardımcı olur, insan karar verir. Ajan akıl yürütme üretir; bir insan son kararı verir.
İnsan Döngüsü içinde
Ajan karar verir, insan denetler. Ajan kararlar alır; bir insan gözden geçirebilir ve iptal edebilir.
Tam Otonomi
Ajan karar verir, insan denetimleri periyodik olarak yapılır. Otonom operasyonu gerektirecek yeterli emsal mevcuttur.
Mod ilerlemesi kanıta dayalıdır: güven ≥ %95, benzer emsaller ≥ 5 ve tutarlı sonuçlarla, model oluşturulmuş ve doğrulanmıştır. Bu "güven ama doğrula" değil. Bu "doğrula, sonra güven, sonra doğrulamaya devam et."
Bu, Kurumsal AI Yığını İçin Ne Anlama Geliyor
ŞİRKET KONTEXT YIĞINI
- •KATMAN C: DEĞERLENDİRME — NEDEN böyle bir karar alındı? Artı/eksi ağaçları, emsal alıntıları, kanıtların kökeni
- •KATMAN B: KARAR SOY AĞACI — NE kararlaştırıldı? Sonuç, güven, değerlendirilen politikalar, onaylar
- •KATMAN A: OPERASYONEL KONTEXT — KİM/NE dahil? Varlıklar, ilişkiler, zamansal durum (CRM, ERP)
Çoğu takım A inşa eder. Bazıları B inşa eder. Neredeyse hiç kimse C'yi iyi inşa etmez. AIAgentree C'yi sağlar.
Bağlanmanın Üç Yolu — SDK Sadece Bir Tanesi
Karar izleme, 6 aylık bir danışmanlık süreci değildir — ve SDK'mızı gerektirmez. Bağlanmanın üç yolu vardır:
- •MCP (ajan-yerli) — araçlar olarak tam yaşam döngüsü, uçtan uca: bir iz oluştur, akıl yürütmeyi kaydet, kararı mühürle (
create_trace,append_events,seal_decision) ve hemen Karar Paketi'ni al (get_packet,search_precedents) — kurulum yapılacak bir kütüphane yok - •REST API — herhangi bir dil, herhangi bir çalışma zamanı, sıfır bağımlılık (SDK, bu uç noktaların ince bir sarmalayıcısıdır)
- •SDK (Python / TypeScript) — ajanın çıktısından akıl yürütmenin otomatik çıkarımını sağlayan ergonomik seçenek
SDK yolu yazmak için en kısasıdır — yaklaşık on satırlık bir karar izleme:
from aiagentree import AgentreeClient
client = AgentreeClient(api_key="ask_...", base_url="https://api.aiagentree.com", tenant_id="acme")
# Trace your agent's decision point
trace = client.start_trace(
agent_id="discount-agent",
workflow_id="discount_approval",
entity_type="request",
entity_id="4521",
)
trace.add_input("discount", 0.18, source="crm")
trace.add_step("s1", title="SEV-1 incident yesterday", category="evidence", confidence=0.9)
trace.add_step("s2", title="Customer flagged as churn risk", category="evidence", confidence=0.85)
trace.add_step("s3", title="Exceeds standard 15% threshold", category="risk", confidence=0.7)
trace.seal("d1", action="approved", confidence=0.9)İz mühürlenmiş, zaman damgalı ve sorgulanabilir. Bir sonraki benzer istek geldiğinde, o emsal geri alınabilir ve alıntı yapılabilir.
Uyum Açısı
AB Yapay Zeka Yasası, yüksek riskli yapay zeka sistemleri için belirli gereklilikler öngörmektedir:
- •Madde 12 — Kararların izlenebilirliğini ve risklerin tanımlanmasını sağlayan otomatik kayıt tutma
- •Madde 13 — Şeffaflık ve dağıtıcılar ile kullanıcılar için bilgi sağlama
- •Madde 14 — Müdahale ve anlama yeteneği sağlayan insan gözetimi önlemleri
Karar izleri, düzenleyicilerin gerçekten sorgulayabileceği ve anlayabileceği bir formatta yapılandırılmış akıl yürütmeyi, kanıt kökenini, insan denetim eylemlerini ve sonuç kayıtlarını yakalayarak bu gereksinimleri karşılar.
Aralık 2027 son tarihi: Ek III kapsamındaki yüksek riskli AI sistemleri, kayıt ve izlenebilirlik gerekliliklerine uymalıdır. Eğer AI ajanlarınız kredi, istihdam, eğitim veya sağlık hizmetleri hakkında kararlar alıyorsa, zaman işlemeye başladı.
Karar İzlemenin Çözmediği Şeyler
Karar izleme, operasyonel bağlamın üzerinde yer alır. Yerine geçmez:
- •CRM/ERP sistemleri — hala kayıt sistemlerinize ihtiyacınız var
- •Gözlemlenebilirlik araçları — LangSmith, W&B, Arize hala model sağlığını izliyor
- •Kimlik çözümü — sistemler arasında varlık bağlantısına hala ihtiyacınız var
Bu araçlar farklı katmanlarda farklı sorunları çözer. AIAgentree, hepsinin ihtiyaç duyduğu ancak tarihsel olarak saklanmamış tek nesneyi yakalar: kararın kendisi.
Nasıl Başlanır
Yüksek riskli karar noktalarınızı belirleyin
Hangi ajan kararları müşterileri, uyumu veya geliri etkiler? Oradan başlayın.
10 satırlık SDK'yı entegre et
Mevcut ajan mantığınızı izleme yakalama ile sarın. Yeniden yazma gerekmiyor.
Düzenleyici sorusunu yanıtlayın
Bir ajansı seçin ve sorun: "Eğer bir düzenleyici son 100 kararı isterse, yanıtlayabilir miyim?"
Sıkça Sorulan Sorular
AI ajanları için karar izleme nedir?
Karar izleme, her AI kararının arkasındaki tam akıl yürütmeyi — dikkate alınan seçenekler, başvurulan kanıtlar, tartılan argümanlar ve seçilen gerekçeyi — yapılandırılmış, denetlenebilir belgeler olan Karar Paketleri olarak yakalar. Ne olduğunu kaydeden günlüklerin aksine, karar izleri neden olduğunu kaydeder.
Karar izleme, günlük kaydı veya gözlemlenebilirlikten nasıl farklıdır?
Kayıtlar, yürütme olaylarını (API çağrıları, gecikme, hatalar) kaydeder. Gözlemlenebilirlik araçları sistem sağlığını izler. Karar izleme, akıl yürütmenin normatif yapısını yakalar — hangi argümanların bir kararı desteklediği veya karşı çıktığı, hangi kanıtların gösterildiği ve hangi gerekçenin sonucu belirlediği. Bu, 'kredinin onaylandığını' bilmek ile 'bu kredinin neden kredi puanı endişesine rağmen onaylandığını' bilmek arasındaki farktır.
Karar Paketi nedir?
Bir Karar Paketi, AIAgentree'nin temel nesnesidir: mühürlü, değiştirilemez bir kayıt olup, öneriyi (ne karar verildi), argüman ağacını (karşıt/lehine akıl yürütme), kanıt anlık görüntülerini (karar anında dondurulmuş), seçilen gerekçeyi (kararı etkileyen argümanlar) ve sonuç takibini (sonrasında ne olduğu) içerir. Bir düzenleyici veya denetçinin bir kararı anlaması ve yeniden oynaması için ihtiyaç duyduğu her şeydir.
Karar izleme, AB AI Yasası uyumuna nasıl yardımcı olur?
AB AI Yasası'nın 12-14. maddeleri, yüksek riskli yapay zeka sistemlerinin kararların izlenebilirliğini sağlayan kayıtlar tutmasını gerektirir. Karar izleri, düzenleyicilerin gerçekten sorgulayabileceği ve anlayabileceği bir formatta yapılandırılmış akıl yürütme, kanıt kökeni, insan denetimi eylemleri ve sonuç kayıtlarını yakalayarak bu gereksinimleri karşılar.
Yapay zeka yönetiminde Güvenin Üç Modu nedir?
Üç Mod, bir ilerlemeyi temsil eder: Mod 1 (İnsan Döngüde) ajanların yardımcı olduğu ancak insanların karar verdiği; Mod 2 (İnsan Döngüde) ajanların insan gözetimiyle karar verdiği; Mod 3 (Tam Otonomi) ajanların periyodik denetimlerle karar verdiği. Modlar arasındaki ilerleme, güven puanları, emsal tutarlılığı ve sonuç takibi ile yönlendirilen kanıta dayalıdır.
Karar izleme süreçlerinde emsal kararlar nasıl çalışır?
Kararlar yapılandırılmış belgeler olarak kaydedildiğinde, emsal otomatik olarak ortaya çıkar. Benzer geçmiş kararlar kategori, varlık referansları, argüman etiketleri veya politika kısıtlamaları ile geri alınabilir. Bu emsaller, yeni kararlarda birinci sınıf argüman düğümleri haline gelir — diğer nedenler gibi alıntı yapılabilir, itiraz edilebilir veya geçersiz kılınabilir. Kurumsal hafıza her karar ile artar.
AIAgentree'yi entegre etmek ne kadar sürer?
Üç şekilde bağlanabilirsiniz: MCP üzerinden ajan yerel araçları olarak (SDK yok, kütüphane yok), REST API (herhangi bir dil, sıfır bağımlılık) veya Python/TypeScript SDK (yaklaşık on satır, otomatik akıl yürütme çıkarımı ile). Tam yaşam döngüsü — bir iz oluşturma, akıl yürütmeyi kaydetme, kararı mühürleme ve hemen Karar Paketi'ni geri çekme — yalnızca MCP üzerinden, uçtan uca, hiç kütüphane olmadan çalışır. 6 aylık bir danışmanlık süreci yok; mevcut ajan yığınınıza eklediğiniz bir altyapı katmanıdır.
İlgili Konular
İlgili Makaleler
AI Kararları için GraphRAG: Neden Grafikler, Ajan Belleği için Vektör Aramayı Geçer
Loglar üzerindeki Vektör RAG, "parça çorbası" — karşı argümanları, onayları ve bir kararı savunulabilir kılan emsalleri kaçıran bağlantısız metin parçaları döndürür. Kararlar normatif bir argüman grafiği olarak saklandığında, geri alma işlemi bunun yerine sınırlı, denetlenebilir bir Karar Paketi döndürür.
AB AI Yasası Madde 6: Yüksek Risk Sınıflandırmasının AI Ajanlarınız İçin Anlamı
AB AI Yasası'nın 6. Maddesi, AI sisteminizin "yüksek riskli" olup olmadığını belirler ve zorunlu denetim izleme gerekliliklerini tetikler. Eğer ajanlarınız kredi, istihdam, eğitim veya sağlık hizmetleri hakkında kararlar alıyorsa, Aralık 2027'den önce Ek III sınıflandırmasını anlamanız gerekir.
Karar Denetim İzleri Nedir?
AI makbuzlarına karşılık gelen insan kararları: kimin neyi ve neden karar verdiğine dair tam, gözden geçirilebilir bir kayıt.
AIAgentree Ekibi
AI Yönetişimi
AIAgentree ekibi, AI ajanları için karar izleme altyapısı inşa ediyor. Misyonumuz, AI akıl yürütmesini görünür, denetlenebilir ve geliştirilebilir hale getirmektir.
AI kararlarınızı izlemeye hazır mısınız?
Bugün karar izlerini yakalamaya başlayın. Ücretsiz katman mevcut — kredi kartı gerekmiyor.
Ücretsiz Deneme Başlat