LLM günlükleme, ne olduğunu tanımlayan verileri — istemleri ve tamamlamaları yakalar. Karar izleme, kararların neden alındığını — artı/eksi argümanlar, emsaller ve gerekçelerle yapılandırılmış akıl yürütmeyi yakalar. Günlükleme hata ayıklamayı sağlar. Karar izleme, kurumsal hafıza, emsal arama ve açıklanabilir AI sağlar. AI Agentree, günlüklemenin yerini alamayacağı karar izleme katmanını sunar.
TL;DR: Günlükleme, modelin ne söylediğini yakalar. Karar izleme, kararın neden alındığını yakalar. Sadece biri emsal ve kurumsal hafıza sağlar.
Günlükleme gereklidir ama yetersizdir. Eksik olan şey burada.
Tanımlayıcı: "Bu oldu"
// Log entry
{
"prompt": "Should we approve...",
"completion": "Yes, approved...",
"tokens": 847,
"latency_ms": 1234
}
Bu günlüğü bulabilirsiniz. Ama benzer davalarda nasıl karar verdiğinizi bulabilir misiniz?
Normatif: "Bu destekliyor/karşı çıkıyor çünkü..."
// Decision trace
{
"decision": "APPROVED",
"pro_arguments": [...],
"con_arguments": [...],
"precedent_cited": "D-1234",
"rationale_ids": [...]
}
Akıl yürütme kalıbı ile sorgulanabilir. Emsal olarak alıntılanabilir.
| Açı | LLM Günlüğü | Karar İzleme |
|---|---|---|
| Ne yakalar | İstekler, tamamlamalar, tokenlar, gecikme | Akıl yürütme yapısı, emsaller, gerekçe |
| Veri yapısı | Yapılandırılmamış metin, düz meta veriler | Yapılandırılmış argüman ağaçları, normatif ilişkiler |
| Sorgulama yeteneği | 'X içeren günlükleri bul' | 'Akıl yürütme modeline dayalı Y'ye benzer kararları bul' |
| Emsali destekler | ||
| Kurumsal hafıza | ||
| Açıklanabilirlik | Modelin ne söylediğini gösterir | Kararın neden alındığını gösterir |
| Uyum değeri | Olayların denetim izi | Akıl yürütmenin denetim izi |
"Benzer iade taleplerini nasıl ele aldık?" metin araması değil, akıl yürütme yapısı gerektirir. Kayıtlar eşleşen kelimeleri bulur. İzler eşleşen kalıpları bulur.
Zamanla biriken bilgi, yapılandırılmış kararlar gerektirir. Kayıtlar arkeolojidir. İzler mimaridir.
Geçmiş kararları alıntı yapan ajanlar yapılandırılmış bir emsal gerektirir. "Benzer koşullar altında D-1234'ü onayladık" karar izleri gerektirir.
"Yapay zeka neden X kararını verdi?" yapılandırılmış bir gerekçe gerektirir. Düşünce zinciri sonradan yapılan bir değerlendirmedir. Karar izleri gerçek bilgidir.
Hangi akıl yürütme kalıplarının iyi sonuçlara yol açtığını takip etmek yapı gerektirir. Kayıtlar argümanları sonuçlarla ilişkilendiremez.
İnsan döngüsünden tam otonomiye geçmek kanıt gerektirir. Karar izleri karar kalitesini kanıtlar. Kayıtlar icraatı kanıtlar.
LLM kaydı, istemleri, tamamlamaları ve meta verileri (tokenlar, gecikme) yakalar. Karar izleme, yapılandırılmış akıl yürütmeyi yakalar: artı/eksi argümanlar, atıfta bulunulan emsaller, güven seviyeleri ve kararı destekleyen gerekçeler. Kayıt tanımlayıcıdır; izleme normatiftir.
İstem/çıktı kayıtları akıl yürütme yapısını yakalamaz. Ham metin kayıtlarından 'benzer durumları nasıl ele aldık?' veya 'bu kararı destekleyen hangi emsaller var?' diye sorgulayamıyorsunuz. Karar izleme, emsal araması ve kurumsal hafıza sağlayan yapılandırılmış belgeler oluşturur.
Hayır. Zihin akışı, model tarafından sonradan üretilir - iç hesaplamaya sadık değildir. İki istem, farklı 'açıklamalarla' aynı yanıtı üretebilir. Karar izleme, karar anında yapılandırılmış belgeleri yakalar, yeniden yapılandırılmış anlatıları değil.
Etkili bir şekilde hayır. Emsal, normatif ilişkiler (destekler/karşı çıkar) gerektirir, tanımlayıcı ilişkiler (içerir/bahseder) değil. Kayıt tabanlı arama benzer metinleri bulur; karar izleme benzer akıl yürütme kalıplarını bulur. Fark temel bir farktır.
Evet. Hata ayıklama, maliyet takibi ve uyum için kaydınızı tutun. Açıklanabilirlik, emsal ve kurumsal hafıza için karar izlemeyi ekleyin. Farklı amaçlara hizmet ederler ve birlikte çalışırlar.
Düzenlemeler giderek AI kararlarını açıklamayı gerektiriyor. Kayıtlar modelin ne söylediğini gösterir. Karar izleri, kararın neden alındığını, hangi alternatiflerin değerlendirildiğini ve hangi kanıtların desteklediğini gösterir. Bu, denetçiler ve düzenleyicilerin gerçekten ihtiyaç duyduğu şeydir.
AI'nizin neden karar verdiğini, sadece ne söylediğini yakalayın.