Apakah Penjejakan Keputusan AI?
Penjejakan keputusan adalah amalan menangkap keseluruhan alasan di sebalik setiap keputusan agen AI sebagai artefak yang terstruktur dan boleh diaudit. Tidak seperti log pelaksanaan yang merekodkan apa yang berlaku, jejak keputusan merekodkan mengapa ia berlaku — pilihan yang dipertimbangkan, bukti yang dirujuk, hujah yang ditimbang, dan rasional yang dipilih. AIAgentree melaksanakan penjejakan keputusan melalui Pek Keputusan: rekod yang dimeterai yang mengandungi cadangan, pokok hujah, tangkapan bukti, rasional yang dipilih, dan penjejakan hasil. Penjejakan keputusan membolehkan pematuhan dengan Artikel 12-14 Akta AI EU, menyokong Tiga Mod Kepercayaan (Manusia dalam Gelung, Manusia di Gelung, Autonomi Penuh), dan mencipta memori institusi melalui preseden sebagai infrastruktur. Seni bina membezakan hubungan normatif (menyokong/membangkang) daripada hubungan deskriptif (menyebut/berkaitan), menjadikan pemikiran AI boleh dicari, dibandingkan, dan dirujuk.
Kebanyakan organisasi mengelirukan log (apa yang dilakukan agen) dengan penjejakan keputusan (apa yang diputuskan dan mengapa). Perbezaan ini penting kerana peraturan, tadbir urus, dan memori institusi semua bergantung pada yang terakhir.
- •Log merekod peristiwa pelaksanaan — panggilan API, latensi, ralat
- •Jejak keputusan menangkap pemikiran terstruktur — pilihan, bukti, alasan, hasil
- •Decision Packets adalah artefak yang disegel yang boleh ditanya dan dimainkan semula oleh juruaudit.
- •Preseden muncul secara automatik daripada keputusan yang terstruktur — ingatan institusi sebagai infrastruktur
Seorang pengawal selia baru sahaja meminta 100 keputusan terakhir yang dibuat oleh AI anda.
Anda mempunyai 30 hari untuk memberi maklum balas. Apa yang sebenarnya anda ada?
Tesis Asal, Dinyatakan Semula
Keputusan AI memerlukan resit. Pencatatan bukanlah tanggungjawab. Rantaian pemikiran bukanlah kebenaran asas.
Pernyataan ini tetap benar. Tetapi ia tidak lengkap.
Soalan "Mengapa kita perlu merakam keputusan?" mempunyai jawapan yang jelas: pematuhan, tanggungjawab, penyahpepijatan. Soalan yang lebih sukar adalah: "Apa yang berlaku apabila kita melakukannya?"
Jawapannya tidak dijangka: memori institusi menjadi automatik. Bukan sebagai ciri yang anda bina di atas. Bukan sebagai modul yang anda pasang kemudian. Sebagai akibat semula jadi daripada model data.
Apa yang Sebenarnya Dimaksudkan dengan "Keputusan"
Keputusan bukanlah output model. Ia bukan respons API. Ia bukan nilai pulangan fungsi.
Sebuah keputusan adalah artefak terstruktur yang mengandungi:
- •Cadangan — apa yang sedang diputuskan (meluluskan pinjaman #1234)
- •Bukti yang ditimbang — fakta yang dirujuk, dibekukan pada waktu keputusan
- •Alternatif yang dipertimbangkan — pilihan yang dinilai dan ditolak
- •Rasional yang dipilih — argumen mana yang mempengaruhi keputusan
- •Hasil yang direkodkan — apa yang berlaku selepas itu (segera, 6 bulan, 1 tahun)
Ini adalah apa yang AIAgentree panggil sebagai Decision Packet — rekod yang dimeterai dan tidak boleh diubah yang boleh ditanya, dimainkan semula, dan dirujuk oleh juruaudit.
Apa yang Log Tidak Beritahu Anda
| Log Pelaksanaan | Jejak Keputusan |
|---|---|
luluskan_pinjaman(id_permohonan=1234, skor=0.87) | Cadangan: Luluskan pinjaman #1234 PRO: Pengesahan pendapatan lulus (berat: 0.92) PRO: 3 tahun sejarah pekerjaan (berat: 0.85) CON: Skor kredit di bawah ambang (berat: 0.78) OVERRIDE: Pengecualian manual diluluskan oleh Sr. Analyst Rasional: Kestabilan pekerjaan melebihi kebimbangan kredit Hasil (6bln): 0 pembayaran terlepas |
| Apa yang berlaku. Bila ia berlaku. Berapa lama ia mengambil masa. | Mengapa ia diputuskan. Apa yang dipertimbangkan. Apa yang berlaku selepas itu. |
Log tersebut memberitahu anda bahawa pinjaman telah diluluskan. Jejak tersebut memberitahu anda kenapa ia diluluskan walaupun terdapat kebimbangan mengenai skor kredit, siapa yang memberi kuasa untuk pengecualian itu, dan sama ada keputusan itu berjalan dengan baik.
Dua Primitif
Seluruh sistem penjejakan keputusan bergantung kepada dua primitif:
Primitif 1: Rekod Tahan Lama Pemikiran
Bukan "apa yang dikatakan oleh model." Sebuah graf hujah terstruktur dengan tuntutan, hubungan (menyokong/menentang), rujukan bukti, dan hierarki.
Primitif 2: Rekod Hasil yang Tahan Lama
Bukan "model mengembalikan 200 OK." Sebuah rekod keputusan yang dimeterai dengan hasil, hujah rasional, pembuat keputusan, dan penjejakan tiga horizon.
Setelah anda mempunyai kedua-duanya, preseden bukan lagi sesuatu yang anda "ingat." Ia menjadi sesuatu yang anda boleh tanya, bandingkan, dan petik.
Mengapa Normatif Mengatasi Deskriptif
Graf konteks menyimpan hubungan deskriptif: "berkaitan dengan," "menyebut," "dimiliki oleh." Graf hujah keputusan menyimpan hubungan normatif: "menyokong," "menentang."
Perbezaan itu adalah asas:
- •Deskriptif: "Tiket ini menyebut pelanggan ini"
- •Normatif: "Bukti ini menyokong kelulusan kerana ia menunjukkan sejarah pembayaran yang konsisten"
Struktur normatif membolehkan penjelasan, tadbir urus, dan preseden. Struktur deskriptif membolehkan pencarian dan penemuan. Kedua-duanya adalah berharga. Hanya satu yang membolehkan pertimbangan institusi.
Bagaimana Preseden Muncul (Secara Mekanik)
Roda Penerbangan
Ejen menghasilkan pokok hujah pro/con
Manusia meluluskan/menolak + memilih hujah rasional
Keputusan telah dimeterai → rekod kes dibekukan
Keputusan seterusnya: ejen mencari dan menyebut kes itu
Preseden menjadi nod hujah dalam kes baru.
Organisasi membina perpustakaan corak "bagaimana kami membuat keputusan"
Corak membolehkan automasi yang selamat (autonomi yang dipacu preseden)
Anda mendapatkan ingatan institusi sebagai produk sampingan daripada penggunaan normal, bukan sebagai inisiatif yang berasingan.
Dari Disimpan ke Dapat Diambil: Keputusan sebagai Graf
Menangkap keputusan hanya separuh daripada nilai. Separuh lagi adalah mengembalikannya — dan di situlah model data memperoleh nilainya. Kerana setiap keputusan disimpan sebagai graf hujah normatif (tuntutan yang dihubungkan oleh tepi menyokong/menentang), ia menjadi substrat pengambilan yang utama, bukan sekadar arkib.
Arahkan carian vektor pada log mentah dan anda akan mendapat "sup kepingan" — petikan yang tidak terhubung yang memetik kesimpulan tetapi mengabaikan hujah balas, pengesah, dan preseden. Ambil dari graf keputusan sebaliknya dan anda akan mendapat Paket Keputusan yang terhad: cadangan, alasan untuk dan menentang, bukti, dan hasil, utuh. Ini adalah GraphRAG untuk keputusan AI — sebab preseden adalah sesuatu yang boleh anda tanya dan petik, bukan hanya sesuatu yang anda harap untuk ingat. (Lebih lanjut mengenai substrat pengambilan: apa itu pengambilan keputusan.)
Tiga Mod Kepercayaan
Perusahaan tidak menyerahkan keputusan kepada AI dalam sekelip mata. Mereka berkembang melalui mod:
Manusia dalam Lingkaran
Ejen membantu, manusia membuat keputusan. Ejen menghasilkan alasan; manusia membuat keputusan akhir.
Manusia dalam Lingkaran
Ejen membuat keputusan, manusia menyelia. Ejen membuat keputusan; manusia boleh menyemak dan membatalkan.
Kemandirian Penuh
Ejen membuat keputusan, audit manusia dilakukan secara berkala. Terdapat cukup preseden untuk membenarkan operasi autonomi.
Mod kemajuan adalah berdasarkan bukti: keyakinan ≥ 95%, preseden serupa ≥ 5 dengan hasil yang konsisten, corak yang ditetapkan dan disahkan. Ini bukan "percaya tetapi sahkan." Ini adalah "sahkan, kemudian percayai, kemudian teruskan pengesahan."
Apa Maksud Ini Untuk Tumpukan AI Perusahaan
STACK KONTEKS PERUSAHAAN
- •LAPIS C: PERBINCANGAN — MENGAPA ini diputuskan? Pokok pro/con, petikan preseden, asal usul bukti
- •LAPIS B: GARIS KEPUTUSAN — APA yang telah diputuskan? Hasil, keyakinan, polisi yang dinilai, kelulusan
- •LAPISAN A: KONTEKS OPERASI — SIAPA/APA yang terlibat? Entiti, hubungan, keadaan temporal (CRM, ERP)
Kebanyakan pasukan membina A. Sesetengah membina B. Hampir tiada siapa yang membina C dengan baik. AIAgentree menyediakan C.
Tiga Cara untuk Berhubung — SDK Hanya Salah Satunya
Penjejakan keputusan bukanlah satu perjanjian perundingan selama 6 bulan — dan ia tidak memerlukan SDK kami. Terdapat tiga cara untuk menyambung:
- •MCP (agen-natif) — keseluruhan kitaran hayat sebagai alat, dari awal hingga akhir: buat jejak, rekod alasan, tutup keputusan (
create_trace,append_events,seal_decision) dan segera ambil Paket Keputusan (get_packet,search_precedents) — tiada perpustakaan untuk dipasang - •REST API — mana-mana bahasa, mana-mana runtime, tiada kebergantungan (SDK adalah pembungkus nipis di atas titik akhir ini)
- •SDK (Python / TypeScript) — pilihan ergonomik, dengan pengeluaran automatik alasan dari output ejen anda
Jalan SDK adalah yang paling pendek untuk ditulis — jejak keputusan dalam kira-kira sepuluh baris:
from aiagentree import AgentreeClient
client = AgentreeClient(api_key="ask_...", base_url="https://api.aiagentree.com", tenant_id="acme")
# Trace your agent's decision point
trace = client.start_trace(
agent_id="discount-agent",
workflow_id="discount_approval",
entity_type="request",
entity_id="4521",
)
trace.add_input("discount", 0.18, source="crm")
trace.add_step("s1", title="SEV-1 incident yesterday", category="evidence", confidence=0.9)
trace.add_step("s2", title="Customer flagged as churn risk", category="evidence", confidence=0.85)
trace.add_step("s3", title="Exceeds standard 15% threshold", category="risk", confidence=0.7)
trace.seal("d1", action="approved", confidence=0.9)Jejak itu disegel, dicatat waktu, dan boleh dicari. Apabila permintaan serupa seterusnya tiba, preseden itu boleh diambil semula dan dirujuk.
Sudut Pematuhan
Akta AI EU menetapkan keperluan tertentu untuk sistem AI berisiko tinggi:
- •Artikel 12 — Pencatatan automatik yang membolehkan jejak keputusan dan pengenalan risiko
- •Artikel 13 — Ketelusan dan penyediaan maklumat kepada penyebar dan pengguna
- •Artikel 14 — Langkah pengawasan manusia yang membolehkan campur tangan dan pemahaman
Jejak keputusan memenuhi keperluan ini dengan menangkap pemikiran terstruktur, asal usul bukti, tindakan pengawasan manusia, dan rekod hasil — dalam format yang boleh ditanya dan difahami oleh pengawal selia.
Tarikh akhir Disember 2027: Sistem AI berisiko tinggi di bawah Lampiran III mesti mematuhi keperluan log dan jejak. Jika ejen AI anda membuat keputusan mengenai kredit, pekerjaan, pendidikan, atau penjagaan kesihatan, masa sedang berjalan.
Apa yang Tidak Diselesaikan oleh Penjejakan Keputusan
Jejak keputusan terletak di atas konteks operasi. Ia tidak menggantikan:
- •CRM/ERP sistem — anda masih memerlukan sistem rekod anda
- •Alat kebolehan pengamatan — LangSmith, W&B, Arize masih memantau kesihatan model
- •Penyelesaian identiti — anda masih memerlukan pautan entiti merentasi sistem
Alat-alat ini menyelesaikan masalah yang berbeza pada lapisan yang berbeza. AIAgentree menangkap satu artifak yang mereka semua perlukan tetapi tidak pernah disimpan secara sejarah: keputusan itu sendiri.
Cara Memulakan
Kenal pasti titik keputusan berisiko tinggi anda
Keputusan agen manakah yang mempengaruhi pelanggan, pematuhan, atau pendapatan? Mulakan dari situ.
Integrasikan SDK 10-barisan
Bungkus logik ejen sedia ada anda dengan tangkapan jejak. Tiada penulisan semula diperlukan.
Jawab soalan pengawal selia
Pilih satu ejen dan tanya: "Jika seorang pengawal selia meminta 100 keputusan terakhir, bolehkah saya menjawab?"
Soalan Lazim
Apakah jejak keputusan untuk ejen AI?
Jejak keputusan menangkap keseluruhan alasan di sebalik setiap keputusan AI — pilihan yang dipertimbangkan, bukti yang dirujuk, hujah yang ditimbang, dan rasional yang dipilih — sebagai artefak yang terstruktur dan boleh diaudit yang dipanggil Paket Keputusan. Tidak seperti log yang merekodkan apa yang berlaku, jejak keputusan merekodkan mengapa ia berlaku.
Bagaimana penjejakan keputusan berbeza daripada log atau kebolehan pengamatan?
Log merekodkan acara pelaksanaan (panggilan API, latensi, ralat). Alat pemantauan memantau kesihatan sistem. Penjejakan keputusan menangkap struktur normatif pemikiran — argumen mana yang menyokong atau menentang keputusan, bukti apa yang dikemukakan, dan rasional mana yang membawa kepada hasil. Ia adalah perbezaan antara mengetahui 'pinjaman diluluskan' dan mengetahui 'mengapa pinjaman ini diluluskan walaupun terdapat kebimbangan mengenai skor kredit.'
Apakah itu Paket Keputusan?
Paket Keputusan adalah artefak utama AIAgentree: rekod yang dimeterai dan tidak boleh diubah yang mengandungi proposisi (apa yang diputuskan), pokok hujah (alasan pro/con), tangkapan bukti (dibekukan pada waktu keputusan), rasional yang dipilih (hujah mana yang membawa kepada keputusan), dan penjejakan hasil (apa yang berlaku selepas itu). Ia adalah segala yang diperlukan oleh pengawal selia atau juruaudit untuk memahami dan mengulang keputusan.
Bagaimana penjejakan keputusan membantu dengan pematuhan Akta AI EU?
Artikel 12-14 Akta AI EU memerlukan sistem AI berisiko tinggi untuk menyimpan log yang membolehkan jejak keputusan. Jejak keputusan memenuhi keperluan ini dengan menangkap pemikiran terstruktur, asal usul bukti, tindakan pengawasan manusia, dan rekod hasil — dalam format yang boleh ditanya dan difahami oleh pengawal selia.
Apakah Tiga Mod Kepercayaan dalam tadbir urus AI?
Tiga Mod mewakili satu kemajuan: Mod 1 (Manusia dalam Lingkaran) di mana ejen membantu tetapi manusia membuat keputusan; Mod 2 (Manusia di atas Lingkaran) di mana ejen membuat keputusan dengan pengawasan manusia; Mod 3 (Autonomi Penuh) di mana ejen membuat keputusan dengan audit berkala. Kemajuan antara mod adalah berdasarkan bukti, dipacu oleh skor keyakinan, konsistensi preseden, dan penjejakan hasil.
Bagaimana preseden berfungsi dalam penjejakan keputusan?
Apabila keputusan dirakam sebagai artefak terstruktur, preseden muncul secara automatik. Keputusan masa lalu yang serupa boleh diambil semula mengikut kategori, rujukan entiti, tag hujah, atau sekatan dasar. Preseden ini menjadi nod hujah kelas pertama dalam keputusan baru — ia boleh dipetik, dicabar, atau diatasi seperti alasan lain. Memori institusi bertambah dengan setiap keputusan.
Berapa lama masa yang diambil untuk mengintegrasikan AIAgentree?
Anda boleh menyambung dengan tiga cara: melalui MCP sebagai alat asli ejen (tanpa SDK, tanpa pustaka), API REST (apa-apa bahasa, tanpa kebergantungan), atau SDK Python/TypeScript (kira-kira sepuluh baris, dengan pengeluaran automatik alasan). Seluruh kitaran hayat — mencipta jejak, merekod alasan, mengesahkan keputusan, dan segera menarik kembali Paket Keputusan — berfungsi hanya melalui MCP, dari hujung ke hujung, tanpa pustaka sama sekali. Tiada perjanjian perundingan selama 6 bulan; ia adalah lapisan infrastruktur yang anda tambahkan kepada tumpukan ejen sedia ada anda.
Topik Berkaitan
Artikel Berkaitan
GraphRAG untuk Keputusan AI: Mengapa Graf Mengatasi Carian Vektor untuk Memori Ejen
Vektor RAG ke atas log mengembalikan "sup kepingan" — serpihan teks yang terputus yang tidak menyentuh hujah balas, kelulusan, dan preseden yang menjadikan keputusan itu boleh dipertahankan. Apabila keputusan disimpan sebagai graf hujah normatif, pengambilan akan mengembalikan Pakej Keputusan yang terhad dan boleh diaudit sebagai ganti.
Artikel 6 Akta AI EU: Apa Maksud Klasifikasi Risiko Tinggi untuk Ejen AI Anda
Artikel 6 Akta AI EU menentukan sama ada sistem AI anda adalah "berisiko tinggi" — dan mencetuskan keperluan jejak audit yang wajib. Jika ejen anda membuat keputusan mengenai kredit, pekerjaan, pendidikan, atau penjagaan kesihatan, anda perlu memahami pengelasan Lampiran III sebelum Disember 2027.
Apakah Jejak Audit Keputusan?
Kewujudan keputusan manusia yang setara dengan resit AI: rekod lengkap dan boleh disemak tentang siapa yang memutuskan apa, dan mengapa.
Pasukan AIAgentree
Tadbir Urus AI
Pasukan AIAgentree sedang membina infrastruktur penjejakan keputusan untuk agen AI. Misi kami adalah untuk menjadikan pemikiran AI dapat dilihat, diaudit, dan diperbaiki.
Sedia untuk menjejaki keputusan AI anda?
Mulakan menangkap jejak keputusan hari ini. Tier percuma tersedia — tiada kad kredit diperlukan.
Mulakan Percubaan Percuma