এলএলএম লগিং প্রম্পট এবং সম্পূর্ণতা ধারণ করে - যা ঘটেছে তার বর্ণনামূলক তথ্য। সিদ্ধান্ত ট্রেসিং ধারণ করে কেন সিদ্ধান্ত নেওয়া হয়েছিল - প্রো/কন যুক্তি, পূর্বসূরি এবং যুক্তি সহ কাঠামোগত যুক্তি। লগিং ডিবাগিং সক্ষম করে। সিদ্ধান্ত ট্রেসিং প্রতিষ্ঠানিক স্মৃতি, পূর্বসূরি অনুসন্ধান এবং ব্যাখ্যাযোগ্য এআই সক্ষম করে। এআই এজেন্ট্রি সেই সিদ্ধান্ত ট্রেসিং স্তর প্রদান করে যা লগিং প্রতিস্থাপন করতে পারে না।
TL;DR: লগিং মডেলটি কী বলেছে তা ধারণ করে। সিদ্ধান্ত ট্রেসিং ধারণ করে কেন সিদ্ধান্ত নেওয়া হয়েছিল। শুধুমাত্র একটি পূর্বসূরি এবং প্রতিষ্ঠানিক স্মৃতি সক্ষম করে।
লগিং প্রয়োজনীয় কিন্তু অপ্রতুল। এখানে এটি কী মিস করছে।
বর্ণনামূলক: "এটি ঘটেছে"
// Log entry
{
"prompt": "Should we approve...",
"completion": "Yes, approved...",
"tokens": 847,
"latency_ms": 1234
}
আপনি এই লগটি খুঁজে পেতে পারেন। কিন্তু আপনি কীভাবে অনুরূপ মামলাগুলি সিদ্ধান্ত নিয়েছিলেন তা খুঁজে পেতে পারেন?
মানদণ্ড: "এটি সমর্থন/বিরোধিতা করে কারণ..."
// Decision trace
{
"decision": "APPROVED",
"pro_arguments": [...],
"con_arguments": [...],
"precedent_cited": "D-1234",
"rationale_ids": [...]
}
যুক্তি প্যাটার্ন দ্বারা অনুসন্ধানযোগ্য। পূর্বসূরি হিসাবে উদ্ধৃতযোগ্য।
| দিক | এলএলএম লগিং | সিদ্ধান্ত ট্রেসিং |
|---|---|---|
| এটি কী ধারণ করে | প্রম্পট, সম্পূর্ণতা, টোকেন, বিলম্ব | যুক্তি কাঠামো, পূর্বসূরি, যুক্তি |
| ডেটা কাঠামো | অসংগঠিত টেক্সট, সমতল মেটাডেটা | গঠিত যুক্তি গাছ, নরমেটিভ সম্পর্ক |
| কোয়েরি সক্ষমতা | 'X ধারণকারী লগ খুঁজুন' | 'যুক্তি প্যাটার্নের ভিত্তিতে Y এর সাথে সাদৃশ্যপূর্ণ সিদ্ধান্ত খুঁজুন' |
| পূর্বসূরিকে সমর্থন করে | ||
| প্রতিষ্ঠানিক স্মৃতি | ||
| ব্যাখ্যাযোগ্যতা | মডেল কী বলেছে তা দেখায় | কেন সিদ্ধান্ত নেওয়া হয়েছিল তা দেখায় |
| অনুগত মান | ঘটনার অডিট ট্রেইল | যুক্তির অডিট ট্রেইল |
"আমরা কিভাবে অনুরূপ রিফান্ডের অনুরোধগুলি পরিচালনা করেছি?" যুক্তির কাঠামো প্রয়োজন, টেক্সট অনুসন্ধান নয়। লগগুলি মেলানো শব্দ খুঁজে পায়। ট্রেসগুলি মেলানো প্যাটার্ন খুঁজে পায়।
জ্ঞান যা সময়ের সাথে সাথে বাড়ে তা কাঠামোবদ্ধ সিদ্ধান্ত প্রয়োজন। লগগুলি প্রত্নতত্ত্ব। ট্রেসগুলি স্থাপত্য।
এজেন্টগুলি যারা অতীতের সিদ্ধান্ত উল্লেখ করে তাদের কাঠামোবদ্ধ প্রিসিডেন্ট প্রয়োজন। "আমরা অনুরূপ শর্তে D-1234 অনুমোদন করেছি" সিদ্ধান্তের ট্রেস প্রয়োজন।
"এআই X কেন সিদ্ধান্ত নিল?" কাঠামোবদ্ধ যুক্তির প্রয়োজন। চিন্তার শৃঙ্খলা পরবর্তী। সিদ্ধান্তের ট্রেসগুলি ভিত্তি সত্য।
কোন যুক্তির প্যাটার্নগুলি ভাল ফলাফলে নিয়ে যায় তা ট্র্যাক করা কাঠামো প্রয়োজন। লগগুলি যুক্তিগুলিকে ফলাফলের সাথে সম্পর্কিত করতে পারে না।
মানব-ইন-লুপ থেকে পূর্ণ স্বায়ত্তশাসনে যাওয়ার জন্য প্রমাণ প্রয়োজন। সিদ্ধান্তের ট্রেসগুলি সিদ্ধান্তের গুণমান প্রমাণ করে। লগগুলি কার্যকরীতা প্রমাণ করে।
এলএলএম লগিং প্রম্পট, সম্পূর্ণতা এবং মেটাডেটা (টোকেন, লেটেন্সি) ধারণ করে। সিদ্ধান্ত ট্রেসিং কাঠামোগত যুক্তি ধারণ করে: পক্ষে/বিপক্ষে যুক্তি, উল্লেখিত পূর্বসূরি, আত্মবিশ্বাসের স্তর এবং যে যুক্তি সিদ্ধান্তকে সমর্থন করেছে। লগিং বর্ণনামূলক; ট্রেসিং নৈতিক।
প্রম্পট/আউটপুট লগগুলি যুক্তির কাঠামো ধারণ করে না। আপনি কাঁচা টেক্সট লগ থেকে 'আমরা কীভাবে অনুরূপ কেস পরিচালনা করেছি?' বা 'কোন পূর্বসূরি এই সিদ্ধান্তকে সমর্থন করে?' প্রশ্ন করতে পারবেন না। সিদ্ধান্ত ট্রেসিং কাঠামোগত শিল্পকর্ম তৈরি করে যা পূর্বসূরি অনুসন্ধান এবং প্রতিষ্ঠানিক স্মৃতিকে সক্ষম করে।
না। চিন্তার শৃঙ্খলা মডেলের দ্বারা পোস্ট-হক তৈরি হয় — এটি অভ্যন্তরীণ গণনার প্রতি বিশ্বস্ত নয়। দুটি প্রম্পট ভিন্ন 'ব্যাখ্যা' সহ একই উত্তর উৎপন্ন করতে পারে। সিদ্ধান্ত ট্রেসিং সিদ্ধান্তের পয়েন্টে কাঠামোগত শিল্পকর্ম ধারণ করে, পুনর্গঠিত বর্ণনা নয়।
কার্যকরভাবে নয়। পূর্বসূরি নৈতিক সম্পর্ক (সমর্থন/বিরোধিতা) প্রয়োজন, বর্ণনামূলক সম্পর্ক (ধারণ/উল্লেখ) নয়। লগ-ভিত্তিক অনুসন্ধান অনুরূপ টেক্সট খুঁজে; সিদ্ধান্ত ট্রেসিং অনুরূপ যুক্তির প্যাটার্ন খুঁজে। পার্থক্য মৌলিক।
হ্যাঁ। ডিবাগিং, খরচ ট্র্যাকিং এবং সম্মতি জন্য আপনার লগিং রাখুন। ব্যাখ্যা, পূর্বসূরি এবং প্রতিষ্ঠানিক স্মৃতির জন্য সিদ্ধান্ত ট্রেসিং যোগ করুন। তারা ভিন্ন উদ্দেশ্যে কাজ করে এবং একসাথে কাজ করে।
নিয়মাবলী ক্রমবর্ধমানভাবে এআই সিদ্ধান্ত ব্যাখ্যা করার প্রয়োজন। লগগুলি দেখায় মডেলটি কী বলেছে। সিদ্ধান্তের ট্রেসগুলি দেখায় কেন সিদ্ধান্ত নেওয়া হয়েছিল, কোন বিকল্পগুলি বিবেচনা করা হয়েছিল এবং কোন প্রমাণ এটি সমর্থন করেছিল। এটি auditors এবং regulators এর আসল প্রয়োজন।
আপনার এআই কেন সিদ্ধান্ত নেয় তা ধারণ করুন, শুধু এটি কী বলে তা নয়।