chia317 wrote:例如,某個 AI Agent 幫公司選擇供應商、下訂單或付款。結果出錯時,大家可能只看到最後的結果,卻不知道:它使用了哪些資料?獲得了多大的權限?中途做過哪些判斷?是模型錯誤、資料錯誤,還是人類設定錯誤?...(恕刪) 這不就是AI Agent寫得不好的問題嘛!叫他條列清楚就完事了。
當然可以知道 AI agent 在做什麼,畢竟它就是個程式,這只看開發者要不要隱藏寫文章、做簡報、分析資料這些都只是從模型裡去撈它學習過的去拼湊出來,沒那麼難以預測現在 AI 就是填鴨式教育,餵它什麼知識就吐出什麼,如果它沒學過的硬要它給答案,就會胡言亂語