AI 名詞聽不懂 · 工程師和 AI 講的話,老闆聽得懂就夠用
AI 常見名詞(二):幻覺、記憶、代理人、工具
AI 為什麼會亂講、怎麼記得事、怎麼自己動手。
幻覺是 AI 把不知道的事講得很有把握;記憶是另外存起來、下次再讀給它看的筆記;代理人是會自己拆步驟、自己用工具去做事的 AI;工具是你允許它碰的按鈕。
老闆的痛
聽說 AI 會「幻覺」、會「記憶」、還能當「代理人」自己做事。到底哪些是真的、哪些要小心,沒人講清楚,不敢放手讓它做。
我們怎麼做
幻覺是 AI 把不知道的事講得很有把握;記憶是另外存起來、下次再讀給它看的筆記;代理人是會自己拆步驟、自己用工具去做事的 AI;工具是你允許它碰的按鈕。四個合起來,就是「AI 員工」能做什麼、要怎麼管。
你照著做
- 數字和引用一律要它附來源
- 重要的規矩寫進記憶檔
- 代理人先給讀的權限,再給寫的
- 會對外的工具一定要人按同意
幻覺(Hallucination)
AI 不知道答案時,常常不會說不知道,而是編一個聽起來很合理的答案。最危險的是數字、日期、法規、引用。我們的規矩是:老闆看過還不能發,對外的數字一定要找到原始出處核對過,並附一張查核清單。
記憶(Memory)
AI 本身不會記得上一次的對話。所謂記憶,是把重要的事寫成筆記檔,每次開新對話時讀給它看。我們把老闆定過的規矩、踩過的坑、各系統的狀況都寫成一則一則的筆記,AI 開工前先讀,才不會同一個錯犯第二次。記的時候有一條鐵律:老闆說的話要照原文記下,AI 自己的建議要分開寫。
代理人(Agent)
不只回答問題,而是會自己拆步驟、自己查資料、自己動手做到完的 AI。像我們的辦公室,每一類工作都有一位 AI 職長負責,接到交辦就自己做,做完結案、寫紀錄。代理人好用的前提是:權限給得剛好,什麼事要回頭問人寫清楚。
工具(Tool)與 MCP
工具是你開放給 AI 的動作,例如「查週報」「寄信」「發貼文」。MCP 是一種讓 AI 接上各種工具的共通規格,像是萬用插座。工具分兩種:只讀的(查資料)可以放心給;會對外的(寄出、發布、付款)一定要設成要人按同意才會執行。
一句話記住
幻覺要查證,記憶要寫下來,代理人要給剛好的權限,工具要分讀和寫。
常見問題
- AI 常見名詞(二):幻覺、記憶、代理人、工具,是要解決什麼問題?
- 聽說 AI 會「幻覺」、會「記憶」、還能當「代理人」自己做事。到底哪些是真的、哪些要小心,沒人講清楚,不敢放手讓它做。
- 具體怎麼做?
- 幻覺是 AI 把不知道的事講得很有把握;記憶是另外存起來、下次再讀給它看的筆記;代理人是會自己拆步驟、自己用工具去做事的 AI;工具是你允許它碰的按鈕。四個合起來,就是「AI 員工」能做什麼、要怎麼管。
- 第一步要做什麼?
- 先「數字和引用一律要它附來源」。完整順序是:數字和引用一律要它附來源、重要的規矩寫進記憶檔、代理人先給讀的權限,再給寫的、會對外的工具一定要人按同意。