不只你那句話 —— 你給的背景,決定它答得準不準
大家好,歡迎回到《從問 AI 到用 Agent》。上一集我們講了 prompt,也就是把「那句話」講清楚。但你有沒有遇過:話明明講得很清楚了,AI 還是答得零零落落?那通常不是你 prompt 的問題,是它缺了另一樣東西——背景資訊,英文叫 context。這一集我用「帶一個新來的助理」當例子,把 context 是什麼、為什麼它常常才是關鍵,講清楚。
先想像一個畫面。你請到一個很聰明的新助理,能力很強、反應很快。但他第一天上班,對你的公司、你的客戶、你過去怎麼做事,通通不知道。這時候你丟一句「幫我處理一下這個客戶」,他能處理好嗎?不可能。不是他笨,是他手邊沒有任何背景。AI 就是這個超級聰明、但每天都是「第一天上班」的助理。你給它多少背景,它就能做到多好。
第一段,context 到底是什麼。如果說 prompt 是「你交辦的那句話」,那 context 就是「AI 手邊看得到的所有資訊」。它不只是你這一句,還包括你貼給它的規格、你給的範例、你附上的檔案、甚至你們前面聊過的對話。這些全部加起來,就是 context,就是它做這件事時「眼前攤開的所有材料」。prompt 是指令,context 是它做這件事時能參考的一整張桌面。
第二段,它怎麼運作,這裡有個最多人誤會的地方。AI 一次只看得到一個範圍,這個範圍有個名字,叫 context window,你可以想成它的「視線範圍」或「工作桌面」。擺在桌面上的,它看得到;沒擺上去的,它就完全不知道。這代表兩件很重要的事:第一,它不會自動記得你上次跟它講過什麼;第二,它讀不到你電腦裡的檔案,除非你把內容貼進去。它不是不願意,是那些東西根本不在它的桌面上。
那如果桌面上少了關鍵資料,會怎樣?這是 AI 一個很有名、也很危險的毛病。它通常不會老實跟你說「這個我不知道」,反而會用一段「聽起來很合理」的話,把空缺補起來。名字、數字、來源,它都能編得煞有其事。這個現象有個名字,叫幻覺。它不是故意騙你,是它被訓練成「要回答」,資訊不夠就用猜的填。而防止幻覺最實在的辦法,不是叫它別亂講,是把它該看的資料,好好擺到它桌面上。
第三段,把脈絡給齊,好處是什麼。三個。第一,少解釋:你不用每次都從頭把來龍去脈講一遍,資料在桌面上,它自己會看。第二,少幻覺:它手邊有真的依據,就不需要用編的。第三,也是最實際的,答得準:它是照你「真實的狀況」在回答,而不是照它想像的通用情況。很多人一直在調 prompt、換模型,其實真正卡住的,是沒把背景資料餵夠。context,常常才是那個決定成敗的關鍵。
第四段,實際怎麼餵 context,記四招。第一,貼規格:把欄位、格式、你的標準長什麼樣,寫給它。第二,給範例:給它一兩個「對的樣子」,它照著模仿,比你講一堆規則還準。第三,講限制:什麼不能碰、什麼要避開、有什麼禁忌。第四,附相關檔:把它該讀的那份內容,直接貼進去,別指望它自己會知道。這四招,就是把新助理需要的資料夾,一份一份放到他桌上。
我們把它變具體。只問一句:「這封客訴怎麼回?」——AI 只能給你一個網路上到處都有的通用罐頭回覆。但如果你附上背景:這張訂單的實際狀況、你們公司的退款政策、還有過去類似客訴你們是怎麼回的——同一個 AI,這次給你的,就會是一個「真的像你們公司會發出去」的回覆。差別不在 AI 聰不聰明,在你有沒有把它該知道的背景,擺到它眼前。
最後一個提醒,免得你矯枉過正。context 不是「塞越多越好」。如果你把一大堆不相關的東西全倒進去,反而會干擾它,讓它抓不到重點,甚至被無關的內容帶偏。就像你給新助理資料,是給他「這件事需要的那幾份」,不是把整個檔案室搬到他桌上。所以重點是「相關」,不是「大量」。給對的、給夠的,比給多的重要。這個分寸,是 context 這門功夫真正的細節。
這集帶走一句話:AI 答不準,常常不是它笨,是你沒把它該看的東西,擺到它眼前。記住 prompt 跟 context 的差別:prompt 是你交辦的那句話,context 是它做這件事時,眼前攤開的整張桌面。下次它答歪了、或開始一本正經地亂編,先別急,回頭想一想:它需要的背景資料,我給夠了嗎?把桌面擺好,聰明的助理才發揮得出來。下一集,我們讓 AI 不只是回答,而是自己動手一步步做到好,那個叫 loop。我們下次見。