老宅男-克里夫的 AI 教學站

RAG 是什麼？讓 AI 照著你的文件回答

你有沒有遇過這種情況：問 AI 一個很專業的問題，它回答得頭頭是道，但內容根本是編的？這叫「幻覺」，是大型語言模型的天生毛病——它擅長把話說得像真的，但不保證是真的。

RAG 的原理：先查資料，再回答

RAG（檢索增強生成）的做法很直覺：把你的文件（手冊、論文、客服 QA）先切成小段、轉成向量存進資料庫。使用者提問時，系統先去資料庫找出最相關的幾段，把原文貼給 AI 當參考資料，AI 再根據這些資料回答。查不到就說不知道，而不是硬編。

什麼時候該用 RAG

• 答案必須來自「你的」資料，而不是 AI 的訓練記憶（例如公司內規、最新產品規格）。
• 資料會一直更新，不想每次都重新訓練模型。
• 回答需要附上出處，方便查證。

動手玩玩看

不用花錢也能體驗：用免費的 Colab，載入一個小模型，配上簡單的向量資料庫，幾十行程式就能做出「上傳 PDF、用問的找答案」的小工具。重點不是程式多厲害，而是親手驗證「有查資料」跟「沒查資料」的回答差多少——差非常多。

📺 延伸觀看：LLM 本地模型進階學習 01｜免費 Colab 做知識庫問答（YouTube「老宅男與米格魯」頻道）

← 回文章列表