同一個問題,一週被問第五次。新人想知道請假怎麼簽、業務想確認某張舊報價單的折扣條件、客服想翻出三個月前那次客訴是怎麼處理的——答案明明都在公司某個檔案、某封信、某個人的腦袋裡,可是沒人找得到,最後又繞回來問你。
這不是哪個員工特別懶,而是公司的知識從來沒被整理成「問了就答」的樣子。它散在 Google 雲端硬碟、舊 ERP、LINE 群組對話、離職同事留下的 Excel 裡。企業內部 AI 助理,就是在這些散落的公司文件上面,蓋一層讓員工用講人話的方式提問、立刻拿到有依據答案的查詢介面。 員工不必再記得「那份文件放哪」,只要問「客戶 A 的付款條件是什麼」,它就從你餵進去的資料裡找出答案。
只是「要建一個」和「建得起來、員工真的會用、成本不爆」是兩回事。對中小企業主或扛這個案子的 IT 負責人來說,難的從來不是技術名詞,而是一連串決策——自己架還是接 API?該選哪種方案?先把哪些文件丟進去?這篇就站在你做決定的位置,把方案選型、成本帳和導入順序一關一關拆給你看。
企業內部 AI 助理在做什麼,跟一般 ChatGPT 有什麼差異
它做的事只有一件——拿你公司自己的資料回答你員工的問題。
這正是它和你平常用的 ChatGPT、Gemini 最大的分野。一般的通用 AI 知道全世界的公開知識,卻完全不認識你公司:它不知道你們的請假規定、不知道某個客戶的合約細節、更不可能告訴新人某台機器卡住該找誰。企業內部 AI 助理反過來,它對外面的世界懂得少一點沒關係,重點是它讀過你餵給它的那批公司文件,回答時是根據那批資料,而不是憑空生成。
技術上,這背後靠的是一套「先檢索、再生成」的機制——你提問時,系統先去你的知識庫裡撈出最相關的幾段資料,再讓語言模型根據這幾段內容組織出答案。好處是回答有所依據、查得到出處,比較不會像通用 AI 那樣一本正經地編。
對你來說,這帶來三件實際的好處。第一、重複問答大幅減少,HR、IT、資深員工不用一天到晚回同樣的問題。第二、新人上手變快,他不用四處問人,照著問就有標準答案。第三、知識變成公司資產而不是個人資產,某個關鍵員工離職時,他腦袋裡的經驗不會跟著消失——前提是那些經驗有被寫下來、餵進去。
要不要做這件事,多數公司其實已經有答案。真正卡住人的,是下一個問題。
自架、接 API、用低程式碼平台,這三條路該怎麼選
先給結論——對絕大多數中小企業,從低程式碼平台或 API 方案起步,幾乎都比一開始就自架划算。自架不是不能做,而是它的隱藏成本高到,除非你有很特殊的理由,否則不該是第一選項。
這三條路的差別,與其說是技術差別,不如說是「你想自己扛多少」的差別。
第一條路是自架(地端部署)。你在自己的伺服器上跑開源模型,所有資料、運算都留在公司內部,不出機房一步。它最大的價值是資料完全不外流,適合合約或法規明文要求「資料絕不能離開公司」的情況,例如某些金融、醫療、或客戶合約有嚴格保密條款的產業。代價是初期要買伺服器、要有技術團隊維護,模型更新、出狀況排查全得自己來,長期養護的人力成本是真正的大頭。
第二條路是接 API。你不自己養模型,而是直接呼叫雲端大模型的服務,按用量付費。它的好處是上手快、不用養硬體、模型永遠是最新版,運算規模可以隨用量彈性放大。代價是資料要送到雲端處理(這點選企業版方案、確認對方合約保證不拿你的資料去訓練,就能大幅降低疑慮),以及用量大的時候,按字數計費的帳單會持續累積。
第三條路是低程式碼平台(low-code)。這是介於前兩者之間、也是最適合多數中小企業的起點。這類工具把模型、資料上傳、查詢介面都包成現成的模組,你用拖拉的方式就能把公司文件串成一個能問答的機器人,幾乎不用寫程式。它背後通常還是接 API,但你不必碰那些技術細節。代價是彈性和掌控度比自架低,平台支援什麼你才能做什麼。
把三條路擺在一起看會更清楚:
| 比較項目 | 自架(地端) | 接 API | 低程式碼平台 |
|---|---|---|---|
| 適合誰 | 資料絕不能外流、有技術團隊 | 想彈性放大、不想養硬體 | 想快速試水溫的中小企業 |
| 技術門檻 | 高,要會部署與維運 | 中,要會串接 API | 低,拖拉就能上手 |
| 資料位置 | 完全留在公司內部 | 送到雲端處理 | 多半送到雲端處理 |
| 初期投入 | 高(伺服器+人力) | 低 | 低 |
| 主要成本 | 硬體+維運人力 | 按用量計費 | 平台月費+用量 |
| 模型更新 | 自己負責 | 自動最新 | 自動最新 |
選哪一條,其實可以濃縮成兩個問題。一個是「你們的資料有沒有合規或合約上的硬性規定,不准送到外部?」如果有,那自架可能是唯一解,貴也得做;如果沒有,就別急著扛這個成本。另一個是「你們團隊有沒有人能長期維護一套系統?」沒有的話,低程式碼或託管型的 API 方案,會讓你少踩很多坑。
至於用量到底要多大才值得自架?業界普遍的觀察是,要等到每天的查詢量級來到數萬次以上,或是要頻繁處理長篇法律合約這種超大文件,自架攤提下來的單次成本才會開始低於 API。中小企業的內部問答,多半遠遠到不了那個量,這也是為什麼「先別自架」對你會是務實的建議。
方案選好了,下一個現實問題馬上跟著來——這筆錢到底要花多少。
一套內部 AI 助理,實際要花多少錢
短答是,從一年幾萬到上百萬都有可能,差別在規模和你選哪條路。但對中小企業來說,入門的數字其實比多數人想像的低。
先說最小規模的起步。如果你走低程式碼或 API 路線、只串一個知識庫、用現成介面,月成本可以壓在很低的範圍。API 的費用是按用量計費,依呼叫量和選用的模型,每月大約落在數千到數萬元不等;雲端伺服器若需要,每月約三千到三萬元,看運算需求而定。一家十來人的公司,只做內部問答這一件事,一年的軟體與服務成本控制在十萬元以內,是完全做得到的。
但這裡有個多數人會低估的陷阱——真正吃掉預算的,往往不是軟體訂閱費,而是把資料整理到 AI 能用的程度。你的文件大多散在 Excel、舊系統甚至紙本裡,要清洗、統一格式、切分整理,這部分常常佔掉整個專案六到八成的時間。業界的經驗是,資料準備這一段可能花上三到六個月,成本從二十萬到八十萬都有可能。換句話說,你看到的工具報價只是冰山一角,水面下還有資料整理、員工教育訓練、流程調整這些「隱藏成本」。
所以評估的時候,別只盯著月費這個數字,要算的是總體擁有成本——把幾年下來的初期投入、營運費用、加上這些隱藏支出全部攤開來看。算法不複雜,幾年的總成本就等於一次性的初期投入,加上每年營運成本乘以年數,再加上資料整理、試錯這些隱藏成本。一家中小企業若初期投入五十萬、每年營運三十萬、隱藏成本抓二十萬,五年攤下來大約是兩百二十萬——但這是把整套 AI 應用做完整的數字,如果只是先建一個內部問答助理,起步遠用不到這麼多。
控制成本最務實的做法,是分階段走。先用幾萬塊做一個小範圍的概念驗證:挑一個重複性最高、風險最低的場景(例如就先做「內部規章問答」),用低程式碼平台快速搭一個雛形,看員工買不買單。驗證有效,再逐步擴大到更多部門、更多文件。這種「小步快跑」比一次砸大錢安全得多,因為導入 AI 第一次很少一次到位,你很可能試了 A 方案發現不合用、換成 B,這些試錯成本本來就該預留。
成本心裡有底了,接下來是整個專案最關鍵、也最容易被跳過的一步——餵資料。
哪些公司文件該先餵進去,哪些先別碰
原則只有一句——先餵「結構清楚、會被反覆查、答錯了影響不大」的文件,把敏感、易過期、格式雜亂的留到後面——這一步直接決定你的 AI 助理是好用還是雞肋。
很多人卡在這裡,是因為想一次把所有檔案都丟進去。先別。資料的品質直接決定答案的品質,「垃圾進、垃圾出」在 AI 系統裡一樣成立。一份過時的舊版請假規定混在裡面,AI 就會理直氣壯地告訴新人錯的天數。所以與其貪多,不如先挑對。
判斷哪些先餵,可以照這四個問題依序走一遍:
- 這份文件結構清不清楚? FAQ、SOP、產品規格表、操作手冊這種有明確格式、條列分明的,AI 最容易讀懂、答得最準,第一批就餵它。客服對話紀錄、會議錄音、雜亂的郵件往來這種沒固定格式的,雖然也有價值,但先放後面。
- 這份文件會不會被反覆查? 員工每天都在問的東西——請假流程、報帳規定、常見客訴的處理方式、產品常見問題——才是 AI 助理發揮價值的地方。一年用不到一次的東西,先別佔位。
- 這份資料新不新、會不會常變? 餵進去之前要先確認是最新版,把過時的舊版本清掉。同時想清楚這份資料多久會變一次,因為會變的東西,後面你得有人負責定期更新,不然 AI 就會拿舊答案誤導人。
- 這份資料敏感不敏感? 員工個資、薪資明細、機密合約這類,要嘛先做好權限分層、要嘛這個階段先別放。尤其如果你走的是把資料送到雲端的 API 或低程式碼方案,敏感資料更要謹慎,先從「就算被多看一眼也沒關係」的內部公開文件開始。
照這四關篩完,你的「第一批名單」通常會長這樣:內部規章、SOP、常見問題集、產品說明文件——結構清楚、高頻使用、低敏感。先把這一批做好、讓員工用順、建立信任,再分批把客服紀錄、專案報告、合約這些比較棘手的資料補進去。
整理的時候還有個小細節值得做:把每份文件加上來源、章節、日期這類標籤。這樣 AI 答完之後,你能追溯它是根據哪份文件、哪個版本回答的,出錯時也好回頭修。
文件選好、整理好,剩下的就是把它接起來、讓員工開始用——以及確保它用得久。
系統上線之後,怎麼讓員工願意用、答案不亂掉
建好只是開始,能不能活下來,看的是上線之後的兩件事——員工願不願意用、答案準不準。
先講準不準。沒有一套 AI 助理是一上線就完美的,你需要幫它準備一份「考卷」。上線前,自己先用各種問法去測它:開放式的問題問得到答案嗎?打錯字、用模糊的講法(「那個請假的東西」「報帳卡住了」)它聽不聽得懂?把它的回答跟正確答案比對,找出答錯、答得太籠統、或開始亂編的情況,回頭去修對應的資料。這一輪人工驗測別省,它決定了員工對這套系統的第一印象。
再來是讓員工願意用。再聰明的系統,員工不用就等於沒有。這裡有兩個關鍵。一個是把入口放在員工本來就在用的地方——別讓他為了問一個問題,還要特地開一個新網站、再登入一次。能直接在公司常用的通訊軟體裡呼叫它來問,使用率會差很多。另一個是讓 AI 在不確定時誠實說「查無資料」,而不是硬掰。員工被唬過一兩次,就再也不信任它了;反過來,一個會老實承認「這個我沒查到」的助理,反而更讓人放心去用。
最後,這套系統需要有人長期顧。指定一個人定期更新內容、審核新資料;讓員工能對答案回饋對錯、標記缺漏;定期看看哪些問題系統常常答不出來,那通常就是知識庫還缺的那一塊,補上去。知識庫不是建完就結束,它會隨著你持續餵養越來越完整,慢慢長成公司真正的第二個大腦。
別忘了,這整件事的成敗,從來不只是技術問題,更是人的問題。很多導入失敗的案例,敗筆不在 AI 不夠聰明,而在沒人維護、員工抗拒、或一開始就沒想清楚要解決哪個具體問題。把這幾關顧好,一套幫員工省下重複找答案時間的內部 AI 助理,才會真的長在公司裡,而不是上線三個月就沒人再打開。
