AI API 是什麼？AI API 是模型供應商開放給程式呼叫的介面：自家的官網、後台或客服系統把指令與資料用 HTTP 請求送出，模型處理後回傳文字或結構化資料。以 OpenAI 與 Google 的 API 為例，費用依輸入與輸出的權杖（token）數量計算。它和員工打開 AI 工具聊天的差別，在於 AI 被嵌進既有流程：表單進來自動分類、客服回覆先有草稿、內部文件可以直接查詢。企業要把關的是金鑰只放在伺服器端、送出的資料符合供應商資料政策與公司規範，以及對外內容保留人工審核。
AI API 和一般 API 有什麼不同
API 的基本概念是程式之間約定好的請求與回應，可參考API的意思與運作方式。一般的 API 依固定規則查詢或寫入資料，AI API 則是請模型「生成」內容，因此多了幾個要注意的地方：
- 結果可能有錯：模型可能產生看似合理但錯誤的內容，系統要能檢查或交給人確認。
- 依用量計費：送出越多資料、要求越長的回覆，用量越高。
- 有頻率限制：以 OpenAI 為例，限制以每分鐘請求數、每分鐘權杖數等指標衡量。
- 模型會汰換：供應商會淘汰舊模型，程式需要定期更新與重新測試。
一次呼叫的流程：請求、回應與權杖
- 使用者在網站或後台送出內容，例如一則客服提問。
- 伺服器把系統指示、參考資料與使用者內容組成請求，附上金鑰送到 AI API；OpenAI 的文件說明，金鑰以 HTTP 的 Authorization 標頭傳送。
- 模型生成回覆，連同這次用掉的權杖數一起回傳。
- 伺服器檢查回覆格式與內容，存進資料庫或顯示給使用者。
權杖是模型處理文字的單位，可以是一個字元、單字的一部分或整個單字。OpenAI 說明，同一段文字的權杖數可能因模型、編碼與語言而不同，輸入與輸出的價格也可能不同。估算費用時，用實際的中文樣本試跑，記錄每次的輸入與輸出權杖數，再乘上預估的呼叫次數。
企業常見的四種應用
| 應用 | 系統做的事 | AI 負責 | 人要把關 |
|---|---|---|---|
| 客服回覆草稿 | 收到提問後呼叫 API，草稿放進客服後台 | 依知識庫擬稿 | 價格、退換貨與承諾事項 |
| 文件摘要 | 上傳合約或報告後產生摘要 | 擷取重點 | 關鍵條款與數字 |
| 表單分類 | 官網表單送出後自動標記類別與負責人 | 判斷詢問類型 | 分錯類別時的修正方式 |
| 內部知識查詢 | 員工在內部系統提問 | 依規章與手冊回答並附出處 | 資料是否為新版 |
這四種應用的共同點，是 AI 產出先經過系統或人，再進到客戶或正式紀錄。
串接架構：金鑰、自家資料與人工審核
金鑰只放在伺服器端
OpenAI 明確提醒不要把金鑰放在瀏覽器或行動 App 這類用戶端程式，應該由自己的後端伺服器轉送請求。金鑰的申請、權限與外洩處理，可參考API Key 的申請與保管。
讓模型依自家資料回答
模型的訓練資料裡沒有你的產品手冊與內部規章。一種做法是先從自家資料找出相關段落，再連同問題一起送給模型。以 OpenAI 的檔案搜尋工具為例，模型可以從上傳檔案建立的知識庫中，用語意與關鍵字搜尋擷取資訊，回覆會附上檔案引用，方便人工核對出處。
要求固定格式，再寫進系統
要把結果寫進資料庫時，可以要求模型依 JSON 結構描述輸出。OpenAI 的結構化輸出功能可確保回應符合你定義的結構，但模型拒絕回答或回應未完整產生時要另外處理，程式也要檢查欄位值是否合理。
保留人工審核
對外發布、寄送給客戶或會改動資料的動作，先進入待審清單，由負責人確認後才執行。
資料政策：送出的資料會怎麼被處理
資料是否用於訓練、保留多久，依供應商、方案與設定而定。以下整理官方說明：
- OpenAI：API 預設不以商業資料訓練模型；為提供服務與辨識濫用，輸入與輸出可能保留至多三十天，符合條件的用途可申請零資料保留。
- Google Gemini API：免費服務的內容會用於改善產品，人工審查員可能讀取，官方要求不要提交敏感、機密或個人資訊；付費服務則不用提示與回應改善產品。
- Microsoft Foundry：以 Azure 直接銷售的模型為例，提示與輸出不提供給其他客戶與 OpenAI，也不用來改進模型；濫用監控的人工審查員，只有在資料被系統標記，或屬於潛在濫用的使用模式時才能存取。
送出的資料若含客戶個資，資料傳到哪裡處理、是否跨境，也要另外評估，以主管機關公告或專業意見為準。
提示注入：串接 AI 時要防的資安風險
OWASP（Open Worldwide Application Security Project）把提示注入列為大型語言模型應用的風險：使用者輸入，或模型讀到的網頁、檔案中夾帶的指令，可能改變模型的行為。OWASP 也指出，目前還不確定是否有萬無一失的防範方法，建議用以下做法降低影響：
- 讓應用程式使用自己的 API 金鑰或存取權杖，只給必要的權限，重要動作由程式碼執行，而不是交給模型決定。
- 用程式驗證輸出格式，並過濾輸入與輸出。
- 高風險動作要經人工核准。
- 把外部內容分開並清楚標示，上線前做對抗測試。
上線後的維運重點
- 頻率限制：遇到暫時性的頻率限制錯誤時，OpenAI 建議有 Retry-After 標頭就依其指示等待，沒有時再以指數退避重試，並限制重試次數；額度或帳單問題則無法靠重試解決。
- 模型汰換：OpenAI 會以電子郵件與文件提前通知淘汰；Gemini API 建議正式環境使用特定的穩定版。換模型前，用同一組樣本重測，選模型的考量可參考AI模型的類型與選擇。
- 用量與費用：設定用量提醒，定期檢查異常呼叫並輪替金鑰。
- 紀錄：保存請求時間、使用的模型與審核結果，出問題時才查得到原因。
常見問題
AI API 和 ChatGPT 網頁版有什麼不同？
網頁版是給人直接對話的產品；API 讓你的系統自動呼叫模型，把結果放進自己的流程。兩者的資料政策與計費方式不同，要分別看各自的條款。
串接AI API一定要工程師嗎？
測試提示可以由業務人員參與，但要接進官網或後台，仍需工程師處理金鑰保管、錯誤處理、權限與資料寫入，並在上線前完成測試。
AI API 的費用怎麼估？
用實際樣本試跑，記錄每次的輸入與輸出權杖數，乘上預估的呼叫次數，再對照供應商當下的價目表。上線後設定用量提醒，定期比對實際用量。
送到AI API的資料會被拿去訓練嗎？
依供應商與方案而定。例如 OpenAI 的 API 預設不用於訓練，Google Gemini API 的免費服務則會用提交內容改善產品，串接前要先讀清楚條款。
AI回答錯誤時，系統要怎麼處理？
在流程中設計檢查點：格式不符就重試或改由人工處理，對外內容先進待審清單，並保留紀錄，方便調整提示與參考資料。
本文由京采數位科技整理。我們自 2005 年起提供官網設計、系統開發與 Google SEO 服務，實際案例可見成果與案例。
想直接討論你自己的網站狀況，或需要一份初步的搜尋機會評估？
相關主題
下一步
建議先挑一項流程，例如官網表單分類或客服回覆草稿，整理要給模型的參考資料與人工審核點。京采的網頁設計服務可以協助需求釐清、整理各家 API 的資料政策供你評估，並開發官網、後台與 AI API 之間的串接，歡迎與我們聯繫討論。
