AI 影像辨識AI 影像辨識

AI 影像辨識準確率應該如何評估?

AJ

技術總監・專長:AI 影像辨識與模型訓練、企業私有 AI 引擎導入、ERP / IoT / POS 系統整合、雲端架構與數位轉型規劃

壹立方數碼技術總監,累積 20 年以上系統開發與整合經驗,主導 500+ 專案導入,負責 AIAcVision 影像辨識與 CubeBrain 立方智腦的架構設計、資料治理與上線維運。

技術審閱:壹立方數碼 系統整合團隊(ERP / IoT / POS 系統整合團隊)

發布日期 ・最後實質更新 ・閱讀時間約 8 分鐘

直接回答

評估 AI 影像辨識效果不能只看整體 accuracy,應搭配 precision、recall、F1-score 等指標,並依實際場景權衡漏檢(false negative)與誤報(false positive)造成的不同營運影響。

名詞定義

Precision(精確率)
模型判斷為正例(例如判定為瑕疵)的樣本中,實際確實為正例的比例,反映誤報的多寡。
Recall(召回率)
所有實際為正例的樣本中,被模型正確判斷出來的比例,反映漏檢的多寡。
IoU(交並比)
在物件偵測或分割任務中,預測框與實際標註框重疊區域佔兩者聯集區域的比例,用來衡量定位準確度。

為什麼只看 accuracy 會誤導判斷

當正常樣本遠多於瑕疵樣本時,即使模型把所有瑕疵都判斷成正常,整體 accuracy 數字仍可能很高,因為多數樣本本來就是正常品。這種類別不平衡的情境在瑕疵檢測中相當常見,單看 accuracy 容易讓人誤以為模型表現良好。

因此評估時應改看模型在少數類別(例如瑕疵類別)上的表現,搭配 precision 與 recall 一起檢視,才能反映模型真正的判斷能力。

precision、recall、F1、mAP、IoU 各自解決什麼問題

precision 與 recall 分別對應誤報與漏檢兩種不同的錯誤型態,F1-score 則是兩者的調和平均,用於需要同時兼顾兩者時的綜合參考。

在物件偵測任務中,mAP(mean Average Precision)用來綜合評估模型在不同信心門檻下的偵測表現,IoU 則用來評估偵測框位置的準確程度,兩者搭配使用能更完整地反映偵測型任務的效果。

漏檢與誤報的營運成本通常不對等

漏檢(false negative)代表本應被判定為瑕疵的產品被放行,可能造成後續品質事故或客訴;誤報(false positive)則代表正常品被誤判為瑕疵,會增加人工複檢或報廢的成本。

這兩種錯誤在不同產業與產線的可接受程度不同,多數產線案例會先與品保單位討論並設定可接受的漏檢與誤報上限,再依此調整模型的判斷門檻,而不是單純追求最高的整體準確率。

驗證集分布要貼近產線實際狀況

如果驗證集的瑕疵比例、光線條件或產品型號分布與產線實際狀況差異很大,離線測出的指標就無法反映上線後的真實表現。建議驗證集的抽樣方式盡量模擬產線實際的良率與瑕疵型態比例。

離線指標與現場指標為何會出現落差

離線驗證通常在固定資料集上進行,而現場環境會有取像條件微幅波動、新型態瑕疵出現、產品批次差異等因素,這些都可能造成現場實際表現與離線指標有落差。建議上線初期安排一段時間的人工覆核與現場指標追蹤,逐步確認模型在實際環境下的穩定度。

執行步驟

  1. 1確認驗證集分布與產線一致

    檢查驗證集的瑕疵比例、產品型號與拍攝條件是否貼近實際產線狀況。

    產出:驗證集分布說明

  2. 2計算多維度指標

    同時計算 precision、recall、F1-score,物件偵測任務再加上 mAP 與 IoU。

    產出:指標評估報表

  3. 3建立混淆矩陣

    以混淆矩陣檢視各類別的誤判分布,找出模型最容易混淆的瑕疵類型。

    產出:混淆矩陣圖

  4. 4依營運成本設定判斷門檻

    與品保或產線單位討論漏檢與誤報的相對成本,調整模型信心門檻。

    產出:判斷門檻設定紀錄

  5. 5現場試跑並追蹤落差

    上線初期安排人工覆核,比對現場實際表現與離線指標的差異。

    產出:現場驗證追蹤紀錄

AI 影像辨識常見評估指標比較

AI 影像辨識常見評估指標比較
指標計算意義適用情境注意事項
Accuracy所有樣本中判斷正確的比例類別分布大致平衡時的整體概況參考類別不平衡時容易被多數類別主導,掩蓋少數類別的表現
Precision判斷為正例中實際正確的比例誤報成本高的場景,如避免正常品被誤判為瑕疵只看 precision 可能忽略漏檢問題
Recall實際正例中被正確找出的比例漏檢成本高的場景,如安全或關鍵品質瑕疵只看 recall 可能造成大量誤報
F1-scoreprecision 與 recall 的調和平均需同時兼顾誤報與漏檢的綜合參考無法反映兩者何者更重要,仍需依實際成本判斷
mAP不同信心門檻下平均精確率的綜合表現物件偵測任務的整體效能比較數值受類別數與資料集設計影響,跨專案比較需謹慎
IoU預測框與標註框重疊區域佔聯集的比例評估偵測或分割任務的定位準確度門檻設定會影響判定為「偵測正確」的嚴格程度

實際採用門檻與指標組合應依產業法規、品質要求與現場複檢資源共同決定。

常見限制與前提

  • 離線指標無法完全反映現場光線、震動等動態因素造成的影響。
  • 類別不平衡問題無法單靠指標選擇解決,仍需搭配資料蒐集策略調整。
  • mAP 與 IoU 的計算方式在不同工具或框架間可能略有差異,跨系統比較需注意計算基準是否一致。
  • 指標門檻的設定涉及品質與成本權衡,需要跨部門共識,非單純技術決策。

ACubeDT 的實務做法

在專案驗收階段,ACubeDT 會與客戶一起確認驗證集是否能反映產線實際的良率與瑕疵分布,避免離線指標與現場表現脫節。

評估報告會同時呈現 precision、recall 與混淆矩陣,並與品保單位討論漏檢與誤報的可接受範圍,據此調整模型判斷門檻,而非僅以單一 accuracy 數字作為驗收依據。

上線初期會建議搭配人工覆核機制,逐步比對現場實際判斷結果與離線評估的落差,並將差異回饋至後續模型調整。

結論

評估 AI 影像辨識效果的重點,不在追求單一最高指標,而在依實際營運場景選擇合適的指標組合並權衡漏檢與誤報的成本。

有系統建置、AI 導入或產品需求?

20 年系統開發經驗、各大產業導入實績,從需求釐清到上線維運一站完成。

聯絡專人