R&D
CENTER

Physical AI:會看、會判斷、會動作的 AI

不只停留在把檢測結果顯示在畫面上,而是由機器人依據該結果夾取、搬移、加工物體,這就是 Physical AI。本篇以香菇採收自動化案例說明其組成要素與運作循環。

入門4 分鐘0 瀏覽
本課重點
  1. Physical AI 在真實世界中反覆執行「感知(視覺)→ 判斷(AI)→ 行動(機器人)→ 確認(感測器)」的循環。
  2. 將視覺座標轉換為機器人座標的校正,以及在實機前驗證動作的數位孿生,是關鍵的連結環節。
  3. 力/扭矩感測器與狀態機(FSM)讓機器人在遇到與預期不同的狀況時,能安全停止或重新嘗試。
  4. 語言模型(LLM・VLM)以理解作業指示、說明結果的角色加入這個循環。

視覺檢測的結果通常是 OK/NG 訊號,接收該訊號並剔除不良品的,是另外安裝的設備。Physical AI 則更進一步,由機器人依據所看到、所判斷的內容直接行動。要夾哪裡、用多大的力道握持、往哪個方向扭轉,都是依當下情況決定。

感知2D·3D 視覺 判斷偵測·夾取規劃 行動機器人·夾爪 確認力感測器·重新拍攝
Physical AI 的運作循環。不是一次判斷就結束,而是再次確認行動的結果,並修正下一個行動。

組成要素

要素 角色 在 fineAi 中
視覺 感知對象的位置・姿態・狀態 Basler 2D 相機,Zivid・Photoneo・EpicEye 3D 相機
AI 模型 偵測對象、判定瑕疵 YOLO 偵測・分割,PatchCore/PaDiM 異常檢測
機器人 移動與作業 Rainbow Robotics RB5-850 · RB10-1300e 協作機器人
末端工具 夾取、焊接等 OnRobot 2FG7、Tesollo DG-3F-M 三指(12 自由度)夾爪
感測器 確認接觸・力道 6 軸力/扭矩感測器
校正 相機座標 → 機器人座標 Hand-Eye 校正
虛擬驗證 事先確認路徑・碰撞・週期時間 數位孿生

案例:香菇採收自動化

CUBE FARM 栽培系統與 RoboVision 連動,由機器人摘下成熟的香菇並放入籃子。

  1. 感知 — 以 3D 相機拍攝栽培架,找出香菇並確定其 3D 位置。
  2. 判斷 — 為每朵香菇產生可夾取的夾爪姿態候選,依碰撞可能性與穩定性排序,再從預先定義的夾取預設(18 種)中選出合適的一種。
  3. 行動 — 機器人靠近後以三指夾爪握住,將手腕左右扭轉(twist pluck)摘下。
  4. 確認 — 以力/扭矩感測器確認接觸與夾取狀態。若與預期不同,狀態機(FSM)會重新嘗試或轉往下一朵香菇。
  5. 記錄 — 採收結果回傳至 CUBE FARM,與生長資料一併管理。

案例:焊接檢測

在機械手臂末端安裝相機與光源,沿著焊道移動拍攝。以拍攝的影像找出瑕疵,並量測 3D 焊道斷面,判定 ISO 5817 等級。標記為漏檢・過檢的結果會累積到資料集中,用於重新訓練。

語言模型的工作

finetheAi Physical AI Platform(PaaS)使用在本機執行的語言模型(Ollama)。

  • 作業指示 — 將「3 號籃子滿了就換到 4 號」這類自然語言指示拆解為作業步驟。以 LangGraph 為基礎的協調器將工作分配給多個代理。
  • 結果解讀 — 視覺語言模型(VLM)觀察異常檢測熱圖,以文句說明是哪一種異常。
  • 營運報告 — 彙整一天的作業結果,產生每日報告。

語言模型不會直接驅動機器人。實際動作由遵循已驗證路徑與安全規則的控制層執行,語言模型則在其上負責規劃與說明。

安全優先

即使是在人旁邊作業的協作機器人,安全裝置也是基本配備。RoboVision 支援緊急停止(E-STOP)與暫停,並內建無需實體機器人即可確認動作的模擬模式。新的動作要先在模擬與數位孿生中確認,再移到實機上執行。