從執行到定義問題——AI 自主性的演進

本文重點在於將自動駕駛（Autonomous Driving, AD）的五級標準對應到 AI 編程與軟體開發，並深入分析兩者的本質差異、AI 的侷限性，以及人類在 AI 時代不可替代的「護城河」。

一、 自動駕駛 vs. AI Coding：五等級對應框架¶

目前業界與學界趨向將自動駕駛的 L1-L5 概念 1:1 套用在軟體開發上。

二、 本質上的差異：物理邊界 vs. 邏輯無限¶

雖然架構相似，但來源文章指出兩者存在關鍵的「骨感現實」差異：

1. 環境的穩定性：

2. 自動駕駛 (L4)： 運作於「限定場景」（如固定路線），物理規則相對穩定。

3. 軟體開發： 從來沒有固定場景。環境會漂移、API 會改版、數據流會中斷，AI 在處理長工作流時，成功率往往隨步驟增加而呈指數型下跌。

4. 終點的明確性：

5. 自動駕駛 (L5)： 目標非常明確且有終點——「安全地將人從 A 點送到 B 點」。

6. 軟體開發： 沒有終點。需求源自人類社會不斷變化的欲望與痛點，AI 若連需求都自己定義，將會變成脫離人類需求的「自嗨」。

三、 AI 的盲點與不足：argmax 的限制¶

AI 的底層邏輯是數學上的最優化（Optimization），這導致了以下盲點：

• 局部最優陷阱： AI 擅長在給定的「沙盒」或問題空間內尋找最大機率或最小損失argmax。若目標函數（Objective Function）設錯，AI 會給出合乎邏輯但在商業上災難性的答案。

• 缺乏商業直覺（Taste）： AI 可以做出十個儀表板，但它不知道哪一個才是管理層真正會看重的「品味」與方向感。

• 無法處理模糊決策： AI 在量化世界中表現卓越，但面對現實中數據不全、目標變動的「商業決策」（如要在精度與召回率之間如何取捨），它無法給出「正確答案」，因為這涉及風險承擔。

四、 人類的護城河：從「做事」轉向「定義事情」¶

當 AI 讓「執行（Execution）」變得廉價，人類的價值將轉移到更高層次的維度：

1. 問題定義 (Problem Framing)： AI 知道怎麼解題，但不知道「什麼問題值得解」。人類需負責畫出賽車場的圍牆、跑道與終點線。
2. 系統架構設計 (System Design)： 考慮長期的可維護性與跨系統的折衷（Trade-offs），這是 AI 目前不擅長的全局設計。
3. 定義 KPI 與目標函數： 真正的價值在於「定義要優化什麼」。例如在瑕疵檢測中，是追求 99% 的準確率，還是要優先抓出致命缺陷（Critical Fail）？這需要專業的 Domain Knowledge。
4. 治理與風險控制 (Governance)： 當 AI 具備 L4/L5 的能力時，錯誤會被放大。人類必須決定「AI 可以做什麼」並進行最終審計與監督。

💡 總結¶

未來 2-3 年內，純粹寫代碼或調參的執行人員價值將會貶值。你的專業價值不在於模擬 AI 的運算能力，而在於「定義問題空間」。「問對問題」與「商業影響力對齊（Business Impact Mapping）」將成為 AI 時代最值錢的技能。