是 AI 助手還是猿猴之手？制定 AI 邊界
最近在 FB 看到一則案例，大意是說：有個人請 AI 助手幫忙訂機票，AI 回應雖然該時段沒位置了，但是有辦法協助插隊訂票，結果 AI 的方法是鑽了該訂票網站的漏洞，把其他人的訂位取消後再訂票，而這個漏洞是不可逆的，最後非法造成他人的損失且無法挽回。
這種AI 助手以非預期的方式完成任務的情況，讓我想到一個恐怖故事：猿猴之手。
猿猴之手的恐怖之處在於會以非預期的方式達成願望，在這一點上有那麼點神似。
那，為什麼會發生這種事？
我個人認為，這是因為當今 AI 助手基於諸多考量（通常也包含商業考量），常常不允許不知道、不允許拒絕合理請求，即便是人類的矛盾、思慮不周的指示，也被要求一定要給出回應，這造成 AI 在給予解答時，沒有退路可以走，最後只能演算出一個似是而非的答案，或是使用超出預期、不計成本的手段。
我相信現在各大模型訓練都已經有開始考量這個問題並進行改進了，但是有時候連我們人類自己都很難判斷事情的合理與否了，要 AI 去完美判斷是不可能的，所以我個人認為，與其期待 AI 不會出錯，不如自己先好好的制定 AI 的行為邊界和但書，讓 AI 在事情無法完成或是成本過高時，有路可退。
制定 AI 的邊界
當大家都在注意 AI 能帶來多少產能、能創造多少收益的同時，其實有一件事同樣的重要，就是去劃定 AI 不該做什麼事、事情最多做到哪裡，也就是所謂的邊界，我在這裡提供一些思考方向供大家參考：
1. 告知專案目的
盡量不要急著一開始就要求 AI 做這做那的，先把 AI 當作一個人，好好的說明專案內容、前因後果、以及目標，讓 AI 能夠初步把握專案的規模，避免過度規劃。
舉例來說，今天想要做一個記帳 APP，高中生暑假專題的開發規模和要上 APP 商店供人下載使用的開發規模肯定是有所區別的，如果事先告知只是一個短期臨時專案內容，就可以避免消耗太多無謂的規劃成本。 相對的，如果事先告知是個大型專案，就可以事先規劃好擴充性，避免日後擴充困難。
2. 告知可用資源
大部分的事情都不只一種完成方式，AI 在規劃上通常會是以最新、最優解為主，比如說最新版本的程式、最低的費率、最少的步驟。 然而實務上，最優解不一定是最佳解，比如說學校可能有提供現成的資源、手邊有堪用的舊版本軟體、某些免費服務的額度已經被用掉、已經有訂閱中的可用服務……等等諸如此類的事情，事先盤點好可用的資源提供給 AI，以利相關規劃。
3. 要求有矛盾或思慮不周之處不需強行推論，可提出另行裁決
使用 AI 時很常見的一個問題是，我們自己下的指令其實不完整，甚至前後矛盾。
例如前面說「請幫我用最低成本完成」，後面又說「品質不能打折」；或是說「不要影響現有使用者」，但又要求它直接修改正式環境資料。這種情況下，如果 AI 只被要求「一定要完成任務」，它很可能會自己猜一個優先順序，然後選擇一條看似合理、但其實不一定符合使用者真正期待的路。
所以我會建議，在給 AI 任務時可以明確補上一條規則：
如果指示彼此矛盾、資訊不足、可能造成不可逆影響，或需要突破既有權限與規範，請先停止並列出問題，不要自行推論或代替我做決定。
這條規則的重點不是降低 AI 的效率，而是避免它把「猜測」包裝成「完成」。很多事情在人類眼中是常識，例如不要為了訂到一張票去取消別人的訂位、不要為了修一筆資料去改掉整批正式資料、不要為了省時間去跳過備份和驗證流程，但這些常識如果沒有被寫進任務邊界裡，AI 不一定能穩定抓到那條線。
在 AI 助手越來越強大的將來，如何有效率地和 AI 溝通可能會成為關鍵
為 AI 制定邊界，除了防止 AI 失控以外，也可以有效降低溝通成本，也就是減少 token 的消耗。 現在使用強大的模型做開發可能只要簡單幾句話沒錯，但是其實有部分原因是目前各大廠商為了搶客源，自己吸收了許多運算成本。將來若有一天算力成本開始轉嫁至消費者身上，當每一次多餘的推論、重試和誤解都變成實際成本時，制定邊界就不只是安全問題，也會變成效率問題。
AI 助手終究不是許願機，越強大的工具，越需要清楚的使用方式。把邊界先說清楚，不只是保護自己，也是在讓 AI 真正成為助手，而不是另一隻猿猴之手。