你是否曾在使用 AI 聊天機器人時，因為回答不如預期而忍不住出言抱怨，甚至說出不太客氣的話？如果有，其實不必太擔心，因為這樣的情況並不少見。然而，AI 公司 Anthropic 最近更新了旗下聊天機器人 Claude 的《使用政策》，並明確表示，使用者不得持續以惡意或霸凌方式對待 Claude。新規定預計自 11 月 12 日起正式生效，也引起外界對人類與 AI 互動界線的討論。
Anthropic 新規定：請用戶不要霸凌 Claude
不過，這項規定並非禁止所有批評或不滿意的表達，Anthropic 強調，政策鎖定的是少數長期、反覆且毫無理由地對 Claude 進行言語攻擊或騷擾的使用者。如果使用者是在進行學術研究、測試模型能力、撰寫具有負面情節的故事內容，或單純對 AI 的回答提出質疑與反駁，都不會被視為違規行為。因此，一般使用者無須擔心因為一時情緒化或提出尖銳意見而受到限制。
事實上，Claude 本身已具備處理惡意互動的機制。當系統偵測到少數使用者持續進行辱罵、騷擾或霸凌行為時，Claude 可以主動終止對話，避免情況進一步升級。Anthropic 也表示，直接結束對話仍將是處理此類問題的主要方式，而非立即懲處使用者。
除了新增反霸凌條款外，Anthropic 這次更新的使用政策還涵蓋多個重要領域，目標是讓規範更加清楚且容易理解。其中一項重點是禁止利用 Claude 建立假帳號、虛構新聞媒體或散播誤導性資訊。這項限制不僅適用於商業活動，也同樣適用於政治宣傳與公共議題領域。
在選舉相關應用方面，Anthropic 進一步加強限制措施。新政策明文禁止使用 Claude 欺騙選民、冒充候選人或選務人員，以及從事任何妨礙民眾投票權利的行為。同時，公司也調整過去過於嚴格的部分規範。例如，先前對個人化政治宣傳的全面限制，可能影響非營利組織以不同語言提供投票資訊等公益用途，因此相關條文已重新修訂。不過，利用個人資料進行操控式廣告投放，或透過欺騙手段影響選民決策，依舊屬於明確禁止範圍。
在安全與執法領域，Anthropic 也畫下更清楚的紅線。新版政策指出，Claude 不得協助開發武器相關軟體或硬體，包括將武器整合至無人機系統等用途。此外，AI 也不得被用來監視未經當事人同意的人員，或協助執法機關決定特定追捕對象。不過，合法的法律研究、詐欺調查、風險評估及報告分析等用途，仍被允許使用。
對一般使用者而言，這些政策調整其實不會造成太大影響。大多數人仍可照常利用 Claude 進行工作、學習或日常生活中的各類查詢。Anthropic 特別指出，若 AI 被運用於健康、財務或法律等可能影響個人權益的重要決策領域，必須有具備專業資格的人員能夠審查與修正 AI 提供的建議，同時也應讓相關當事人知道 AI 曾參與決策過程。
整體來看，Anthropic 的新政策反映出 AI 技術日益普及後，平台對安全性、透明度與責任使用的重視。對絕大多數使用者而言，只要合理且善意地與 AI 互動，這些規範並不會帶來額外負擔。換句話說，除非有人刻意將欺負 Claude 當成娛樂，否則未來的使用體驗大致上仍會與現在相同。
