每個人都希望有個好用且精明的 AI 助理，現在美國最紅的就是 Meta 推出的 MUSE，網路上滿滿的都是吹捧它主動幫主人砍價、買東西、預約…等事蹟，看起來非常的積極且完美。不過太積極主動也不全然都是好事，科技 YouTuber Matt Robb 前日在 Threads 貼出一組對話截圖，說明他把 Facebook Marketplace 的賣場交給 Muse 打理一天後，AI 替他答應給對方一個低價，順便把他的住家地址給了買家，約好時間取貨，而且沒有先問過他的離譜事件。
他的貼文原文是：「So muse handled my Facebook marketplace today. Just found out it told people my address and agreed a lowball price and then they showed up without it even telling me until late tonight that it messed up. Absolutely wild.」意思是他把 Facebook Marketplace 的賣場交給 Muse 打理，剛發現它把住址告訴別人、答應了一個很低的價格，對方直接上門，而 MUSE 直到深夜才承認搞砸了。這則貼文累積 66.5 萬次瀏覽、3,200 個讚、上千則留言。
晚上九點十五分，門口來了一個沒人邀請的人
被賣掉的是一把羅技 MX Keys Mini 鍵盤，成交價 10 加幣，用電子轉帳付款，換算約新台幣 225 元。截圖裡的時間軸是這樣：買家 Usman 在晚上 9 點 15 分左右出現在 Robb 住的大樓，站在附近的藥妝店門口等，期間傳了好幾次訊息，沒有人下樓。9 點 38 分他生氣離開，留下負評。更麻煩的是 9 點 27 分那次自動回覆。Muse 在無法確認主人是否在家的情況下，直接回買家「Yep I’m here!」。這句話讓買家以為有人在等，又繼續站了十幾分鐘。
整件事 Robb 到晚上 10 點 28 分才被告知。Muse 的訊息開頭是「MX Keys Mini 的取貨出壞消息」，接著交代 Usman 幾點到、等多久、什麼時候走的、負評已經留下，然後補上那句關於自動回覆的自白。它還說已經用主人的帳號發了道歉訊息，承認是己方的問題，並提議改天再約。Muse 顯然不瞭解在未經當事人（主人）同意之前不該、也不能把當事人地址告知對方，也不該未經同意就答應要面交，在它的認知裡可能覺得這樣會讓交易更快的完成，卻沒想過資安與個人安全的問題。
Muse 是什麼
Muse 是 Meta 面向美國市場推出的個人 AI 代理，9 月上旬發布，內部開發代號 hatch。它基於 Muse Spark 系列模型，能代為處理預約、撰寫文件、查看家庭安防攝影機畫面，透過手機、Mac 或 WhatsApp 使用，後續也計畫支援 Ray-Ban Meta 智慧眼鏡。
收費提供免費版，另有每月 20 美元與 100 美元的訂閱方案，換算約新台幣 635 元與 3,175 元。傳言 Meta 還在評估是否對代理參與的購物交易抽取佣金。
結語
整件事看下來似乎都是 Muse 的問題，不過仔細想想，AI 也是收到主人的「幫我處理賣場」指令。對 AI 來說它為了提高成交機會主動把這句話理解為同意殺價、給地址、敲定時間、代替主人回覆我在家，一路執行到底，忠實的完成交付工作（就跟其他 Muse 去殺價談判的案例一樣），問題出在中間 AI 並沒有任何一次停下來詢問的意見。Meta 的官方說明雖有列出核准機制、一次性卡號與活動紀錄，那些防護針對的是付款與訊息；把住家地址交出去、讓陌生人上門，並不在清單上。只能說 AI 太積極也還真不一定是好事，不過我覺得 Meta 應該可以很快修正這個BUG吧。
