在數位時代，家長擔心的已不再只有網路掠食者與社群媒體風險，人工智慧（AI）對青少年的影響也正快速成為新的關注焦點。最新跡象顯示，Google 正為 Gemini 開發一項新的家長監護機制，協助家長及早掌握孩子可能面臨的心理健康風險訊號。
Gemini 準備在孩子討論自殘時通知家長
隨著 AI 聊天機器人愈來愈具備擬人化互動能力，用戶往往容易將其視為真實的人際交流對象。然而，AI 終究不是人類，其回應可能帶來難以預期的影響。即使成年人有時都難以辨別與 AI 互動的界線，心智尚未成熟的青少年更被視為高風險族群。近年來，AI 與未成年用戶互動引發的爭議事件頻傳，包括 OpenAI 因涉嫌在藥物相關對話中提供不當建議而面臨訴訟；而本週《彭博社》也報導，一宗最新訴訟指控 Google 搜尋的 AI 模式曾在未通知家長的情況下，與青少年討論自殺相關議題。
從目前釋出的跡象來看，Google 已開始思考如何強化 Gemini 在這類敏感情境下的應對機制。Android Authority 在分析 Android 版 Google App 最新的 17.73.15.sa.arm64 版本時，發現多項與家長通知功能相關的新程式碼字串，顯示 Google 正朝著更積極的未成年保護措施邁進。
<code><string name="assistant_zero_state_safety_notification_banner_title">Safety notifications are on</string>
<string name="assistant_zero_state_safety_notification_banner_description">Your parent will be notified if Gemini detects chats related to hurting yourself</string></code>
事實上，Google 目前已透過 Family Link 提供家長管理 Gemini 存取權限的能力，並對未成年使用者的 AI 回覆內容進行額外過濾。然而，最新發現的內容顯示，Google 可能進一步導入主動警示機制。一旦系統偵測到孩子與 Gemini 討論自殘、自我傷害等敏感議題，家長將有機會收到相關提醒，以便及早介入與提供協助。
值得注意的是，目前曝光的資訊僅涉及兒童端介面，Google 尚未透露家長實際收到的通知內容與形式。更有趣的是，相關程式碼顯示 Gemini 似乎會事先告知未成年使用者，當對話涉及特定內容時，系統可能向家長發送通知。這項設計雖然有助於提升透明度，但也引發外界對「寒蟬效應」的擔憂。若青少年因擔心家長得知對話內容而選擇隱瞞心理困擾，反而可能降低其主動尋求協助的意願。
除了心理健康相關的家長監護功能外，Android Authority 此前也發現 Gemini 正測試新的兒童使用時間管理功能。未來家長可能可以對孩子的 Gemini 使用時數設定每日限制，進一步強化 AI 工具在家庭環境中的管理機制。隨著生成式 AI 逐步融入青少年的日常生活，如何在保護未成年用戶隱私、維持求助管道，以及確保家長監護權之間取得平衡，將成為科技產業未來必須面對的重要課題。
