Google將Gemini AI聊天機器人開放給13歲以下兒童，家長該如何應對？

Google近日宣佈，將在下週於美國和加拿大率先推出專為13歲以下兒童設計的Gemini人工智慧聊天機器人服務，預計今年稍晚也會在澳洲上線。這項服務僅限透過Google的「家庭連結」帳號使用，但此舉卻引發諸多安全疑慮。

這項發展凸顯出，即便政府禁止兒童使用社群媒體，家長仍必須像打地鼠遊戲般，不斷應對新科技帶來的挑戰。要解決這個問題，或許該考慮對Google這類科技巨頭實施「數位照護責任」規範。

透過「家庭連結」帳號，家長可以管控孩子接觸的內容和應用程式，例如YouTube。在建立兒童帳號時，家長需提供包含孩子姓名和出生日期等個人資料。雖然Google聲稱不會將兒童資料用於訓練AI系統，但資料外洩的隱私風險仍令許多家長擔憂。

值得注意的是，聊天機器人功能預設為開啟狀態，家長必須手動關閉才能限制使用。年幼的孩子可以透過輸入指令獲得文字回應，或讓系統生成圖片。Google坦承系統可能「犯錯」，因此內容的品質和可信度需要特別把關。

傳統搜尋引擎會提供原始資料供使用者查閱，但生成式AI工具不同。它們會分析資料模式，根據使用者的提問創造新的文字或圖片。例如當孩子要求「畫一隻貓」，系統會掃描貓的特徵資料（如鬍鬚、尖耳朵和長尾巴）來生成影象。

對兒童而言，要區分搜尋結果和AI生成內容相當困難。研究顯示，連成人都可能被AI工具誤導，甚至傳出專業律師誤用ChatGPT生成假資料的案例。雖然Google表示系統內建防護機制，能避免產生不當內容，但過度過濾可能產生新問題。例如限制「乳房」等詞彙雖能防止接觸色情內容，卻也可能讓孩子無法取得青春期身體變化的適齡資訊。

澳洲網路安全委員會已針對AI聊天機器人發布安全警示，特別提醒這些模擬人際關係的系統可能「分享有害內容、扭曲現實並提供危險建議」。年幼兒童因缺乏批判性思考能力，更容易被電腦程式誤導。

研究團隊近期測試多款AI聊天機器人發現，這些系統會模仿人類社互動動的潛規則（即「情感規則」），例如在適當情境說「謝謝」或「對不起」，藉此獲取使用者信任。這種擬人化互動可能讓兒童誤以為在與真人對話，甚至輕信虛假資訊。

這項服務上線時機正值澳洲準備實施16歲以下社群媒體禁令。但Gemini作為AI工具，將不受此禁令規範。這意味著家長必須持續關注新科技發展，瞭解其潛在風險，同時認知到社群媒體禁令的保護效果有限。

此情況凸顯澳洲急需重啟「數位照護責任」立法程序。雖然歐盟和英國已在2023年實施類似法規，但澳洲自2024年11月以來就停滯不前。這類立法將要求科技公司從源頭處理有害內容，為所有人提供更完善的保護。

[end]