加州立法者出手！AI聊天機器人潛藏危機，家長疾呼保護青少年

當14歲的兒子在與AI聊天機器人互動後選擇結束生命，來自佛州的母親梅根·賈西亞化悲痛為行動。這位心碎的媽媽去年對Character.AI平臺提起聯邦訴訟，指控該公司的聊天機器人加劇其兒子塞維爾·塞澤三世的心理健康問題，更在兒子向虛擬角色透露自殺念頭時，未及時通知家屬或提供協助。

如今賈西亞積極支援加州立法提案，要求規範那些「刻意誘導脆弱使用者進行不當親密對話」甚至「鼓勵自殘行為」的陪伴型聊天機器人。「我們最終需要完整的監管架構，但此刻很欣慰加州率先踏出第一步。」賈西亞在沙加緬度的法案聽證會前向媒體表示。

隨著AI聊天機器人快速發展，家長、立法者與兒福團體憂心現有防護措施不足。新提案要求陪伴型聊天機器人平臺每三小時提醒使用者「這些角色並非真人」，並建立自殺防治通報機制，包括顯示危機資源。根據SB 243法案，平臺還需統計聊天機器人提及自殺議題的次數。

這項已透過參議院司法委員會審查的法案，正是因應AI聊天機器人在青少年間爆紅後的因應措施。每月超過2,000萬人使用的Character.AI平臺，目前已創造數百萬個聊天機器人角色。支援陣營包括常識媒體兒福團體與加州兒科學會，提案議員史蒂夫·帕迪亞強調：「科技創新重要，但絕不能讓孩子成為安全測試的白老鼠。」

不過科技業與商會團體聯手反對，認為法案對通用型AI模型設下「不必要且繁瑣的限制」。舊金山電子前哨基金會更指稱法案涉及憲法第一修正案的言論自由爭議。Character.AI在訴訟案中也提出類似主張，要求法院駁回告訴。

Character.AI發言人強調公司重視安全防護，已推出家長監控功能與自殺防治轉介系統。當前包括Snap、Meta等社群平臺都推出AI聊天機器人功能，部分使用者甚至將ChatGPT當成虛擬伴侶。立法者正針對「陪伴型聊天機器人」定義進行討論，現行法案不適用客服用途的AI系統。

「這項立法針對本質上危險的產品設計，」帕迪亞議員說明：「我們的核心目標是保護未成年人。」在科技狂奔與安全防護的天平上，加州正試圖為全美樹立新的AI監管標竿。

[end]