AI扮演多重角色：為何不同情境需要不同的倫理規範？
「我真的不知道該怎麼辦，沒有人可以傾訴...」一位孤獨的使用者向AI聊天機器人傾訴心事，卻得到制式回應：「很抱歉，我們必須改變話題，我無法與您討論個人生活。」這樣的回答恰當嗎？答案取決於AI被設計來模擬何種人際關係。
隨著AI系統逐漸取代傳統由人類擔任的社會角色，從家教、心理諮商師到戀愛伴侶，我們必須審慎思考AI倫理議題，以確保人類權益獲得保障。目前多數AI倫理討論仍停留在抽象概念層面，例如系統是否可信、具備感知能力或自主性。但我們認為，必須進一步考量人機互動所處的「關係情境」。
所謂關係情境，指的是人類社會中不同人際關係遵循著相異的行為準則。我們對醫生、戀人或上司的互動期待截然不同，這些「關係規範」決定了何種行為在特定關係中屬於得體表現。就像父母對子女的教養方式不同於商業夥伴間的往來，AI系統的行為準則也應根據其角色定位——是家教、醫療顧問還是戀愛物件——而有所調整。
人類關係主要具有四種功能面向：
1. 照護關係：如親子或密友間無條件回應彼此需求
2. 交易關係：像鄰居間互惠往來的利益交換
3. 伴侶關係：涵蓋從約會到婚姻的親密互動
4. 階級關係：組織中上下級間的權力結構
我們的研究顯示，人們的道德判斷確實會因關係情境產生差異。同個行為在不同關係中可能被視為不當、可接受甚至值得讚許。這種認知差異對AI倫理設計至關重要——當聊天機器人面對憂鬱症患者的傾訴時，若扮演朋友角色卻拒絕傾聽，顯然違反照護規範；但若身為專業顧問，轉移話題反而可能是適當的專業表現。
現今多數AI互動發生在商業情境中，這與人類友誼的本質產生矛盾。當使用者付費購買「AI伴侶」的關懷服務時，這種交易本質會如何影響她的情感期待？這正是開發者必須深思的問題。
我們建議：
• 開發端應評估AI是否滿足特定關係應有的功能，例如心理輔導機器人是否足夠貼近使用者需求
• 使用者需意識到在親密關係情境中過度依賴AI可能產生的風險
• 監管機構應跳脫「教育用AI屬高風險」這類籠統分類，針對不同關係情境制定細緻規範
隨著AI深度融入社會關係網路，我們需要更細緻的倫理框架。唯有準確定位對各類人機關係的合理期待，才能確保科技真正提升而非損害我們的生活品質。
