AI聊天機器人值得信賴嗎？全新工具「VizTrust」讓信任度一目瞭然

隨著ChatGPT等人工智慧工具深入日常生活，我們與AI聊天機器人的互動越來越頻繁。究竟該擁抱這項科技，還是該保持距離？紐約賓漢頓大學最新研發的「VizTrust」分析工具，正試圖解開這個關鍵謎題。

這項創新研究由工程與應用科學學院博士生王欣（Vision）主導，已獲選在2025年日本橫濱舉行的ACM CHI國際研討會發表。有別於傳統僅能測量互動前後信任度的問卷調查，VizTrust透過機器學習與自然語言處理技術，即時捕捉對話中四個關鍵維度：專業能力、善意程度、誠信度與可預測性。

「現有研究最大的盲點在於，無法捕捉互動過程中信任度的細微變化。」王欣強調。VizTrust能分析使用者訊息中的情感基調、參與程度及禮貌策略等線索，例如研究案例中就發現，當治療型聊天機器人重複給出使用者不認同的建議時，信任指數會明顯下滑。

這項工具在競爭激烈的CHI研討會中脫穎而出，從全球3000多件投稿中勝出（錄取率僅33%）。研究團隊認為，信任問題不只是使用者端課題，更是系統設計的關鍵指標。VizTrust能讓開發者精準定位信任破裂的瞬間，進而最佳化AI系統。

王欣透露，下一階段將強化工具的個人化適配能力。「不同使用者對AI的態度差異極大，我們需要考量個人特質、潛意識信任度，甚至過往與AI的互動經驗。」團隊最終目標是將VizTrust打造成開放工具，縮短技術表現與人性體驗的落差，打造更以人為本的AI系統。

[end]