英國政府須證明其AI健康資料計劃值得信賴

英國政府透過人工智慧（AI）促進創新的新計劃野心勃勃。其目標仰賴於更好地運用公共資料，包括重新努力最大化英國國家醫療服務體系（NHS）所掌握的健康資料價值。然而，這可能涉及使用NHS患者的真實資料。過去，這一直備受爭議，先前利用這些健康資料的嘗試有時幾近災難。

患者資料雖會經過匿名處理，但對於這種匿名性可能受到的威脅，擔憂依舊存在。例如，使用健康資料總伴隨著對商業獲利目的而獲取資料的擔憂。2014年夭折的care.data計劃，就有著類似的底層構想：在全國範圍內將健康資料共享給公立研究機構和私人企業。該計劃因對其較具爭議性的部分溝通不良，且未能傾聽民眾擔憂，最終被擱置。最近，美國科技公司Palantir參與新的NHS資料平臺，也引發了關於誰能且應該獲取資料的質疑。

此次利用健康資料訓練（或改進）AI模型的新舉措，同樣依賴公眾支援才能成功。然而，或許不出所料，在這項計劃宣佈後幾小時內，媒體和社交媒體使用者就抨擊該計劃是將健康資料貨幣化的手段。有一篇報導的標題寫著：「部長們考慮在推動AI時允許私人企業從NHS資料中獲利」。

這些反應，以及對care.data和Palantir事件的反應，反映出公眾信任在政策設計中有多麼重要。無論科技變得多麼複雜，這一點都千真萬確。關鍵的是，隨著社會規模的擴大，我們越難看清或理解系統的每個部分，信任就變得越重要。判斷我們該信任誰，以及如何做好信任這件事，即便不是不可能，也是相當困難的。無論是談到政府、公司，甚至只是熟人，信任與否都是我們每天都要做的決定。

信任的挑戰引出了所謂的「信任度識別問題」，這凸顯出判斷誰值得我們信任源於人類社會行為的根源。問題源自一個簡單的事實：任何人都可以聲稱自己值得信任，但我們缺乏確切的方法來判斷他們是否真的如此。

例如，有人搬到新家，在網上看到不同網路服務提供商的廣告，卻沒有確切的方法判斷哪家更便宜或更可靠。外在表現不一定，甚至常常不能反映一個人或團體的內在品質。拎著名牌包包或戴著昂貴手錶，並不能保證佩戴者富有。

幸運的是，人類學、心理學和經濟學的研究顯示，人們，進而像政治機構這樣的組織，如何能夠克服這個問題。這項研究稱為訊號理論，它解釋了即使在溝通的個體存在衝突時，溝通，或者說從傳送者到接收者的資訊傳遞，是如何以及為何會發展的。

例如，在不同群體間流動的人可能有理由在身份上撒謊。他們可能想隱藏自己過去不愉快的事情，或者可能聲稱自己是社羣中某位有錢有勢者的親戚。查蒂・史密斯（Zadie Smith）最近的小說《騙局》（The Fraud）就是對這個流行主題的虛構演繹，探索了維多利亞時代英國的貴族生活。

然而，有些品質是無法偽造的。一個騙子可以聲稱自己是貴族、醫生或AI專家，但隨著時間推移，這些騙子無意中發出的訊號會暴露他們的真實身份。一個假貴族可能無法有效地偽造自己的風度或口音（對於熟悉這些的人來說，口音等訊號很難偽造）。

社會結構顯然與兩個世紀前不同，但問題的核心是一樣的，我們認為解決方案也是如此。正如真正富有的人有辦法證明自己的財富一樣，值得信任的人或團體必須能夠證明他們值得信任。實現這一點的方式無疑會因情境而異，但我們認為，像政府這樣的政治機構必須表現出願意傾聽公眾的擔憂並做出回應。

care.data計劃受到批評，是因為它透過投遞到民眾家中的傳單進行宣傳，且沒有提供退出選項。這未能向公眾傳達出真正想要緩解他們對個人資訊可能被濫用或用於牟利的擔憂的意願。

目前圍繞利用資料開發AI演演算法的計劃必須有所不同。我們的政治和科學機構有責任透過傾聽公眾意見來表明他們對公眾的承諾，並據此制定出既能將個人的風險降至最低，又能將所有人的潛在利益最大化的統一政策。

關鍵在於投入足夠的資金和精力來傳達——證明——與公眾就其擔憂進行互動的誠實動機。政府和科學機構有責任傾聽公眾意見，並進一步解釋他們將如何保護公眾。僅僅說「相信我」是遠遠不夠的，你必須證明自己值得信任。