世界衛生組織(WHO)今天(9日)警告說,越來越多使用於醫療保健的人工智能(AI)系統中内建的偏見,可能加深對年長者的歧視。
世衛組織人口變化與健康老化部門(Demographic Change and Healthy Ageing Unit)發佈政策簡報說,AI技術對改善老年人的醫療保健具有龐大的潛力,但也可能帶來重大風險。
簡報中說,「對AI技術或在他們使用中所表現的刻板印象、偏見或歧視進行編碼,可能破壞老年人醫療保健的品質。」
這份簡報中,凸顯了AI如何依賴大型的、歷史的資料集(datasets),其中包括了以通常不透明的方式收集、分享、合併和分析有關人們的訊息。
這些資料集本身可能是有問題或具有歧視性的,反映了比方在醫療保健領域中既有的偏見,其中年齡歧視的情況相當普遍。
世衛組織人口變化與健康老化部門的醫生努涅兹(Vania de la Fuente Nunez)指出,在COVID-19(2019年冠狀病毒疾病)疫情大流行期間所看到的做法,允許依照一個病患的年齡來決定他們是否可以獲得氧氣,或在擁擠的加護病房中是否能夠獲得病床。
如果此種歧視的模式被反映在用於訓練AI的演算法資料集中,那麼,這些模式可能變得牢不可拔。
簡報中警告說,AI的演算法會讓醫療保健中既有的不公平更加牢固,並會出現更大規模的系統性歧視。
此外,簡報中還指出,用來訓練AI演算的資料集,經常會排除老年人,或讓老年人的代表性嚴重不足。
由於產生出來的預測和診斷,都是根據來自年紀較輕者的資料,可能沒有為老年人口設想。
此外,努涅兹也警告說,那些替衛生部門設計和測試新AI的人,也有可能反映岀社會中普遍存在的年齡歧視態度,尤其是老年人很少被納入這個過程中。