醫學中使用的演算法只對少數幾個州的資料進行訓練

根據一項新的研究，大多數醫學演算法都是利用在馬薩諸塞州、加利福尼亞州或紐約接受治療的人的資訊開發出來的。根據本週發表在《美國醫學會雜誌》上的研究，這三個州佔據了病人資料的主導地位，另外34個州根本沒有代表。研究作者認為，用於這些演算法的資料地理分佈狹窄可能是一種未被承認的偏見。...

根據一項新的研究，大多數醫學演算法都是利用在馬薩諸塞州、加利福尼亞州或紐約接受治療的人的資訊開發出來的。根據本週發表在《美國醫學會雜誌》上的研究，這三個州佔據了病人資料的主導地位，另外34個州根本沒有代表。研究作者認為，用於這些演算法的資料地理分佈狹窄可能是一種未被承認的偏見。

研究人員正在研究的演算法是為了根據患者資料做出醫療決策而設計的。當研究人員建立一種演算法來指導病人的診斷——比如檢查胸部X光片，判斷它是否有肺炎的跡象——他們會給它提供一個真實世界的例子，包括病人有沒有想要它尋找的病症。眾所周知，在這些訓練中，性別和種族的多樣性是很重要的：如果一個演算法在訓練中只得到**的X光片，那麼當它從一個呼吸困難住院的**那裡得到X光片時，它可能不會起到很好的作用。但是，雖然研究人員已經學會了觀察某些形式的偏見，但地理學並沒有得到重視。

研究作者、斯坦福大學研究員阿米特·考沙爾（Amit Kaushal）對《統計新聞》（Stat News）說：“所有這些東西最終都會被放入資料集中，成為資料中的隱含假設，在全國範圍內，這可能不是有效的假設。”。

Kaushal和他的團隊檢查了用於訓練56個已發表演算法的資料，這些演算法被設計用於面板科、放射科和心臟病學等領域。目前尚不清楚到底有多少人在診所和醫院使用。在56種演算法中，40種使用了來自馬薩諸塞州、加利福尼亞州或紐約的患者資料。其他州提供的資料不超過五種演算法。

目前還不清楚地理位置是否會影響演算法的效能。然而，像紐約這樣的沿海中心，其人口結構和潛在的健康問題與南部或中西部各州不同。不過，研究人員確實知道，一般來說，在一組情況下工作的演算法有時在其他情況下工作得不好。一些研究表明，演算法在建立它們的機構比在其他醫院更有效。

許多從事人工智慧和機器學習研究的學術研究中心位於馬薩諸塞州、加利福尼亞州和紐約等醫療中心。來自矽谷所在地加州的資料包含在大約40%的演算法中。研究人員很難從他們工作的機構以外的機構獲得資料。這可能就是資料以這種方式**的原因。擴大資料集可能是一個挑戰，但確定差異表明，地理是另一個值得在醫學演算法跟蹤的因素。