內蓋夫本古里安大學的研究人員開發了一種計算方法，通過將醫學圖像分為具有對人工智慧重要的不同臨床解釋的成分，他們可以「反向工程」人工智慧的「決策」。了解人工智慧模型的決策機制是破譯生物過程和醫療決策的關鍵。
研究結果發表在《自然通訊》雜誌上。
深度學習使用人工神經網絡，這是一種基於人工智慧的計算方法，可以通過模仿人腦的學習過程直接從數據中學習模式。使用這種基於人工智慧的方法的主要缺點是無法破譯神經網絡決策背後的推理。
這種限制源於這樣一個事實：網絡的訓練過程是直接根據數據自動化的，無需人為干預。這一缺陷對生物學和醫學等領域的廣泛應用構成了重大障礙，在這些領域，解釋與機器做出正確決策的能力同樣重要。
在內蓋夫本古里安大學軟體和信息系統工程系阿薩夫·扎里茨基教授的指導下，博士生Oded Rotem開發了一種名為DISCOiver的計算方法，通過將圖像分解為語義內容來逆轉人工智慧。人工智慧中有意義的一部分，通過它做出決策。
與以色列初創公司AIVF合作的研究人員表明，該技術可以描述體外受精（IVF）胚胎的特徵，這些特徵對於人工智慧對胚胎視覺質量做出決策至關重要。
為了確保該技術可以應用於IVF以外的領域，研究人員展示了對阿爾茨海默氏症患者大腦MRI成像的人工智慧決策的解釋，甚至解釋了人工智慧如何區分狗和貓以及男人和女人在標準相機捕獲的圖像中。
研究小組使用了AIVF收集的數千個胚胎的豐富資料庫。使用光學顯微鏡對胚胎進行成像，該公司的胚胎學家根據幾個特徵對每個胚胎進行檢查和排名，例如胚胎大小和發育早期胚胎周圍的細胞鏈（臨床上稱為滋養外胚層）。
研究人員已經證明，人工智慧可以像人類專家一樣成功預測胚胎質量，但人工智慧並沒有為研究人員提供哪些胚胎特徵導致成功預測的線索。
「深度學習可以識別人眼在生物醫學圖像中無法檢測到的隱藏模式。然而，這還不夠--為了做出臨床或科學決策，我們必須解開人工智慧識別的奧秘並解釋生物或臨床結果。解釋它的重要性，並根據解釋決定下一步的治療或研究，」扎里茨基教授解釋道。
DISCOPER的可解釋性機制依賴於人工智慧的「深度偽造」一代，例如，可以用另一個人的臉替換圖像中一個人的臉。更具體地，第二神經網絡可以以受控的方式創建胚胎的合成圖像。
圖像的創建基於網絡中某些組件的定義，因此每個組件一方面在預測胚胎質量方面很重要，另一方面它對圖像的有意義部分進行編碼。每個這樣的組件編碼圖像的獨特部分，假設它們將被轉換為清晰和獨特的可解釋屬性。
一次一個地逐漸改變這些組件，可以生成胚胎的圖像，其中每個胚胎在對人工智慧決策過程重要的屬性上都與真實圖像不同。
因此，可以通過多種方式向專家展示同一個胚胎，以便在每張圖像中，一個屬性被人為「放大」，而圖像的其餘部分保持不變。這種方法使專家能夠解釋人工智慧的操作模式，並提供客觀的測量值來證明每個屬性在決策中的重要性。
通過創建一系列從未存在過的胚胎的「假」圖像，研究人員能夠根據胚胎學家的臨床決策識別胚胎大小及其周圍細胞鏈的變化。
此外，研究人員在沒有人類指導的情況下識別出人工智慧識別為胚胎質量重要指標的一個新特徵，即胚胎腔的特定結構，其中包含來自細胞內部的營養物質，臨床上描述為「囊胚密度」。"
「胚胎學家非常清楚某些生物學特徵在決定胚胎質量方面的重要性，但人眼準確測量和評估這些特徵的能力往往有限，」人工受精執行長兼臨床胚胎學家丹妮拉·吉爾博亞解釋道。
「一個典型的例子是囊胚密度，這是一個對胚胎質量非常重要的特徵，但在臨床上並未廣泛使用，因為在實驗室中目視檢查胚胎時很難量化。現在，藉助DISCOPER的視覺解讀，可以更準確、更客觀地識別和分析重要的生物學特徵。
「因此，我們可以改進選擇胚胎成功植入子宮的過程，增加生育治療成功的機會。"
構思和開發該方法的博士生Oded Rotem指出：「DISCOVER識別和人工放大對人工智慧很重要的圖像模式的能力可以應用於人工智慧廣泛應用的生物和醫學成像的其他領域。"
內蓋夫本古里安大學商業化公司BGN的Galit Mazuz PerlMutter博士也指出了DISCOPER的固有潛力，他說：「扎里茨基教授實驗室開發的技術對各種醫療應用具有變革性的影響。"
此視頻下方的視頻中有連結。如果您感興趣，可以打開看看。
感謝您觀看此視頻。如果您喜歡，請訂閱並點讚。謝謝
原文：https://medicalxpress.com/news/2024-09-method-ai-doctors-decipher-medical.html
更多信息：Oded Rotem等人，通過生成潛在空間解糾纏應用於體外受精的基於圖像的分類模型的視覺可解釋性，自然通訊（2024）。DOI：10.1038/s41467-024-51136-9
更多信息：Oded Rotem等人，通過應用於體外受精的生成潛在空間展開來實現基於圖像的分類模型的視覺可解釋性，《自然通訊》（2024）。DOI：10.1038/s41467-024-51136-9
期刊信息：自然通訊
期刊信息：自然通訊
輸油管：