NTT【世界最初】在聯合學習中，發表了在AI模型有異常或惡意的情況下也能高精度學習的動力篩選技術方法

優秀的AI模型離不開大量的數據，理想的高精度AI模型需要將多個組織納為學習、訓練的材料。然而由於隱私與機密的緣故，數據共享往往是困難的。而且，AI模型的學習、訓練也需要防範異常或帶有錯誤、惡意的數據/模型。為此，日本電信電話株式會社（NTT）和旗下的NTT DATA Mathematical Systems開發了可以在數據分散於不同伺服儲存器的狀態下進行AI訓練的「聯合學習技術」(Momentum Screening Tech)，而且即使部分參與者的數據有異常或是帶有惡意，仍不影響該AI模型的精準度。這項聯合學習技術已經在國際會議ICLR2024上被認可。

著眼於數據的隱私和機敏特性，作為不將數據資料本身交出、集中到一處，而是通過組合多個AI模型學習的AI模型訓練方法，聯合學習技術受到了關注。而為了保持最終模型對於低準確度或是惡意製造出之AI模型的抵抗能力，同時不要將正常的AI素材模型排除在外，NTT開發了獨特的動量篩選技術（momentum screening），可以有效地實現上述需求。這項聯合學習技術已經在國際會議ICLR2024上被採納。而NTT持續致力於促進跨組織之分散存儲資料在包含AI領域的各種應用，以實現其隱私強化科技（Privacy Enhancing Technologies, PETs）的目標。

 

資料來源：RobotStart新聞（2024-05-07）

【原文/出處】