聯邦學習基準評測系統 (ARD/285)

香港品質保證局

聯邦學習作為一項蓬勃發展的人工智能技術，因其隱私保護的設計動機已經開始幫助不同的行業。儘管如此，這種技術仍然不能完全消除人們對隱私泄露的擔憂。主要原因之一是目前的聯邦學習商業解決方案對於大多數普通行業用戶來說仍然是個“黑匣子” [1]。由於缺乏技術參考和標準原型，他們不願意輕易接受此項技術。另一個原因是在當前有限的可用人工智能評估當中依然缺少客觀自動化的評估方法。同時數據隱私監管部門也有此類要求，即機構需要採用可靠、強大和安全/人工監督的人工智能系統 [2]。 該項目旨在設計和實施一個有效的應用程序集成軟件平台，能夠驗證人工智能商業解決方案的聯邦學習能力。我們研發該軟件平台的目的是能夠以自動化和標準化的方式，幫助企業評估他們的聯邦學習產品的基礎功能、模型性能和系統安全性。該平台將使多方受益，包括聯邦學習技術解決方案供應商、行業數據所有者、審計服務機構、數據隱私監管部門和大眾。 参考文献： [1] Kairouz, Peter, et al. "Advances and open problems in federated learning." Foundations and Trends® in Machine Learning 14.1–2 (2021): 1-210. [2] https://www.pcpd.org.hk//english/resources_centre/publications/files/guidance_ethical_e.pdf.