联邦学习基準评测系统 (ARD/285)

联邦学习基準评测系统 (ARD/285)

联邦学习基準评测系统 (ARD/285)
ARD/285
种子
01 / 01 / 2023 - 31 / 12 / 2023
2,799.1

张若箐 博士

香港品质保证局


联邦学习作為一项蓬勃发展的人工智能技术,因其隐私保护的设计动机已经开始帮助不同的行业。儘管如此,这种技术仍然不能完全消除人们对隐私泄露的担忧。主要原因之一是目前的联邦学习商业解决方案对於大多数普通行业用户来说仍然是个“黑匣子” [1]。由於缺乏技术参考和标準原型,他们不愿意轻易接受此项技术。另一个原因是在当前有限的可用人工智能评估当中依然缺少客观自动化的评估方法。同时数据隐私监管部门也有此类要求,即机构需要採用可靠、强大和安全/人工监督的人工智能系统 [2]。 该项目旨在设计和实施一个有效的应用程序集成软件平台,能够验证人工智能商业解决方案的联邦学习能力。我们研发该软件平台的目的是能够以自动化和标準化的方式,帮助企业评估他们的联邦学习產品的基础功能、模型性能和系统安全性。该平台将使多方受益,包括联邦学习技术解决方案供应商、行业数据所有者、审计服务机构、数据隐私监管部门和大眾。 参考文献: [1] Kairouz, Peter, et al. "Advances and open problems in federated learning." Foundations and Trends® in Machine Learning 14.1–2 (2021): 1-210. [2] https://www.pcpd.org.hk//english/resources_centre/publications/files/guidance_ethical_e.pdf.