在委员会前期形成《人工智能行业自律公约》《可信AI操作指引》《可信人工智能白皮书》等研究成果的基础上,中国信通院云大所工程师颜媚在会议中介绍了“《可信人工智能研发管理指南》(拟)”起草思路。管理指南围绕企业文化、制度建设、研发运营等环节,推进落实可靠可控、透明可释、数据保护、明确责任、多元包容等可信特征,全面构建可信能力,目的是为广大人工智能企业具体实践提供参考依据,确保人工智能相关技术、产品和服务从源头可信。
针对人工智能模型在训练和应用等环节的安全问题,委员会特邀到华为标准工程师严敏瑞分享了“人工智能模型保护”的相关内容。严敏瑞从AI模型面临的多重安全威胁与风险作为切入点,探讨了AI模型保护在应对不同威胁时需要采用的不同安全技术,并进一步提出AI模型保护标准编制思路。
中国信通院云大所工程师李博玮介绍了当前人脸识别面临的安全挑战,并给出了《人脸识别安全防护操作指引》(拟)的起草思路,主要包括人脸识别应用场景及风险、人脸识别系统安全攻防技术要点、人脸识别产业链协作模式,以及面向重点场景的全链路人脸安全防护范式等内容。
中国信通院云大所工程师呼娜英提出撰写《人脸识别数据合规操作指引》初步设想的框架及方法论,分享操作指引的起草思路。呼娜英从人脸识别数据合规操作指引的必要性与可行性入手分析,向与会者介绍了编制操作指引的理论基础与法律基础,提出了在数据全生命周期中,将技术方式纳入到数据合规之中,探索“数据安全影响评估制度”与“算法影响评估制度”相结合的方式,编纂技术和数据合规相结合的可操作指引。
《人脸识别数据合规操作指引》起草思路PPT节选
随后,来自百度、腾讯、蚂蚁金服、京东、海康威视、商汤、旷视、字节跳动、马上消费、中国商飞、京东方、ARM、数据堂、悦商科技等近30家企业的代表积极参与了研讨,为操作指引思路框架的完善献言献策。此外,“中国人脸识别第一案”的当事人,浙江理工大学特聘副教授郭兵老师,专程通过线上接入的方式参与交流,为人脸识别数据合规操作指引提出了宝贵意见。
未来,AIIA人工智能治理与可信委员会将从产业界践行人工智能治理原则时所面临的实际问题出发,积极发挥平台作用,持续汇聚各方智慧,加快推进相关研究和可信标准制定工作,为推动产业健康发展贡献力量。
1、可信管理研发管理指南:
颜 媚 18811793158,
yanmei@caict.ac.cn
2、人脸识别安全防护操作指引:
张哲煜 18514502903,
zhangzheyu@caict.ac.cn;
李博玮 15159170860,
libowei@ngai.ac.cn
3、人脸识别数据合规操作指引:
呼娜英 15321699969,
hunaying@caict.ac.cn