9月6日,由中央网信办网络数据管理局、中共安徽省委网信办指导,中国网络空间安全协会、中共合肥市委网信办、合肥市公安局、合肥市数据资源局主办,科大讯飞股份有限公司协办的2022国家网络安全宣传周“人工智能与个人信息保护论坛”在合肥市滨湖国际会展中心举办。

本次论坛作为2022年安徽省网络安全宣传周系列活动之一,围绕“筑牢个人信息保护防线,促进人工智能健康发展”主题展开研讨,并以“共建个人信息保护防线”为主题开展圆桌论坛。

合肥市政府副市长刘卫宝在致辞中指出,必须统筹发展与安全,防止因技术数据滥用损害人民利益,要积极构建人工智能信息安全保障体系,加快研发和应用人工智能安全网络框架和安全方案,保障政企数据通信和应用安全;积极构建人工智能信息安全监管体系,加强人工智能对国家安全、个人信息安全的影响研究和评估,形成人工智能安全监测预警机制,规范互联网和机构对个人信息采集的监管;积极建立人工智能信息安全技术体系,搭建共商、共建、共享的合作交流平台,有效应对人工智能发展可能带来的系列挑战。

安徽省委网信办副主任文霞平表示,筑牢个人信息安全防线需要线上线下及社会各界的共同努力,要开展网络安全教育活动,促进个人信息安全宣传教育体系化、机制化、常态化;加强互联网行业制度建设,发挥网络社会组织作用,组织法律知识培训,强化互联网相关单位和从业人员保护个人信息的自觉性;形成数据安全使用共识,平衡好人工智能发展与个人信息安全的关系。

中央网信办网络数据管理局局长胡啸认为,加快建立完善个人信息保护的法规制度体系,明确个人信息保护的责任义务、数据分类分级管理等相关制度要求,进一步明确细化相关管理要求,将已发布的政策文件落到实处,落实主体责任,个人信息主管部门要加强督促检查,加大打击违法犯罪的力度,加强各类信息保护建设并继续加强网络安全的宣传教育。

中国工程院院士何友围绕人工智能与安全议题,介绍了人工智能的起源与发展前沿,阐述了预训练大模型、无监督学习、对抗博弈、人工智能应用发展等前沿领域的突破和进展。关于人工智能安全,何友谈及人工智能对传统领域及人工智能系统本身的安全风险并对AI伦理和人工智能安全的现状与问题提出反思,表达了对人工智能安全未来发展的期望。

科大讯飞总裁吴晓如介绍了当前我国人工智能技术的进展及典型应用,并分享了科大讯飞在人工智能和信息安全等方面的思考和实践。吴晓如表示,科大讯飞坚持“合规为先、体系完备、纵深防御、持续改进”的发展思路,在安全管理体系上落实安全组织,制定规范流程,从顶层设计层面保障安全资源;在安全技术体系上,以可用、可信、可靠的安全技术,形成安全能力的坚实基础;在产品安全体系上,将产品安全活动内建于产研管理流程,从源头降低安全风险;在个人信息保护体系上,形成全面覆盖业务场景的隐私保护机制,保障个人隐私信息数据生命周期的安全。

中科院计算所研究员、博导山世光指出,个人隐私信息保护至关重要,其核心目标是去标识化,破解既要应用又要安全的难题,使数据“可用不可见”。他提出,可以有三类可能方法应对:以加密为核心的隐私保护、可信联邦学习以及反制AI系统,主动避免信息被收集。

清华大学交叉信息研究院兼职教授、慧安金科(北京)科技有限公司创始人/CEO黄玲指出,在互联网和大数据时代背景下,在线业务面临欺诈风险的严峻挑战,人工智能在金融安全领域可以在账户安全、企业风控、交易反欺诈、反洗钱这四方面提供解决方案,有望通过开创性使用半监督机器学习技术解决行业痛点。

蔚来副总裁、首席安全科学家卢龙围绕智能汽车与个人信息保护议题,介绍了蔚来数字安全在功能安全、预期功能安全(SOTIF)、数字安全与隐私保护、智能系统安全等行业领先技术的情况,阐述了关于车联网个人信息保护的3个安全关键点、“V型”安全开发工作流、全链路个人信息安全防护和AI智能驱动数据安全合规等理念。

阿里巴巴集团副总裁、中国网络空间安全协会副理事长钱磊指出,在人工智能技术的应用过程中,特别是在用户利益相关的场景,要警惕技术误用或滥用和个人信息的滥用这两大类风险。

此外,本次论坛还以“共建个人信息保护防线”为主题展开圆桌对话,中兴通讯副总裁黄智敏、蚂蚁集团蚂蚁链隐私计算总经理李漓春、抖音集团数据与隐私法务总经理田申、微步在线联合创始人李秋石、百度安全数据服务业务副总经理霍金健参与讨论。