人工智能的数据挖掘分析能力不断提升 发展面临哪些安全问题?
人脸识别、语音识别、智能机器人……数字经济时代，人工智能已经走入生产生活中，被视为经济增长的新引擎、国际竞争的新阵地和推动智慧社会建设的有效工具。与此同时，人工智能在应用过程中产生的网络系统攻击、隐私泄露、数据权属等安全问题也让整个产业如鲠在喉。人工智能发展面临哪些安全问题?产业有何应对之策?请关注本版报道。
5角钱一份的人脸信息被低价打包后在电商平台上出售，之后被用于虚假注册、网络诈骗等违法犯罪活动，被盗人在毫不知情的情况下“丢了脸”;智能驾驶场景被“数据投毒”，自动驾驶汽车经过一个停车标志时，经过精心设计的噪声扰动让目标检测系统无法准确识别标志，“眼见不为实”很可能导致交通意外……
现在，人工智能的数据挖掘分析能力不断提升，收集个人信息呈现精准化、全面化、简便化、隐秘化趋势。人脸、指纹、声纹、虹膜、心跳、基因等具有很强个人属性的信息被收集、分析和利用，如果这些数据一旦被泄露或者滥用不仅会给个人带来损失，还将对社会生产、社会治安乃至国家安全造成重大威胁。
发展可信赖的人工智能
从智能音箱在对话中“劝主人自杀”，到人工智能简历筛选系统对女性存在偏见，人工智能的安全问题不断浮出水面。
人工智能系统面临安全风险。加入微小的干扰，语音识别系统就可能出现识别错误;在生物特征识别过程中，构造一些对抗样本的攻击，系统会做出错误决策;网络攻击者通过分析人工智能系统的输出结果和输入数据之间的关系，可以逆向还原出原始数据……训练数据的污染会导致训练的算法模型决策出现偏差;输入数据的异常会导致智能系统的运行错误;开源框架的漏洞为网络攻击者窃取系统数据提供“便利”。
人工智能应用引发安全质疑。数据深度伪造可以生成虚假视频、虚假语音，如果这些内容大量生成与扩散，对个人隐私、社会安全、国家安全都将造成威胁;在新冠肺炎疫情防控过程中，人脸等生物信息也面临被过度采集的安全风险;随着人工智能辅助决策应用场景的增多，一些隐藏的社会偏见将破坏社会公平公正;手机软件利用人工智能算法“杀熟”，根据手机类型的不同推荐不同类型的商品，打车时推荐不同价格、档次的车辆……数据的过度采集、深度伪造、偏见歧视、智能窃取、资源滥用是人工智能面向产业化落地时遇到的安全挑战。
专家表示，从人工智能到可信赖的人工智能，意味着产业需要在技术层面上解决鲁棒性(稳定性)、可解释性和可复制性等核心技术问题。同时，为了大规模产业化应用，还必须考虑到人工智能的公平性和负责性，这些是人工智能必须解决的安全问题。
谈“虎”色变大可不必
“人工智能相当于一个锤子，不能哪一个钉子都砸。”人工智能的技术进步可以给社会带来正向的效益，不应因为现在面临的安全忧虑而谈“虎”色变。
以人工智能最受关注的数据安全领域为例，它与人工智能是互促发展的关系。当前人工智能尚处于海量数据“喂养”阶段，数据安全是人工智能安全的重要保障，数据的质量和安全直接影响到人工智能应用的安全，如果能够妥善处理数据，能够促进高质量数据的集成，就能够很有效地驱动人工智能往正向发展。
同时，人工智能技术应用到数据安全治理方面，能够驱动数据安全治理向精准化、智能化、高效化和自动化等方向发展。人工智能能够实现智能化的分析决策，提升海量数据的处理效率，提升数据内容识别的准确率。这些优点能帮助安全治理自动化、智能化、高效化和精准化。
在发展中解决安全问题
人工智能发展中的安全问题在全球备受重视，各国都在战略规划、伦理规范、技术发展等方面采取了多种举措。我国高度重视人工智能安全的建设，推进人工智能的安全应用和数据安全风险防范。
对于安全问题，中国信通院安全所信息安全研究部主任魏薇认为，因噎废食不可取，要在人工智能发展中解决数据安全的问题。
伦理约束，法规引导。魏薇建议，构建我国人工智能优质的数据资源，在发展中规避数据偏见、数据权属等问题，同时，以数据安全促进人工智能发展。引导社会遵循人工智能的伦理规范，同时要积极参与到国际规则的制定中。建立人工智能数据安全相关的法律法规，特别是其中备受关注的算法、人脸识别、深伪等方面亟须相关的规章引导。加强对人工智能数据安全的监管，包括线上线下多种方式的监督检查，对人工智能相关的产品应用和服务进行监测评估。
技术应对，安全防御。健全标准体系，通过设置专门的人工智能安全研究组，开展一些急需标准的研制。创新人工智能安全技术手段，包括加强基础理论的研究、建设完善我国人工智能开源学习框架，促进人工智能数据安全应用。培养人工智能安全方面的人才，通过企业和科研机构、高校等联合进行人工智能安全课题的申报、技术的研发与应用，共同促进人工智能数据安全治理。(记者 林婧)
精彩推送
- 迟福林：合力建设全球最大自由贸易区
- 银保监会明确2022年工作重点
- 金融风险报告2021：宽松政策对冲经济下行的效果有待观察
- 社论：加大税收对收入分配的调节作用
- 国家中医药管理局与柬埔寨卫生部签署合作协议
- 香港破产程序首次获得内地法院认可
- 多地重大项目集中开工 年内投资总额逾4.2万亿元
- “地方两会”绘制稳增长“施工图” 资本市场需进一步促进投融资协同发展
- “氢”情助力“绿色冬奥” 氢能产业化发展有望提速
- 境内美元流动性充裕“撞上”刚性结汇 人民币汇率节前强势连连
- 降准、结构性降息接连落地之后 货币政策工具箱空间还有多大
- 财政部将实施更大力度组合式减税降费
- 商务部拟实施四项行动提高外贸竞争力
- 多地试水检验试剂集采：为何大范围进行带量采购难？
- 2021年广东省全社会用电量同比暴涨13.58%
- 官宣！首破3万亿 深圳GDP超首尔 挑战世界前十
- 私募大佬遇“李鬼” 这次骗到美国去了！但斌辟谣 拿到0元年终奖
- 天津：做好服务 稳就业促发展
- 六部门联袂畅通优质涉农企业直接融资渠道 北交所农林牧渔“后备军”亟需扩容
- 湖北：第二批新组建省属国企今日揭牌
- 支付备付金突破2万亿 第三方支付行业前景可期
- 北京证监局：2022年将聚焦退市新规 杜绝会计调节规避退市
- 江苏江阴科技镇长团：赋能产业转型升级
- 先进制造引领“世界工厂”东莞突围升级
- 商务部：贡献率达65.4% 消费重新成为经济增长第一拉动力
- 保障性租赁住房土地规划细则公布 明确户型朝向、日照时间、容积率等标准
- 养老金体系将向零售为中心转变 险企如何打通“老有所养”最后一公里？
- 3天可赚12天利息！春节理财最佳操作攻略来了
- 珠江啤酒王志斌：以产业升级推动“双主业”高质量发展
- 中国银行取消个人借记卡年费和小额账户管理费
- 3,000,000,000,000+！深圳GDP站上新台阶 图说成绩背后的上市公司力量
- 钱大妈、美菜网、叮咚买菜 社区生鲜接连败北 2022年投资人的第一个难题来了？
- 六方面入手！财政部明确2022年积极财政政策“路线图”
- 山东玻纤：数字化智能化赋能 实现高质量发展
- 487项 内蒙古机场集团“五小”创新结硕果
- 财政部答一财：对专项债券项目实行穿透式监测
- 首个数字人民币疫后复工专项补贴在西安落地
- HPE全球副总裁、中国区董事总经理朱海翔：将高质量可持续发展作为系统性工程来考量
- 南昌交出2021年“经济答卷”：GDP迈上六千亿新台阶
- 补链成群 巴南一季度集中签约项目24个总投资238亿元
- 人行南宁中心支行：2021年末广西本外币存款余额3.69万亿元 同比增长6.39%
- 2022年春节档新片预售票房破2亿元
- 工信部调整享受车船税优惠的节能、新能源汽车产品技术要求
- 湖北南漳：提交亮丽答卷 开启新年新篇
- 有“亿”点犀利！绿色石化成为湛江首个超千亿产业集群
- 四川内江资中县：三孩家庭购房最高奖励14000元/套
- 增速获客赛道 激活年轻属性——兴业银行信用卡“圈粉”90后
- 四个中外航班收熔断令 涉东航、国航等
- 7年10轮融资 新能源城配“最后十公里”跑出独角兽
- 2022房企收并购再起 优质资产插标
- 坚持创新引领行业发展 新华睿思拓展互联网服务新空间
- “年终奖”如何提高投资收益 银行理财师为市民支招
- 上海自贸区临港新片区：努力完成2022年1000亿元前沿产业招商工作任务
- “火炉之城”重庆“点燃”冰雪运动热情
- 2022年职工医保个人账户改革 这些变化您知道吗？
- 春节期间 津冀地区高速公路禁止危险物品运输车辆通行
- 四川出台7条措施积极扩大有效投资
- 河北省逾10万户企业以简易注销方式退出
- 樊登读书子公司注册资本增至2.6亿元，增幅25900%
- 深圳宝安区与腾讯签署战略合作协议
- 中国石油广东石化项目建设完成总进度84%
- 春节送礼送什么？醉品茶集：要新意更要健康
- 时尚大气还耐看 新捷途X70S亮相
- MAKUKU麦酷酷宣布完成新一轮战略融资，融资金额或高达3000万美金
- 内容平台联手卫视探索春节晚会新形式
- 惠东单日3宗地块顺利出让 平山商住地近4.5亿元成交
- 武汉企业推出翻译领域团体标准
- 深度｜中部市值500强企业全扫描：双碳“来袭” 六省风口产业链“变局”
- 2021年完成建筑业总产值1.73万亿元 居全国第五、西部第一
- 中央网信办：集中整治网络暴力、散播谣言等问题
- 2022年 四川城镇新建建筑中绿色建筑面积占比将达到80%以上
- 天津至潍坊段高铁获批 兼顾城际功能 建设工期五年
- 时间银行来了！攒1万个时间币可入住公办养老机构 996得存20年
- 每月几百元涨到七八千！村民不再要求工资日结
- 未保价快递包裹丢失 媒体介入后顺丰全额赔偿
- 农业农村部：1月25日“农产品批发价格200指数”比昨天上升0.50个点
- 2021年我国软件业务收入94994亿 从业人员规模不断扩大
- 2021年十大消费维权舆情热点公布 这些消费你被“套路”过么？
- 深圳“湾区之窗”智慧办税厅启用 为高质量推进深圳经济发展贡献力量
- 吉林省以“冬奥在北京 体验在吉林”为主题 驱动冰雪经济火热发展
- 2021年甘肃省经济稳中有进 全省地区生产总值突破一万亿元
- 全国碳市场第一个履约周期顺利收官 累计成交额76.61亿
- 1月24日央行开展1500亿元14天期逆回购操作
- 废旧物资循环利用体系示范城市建设将在60个城市开启
- 交通运输部：引导绿色交通发展 加大地方各级财政资金支持力度
- 交通运输部：推动内河老旧码头升级改造 建设绿色交通基础设施
- 支付备付金交存再创历史新高 进一步推动支付机构聚焦支付主业
- 我国将创建100个左右绿色出行城市 提升城市轨道交通服务水平
- 麦当劳缺土豆引发日本“薯条战” 多个日本商家趁机抢占市场份额
- 银保监会：规范定价要求与校准机制 规范银行服务市场调节价管理
- 2022年经济工作要稳字当头 积极的财政政策将更加精准可持续
- 1月中旬32种产品价格上涨 92#汽油价格较上旬上涨3.9%
- 海南省市场监管局：多举措加强重点领域信用监管 强化企业信用意识
- 海南自由贸易港政策效应进一步扩大 原辅料“零关税”增补清单的落地实施
- 商务部：2021年实现引资规模和质量“双提升”
- 商务部回应“机构预测2022年外贸难”：有信心开门稳
- 把握“工业小时代”促进制造业大发展
- 以“实效”实现“稳字当头”
- 住建部：推行工程担保制度
- 中国移动实控人拟增持30亿元-50亿元公司股份 全球折叠屏智能手机销量有望达1569万部