AI换脸火爆的背后:如何防止人工智能技术被“恶用”?
数字化3.0时代,人类生活越来越离不开人工智能。如何防止人工智能技术被“恶用”?越来越多的虚拟人是否会取代部分真人职业?如何克服算法歧视,让人工智能实现可知、可信、可控、可用?
围绕上述热点问题,清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正接受了中新网专访,进行解读。
【资料图】
防止人工智能技术被“恶用”
AI换脸、AI换声、三维重建、智能对话……深度合成技术应用日益广泛,催生了美颜美妆、影视制作、智能客服、虚拟主播、元宇宙等应用服务,但也存在着被恶意利用的现象,一些不法人员用来制作、复制、发布、传播违法和不良信息,诋毁、贬损他人名誉、荣誉,仿冒他人身份实施诈骗等。
怎样抵御这些可能的“恶用”?梁正表示,对于深度合成,AI换脸是一个典型的应用。最近三部门出台了《互联网信息服务深度合成管理规定》,对于规范深度合成服务提出了明确要求。
根据规定,提供人脸、人声等生物识别信息显著编辑功能的,应当提示使用者依法告知被编辑的个人,并取得其单独同意。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示信息内容的合成情况,避免公众混淆或者误认。
梁正指出,使用个人肖像如果没有征得同意,就去公共互联网上采集使用的话,这属于违法行为。平台上如果有类似应用,平台就有责任去监督。即使是合法的使用,也要打上标签,让大家知道这不是真的,一定程度上可以减少深度合成内容产生的认知偏差和社会误导。如果平台自己去提供这一类服务,还要求用相应的工具去识别它不是真实的,这就对平台提出了更高的要求。
“不仅要合法合规,而且还要合意。” 梁正表示,要进一步完善法律法规,严格落实相关规定,建立健全惩罚制度,个人要有维权意识,通过救济渠道维护自身合法权益,从而减少AI被恶意利用的现象。
虚拟人已经开始取代部分真人职业
近年来,虚拟代言人、虚拟主播、虚拟演员歌手,越来越多虚拟人在被推向市场。人们担心,虚拟人在未来或将取代部分真人职业。
“在娱乐、新闻领域,虚拟人的应用越来越多,因为它是一个低成本、高效率的方式。”在梁正看来,虚拟人越来越多也是一种必然的趋势,而且已经在替代部分真人职业了。比如,现在很多虚拟新闻主播,还有电话客服越来越多使用智能语音服务。“这个替代它一定是会部分发生的。”
新生事物发展背后也存在一些隐患。梁正提醒,大家不要把真假弄混了,虚拟人的形象、内容、对话都是基于训练的结果,或者是事先编好的,如果把它当成真人的话,就会产生误导。
“比如说,跟对话机器人去对话要非常小心。对于有些敏感话题,因为它背后没有意识,是顺着你说的,如果没有干预就可能产生误导,但它没有办法承担责任。所以要对虚拟形象的深度合成打上标签,并限定它的使用场景。特别是在教育医疗这样一些敏感的高风险场景,人工干预是必须的。”梁正说。
梁正认为,虚拟人的应用总体要分场景,在游戏、天气预报、新闻播报等一些低风险场景问题不大,但如果是高风险场景,就要非常小心,虚拟形象能够做什么,什么不能做,要把界限划清楚,比如心理陪伴机器人,要评估它说的话带来的长期心理影响是什么样的。
下一代人工智能应该是可解释的
人工智能不离开算法,算法公平和算法歧视话题也备受关注。国外一些研究和媒体报道提到,算法开发者或算法本身根据大数据积累存在种族、性别、文化等歧视的可能性。
对此,梁正表示,算法是依据数据训练出来的,数据的有偏性是导致算法本身有偏性的一个主要原因。所以,算法歧视不是算法造成的,是社会本身造成的,是算法本身的技术特点所导致的,使用大量已经带有倾向性的数据,算法也就会作出一种倾向性的判断。
梁正指出,要想改变这种偏见,首先要纠正社会偏见。所以在使用数据的时候,要进行人工干预,在统计学上可以通过一些模拟数据来做一个平衡,但根本上是要赋予人工智能以常识,要把一些因果的因素考虑进去,而不是单纯只依赖于这种数据。
“绝对的算法公平并不存在。” 梁正认为,算法公平具有多维性,常常面临“不可能三角”式的挑战。在公共管理领域中,起点公平、过程公平、结果公平三者同时实现基本是不可能的。绝对的公平实际上在算法的设计中其实也是做不到的,关键取决于你要什么样的目标。
梁正表示,要实现人工智能可知、可信、可控、可用。可知也就是可解释,这是最基础也是最复杂的层面,下一代人工智能应该是可解释的,如果说它不能够被解释的话,就会限制它很多方面的应用和大家对它的信任。算法可解释,这种条件下才能够放心去使用它。
“现在最大的问题就是黑箱,现有的人工智能是基于数据训练出来,你不知道中间发生的事,而新一代的人工智能就是要在数据的基础加上知识,甚至要加上我们的逻辑,让它能够按照我们可理解的方式运行。”梁正说。
(文章来源:中国新闻网)
精彩推送
- 高洪庆:硬科技将成中国发展新引擎
- 信用卡怎样可以利息减免?信用卡只还本金正常吗?
- 信用卡逾期后果是什么?银行为什么不愿协商还款怎么减少利息?
- 信用卡减少利息对征信有什么影响?信用卡逾期多久会上征信?
- 信用卡逾期后利息太高怎么办?信用卡逾期后果有多严重?
- 信用卡逾期后果有多严重?信用卡逾期多久会上征信?
- 信用卡分期还款有什么影响吗?银行信用卡逾期怎么跟银行协商?
- 焦点资讯:两部门:完善绿电价格形成机制
- AI换脸火爆的背后:如何防止人工智能技术被“恶用”?
- 拘留要钱人,这板子打得人有点懵圈
- 天天观速讯丨饿了么:冬至前夕水果汤圆销量增长超3倍
- 土拍丨保定主城区1宗工业用地成交 梅尔伯格保定环保科技有限公司拿地
- 信用卡逾期了怎么办?如何与银行协商分期挂账?
- 信用卡停息挂账申请条件是什么?信用卡协商后二次逾期了还可以再协商吗?
- 什么是停息挂账?信用卡停息挂账申请办法
- 信用卡逾期还款会影响贷款吗?停息挂账可以申请贷款吗?
- 信用卡逾期还不上怎么处理?停息挂账怎么处理才能贷款?
- 信用卡逾期有什么影响?信用卡逾期了怎么跟银行协商解决分期?
- 信用卡逾期了怎么跟银行协商解决?信用卡逾期了有什么影响?
- 信用卡逾期了如何办理停息挂账?信用卡逾期了无力偿还会不会坐牢?
- 信用卡逾期被起诉了怎么办?怎么和银行协商停息挂账能成功?
- 信用卡还不上怎么办用什么办法解决?信用卡逾期了对个人造成什么影响?
- 信用卡还不上怎么停息挂账?信用卡逾期三个月怎么办?
- 信用卡还不上会有什么影响?信用卡逾期三个月以上怎么补救?
- 焦点热门:两部门:规范有序做好2023年电力中长期合同签订履约工作
- 环球关注:江苏海安:税务赋能跑出营商环境“加速度”
- 财政部:同意停止销售“金光闪烁7”等71款即开型体育彩票游戏
- 江苏南京购房政策再调整:外地人购房无需社保
- 前沿热点:县城里的电商,谁是赢家?
- 热点评!“扑空”世界杯的海伦司,为什么越开店越亏损?
- 三只松鼠跌成“一只松鼠”,零食巨头出路何在?
- 环球最新:张兰之后向太首播即破亿,直播带货转向“太太团”?
- 盖博建筑:健康建筑学承载着“重塑”城市空间的使命
- 快资讯丨AI绘画火了,但商业化没那么容易
- 天天快资讯:北京市向民间资本公开推介101个重点项目,以高精尖产业为主
- 当前热议!集体陷入“闭店潮”,40元一碗的兰州拉面终于卖不动了
- 全球资讯:从敏感肌适用到全肤质敏感肌护理,精细化护肤成美妆消费新趋势
- 解读巴比馒头:优势,壁垒和隐忧
- 漫画《斗罗大陆II绝世唐门》数字藏品上线十八数藏
- 今日热议:国产宠粮品牌崛起,但为何上市的都是代工厂?
- “老年AJ”年销超40亿,如今在直播间又卖爆了
- 【报资讯】多地扎堆进行年内最后一轮土拍,房企拿地热情有望逐步恢复
- 【天天新视野】华夏和达高科REIT定档12月27日上市
- 上海电力于新疆设子公司 经营范围含蓄电池租赁
- 天天快资讯:广州二手房参考价取消了?贝壳、链家挂出真实价格
- 每日视讯:央行公开市场净投放1550亿元
- 挂牌价24万/平重现,一线城市首现二手房参考价“隐退”
- 环球快报:华夏和达高科REIT定档12月27日上市
- 健康财富再升级 友邦人寿“如意悠享”创新覆盖亚健康人群
- 央行公开市场净投放1550亿元
- 自媒体推广:企业新闻稿发布应该怎样掌握节奏? 怎么规划效果最好
- C站日报 | 耐克发布2023财年Q2财报;元气森林宣布将不再使用防腐剂
- 新动态:中信证券:深化职教建设 强化市场信心
- 全球报道:广期所首个交易品种来了!工业硅今日上市 首日涨跌停板16% 如何操作?
- 世界热推荐:山西:鼓励全省A级景区明年开展首道门票优惠活动
- 中信建投:预制菜竞争格局分散 看好具备综合实力的优势企业
- 当前关注:“争取新订单!”企业加紧海外营销 国内健康类家电吃香消费翻倍
- 世界即时:广期所首个交易品种来了!工业硅今日上市 首日涨跌停板16% 如何操作?
- 焦点热门:中信建投:碳酸钠廉价 钠离子电池迎来历史机遇
- 【环球热闻】适时行动保供稳价熨平猪周期
- 快看:国盛证券:经济复苏可期 消费信心重塑
- 世界通讯!重磅!时隔12年 证监会重启房企借壳上市大门
- 全球即时:家电业迎难而上谋发展
- 当前消息!上市公司之间频签大单 布局未来打造新动能
- 全球即时看!重磅!时隔12年 证监会重启房企借壳上市大门
- 焦点报道:货币政策、流动性、房地产 央行这场重磅会议都说到了!
- 货币政策、流动性、房地产 央行这场重磅会议都说到了!
- 世界今日报丨央行:加大稳健货币政策实施力度 推动企业融资成本稳中有降
- 头条:央行:加大稳健货币政策实施力度 推动企业融资成本稳中有降
- 【天天时快讯】投资总额2.5万亿元!粤港澳大湾区全球招商大会达成合作项目853个
- 环球时讯:宁波第四批集中供地:6宗涉宅用地总起拍价约73.96亿元
- 长三角地区首个新能源大型风光基地项目实现首批并网
- 热点评!提升常态化监管水平 支持平台企业发展|法经兵言
- 【世界聚看点】湖南湘乡:房博会期间买参会房企的新房、车位可享100%契税补贴
- 【全球时快讯】山西推进黄河流域生态廊道建设
- 【世界播资讯】长三角地区首个新能源大型风光基地项目实现首批并网
- 全球快资讯:银保监会:房贷转经营贷存四大风险
- 环球看点!高瓴李良:制造业需要自带价值创造能力的投资人
- 世界速递!财政部发布《财政总会计制度》
- 世界快消息!青海西宁:制造业税费缓缴助“青海造”更上台阶
- 全球资讯:报告:依法治企与合规经营成为企业发展关键抓手
- 世界热门:花房集团登陆港交所,秀场直播迎来终局?
- 焦点播报:世界杯归来,BOSS直聘赴港股讲资本故事
- 快消息!全国“快递第四城”揭阳:发力现代化产业体系 做汕潮揭都市圈“开放门户”
- 全球简讯:三宗地底价成交 三圈层优势区位将新添住宅项目
- 焦点滚动:杭银理财:坚定看好债市潜力 已投入近1亿元自有资金认购旗下产品
- 天天动态:进一步活跃市场 河南多地发放纾困解难消费券
- 全球讯息:APEC中小企业合作发展报告:建议加强政策沟通协调 打造产业协同创新生态
- 环球要闻:反季节销售指南:“冰淇淋+”如何在冬季突围?
- 潮玩赛道2022投融资盘点:35家获投资,积木、卡牌充满希望
- 世界银行向柬提供2.7亿美元贷款 支持柬经济复苏
- 地一线 | 主城区4宗215亩地挂牌 涉及华药厂区、高远森霖城、华丹智慧园地块
- 阿根廷夺冠,谁赚麻了?
- 【全球速看料】地一线 | 底价成交!藁城区1宗约34亩住宅用地成功出让
- 速递!广州二手房指导价取消?相关平台:只是恢复显示正常市场价
- 进一步活跃市场 河南多地发放纾困解难消费券
- 中广核电力:防城港3号机组预计投入运行时间调整至2023年上半年
- 全球滚动:证监会:推动形成中美审计监管常态化合作机制
- 楼市调控小步快跑 多地降低改善性购房门槛
- 抢菜成“头等大事” 广州物流配送告急?真实情况是这样