大模型要先“安全” 再“AI”|产业观察
作为2023年第六届世界人工智能大会上“最靓的仔”,超过30个大模型的展示着实让科技行业和全社会都看到了大模型所具备的巨大发展动能,如今不具备点大模型能力,都不好意思说自己是科技公司了。
(资料图片)
作为新兴的技术领域,“低头快跑”的确是不少企业首先要思考的问题,毕竟只有跑得更快更远,最后才能活下来。但是与此前其他技术有所不同的是,在生成式AI上,用户的输入再到大模型的检索和输出,无一不是AI在数据和内容层面的一次次“学习”和“交卷”。
是“学好”了还是“学坏”了?答案是对的还是错的?因此与此前众多领先技术快速发展最不用的是,大模型的“安全”问题必定要更早的介入和重视。
在本届世界人工智能大会上,九大“镇馆之宝”中就有来自蚂蚁集团的AI安全检测平台“蚁鉴2.0”。据介绍,“蚁鉴”是业内首个产业级支持文本、图像等全数据类型的AI安全检测平台。蚂蚁集团方面也表示,今年将通过与清华等高校和机构联合科研,全面升级“蚁鉴2.0”,新版本新增了AIGC安全性、AI可解释两项评测能力,可服务于数字金融、教育、文化、医疗、电商等领域的大规模复杂业务场景。
在谈到推出AI安全检测平台的初衷时,蚂蚁集团机器智能部总经理、蚂蚁安全实验室首席科学家王维强就指出,AI未来通用和可信一定是一体两翼,缺一不可的。“蚂蚁在重点研发AI大模型的同时,更加关注AI的可信安全问题。”王维强在接受南方+记者采访时就表示,在蚂蚁集团看来,人工智能的深度应用,不仅对数据、算法、算力提出了更高要求,也对安全、隐私、伦理提出更多挑战。在确保数据安全和隐私保护、健全人工智能伦理与安全的前提下,才能让AI技术真正地释放应用价值。
同样看到大模型安全问题的,还有腾讯。
“基于行业大模型,构建自己的专属模型,也许是企业更优的选项。”在2023世界人工智能大会上,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生在谈到行业大模型对于企业而言为什么是“更优选项”时,就将“安全”放在了最重要的位置。
汤道生指出,用户对企业提供的专业服务,要求高、容错性低,企业一旦向公众提供了错误信息,可能引起巨大的法律责任或公关危机,因此对于企业而言,用行业大模型可以让内容更安全。此外,行业大模型和模型开发工具可以通过私有化部署等方式,让模型训练更放心,也可以避免员工访问模型时,发生企业敏感数据的外泄,可以保证数据更安全。
所以不难看出,腾讯的行业大模型处处也是在为“安全”着想。特别要说的是,越来越多不同应用场景的AIGC产品,已经是目前企业在布局大模型时遇到的最大安全挑战。
“如果一个厂商要提供一个AIGC能力的话,首先肯定是要严控数据源的真实、无害和可用性。”腾讯安全天御研发工程师周维聪在接受南方+记者采访谈到AIGC内容风控的问题时就指出,如今AIGC会一本正经地胡说八道,背后除了大模型还不够完善外,不排除有“数据投毒”等的安全风险。“这是现在比较大的挑战。”周维聪坦言,现在面对AIGC内容还不够准确的问题,只能构建真实事件库和真实事件知识相关的知识图谱,来满足AI学习时能学到正确的知识。“或者是配合后端的人审。”周维聪为AIGC内容安全给出了“兜底”的解决之道。
安全业内人士给出的建议,是不是与如今大多数人在AI行业发展中所憧憬的未来会有所不同?但是在“安全”的大前提面前,似乎不无道理。
“AIGC极大地扩展了内容生成能力,极大扩展了每个人所能触达的知识领域和创造性,这是好的方面。”在腾讯安全内容风控产品经理李镐泽看来,创造性虽然很有需要,但是也要在一定的框架之内。“比如说不能去踩内容底线,不能有虚假信息,也不能有个人隐私的侵犯,AIGC延展内容生成和创造性的同时,我们也要去控制延展的范围,其实是需要达到一个平衡。”
(文章来源:南方Plus)
标签:
精彩推送
- 商务部世贸司负责人:《投资便利化协定》是全球首个多边投资协定 将进一步提振全球投资者信心
- 大模型要先“安全” 再“AI”|产业观察
- 陷入“月薪15万”骗局 电影《孤注一掷》“美艳荷官”金晨亮相
- 2022年北京地区游戏企业总产值约1051.13亿元 同比增长2.79%
- 让利型基金要来了?与浮动费率产品差异较大 业内多家机构称已上报实施方案
- 《2023通用人工智能创新应用案例集》发布 “360智脑”、通义千问等入选
- 全球观点:机构称上半年商铺租赁有所恢复 购物中心租金止跌转涨
- 全球时讯:港股有色金属板块午后震荡走强 中国白银集团、五矿资源等走高
- 广州南沙多举措促制造业数字化转型
- 环球讯息:迅雷下载卡在99.9%无法完成怎么办?迅雷是什么软件功能?
- 淄博烧烤店铺大量转让 赶“烤”过后更要拼服务和品质
- 各路豪门砸钱引援 欧洲足球俱乐部也忙于签球衣赞助开源
- 中国信通院发布《2023大模型和AIGC产业图谱》
- 暑期演出“旺季”来临 7-8月演出项目超8000个
- 中国信通院发起大模型生态合作共同体 推动人工智能产业创新发展
- 焦点快看:10个维度 摸底券商研报业务
- 视焦点讯!金融监管总局:8月1日起扩大适用税优政策的商业健康险产品范围
- “高烤”预警 今天16时31分将迎来小暑节气-全球短讯
- 一会计师事务所及2名注册会计师被暂停执业半年
- 交行行长刘珺:AI带来广泛变革,中国数据、场景有规模优势
- 交行行长刘珺:AI带来广泛变革,中国数据、场景有规模优势
- 每日快播:大模型“国家队”来了!华为、科大讯飞、阿里等入局
- 行业风向标 | 种业新技术发展,行业龙头或迎黄金成长期|今日视点
- 中国太保联合百度、阿里、科大讯飞等企业启动保险数字劳动力生态合作
- 网信办:拟规定不得借网络暴力事件实施蹭炒热度、推广引流等恶意营销炒作行为
- 罚款超195万 浙江金华多家金融机构被罚
- 民生证券:泛海控股所持公司35.546亿股权再被冻结
- 支付宝2023上半年出境游洞察:最爱出境游Top10城市广东占五席
- 阿斯利康在华三十年:跳出旧逻辑 探索新道路|“20年·公司志” 环球速递
- 这个夏天,雪糕市场“静悄悄”
- 突发大消息 这股三涨停!AI算力跳水!特斯拉大动作 再推奖励政策!
- 环球快资讯:喊着要健身的打工人,养得活Keep吗?
- 全球百事通!颠覆城市想象!龙湖御湖境「万博喜来登」展厅7月8日开放,现象级产品首曝光
- 民生证券:泛海控股所持公司35.546亿股权再被冻结 观速讯
- 中国太保联合百度、阿里、科大讯飞等企业启动保险数字劳动力生态合作|当前短讯
- 网信办:拟规定不得借网络暴力事件实施蹭炒热度、推广引流等恶意营销炒作行为
- 中央气象台7月7日10时继续发布暴雨蓝色预警
- 酷暑天气 藿香正气口服液、清凉油等线上销量环比增3倍多
- 医药股震荡反弹 拓新药业、江苏吴中涨超7%
- 全国首笔“数字人民币+TIPS海关实时扣税”业务落地
- 时瑞浩:广汽魔方像积木 “用户定义汽车”正在落地
- 白云湖两大项目进度刷新!板块这些热门楼盘不容错过
- 环球微头条丨广州、上海、深圳等城市提高多子女家庭公积金贷款额度
- 部分企业整合办公空间!机构:降本增效需“多管齐下”
- 大模型“国家队”来了 360、百度、华为、阿里等入局
- 微动态丨机构报告:上半年全国优化楼市调控超300次 下半年政策加力预期增强
- 融资客看好7股 买入占成交超三成
- 国家发改委产业发展司召开轻纺行业经济运行座谈会|天天速看料
- 7月6日中国汽、柴油平均批发价格分别为8783、7252元/吨
- 今日4只基金首发募集
- 第六届进博会:企业商业展签约面积已超33万平方米 筹办工作转向招商办展为主
- 人民银行今日开展20亿元逆回购操作 公开市场实现净回笼1010亿元
- 全球今日讯!中林集团与河南省信阳市政府签署战略合作协议
- 头条:【研报推荐】东方证券:数据跨境流通监管再下一城
- 第六届进博会:企业商业展签约面积已超33万平方米 筹办工作转向招商办展为主
- 国海良时期货黄陵县苹果“保险+期货”成功立项|环球速看料
- 当前简讯:上清所:大宗商品清算通业务清算金额突破万亿元
- 小盘风格备受市场青睐 指增基金借“风口”入市
- 股票t+0怎么操作?股票交易规则有哪些-环球关注
- Stellantis候任首席财务官:了解中国很重要 中国蕴含“巨大机会”
- 【研报推荐】东方证券:支付端政策趋暖 利好创新药行业长期健康发展
- 融资最新持仓曝光!加仓医药生物、有色金属、计算机
- 国海良时期货黄陵县苹果“保险+期货”成功立项
- 外汇局新疆分局: 开展“汇率避险、疆在行动”推动汇率避险工作_即时
- 7月7日要闻提示
- 中金公司:LCD面板周期迎来新一轮的拐点 世界热文
- 中金公司:LCD面板周期迎来新一轮的拐点 当前看点
- 中信证券:预计硅料价格进一步下行空间已经不大-每日快讯
- 沈阳人工智能计算中心纳入全国算力战略体系
- 猪企上半年销售数据陆续出炉 价格下跌影响业绩
- 对上市公司在互动平台发布信息应强化法律约束
- 中指院:上半年新房价格基本横盘 下半年市场恢复或仍有波折
- 世界热讯:沈阳人工智能计算中心纳入全国算力战略体系
- 报道:对上市公司在互动平台发布信息应强化法律约束
- 高等教育助力劳动力素质升级 当前我国接受高等教育人口达2.4亿人
- 陕西延安创新招才引智举措
- “小暑”迎高温 下周入伏
- 应急管理部启动危化品重大危险源企业2023年第一次部级督导核查
- 优化营商环境 外企高管现场“出题”
- 共享物业破解小区管理难题
- 前5月我国服务贸易增长10.2% 旅行服务进出口增长最快|速递
- 海清岸绿看昌江-快看点
- 深圳出台15条措施 应对海外知识产权纠纷
- 深圳市将举办趣味多样的节能降碳集市活动 市民可体验节能低碳生活场景
- 新华全媒+|引金融活水 润实体经济——金融支持经济发展一线观察
- 推进跨境诉讼服务智能化 龙华法院发布一站式跨境家事诉讼“云平台”
- 拓展应用场景 完善产业生态 上海聚焦人工智能培育新动能
- 消费券刺激购物热 海南快递发货量应声涨151.79%
- 城际挺进市中心!琶洲支线全线洞通、将在年内建成-全球关注
- 每日快播:书记区长谈贯彻二十大精神 | 北京大兴:政府守规矩、企业站C位 竭尽所能为企解困
- 全球微资讯!对外经贸王健:跨境电商发展过程中平台的赋能作用非常重要
- 广东台商助力粤东西北“融湾发展”活动在汕尾举办
- 第二十九届兰洽会兰州新区签约219个项目 金额达758亿元
- 北京人寿:正式启动“首善人家—北京人寿康养中心”康养社区项目
- 全球球精选!交通运输部部长李小鹏:积极扩大交通有效投资 加强交通运输科技创新驱动
- 世界实时:大语言模型在哪些垂直领域会更好发展?这些大佬给出方向
- 焦点快报!上海:聚焦深化高水平改革开放 加快实施自由贸易试验区提升战略
- 广州出台政策破解“四不像”短板 科技成果转化净收入七成以上可用于奖励
- 当前短讯!名校毕业生涉嫌非法获取校友信息被刑拘 IT精英何以如此轻易触法?
- 上海:聚焦深化高水平改革开放 加快实施自由贸易试验区提升战略