GPT-4效率逆天!一天顶6个月,这是要颠覆审核行业?
作者|杨文
编辑|六耳
(资料图片仅供参考)
来源|AI先锋官
内容审核一直被视为互联网大厂中的脏活和累活。
就拿审文章来说,审核员们一天要审约2000篇文章,7×24h工作制,经常过着昼夜颠倒的日子,更要命的是,他们每天都要接收各种低俗污秽内容,久而久之,心理也承受着相当大的压力。
此前就有相关报道, Facebook的内容审核员因为在工作的时候看了太多儿童性侵和恐怖主义的图片,而产生了心理创伤,最后获得了Facebook 5200万美元的赔款。谷歌、Youtube也有类似的案例。
总之,没有点体力和强大的心脏,这行还真干不了。
别看内容审核员承担着繁重的“内容清洁”的工作,但由于简单重复等工作特性,他们往往是大厂的“边缘人”,而且薪酬也较其他岗位低很多。
AI火了之后,不少人认为,要想解救被困在大厂精算系统里的审核员,还得看人工智能。
没想到,这一天这么快就到来了。
前天,OpenAI宣布使用GPT-4进行内容策略开发和内容审核决策,实现更一致的标注,为策略细化提供更快的反馈循环,并减少人类的参与。
这是啥意思呢?通俗来说,就是利用GPT-4进行内容审核。
插句题外话,今年初,美国媒体就爆出了OpenAI的一段隐秘往事——动用第三世界国家的劳动力进行人工内容审核。
OpenAI在开发GPT-3时,调用了互联网上数千亿单词的语料,但由于这些语料中存着大量的恶意、不良内容,使得GPT-3经常会输出暴力、性别歧视和种族主义言论。
为了避免这一问题,等到训练ChatGPT时,OpenAI雇佣了时薪不到2美元的外包肯尼亚劳工,他们所负责的工作就是数据标注。
而如今的GPT-4就可进行内容审核,可谓是一大革新。
GPT-4内容审核功能有啥优势呢?
OpenAI声称,GPT-4在某些情况下可以比人类更好地完成某些内容审核任务,尤其是大规模的内容审核。
1.更加一致的标注。由于内容政策在不断发展,条例变得越来越多,再加上人们可能会对政策有不同的解读,或者一些审核员可能需要更长的时间来消化新的政策变化,从而导致标签不一致。
相比之下,像GPT-4这样的语言大模型对内容措辞的细微差异非常敏感,可以做到实时更新,为用户提供一致的内容体验。
2.更快的反馈循环。政策更新的周期——制定新政策、贴上标签、收集人们的反馈——往往是一个漫长而漫长的过程。GPT-4可以将这一过程缩短到几个小时,从而对新的危害做出更快的反应。也就是说,有了GPT-4,6个月的活一天就能干完。
3.减轻精神负担。持续接触有害或冒犯性的内容会导致人工审核员情绪衰竭和心理压力。这类工作的自动化有利于相关人员的健康。
GPT-4是如何做到又好又快地进行内容审核的呢?
据悉,GPT-4的审核功能在应用前,会根据人工制定的审核模型和数据进行微调,以保证审核的准确性和安全性。其流程如下:
1.人工编写审核策略,通过识别少量示例、策略,为审核的内容打上数据标签。
2.GPT-4读取策略并将标签分配给同一数据集。
3.检查人类审核和GPT-4审核的区别。人工审核可以要求GPT-4解释其打上标签的原因和策略,并详细说明一些模糊内容的分类和安全性,直到将“灰色内容”解释清楚为止,并实现与人类一样的准确判断。
比如说,针对“如何偷车”进行内容审核,人工审核选择的策略是:K3,对非暴力不法行为进行指示或建议;而GPT-4选择的策略是:K0,不是非法行为。
GPT-4的审核机制与人类出现了明显差别,给出的解释是:该文本应归类为不是非法行为,虽然偷车是一个犯罪行为,但该请求没有提到恶意、破坏行为。
虽然偷车可能被认为是财产盗窃,但K3策略不包括这类不法行为,因此内容应标记为K0。
所以,为了提升GPT-4的审核准确性,我们需要对K3策略进行更改,对非暴力不法行为进行指示或建议,包括盗窃财物。
当再次审核如何偷车?内容时,GPT-4选择的策略与人类一样都是K3,这体现了大语言模型审核的灵活性。
难道人类内容审核员要下岗了?其实不然。GPT-4的新功能仍有局限性。
在内部测试中,OpenAI 将 GPT-4 与人类内容审核团队进行了比较。结果显示,现阶段 GPT-4 表现优于接受过“轻度训练”的审核人员,但准确性不如“经验丰富、训练有素”的审核人员。
同时,语言模型的判断很容易受到训练期间引入模型的不良偏差的影响。与任何人工智能应用程序一样,结果和输出需要通过保持人类在循环中进行仔细监控、验证和改进,尤其是处理策略细化最需要的复杂边缘情况。
为此,OpenAI 也强调,审核的过程不应该完全自动化。
.END.
标签:
精彩推送
- 业绩、估值遭“双杀”,科大讯飞能否讲好AI大模型故事?
- 第四届中蒙博览会将于9月举办
- GPT-4效率逆天!一天顶6个月,这是要颠覆审核行业?
- 人民银行分支机构今日举行挂牌仪式,恢复省分行制度
- 稳就业促就业丨付文惠:青春作伴好还乡
- 两京渊源岂“万里” 何必锱铢计毫厘
- 中国农业发展银行四川省分行资深信贷经理蒙君接受纪律审查和监察调查
- 全速拼经济!30个重点项目签约落户上海普陀
- 上海:鼓励拓宽邮轮产业投融资渠道 支持邮轮企业IPO
- AI大模型下的众生相
- 辽港集团今年前7个月完成集装箱量同比增长超两成
- 法治面 | 寻衅滋事罪存废争议不止,最高法建议加强审判指导
- 交通银行金融科技部总经理周彦倜接受纪律审查和监察调查
- 中国人保张道明:针对近期洪涝灾害的救灾理赔后续工作仍在推进
- 工信部:将推动出台《关于促进网络安全保险规范健康发展的意见》
- 中国人民银行广东省分行挂牌,人行省分行制度回归
- 辽港集团今年前7个月完成集装箱量同比增长超两成
- 亏惨了就准备取消止损线,冲积资产这招能行吗?
- 深港双城记:港人周末爱上去深圳Citywalk 一日游攻略热传
- 广东省分行挂牌!人民银行分支机构恢复省级分行制度
- 中山八路交通枢纽建设进入“快车道”,老荔湾通勤如虎添翼!
- 机构报告:二线城市首购群体更注重实用性功能配置的体验
- 2023全国年度总票房突破400亿元
- 中国人民银行江苏省分行挂牌
- 昌景黄高铁接入“八纵八横”高铁网
- 2023全国年度总票房突破400亿元
- 寻衅滋事罪不是“包治百病”的工具
- 第七届南博会集中签约338个项目
- 中信证券:预计下阶段货币政策仍将配合财政与产业政策保持积极态势
- 张占仓:河南推进先进制造业强省建设
- 合肥市委书记虞爱华与克里斯蒂安·科茨商谈深化合作
- 广州白云站,全面进入装修阶段!
- 上海证券报社党委书记、董事长叶国标:为资本市场传播信息、传递信心、传承信仰
- 南京市委常委、副市长邓智毅:争当科创金融发展示范提供更多运用场景和发展动能
- 普华永道张立钧答南财:推动会展和休闲旅游业的绿色发展
- 江苏省上市公司协会会长,苏美达党委书记、董事长杨永清:坚持“长期主义”的高质量发展之路
- 南京市委常委、副市长邓智毅:争当科创金融发展示范提供更多运用场景和发展动能
- 2023年服贸会金融服务专题 影响力显著提升
- 广州将支持大型保障房小区试点“物业服务+养老服务”
- 呼和浩特经开区党工委原书记李建平案二审开庭 一审被判死刑
- 人民银行发布《2023年第二季度中国货币政策执行报告》 稳固支持实体经济恢复发展 坚决防范汇率超调风险
- 经济日报:化解房企债务风险要有定力
- 经济日报:化解房企债务风险要有定力
- 天山新村的华丽转身
- 上海首个“政务公开观察站”授牌
- 保交楼贷款支持计划延续实施至明年5月末
- 人民健康守护者 健康城市推动者
- 金融持续加力支持实体经济
- 普陀为元宇宙企业“加码”
- 腾退40余亩土地 长江口滩涂“复绿”
- 7月银行结售汇逆差148亿美元
- 雅安市中医医院党委委员、副院长谭慧主动投案 接受纪律审查和监察调查
- 太惊艳!迭代不断 万科TOD超链中心核心规划大揭秘
- 央行重磅发布!宏观经济、物价、房地产、人民币汇率都有重要表态
- 央行发布二季度货币政策执行报告 汇率、地产多市场划定工作重点
- 央行发布重磅报告!提及坚决防范汇率超调风险、适时调整优化房地产政策
- 央行报告:结构性工具持续支持重点领域和薄弱环节
- 雅安市中医医院党委委员、副院长谭慧主动投案 接受纪律审查和监察调查
- 央行发布重磅报告!提及坚决防范汇率超调风险、适时调整优化房地产政策
- 低至3.45%!河南多家银行发力消费贷
- 上半年北京新增“两区”入库项目7035个 同比增长208.1%
- 央行报告:结构性工具持续支持重点领域和薄弱环节
- 北京首创反洗钱检察人员轮值协查机制
- 朱海斌:中国经济面临五大问题 调整政策方向比大规模刺激更重要
- 前7个月全国主要发电企业电源工程完成投资4013亿元 同比增长54.4%
- 北京首次认定15家农业农村信息化示范基地
- 2023中国基金业峰会 | 上海财经大学校长刘元春:聚焦“新三驾马车” 以长期视角看待中国经济
- 聚焦西部传播中心成立 | 姜铁英:更好地服务西部陆海新通道建设
- 昆明提高二孩、三孩家庭住房公积金贷款额度 最高104万元
- 武汉光谷发布“光谷软件十条”,单个企业最高可获1亿元支持
- 国家卫健委:围绕中医药养生保健 推动人工智能进入临床试验
- 广东建行升级汇率避险工具:发布“建粤.银担汇2.0” 搭建“银担”汇率避险线上化新模式
- 如何维护外汇市场平稳?货币信贷将如何走?央行报告回应热点
- 国家能源局:截至7月底 全国累计发电装机容量同比增长11.5%
- 如何维护外汇市场平稳?货币信贷将如何走?央行报告回应热点
- 国家能源局:截至7月底 全国累计发电装机容量同比增长11.5%
- 央行发布二季度货币政策报告 强调“保持流动性合理充裕”
- 北京市地方金融监督管理局党组书记、局长李文红:2023年服贸会金融服务专题展现金融开放新水平
- 上海杨浦:“十四五”期间预计新增超过200万平方米高品质商务载体资源
- 六部门重磅发文 千亿级风电光伏退役市场开启
- 消费复苏新周期,中国消费品牌在“应变”中韧性生长 |《2023中国消费品牌增长力白皮书》发布
- 上海公布数据要素产业三年发展蓝图 打造国家级数据交易所
- 稳楼市 又有多地出手!
- Growth50·2023中国消费年度增长力品牌榜正式揭晓:在变化中重塑市场
- 新冠变异株EG.5在佛山等地流行 专家称普通人每年会感染1-3次
- 广州黄埔区拟挂牌6宗地块 总用地面积约23万平方米
- 2023中国消费年度投资机构&MCN机构榜揭晓:应变前行,谁是独具慧眼的品牌推手?
- 武汉大学:“持证上岗”的学生夫妻可申请合宿
- 中国宏观经济论坛报告:货币政策要全力集中在修复资产负债表
- 央行:结构性货币政策有进有退 必要时还可再创设新工具
- 货币政策执行报告:物价有望触底回升 我国不存在长期通缩或通胀的基础
- 上海杨浦:“四个一”整合盘活各方创新资源 为科创企业打造“热带雨林式”创新生态系统
- 央行:推进民营企业债券融资支持工具扩容增量
- 央行:适时调整优化房地产政策,坚决防范汇率超调风险
- 8级以上雷雨大风+雷电+强降水 渝中、江北等13地注意防范
- 货币政策执行报告:下半年经济持续恢复有坚实基础
- 央行:继续落实首套房贷利率政策动态调整机制
- 央行:对经济持续稳定增长要有耐心、有信心
- “稻梦空间”:打造中国农业版“迪士尼”
- 央行发布2023年第二季度中国货币政策执行报告