全球视点!公开信全文:马斯克呼吁暂停大型人工智能实验
原题:马斯克公开信(全文)
Future of Life半导体风向标
暂停大型人工智能实验:公开信
(相关资料图)
发布网站:Future of Life Institute
会议时间:2023年3月29日
原文链接:
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
我们呼吁所有人工智能实验室立即暂停对比GPT-4更强大的人工智能系统的培训至少6个月。
大量研究表明,具有人类竞争情报的人工智能系统可能对社会和人类构成深刻风险,并得到顶尖人工智能实验室的认可。正如得到广泛赞同的Asilomar人工智能原理,先进的人工智能可能代表着地球生命史上的一场深刻变革,应该以相应的关心和资源进行规划和管理。不幸的是,这种水平的规划和管理并没有发生,尽管最近几个月来,人工智能实验室陷入了一场失控的竞赛,开发和部署更强大的数字思维,没有人——甚至他们的创造者——能够理解、预测或可靠地控制。
当代人工智能系统在一般任务上正变得具有人类竞争力,我们必须问自己:
应该让机器用宣传和谎言淹没我们的信息渠道吗?
应该自动化了所有的工作吗,包括令人满意的工作吗?
应该让我们开发出非人类的思想,最终可能会在数量上超过我们,比我们聪明,被淘汰,甚至取代我们?
应该让我们会冒着失去文明控制的风险吗?
这样的决策决不能委托给未经选举产生的技术领导者。只有当我们确信强大的人工智能系统的影响将是积极的,其风险将是可控的时候,才应该开发它们。这种信心必须有充分的理由,并随着系统潜在影响的大小而增加。OpenAI的最近关于人工通用智能的声明指出,“在某个时候,在开始训练未来的系统之前获得独立审查可能是重要的,对于最先进的努力,同意限制用于创建新模型的计算增长率。”我们同意这一点,就是现在。
因此,我们呼吁所有的人工智能实验室立即暂停至少 6 个月的比GPT-4更强大的 AI 系统的培训。这一暂停应该是公开的和可核查的,并包括所有关键行为者。如果这样的暂停不能迅速实施,各国政府应该介入并实施暂停。
人工智能实验室和独立专家应该利用这段时间,共同开发和实施一套高级人工智能设计和开发的共享安全协议,由独立外部专家进行严格审计和监督。这些协议应确保遵守协议的系统是安全的,排除合理的怀疑。这不是意味着人工智能发展总体上的暂停,只是从危险的竞赛中后退一步,以便向具有突发能力的更大的不可预测的黑盒模型前进。
人工智能的研究和开发应该重新聚焦于使今天强大的、最先进的系统更加准确、安全、可解释、透明、强大、一致、值得信赖和忠诚。
同时,人工智能开发者必须与政策制定者合作,大幅加快开发强大的人工智能治理系统。这些至少应该包括:专门针对人工智能的新的和有能力的监管机构;监督和跟踪高能力的人工智能系统和大型计算能力池;出处和水印系统,以帮助区分真实和合成,并跟踪模型泄漏;强大的审计和认证生态系统;对人工智能造成的伤害承担责任;为人工智能安全技术研究提供强大的公共资金;以及资源充足的机构,以应对人工智能将导致的巨大的经济和政治破坏。
人类可以通过人工智能享受一个繁荣的未来。现在,在成功创造出强大的人工智能系统之后,我们可以享受一个 "人工智能之夏"。在这个夏天,我们收获了回报,为所有人的共同利益设计这些系统,并给社会一个适应的机会。社会已经暂停了对社会有潜在灾难性影响的其他技术,我们在这里也可以这样做。让我们享受一个漫长的人工智能夏季,而不是在毫无准备的情况下匆忙坠入秋季。
公开信原文
AI systems with human-competitive intelligence can pose profound risks to society and humanity, as shown by extensive research,and acknowledged by top AI labs.As stated in the widely-endorsedAsilomar AI Principles,Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources. Unfortunately, this level of planning and management is not happening, even though recent months have seen AI labs locked in an out-of-control race to develop and deploy ever more powerful digital minds that no one – not even their creators – can understand, predict, or reliably control.
Contemporary AI systems are now becoming human-competitive at general tasks,and we must ask ourselves:Shouldwe let machines flood our information channels with propaganda and untruth?Shouldwe automate away all the jobs, including the fulfilling ones?Shouldwe develop nonhuman minds that might eventually outnumber, outsmart,obsolete and replaceus?Shouldwe risk loss of control of our civilization? Such decisions must not be delegated to unelected tech leaders.Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable.This confidence must be well justified and increase with the magnitude of a system"s potential effects. OpenAI"srecent statement regarding artificial general intelligence, states that"At some point, it may be important to get independent review before starting to train future systems, and for the most advanced efforts to agree to limit the rate of growth of compute used for creating new models."We agree. That point is now.
Therefore,wecall on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium.
AI labs and independent experts should use this pause to jointly develop and implement a set of shared safety protocols for advanced AI design and development that are rigorously audited and overseen by independent outside experts. These protocols should ensure that systems adhering to them are safe beyond a reasonable doubt.This doesnotmean a pause on AI development in general, merely a stepping back from the dangerous race to ever-larger unpredictable black-box models with emergent capabilities.
AI research and development should be refocused on making today"s powerful, state-of-the-art systems more accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal.
In parallel, AI developers must work with policymakers to dramatically accelerate development of robust AI governance systems. These should at a minimum include: new and capable regulatory authorities dedicated to AI; oversight and tracking of highly capable AI systems and large pools of computational capability; provenance and watermarking systems to help distinguish real from synthetic and to track model leaks; a robust auditing and certification ecosystem; liability for AI-caused harm; robust public funding for technical AI safety research; and well-resourced institutions for coping with the dramatic economic and political disruptions (especially to democracy) that AI will cause.
Humanity can enjoy a flourishing future with AI. Having succeeded in creating powerful AI systems, we can now enjoy an "AI summer" in which we reap the rewards, engineer these systems for the clear benefit of all, and give society a chance to adapt. Society has hit pause on other technologies with potentially catastrophic effects on society. We can do so here.Let"s enjoy a long AI summer, not rush unprepared into a fall.
标签:
精彩推送
- 全球视点!公开信全文:马斯克呼吁暂停大型人工智能实验
- 世界今亮点!慕田峪长城孟国群:山花节、夜游长城等新产品带来流量
- 中山大学附属第一(南沙)医院正式启用,横沥岛利好逐一兑现中
- 【独家】15家北交所公司公布2022年度分配方案
- 成都拟拍卖3宗宅地 青羊区地块限价3.5万元/平方米
- 5站珠江新城,白云品质标杆-龙湖天著,全城热销竞藏
- 全球时讯:库克现身米哈游总部 与《原神》创作者交谈
- 环球信息:资金流向(3月29日)丨中科曙光、三六零、浪潮信息融资资金买入排名前三
- 世界热资讯!保险行业首只产权类Pre-REITs专题基金完成签约 规模约50亿元
- 每日视讯:财经头条:40股“剧透”一季报 机构潜伏预喜公司
- 中国短视频用户规模超10亿 人均单日使用时长超2.5个小时
- 大湾区早报|“投资中国年”广东专场推介活动举办 现场签约投资总额达905亿元;专家:“通关”利好香港经济 料全年楼价升10%
- 正极路线难定论 钠电池产业化挑战仍多
- 钮文新:美国难圆“金融之谎”——巨型泡沫时刻威胁美元安全
- 世界时讯:FF开始生产FF 91 贾跃亭称:将分三类别三阶段交付
- 环球关注:国家卫健委:进一步加大对开展医疗美容、辅助生殖等服务的医疗机构的抽查力度
- 春日归家!梅州五华敏捷锦绣悦府兑现时光里的美好
- 环球要闻:五矿经研院陈俊全:新能源汽车阶段性降速 或引发产业链反向清理库存
- 【独家】财经头条:40股“剧透”一季报 机构潜伏预喜公司
- 程一笑:快手在文本、语音、视频等各模态的内容生成方面均有布局
- 环球焦点!民航局:同意将璧山正兴场址作为重庆市新机场的推荐场址
- 葛卫东“突然”出手!
- 交通水利用地供应持续增加 重庆发布2023年供地计划
- 今日热门!广汕铁路新塘站城际场启用,将与多条轨道交通线路交汇
- 世界新资讯:昨日两市共77只个股发生大宗交易 总成交21.34亿元
- 重庆新机场定了!璧山正兴
- 3月广州一手住宅成交量破万套,翻倍!但下旬热度降了
- 环球微头条丨重庆新机场定了!璧山正兴
- 天天热消息:探索遨游“星辰大海” 陕西航空航天产业集群“点火起飞”
- 昨日两市共77只个股发生大宗交易 总成交21.34亿元
- 创业板公司首季业绩抢先看 9家预增
- 社保基金去年四季度重仓股揭秘:12股社保基金持股比例超5%
- 怎么把手机设置成wifi热点连接笔记本上网?手机报警器怎么设置?
- 手机app怎么制作?门禁卡加密怎么复制到手机?手机app制作方法
- 怎么用NFC复制门禁卡?gmail邮箱怎么注册?NFC的简单介绍
- 当前快报:国有经济结构优化再落子 下一步瞄准新兴产业 央企11组专业化整合项目集中签约
- 3月30日要闻提示
- 最新:每年节省167亿!第八批集采,开标!
- 重庆市住房公积金2022年年报出炉:存缴548.89亿 提取350.65亿
- 每日速读!央企专业化整合 十一组项目签约
- 全球新动态:千家品牌接入大雁系统,网商银行金晓龙:把助微计划落到实处 数字供应链金融“助微”再发力
- 【3月30日Choice早班车】工信部副部长:中国对6G发展持开放的态度
- 快报:枣强税务: 便民春风送温暖 政策落实更高效
- 今日报丨云南丽江通报旅游团导游威胁游客:属实 严肃处理
- 天天观察:银行基业长青系于风险管理
- 竞争力稳步提升 中国品牌闪耀国际市场
- 全球最新:银行基业长青系于风险管理
- 世界热头条丨京东云“优加”破题品牌商数智化进阶
- 【3月30日Choice早班车】工信部副部长:中国对6G发展持开放的态度
- 全球讯息:TVB第二场淘宝直播要来了!港剧沉浸式直播12小时
- 热议:2022人民网人工智能算法挑战赛颁奖仪式成功举办
- 时讯:2022人民网人工智能算法挑战赛颁奖仪式成功举办
- 当前最新:上海与中国旅游集团签署战略合作协议
- 天天热消息:光大银行深圳分行“3·15金融知识教育宣传”活动落下帷幕 共触达700万人次
- 今日热搜:上海与中国旅游集团签署战略合作协议
- 环球观焦点:工业和信息化部:开展“一链一策一批”中小企业融资行动
- 每日动态!央行行长易纲:实现碳达峰、碳中和需要“胡萝卜+大棒”
- 热讯:中上协柳磊:以儒商文化涵养当代企业家精神 助力高质量发展行稳致远
- 中上协执行副会长:上市公司研发投入约占中企研发支出的一半以上
- 天天消息!首期2500余人次参与!“政策规则助企行”之深圳商务系列培训全面启动
- 当前短讯!河北证监局联手省工信厅举办高质量发展培训会 推动中小企业加速蝶变
- 环球观焦点:杭州第二批集中土拍收金145亿元 全国多地土地市场热度回升
- 减轻购房者负担 多地调整房贷利率
- 最新:工业和信息化部副部长王江平:5G红利不是近入尾声 而是刚刚开始
- 工信部副部长:中国对6G发展持开放的态度 已成立工作组推动关键技术研究
- 格兰仕加码预制菜产业链布局 发起成立中国预制菜产业生态联盟
- 北京丰台发布多项创新举措 吸引全球高端要素汇聚
- 当前时讯:北京丰台发布多项创新举措 吸引全球高端要素汇聚
- 工信部副部长:中国对6G发展持开放的态度 已成立工作组推动关键技术研究
- 当前速看:工业和信息化部副部长王江平:5G红利不是近入尾声 而是刚刚开始
- 文旅部、发改委联合印发《东北地区旅游业发展规划》
- 全球快报:逼近1000亿!创新产品首秀 双双领涨
- 全球热推荐:C站日报 | 快手、泡泡玛特等发布财报;钟薛高推出3.5元AI雪糕“Sa‘saa”
- 彭华岗:ESG发展需要国际接轨 更需要契合地域特点
- 中汽协付炳锋:乘用车电动化和智能化为商用车转型提供可借鉴经验
- 【快播报】第8批国家集采药品平均降价56%
- 环球简讯:白春礼:开放合作的科技创新生态是解决人类发展问题的“金钥匙”
- 机构策略:股指预计将维持震荡格局 关注通信设备、半导体等行业
- 天天速读:加速商业化的小红书,还有比复制董洁更紧迫的事
- 观点:白春礼:开放合作的科技创新生态是解决人类发展问题的“金钥匙”
- 推出3.5元低价雪糕,钟薛高为何选择降价?
- 中国人民大学冯仕政:企业履行社会责任创新存在不足 做慈善只是很小的一部分
- 环球观焦点:想在广州买房?我建议你先看看这个
- 焦点信息:打造高质量科技服务团 用数字化服务乡村振兴
- 速讯:澳门:2月酒店业场所住客人次同比上升78.5%
- 中国银行家调查报告(2022):数字化智能化转型成为银行业新的利润增长点
- 全球播报:中国贸促会:2月份国际专利体系中申请量最多的是中国
- 当前最新:广东省地震局:佛山三水地震原震区近几日发生5级以上地震可能性不大
- 当前报道:常熟农商银行昆山支行招聘启事
- 工业和信息化部:1-2月全国多晶硅产量约17.6万吨 同比增长超过60%
- 衡水1地发布最新征地公告!有你村吗?
- 从青桃到“汽水音乐”,抖音的“偏殿菩萨”们过得怎么样?
- 【独家焦点】今年全国已有近40城优化住房公积金政策
- 当前资讯!郑州西区中医院(河南省中医院西区医院)岗位招聘简章
- 焦点资讯:去年房产交易量骤减,从业人员反增?广州13万人做地产中介
- 天天观察:“绿牌”改革已具备相应条件 多重手段仍可为新能源车“加油”
- 工信部:1-2月全国多晶硅、组件产量同比增长均超过60%
- 乘联会:3月1日-26日乘用车市场零售102.1万辆 同比下降1%
- 全球快资讯丨工信部:1-2月全国多晶硅产量约17.6万吨 同比增长超过60%
- 信阳师范学院教育科学学院优秀人才招聘公告