为什么马斯克、图灵奖得主等千名从业者联名叫停大型AI研究?-全球快消息
【资料图】
图源:pixabay
撰文| 张天祁 李珊珊
● ● ●
3月28日,GPT-4发布两周后,一封埃隆·马斯克(Elon Musk)以及上千名科技界人士签署的公开信在网上发布。这封公开信呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练至少6个月。
苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、图灵奖得主约书亚·本吉奥(Yoshua Bengio)、AI领域教科书《人工智能:现代方法》的合著者斯图尔特·罗素(Stuart Russell)等著名科技人士均在这封公开信上署名。
这封公开信声称,“高级AI可能意味着地球生命史上的深刻变革,我们应当投入相称的关注和资源对其进行规划和管理”,但现在人工智能已经陷入失控的竞赛,开发者也无法理解、预测及可靠地控制。
这封公开信还提到,当代人工智能系统现在在一般任务上变得与人类具有竞争力,“只有当我们确信强大的人工智能系统的效果是积极的,其风险是可控的,才应该开发。”
按照公开信的设想,应该暂停比 GPT-4 更强大的 AI 系统6个月训练。在这段暂停期间,人工智能实验室和独立专家应该共同开发和实施一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。
这些协议应确保它们的系统是安全的,并且无可置疑。这并不意味着总体上暂停AI开发,只是从向更大的、不可预测的黑盒模型的危险竞赛中退后一步。
这封信发布在未来生命研究所 (Future of Life Institute) 网站上,那家研究所主要由马斯克基金会、有效利他主义组织 Founders Pledge和硅谷社区基金会资助,机构的使命是引导变革性技术远离极端、大规模的风险,转向造福生活。
早在2017年,未来生命研究所便曾在加州召集了100 多位经济学、法律、伦理学和哲学领域的思想领袖和研究人员齐聚一堂,讨论和制定有益人工智能的原则。最终他们制定了23条阿西洛马人工智能原则,被视为人工智能治理的重要原则。其中第一条是“ 人工智能研究的目标应该建立有益的智能,而不是无秩序的的智能。”
对本次在公开信上署名的那些科技工作者来说,大部分人的担忧在于:AI发展的太快了,相关的监管和法律没有跟上,甚至连发明者也缺乏有效的控制手段。这种条件下,无限制地使用AI,如果出现问题,很可能就会带来系统性的风险。
根据《时代周刊》报道,公开信的签署人、人工智能安全初创公司 SaferAI 的首席执行官西蒙·坎波斯表示,AI系统的发明者不确切知道它们是如何工作的,也不知道它们是什么,因此无法管理系统的风险。发明者有能力做到,但不知道如何限制AI的行为。
“我们现在在做什么?” 坎波斯说。“我们正在全速将这些系统扩展到前所未有的能力水平,并对社会产生变革性影响。我们必须放慢这些系统的开发速度,让社会适应。”
马斯克的担心:关不掉的AI
马斯克对AI的警惕由来已久,早在2014年,马斯克曾在一次采访中公开表示,我们应该对人工智能非常小心,如果一定要猜人类生存的最大威胁是什么,那可能就是人工智能。“通过人工智能,人类正在召唤恶魔”,马斯克说。
他还表示“我越来越倾向于认为应该进行一些监管监督,也许是在国家和国际层面,只是为了确保我们不会做一些非常愚蠢的事情。”
马斯克对AI安全问题不只是说说而已。2015年初,马斯克向未来生命研究所捐助700万美元的资助,旨在让AI造福于人类的研究。被资助者大多从事AI伦理、治理、安全之类的研究,很多受资助者,比如斯图尔特·罗素,参与了这次公开信署名。
作为DeepMind的早期投资者,马斯克对AI的态度似乎有些矛盾。但他声称自己这项投资并非从投资回报率角度出发,只是想关注人工智能的发展,因为这可能导向危险的结果。他说,有一些可怕的后果,我们应该努力确保结果是好的,而不是坏的。”
坏的结果并不是像电影里描绘的那样,机器人造反消灭人类。相反,专家们不担心机器人的意识,而担心它们的能力。AI实现目的的能力强大,但如果失控或者脱离计划中的使用场景,就可能造成不可逆转的破坏。
在公开信上签名的重要人物,图灵奖获得者,被誉为“AI教父”的约书亚·本吉奥一直关注人工智能的滥用问题。2018 年,本吉奥是签署反对AI武器发展承诺书的数千名人工智能研究人员之一。他呼吁各国政府规范人工智能研究,停止致命机器人的发展。
AI武器便是个机器人被滥用的极端例子,AI武器用于战场,会比传统武器更有效率。不过一旦失控,人工智能武器造成的问题也会更严重。在战场上,为了不在简单干扰下失灵,现在的AI武器往往会设计得很难被直接关闭。设想一下,如果被编程为攻击人类的高效AI武器意外落在平民居住区,会产生什么样的惨痛后果。
事实上,如何关掉AI,是很多签名大佬担心的问题。
但如果AI的应用走得太快,关掉它也许便可能需要付出巨大代价,成了一件难事。马斯克便曾设想过,如果一个系统里算法失控了,管理人员可以找到它。但如果这个系统是大型AI管理的,我们可能根本找不到失控的位置,或者没有权限停止整个大型的AI的运作。简单的检修会成为难题。
这也就是为什么AI需要更多监管,需要在技术上更民主,而不是集中在大公司的手中。
为了让AI的力量不集中于大公司手中,尤其是Google DeepMind手中,马斯克和山姆・阿尔特曼(Sam Altman) 合作创立了OpenAI ,目的是实现是关于人工智能权力的民主化,降低 AI 力量被垄断的可能性。
这多少有些讽刺,由OpenAI所创造的GPT-4,正是马斯克现在着力反对的。就在几天前,马斯克还在和OpenAI的CEO阿特尔曼(Sam Altman)打隔空嘴仗。
停下来,“我们对齐一下”
这些大佬们的担忧之外,在更广泛的民众中,对于AI的恐惧则由来已久。
这其中,有对科幻电影《太空漫游2001》中那种获得了意识的超智慧电脑HAL 9000的恐惧,也有更实际的,对于AI控制世界可能会造成的混乱和糟糕局面的恐惧。
在那封公开信中,多次被引用的一份资料是被包括微软高管在内的多位人工智能领域大佬盛赞的畅销书《对齐问题》(Alignment Problem)。发布那封公开信的未来生命研究所(FLI)一位联合联合创始人便曾公开称赞那本书:“充满了令人惊艳的发现,意想不到的障碍、巧妙的解决方案,以及越来越多关于我们这个物种本质的难题”。而那本书中所讨论的最大的难题便是:人工智能伦理。
一个最简单的人工智能伦理问题是曲别针问题,如果命令一个机器人去造尽可能多的曲别针,只要可能,它就会穷尽地球上所有的资源,不知疲倦地去制造曲别针,因为完成这个任务与它的道德规范没有什么冲突,那么它能做的就只能是执行任务。人类在漫长的历史中,大量固化在我们文化中,深植于每一个人的头脑中的道德规范,我们的敬与畏,有时我们自己都尚未察觉,而一个机器,并没有经历过这样漫长的进化,如同一个生下来就有超能力的孩童,它们自己就变成了风险。
因而,《对齐问题》一书的作者,现在正在加州大学伯克利分校做访问学者的畅销书作家布莱恩(Brian Christian)认为,需要细致、全面以及实时地让AI的道德规范与人类的道德规范进行对齐。从这个意义上,这封公开信,便如同大厂的某个部门,要求员工停止手中的工作,都到会议室去,“我们对齐一下”。
当然,《对齐问题》除了讨论这些看起来比较遥远的问题,也有正在发生的。
美国某州利用计算机程序为罪犯的再次犯罪概率打分,进而决定保释与假释,分配保证金数额。然而,这个系统发生了些奇怪的事情,黑人博登被评为高风险,白人普拉特则被评为低风险,对两人的两年跟踪调查发现,两年间,博登再也没有受到任何犯罪指控,而普拉特则因抢劫盗窃被判入狱8年。很显然,大数据之下,人类中的种族歧视也被移植到了AI中——但关键问题在于,所有的人都认为,他们是初生的婴儿,是公平。在《对齐问题》中,作者还提到了招聘中的性别歧视,没有人对AI去做什么设定,然而大数据之下,歧视自然的就产生了。
基于大数据建立的人工智能,也许会强化我们族群中被广泛忽略的歧视问题、不平等问题,而一旦这些问题在未被察觉,或者被认为微不足道的情况下进入系统,它们就被固化了,这会是一个很不美好的结局。
于是,读者们对《对齐问题》一书的评论中,很多人提到了人——AI在放大人类现存的问题,以及,最为重要的,AI将交到什么样的人手里?
几乎毫无疑问的,AI会带来生产力的大幅增长,但与上一场信息革命一样,这种强大的劳动力工具会进一步导致财富的集中——从1980年到今天,收入最高的1%的人口所占的收入份额已经从10%上升到了近20%,而最底层的50%的人口所占的收入份额已经从1980年的20%下降到了12%。没人想象的出,GPT面世40年之后,这个数据会变成怎样?更何况这是一个更亲资本的生产力工具。
早在今年2月份,长期关注人工智能问题的MIT教授达龙(Daron Acemoglu)就曾发文提到下列场景:企业辞退了人工客服,大量的人失业,而消费者只能接受一个能言善辩却不能解决任何问题的机器人客服的服务。这样的方式,“会剥夺和取代员工的权力并降低消费者体验,最终让大多数投资者失望”,我们不该如此。
这次公开信并不是人们第一次对人工智的未来表示担忧,盖茨在他的公开信中同样曾提到过要关注人工智能时代的平等问题:市场力量不会自然而然地生产出帮助最贫困人群的人工智能产品和服务,相反的可能性反倒会更大。
早在3月16日,阿特尔曼同样曾担忧地提到“能够思考和学习的软件将完成越来越多的人们现在所做的工作。更多的权力将从劳动力转移到资本。如果公共政策不做出相应调整,大多数人最终会过得比现在更糟”。
因此,阿特尔曼提到,需要引入新的体系,向资本而非劳动者征税从而让更多的人能够共享这次人工智能革命的成果。
目前,AI要成为人类生活的基础设施还需要一段时间,但这个时间可能已经不多了。GPT-4出现后,大型AI的能力在”军备竞赛“中飞涨,AI应用可能会快就会普及到生活的各个方面,却没有时间帮AI测试安全程度、理解人类的需求、设定监管的方案。这也是这次公开信背后的专家们,要为大型AI研究叫暂停的原因。
也许,如同微软首席科学家Eric Horvitz所言:今天,在地平线上的人工智能,有些事情是已知的,有些事情是未知的,中间则是为我们观察这个世界留下的大门。
标签:
推荐文章
- 为什么马斯克、图灵奖得主等千名从业者联名叫停大型AI研究?-全球快消息
- 环球看热讯:两部门要求保障出生医学证明新版证件和旧版证件顺利交替
- 用“萧山标准”助推高质量发展 当前独家
- 天天观天下!临平一季度“双集中”加快构建产业新格局
- 萧华回应担任迪士尼CEO传闻:我热爱现在的工作 无意去其他地方!_全球快播报
- 安进集团_天天信息
- 新闻观察丨美国自诩“言论自由” 实则徒有其名 天天最资讯
- 728路公交单向线路临时调整
- 每日速递:成绩标记为“-2”!陕西多名公考生违规违纪被处理
- 头条:亚通股份:2022年实现收入12.25亿元
- 春雷行动2023 | 简阳市市场监管局开展规范天府国际机场净空区气球孔明灯等升空物经营行为专项行动|世界时讯
- 热资讯!薄膜光伏电池突破在即?新工艺可提升成品质量 成本更低
- 滚动:林洋能源:公司董事长及董监高管理层均在正常履职中
- 真实之爱
- 玉龙雪山国家风景名胜区旅游_玉龙雪山旅游景点介绍
- 当前观点:鑫科材料:被担保人为公司及其控股子公司,公司对其日常经营活动风险及决策能够有效控制,可以及时掌握其资信情况、履约能力,担保风险可控
- 联想小新27一体机2023酷睿版上架:i5-13500H核显4999元
- 【环球播资讯】13岁男生搞12岁女生
- 原材料成本及包材费用上涨,玉柴马石油4月起部分产品涨价3%10%
- 梅西17分钟戴帽的对手是谁? FIFA排名比国足低6位
- B2B企业要想更好的通过服务价值驱动利润增长,可以从这3方面突破
- 银华中证500价值交易型开放式指数证券投资基金基金份额上网发售 提示性公告
- 职称英语考试时间2017_职称英语考试时间|当前简讯
- 物理中的矢量有哪些_物理中矢量有哪些
- 报道:航发控制:2022年度净利润约6.88亿元 同比增加41.18%
- 双轮驱动!云南加力培育“专精特新”中小企业 全球观速讯
- 女子地铁照被AI一键脱衣传播 环球视讯
- 达利欧评硅谷银行破产:许多实体若按市值计价所持债券,实际已陷入财务困难
- 生态环境部:针对移动污染源开展“五大行动”
- “一把手”畅谈“3815”| 云锡锡化工党委书记吴建勋:内活机制 外拓市场 以高质量发展为实现百年云锡第二增长极而努力奋斗
- 当前速讯:4月养老金上调通知将公布?已释放“重磅信号”,提前看!
- 毕福剑女儿长居国外曝近照,爆炸头打扮个性,不拘小节蹲路边吃饭 世界热闻
- 手机能赚钱的猜歌游戏推荐 歌曲大串烧 今日快讯
- 吉林发布关于2022年度工业节能监察结果的公示_讯息
- 忧国忧民的文人_忧国忧民的诗人有哪些-世界消息
- 如何从日常教学开始提升续班率?
- 刷单提销量?小心都是"坑"! 世界快资讯
- 欧派家居(603833)3月27日主力资金净卖出1036.86万元
- 北京公积金怎么购买?
- 博安生物-B(06955)发布年度业绩,收入约5.16亿元,同比增长225.1%
- 塞涅卡怎么读_小塞涅卡
- 热推荐:A股机构动向参考 | 人工智能产业化应用加速 光伏装机需求旺盛
- 新零售数字化如何做?|2023中国好SaaS大赛路演-秉坤 每日看点
- 哈尔滨一小区爆炸原因初查系人为
- 【行业观察】手机号码支付为推进乡村振兴“搭桥铺路”_全球观天下
- 关注:新西兰发布2025年中期起禁止使用的塑料产品指南
- 全球微动态丨4k字介绍 React Router 6.4 超大变化:引入 Data API。你不纯粹了!
- 花季姐妹花因先天性寰椎脱位致瘫痪 南华附一求医获治重获新生
- 酒店设“鞭炮燃放区”引争议 律师:圈占停车位-天天快消息
- 内江160名考生迎来职业技能等级认定考试
- 成大生物董秘回复:感谢您对公司所处细分行业的关注
- 睡衣品牌排行榜前十名,黛梦思、静韵、家乐芬居前三名
- 异世之双狼夺爱txt全文下载_异世之双狼夺爱_世界视点
- 鄂产小龙虾“打飞的”,朝发夕至“蹦”上锦城餐桌 鄂州花湖机场农产品航空货运启动
X 关闭
最新资讯
- 法甲各项榜单:姆巴佩、戴维领跑射手榜⚽梅西稳居助攻榜首-即时看
- 每日精选:Java中restTemplate的使用
- 075期陈亮福彩3D预测奖号:精选一注号码 速讯
- mts是什么格式
- 复仇焰魂_复仇焰魂技能|全球快播报
- 当前聚焦:小米:跌落谷底,何时才能站起来?
- 观点:2023中国冰雪越野汽车场地赛落幕
- 环球视点!人初油副作用
- 火影忍者干柿鬼鲛
- 环球热消息:多个劳务输出大省人口自然增长率转负,制造业的劳动力还够用吗?
- 店铺起什么名字吸引人 怎么取一个特别的店名
- 股东户数最新变动:福成股份(600965)股东户数3.45万户,较上期减少12.15%
- 北方小年吃什么 北方过小年的风俗有哪些 环球实时
- 南非一港口城市遭暴雨袭击引发洪水和山体滑坡 世界热推荐
- 下载qq的视频_qq视频下载到哪里 速递
- 比尔库兹马缺阵,奇才四人20+轻取马刺
- 米其林餐厅是什么意思
- 每日热讯!不可一世的李沁终于为她的急于求成付出了代价
- 古村白墙黛瓦 瓷韵茶香悠长(走进传统村落)
- 要闻速递:石狮日报施晓瑛_石狮日报
- 台湾街头狒狒出没,当地出动热成像仪航拍围捕未果!现场曝光-精选
- 桂东电力:公司新能源业务正在有序开展,相关进展情况公司将按照相关规定及时披露
- 瑞思拜是什么意思网络用语_天天信息
- 军曹鱼价格(军曹鱼)
- 全球微动态丨2023全国中小学生安全教育日直播课观看(时间+入口)
- 首都机场周日进入新航季,港澳台地区航线迎大幅增长
- 从这里了解殷商文明_环球看热讯
- 总产值首次突破万亿元!我国锂电行业将迎来快速增长期 天天快看
- 当前热点-桐乡市高中排名
- 华福证券:给予舍得酒业买入评级,目标价位226.0元-天天热讯
- 盐湖股份:公司通过司法重整将原有化工板块纯碱相关资产进行了剥离
- 阳煤化工:公司主要产品为尿素、聚氯乙烯、丙烯、离子膜烧碱、三氯化磷、双氧水等
- 今日热讯:历史罕见!TMT板块总成交竟占了A股40%,公募此前几乎清仓!什么信号?
- 京剧脸谱的起源_脸谱的起源
- 西塞:虽然姆巴佩心怡皇马,但他应该听妈妈的话加盟红军
- 世界百事通!flash版本过低是什么意思
- 环球最新:就业市场仍然紧张 美国初请失业金人数连续第二周意外下降
- 报道:贵州黄平:开展巡河护河行动
- 正观快评:“提前退休”不是躺平,只是换种方式继续前行
- 这颜值很美系?江铃大道新车发布 2.3T动力/8秒级性能!
- 海南陵水黎安国际教育创新试验区:擦亮“留学海南”名片
- 各种花的开花时间-焦点消息
- 走近“110”,做守法好少年(图)|全球即时看
- 趟门轮安装视频_趟门滑轨
- 永兴材料深度布局双主业净利六年增24倍 押宝锂电新能源全年净赚59.6亿占超94%|快看点
- 佛山市融鸿房地产有限公司被罚款15000元
- 世界动态:王导:黄金做有一个波段,目标2050
- 江歌案刘鑫做了什么
- DNF2023黑暗武士加点(黑暗武士刷图加点最新2023)
- 世界快播:2020清明节放假时间安排_2020年清明节放假几天
X 关闭