网站首页

产品中心

智能终端处理器 智能云服务器 软件开发环境

新闻中心

关于PG电子

公司概况 核心优势 核心团队 发展历程

联系PG电子

官方微信 官方微博
主页 > 新闻中心

超级人工智能会偷袭人类吗?

发布时间:2024-01-02 01:56浏览次数: 来源于:网络

  一个人工智能的超级智能会突然出现吗,还是科学家能预见它的到来并来得及向全世界发出警报?随着大型语言模型,如ChatGPT的兴起,这个问题最近受到了很多关注。这些模型随着规模的增长已经获得了大量新功能。

  一些研究结果指向了“涌现”现象,即人工智能模型以一种骤然且不可预测的方式获得了智能。但最近一项研究将这种情况称为“海市蜃楼”,即系统测试过程中产生的假象,并认为创新能力的增强是循序渐进的。

  研究人员近日在美国新奥尔良举行的神经信息处理系统大会(NeurIPS)机器学习会议上报告了这项工作。

  “我认为他们在说‘没有什么神奇的事情发生’方面做得很好。”谋智基金会研究人工智能审计的计算机科学家Deborah Raji说,这是“一个非常好的、坚实的、基于衡量的评估”。

  人们通常使用大量文本或其他信息训练大型语言模型,并通过预测接下来发生什么生成现实的答案。即使没有受过明确的训练,它们也能翻译语言、解决数学问题、写诗或编写计算机代码。

  模型越大——有些模型的可调参数超过了1000亿,性能就越好。一些研究人员怀疑,这些工具最终将实现通用人工智能,从而在大多数任务中与人类匹敌,甚至超过人类。

  这项新研究从几个方面检验了“涌现”的说法。在一种方法中,研究人员比较了人工智能公司OpenAI的4种规模的GPT-3模型的4位数相加的能力。从绝对精度来看,第三种和第四种模型的性能差异从接近0%到接近100%不等。但如果考虑答案中正确预测的数字数量,这种趋势就不那么极端了。

  研究人员还发现,可以通过给模型更多测试问题来抑制曲线。在这种情况下,规模较小的模型有时会作出正确的回答。

  接下来,研究人员观察了谷歌公司的LaMDA语言模型在几个任务中的表现。那些表现出明显智能跃升的模型,比如在识别讽刺或翻译谚语方面,通常面对的是答案为对或错的多项选择任务。相反,当研究人员检查模型在每个答案上的概率时,“涌现”的迹象消失了。

  最后,研究人员转向了计算机视觉,这一领域“涌现”的说法较少。他们训练模型压缩然后重建图像。仅仅通过为正确性设定一个严格的阈值,他们就可以诱导明显的“涌现”现象。

  新研究合作者、美国斯坦福大学计算机科学家Sanmi Koyejo表示,考虑到一些系统表现出突然的“相变”,人们接受“涌现”的想法并非没有道理。他还指出,这项研究不能在大型语言模型中完全排除这种可能性,更不用说在未来的系统中了。

  “迄今为止的科学研究有力地证明,语言模型的大多数方面确实是可预测的。”Koyejo补充道。

  这项研究还对人工智能的安全和政策产生了影响。Raji说:“通用人工智能的支持者一直在利用新兴能力的说法。毫无根据的恐惧可能导致令人窒息的监管,或者转移人们对更紧迫风险的注意力。”

  “这些模型正在改进,且改进是有用的。”Raji说,“但它们还没有接近意识。”(王方)

  以数据要素乘数效应赋能经济社会发展——聚焦《“数据要素×”三年行动计划(2024—2026年)》

  什么是“数据要素×”?为什么推出“数据要素×”行动?国家数据局副局长沈竹林对热点问题进行了解答。

  根据《世界知识产权指标2023》的数据,中国知识产权指标排名世界第一的包括:专利申请(158万件)、有效商标注册(4270万件)、有效工业品外观设计注册(约280万项)、植物新品种申请(12357件)、本国有效地理标志(9571个)。

  2022年,我国制造业加大宏观调控力度,经受住了超预期因素影响的大冲击,制造强国发展指数稳定居于超过120的较高水平,制造强国建设稳中有进。这是12月28日由国家制造强国建设战略咨询委员会、中国工程院等单位联合发布的《2023中国制造强国发展指数报告》(以下简称《报告》)中得出的最新结论。

  为提升绿色优质农产品供给水平,今年全年制定75种农药在食品中的327项最大残留限量,发布农业行业标准170项,公布首批178个国家现代农业全产业链标准化示范基地创建单位名单。

  当前呼吸道疾病以流感为主,多数省份已经到达流行高峰,肺炎支原体感染下降,新冠病毒感染处于低位发病水平。

  由云南大学中国西南天文研究所提出设想并主持研制的“多通道测光巡天望远镜(梦飞)”,于12月21日在云南丽江建成,并首次获得蓝黄红三通道同时出光的天体图像。

  互联网基础资源是指域名、IP地址、AS(自治系统)号码及其所构建的域名系统、路由等互联网架构体系与协议。在保障网络互联互通、高可扩展以及支撑各类创新应用方面发挥了关键作用。

  最近,贵州大学绿色农药全国重点实验室博士一年级学生李建专,正忙着将他学业生涯的第一个研究成果落地。

  从国产大飞机翱翔蓝天、国产大型邮轮扬帆起航、深中通道探入海底,到全球首个百万千瓦级水光互补电站正式并网发电、全球首座第四代核电站商运投产、亚洲最大火电“碳捕手”一展身手……回首2023年,令人欣喜的“首个”“之最”接连涌现。

  国家知识产权局局长申长雨在12月26日举行的国务院政策例行吹风会上表示,将持续完善新领域新业态专利审查标准,综合运用多种审查模式,助力绿色低碳技术和未来产业领域专利申请获权,为绿色低碳技术和量子信息、类脑智能等产业发展提供更多技术供给。

  主动脉瘤是一种致命的疾病,俗称“无声杀手”,通常在破裂之前不会引起任何症状。一般来说,当主动脉扩张超过其原始尺寸的1.5倍时,就会发生主动脉瘤。随着它的生长,主动脉壁会变得脆弱。最终,主动脉壁脆弱到无法承受流经其中的血液压力,导致致命的主动脉瘤破裂。

  韩国蔚山国立科技大学与美国田纳西大学、橡树岭国家实验室的研究团队合作开发出一种新技术,成功优化了专门用于6G通信的太赫兹(THz)纳米谐振器,将太赫兹电磁波放大3万倍以上。

  但他们也指出,该研究提供了一种在成本和技术上可扩展的潜在解决办法,可安全地降低抗生素处方率。

  朱丘寺遗址位于河南省周口市淮阳区四通镇,总面积约8.5万平方米,是一处以龙山晚期堆积为主的聚落遗址,遗址绝对年代为公元前2250年至公元前1700年。

  科技名词是科学知识在语言中的结晶,既镌刻着时代烙印,也是透视科技发展和社会进步的重要载体。

  26日,中国工程院在北京发布“超级工程研究”成果。该课题首次系统研究了近现代中国以工程立国这一基本课题,填补了相关领域学术研究的空白。“超级工程研究”还精准筛选出跨越古今、涵盖中外的643项超级工程进入排行榜。

  气象监测数据显示,12月1日至13日,全国平均气温较常年同期偏高,但从14日开始,大范围寒潮天气过程开始自西向东影响我国,有95个国家气象站点过程最大降温达到或超过20℃。

  从头顶的星辰到脚下的大地,从广袤的宇宙到幽微的粒子,2023年,中国不断取得重大原创性科技成果。顺利起飞、平稳落地、跨过水门……5月28日,中国自主研发的大型客机C919成功完成首次商业载客飞行。

  冬季来临,随着病毒性感冒、流感以及支原体肺炎等呼吸道疾病的高发,近期因胸痛到医院就诊的儿童青少年明显增多。胸痛是咳嗽造成的吗?还是另有原因?什么情况下应尽快带孩子就诊?

  近年来,西农在苹果新品种选育与示范推广、种源创新、肥水高效利用、人才培养等方面持续发力,推动黄土高原苹果产业高质量发展,帮助黄土高原尤其是革命老区实现了果香、民富、产业强。

下一篇:以赛促创推进人工智能高质量发展
上一篇:人工智能技术准确识别笔石化石

咨询我们

输入您的疑问及需求发送邮箱给我们