今年高考日期首先,杰弗里辛顿博士表示,我们现如今正在开发的智能,和我们自身拥有的智能非常不同。我们人类属于生物系统,而数字系统则是由许多相同的权重集副本和世界模型组成的,这些副本可以单独学习,但可以共享知识,就好像有10000个人同时进入了学习状态一样。因此,这些聊天机器人可以比任何单个的人更了解整个世界。然而,杰弗里辛顿博士还告诉媒体,人工智能的进展速度令人担忧,完全出乎了他的意料,他揭露了目前的人工智能,像chatGPT4和Eclipse这样的系统,在一般知识方面已经超过了单个人的水平。虽然它们在推理方面可能还不如我们人类,但它们已经可以做一些简单的推理了。鉴于技术的进步速度,我们需要担心这个问题。要知道,这些系统现在可能还不如人类聪明,但很快可能会追上甚至超过我们。
与此同时,杰弗里辛顿博士还解读了一个最大的疑惑,人工智能的风险性不一定需要建立在它获得知觉或自我意识为基础,而是由于它们能够高效地收集和处理信息,使得它们在错误信息传播和劳动力替代方面具有潜在的威胁。此外,也强调了人工智能可能被用于进行不道德,或恶意的行为,因此我们需要更加关注这些技术的潜在风险。而且近期人工智能技术在推理方面的进展速度,真的是让人始料未及。由于学习速度和知识共享的能力,在未来,可能是明天或者明年,也可能是现在会超越我们人类。因此,我们需要更加警惕,认识到这些技术可能在未来带来的潜在风险,并采取相应的措施来规范它们的应用。
值得我们注意的是,杰弗里辛顿博士对于人工智能的评判是绝对权威的。早在2012 年就已经和他在多伦多大学的两名研究生创造的技术成为人工智能系统的知识基础,当时,所有科技行业的大公司都认为人工智能系统是他们未来的关键。然而,就在前几日,他突然正式加入了越来越多的批评者的行列,反对人工智能的过度开发,并且为我们揭示一了一些不可告人的秘密,一些公司正在积极开展基于生成人工智能的产品开发活动,这是在与危险赛跑,这种技术为ChatGPT等流行的聊天机器人提供支持。随后愤怒的杰弗里辛顿博士辞去了在谷歌的工作,他在谷歌工作了十多年,成为该领域最受尊敬的声音之一,因此他可以自由地说出人工智能的风险,现在的他非常后悔自己毕生的工作竟然开发出了人工智能这种可怕的科技,这一切有可能会让他成为人类历史上的罪人,会为我们人类的整个文明带来灭顶之灾。
而且,杰弗里辛顿博士还经常对自己说:“如果我没有这样做,其他人也会这样做”。他想要通过这样的借口来安慰自己内心的不安。然而,他的学生最近又在人工智能方面取得了一项突破性的进展,这让他感到非常愤怒,也更加不安。
在杰弗里辛顿博士看来,聊天机器人面临的挑战之一是,我们并不能从根本上真正的理解它们是如何工作的。我们仅仅只是知道人工智能吸收了大量的信息,然后你可以输入一个提示,它会给你一个输出。它可能会为你写一篇文章,生成图像或视频。随着这些系统变得越来越复杂,我们可以向它们分配某些任务。例如,我们可能会要求聊天机器人上网并为我们找到最便宜的火车票。我们可能会授予它访问我们的银行账户的权限,让它执行相关任务。这些任务看起来相当低风险,但在更高风险的环境中,这些系统可能会被武器化,进行一系列危险测试。这些测试可能以我们目前完全无法理解的方式执行。杰弗里辛顿博士等人担心可能会产生意想不到的后果,因为这些系统的行为方式与人类截然不同。缺乏透明度是我们真正需要关注的问题。因此,我们需要关注这些系统的行为和操作方式,尤其是在面对恶意意图的情况下。例如,如果一个专制领导者通过聊天机器人系统说:“帮助我重新确立对人口的控制”,那么我们无法预测这个基于计算机的系统将如何实现这个目标,可能会采用何种操作。因此,我们需要更好地了解这些系统,以便更好地监控它们,并确保它们不被武器化或被用于恶意行为。
不仅如此,就在几个月前,已经有超过一千名技术领袖呼吁暂停 6 个月的新人工智能系统开发,因为他们认为这项技术对社会和人类构成了深远的风险。然而,这个呼吁是否已经为时已晚呢?尽管情况可能如此,但我们必须保持乐观精神,认识到我们也确实拥有巨大程度的人类智慧。现在,我们比以往任何时候都更需要唤起这一点。杰弗里辛顿强调的一件事是,这些聊天机器人所支持的数字智能与人类智能截然不同。这可能为我们提供了一个机会,让我们可以利用自己的人类优势,了解我们如何以可能允许我们监管这些技术并统治它们的方式来表现和相互合作。然而,杰弗里辛顿博士已经致力于这些技术几十年了,多年来,该领域内的许多人一直在发出这些警告。因此,他的警告或许已经太晚了。有一种感觉,潘多拉的魔盒已经被我们人类自己打开了,并且没有任何角色可以解释接下来发生的事情。你们是否认同人工智能教父杰弗里辛顿博士的警告吗?我们是否应该马上停止人工智能一切的开发?在评论区说出你们的看法,关注我们,下期再见。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
小米SU7售价23.98万-32.98万是假的!小米辟谣发布会彩排现场售价图,媒体曝光疑似发票价格为26.14万
雷军的小米SU7今晚发布,全网猜价格:多数希望入门版20万以下!知情人士:定价有降低,准版定价26.6万起
男孩单手插兜 潇洒舞剑 天不生小孩哥 剑道万古如长夜 “不像是刚学会的 像是没忘干净的”
爸爸说看电视只能在沙发上看,下来就会暂停了。于是宝宝屡下沙发多次试探。宝宝:爸爸诚不欺我。
宝妈发布蓄谋已久的“卸货”变装视频,下一秒出镜的宝宝好像要穿着纸尿裤去狩猎
小米智能驾驶 Pro/Max 高低配技术同源,城市 NOA 官宣 4 月开测
|