巴蜀网

 找回密码
 免费注册

QQ登录

只需一步,快速开始

开启左侧
查看: 128|回复: 0
 西北河 发表于: 2023-5-2 20:23:57|显示全部楼层|阅读模式

[2023年] “AI教父”从谷歌离职:对毕生研究感到后悔,安慰自己“我不研究别人也会研究”

 [复制链接]
源自:红星新闻
9f7c-c26c2fe3ffc67409f86826aca3182604.png
  ↑被称为“人工智能(AI)教父”的杰弗里·辛顿
  据多家媒体报道,被称为“人工智能(AI)教父”的杰弗里·辛顿日前证实,他已经从工作了十余年的谷歌离职,现在可以畅谈AI可能带来的风险。在接受媒体采访时,他表示,“我对我毕生所研究的东西感到后悔了。”
  杰弗里形容称,AI聊天机器人所带来的某些危险“相当恐怖”。报道称,开发出了被认为是当代AI基础系统的杰弗里已经正式加入了“AI批评者”的行列。
  杰弗里在社交平台解释称,他之所以从谷歌辞职,是为了可以在不考虑对谷歌产生影响的情况下,谈论AI的危险性。此外,他告诉媒体,自己的年龄也是个问题,“75岁,的确是个该退休的年龄了。”
8779-647793f5e28ca5987defb08e6ab76d62.png
  ↑杰弗里在社交平台的相关推文
  “AI教父”态度转变:
  警告“AI未来会对人类构成威胁”
  据介绍,1972年,还在读研究生的杰弗里接受了一种名为“神经网络”(neural networks)的概念──所谓“神经网络”,是指一个可以通过数据分析来学习技能的系统。彼时,很少有研究人员相信这一概念能成真,但它却成为了杰弗里此后学术生涯的重要课题。
  上世纪80年代,已经成为卡内基梅隆大学计算机科学教授的杰弗里,不愿接受美国国防部资助,转而离开美国前往加拿大。2012年,杰弗里和他在加拿大多伦多的两名学生创建了一家专注于“神经网络”的公司,其团队当时通过分析数百万张照片打造出一款可区分动物、物体图片的“神经网络系统”,能识别常见物体,如花、狗和汽车。值得一提的是,两名学生之一的伊利亚,后来成为了人工智能研究公司OpenAI的首席科学家。
a7f0-bf046a4f73793b1f91584ed2faf7a74c.png
  ↑伊利亚后来成为OpenAI的首席科学家
  此后,谷歌以4400万美元的价格收购了杰弗里与两名学生创办的公司。而他们所开发出的系统,也为今后越来越强大的AI──如ChatGPT和Bard等新型聊天机器人──打下了基础。2018年,杰弗里因在“神经网络”方面的工作取得突出成就,获得了有着“计算机届诺贝尔奖”之称的图灵奖。
  事实上,杰弗里一开始相信“机器理解和生成语言的方式不如人类处理语言的方式”,但在去年,随着谷歌、OpenAI通过使用大量数据构建出系统,他的观点发生了变化,“也许在某些方面,AI会比人脑处理得更好。”杰弗里表示,此前他认为“AI比人类更聪明”这一现象可能出现在30-50年之后,但现在他认为,这一切可能发生得更快。
  现阶段,杰弗里最担心的就是通过利用AI,网络上会出现很多虚假的图片、视频和文字,这可能让人分不清真假。其次,他还担心AI将改变整个人类就业市场,可能导致如律师助理、私人助理、翻译等岗位的消失。在未来,杰弗里担心AI会对人类构成威胁,“因为AI可能通过大量的数据和分析,出现一些令人意想不到的行为。”杰弗里解释道。
  杰弗里补充称,一些公司和个人已经允许AI写代码,甚至自主运行代码。“我担心未来类似于‘杀人机器人’的自动化武器可能成为现实。”杰弗里称,“现在很难防止坏人利用AI做坏事。”
  据了解,此前在被问及“AI会不会被用于危险技术”时,杰弗里回答称“你可以试试看”。而现在,他不会再这么说了。
  报道指出,在很多科技研究人员看来,诸如“AI成为‘杀人机器’”一类的威胁还只是假设性的。不过杰弗里认为,在谷歌、微软等多家科技巨头争先发展AI技术后,“科技巨头陷入了一场无休止的竞争”。在他看来,这样针对“AI技术发展”的竞争,将让AI系统变得越来越危险。
  对毕生研究感到后悔
  安慰自己“我不研究,别人也会研究”
  事实上,在OpenAI于3月发布新版ChatGPT后,1000多名科技领域领导者和研究人员便以“AI技术给人类和社会带来了风险”为由,签署了一封公开信,呼吁暂停系统开发6个月。数日后,包括微软首席科学官员埃里克在内的人工智能促进协会19位现任和前任领导人也发布信函,警告人工智能的风险。
  而当时还未辞职的杰弗里并未参与上述两起警告活动,并表示在自己辞职前,不想批评谷歌或者其他公司。
  上个月,杰弗里才通知谷歌要辞职,并与谷歌母公司Alphabet的首席执行官桑达尔·皮查伊通了电话。媒体报道称,杰弗里的离职对谷歌而言是个损失。
  尽管杰弗里称在辞职后才能畅谈AI所带来的风险,但有消息称,今年3月,杰弗里就已经就AI所带来的风险敲响了警钟。当时,在被问及“人工智能会不会消灭人类”时,杰弗里回答称“这并不是令人难以置信的事”。
  在接受媒体采访时,杰弗里坦言“自己对毕生研究的东西感到后悔了”。“我只能这样安慰我自己:即便是我不做相关研究,也会有其他人从事这项研究。”他说道。而一份内部文件显示,在过去一年里,杰弗里减少了自己在谷歌的上班时间。去年3月,他只有20%的时间在全职工作;同年晚些时候,他被分配到了一个新团队担任职务。
⊙记者:黎谨睿 编辑:潘莉 责编:李彬
『 巴蜀网 』提醒,在使用本论坛之前您必须仔细阅读并同意下列条款:
  1. 遵守《全国人大常委会关于维护互联网安全的决定》及中华人民共和国其他各项有关法律法规,并遵守您在会员注册时已同意的《『 巴蜀网 』管理办法》;
  2. 严禁发表危害国家安全、破坏民族团结、破坏国家宗教政策、破坏社会稳定、侮辱、诽谤、教唆、淫秽等内容;
  3. 本帖子由 西北河 发表,享有版权和著作权(转帖除外),如需转载或引用本帖子中的图片和文字等内容时,必须事前征得 西北河 的书面同意;
  4. 本帖子由 西北河 发表,仅代表用户本人所为和观点,与『 巴蜀网 』的立场无关,西北河 承担一切因您的行为而直接或间接导致的民事或刑事法律责任。
  5. 本帖子由 西北河 发表,帖子内容(可能)转载自其它媒体,但并不代表『 巴蜀网 』赞同其观点和对其真实性负责。
  6. 本帖子由 西北河 发表,如违规、或侵犯到任何版权问题,请立即举报,本论坛将及时删除并致歉。
  7. 『 巴蜀网 』管理员和版主有权不事先通知发帖者而删除其所发的帖子。
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

© 2002-2024, 蜀ICP备12031014号, Powered by 5Panda
GMT+8, 2024-3-29 16:24, Processed in 0.187200 second(s), 12 queries, Gzip On, MemCache On
快速回复 返回顶部 返回列表