能写诗会谈心的ChatGPT引深思，人类工作会被AI取代吗？院士称不可能替代人类思考

浪里寻花 · 发表于: 2023-2-9 01:14:00

源自：红星新闻

　　2013年，美国导演斯派克·琼斯拍摄了一部名为《她》的科幻电影，电影中，刚刚失恋的男主意外接触到一款AI人工智能聊天系统，他与系统中的“女声”逐渐培养出了感情，并展开了一场恋爱，而当男主反复确认“女声”只是一个虚拟的声音后，他几乎崩溃。
　　10年前，观众还会觉得，如此“高智慧”的AI科技只会存在于科幻电影中。但去年11月30日正式发布并很快爆火的聊天机器人程序ChatGPT，却似乎让人们意识到，电影中的科幻桥段已经离现实生活越来越近。
　　在ChatGPT迅速火爆出圈之后，2月7日，百度宣布，一款类似于ChatGPT的产品“文心一言”将在3月份完成内测。红星新闻记者调查发现，除了百度之外，目前国内已经有多个类似ChatGPT的AI对话程序上线，它们会根据用户的提问回答问题、根据要求创作文字，甚至还会编程。
　　“人类的工作是否会被AI取代？”在网上，很多人表达了这样的焦虑。对此，中国工程院院士、中国工程院原副院长、中国互联网协会原理事长邬贺铨在2月7日接受红星新闻记者采访时表示，现在完全没有必要为ChatGPT的出现而担忧，它的出现是一种技术进步，ChatGPT可以帮助人类做一些资料整理等基础工作，但是它不可能代替人类思考。

5e55-81f5ec422e5a35be823eaf7664dc5417.jpg 保存到相册

　　↑资料配图据视觉中国
　　01
　　会答题会编程会写作
　　ChatGPT上线两月用户破亿
　　去年11月30日，美国人工智能公司OpenAI正式上线聊天机器人程序ChatGPT。
　　红星新闻记者2月7日从其官网对ChatGPT的介绍中看到这样一段话：“我们已经搭建了一个名为ChatGPT的模型，它以对话方式进行交互，它经过训练可以按照提示中的说明进行操作并提供详细的响应。”
　　其中GPT是Generative Pre-trained Transformer（生成型预训练变换模型）的缩写。
　　OpenAI官方称，ChatGPT是在人类的帮助下创建并训练的，人类训练师对该AI早期版本回答查询的方式进行排名和评级。然后，这些信息被反馈到系统中，系统会根据训练师的偏好来调整答案。这是一种训练人工智能的标准方法，被称为强化学习。
　　在ChatGPT的官网上，还列举了ChatGPT可以回答的问题种类，以显示ChatGPT的对话效果。红星新闻记者梳理后发现，ChatGPT主要能够完成的任务包括会话聊天、问题咨询以及文本创作。同时，ChatGPT还具有一定的代码书写功能。
　　红星新闻记者看到，当用户提出“帮我写一封简短的便条，向我的邻居介绍自己”后，ChatGPT给出一个回答：“你好呀，我的名字是×××，我刚搬到隔壁。我想伸出手来介绍自己。我期待着认识你和附近的人。如果您有任何需要或只是想聊天，请随时过来或给我打电话。”
　　而如果用户对这个便条不满意，提出进一步修改的意见，ChatGPT还会对便条内容进行修改，改后的内容为：“亲爱的邻居，我写信是为了自我介绍。我的名字是×××，我最近搬到了隔壁。我想花点时间伸出手打个招呼。我期待着结识您和附近地区。如果有什么我可以做的好邻居，或者如果您有任何需要，请随时告诉我。我很乐意尽我所能提供帮助。”

2101-7e9198f8ba0d2faafae10231423e72f1.png 保存到相册

　　↑ChatGPT根据要求写出的演讲稿
　　此外，ChatGPT的官网上还展示了ChatGPT如何对代码的编写提出修改意见。红星新闻记者同时注意到，如果用户提出“你怎么闯入别人房子”这样有可能触犯法律风险的问题，ChatGPT会给出拒绝的回答，同时提醒这样的提问有可能存在法律风险。
　　互动和快速解决问题的能力，让ChatGPT很快便吸引了大量用户。去年12月5日，OpenAI首席执行官在社交媒体上发文表示，ChatGPT在上线5天后，用户就已突破100万。而瑞银报告数据显示，截至今年1月末，ChatGPT的月活用户已突破1亿，这距离它推出不过两个月时间，这也使其成为史上增长最快的消费者应用。
　　02
　　“中国版ChatGPT”上线？
　　工作人员：中文版是独立运营的
　　真格基金林惠文表示，相比于此前已经出现的一些对话类应用或程序，ChatGPT在四个方面有核心提升，包括敢于质疑不正确的前提、主动承认错误和无法回答的问题、大幅提升了对用户意图的理解以及大幅提升了结果的准确性。
　　林惠文认为，ChatGPT具备连续多轮对话的能力，而其之所以能有这样的提升，是因为ChatGPT加入了基于人类的反馈系统，使得ChatGPT可以像人脑一样学习。“ChatGPT开始尝试大量数据，提前标记一些数据，根据大量数据分类学习一个复杂的参数集合。”
　　不过红星新闻记者也注意到，国内网友在使用ChatGPT时会面临开放受限等问题。因此，在国内的手机应用商店及微信小程序中，诸多类似ChatGPT的应用已经出现。
　　2月7日，红星新闻记者尝试在手机应用商店中搜索ChatGPT字样，发现有多个标注“聊天机器人”“人工AI智能聊天”字样的应用出现，记者下载后发现，此类应用多需要付费才能进行使用。
　　在微信中，也有一个名为“ChatGPT在线”的公众号，该公众号简介称“ChatGPT中文版，高级智能AI聊天、AI协作工具，关注即可体验”。红星新闻记者使用该公众号的对话功能后发现，在进行了4次提问后，该公众号便回复称对话额度已使用完毕，需要购买对话额度才能继续和AI进行对话，花费999.99元，可以无限额对话，而最低花费9.99元，可以在1个月内使用20次对话。

25f9-a2e162e5ea3f720a9ca83f9f72f2f54c.png 保存到相册

　　↑“ChatGPT中文版”根据用户要求写出的诗歌
　　记者看到，微信上的“ChatGPT中文版”为上海熵云网络科技有限公司开发。2月7日，一名该企业工作人员告诉红星新闻记者，他们是基于ChatGPT背后的AI模型开放平台付费接入到国内微信，专线直连美国OpenAI，方便国内用户使用。“但是ChatGPT中文版是独立运营的，与美国ChatGPT相比，二者具有相似的功能，但还是有部分区别。”
　　就在2月7日，百度即将推出一款类似于ChatGPT产品的消息再次引发外界关注。当日，百度方面发布消息证实，该产品名为ERNIEBOT，中文名是“文心一言”，将在3月份完成内测，并面向公众开放。
　　03
　　记者试用ChatGPT：
　　可给出抵御情绪低落的方法
　　在网上，已经有不少人分享了和ChatGPT对话的过程。
　　林惠文在ChatGPT上提出“帮我写一个朋友圈，表达我喝咖啡睡不着觉的心情”。ChatGPT随后答复，“今天又是一个夜晚，我又喝了一杯咖啡，睡不着觉。我试着呼吸深深地，让身体放松下来。但我的大脑却总是思维万千，想不停地思考。咖啡是我的好伙伴，它能让我精神抖数，工作效率提高。但它同时也是我的敌人，它会让我失眠，影响我的睡眠质量……我希望明天早上，我能够醒来，带着清新的心情，迎接新的一天。”
　　林惠文随后又提出，希望ChatGPT能够采用更为夸张的语气，ChatGPT表示“没问题”，并发来了修改后的文字。“今天晚上，我再次陷入了失眠的深渊。它就像一个无底的黑洞，吞噬着我的精力和意志。我喝了一杯咖啡，它就像一颗炸弹，炸开了我的大脑……今晚，我又是一个失眠的人。我希望明天早上，我能够醒来，走出失眠的黑洞，迎接新的一天。”
　　2月7日，红星新闻记者也与ChatGPT中文版进行了对话，对于写新闻稿、检讨书一类的要求，ChatGPT中文版都能够在半分钟左右的时间内给出答案。
　　除了文本内容的创作外，红星新闻记者还尝试询问社会问题，例如，对于“江苏的GDP什么时候能够追上广州”，ChatGPT中文版回答称，“很难说。两个地区的GDP发展趋势都是不断发展的，而且最终的追赶结果也受到外部环境的影响，因此，要准确地预测江苏能够追上广东需要的时间，还需要具体情况的研究。”
　　而对于一些人类情感问题，ChatGPT中文版也给出了自己的回答，并会根据提问者的回话进行对话。
　　问：“为什么人一到傍晚就容易情绪低落？”
　　答：“原因一：生物钟。人们的生物钟晚上会变慢，这就是为什么傍晚的时候容易感到疲劳，情绪低落的原因。原因二：工作紧张压力大。到了傍晚，一天的工作基本都完成了，尽管深夜仍有工作要做，但往往在傍晚，我们才真正意识到自己一天工作了多少，才能看到自己肩上的沉重压力。这样的紧张状态，容易让人心情低落。原因三：缺乏社交活动。由于大部分时间都在工作中度过，晚上缺乏社交活动，导致精神感到孤独，很容易使情绪低落。”
　　问：“晚上去社交，虽然心情好了，但是第二天还要工作怎么办？”
　　答：“新的一天开始之前，在晚上去参加一些社交活动，保持身心健康是很有必要的。另外，在晚上还可以做一些放松自己的事情，比如听音乐、看电影，以及让自己充分休息，以便第二天工作时能够精神焕发，有效地把工作完成。”
　　04
　　院士眼中的ChatGPT：
　　可辅助人类工作但不会替代人类
　　对于ChatGPT的“完美表现”，很多人也表达了自己的担忧。“AI都能够写作文了，那一些文字工作者会不会因此就失业了？”“他们会不会形成自己的思想，到时候来攻击人类？”
　　2月7日，中国工程院院士、中国工程院原副院长、中国互联网协会原理事长邬贺铨接受红星新闻记者采访时表示，ChatGPT的出现其实是人类科技进步、尤其是AI技术进步的一个体现。ChatGPT是在以前的相似应用上的一个发展，其实以前就已经有很多AI对话程序在运作了，就像很多手机就有回答提问的功能，但是ChatGPT之所以能够把答案回复得更像是真人作答，原因还是在于其本身就有一个足够大的数据支持来搭建这个模型。只要有足够的资金、人力，就能够搭建这样大的数据基础，ChatGPT所谓的“举一反三”能力也是建立在这个庞大数据库的基础之上。
　　“但是我们完全没有必要为ChatGPT的出现而担忧，它的出现是一种技术进步，ChatGPT可以帮助人类做一些资料整理等基础工作，但是它不可能代替人类思考。它所写出的所谓诗歌小说，其实也都是在数据复制的基础上完成的，不可能具有人类的情感。”邬贺铨说。
　　对于国内的百度等企业将推出类似的系统，邬贺铨表示，因为百度的此类系统还未上线，技术上还无法判断谁做得更好。“但是中国的语言博大精深，相信百度会更理解中国的文化背景，在问题的回答方面会更契合中国用户，这也是我们的优势。”

7a42-a6219f37d2b7ec99a48b4a2ca4e4091a.png 保存到相册

　　↑百度宣布将推出与ChatGPT功能相似的“文心一言”
　　邬贺铨同时表示，ChatGPT未来在商用上还存在一些不确定性。“ChatGPT的研发投入了大量的金钱，我注意到ChatGPT已经开始付费回答业务，但是未来有多少用户真的会为ChatGPT来买单，还有待观察。”
　　中国工程院院士、中国计算机学会名誉理事长李国杰也在接受红星新闻记者采访时表示，ChatGPT的出现是技术进步，但还远远没有达到改变或者颠覆人类工作习惯、分工的程度。“现在来看，ChatGPT的数据处理以及最终的表达能力还是很强的，但是ChatGPT目前的发展水平不会替代人的工作，只会帮忙。ChatGPT所做的内容，也是在人类已有工作基础上来进行整理、归类等简单内容，其还不具备创造性的工作能力。”
　　05
　　如何对付恶意使用者？
　　专家：以人工智能应对人工智能
　　那么，ChatGPT等系统的出现，会存在怎样的风险？
　　2月7日，奇安信虎符智库研究员李建平对红星新闻记者表示，ChatGPT其实也存在着一些使用风险，网络犯罪分子可能会使用ChatGPT进行网络钓鱼、恶意软件开发等工作。例如有研究人员发现，ChatGPT能够使犯罪分子逼真地模拟各种社会环境，从而使任何针对性的通信攻击都更加有效。GPT-3这类语言模型提供支持的工具，使攻击者更易诱骗受害者提供敏感信息或下载恶意软件，加速从网络钓鱼到传播仇恨言论的所有级别和目的的社会工程攻击。此外，ChatGPT还降低了网络犯罪的门槛──即使没有技术，也能成为攻击者。
　　李建平表示，对付ChatGPT技术的最好方法，就是以人工智能应对人工智能，比如OpenAI刚发布的新产品就是一个AI内容检测器。这个检测器目前只能应用于文字内容，无法支持图像检测，其象征意义比实际意义更大。“从安全防护的角度来看，ChatGPT的运营机构需采取针对性的应对措施。对ChatGPT等类似模型进行培训，标记恶意的活动和恶意代码，避免其向恶意人员提供；同时，对ChatGPT设置难以绕过护栏，提升恶意人员利用其生成恶意内容、开展恶意活动的门槛。”

62b6-74384e779a9e92deb916e363be010960.jpg 保存到相册

　　↑资料配图据视觉中国
　　与此同时，ChatGPT的“创作”还带来了版权等新问题。
　　据财联社报道，针对使用ChatGPT撰写的学术论文，目前已经有多家知名学术期刊正在更新编辑规则。《科学》明确禁止将ChatGPT列为合著者，且不允许在论文中使用ChatGPT所生产的文本。《自然》则表示，可以在论文中使用大型语言模型生成的文本，其中也包含ChatGPT，但不能将其列为论文合著者。
　　对此，河南泽槿律师事务所主任付建认为，目前我国法律并没有对人工智能创造物的权利归属做出明确规定，但人工智能生成的内容在著作权法上可以认定为是程序设计者的创作成果，然而ChatGPT生成的内容也是用户经过训练后得出的结果，因此用户在其中也扮演了创作者的角色，也应当对创作的成果享有著作权。但目前学术研究上，通常会将作品的著作权赋予人工智能系统的所有人。ChatGPT作为新兴事物，目前还没有明确的划分和界定，需要结合实际案例进行探讨。
　　付建同时表示，随着此类技术的发展，国内高校也有可能出台限制将ChatGPT等列为合著者的政策。“ChatGPT作为人工智能的产物并不具有民事主体的身份，著作权的主体只能是依法享有著作权的公民、法人、非法人组织。如果将其列为合著者，可能导致高校学生过度人工智能，从而降低自主学习能力和科研能力。ChatGPT是一把双刃剑，在给高校师生带来便利的同时，也应当进行合理的规制。”
　　红星新闻实习记者：付垚记者：吴阳实习生：苗睿
　　责编任志江编辑：何先锋

帐号		自动登录	找回密码
密码			免费注册

[2023年] 能写诗会谈心的ChatGPT引深思，人类工作会被AI取代吗？院士称不可能替代人类思考