人工智能的禁用区别

【5、人工智能的禁用区别】

据外交部网站消息，2023年7月24日中共中央政治局委员、中央外办主任王毅，在约翰内斯堡出席“金砖国家安全事务高级代表之友”会议表示：建设开放包容的网络空间，网络的生命在于互联，核心在于开放。网络空间应当是百花齐放的“大舞台”，而不是搞数字铁幕的“新战场”。必须坚持公平正义，反对任何形式的科技霸权、网络霸权，让各方在开放包容的网络空间中各尽其能、各取所需。

这说得多好。但为啥有的人工智能相关工具的使用会被罚款、禁止？如ChatGPT们表面是聊天机器，本质是智能搜索，这就和传统的搜索引擎，科学搜索数据库的功能存在重迭。

又因为这种工具的智能化特征，则必然导致传统这些互联网功能被颠覆。这也体现在具体现象上，最早开始行动的正是传统的网络搜索引擎们，如谷歌、微软、百度等，然后是办公软件，再就是科学搜索服务商们。2023年8月1日荷兰出版巨头爱思唯尔等国际科学数据库公司，开始发布ChatGPT驱动的AI界面。

互联网搜索引擎的对话式人工智能聊天机器人，如谷歌的巴德（Bard）看起来也越来越改变科学搜索。而爱思唯尔的聊天机器人作为一种轻松有趣的工具，为帮助研究人员快速获得他们不熟悉的研究主题的摘要，以及引用的参考文献和要探索的进一步问题，但又要避免不安全或恶意查询，并说明其收到的摘要中是否没有相关信息，爱思唯尔将其人工智能产品，限制为仅搜索自2018年以来发表的文章，以便获取最近的论文，并指示其聊天机器人在其回复中适当引用返回的摘要。当然这不能完全避免错误，但可以最大限度地减少错误。爱思唯尔还通过为机器人的“温度”，选择一个较低的设置来降低其人工智能的不可预测性──衡量它选择偏离响应中最合理单词的频率。

以上是人工智能较温和的禁用区别，包括观察者网上“差评”君的微信公众号说：朱恪远──已经年近半百、曾是苏州大学高材生的哥们，他的视频主页创造的那些个离谱理论，就像一颗互联网黑洞，拥有着极强的引力，吸引一批又一批人前来“观礼”──现实是，已经有许多人把这些短视频当成了真理，在评论区抒发感想。博主们也不会自己砸饭碗，去一次次解释。差评君说朱恪远的离谱是：“看了这些宣传‘文化自信’的视频，我深信大明能造核潜艇”──有说：“朱恪远老师认为华夏历史有14万年，所做的事，其实是功在杜撰”。

那么动真格的禁止类似的是些啥？2023年8月4日“观察者”网讯：综合塔斯社和国际文传电讯社等俄媒报道，因苹果公司未删除“不准确”的关于俄乌冲突的信息，俄罗斯一法院对其处以40万卢布（约合3万人民币）罚款。苹果公司的辩护人要求进行闭门庭审，以防商业机密泄露，法官部分批准了这一请求。国际文传电讯社指出，除苹果外，谷歌、脸书、推特等在俄罗斯此前，也多次因不删除违禁内容而被追究责任。2021年4月26日由于苹果公司滥用主导地位，被俄罗斯联邦反垄断局实施1200万美元的罚款。

又如2023年7月29日“观察者”网，发表《缅北电诈已严重干扰中国社会，我们只能坐以待“骗”？》等文章说：2019年10月14日云贵川渝三省一市多个地区，发生大量微信和支付宝用户的聊天转账功能一度被终止的事件，起因就是来自缅北的大规模跨境诈骗活动过于猖獗，造成严重社会影响，导致国内出现重大财产损失。因涉案金额太过巨大，执法部门不得不对任何稍有异动迹象的账号进行封禁处理。2015年10月15日，公安部刑侦局通过其微博发布《关于封停中缅边境电信网络诈骗活动严重区域QQ、微信、支付宝、POS机等社交和支付账户的通告》；公安部德宏州工作站也发布公告，自11月1日起，对缅北部分电信网络诈骗活动严重区域的一些社交和支付账户采取封停措施。

2015年后国内对电信诈骗的管理严格，在缅北的特殊环境下，几种产业完成融合进化，造出了现在缅北的特殊电诈形式滞留在缅北就是干电诈的，2022年缅北电诈变得很严重，公安部组织了一次大规模专项行动，从4月到7月就劝返了23万滞留人员从缅甸回国。

类似的情况说明对人工智能的禁用，原因一是“环境”，另是“个人”。例如“缅北电诈”，有人说：“你自己不去缅甸，能把你拉过去？以我国的治安，那群人是活腻了才干这事。所以说，别去就得了，再怎么忽悠你，你管住自己那双想不劳而获一夜暴富的小手，安全得很。好言难劝该死的鬼，想尽办法跑过去，甚至翻越边境墙，那就慢慢等着吧，不是不救你，只是真快不了”。

“好言难劝该死的鬼”，对“个人”是这样，对“公司”、“国家”也是这样。只不过后者因意识、宗教信仰区别，法律也有区别。

2023年7月13日国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局等七部门，联合公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

由于生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。

所以说“人工智能技术”生成发展的历史，是人类社会发展历史的一部分。在一个国家、一个地区活动，对“个人”来说，只要遵守当地的法规法律，“人工智能技术”是“安全”的。但对“公司”、“国家”来说，争端要复杂得多。但“人工智能技术”为啥各国即使有不一样的法规法律，它仍发展生存？道理类似时间检验──历史上真实的人、真实的事，什么专家学者和有“话语权”的人的定论也不算。

如几千年后仍有人翻出来重新评判──“人工智能技术”也如真正的高手，不是培训出来的，而是选拔出来的。这对不管是“个人”还是“公司”、“国家”，都一样的──人工智能的禁止区别的成功选拔，有两种机制，一是“竞争机制”，另是“计划机制”。

“竞争机制”类似说大部分人根本干不了的事，哪怕他们干这个的意愿很强；类似“电诈”，即使扩大基数，拉更多的人进来，选拔优秀的诈骗专家，剩下的勒索赎金。为了大量”拉新“，电诈公司干脆花钱买人。比如“缅北电诈”有个0元释放的小哥，就是被表哥三万卖掉的。所以公安说“别去就得了，安全得很”。当然这是负案例。

正案例类似柬埔寨首相洪森──1952年洪森出生于柬埔寨湄公河畔一个贫苦的农民人家；23岁时在战斗中被弹片炸伤左眼，还是落下终生残疾的人，应该说是没有前途的人。但洪森是柬埔寨非常出色的领导人：是他结束了柬埔寨连年的战乱。洪森虽然18岁参加柬共，柬共是被侵略者打败的，不是人民推翻的。但洪森避免走红色高绵波尔布特犯的错误和浴火重生，他参与了柬埔寨过去40年间发生的所有重大变革，连接着柬埔寨的过去、现在和未来。

在群雄逐鹿、山河日变的“大争之世”，他一次次被推上政治斗争的风口浪尖，却始终身居高位而不倒，带领柬埔寨实现了从血火战场到和平绿洲、从满目疮痍到欣欣向荣的大落大起。洪森在柬埔寨人民党和柬埔寨国家的领导地位，不是与生俱来的，而是在血与火的战争中“竞争”获得的──在与政治对手的激烈较量中维护的，在民意的考验中巩固的。自20世纪80年代以来，洪森与王室成员就柬埔寨政治的主导权展开了激烈的较量。

在谈判解决柬埔寨问题的过程中，洪森虽然在年龄、资历和国际威望上，都远远落后于西哈努克，但他还是凭借与生俱来的政治天赋和过人的胆识，在谈判中赢得了主动权。在那个思想激烈碰撞的年代，洪森曾被冠以为数众多的头衔和“帽子”：共产主义者、“资产阶级自由化分子”、“修正主义者”、“越南的傀儡”、“亲中国”……但外界的非议、现成的理论和传统的习惯，都没有成为他思想和行动的羁绊。

“计划机制”正案例类似钱学森：1956年钱学森回国之后，和一大批科学家合作，共同为新中国制定了12年科技发展规划，他认为应该重点发展的那些技术，到今天仍然是关键技术。包括半导体、电子计算机、自动化、无线电、导弹、原子能等技术，今天看来也都和信息技术有密切的关联。前苏联和全世界共产主义运动的失败和代价，转化为信息主义就是共产主义，互联网技术和人工智能技术因此都是未来信息&共产主义社会的核心框架。

1、要数字自由主义还是要数字社会主义？

2023年8月4日“观察者”网记者吕义正，专访《灵境内外──互联网治理简史》一书作者、中国人民大学欧树军教授，发表的《欧树军：要数字自由主义还是要数字社会主义？》一文中说：从“美丽新世界”到“数字割据”，再到钱学森提出的“信息灵境”，人类对互联网技术发展的认识经历了一波三折。

在这样一个一言一行都受网络监控、都无法离开网络的信息时代，我们该如何保护自身权利不受平台侵害？由信息平台构建起来的“虚拟国家”，又对传统的国家权威和治理带来了哪些挑战？中美竞争的下一个焦点，会在信息领域吗？

欧树军教授的解读是：87岁的钱学森，1998年短文《用“灵境”是实事求是的》，讲在信息灵境中，机遇和挑战是并存的，它为每个人提供了全新的生产、生活和工作条件，大大提升了普通劳动者的生产力，同时也大大缩减了过去由于时间和空间所造成的交流障碍。

在信息技术刚刚起步的第一个乃至第二个十年中，我们对其带来的挑战可能感受的不是那么真切，但在今天这种挑战就是信息技术的发展对个人隐私的冲击，比如我们日常的交流、行动的轨迹，都可能随时被信息技术所记录、存储、分析。也许这些信息的收集，看上去是有所限制的，只是用于推送特定的广告，但它显然也是一个能够时刻记录我们日常生活的信息风险，且这一风险已是一个现实的处境。

这种数字化的生存方式本身，它既有赋能的一面，同时又有可能存在严重侵犯个人权利的一面。而信息技术对国家权力的挑战，可能更复杂一些。实际上信息技术发展到今天，已经在很多基础层面挑战了传统国家权力的根基，包括构成国家的各种基本要素，比如说它突破了传统国家拥有的固定领土边界，让一个原来拥有固定疆域的国家，能够直接感受到来自外部信息和各种力量的影响，包括价值观念等。

其次它也在技术上给予了国家突破领土限制，以及连接不同领土的可能性，形成了由信息巨头演化而成的所谓“虚拟国家”。信息技术的发展，形成了一个新的技术权威，并对传统政治权威的合理性产生了挑战。这个技术权威，建立在通过低价甚至免费、然后逐步升级绑定付费的方式，吸引用户进行信息消费和生产的基础之上。

信息定价的第一步，就是通过免费方式来绑定用户，之后再逐步收费，最终形成一种通过信息服务来让网民生活更便利的商业交换方式，它的合理性，来自于商业性的服务交换。由于信息技术的扩张性，在对国家权力的挑战上，将可能造就一个全新的全球信息社会和政治架构。如果我们认为国家权力，是传统上马克斯•韦伯意义上对于合法暴力的垄断，那么信息技术实际上正在改变这个定义。

随着中国接入美国的国际互联网，窗户打开了，苍蝇蚊子也跟着飞了进来。网络侵权（主要指知识产权）、网络色情、网络赌博、网络诈骗、垃圾邮件、电子病毒等各种网络违法犯罪现象，匿名性更强的暗网甚至成了“线上金三角”。互联网的匿名性，所带来的公共安全、社会安全和网络安全困境，成为中国与世界面临的共同问题。

美国在其军事网、政务网和学术网时代，就已经将公民身份的现实世界实名制，转化为信息环境的数字身份技术实名制，通过网民的真实身份，与其每台信息设备独一无二的互联网数字标识符或地址的交叉比对，驱散了匿名乌托邦的迷雾。无论是公共服务，还是商业服务，都以实名制为基础，以准确乃至实时识别用户身份、标识符、地址为前提，个人的信用也以真实准确可靠的身份认证为基石。

我国目前实行的是电话实名制，这避开了网络实名制的社会争议，适应了移动互联网崛起的时代需求，将“后台实名、前台自愿”这一中国信息环境下的独特身份认证原则，嵌入到了内容层。没有身份认证，很难识别违法犯罪，就此而言，信息环境和现实世界没有区别。信息服务商出于营利目的，信息用户出于自我保护需要，都要求国家政府。将现实世界的身份认证适用于信息环境。

人们常常忽略信息技术其实是一把双刃剑，可以同时强化“去中心化”与“再中心化”、“去规制化”与“再规制化”、“去治理化”与“再治理化”。互联网从不可治理向可治理的转变，正是借助信息技术革命所催生的数字身份认证机制，将现实世界的身份认证嵌入信息环境。钱老所说的电子计算机革命和灵境技术革命，面对智能化的发展方向，如何去提升发展动力，如何确保信息巨头不侵犯大众利益、不违背公共安全、不损害国家安全。在美国这个相当强的外部“去中国化”力量的刺激下，如何形成一个自主安全的可持续发展和良性循环体系，需要政府、企业和公民等社会各方共同努力。

国家的前途命运和我们每一个普通人的前途命运，是紧密关联的。比如由于美国所推动的经济脱钩和供应链“去中国化”的举动，我们可能会损失大量的外贸订单，我们普通人的生活马上就会受到直接的影响。在信息领域的表现就是，认为将来世界上可能至少出现两个互联网，一个是由美国主导的互联网，一个是由中国、俄罗斯领导加上其他国家包括整个亚非拉组成的互联网，甚至有人想象出了一个“金砖国家互联网”。这种能力实际上一直是英国、美国比较强，因为今天中国可能也有了这种技术能力，所以他们对于我们这个竞争对手产生了恐惧，认为我们挑战了他们，而且这种恐惧越来越强烈。这也表明两种社会形态的斗争，或者说两种社会形态之争，正在愈演愈烈。

2、ChatGPT的知识产权困境

2023年7月14日科学网个人博客专栏上，孙学军教授发表的《tGPT们的知识产权困境》一文中说：“生成式人工智能（AI）需要使用数据进行训练，例如需要用大量人类过去的文本进行训练。但一些专业艺术家、作家和程序员，强烈反对将他们的创作用作生成人工智能系统的训练数据，以及可能与他们的作品竞争或取代他们的输出。缺乏使用其原创作品的归属和补偿，是加剧生成人工智能批评者的其他原因。美国目前正在进行的版权诉讼，如果原告胜诉，在美国唯一合法的生成人工智能系统，将是那些接受过公有领域作品培训或获得许可的系统，这将影响每个部署生成人工智能、将其集成到其产品中并将其用于科学研究的人”。

人工智能的禁用区别，正好说明人工智能作为“双刃剑”──它是好是坏、是善是恶，取决于人类如何利用、如何规范、如何统筹发展与安全？我国公布的《生成式人工智能服务管理暂行办法》也说明，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。比如已有多所公立学校宣布禁用ChatGPT，多家国内外期刊机构声明，暂不接受任何大型语言模型工具，也禁止将ChatGPT列为论文“合著者”。即ChatGPT在辅助学习、辅助教学和辅助科研方面的潜力初步显露，但也带来学术不端、冲击既有教育体系等问题。

还有人说：人工智能（AI）新技术的出现，还有可能扩大不公平。不同地区的网络质量、设备配置水平等参差不齐，教师的数字素养差别很大，学生获得智能技术教育红利的能力存在地区差别。

目前ChatGPT冲击的人群，主要集中在大城市造成新的地区教育数字鸿沟的关注。但对ChatGPT既不能过于担，也不能毫不担心。重在防范，不然很多大学、科研机构和政府机关，会有人为了偷懒用ChatGPT，客观上造成一些机密信息外泄。尤其是，很多专业人员不承认ChatGPT是通用AI，超级AI更可能是个问题。如在严防人类自我灭绝的问题上，很多风险如核大战、气候变化、致命病毒传播、生物科技滥用等，要排在超级AI之前。

还有未来对中国社会最重要的冲击在于：1）失业问题：ChatGPT未来会威胁很多人的“饭碗”，进一步加剧“AI失业问题”，即AI的推广导致人们失业。2）教育问题：ChatGPT对应试教育造成巨大挑战，要求中国的教育体制适应AI辅助工作和生活的未来社会环境。3）信息安全问题：ChatGPT很快生成海量的AIGC（计算机生成内容），其中不乏错误的、虚假的、有害的内容，威胁主流价值观、意识形态和健康的舆论思想环境。

3、人工智能和所处的政经制度

人工智能概念的第一次提出是在1956年，在美国的达特茅斯学院，明斯基、麦卡锡等科学家开会讨论“如何用机器模拟人的智能”，这也标志着人工智能学科的诞生。现在，自我人工智能、社会人工智能、人工智能技术，和其所处的政经制度之间的关系是什么？

人工智能是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学，用来生产出一种能以人类的思维方式来控制自己像人类一样行动。该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。

在这个机遇与挑战并存的时代，包括计算机视觉、自然语言处理、跨媒体分析推理、智适应学习、群体智能、自主无人系统、智能芯片和脑机接口等关键技术产业链，分为基础层、技术层、应用层。

基础层：芯片、大数据、算法系统、网络等多项基础设施，为人工智能产业奠定网络、算法、硬件铺设、数据获取等；技术层：计算机视觉、语音语义识别、机器学习、知识图谱等；应用层：金融、安防、智能家居、医疗、机器人、智能驾驶、新零售等。

一般而言，人工智能的基本目标是使机器，具有人类或其他智慧生物才能拥有的能力，包括感知（如语音识别、自然语言理解、计算机视觉）、问题求解/决策能力（如搜索和规划）、行动（如机器人）以及支持任务完成的体系架构（如智能体和多智能体）。类似于内燃机或电力的一种“使能”技术，人工智能可以为农业、制造、运输和医疗保健领域的特定技术提供支持。

自然语言处理（NLP）是人工智能的一个子领域，致力于使计算机能够理解和处理人类语言。360集团创始人周鸿祎教授说：“人工智能一定会产生自我意识，留给人类的时间不多了”。如仿神经网络的深度学习，是一种训练AI的方法，目的是让AI在某些思考能力上更像人，从而更加胜任某些工作，比如组织语言、绘制图像等。

但“像人”是有极限的，过于像人，比如学会任性、偷懒、耍坏，甚至反过来戏弄人类，就跟AI的存在意义背道而驰了。

网络并非法外之地，微信群内发言同样需要遵循公序良俗，遵守法律法规。网络空间为大家提供了更多的表达渠道，但畅所欲言并不代表为所欲为，可以有不同意见，但应该做到理性，谨言慎行、合理表达，切不可虚构、捏造事实或者辱骂、诋毁他人。

互联网技术的迭代发展，网络空间也记录着公民的言行举止，言行不当可能侵犯他人人格权。在使用微信群、企业钉钉群等网络通讯工具时，要对自身言行负责，规范自身网络言行。如手机也泄露行踪。而宪法是一种叫法，没有宪法，规矩其实是等同宪法，叫法不同。

对“自媒体”搬运、扩散谣言有害和虚假信息、蹭炒热点吸粉引流等违规行为，进行重点治理。用户要客观理性地表达观点，不制造和散播谣言。如发现相关违规内容，用户可通过前台举报投诉入口和@微博管理员的方式进行举报，站方将及时予以处置。

当然也要看到人工智能技术应用持续投入研发并领先一步的国家，会在工业尤其是服务业领域取得优势。虽然人工智能的发展与应用，可能导致大量失业，尤其是技能不熟练的劳动力，并拉开那些掌握熟练技能的劳动力与其他人的收入水平差距，加深社会矛盾。其次虽然小公司会将AI作为提高生产力的工具，但这些小公司最终会被大型企业所控制，形成强者愈强的局面。

目前大型科技企业的垄断，比如脸书、谷歌、腾讯等等。这些公司通过技术上积累的优势，获得了巨大权力。西方目前就存在对亚马逊这类平台企业权力过大的担忧：因为通过掌握数据，他们可以决定许多商铺、小公司的生死。而人工智能会进一步向科技公司赋权，也可能新出现黑马。如荷兰的半导体设备制造商阿斯麦，当然乐意与中国企业做生意，但因为政治原因遭到禁止。而欧洲内部也是分裂的，一旦欧洲进入“战时状态”，如今欧洲人的立场，就是看你“支持俄罗斯还是乌克兰”。而欧洲人认为，这个问题的答案十分明显。

如在俄罗斯入侵的第二天，芬兰总统尼尼斯托就说：“现在面具已经脱落，只能看到战争的冷面”。这让人工智能的一只脚迈入了这片禁区：ChatGPT的“大语言模型”通过互联网，掌握一个人几辈子都没法读完资料，会随意联想，有能力回答各种问题。这样ChatGPT展现出了包括对问题前提的质疑、发现错误予以修正、通过信息猜测你内心想法等新能力，这也让AI“懂你”成为可能。

这也许才是ChatGPT掀起禁止轩然大波，说不清的原因。在业界，而且在全社会，ChatGPT不只是“生成式AI”，而且也是“生成式”创新──大多数生成式人工智能模型，都是使用从互联网上搜刮的材料进行训练，并没有取得许可或支付报酬。海量文本数据集正在成为一般的知识生产要素，使其充分地发挥知识生产的潜能。可是它离改变人类社会，还有一定的距离。现在ChatGPT之所以火，不排除还有一些人为炒作、资本炒作的因素。

ChatGPT和Bard等AI聊天机器人，一个主要问题是它们倾向于自信地将不正确的信息陈述为事实。这些系统经常“产生幻觉”，即编造虚假信息，因为它们只是接受大量文本语料库的训练，但并不是查询已经过验证的事实的数据库来回答问题。AI聊天机器人的翻车并不少见，常被发现在一本正经地胡说八道。分析人士称，这恰恰暴露了聊天机器人的软肋，它们尚不能区分事实和虚构。

问题在于，它们并不具备理解能力，也无法区分事实与虚构，“在学会思考之前就学会了写作”。因此，媒体、风险投资家和科技企业的大肆宣传，可能会起到反效果。最大危险并不是它们比人类更聪明，而在于人类认为它们比人类更聪明，“这些模型应该只应用于错误成本较低的领域，比如推荐电影等。但它的神奇力量会让很多人相信，能够用于一些错误成本很高的情境中，比如贷款批准、监禁判决、医疗诊断或军事战略”。印度所谓的IT（信息技术、互联网技术）强，实际上是给欧美跑腿打杂的能力强。

ChatGPTA的知识来源于信息的标记，标记本身就带有意识形态，比如美国标记的变装男（LGBT），俄罗斯可能标记为娘炮。其输出自然是对美国的胃口──ChatGPT对很多事物的定义，实际上需要基于英文互联网的信息总结，而英文互联网本身其实可以看做一个信息茧房，所以在用它解决技术问题的时候还好，在用它研究文化问题的时候就一定要警惕。在英语霸权的世界里，中国的政治术语翻译得很不准确，因此外国人不能很好的理解，比如中国政协，翻译成英文很长，很多留学生可能也说不出来政协的全名。

4、英语真能引领全球聊天人工智能的发展？

从目前来看ChatGPT靠单纯讲故事，显然已经很难吸引到资本的眼球了。而人工智能在目前产业内，也逐步认识到如自动驾驶在技术和商业化层面的难度，整个行业正趋于理性化──这是因为软件能力的提升，是需要专业的判断力，汉语和英语在未来20年，也许会共同引领全球聊天人工智能（AI）发展。ChatGPT的出现，让我们看到中国在这个过程中有望领跑，特别是在规模巨大的传统行业中，广阔的市场和丰富的场景是中国AI的跳板，中国的大数据和AI的优势、自动化、智能化有望领先美国，保持“世界工厂”的地位。

聊天智能化更加考验芯片、算法和强算力服务器，更大的挑战在等着我们。类ChatGPT相关技术落地应用，可能存在一定技术障碍。由此“贷前尽调报告”、“贷后风险排查报告”等各类报告模板，整合要素信息，按照模板规则可自动生成风控报告──合规性方面，模型生成的答复、版权归属尚未有明确的法律约束；模型可能会产生有偏差的信息，存在传播虚假信息的法律风险；模型训练所需的数据是否需要获得对应的授权尚不明确。技术性方面，大语言模型的能力得益于巨大的参数量，在训练、部署时资源消耗巨大，导致了其投入的不确定性；大模型训练完成后其知识与数据时间有关，更新知识成本巨大。由此拥抱、探索、取舍是诸多金融机构对新技术的态度。

人类能通过群体协作创造知识、继承知识、运用知识。这三个环节，全都是依靠语言来实现。允许人类将“海量”个体所获得的认识及载体统筹起来，在极短时间“掌握”过去与未来，能带来很多行业生产效率的大幅提升。但ChatGPT也可能被滥用来产生虚假的社交媒体，成为犯罪分子和大规模犯罪工具。从历史经验中找答案。核能能为人类提供电力，带来光明，核能也是原子弹的原理，人类也采取有效措施避免不应有的各种核灾难。要了解ChatGPT工具的优点和缺点，然后避开其缺点，因它不会人们的害怕和抵触，就消退。

GPT-4可以做一些早期版本不擅长的事情，但模型虽好，输出结果仍经常简单化和公式化，这一点与旧版本相同：这个版本有时会编造事实和来源，其输出内容也包含一些推理和分析错误。事实上，GPT-4的强大已经在告诫我们，人工智能在当下的不能、无能乃至错误，不过是人类还没有给予其足够的数据。否则，它释放出的能量将远远超过人们的期待。但事实上，在技术发达的今天，除非断网或强力屏蔽，否则这种阻止将是徒劳的。

ChatGPT确实够智能，可是它离改变人类社会还有一定的距离。大模型训练是一个烧钱的游戏和耗能的游戏，充满着重资本的味道，一点儿也不节能环保。这时，我们就需要对大模型的商业和社会应用进行一番成本-收益分析，看看它所带来的收益是否大于成本以及收益的归属和成本的分担。在进行这种分析的时候，我们应当注意到尚未被计入成本的那些外部性，比如实际上由公众承担成本的环境损害。

当然虽然训练成本高昂，但一经训练成功，它就可以产生巨大的生产力，自动化地生产文字、图像和音视频内容，比如帮助文字工作者生成文案和文学作品，帮助医生了解病人的病史和症状描述并形成诊断和治疗方案，帮助老师、科研人员和学生阅读大量文本并提取关键知识点和主要论点，帮助法律职业者审阅法律文件、分析法律问题并形成初步法律意见书等等。如果用于智慧医疗，可以提供随访、健康咨询、互联网问诊和辅助医疗服务。这些功能，已经在上海新华医院、郑州郑大一附院、成都华西医院得到实际应用。

语言大模型的运行机理，不是透过话语的表象来呈现人的内心，更不是超越语言来帮助人类认识现实，而是熟练地使用语言表象本身，使表象更加表象，乃至可以自动化地生成。这个世界的客观事实，总会检验人的主观认知，一旦面临生存考验，沉浸于主观满足感的人类就会显得十分脆弱。大模型可能的对社会有益的应用方向，是那些不需要新知识的领域，或者说是那些以保守为正面价值的领域，比如文化、宣传、法律和常规医疗：法律的主要功能在于维护既定的社会秩序，它不需要创新，但需要在既定规则的大前提下处理大量信息，这恰恰是大型语言模型所擅长的。

这些领域恰恰是当下国际关系新格局中，中美两大阵营竞争至为激烈的领域。大型语言模型不会帮助人们明辨真伪，但会体现和灌输特定的价值观，并因此产生巨大的社会动员效力。如果多数中国人使用的由大型语言模型驱动的搜索引擎、聊天软件、社交媒体和生产力工具，是基于敌视中国的语料训练而成的，那么便会使国家从内部瓦解。我国也不能完全采取防御策略，比如禁止本国公民使用境外机构研制的相关产品，而是应当积极鼓励本国企业研发和推出用中国语料训练的大模型。美国在人工智能领域的立法，没有任何一项是在限制本国人工智能技术和产业的发展，倒是有很多试图限制中国相关技术和产业发展条款，包括《无尽前沿法案》和《芯片法案》等等，对本国相关企业几乎全是支持和鼓励，所有的限制都指向中国。

美国近百年形成了贯穿政府、社会、企业、高校等各个方面的创新型文化。而我国自“洋务运动”至今近二百年来，主要形成了“跟踪追赶型”科技文化。这种科技文化，在我们追赶世界科技强国的过程中发挥了重要作用，特别是近几十年，使我国跨入科技大国行列。但是，要成为科技强国、成为创新型国家，就需要逐步培育起创新型科技文化。基础研究和科技创新，是不能追求效率的，而我们对基础研究采用的评价，基本还是以效率为重的工程性评价方法。

人工智能依赖的是一个庞大的数据库，无法判断什么内容是真正需要学习的。自然语言处理技术，也被誉为人工智能“皇冠上的明珠”。ChatGPT的出现，并非是人工智能的的终结。美西方国家企图用芯片（算力），卡住我国在人工智能的发展；美西方国家违背公平贸易的下三滥手段，损人而不利己，最终还会被反噬。但同样的商业模式，兵家必争供应链之地的触碰，最终演变成全球的擦枪走火，处于交战状态的根源，美国是主战场。