中国社科院段伟文：AI技术价值中立，但需通过努力实现

断弦有谁听 · 发表于: 2011-7-18 00:24:47

　　段伟文，男，祖籍湖南，1968年生于武汉，理学学士、哲学硕士、哲学博士，先后毕业于华中师范大学物理系和中国人民大学哲学系科技哲学专业，博士论文《网络空间的伦理基础》全国优秀博士论文提名奖。2001年博士毕业进入中国社科院哲学所工作，曾赴牛津大学访学，现任中国社会科学院哲学所科技哲学研究室主任、研究员。

〓　相关链接

命中注定 · 发表于: 2021-8-9 21:51:05

源自：澎湃新闻

⊙见习记者：邵文

　　数字时代正在改变我们的日常生活和经济方式，人工智能、大数据分析、区块链和云技术给我们的生活带来了诸多便利，但同时，也带来了新的脆弱性，大数据杀熟、不当索取个人信息、游戏沉迷、算法歧视、平台算法控制等等。数字时代的伦理问题始终存在，我们应该怎么看待这些问题，又应该如何解决？
　　近日，中国社科院哲学所科技哲学研究室主任、研究员，科学技术和社会研究中心主任段伟文在RealAI主办的人工智能产业治理论坛上作了《走向社会信任与多方共建的人工智能伦理治理》报告，讨论数字时代的科技伦理和社会信任的危机与重建。

64e2-4073768eb324671e76e3662b38b28552.jpg 保存到相册

　　段伟文认为，数字时代带来了很多便利，但其实际上又非常脆弱。当数字技术作为新事物出现时，操作便捷、门槛低、效率提升，因其带来很多便利而使数字世代愿意尝试，人们对短视频、各种新的支付方式等没有信任赤字。但便捷的另一面是风险没有被充分认识。最后造成伤害时，就会严重破坏整个社会对科技的信任。

a081-e4aa274950233d47dbf8bd3391f6ba48.jpg 保存到相册

　　科技活动应该遵循哪些科技伦理原则？据科技部官网，7月28日，科学技术部科技监督与诚信建设司研究起草了《关于加强科技伦理治理的指导意见（征求意见稿）》，明确科技伦理的原则为增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明。

3d92-094560f201c69709cecf730d0e8f395d.jpg 保存到相册

　　段伟文提出，如果希望这些伦理原则不成为伦理洗白工具而是真正落地，很重要的是一种工作假设，即科技创新的过程也是伦理创新的过程，也是伦理从0到1的过程。0就是原则，1就是落地，即技术创新要和价值创新同步。

5039-2794af1f138cabfe25b79f9b2bb90305.jpg 保存到相册

　　段伟文认为，中国的数字产业的发展基本是奉行着鼓励创新、包容审慎的立场，所以虽然前些年制定很多法律，但存在一个悖论──严格立法、普遍违法、选择执法。在近几年，从短视频防沉迷再到应用软件不当的索取个人的数据，都有专项的治理，还有金融科技的治理，包括中止上市，相关机构或企业成立金融科技伦理委员会等，还比如跨境数据治理导致应用软件下架等等。
　　当下是快速变动的时代，有很多的创新便利，同时也有巨大风险，段伟文以沙漏做比喻，他提出，以前政府管理部门只是处在沙漏的上方，没有感知到变化的迅速，但现在随着社会舆论，国际政治，国内外的格局等变化，政府会感到沙漏的巨大风险。段伟文总结道，在这样的情况下，政府的治理有两个特点。
　　第一，先发制人，一旦察觉风险，就将其扼杀在摇篮中。
　　第二，当察觉一种技术的滥用造成社会整体治理架构不能接受的风险时，就会追溯既往，即以往犯的错误也是不可接受的。
　　在这样的情况下，企业不仅仅需要根据合规不合规去思考问题，也需要思考对不对，去做出治理。段伟文认为，整个社会都有一个对科技活动的许可，这种许可不一定是有形的，但是存在的。
　　2014年，由于一家化工厂不断排出“臭鸡蛋”味，河南省新乡市获嘉县居民聚集抗议要求将化工厂迁离。化工厂、垃圾焚烧厂、核电站等的建设过程中出现的大量公众事件阻止这些科技的发展，段伟文将其解读为社会许可证，即公众答应与否。其提出，公众当下对人脸识别的宽容态度来自于还没有感知到重要风险，一旦出现重大恶性事件，公众的许可就会消失。
　　“那么一个很重要的问题是，要直面社会许可的挑战，不能只等到出现了恶性事件，再做治理，不能仅仅满足于合规，”当下面对这样一种既先发制人也追溯既往的治理格局，段伟文认为，企业应该更多考虑怎样重塑科技的社会印象，这是非常关键的。

49a7-bda450cd9b48a3cf95a9d63f8c47096e.jpg 保存到相册

　　在措施方面，段伟文提出，一个是技术上改进，比如隐私计算等，另一个是伦理设计，比如游戏的防沉迷机制，在知晓用户滥用技术时提醒其不要过度使用。更重要的是关怀伦理，即从用户的角度去关心他，“说个不恰当的例子，在有些赌场现在实行关怀伦理，当你输一百万的时候他会告诉你你剩下了20万，你别输了，你今天手气不好，坐下来喝喝茶等等。所以我们可以看到世界上的善和恶可能有各种各样的标准，但唯一的一种智慧就是我们做什么事情都要有个度，这是最重要的，”段伟文说。
　　2021年1月5日，全国信息安全标准化技术委员会发布了《网络安全标准实践指南—人工智能伦理安全风险防范指引》也明确了四大责任主体，研究开发着、设计制造者、部署应用者、用户。
　　“技术是价值中立的，但它是需要通过努力实现的，真正意义上的创新应该面向用户，面向社会价值，是整体性的创新，而不只是增加财富，加强资本。”段伟文呼吁，“我们要超越技术解决主义，当下有很多手段能解决伦理问题，但更重要的是超越这些技术手段，用更广泛的社会关怀进行补充。”段伟文进一步阐释，从疫情防控期间可以看到，很多技术手段的应用需要人的关怀，比如手机的适老化，这些都是很有意义的。

灵动浚心 · 发表于: 2020-10-20 14:36:01

源自：新京报

原文标题：1分钟调研：您最关心的科技伦理问题是什么？

　　近年来，我国在数字技术、生物医学和人工智能等领域的创新与应用，出现了跨越式发展的良好势头，越来越多的人享受到科技进步的红利，科技创新成为人们创造美好生活的关键动能。但随着网络新媒体、大数据、基因、纳米、人工智能、机器人、虚拟现实、神经科技等新兴科技的普遍应用，科技创新和应用的不确定性后果与深远社会影响日益凸显，带来了诸多不容忽视的价值冲突与伦理争议，成为公众、企业、机构和管理部门普遍关注的话题。
　　为了更好地推动科技伦理治理，首先需要广泛了解学术界等社会各界最为关心的相关问题，才能有的放矢地展开深入的研究与探讨，推动不同领域与层面的对话，实施更具适应性与包容性的治理举措。为此，特邀请您参与问卷调查。
　　继中国学术界最关心的科技伦理问题调研之后，我们拟进一步开展中国公众最关心的科技伦理问题调研。
　　参与问卷调查将有机会获赠中国社会科学院哲学所段伟文研究员的新书《信息文明的伦理基础》

断弦有谁听 · 发表于: 2011-7-18 15:22:08

一：研究领域
　　科学与技术研究（science and technology studies）、科学哲学、技术哲学、科技伦理、网络研究。

二：个人著作
　　《网络空间的伦理反思》，江苏人民出版社，2002；
　　《被捆绑的时间：技术与人的生活世界》，广东教育出版社；
　　《网络先锋：中国网络产业透视》，北京邮电大学出版社，2000；
　　《在真与善之间：科技时代的伦理问题与道德抉择》，中国社会科学出版社，2000.5（第一章科技伦理新建构的底线）；
　　《转型驱动力：现代科技革命与社会变革》，江西高等教育出版社，2002.5（与导师刘大椿合着）；
　　《赛博空间的哲学探索》，清华大学出版社，2002年9月（与曾国屏等合着）；
　　《时空巨人──爱因斯坦》，书目文献出版社，1996.8.7万字。

断弦有谁听 · 发表于: 2011-7-18 00:25:38

　　中国社会科学院副研究员。

帐号		自动登录	找回密码
密码			免费注册

[哲学家] 中国社科院段伟文：AI技术价值中立，但需通过努力实现

相关帖子 » 标签

中国社科院段伟文：AI技术价值中立，但需通过努力实现

1分钟调研：您最关心的科技伦理问题是什么？

人物成就

人物履历