AI为什么会犯错？其面临三大挑战

源自：中国科学报

---

　　周红

⊙记者：陈欢欢

　　ChatGPT横空出世，让很多人不禁发问：未来人工智能（AI）是否无所不能？
　　但AI软件的一些低级错误也让人哭笑不得。例如，一张熊猫图片加上肉眼几乎不可见的小噪声，就可能被AI识别成长臂猿。在这些对人来说一目了然的问题上，AI为什么会犯错？
　　在日前举行的华为第20届全球分析师大会上，华为战略研究院院长周红指出，AI在能力快速提升的情况下，还面临三大挑战。
　　过去10年，AI算法的算力需求提升了40万倍。在象棋、围棋等对弈能力上，AI已经毫无疑问超越了人类。自动驾驶、图像识别、语言文字处理等成为AI正在攻克的“山头”。
　　周红认为，虽然能力在快速提升，但AI目前还面临目标定义、正确性与适应性及效率三大挑战。
　　智能的目标是什么？解决新问题、提升学习能力还是独立思考？周红指出，目前学界除了通过规则和法律来加强AI的伦理和治理外，还缺乏达成共识的目标定义，很难确保AI发展的目标与人类一致，也很难合理分类和科学计算。
　　其次是正确性与适应性挑战。依靠大数据统计规律进行的学习，会依赖于采样的覆盖面和数据的正确性，如果错误使用，就可能导致结果不稳定和偏见的产生，甚至出现“黑天鹅”事件。至于AI为什么会犯错，周红表示：“这很难解释，因为AI的能力分布在巨大的参数中，出了这些问题，我们既无法解释，也难以调试。”
　　第三个挑战来自效率。2022年全球超级计算机Top500排名第一的Frontier，计算性能约1102PFLOPS，能耗2100万瓦；相比之下，人脑只需要20瓦就能等效处理30PFLOPS的计算。也就是说，超级计算机单位能量的计算效率仅为人脑的3万至10万分之一。要论计算效率，甚至乌鸦也可以秒杀超级计算机。
　　除了计算，周红认为，人类大踏步迈向智能世界，还需要解决未来通信这一核心问题。
　　75年前，信息论创始人香农提出三大定理，奠定了通信的数字理论基础，也给出了信号传输的极限。但在当时，传播环境比较简单，没有考虑高楼大厦林立的场景。而近年出现的一些新物理现象和技术，比如自愈性非衍射波束、轨道角动量OAM电磁场传播、飞秒激光器、AI等，都在香农当年的视野之外。
　　周红指出，要打破既有理论与技术瓶颈的条条框框，就需要在通信网络上实现成百上千倍的提升。
　　华为相关机构估计，2026年全球数字化转型支出将达到3.4万亿美元，成为整个产业链的新蓝海。预计到 2030年，全球联接总量将突破 2000亿。与此同时，企业网络接入、家庭宽带接入、个人无线接入将迎来万兆联接的时代；通用算力将增长10倍，人工智能算力增长500倍。
　　面对挑战，周红建议从实用的角度来发展知识和智能。目前，华为与北京大学一起提出了基于元动力学的药物靶点发现和构象搜索算法，加速小分子遍历蛋白质的过程，将传统方法的37天缩短到6小时。