巴蜀网

 找回密码
 免费注册

QQ登录

只需一步,快速开始

同板块主题的 前一篇 同板块主题的 后一篇
开启左侧
查看: 80|回复: 0
1# 贡嘎山
跳转到指定楼层

[2023年除了一键启动Copilot,什么是AI PC本来该有的样子?

 [复制链接]
  : 机器之心Pro
  在过去的一年多里,无论你是否身处科技行业,都能感受到一种强烈的趋势:人工智能正在重塑每个人的生活。
  历史上每一次技术的重大突破,都会带来生产力的变革。但是这一次,变革来到了一个更加微观的层面。比如,在大模型的助力下,我们使用个人电脑仅需几分钟就能完成一份行研报告的初稿,这在以前是难以想象的。
  这种与 AI 协作的全新方式,其实就是下一代「个人生产力」的初步形态,而这场生产力变革的接入点,是「AI PC」。
  2024年,AI PC 成为了科技领域的热门关键词。如果你此时正在选购一台笔记本电脑,肯定绕不开「AI PC」,这也是各个 PC 厂商主打的产品创新点。前段时间,微软还透露出希望 OEM 厂商在 AI PC 上增加专门的「Copilot 按键」,让用户一键召唤大模型服务。
  与关注新功能的消费者不同的是,行业层面对 AI PC 的好奇心更集中于 PC 硬件的革新,比如算力、功耗、部署等问题。最重要的是:它能不能带来一些商业价值?
  去年英特尔酷睿 Ultra 处理器的发布,已经为我们展示出下一代 AI PC 的底层逻辑。英特尔当时提供了一种思路:不妨让 CPU、GPU 和 NPU 各自搞定它们最擅长的工作,以此来加速端侧 AI。即使是在不联网的情况下,AI PC 也能跑起内置大模型,解决用户的 AI 任务需求。
  今年,英特尔真正开启了 AI PC 的商用时代。目前,我们看到大约有几十项行业应用,完全可以在 AI PC 上本地运行了。
  这在某种程度上证明了,AI PC 不是一个「纸上谈兵」的概念。在英特尔与众多合作伙伴的共同探索中,打造了六大 AI 场景:
  可以想象的是,伴随 AI PC 形态的不断完善,曾经最前沿的生成式 AI 技术,将会为每一个人所用。
  CPU+NPU+GPU 终端异构混合
  如何让 AI PC 成为“芯智”生产力?
  AI PC 离不开大模型能力的加持,而算力是实现大模型各项能力的前提。
  在参数动辄数百亿的大模型时代,想要本地运行一个 AI 应用,对于算力的需求已经发生了天翻地覆的变化。最近一个热门的议题是:CPU、GPU、NPU,谁会是 AI PC 的主角?
  业内普遍认为,终端异构混合「CPU+NPU+GPU」算力是当下最优的选择。
  2023年 9月,英特尔面向生成式 AI时代进行了四十多年来最具颠覆性的处理器架构变革──全新英特尔 酷睿 Ultra 处理器构建了 CPU+GPU+NPU 协同计算的异构加速体系,一举实现 200亿参数 LLM 本地运行。
  通用 CPU 和 GPU 服务平台有时并不能满足复杂 AI 任务的计算需求,高性能和低功耗的推理引擎必不可少。而英特尔酷睿 Ultra 处理器首次内置了神经处理单元(NPU),可处理持续工作负载,完成高能效的 AI 推理。
  与架构革新同样重要的是,如何使算力的提升发挥广泛的商业价值。目前的一些数据让各行各业看到了希望:
  一系列测试显示,搭载了英特尔 酷睿 Ultra 处理器的英特尔 vPro 平台的 AI PC 在生产力、安全性、可管理性、稳定性多个层面实现了跃升。相比于三年前的 PC,现在 AI PC 在 AI 性能方面最高可提升 2.2 倍,生产力可以提升 47%,在专业应用中的性能提升甚至可以达到 12 倍。
  在功耗方面,英特尔酷睿 Ultra 处理器通过 Foveros 3D 封装技术将 Intel 4 计算模块、SoC 模块、图形模块和 IO 模块封装在一起,再加上集成 NPU 的创新设计,与上一代产品相比最高可以降低 36% 的功耗。
  不久之后,AI PC 会从根本上改变企业使用 PC 的方式,解锁新的体验并提高生产力。
  从六大应用场景出发的 AI PC 商业化之路
  现在的 AI PC 已经能够本地运行大语言模型,随着人们日益复杂的 AI 任务需求,AI PC 还需要提升解决更多实际问题的能力。
  为此,英特尔携手众多 ISV 和 OEM 合作伙伴,加强了对软件生态的投入,实现更优的用户体验和商业解决方案。
  在过去一段时间,英特尔与产业伙伴共同锚定了六大关键场景应用:AI Chatbot、AI PC 助理、AI Office 助手、AI 本地知识库、AI 图像视频处理、AI PC 管理。
  可以想象,有了「AI Office 助手」,我们就能通过灵活调用 Office 套件的插件来处理任何文档,提升办公效率。又或者在多媒体文件的处理上,「AI 图像视频处理」类应用能够帮助用户进行图像生成和后期处理,针对局部图像细节处理或图像风格进行变化,更能够通过 AI 生成短视频、3D 模型等等。
  再以「AI 本地知识库」的搭建为例,目前在一些专业场景或行业细分领域中,通用大模型的知识储备会显出不足。RAG 技术就是在这样的需求下火起来的,它能帮助解决生成式 AI 的幻觉倾向、专业力弱等固有缺陷。
  一个更高效的设想是,能不能在 AI PC 中,直接将本地文件和资料转化为知识呢?
  依托于英特尔酷睿 Ultra 处理器加持的 AI PC,星环科技打造了「无涯问知 AI PC 版本」。这是一款适用于 PC 端的大模型智能生产力工具,能够帮助用户在繁杂的本地文件中迅速找到所需信息,并快速形成深刻的洞察、提升工作效率。它支持多种格式、不限长度的文件资料入库,包括常见的 PDF、Word、Excel、PPT、邮件等,这意味着用户不仅可以通过文字来获取知识,还可以通过图片、音频和视频等多种方式,使知识的获取和应用更加丰富多彩。
  特别是,这款工具配备了可在 AI PC 上本地化运行的 RAG 模块,在提供便利性之外,也保障了用户知识和应用的隐私性和高效性。无涯问知 AI PC 版本提供了本地化的向量库,将数据向量化存储,使得用户能够高效地存储和查询海量数据和知识,极大地提升了工作效率。
  有了这样的本地知识库,再加上面向特定行业和领域进行定向优化的「AI Chatbot」,用户就能在 AI PC 上获得非常专业、贴心的问答体验。
  此外,AI PC 的普及还将催生「AI PC 助理」和「AI PC 管理」等方向的应用。在 AI PC 助理场景中,用户能够通过其对 PC、个人文件、照片视频等内容进行 AI 处理;在 AI PC 管理方面,AI 应用还能够通过 AI 加持的远程管理、安全防护、跨设备 IT 管理和运维等功能,让管理 PC 的过程更加轻松高效。
  这些与 PC 的交互方式,或许在今天想来还有些「天马行空」,但在不久的将来就会变成稀松平常的事。在高性能 AI 处理器的推动下,AI 与各类终端设备的深度融合已成为不可阻挡的趋势──这也是 AI PC 的革命性意义之所在。
  AI PC 的普惠时代,即将到来
  生成式 AI 会带来一系列「杀手级应用」,也会给未来 PC 市场带来前所未有的机会。从我们熟悉的传统 PC 应用,到 AI 带来的功能增强再到智能生成,最后抵达高度智能化的个性化服务,AI 将成为未来时代 PC 的「标配」。
  对于商用 AI PC 的大规模应用来说,当前仍属早期探索阶段,许多方法必须从用户实践中反馈和总结,这也是为什么英特尔要与数量众多的行业伙伴携手。
  但面向 AI PC 行业场景落地的整体原则已经有了共识。此前,英特尔 CEO 帕特基辛格曾提出过经济、物理和数据保密三大法则:

  •   在经济法则中,AI 数据在本地处理可降低云服务成本,优化经济性;
  •   在物理法则中,AI 服务的及时性和准确性要求提升云与端之间的传输速度,解决瓶颈;
  •   在数据保密法则中,需要保证用户数据的安全和隐私,防止滥用和泄露。
  为了践行这三大法则,企业需要把实际业务需求搬到终端,而非存在云端,使其不再受网络影响。在过去一段时间的合作实践中,一方面,基于英特尔的技术支持,企业在终端获得了完全不逊于云端的 AI 应用性能,另一方面,由于本地数据处理降低能耗的优势,企业的成本负担也确实减轻了。
  英特尔还助力本土 ISV 伙伴基于英特尔 AI PC 及其他强性能商用客户端产品及技术,打造了教育、制造和医疗等行业全栈 AI 解决方案,推动行业数字化转型。在这个过程中,英特尔也正在从一家芯片公司转变为端到端系统公司。
  对于今天的我们来说,AI PC 还是一个新鲜概念。但不需要太久,也许就在一年之后,商用 AI PC 的部署将会变得相当普遍。
  与此同时,我们也会看到更多在 PC 本地跑起来的强大生产力工具。这场由生成式 AI 引发的变革,将真正惠及每一个人。
『 巴蜀网 』提醒,在使用本论坛之前您必须仔细阅读并同意下列条款:
  1. 遵守《全国人大常委会关于维护互联网安全的决定》及中华人民共和国其他各项有关法律法规,并遵守您在会员注册时已同意的《『 巴蜀网 』管理办法》;
  2. 严禁发表危害国家安全、破坏民族团结、破坏国家宗教政策、破坏社会稳定、侮辱、诽谤、教唆、淫秽等内容;
  3. 本帖子由 云盘山 发表,享有版权和著作权(转帖除外),如需转载或引用本帖子中的图片和文字等内容时,必须事前征得 云盘山 的书面同意;
  4. 本帖子由 云盘山 发表,仅代表用户本人所为和观点,与『 巴蜀网 』的立场无关,云盘山 承担一切因您的行为而直接或间接导致的民事或刑事法律责任。
  5. 本帖子由 云盘山 发表,帖子内容(可能)转载自其它媒体,但并不代表『 巴蜀网 』赞同其观点和对其真实性负责。
  6. 本帖子由 云盘山 发表,如违规、或侵犯到任何版权问题,请立即举报,本论坛将及时删除并致歉。
  7. 『 巴蜀网 』管理员和版主有权不事先通知发帖者而删除其所发的帖子。
只需百行代码,让H100提速30%,斯坦福开源全新AI加速框架 吉林联通2023年业绩亮眼 宽带和政企业务增速迅猛作了大贡献
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

© 2002-2024, 蜀ICP备12031014号, Powered by 5Panda
GMT+8, 2024-6-4 14:40, Processed in 0.124800 second(s), 10 queries, Gzip On, MemCache On
同板块主题的 后一篇 !last_thread! 快速回复 返回顶部 返回列表