轻薄本也能轻松搞定AIGC!英特尔让AI能力服务更多用户
【大泽科技SHOW】ChatGPT、Midjourney、NewBing、Stable Diffusion……无论你是否使用过他们,你一定曾经在微博、在朋友圈、在各种媒体平台上被他们刷过屏,也一定在不经意间阅读过、分享过由这些工具创建的文本、图像甚至视频内容。开年以来,这些生成式 AI 成了科技界最炙手可热的话题。
很多人不知道的是,作为 PC 行业的领导者,英特尔早在 2018 年就提出了要在 PC 中引入 AI 技术,并且在同年推出了“AI on PC Developer Program” PC 人工智能开发者计划。时至今日,大模型和生成式 AI 已经基本奠定了 PC 上的 AI 基本形态,英特尔也沿着这个方向做了许多事情。
8 月 18 日,英特尔在深圳大湾区向我们展示了其在 AIGC(人工智能生成式计算)领域的最新进展,今天借着这一次活动,我们一起来聊聊 PC 上的 AI。
(资料图)
图片文字都能在本地生成,AI在PC上的实战
在正式开始之前,我们先来看看 PC 上的 AI 都能够做什么事情,以下的实战演示都是基于英特尔技术在 PC 上直接运行实现。
我们首先使用英特尔的 AI 应用 Demo “英特尔大语言模型”应用进行多组对话,让它帮助我们处理一些工作以及生活中的任务。
向“英特尔大语言模型”提问本篇文章的核心问题“AI 在 PC 上有哪些应用”,AI 没有局限在某一个应用中,而是结合了不同的需求、不同的应用、不同的服务、不同的工具以及不同的场景给出了这 8 个答案,内容的可用性相当高。同时,它的生成速度也很可观,与普通人的阅读速度相当,基本上无需等待。
接下来我们使用 AI 继续以这个话题为核心生成内容大纲,AI 将内容拆解成了四个部分,内容逻辑由浅到深,涵盖了应用场景、工具发展到进一步的应用对比内容。虽然这个提纲无法直接使用,但能够很好地启发作者灵感。
英特尔大语言模型翻译结果
DeepL 翻译结果
将同一段话丢给英特尔大语言模型和使用了 AI 技术的 DeepL ,从翻译结果来看,差距还是很明显的。不过这种差距主要来自于其应用的大语言模型,如果模型有针对中英互译进行专门优化的部分,本地 AI 也会带来很好的翻译结果。
英特尔大语言模型应用还提供了代码生成功能,只需要告诉 AI 你想要的功能,AI 就会生成一段代码来供你复制使用。对于程序员朋友来说,可以把一些基础的重复功能交给 AI 生成,提升编程效率。
除了文字内容生成外,英特尔还能够支持 Stable Diffusion 的运行,输入关键词、点击生成后,只需要 17 秒,一张通过文字描述生成的图片就出现了。
可能你会觉得上面的应用并没有什么与众不同,但如果我告诉你,这些内容无需借助高性能显卡和网络环境,只需要一台搭载了英特尔处理器的轻薄本就可以实现,你一定会感到惊讶。
大幅降低准入门槛,Intel赋能AIGC
在传统的认知里,部署 AI 应用往往需要高性能的独立显卡甚至是专用的 AI 算力卡,无论是 ChatGPT 这样的文字对话式应用,还是 Midjourney 这样的文生图应用,在过去都需要具备超高并行算力的 GPU 支持才可以实现。
但这种情况今天已经被英特尔改变,为了让英特尔平台顺利运行大语言模型,英特尔构建了BigDL-LLM库,通过 BigDL-LLM库可以对各种各样的大语言模型进行优化和支持,能够在一台搭载 16GB 内存的英特尔轻薄本上运行参数量高达 160 亿的大语言模型,支持的模型包括LLaMA/LLaMA2、ChatGLM/ChatGLM2等等,这极大地降低了 AIGC 的使用门槛。
文生图方面,英特尔在 Stable Diffusion WebUI 上面启用了 OpenVINO 加速,开发了一套对开发者来说友好易用的 AI 框架,通过 Pytorch API 让社区开源模型能够很好地运行在英特尔的客户端处理器、集成显卡、独立显卡和专用AI引擎上,现在我们已经可以在集成显卡以及英特尔 Arc 独立显卡上运行 Stable Diffusion Automatic1111 等社区开源模型了。
很多人认为轻薄本无法胜任 AI 方面的工作,但在英特尔的努力下,通过模型优化,降低了模型对硬件资源的需求,进而提升了模型的推理速度,无论是 LLM 大语言模型,还是 Stable Diffusion AI 绘图,都能够以比较高的效率运行在普通的笔记本上,本文第一部分的所有应用实例,都是在一台搭载了 i7-13700H 处理器、32GB 内存、Iris Xe 核芯显卡的轻薄笔记本上完成的。
本地化的 AI 应用在便利性、安全性、隐私性以及应用范围方面有着无可替代的优势。
本地部署意味着无需联网,没有安全隐患,没有隐私泄露风险,在不方便使用网络的场景下,也可以让 AI 辅助我们的工作和生活,这是现在主流的 AI 们无法企及的。
另外无论是英特尔大语言模型应用还是Stable Diffusion AI 绘图应用,它们都有着很多未被发掘的潜力。借助海量的、丰富多样的大语言模型、绘图模型以及更细化的 Prompt 指令,我们能够让普通的笔记本使用 AI 实现更多的可能。
英特尔通过强大的 CPU 算力以及针对 AI 的软件优化两个层面,大幅降低了 AI 应用对 PC 硬件的要求,让更多的普通消费者,通过搭载了英特尔处理器的笔记本体验到最前沿的 AIGC 技术。
多角度利用AI能力,英特尔为AIGC带来更多想象
所谓的 AI 赋能其实并不是单独某一个方面的应用,想要更好地利用 AI,势必要深度结合使用场景,在前台交互、后台数据、行为预判、思维逻辑等多个层面运用不同的 AI 能力,将多种多样的 AI 能力有机整合就可以带来更具实用价值的 AI 应用。
英特尔在大湾区的技术分享活动中,还展示了基于 Arc 显卡 AI 技术的“人物动作三维数字重建”应用,英特尔的检测算法可以实时探测人体的 27 个关键骨骼点信息,并且实时进行 3D 重建,同时生成一个数字人的形象,在下面的“渲染播放器”里进行动画渲染。渲染帧率高达 70FPS,画面非常稳定,它还可以随时改变渲染器的画风,进而快速打造各种元宇宙应用。
这个技术基于 Arc 强大算力以及 OpenVINO 框架对包括 CNN 网络检测、Transformer、3D 重建、神经网络、深度网络等 AI算法的优化推理,不需要任何智能穿戴设备,随便外接一个家用摄像头,就可以实现任务动作的实时探测以及后期重建、渲染。
这也就意味着任何人都可以在家构建出专属于自己的数字人形象,创作出个性化的元宇宙世界。
这个技术也可以与生成式 AI 相辅相成,为用户构建虚拟形象提供文字、图像以及视频内容提供更充足的物料,在工作、游戏等场景下带来更生动的内容展示。
很显然,英特尔对 AI 的投入并没有局限在流行的生成式 AI 中,除了这一次的演示外,英特尔很早以前就在 Evo 笔记本上应用了 AI 降噪、AI 背景虚化、AI 感光矫正等功能,所有的这些都是基于客户端计算能力带来的 AI 实际应用。
为了进一步增强 PC 的 AI 能力,英特尔即将发布代号为 Meteor Lake 的酷睿 Ultra 系列处理器,它通过分离式模块架构,集成名为“VPU”的独立 AI 加速单元,为 PC 用户提供 AI 驱动的新功能、新应用,比如 Adobe Premiere Pro 中的自动重新构图、场景编辑检测等等,还有更高效的机器学习加速。
这会成为 PC 历史上的重要里程碑,AI 能力也将会成为新一代 PC 的标配。
英特尔中国区技术部总经理 高宇
AI 已经成为“第四次工业革命”中不可忽视的中坚力量,英特尔通过硬件、软件等方面的能力,帮助广大用户在端侧实现了曾经不敢想象的 AI 能力,为 PC 产品在 AI 时代的发展构建了坚实稳定的基石,也为 PC 带来了更富有生命力的应用场景和使用价值,我们相信 AI 时代的 PC 将会有着更加蓬勃的发展动力,也期待着英特尔为我们带来更多基于 AI 的应用解决方案。
关键词: