苹果于周一发表了一份技术文档,内容指出 Apple Intelligence 背后的 AI 模型用了 Google 的 TPU 来进行预训练,反而没用上现在业内最夯的 NVIDIA!
苹果在文档中并没有直接点名 Google 或 NVIDIA,不过也指出,苹果基础模型(AFM)和 AFM 服务器是在「云端 TPU 集群」上训练的,「这套系统让我们能更高效、且更具扩展性地训练 AFM 模型,包括设备上的 AFM、AFM 服务器及更大的模型」,这也代表苹果是从云端供应商租用服务器来运算。
设备上的 AFM 是由 2048 个共同工作的 TPU v5p 芯片所训练,TPU v5p 是Google 于去年 12 月首次推出,目前最先进的 TPU。据该论文称;AFM 服务器则在 8192 个 TPU v4 芯片上进行训练,8 千多片芯片通过数据中心网络被配置为八个「slice」。
根据 Google 网站称,如果提前三年预订 TPU,其最新的芯片每小时使用成本不到 2 美元。有趣的是,虽然 Google 有自家 TPU 但仍然是 NVIDIA 最大客户之一,Google 使用 NVIDIA 的 GPU 和自己的 TPU 来训练 AI 系统,并在云端上出售 NVIDIA 技术的使用权。
苹果先前曾表示,AI 模型推论有部分会使用苹果自家数据中心芯片上,公司也在 6 月指出,公司工程师使用了自家软件框架以及自家 GPU、TPU 一系列硬件,以创建 AI 基础模型。
另外,Apple Intelligence 已通过 iOS 18.1 开发者测试版发布,目前仅适提供给有注册开发者计划的用户体验。正式向大众推出 AI 功能的时间,预计延后到 10 月底前的软件更新,不会连同 iOS 18 在 9 月的初步发布中一起推出。
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除。