《IEEE Spectrum》七月刊上线《IEEE Spectrum》七月刊已上线可点击下载 PDF。小型 AI 模型在全球崭露头角在网络不稳定且缺乏数据中心基础设施的地区小模型反而更具优势。2019 年Adebayo Alonge 在开普敦展示创业公司的 AI 解决方案时因数据中心远、带宽有限系统失灵。于是他要求工程师将 AI 模型缩小为低功耗、无需联网的版本两小时后完成挽救了演示还催生了设备新版本让他成为“小型 AI”倡导者。小型 AI 助力全球医疗保健普及小型 AI 与富裕国家的巨型大语言模型、超大规模数据中心等相去甚远但对全球数百万人来说是真正重要且通常唯一可用的 AI。世界银行行长 Ajay Banga 表示大多数人讨论的 AI 需要大量计算能力等条件发达国家之外很少有国家具备而小型 AI 可为缺乏这些条件的地区提供有用甚至能挽救生命的服务。在印度政府呼吁发展小型 AI许多此类系统已应用于农业领域。例如印度韦洛尔理工学院开发的基于无人机的系统可拍摄腰果植株照片并识别病害斑点植株所有处理在无人机上完成。此外还有小型 AI 应用用于识别乌拉圭葡萄园中的蚂蚁侵扰、多个国家携带疟疾的蚊子以及在巴西部分地区通过 Arduino 设备进行心电图检测。巴西伊塔尤巴联邦大学教授 Marcelo José Rovai 称这是当今 AI 领域最重要的方向发展速度非常快。设备上的低功耗小型 AI 模型小型 AI 模型可以在各种低功耗设备上运行。对 Alonge、Rovai 等倡导者来说小型 AI 可能是影响最广泛人群的 AI 形式且在大型模型成本过高后仍能保持可持续发展。Alonge 认为 AI 的未来是数百万个部署在边缘的小型、精准模型。“小型 AI”通常指参数最多只有几十亿的语言模型可直接在手机或 Raspberry Pi 上运行仅消耗几瓦电力。Rovai 表示小型模型与巨型 AI 模型在技术上无本质区别许多小型语言模型通过“修剪”大型模型或“蒸馏”创建也可降低大型模型精度或直接在小型设备上训练。运行这些小型、专业化系统变得越来越容易一是因为硬件性能提升、功耗降低越来越多手机能运行小型 AI二是语言模型规模不断缩小如谷歌 DeepMind 的 Gemma 4 和阿里巴巴的 Qwen 3.5 对小型 AI 很出色且是“开放权重”的。Rovai 通过实验展示新款 Arduino UNO Q 售价 50 美元运行语言模型检测蚊子繁殖水洼只需 3 瓦电力。支持小型 AI 发展世界银行正积极推动小型 AI 的发展通过提供赠款等方式如在卢旺达支持政府计划帮助低收入家庭获得能运行 AI 的设备。但大语言模型不会完全消失创建小型生成式 AI 需要大型模型的架构见解等。Alonge 表示小型 AI 虽能让无法使用大型 AI 的人受益但无法解决发展和数字不平等的更大问题实施小型 AI 仍面临创建支持 AI 生态系统的挑战。在世界许多地方小型 AI 的未来并不确定关键在于政治决策者是否投资基础设施支持其发展。