谷歌发文解释为什么要在Chrome中内置本地AI模型：为开发者提供设备端应用 – 蓝点网
我要评论谷歌目前已经尝试在 Chrome 浏览器中内置 AI 模型，应用该模型需要下载到本地后使用，蓝点模型版本为 Google Gemini Nano 版。谷歌供设
这个模型并不是发文面向普通用户提供的，主要是解释给开发者使用，让开发者可以在网站或 PWA 应用里调用本地 AI 模型执行运算，为什网而不需要调用某些云端模型。中内置本者提
最重要的备端是经过谷歌的优化，Gemini Nano 版可以在本地使用硬件加速功能，应用无论是 GPU、NPU 甚至是 CPU 都可以用来运算。
使用本地模型的好处有很多：
本地处理敏感数据：设备端 AI 可以改进隐私保护，例如处理敏感数据时可以通过端到端加密为用户提供 AI 功能。
流畅的用户体验：在某些情况下无需来回往返服务器即可获得近似实时的回答。
对 AI 的访问权限更高：设备端可以承担一些处理负载，以换取对功能的更多访问权限，即如果使用云端 AI 用户可能需要额外付费分摊开发者的 token 费用，如果仅在本地处理那么这些费用就可以省了。
离线使用 AI：显然设备端的本地 AI 是可以在离线状态下使用的，这意味着某些 PWA 类应用在离线情况下也可以处理内容。
亦或者采用混合架构：
对于简单的任务使用本地 AI 处理是可以的，但如果需要进行复杂的任务开发者应当考虑使用服务端实现，也就是继续调用云端 AI。
第二种是保持 AI 功能的弹性，当网络连接顺畅的情况下开发者可以调用云端 AI，如果网络不畅或者离线则可以回退到本地 AI 处理。
第三种是安全回退：采用内置 AI 的浏览器需要一定的时间，而且某些型号或某些太旧的设备可能无法使用本地 AI，这种情况下开发者可以继续调用云端 AI。
Chrome 内置 AI 为所有开发者提供通用模型：
现阶段开发者通过浏览器运行 AI 要么直接调用云端 AI 要么需要下载本地模型，而不同的开发者和不同的网站采用的 AI 模型不同，用户可能需要下载一大堆模型。
Chrome 内置 AI 模型为所有开发者提供通用模型，这些模型一次下载即可使用，在用户已经下载过模型的情况下，调用模型的 PWA 应用可以做到开箱即用。
这种方式应该可以大幅度提高 PWA 应用对 AI 功能的采用率，提高用户体验的同时也可以减少开发者很多繁杂的工作。
目前 Chrome 尚未正式推出 AI API 接口，有兴趣的开发者们可以点击这里先报名：https://forms.gle/ksWMYFtsUSZiC63m9
限时活动推荐：软购618多款正版软件2折购、阿里云服务器仅36元/年、腾讯云轻量服务器82元/年、B站大会员88元。
相关文章
漫改游《在天津御空：云之彼端》已上线Steam将于11.28发售
漫改游《在天津御空：云之彼端》已上线Steam将于11.28发售2024-07-26 10:14:53编辑：柒柒 这部作品2025-05-04
RTX4090D中国特供版内核尾曝：卖价12999元购没有购
为体会决RTX 4090正在中海内天战港澳被制止出产、收卖的题目，NVIDIA正正在挨制新的特供版RTX 4090D，此中D代表Dragon——2024年将是中国龙年。按照曝料，RTX 4090D将采2025-05-04
日前，一名名叫JJ Hendricks的游戏保躲者支出了17500好圆，才购到了一盘有远20年汗青的游戏卡带。那便是游戏保躲者心目中的圣杯：《1990任天国天下锦标赛》Nintendo World C2025-05-04
摹拟奇像类游戏是很多的玩家很喜好的游戏的范例之一，正在摹拟奇像类游戏中玩家能够体会到分歧的兴趣，上里小编便去先容几款好玩的摹拟奇像类游戏，感兴趣的小水陪一起去看看吧。1、樱桃湾之夏樱桃湾之夏游戏2025-05-04
《展开那三国3》「少逝世魔窟」活动即将开启新一期的报名，有志之士必没有克没有及错过那一查验真力的机遇，此中佼佼者没有但能仄定祸治，挽救百姓，支成名誉，借将获得谦谦贵重嘉奖!「少逝世魔窟」活动开启后，配2025-05-04
Enterbrain日前公布了2009年上半年日本游戏市场的收卖数据战收卖额统计陈述，成果……非常的糟。从2008年12月尾月到2009年6月尾，硬件销量环境比拟客岁同期下跌了28%。硬件的收卖环境固2025-05-04
最新评论