Google悄悄测试能下载AI模型到手机执行的AI Edge Gallery App

Google上周公布AI Edge Gallery App,让用户能下载AI模型到手机上执行。

AI Edge Gallery App是在Project Wiki下的实验App,允许用户搜寻、并从Hugging Face下载最新生成式AI模型,然后完全在Android及iOS装置上执行AI应用。Google强调,Project Wiki为允许机上ML,提供核心API和轻量runtime,并且整合Hugging Face,可搜寻下载模型。

Google鼓励用户下载来实验不同模型。目前分成三类模型,包括AI助理对话、上传图片询问问题,或是下提示让AI摘要重点、改写文字或帮忙撰写程式。用户也能使用自己的模型来测试。本款App还提供配置功能供模型客制化,以及即时模型执行效能比较(TTFT/Time to First Token、解码速度和延迟性)。

Android版现在已经可供下载,iOS版很快会推出。要下载AI Edge Gallery App需安装其APK档Project Wiki网页提供完整的使用指引。