pocketpal-ai(本地聊天)

作者 开源AI周刊

手机上的 AI 要么连云、要么登账号,聊天记录全在别人服务器。PocketPal 把语言模型整个搬进手机本地跑,能语音、能调工具,无账号无云、连网都不需要,iOS 和 Android 都有。

Github
项目 效率工具 v1.0.0 热度 295

项目说明

pocketpal-ai 是什么

PocketPal AI 是一个完全在手机上运行的私人 AI 助手。它的三个卖点写得很直白:不用账号、不连云、不需要联网。模型跑在设备本地,聊天记录和输入内容不出手机。

除了纯文本对话,它支持给模型一个「声音」(语音输入输出),也支持模型调用工具。整个 app 是开源的,MIT 协议。

能力说明
本地推理语言模型跑在手机端,无需联网
隐私无账号、无云端调用
语音支持语音输入输出
工具调用模型可以调用工具
平台iOS 与 Android

官方还维护了一个模型排行榜(Leaderboard)帮你在手机上挑模型,以及一个 PalsHub 社区。

pocketpal-ai 怎么安装

普通用户直接装 app,去 https://pocketpal.dev 或应用商店获取即可。

开发者想在本地跑起来:

git clone https://github.com/a-ghorbani/pocketpal-ai

然后按仓库的 Prerequisites 和 Clone, install & run 两节装依赖并启动,它同时给了质量门禁(Quality gates)的跑法。

pocketpal-ai 怎么使用

  1. 先在它的模型列表或排行榜里挑一个适配你手机内存的模型下载到本地。
  2. 加载模型后就能离线对话,飞机上也能用。
  3. 要语音交互就把语音功能打开,说而不是打字。
  4. 需要查资料或执行动作时启用工具调用,注意模型能力决定效果上限。
  5. 模型太大手机会卡:换更小的量化版本,或者按排行榜挑已验证的型号。

pocketpal-ai 适合谁用

  • 在意隐私、不愿把对话内容交给云服务的用户。
  • 经常在没网或弱网环境(出差、飞机、野外)要用 AI 的人。
  • 想在自己的手机上实测各种小模型效果的爱好者。
  • 要做端侧 AI 集成、需要一个可参考的开源实现的开发者。
  • 需要强模型、长上下文或联网搜索的场景,手机本地跑不动,别指望它替代云端。

pocketpal-ai 项目地址

  • GitHub 仓库:https://github.com/a-ghorbani/pocketpal-ai
  • 项目官网:https://pocketpal.dev
  • 模型排行榜:https://pocketpal.dev/leaderboard