如何在 Android 手机上运行本地法学硕士 (2024)

随着人工智能模型进入智能手机，有关数据安全的讨论也迅速升温。具有专用神经处理单元的高级设备能够在设备本身上处理部分人工智能任务，但依赖云处理来执行要求更高的任务。苹果也走同样的路线，将部分人工智能处理外包给 Open AI 的服务器。如果这对您来说是一个障碍，那么您可能会对一些解决方法感兴趣。今天，我们为您带来在 Android 手机上本地运行 LLM 的最简单方法。

季风季节十大有用的小玩意（2024 年）

MLC 聊天应用程序值得一用吗？

MLC Chat 应用程序使您可以在 Android 手机上本地运行一系列 LLM。当然，这意味着您的 Android 手机需要拥有能够胜任该任务的强大处理器。运行 Snapdragon 8 Gen 2 或 Gen 3 的设备应该是执行此任务的理想选择。然而，这并不意味着您在使用 Android 旗舰机上的有限资源运行语言模型时不会遇到延迟或卡顿。

幸运的是，MLC Chat 有六名法学硕士可供选择。这包括一些更流行的模型，例如 Meta AI 使用的 Llama 3。您还可以使用小型语言模型（例如 Microsoft 的 Phi 2）以获得更流畅的体验。不用说，您只能使用 MLC 聊天与法学硕士进行文本对话。仅使用设备上的资源仍然无法完成图像生成等要求更高的任务。

使用 MLC Chat 在您的 Android 手机上安装并运行本地 LLM

第 1 步：安装Android 手机上的 MLC 聊天应用程序使用此链接。

– –

步骤2：由于您是从第三方来源下载该应用程序，因此您需要向您的网络浏览器提供允许从未知来源下载并安装 MLC Chat。

步骤3： 发射手机上的 MLC 聊天应用程序。

阅读更多：如何在 Windows 11 中更改本地帐户名称：分步指南

第4步：浏览列表大型语言模型优惠中。在撰写本文时，MLC Chat 上有 6 个法学硕士：Gemma 2B、Llama 2 7B、Llama 3 8B Instruct、Phi 2、Mistral 7B Instruct 和 RedPajama Incite Chat 3B。

第5步：击中向下箭头图标旁边的语言模型可将其下载到您的设备上。

第6步：点击聊天图标发起与 AI 模型的对话。

常见问题 (FAQ)

如何在 Android 手机上运行设备上的 AI 模型？

在手机上下载 MLC 聊天应用程序，选择法学硕士，然后点击聊天图标即可发起与 AI 模型的对话。所有人工智能处理都将在您的设备上进行，不会外包给云服务器。

我的手机需要有多强大才能运行设备上的人工智能模型？

MLC 聊天应用程序不需要专用 NPU 即可在手机上运行 LLM。但是，建议您使用具有强大芯片组的智能手机，例如 Snapdragon 8 Gen 2（或更高版本）。

WhatsApp 上的 Meta AI 是否会在我的设备上进行处理？

不会，WhatsApp 上的 Meta AI 聊天机器人会将其处理过程导出到云服务器。您提供的数据并不局限于您的设备。

如何使用 Google 密码管理工具与家人共享密码 (2024)

结论

您可以通过这种方式在 Android 手机上本地运行设备上的 LLM。由于 LLM 对电量的要求非常高，因此在您的设备上使用 Llama 2 等重型 AI 模型时，预计会频繁关机。如果您的手机缺乏处理能力，我们建议使用 Phi 2 等轻型 LLM。