如何在 Android 手機上運行本地法學碩士 (2024)

隨著人工智能模型進入智能手機，有關數據安全的討論也迅速升溫。具有專用神經處理單元的高級設備能夠在設備本身上處理部分人工智能任務，但依賴雲處理來執行要求更高的任務。蘋果也走同樣的路線，將部分人工智能處理外包給 Open AI 的服務器。如果這對您來說是一個障礙，那麼您可能會對一些解決方法感興趣。今天，我們為您帶來在 Android 手機上本地運行 LLM 的最簡單方法。

季風季節十大有用的小玩意（2024 年）

MLC 聊天應用程序值得一用嗎？

MLC Chat 應用程序使您可以在 Android 手機上本地運行一系列 LLM。當然，這意味著您的 Android 手機需要擁有能夠勝任該任務的強大處理器。運行 Snapdragon 8 Gen 2 或 Gen 3 的設備應該是執行此任務的理想選擇。然而，這並不意味著您在使用 Android 旗艦機上的有限資源運行語言模型時不會遇到延遲或卡頓。

幸運的是，MLC Chat 有六名法學碩士可供選擇。這包括一些更流行的模型，例如 Meta AI 使用的 Llama 3。您還可以使用小型語言模型（例如 Microsoft 的 Phi 2）以獲得更流暢的體驗。不用說，您只能使用 MLC 聊天與法學碩士進行文本對話。僅使用設備上的資源仍然無法完成圖像生成等要求更高的任務。

使用 MLC Chat 在您的 Android 手機上安裝並運行本地 LLM

第 1 步：安裝Android 手機上的 MLC 聊天應用程序使用此鏈接。

– –

步驟2：由於您是從第三方來源下載該應用程序，因此您需要向您的網絡瀏覽器提供允許從未知來源下載並安裝 MLC Chat。

步驟3： 發射手機上的 MLC 聊天應用程序。

閱讀更多：如何在 Windows 11 中更改本地帳戶名稱：分步指南

第4步：瀏覽列表大型語言模型優惠中。在撰寫本文時，MLC Chat 上有 6 個法學碩士：Gemma 2B、Llama 2 7B、Llama 3 8B Instruct、Phi 2、Mistral 7B Instruct 和 RedPajama Incite Chat 3B。

第5步：擊中向下箭頭圖標旁邊的語言模型可將其下載到您的設備上。

第6步：點擊聊天圖標發起與 AI 模型的對話。

常見問題 (FAQ)

如何在 Android 手機上運行設備上的 AI 模型？

在手機上下載 MLC 聊天應用程序，選擇法學碩士，然後點擊聊天圖標即可發起與 AI 模型的對話。所有人工智能處理都將在您的設備上進行，不會外包給雲服務器。

我的手機需要有多強大才能運行設備上的人工智能模型？

MLC 聊天應用程序不需要專用 NPU 即可在手機上運行 LLM。但是，建議您使用具有強大芯片組的智能手機，例如 Snapdragon 8 Gen 2（或更高版本）。

WhatsApp 上的 Meta AI 是否會在我的設備上進行處理？

不會，WhatsApp 上的 Meta AI 聊天機器人會將其處理過程導出到雲服務器。您提供的數據並不局限於您的設備。

如何使用 Google 密碼管理工具與家人共享密碼 (2024)

結論

您可以通過這種方式在 Android 手機上本地運行設備上的 LLM。由於 LLM 對電量的要求非常高，因此在您的設備上使用 Llama 2 等重型 AI 模型時，預計會頻繁關機。如果您的手機缺乏處理能力，我們建議使用 Phi 2 等輕型 LLM。