这次我们来看一个很有意思的尝试在学而思学习机上运行本地大语言模型。你可能觉得学习机就是个封闭的“学习盒子”但通过 Termux 和 Ollama 的组合我们能让它变成一个能离线对话、处理文档的轻量级 AI 终端。这背后的核心不是追求多强的性能而是验证在 ARM 架构、资源受限的安卓设备上本地 AI 部署的可行性与边界。对于家长或技术爱好者来说这有几个直接价值一是探索学习机的“隐藏”能力将其转化为一个可编程的 Linux 环境二是在无需联网、确保隐私的前提下让孩子体验基础的 AI 交互比如问答、故事生成、学习规划三是作为一种低成本的技术验证方案了解移动端部署 AI 模型的门槛。整个过程不涉及系统破解或获取 root 权限主要依赖开源工具在用户空间完成。本文将带你完整走通从环境准备、软件安装、模型部署到基础功能测试的全流程。你会了解到 Termux 如何提供一个基础的 Linux 环境Ollama 如何简化模型的拉取与管理以及最终如何在学习机的终端里与本地模型对话。我们重点关注的是方案的通用性、部署过程中可能遇到的坑以及在这种设备上运行 AI 模型的真实体验和性能边界。1. 核心能力速览在开始动手之前我们先通过一个表格快速了解这个方案的核心信息、硬件门槛和能做什么。能力项说明项目本质在安卓设备学而思学习机上利用 Termux 模拟 Linux 环境部署 Ollama 来运行本地大语言模型。核心工具Termux终端模拟器与 Linux 环境、Ollama本地大模型运行框架。硬件平台基于 ARM 架构的安卓学习机/平板/手机。无需 root 权限。性能门槛主要瓶颈在内存RAM和存储空间。流畅运行较小模型如 7B 参数建议设备内存 ≥ 4GB存储空间预留 5-10GB 用于安装环境和模型。CPU 推理为主速度较慢。主要功能在终端内与本地大模型进行纯文本对话、内容生成、简单推理。可作为离线 AI 助手原型。启动方式通过 Termux 命令行启动 Ollama 服务使用curl或 Ollama 命令行与之交互。是否支持 API支持。Ollama 默认提供 RESTful API端口 11434可供其他本地应用如笔记软件、脚本调用。是否支持批量任务可通过脚本循环调用 API 实现简单的批量文本处理但受限于设备性能不适合高强度批量任务。适合场景1.隐私敏感场景离线问答、文档处理。2.教育探索让学生理解 AI 本地运行的基本原理。3.轻量级开发测试在 ARM 设备上验证 AI 应用原型。4.设备功能拓展将学习机变为编程和 AI 学习工具。2. 适用场景与使用边界在学而思学习机上跑本地模型听起来很极客但清楚它的适用场景和局限能帮你更好地决策是否值得尝试。它非常适合以下情况离线AI体验与教学你想让孩子或学生了解“AI不是魔法而是运行在设备上的程序”这个方案提供了一个完全离线、可触摸的实例。讨论模型是如何被下载、加载和响应问题的是很好的科普。隐私安全优先的轻量级任务处理一些不想上传到云端的文本想法、草稿、学习计划。模型完全在本地数据不出设备。ARM环境开发学习作为移动端或嵌入式AI应用开发的低成本测试平台了解在资源受限的ARM设备上部署AI服务的流程和挑战。学习机功能拓展实践通过Termux你可以安装Python、Node.js、Git等工具将学习机变成一个轻量级Linux开发环境远超其原有学习功能。你需要清楚它的主要限制性能有限学习机的CPU并非为高强度AI计算设计推理速度慢生成一段文字可能需要数十秒。内存小无法运行大型模型如70B参数模型。功能单一目前主要实现文本对话。复杂的多模态识图、语音或需要GPU加速的任务在此方案上难以实现。体验粗糙交互方式以命令行终端为主没有精美的图形界面。不适合追求流畅交互体验的日常使用。设备风险虽然不root但安装非商店应用、占用大量存储和内存可能影响学习机原有系统的稳定性或保修条款请自行判断。合规与安全边界提醒版权与内容本地模型生成的内容其版权和责任由使用者自行承担。需确保生成内容合法合规符合社会主义核心价值观尤其当用于教育场景时。设备用途请确保该技术实践用于合法学习与研究目的不破坏学习机内置的正版教育资源与系统完整性。模型来源从Ollama官方或可信镜像下载模型避免使用来路不明的模型文件。3. 环境准备与前置条件开始操作前请确认你的学习机满足以下条件并做好必要准备。1. 设备确认品牌型号学而思学习机其他安卓平板或手机也可参考流程通用。系统版本安卓版本建议在 8.0 及以上。部分旧版本可能无法兼容最新 Termux。存储空间至少预留8GB可用空间。用于安装 Termux、Ollama 及其依赖以及下载模型文件一个7B模型约4-5GB。运行内存4GB 或以上为佳。运行模型时内存占用会显著上升。2. 软件准备Termux 安装包由于 Google Play 上的 Termux 可能版本较旧或有问题建议从F-Droid应用商店下载 Termux 及其插件Termux:API, Termux:Widget 等可选。这是获取可靠版本的最佳途径。可以在学习机内置浏览器中访问 F-Droid 官网下载安装器。终端工具Termux 本身即是一个强大的终端。你还需要一个文件管理器如学习机自带管理器或 MT 管理器来管理下载的文件。网络环境部署过程中需要从网络下载软件包和模型请确保学习机连接到一个稳定、通畅的网络。由于 Ollama 默认从海外拉取模型网络速度可能影响下载体验后续步骤会提供优化方案。3. 心理准备整个过程涉及命令行操作需要一定的耐心和学习能力。命令执行后可能需要等待较长时间尤其是安装包和下载模型时。如果遇到问题排查思路比具体错误代码更重要。4. 安装部署与启动方式接下来是核心操作部分。请严格按照步骤进行。4.1 安装并配置 Termux安装 Termux通过 F-Droid 安装 Termux。打开应用完成初始化。换源关键步骤大幅提升安装速度启动 Termux依次执行以下命令将软件源替换为国内镜像如清华源。pkg update pkg install curl curl -L https://gitee.com/mirrors/termux-images/raw/master/update.sh | bash或者手动编辑源列表如果上述脚本无效pkg install nano nano $PREFIX/etc/apt/sources.list将文件内容替换为# The termux repository mirror from TUNA: deb https://mirrors.tuna.tsinghua.edu.cn/termux/termux-packages-24 stable main按CtrlX输入Y保存回车确认。更新与安装基础工具pkg update pkg upgrade pkg install git wget python nodejs -y4.2 安装 OllamaOllama 提供了在 Linux 系统上的一键安装脚本在 Termux 的 Linux 环境下同样适用。下载并运行安装脚本curl -fsSL https://ollama.com/install.sh | sh这个命令会下载安装脚本并自动执行。如果网络连接 ollama.com 较慢可能会失败或等待很久。国内网络优化方案如果上述命令下载缓慢或失败可以尝试使用加速地址或者先下载模型文件见下一步安装过程可能会检测到已存在的模型并跳过部分下载。一个更直接的方法是先确保 Termux 能访问外网耐心等待。有时重试几次即可。4.3 下载与运行模型Ollama 安装成功后ollama命令就应该可用了。我们选择一个适合移动端的小模型进行测试例如qwen2.5:0.5b千问2.5的0.5B版本非常小巧或llama3.2:1b。拉取模型# 以 qwen2.5:0.5b 为例 ollama pull qwen2.5:0.5b这是最耗时的一步模型文件大小约数百MB到数GB。请保持设备亮屏并连接稳定网络。国内镜像加速如果下载极慢可以尝试在运行ollama pull前设置环境变量使用国内镜像并非所有模型都支持但可以尝试export OLLAMA_HOST114.116.21.177:11434 # 或者尝试其他社区镜像地址但需注意安全性和稳定性。更推荐的方法是耐心等待官方源下载或寻找可靠的、已下载的模型文件手动放置到~/.ollama/models目录下需要了解 Ollama 模型文件格式。运行模型服务拉取完成后可以直接运行模型进行交互式对话ollama run qwen2.5:0.5b你会看到提示符此时可以直接输入问题例如“用中文介绍一下你自己。” 模型会开始生成回答。后台运行服务模式更多时候我们希望 Ollama 作为后台服务运行以便通过 API 调用。首先停止刚才的交互式会话按CtrlC。启动 Ollama 服务ollama serve默认情况下服务会在127.0.0.1:11434启动。注意此命令会前台运行阻塞当前终端。要后台运行可以nohup ollama serve ~/ollama.log 21 这样服务就在后台运行了日志输出到~/ollama.log。你可以用ps aux | grep ollama查看进程用kill命令结束它。5. 功能测试与效果验证安装部署完成后我们需要验证 Ollama 服务是否正常工作以及模型的基本能力。5.1 基础对话测试在 Termux 中打开一个新的终端会话或使用tmux、screen分屏测试与模型的交互。测试命令# 方式一使用 ollama run 直接对话测试服务是否正常 ollama run qwen2.5:0.5b # 进入交互模式后输入 你是谁请用中文回答。预期结果模型会生成一段中文自我介绍表明它是通义千问的某个版本并说明其能力范围。生成速度取决于学习机 CPU 性能可能需要 10-30 秒。成功判断能返回一段连贯、相关的中文文本没有报错信息如“连接失败”、“模型未加载”。常见失败Error: model qwen2.5:0.5b not found模型未成功下载返回步骤 4.3 重新ollama pull。长时间无响应或报内存错误可能是模型太大或设备内存不足尝试更小的模型如tinyllama。5.2 API 接口测试Ollama 的核心优势之一是提供 HTTP API方便其他程序调用。我们在 Termux 内部用curl命令测试。确保服务运行确保ollama serve正在后台运行可通过ps aux | grep ollama检查。发送生成请求curl http://localhost:11434/api/generate -d { model: qwen2.5:0.5b, prompt: 请写一首关于春天的五言绝句。, stream: false }预期结果会返回一个 JSON 格式的响应其中response字段包含了模型生成的诗歌文本。响应中可能还包含done、context等字段。成功判断HTTP 返回状态码为 200。JSON 解析后response字段有非空的中文诗歌内容。进阶测试对话上下文# 第一次提问 curl http://localhost:11434/api/generate -d { model: qwen2.5:0.5b, prompt: 我的名字叫小明。, stream: false } # 从第一次响应中获取 context 字段的值假设为 CTX1 # 第二次提问带上之前的 context curl http://localhost:11434/api/generate -d { model: qwen2.5:0.5b, prompt: 我刚才说我叫什么名字, context: [CTX1], // 替换为实际的 context 数组 stream: false }此测试验证模型是否能维持简单的会话上下文。6. 接口 API 与批量任务成功运行服务并通过基础测试后我们可以探索如何更程序化地利用它。6.1 API 接口详解Ollama 的 API 非常简单。主要端点如下POST /api/generate生成文本我们上面测试用的就是这个。POST /api/chat更结构化的对话接口推荐。GET /api/tags列出本地已下载的模型。POST /api/pull拉取模型。POST /api/ps显示正在运行的模型。一个使用/api/chat的示例更接近真实应用curl http://localhost:11434/api/chat -d { model: qwen2.5:0.5b, messages: [ { role: user, content: 你好 }, { role: assistant, content: 你好我是通义千问很高兴为你服务。 }, { role: user, content: 你会编程吗 } ], stream: false }6.2 批量任务处理在学习机上处理批量任务需要谨慎因为性能有限。但可以通过简单的 Shell 脚本或 Python 脚本来实现。示例使用 Python 脚本批量处理问题列表在 Termux 中安装 Python requests 库如果尚未安装pip install requests创建一个 Python 脚本batch_ask.pyimport requests import json import time OLLAMA_API http://127.0.0.1:11434/api/generate questions [ 解释一下什么是光合作用。, 背诵李白的《静夜思》。, 计算一下 15 的平方是多少, ] for i, question in enumerate(questions): print(f\n处理第 {i1} 个问题: {question}) payload { model: qwen2.5:0.5b, prompt: question, stream: False } try: # 增加超时时间因为设备慢 response requests.post(OLLAMA_API, jsonpayload, timeout120) if response.status_code 200: result response.json() answer result.get(response, 无响应).strip() print(f回答: {answer}) else: print(f请求失败状态码: {response.status_code}) except Exception as e: print(f请求异常: {e}) # 每个问题之间稍作停顿避免过热或内存累积 time.sleep(5) print(\n批量处理完成。)运行脚本python batch_ask.py重要提醒批量任务会持续占用 CPU 和内存可能导致设备发热、响应变慢。建议一次只处理少量任务并在完成后重启 Ollama 服务释放资源。7. 资源占用与性能观察在资源受限的学习机上监控资源占用至关重要。查看进程与资源Termux 内查看 Ollama 进程ps aux | grep ollama。可以看到进程 ID (PID) 和内存/CPU 占用百分比但 Termux 的ps信息可能较简略。使用top或htoppkg install htop -y htop在htop中可以更直观地看到ollama进程的 CPU 和 MEM 使用情况。运行模型生成时CPU 使用率会飙升到 70%-100%内存占用也会显著增加。性能影响因素模型大小参数越多的模型加载越慢运行时内存占用越高生成速度也越慢。在 4GB 内存设备上1B-3B 的模型是更现实的选择。生成参数num_predict生成最大token数设置越大生成时间越长。temperature等参数对性能影响不大。设备状态后台运行的其他应用会抢占资源。进行 AI 推理时最好关闭不必要的应用。发热与耗电持续运行 Ollama 进行文本生成会使 CPU 高负荷工作导致设备明显发热并加速耗电。这属于正常现象。建议长时间使用时注意设备散热环境如果是插电使用的学习机则影响不大。8. 常见问题与排查方法部署过程中难免遇到问题下表汇总了常见情况及其解决方法。问题现象可能原因排查方式解决方案pkg update失败或极慢Termux 默认源网络连接差执行ping mirrors.tuna.tsinghua.edu.cn务必执行4.1 步骤更换为国内镜像源。curl ... install.shsh 失败网络无法连接 ollama.com手动下载安装脚本或检查 Termux 网络权限ollama pull下载卡住或失败模型服务器连接不稳定或国内网络问题观察下载进度或使用curl -I测试连接1.耐心等待模型文件较大。2. 尝试设置OLLAMA_HOST环境变量指向国内镜像需自行寻找可用镜像。3. 在网络条件好的时候重试。ollama run报错model not found模型未成功下载或名称错误ollama list查看本地已有模型1. 确认模型名称拼写正确。2. 使用ollama pull重新下载。运行模型时 Termux 闪退或卡死内存不足 (OOM)观察htop中内存使用是否接近 100%1. 关闭其他所有应用。2. 换用更小的模型如tinyllama。3. 尝试在ollama run命令后加上--verbose看日志。API 调用 (curl) 返回connection refusedOllama 服务未启动ps auxgrep ollama生成速度极慢一个字要好几秒设备 CPU 性能有限模型参数较大这是正常现象1. 接受移动设备 CPU 推理的客观速度。2. 确认使用的是小参数模型如 0.5B, 1B。3. 降低生成文本的长度 (num_predict)。存储空间不足模型文件占用过大df -h查看存储使用1. 删除不用的模型ollama rm model-name。2. 清理 Termux 缓存pkg clean。9. 最佳实践与使用建议为了让体验更顺畅这里有一些实践建议模型选择策略首次尝试务必从超小模型开始如tinyllama、qwen2.5:0.5b。验证流程跑通是第一要务。平衡选择如果小模型运行流畅可以尝试llama3.2:1b、qwen2.5:1.5b等在能力和性能间取得平衡。避免大模型除非你的学习机有 8GB 以上内存否则不要尝试 7B 及以上参数的模型极易导致崩溃。会话管理使用tmux或screen来管理多个终端会话一个跑服务一个做交互方便调试。pkg install tmux -y tmux new -s ollama # 在这个tmux会话中启动 ollama serve # 按 CtrlB, 再按 D 脱离会话 # 重新连接tmux attach -t ollama资源监控在进行长时间批量任务前先手动测试一个样本观察资源占用和生成时间估算总耗时。使用htop定期观察如果内存使用持续增长可能内存泄漏需要重启 Ollama 服务。数据与配置管理Ollama 模型默认存储在~/.ollama/models。定期清理不用的模型。可以将常用的 API 调用命令写成 Shell 脚本或 Python 函数方便复用。安全与隐私Ollama 服务默认绑定在127.0.0.1外部无法访问相对安全。切勿将其修改为0.0.0.0暴露在局域网中除非你完全理解风险并做了访问控制。所有对话数据仅存在于设备本地内存中服务停止后即消失除非你自己保存日志。这是隐私优势。10. 总结与下一步通过 Termux 和 Ollama 在学而思学习机上部署本地大模型我们成功地将一个消费级教育硬件变成了一个可编程的 AI 实验平台。这个方案的核心价值在于其可及性和教育意义它用很低的成本和相对简单的操作展示了 AI 模型本地运行的完整链条——从环境搭建、软件安装、模型部署到应用交互。最值得尝试的点在于你亲手在一个非 x86 的普通 ARM 设备上跑起了一个“大脑”并能与之对话。这比任何理论讲解都更直观。最先应该验证的功能就是基础对话和 API 调用。只要ollama run和curl测试能成功返回中文回答整个技术链路就通了。最容易踩的坑集中在网络下载慢、内存模型太大和存储空间不足。因此坚持“从小开始、逐步升级”的原则能避开大部分问题。后续可以探索的方向集成到学习流程写一个简单的 Python 脚本让孩子输入作文题目让本地模型生成提纲或提供灵感需家长引导。尝试其他轻量模型除了 Qwen 和 Llama可以试试gemma:2b、phi等对比效果。结合 Termux 其他能力用 Termux 安装 Python写一个简单的 Flask 网页前端通过本地网络在电脑浏览器上访问学习机里的 Ollama 服务获得更好的交互界面。探索模型微调高级在极小的模型上尝试用 LoRA 等技术用本地数据做微调打造一个专属的“学习助手”但这需要更强的技术背景。这个项目更像是一个“技术盆景”它可能不实用但足够有趣且完整地呈现了本地 AI 部署的微观形态。对于有兴趣的家长和学生来说其过程本身就是一个绝佳的、跨学科的实践项目。