手机termux安装llama.cpp和MiniCPM5-2B

skypiea

pkg install llama-cpp
wget https://data-transfer-huawei.obs.cn-north-4.myhuaweicloud.com/MiniCPM5-2B-Q4_K_M.gguf
命令行交互聊天（CLI）
llama-cli -m ~/models/MiniCPM5-2B-Q4_K_M.gguf \
  -c 1024 \
  -t 4 \
  --chat-template chatml \
  --system-prompt "你是MiniCPM5，乐于助人的AI助手"
启动 OpenAI兼容API服务
llama-server -m ~/models/MiniCPM5-2B-Q4_K_M.gguf \
  -c 1024 \
  -t 4 \
  --chat-template chatml \
  --host 127.0.0.1 \
  --port 8080
服务地址：
- 浏览器测试： http://127.0.0.1:8080 
- Chat接口： http://127.0.0.1:8080/v1/chat/completions