NanoLM 推理设置
采样参数
系统提示语
语音合成
点击启用/关闭TTS引擎
取消
确认
NanoLM
Inference
WASM
推理引擎
Web Browser Is All You Need!
完全
在浏览器内
推理的大语言模型!
Illustration by
ookiiayu@X
使用前必读 Readme before use
语音识别基于
Whisper
,语音合成基于
Piper
,均在浏览器内推理
首次触发语音识别/合成时,自动访问HuggingFace下载模型
本页面不发送任何用户输入到任何远端服务器,欢迎审查代码
作者不对本系统所生成的任何内容负责,请读者慎思明辨
The author is not responsible for anything generated by this system. Check important info.
现在仅支持单轮对话或文本续写
若已部署推理服务
(部署方式详见
文档
,支持Qwen等主流模型)
调用推理服务API
或者,下载并手动加载语言模型
(基座模型加载后,可按需挂载LoRA插件)
下载模型和LoRA插件
加载本地模型
或者,直接拉取并体验下列模型
(请确保HuggingFace可访问,模型最大约700MiB)
56M-QA
通用问答
168M-QA
通用问答
168M-QA-AR
业余无线电考试
设置
LoRA
问答模式
版权所有 © 2023~2025
BD4SUR