NanoLM - BD4SUR

NanoLMInference

WASM推理引擎

Web Browser Is All You Need!

完全在浏览器内推理的大语言模型！

Illustration by ookiiayu@X

使用前必读 Readme before use

语音识别基于 Whisper，语音合成基于 Piper，均在浏览器内推理

首次触发语音识别/合成时，自动访问HuggingFace下载模型

本页面不发送任何用户输入到任何远端服务器，欢迎审查代码

作者不对本系统所生成的任何内容负责，请读者慎思明辨

The author is not responsible for anything generated by this system. Check important info.

现在仅支持单轮对话或文本续写

若已部署推理服务

部署方式详见文档，支持Qwen等主流模型

调用推理服务API

或者，下载并手动加载语言模型

基础模型加载后，可按需挂载LoRA插件
JavaScript推理引擎仅支持2512及以后版本的FP32模型

加载本地模型

或者，直接拉取并体验下列模型

请确保可访问HuggingFace，模型最大约600MiB
Qwen3-0.6B模型上下文有限，仅作可行性验证

Nano-56M
通用问答

Nano-168M
通用问答

Qwen3-0.6B
推理模型