ESP32怎样接入大模型？

生产方案不要把长期API密钥直接写进ESP32固件。推荐由设备连接你控制的业务服务器，再由服务器鉴权、限流并调用模型API。

ESP32
录音/播放

WebSocket/MQTT

业务服务器
鉴权与编排

HTTPS API

模型平台
LLM/ASR/TTS

三种模型入口

OpenAI兼容接口

服务端保存API Key，通过官方API文档配置Base URL与模型名。不要把Key发给浏览器或设备。

火山方舟

在方舟创建API Key和推理接入点；文本模型与语音ASR/TTS是不同服务，计费和格式分别核对。

阿里云百炼

通过DashScope/百炼服务端接口调用，模型名称、地域和额度以控制台当前配置为准。

密钥只放服务端环境变量；为每台设备签发独立凭据；限制并发与费用；记录失败原因但不记录用户原始语音；提供删除设备与吊销凭据能力。