「对这篇文章提问」听上去需要一套后端:切分、嵌入、向量检索、重排。但博客的场景其实很小——读者问的是当前这一篇,不是整个语料库。
一篇长文大约 3,000 到 8,000 字,也就是 4k 到 12k token。这个体量直接塞进上下文窗口就行,不需要检索。
链路只有四步
- 页面加载时把文章正文留在 DOM 里(本来就是)。
- 读者点击输入框,第一次使用时填自己的 API key,存在 localStorage。
- 提交问题时,把
system + 文章全文 + 问题拼成一次请求。 - 用 SSE 读流式返回,逐字渲染到面板里。
const res = await fetch('https://api.deepseek.com/chat/completions', {
method: 'POST',
headers: {
'content-type': 'application/json',
authorization: 'Bearer ' + key,
},
body: JSON.stringify({
model: 'deepseek-chat',
stream: true,
messages: [
{ role: 'system', content: '只根据给定文章回答,找不到就说找不到。' },
{ role: 'user', content: articleText + '\n\n问题:' + question },
],
}),
});
为什么是「读者自备 key」
站点是纯静态的,没有任何服务器能替你保管 key。把 key 放在前端代码里等于公开;做一个代理层又违背「一个静态主题」的定位。
读者自备 key 反而干净:成本由使用者承担,隐私不经过第三方,站点永远可以部署到任何静态托管上。
代价也要说清
- 第一次使用要填 key,会劝退一部分人——所以它是增强,不能是唯一入口。
- 文章很长时首字延迟会变高,需要明确的「正在读文章」状态。
- 模型可能答超出文章范围的内容,system prompt 只能降低概率,不能消除。
这三条决定了它应该是一个「嵌在文末的小面板」,而不是首页的主交互。首页的主交互仍然是找文章。