很多人以为 AI 产品经理需要会写代码。其实不需要。但你至少要能回答一个问题：大模型能做什么、不能做什么，以及为什么。这决定了你能把产品边界画在哪里。

这篇写给我自己，也写给刚转行做 AI 产品的朋友。只讲三个最基础的概念，和一套简单的决策方法。

一、先理解三个基本概念

1. Token：模型的"计费单位"

模型读文字，不是按字，而是按 Token 切分。一个英文单词大约 1～2 个 Token，一个汉字大约 1 个 Token。为什么重要？因为它同时决定了成本和输入上限：同样的内容，切出来的 Token 越多，越贵，也越占上下文。

2. 上下文窗口：模型的"短期记忆"

模型一次能"看到"的信息是有限的，这就是上下文窗口。窗口越大，一次能塞进去的文档越多，但成本也越高、响应越慢。更重要的是，窗口满了不等于记住了——信息塞得越多，模型越容易"忽略中间"，这是产品设计时要特别小心的。

3. 幻觉：模型会一本正经地胡说

幻觉不是 bug，而是大模型的概率本质：它生成的是"最像正确答案的下一个词"，而不是"查证过的正确答案"。所以涉及事实、数字、合规的场景，一定要有兜底——比如检索增强（RAG）、工具调用、或者干脆加一步人工确认。

二、能力边界决定产品边界

一句话概括：大模型擅长生成与转换，不擅长精确与事实。

  • 擅长：文本生成、总结、分类、改写、翻译、写代码、情感分析。
  • 不擅长：精确计算、实时事实、需要稳定长链推理的任务、需要负责任的决策。

判断一个需求能不能用大模型，最靠谱的办法不是拍脑袋，而是花半天做个最小原型，用真实数据跑一跑，看看输出质量是否稳定。

三、把技术判断转化为产品决策

判断"这里该不该用大模型"，我一般问自己三个问题：

  1. 错误成本高不高？错了会不会造成损失？客服回答错了，人工能兜底；金融交易错了，就是事故。
  2. 能不能兜底？有没有 RAG、工具、人工审核等机制降低风险？
  3. 用户能否容忍？是"帮我写个初稿"，还是"给我一个确定的答案"？前者宽容，后者苛刻。

能用规则和确定性方法解决的，不必强上大模型；用大模型的，一定为它的不确定性设计好兜底。

结语

技术是手段，产品是目的。AI 产品经理的核心能力，不是懂模型架构，而是能把技术能力翻译成用户价值，再把用户价值翻译成可落地的产品决策。

如果你刚开始，我建议先别看书，直接打开一个模型的 API Playground，亲手试几十条 Prompt，感受一下它的"聪明"和"固执"。这比任何文档都直观。