Granola CEO：如何打造真正有用的AI产品

来源网址：How to Build a Truly Useful AI Product[1]
发布时间：2024年12月9日

我曾经在 Zoom 会议中记笔记，频繁切换屏幕，在会议和 Notion 文档之间来回，希望自己记录的内容在回顾时仍有意义。现在，我使用一款名为 Granola 的AI会议记录工具，它可以自动捕捉会议内容，让我能专注于对话。我的一些同事也在使用它，因此我们很高兴能在 Thesis 栏目中发表 Granola 联合创始人 Chris Pedregal 的文章。在这篇文章中，Chris 提出：在生成式 AI 领域，底层模型的发展速度已经快过开发者构建应用的速度，这需要全新的产品构建思路。他结合自己的经验分享了四条关键原则。如果你想了解更多，欢迎收听本周三的 AI & I[2] 播客节目，Chris 将与 Dan Shipper 讨论 Granola 的开发历程和心得体会。—_Kate Lee_[3]

AI创业挑战：加速版“闯关游戏”

创业就像打游戏，而在生成式 AI 领域创业则是以 2 倍速度闯关。

如果你在应用层开发（例如，使用 OpenAI 或 Anthropic 提供的AI模型），你依赖的技术正以难以预测的速度飞速改进。每年至少有两次重要模型升级，如果不小心，你可能花数周开发某个功能，却发现下一个模型版本已自动完成了这项任务。而且，大家都能使用顶级API和前沿大模型，你的绝妙产品创意可能被其他人轻松复制。

生成式 AI 开辟了许多新机会，比如代码生成和研究辅助等过去难以实现的功能。但要抓住这些机会，你需要顺应 AI 的快速发展，而不是被浪潮吞没。

这就是为什么需要一份新的“创业手册”。

作为 Granola 的联合创始人，我过去两年致力于构建这款基于AI和语音转录的会议记录工具。在此过程中，我发现生成式 AI 是一个独特的领域。许多传统创业原则——例如“优先解决最大痛点”或“支持用户的成本随规模扩展而降低”——在这里并不完全适用。如果你的直觉还停留在传统创业的“物理定律”中，你需要重新培养适合AI领域的思维方式。以下是我总结出的四条核心原则，供所有应用层AI创业者参考。

1. 别解决未来很快消失的问题

生成式AI正在经历历史上最快的技术进步之一。

两年前，ChatGPT 无法处理图像、复杂数学或生成高级代码，而今天这些已成基础功能。两年后，AI 的能力将更为惊人。

对于应用层开发者来说，很容易将时间浪费在不必要的问题上——这些问题可能在下一个模型版本发布时自动消失。尽管听起来很简单，但实践中这非常困难，因为它与直觉相悖。

预测未来能力成为你的必备技能（确实有点不舒服）。

要知道哪些问题将长期存在，你需要预测未来版本的 GPT-X 的能力，就像盯着水晶球。而这些预测将直接影响你的产品路线图和策略。

以 Granola 为例，早期版本无法记录超过 30 分钟的会议，因为当时 OpenAI 的 DaVinci 模型的上下文窗口仅有 4000 个 token，限制了记录时长。

通常情况下，延长记录时长会是我们的首要任务。但我们猜测 LLM 的能力会迅速提升：更聪明、更快、更便宜，且拥有更长的上下文窗口。因此，我们没有浪费时间解决这一问题，而是专注于提升记录质量。事实证明，我们的预测是对的——几个月后，模型的上下文窗口扩大，会议时长限制不再是问题。我们对记录质量的投入反而成了 Granola 用户最喜爱的原因之一。

2. 高昂的边际成本蕴藏机会

软件的一个显著特征是，新增用户的边际支持成本接近于零。然而，在 AI 领域，情况却截然不同。每增加一个用户，AI 的边际成本仍然很高，而运行最前沿的 AI 模型成本极为昂贵。

例如，将 30 分钟的会议音频发送到 OpenAI 的 GPT-4 音频模型，每次处理成本约为 4 美元。如果每天有数千用户，这将是惊人的费用。此外，即使资金充足，像 OpenAI 和 Anthropic 这样的公司也无法提供足够的算力支持数百万用户使用顶尖模型。

对于初创公司来说，这是个好消息。因为大公司无法在规模化时提供顶级体验，你可以为少量用户打造“法拉利级”的产品体验。
例如，为了优化产品体验，花费额外的API调用费用是值得的——虽然单个用户的成本较高，但你的用户初期不会太多。而大公司只能为用户提供“本田级”的体验。

3. 上下文为王

AI 模型并不是简单的指令执行工具，它更像一位新入职的实习生：聪明但缺乏上下文。要让它成功，就需要提供足够的背景信息。

在 Granola，我们努力为模型提供精心筛选的上下文，例如会议的参与者信息和目标。这种上下文指导不仅提高了记录的准确性，也让 AI 更贴近用户需求。

4. 聚焦垂直领域，做到极致

AI 产品面临与 ChatGPT 等通用 AI 助手竞争的挑战。唯一的策略是“专注某一细分领域，做到极致”。

Granola 不仅专注于会议记录质量，也投入大量时间提升用户体验，比如无缝的会议提醒功能和出色的回声消除技术。这些“AI 包装”是决定用户体验的关键。

结语：基本原则不变

虽然生成式AI的速度和规模对策略提出了新的要求，但“打造用户喜爱的产品”这一核心原则依然适用。你仍需关注细节、问自己简单却重要的问题：“当我使用这款产品时，有何感受？”

作者简介
Chris Pedregal 是 Granola 的联合创始人兼 CEO。他此前创立了教育科技公司 Socratic，该公司后被 Google 收购。

参考资料