一个不会写代码，但靠AI编程做出了AppStore付费应用榜Top1 app「小猫补光灯」的开发者。也在经营自己的YouTube/B站频道：AI进化论-花生

最近AI编程逐渐出圈。随着项目的逐渐深入，你们应该在这个过程中会遇到各种各样的bug和难题，而这其中有很大一部分就是现在AI编程工具的代码索引逻辑所带来，这篇文章对初学者来说可能有点难理解，你们大致看看结论即可。

对于老手来说，我相信这篇内容对于你理解平时用AI编程工具时遇到的问题会有一些启发，你大概会能理解此前你为什么会遇到哪些问题。

Context, not control.

——张一鸣

一、背景：AI编程的上下文至关重要

如果说现在让AI编程能力实现阶梯式飞跃的大模型本身的「智能」水平——Claude 3.5 Sonnet跨越了那个边界。那另一个影响AI编程实现效果的就是上下文长度。

目前Claude 3.5 Sonnet提供最长200k token的上下文长度，这对对话模型来说是非常充足的，一篇5万、10万字的书籍读完都轻松不在话下，但这对于动辄几十、上百个代码文件，每个代码文件长达数百至上千行的编程项目来说，这样的上下文长度仍然远远不足。再加上现在大模型按输入、输出的token数收费，边际成本不为0。