Planning In Natural Language Improves LLM Search For Code Generation
很有洞见的文章，scale AI的工作：作者观察了已有的类似alphaCode的解决方案，大家都是sample很多次然后consistency或者best-of-N. 瓶颈在于多次sample的多样性。作者发现，如果不是让模型sample解法，而是sample自然语言的planning（use hashmap），然后由此给每个plan生成代码，这样方法的扩展回报会更高
为什么会这样呢？自然语言承载的推理成分大于代码语言吗？🤔
