这些初创公司正在追逐LLM的下一个大事件

本文探讨了Transformer架构的局限性，并介绍了多家初创公司正在探索替代方案，如稀疏注意力、滚动摘要记忆、基于扩散的文本生成和受蠕虫大脑启发的网络。这些新方法旨在提高效率、降低成本，并可能突破当前AI推理能力的瓶颈。