大语言模型在金融市场的应用

量化交易者提出的核心问题是：能否将LLM从建模单词序列转向建模价格或交易序列？LLM作为自回归学习器，利用序列中先前元素预测下一个元素，这与量化交易中寻找自回归结构（如统计套利）的研究方向一致。然而，金融数据的数量和信息含量成为关键瓶颈。

Hudson River Trading在2023年NeurIPS会议上对比了GPT-3的训练token数与美股市场数据量：假设3000只可交易股票、每只每天10个数据点、每年252个交易日、每个交易日23400秒，则每年约有1770亿个市场数据token。GPT-3训练使用了5000亿token，两者数量级接近。但关键区别在于，金融token是价格、收益率或交易量，而非单词或音节，其可预测性远低于语言。

语言具有底层语法结构，人类可以轻松预测句子中的下一个词，但几乎无法预测下一笔交易的价格变化。市场中有大量聪明人竞争，任何信号都会被迅速套利，使得市场“高效地无效率”。此外，金融数据中噪声远多于信号：个人和机构的交易动机可能非理性，且市场不断受新信息、监管变化和宏观冲击影响。相比之下，语言演化缓慢且稳定。

多模态学习是AI研究的新兴方向，有望整合价格、新闻、社交媒体情绪、卫星图像等不同模态数据，提升预测能力。残差化思想在金融和AI中均有应用：金融因子模型分解共同成分与特质成分，AI残差网络则学习恒等映射的残差，两者都旨在更高效地学习预测。LLM的长上下文窗口能力可捕捉金融市场的多尺度现象，从微秒级的订单簿失衡到数月的基本面信息。

当前Transformer模型仅预测下一时间步，而金融交易常需预测多个未来时间步的完整收益率期限结构。合成数据生成是LLM的另一潜在应用：通过模拟价格轨迹，可缓解真实数据稀缺问题，并支持元学习技术——先在低成本模拟器中训练策略，再用真实数据校准，类似机器人领域的做法。