双路径语言模型DualCast:12个预测设置中8个误差最低,最长周期全胜!
DualCast: A Dual-Path Language Model for Bimodal Financial Time-Series Forecasting
arXiv LG (cs.LG) 重要 #金融时序#语言模型#多模态 🕐 今天 12:00

📖 AI 总结

DualCast是一种面向金融时间序列预测的双路径语言模型框架,旨在同时捕捉异构资产的价格动态并融入预测时点可得的新闻信息。该方法在冻结的Qwen3-8B语言模型基础上扩展了一套离散金融词汇表,将每段对数收益表示为学习到的摘要token与三个残差形状token,以保留局部漂移和波动特征,同时实现形状模式在资产间的共享。为提升码本利用率,作者提出自适应频率均衡残差向量量化方法,在不损失重建精度的前提下重新平衡过载码字。快速路径仅训练新增的金融token嵌入和输出头;可切换的LoRA适配器构成慢速路径,以快速预测和新闻为条件生成修正预测,并通过监督微调初始化,再以收益空间组相对策略优化目标进一步优化。在覆盖股票与能源价格、五分钟至周频的零样本评测中,慢速路径在12个数据集-预测跨度组合中的8个取得最低平均绝对百分比误差,且在所有最长跨度设置中均表现最优。新闻消融实验显示多数场景下可带来额外增益,但幅度因市场而异。该工作将快速数值预测器与可选的文本条件修正机制相结合,为多模态金融预测提供了新思路。

🔑 关键词速览

DualCast一种双路径语言模型框架,用于双模态金融时间序列预测,结合快速数值预测与可选的文本条件修正。
残差向量量化一种将连续向量离散化为多个码本向量的技术,通过残差逐步逼近原始向量,用于构建离散金融词汇表。
LoRA适配器一种低秩适应方法,通过向预训练模型注入可训练的低秩矩阵来高效微调,此处用于实现慢速路径的文本条件修正。
组相对策略优化一种强化学习优化目标,通过比较一组样本的相对表现来更新策略,此处用于优化修正器以改进快速预测。
零样本评估在未见过的数据集或任务上直接评估模型性能,无需针对特定任务进行额外训练。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅