金融预测模型EXAONE Finance:线性算子替代注意力,提速还能抗缺失数据!
EXAONE Forecast for Finance
arXiv AI (cs.AI) 重要 大模型金融论文方法 🕐 09-07 12:00

📖 AI 总结

EXAONE Finance是LG AI研究团队开发的一款金融时间序列基础模型,专为金融预测设计。现有通用时间序列模型依赖自注意力机制,计算成本随序列长度和变量数量呈二次方增长,且假设数据完全可观测,难以应对金融市场中长序列、多通道和间歇性缺失的数据特征。该模型采用无注意力架构,以因果一维卷积处理时间维度、以分组感知池化多层感知机处理变量维度,两者均为线性复杂度算子,显著提升计算效率。同时,通过掩码上下文增强训练,模型对金融数据中普遍存在的缺失区间具备更强鲁棒性。模型在涵盖股票、外汇、大宗商品、加密资产、固定收益和宏观经济指标的大规模语料上预训练,在覆盖多元资产类别的FinVerse基准测试中,于点预测精度、横截面资产排序和投资组合收益三个评估层级均取得最优成绩,展现了金融基础模型的实用潜力。

🔑 关键词速览

EXAONE Finance一个专为金融预测设计的金融时间序列基础模型,采用无注意力架构。
TSFM (Time Series Foundation Model)时间序列基础模型,通过大规模预训练实现通用时间序列预测的模型。
self-attention自注意力机制,一种在Transformer中使用的计算模式,其复杂度随序列长度平方增长。
causal 1D convolution因果一维卷积,一种线性时间操作,用于处理时间序列中的时间混合。
FinVerse一个金融预测基准,涵盖多种资产类别,用于评估模型性能。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅