告别手动推导!这个新框架让神经网络混合效应模型提速还更准
Implementing neural network mixed-effects models in Template Model Builder (TMB)
arXiv ML (stat.ML) #混合效应模型#神经网络#实现框架 🕐 09-01 12:00

📖 AI 总结

该研究提出了一种基于Template Model Builder(TMB)的通用框架,用于实现神经网络混合效应模型(NMMs)。传统NMMs的估计依赖手动推导目标函数和梯度,导致简化近似并限制了模型复杂度。新框架利用自动微分和拉普拉斯近似,用户只需指定负联合对数似然及正则化项,即可自动积分随机效应并计算边际目标函数及其精确梯度,免去手动推导。通过两个数值示例(包括单调NMMs应用)验证了该方法的效率、灵活性和统计性能,并提供可复现代码以促进推广。该工作降低了NMMs的实现门槛,有望推动其在复杂相关结构数据建模中的更广泛应用。

🔑 关键词速览

Neural network mixed-effects models (NMMs)神经网络混合效应模型,结合神经网络与混合效应建模,用于处理复杂相关结构的数据。
Template Model Builder (TMB)模板模型构建器,一个R包,利用自动微分和拉普拉斯近似高效拟合统计模型。
Automatic differentiation自动微分,一种计算导数的技术,用于高效精确地获取梯度信息。
Laplace approximation拉普拉斯近似,一种通过高斯分布近似积分来简化随机效应积分的方法。
Marginal objective function边际目标函数,在积分掉随机效应后得到的似然函数,用于参数估计。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅