本文提出了一种名为SOLAR的多模态生成模型,用于番茄病害叶片的综合理解。针对现有植物病害分析方法多将症状识别、严重程度评估与问答式诊断推理割裂处理、难以捕捉任务间互补关系的问题,SOLAR将番茄病害分析统一建模为生成式视觉问答任务,通过基于混合专家机制的融合模块,将视觉特征与任务感知的语言表示对齐,从而在单一模型内支持多任务推理并促进跨任务知识共享。研究在包含41677张图像、216209组问答对的数据集上进行评估,涵盖六项问答任务及封闭式与开放式两种设定。实验表明,SOLAR在准确率、鲁棒性和多模态推理能力上均持续优于仅视觉模型、视觉语言模型及任务专用模型,显示出生成式多模态建模在植物病害理解领域的应用潜力。
| SOLAR | 本文提出的多模态生成模型,用于理解番茄病害并支持六项问答任务。 |
| Visual Question Answering (VQA) | 视觉问答,一种结合图像与自然语言问题生成答案的多模态任务。 |
| Mixture-of-Experts (MoE) | 专家混合,一种通过多个专家子网络协同处理不同输入模式的神经网络架构。 |
| Fusion Expert | 融合专家模块,SOLAR 中基于专家混合实现视觉特征与任务感知语言表示对齐的组件。 |
| Precision Agriculture | 精准农业,利用数据与智能技术对农业生产进行精细化管理的现代范式。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅