🔥 今日值得一读
LLM分类黑箱有救了！进化框架让信用风险预测告别随机水平，准确率提升2.9个百分点！
Evolving LLM-Generated Features for Interpretable Classification
👨💼 主理人解读 · 为什么值得关注
在信贷、医疗等需可解释场景，可用LLM自动生成规则特征，再训逻辑回归等透明模型。
📖 AI 总结
本文提出一种进化框架，通过迭代方式让大语言模型自动生成并优化自然语言特征定义（评分规则），用于可解释分类任务。具体做法是：由LLM生成候选二值特征并对样本逐条评估，所得特征向量用于训练逻辑回归等透明分类器；特征集依据分类错误、各类激活率和特征消融得分在多轮迭代中持续进化。研究在三个基准数据集上对比了单次生成规则、进化规则与零样本LLM直接分类，结果显示进化特征平均比单次规则提升2.9个百分点，并在三个任务中的两个上优于零样本LLM分类，同时提供完全可审计的决策逻辑。在信用风险任务中，零样本LLM仅达50.7%的随机水平且严重偏向单一类别，而进化特征给出均衡且可解释的预测；这一失败在总体准确率中不可见，只有按类别审计才能发现。分析表明，当标签边界无法仅从类别名称推断、或LLM缺乏可靠领域推理能力时，进化方法最为有效。该工作为受监管领域提供了兼顾性能与可解释性的分类路径。
🔑 关键词速览
| LLM-Generated Features | 由大型语言模型生成的、用于分类任务的候选特征（如自然语言评分标准）。 |
| Evolutionary Framework | 一种迭代优化框架，通过分类错误、激活率和消融分数等反馈来进化特征集。 |
| Interpretable Classification | 使用透明模型（如逻辑回归）基于可理解的特征进行决策的分类方式。 |
| Zero-Shot LLM Classification | 直接让LLM在无任务特定训练的情况下进行分类预测。 |
| Feature Ablation Scores | 通过移除某个特征来衡量其对分类性能影响的评分，用于指导特征进化。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅