2024-10-21-insights

How Do Training Methods Influence the Utilization of Vision Models?

一篇ICLR风的论文，偏可解释性。作者研究了VLM在做分类决策时，哪些层对于模型决策的影响最大。由此，作者思考了一个问题：不同的训练方式，会使得相同的问题下，模型做决策的层位置变化吗？作者发现，对于自回归训练，模型在浅层时影响很大；对于对抗训练，模型在深层时影响很大。

挺好玩的工作