Evolutionary Optimization of Model Merging Recipes
transformer 作者的新论文。作者提到，目前的 model merge 是想要把几个模型合并成一个，取得在两个 domain 都不错的效果。已有方法强烈依赖人类先验，并且效果不佳。作者设计了一套自动搜索的方案，可以把不同模型的不同层拿过来，也可以是同一个层做权重和合并。通过纯自动的方案，甚至可以实现不同模态的模型的合并
有点牛，再看一眼
VidLA: Video-Language Alignment at Scale
Amazon 的工作，作者探索了 CLIP 那套 two-tower encoder 编码技术和对比学习在 video 领域的应用：发现已有的工作在 text 数据这方面没有对齐不同的粒度。作者在数据方面做了 refine, 把这个框架 scale 了起来，最后取得了 SOTA 的效果
v1.5.2