我理解这篇论文就是torch.fx的论文,作者是站在设计torch.fx的角度思考“我们为什么要这么做”,把他们的一系列实现整理成了论文发了出来。
7-13总结
论文阅读[粗读]-Diffusion models beat gans on image synthesis
这篇工作是Diffusion Model关注度高起来的第二篇重要文献。在此之前,DDPM证明Diffusion model可以生成diversity,但score上,比起“专门造假”的GAN还是略显不足,但OpenAI这片新作,证明了Diffusion model有实力生成比GAN优秀的结果。
论文阅读[粗读]-GLIDE: Towards Photorealistic Image Generation and Editing with Text-Guided Diffusion Models
这篇工作其实就是有名的DALL.E 2的模型结构,只是规模是3.5B(DALL.E是12B)。本篇工作是第一个用diffusion model来做text2image任务的。
7-12总结
今天去北医三院看牙,来回单程只需要40min的高铁,倒是很快。应该是最后一次根管治疗,再观察一段时间就可以做牙冠了。
论文阅读[粗读]-THE CORA TENSOR COMPILER: COMPILATION FOR RAGGED TENSORS WITH MINIMAL PADDING
陈天奇在MLSys 22发的另一篇文章,讲的是如何提高输入不对齐时的表现。
7-10总结
论文阅读[粗读]-APOLLO: AUTOMATIC PARTITION-BASED OPERATOR FUSION THROUGH LAYER BY LAYER OPTIMIZATION
今天来读一篇MLSys的文章,作者提出了JIT的APOLLO框架,可以同时考虑 memory- /compute-bound 的算子优化,比XLA,TensorFlow原生要快不少。
论文阅读[精读]-ANALYTIC-DPM: AN ANALYTIC ESTIMATE OF THE OPTIMAL REVERSE VARIANCE IN DIFFUSION PROBABILISTIC MODELS
22年ICLR outstanding paper,讲了DPM的逆过程最优均值和方差竟有解析形式?
7-9总结
突然发现好几天没写总结了,今天写一个。
最近几天其实还挺摆的,尤其是快手那边,可以说是毫无进展,连进度同步都推迟了……好消息是我做决定了,
- 明天我上午就起床,先搞一篇编译的工作,不能再这样下去了!
- 明天下午也要肝,搞点Diffusion model看一下