发现好久没更新随笔了,今天更一篇。首先,我前几天阳了:头疼、发烧、嗓子疼三件套循环一轮。我属于无症状感染者,就是等于得了一次大号流感。
论文阅读[精读]-SSD-LM: Semi-autoregressive Simplex-based Diffusion Language Model for Text Generation and Modular Control
这篇文章是最近一个月新挂arXiv的文章,看格式是打算瞄准ACL 2023。作者用一个diffusion based和GPT2大小一样的模型打败了GPT-2。让我们一起看看是怎么做到的吧。
12-1总结
昨天我被封控了,楼里有十混一阳性,盲盒还真开到我了。封控对生活的影响其实也不大,虽然出不去楼,但盒饭会自己长腿跑到我的身边。四菜一饭,加上发的饮料和小食,算是比较高质量的午餐了。但人一被关,就会悲观,就会开始在各个群里刷刷刷,看看大家pyq都在吐槽什么:这个喊着要放开,那个又说要失控……没人逼着我在宿舍如何如何,但就不能沉下心来做事情了。浮先生和躁先生,可能就是疯先生的两个保镖吧。
11-29总结
最近北京疫情非常严重,疫情以外可能也比较危险,美国大使馆都开始通知公民小心、撤离了。我这两天分配了个工位,不过第二天就封楼了,第三天解封,不知道第四天会不会封回去。最近每天都得有几管阳性,封几栋楼,每天睡觉就像开盲盒,也像狼人杀,醒来就有惊喜,或者说惊吓。
学校昨天开了疫情防控专题会,虽然满口在说"研判"、”上级“,但我觉得学校防疫政策其实还好,比起北京其他高校……起码学校最近通知可以返乡了,但我没有返。只能说,家里疫情更严重:学校是盲盒,家里是潘多拉魔盒……不过话虽这么说,但还是有点想回去的,再几天吧。也不知道到时候还能不能回去了。
最近几天发生了很多事情,也出现了很多不同的声音,同学们的精神状态一天比一天疯狂了,每天都有新破防的同学。我现在也就是靠着为数不多的活动和社交吊着了,可能等街舞训练被叫停,我也就彻底疯狂了吧……仔细想想,也算一段特殊的经历吧。
以上。
11-24总结
最近两天系里联系着我们做毕设的事情,真的感觉到要毕业了。
11-20总结
最近疫情形势又严重了,封校已经三周了,今天又决定进一步严格管控,把"四大"(实习、科研、就医、上课)也改成审批制,可以说彻底关了。
11-15总结
虽然标题是15日的总结,但其实是16日凌晨写的。主要是前一天睡了午觉,晚上理所应当地失眠了。既然失眠,那就稍微讲讲最近一段时间吧。
论文阅读[精读]-LANGUAGE MODELING VIA STOCHASTIC PROCESSES(1)
今天来讲一篇我很喜欢的工作,ICLR 2022上通过对比学习建模长文本生成过程的文章。
论文阅读[精读]-LANGUAGE MODELING VIA STOCHASTIC PROCESSES(2)
继续讲一篇我布朗桥建模长文本生成的实验部分。之所以单拎出来,是因为他的实验部分的论文书写方式比较有意思,不像是mehtod类的论文,反倒像是分析性文章。我很喜欢这种写论文的思路,就单独拿出来说说。
论文阅读[精读]-Do Vision Transformers See Like Convolutional Neural Networks?
今天来和大家读一篇非常有趣的分析性文章,卷积网络和Vit学的隐层表示有什么区别?模型眼中的世界是一样的吗?