0%

2024-06-14-insights

Transformers meet Neural Algorithmic Reasoners

google deepmind 的研究,作者关注一个有趣的领域:能不能让 LLM 自动遵循某些 graph-based algorithm,由此作者设计了一套 crossattention 类的算法,发现引入 Transformer 确实可以提升在这个领域的效果。

我其实没太看懂,但是感觉还挺牛的

Powered By Valine
v1.5.2