最近反思了一下,之前只刷CL track,导致错过了不少好论文。从今天开始我刷AI track!
Bayesian scaling laws for in-context learning
Goodman带着他的数学来了。作者发现,ICL在某种程度上类似于一个bayesian learner,所以也会有对应的bayesian scaling law,通过在合成任务和真实世界任务上的实验,作者发现这个新的scaling law在ICL领域拟合地非常准。
Breaking ReAct Agents: Foot-in-the-Door Attack Will Get You In
一篇做ReAct攻击的工作,IBM research。作者发现,Agent对于安全性的防御很少涉及到tool response里面的内容。如果tool response里含有有害指令会怎样呢?作者发现Agent会直接执行。这个攻击叫做foot-in-the-door。所以multi-turn agent本质还是多个single-turn agent组合在一起吗……
话说我还以为IBM research已经解散了……
Large Language Models Empowered Personalized Web Agents
今天claude出了自己GUI Agent功能,估计这个领域最近又要火了。今天推一篇这个方向的AAAI文体的工作:这篇是做web agent的,但是瞄准了personalize这个属性