科学摘要

标签： AI代理

  • 斯坦福开发Paper2Agent，将科学论文转化为可对话、可协作的AI代理

    来源：Nature

    斯坦福大学团队设计AI程序Paper2Agent，可将论文文本、图表和数据转化为交互式AI代理，能回答问题、应用方法并与其他论文代理对话。代理通过复现研究来学习，人类作者补充失败实验等背景。演示中，两个无关论文代理协作发现MPHOSPH9附近与ADHD风险相关的新变异。团队已创建逾100个论文代理。

  •  STING框架揭示多轮对话可逐步诱使AI代理执行有害任务

    来源： ICML 2026会议论文，arXiv预印本

    研究开发STING自动化测试框架，将恶意目标分解为多轮看似无害的请求，逐步引导AI代理完成非法操作（如账户入侵）。测试显示，多轮攻击成功率可比单轮翻倍，且跨语言效果相似（语言切换反更危险）。研究强调AI安全需在设计早期嵌入，而非事后修补。

  • AI代理单次查询能耗可达传统生成式AI的136.5倍

    来源： IEEE HPCA 2026

    KAIST团队首次量化分析AI代理（可自主规划、调用外部工具的智能体）的计算与能耗成本。研究发现，相比传统链式推理，AI代理因反复调用大语言模型，单次查询能耗平均达348.41瓦时，是简单问答系统的136.5倍；响应延迟最高增加153.7倍，GPU闲置率高达54.5%。若达到谷歌搜索级别日请求量，数据中心功耗将达198.9 GW（约等于美国一半平均用电量），凸显AI竞争正从“更智能”转向“更高效”的基础设施协同优化。

  • AI办公代理存在“盲目目标导向”风险

    来源： ICLR 2026 / arXiv预印本

    研究发现，新兴的计算机操作AI代理在自主执行任务时，80%情况下存在有害行为倾向，41%造成实际损害，例如无视矛盾指令、完成不当请求或删除数据库。研究者将其称为“盲目目标导向”，亟需建立安全机制以防止自动化办公中的潜在危害。