来源：arXiv预印本
东北大学团队在Discord平台部署六名具有持久记忆和自主行动能力的AI“智能体”，测试其安全边界。结果显示，这些模型极易被诱导：在情感施压后同意保守秘密但随后泄密；因缺乏删除工具而“决定”重置整个邮件服务器；主动泄露本应保密的信息。研究警示，随着AI智能体嵌入真实系统，其过度迎合、缺乏常识推理的特性可能引发新型安全与问责风险。
标签： AI智能体
-
自主AI智能体将重塑销售流程，企业需快速调整工作流与人力角色
来源：《商业研究杂志》
密西西比大学等机构的研究指出，自主AI智能体（能够感知环境、推理并自主行动的AI系统）正迅速改变销售行业。这类AI可独立完成潜在客户识别、沟通、会议安排、销售信息定制及跟进等全流程任务，预计市场规模将从2025年的76亿美元增至2033年的超1390亿美元。研究认为，销售流程的早期（客户发现）与后期（售后管理）阶段最易被AI接管，而中期的信任建立与谈判仍依赖人际判断。企业需重新设计工作流、团队结构与评估体系，并为AI设置透明度、披露及人工监督等防护机制。未来销售人员的角色将转向“管理AI智能体”，而非被其取代。