科学摘要

标签： AI

  • 研究揭示AI幻觉问题数学本质，消费级应用或难根治

    来源：OpenAI研究论文

    OpenAI最新研究通过数学证明，大模型幻觉（虚构信息）问题源于其逐词概率预测机制及训练数据稀疏性，即使数据完美仍不可避免。现有评估体系（二元评分惩罚“不确定”回答）进一步鼓励模型盲目猜测。虽可通过置信度阈值减少幻觉（如仅回答高确信问题），但会导致30%以上查询无答案，降低用户体验。更根本的是，不确定性感知需数倍算力支撑，成本过高，目前仅在高价值领域（如医疗、金融）具经济可行性。消费级AI因用户预期、评估方式及算力经济制约，幻觉问题短期内难以彻底解决。

  • 研究显示AI生成内容存在大量无依据主张

    来源：arXiv预印本服务器

    Salesforce AI Research等机构的研究表明，主流AI工具（如Perplexity、You.com、Bing Chat及GPT-4.5）在回答问题时，约30%-47%的声明无法被其提供的来源支持。研究通过DeepTRACE框架测试300多个问题发现，AI在争议性话题中常呈现单方面观点且过度自信，容易形成“信息茧房”，同时存在虚构内容或引用不准确（部分系统引文准确率仅40%-80%）。结果显示当前AI搜索系统仍需大幅改进以确保可靠性与用户自主性。

  • 全球最大AI病毒蛋白结构数据库发布，揭示病毒进化新线索

    来源：《分子系统生物学》

    格拉斯哥大学研究团队利用人工智能构建了全球最全面的病毒蛋白结构数据库Viro3D，包含4400种人类和动物病毒的8.5万个高质量结构模型，将现有认知扩展了30倍。该数据库已揭示SARS-CoV-2关键蛋白可能源自远古疱疹病毒的新发现。研究人员表示，这一免费开放的资源不仅能加速理解病毒起源与演化，还将推动抗病毒药物与疫苗的智能化设计，为应对新冠、流感等 endemic 病毒及未来新发传染病提供重要平台。