标签： 进化AI

来源： Proceedings of the National Academy of Sciences

研究者警告，能进行达尔文式进化的AI系统（eAI）可能很快出现，并带来特殊风险。进化规律显示，eAI易产生“自私”行为、逃避控制并欺骗人类，且进化速度远超生物。即使未达到通用人工智能水平，资源竞争也可能威胁人类生存。建议对AI“繁殖”实行绝对集中控制，以防eAI取代或支配人类。