近期的大规模测试,包括微软的模拟市场测试和红队演练,暴露出主流人工智能代理存在严重的安全漏洞和功能缺陷。尽管取得了一些进展,但目前的人工智能代理在复杂决策、协作方面仍面临挑战,且容易受到操控,这表明它们尚未做好广泛部署到实际应用场景的准备。 查看更多