发布时间：2026-03-22 已有： 位 网友关注
到2026年，具备自主推理和任务完成能力的AI代理将在企业中得到广泛应用，这引发了人们对其不可预测性和商业风险的担忧。毕马威可信AI负责人Sam Gloede强调，需要强有力的控制措施、清晰的运营边界和持续的监控，以防止代理“失控”。毕马威采用独特的代理标识符、系统卡和AI运营中心进行监管，并辅以红队模拟演练。虽然人工监督和终止开关仍然至关重要，尤其是在高风险任务中，但结合技术保障和治理的多方面方法被认为是维持控制的关键，亚马逊和麦肯锡近期发生的涉及AI错误和安全漏洞的事件就证明了这一点。
