Anthropic 警告 AI 虚拟员工将在一年内投入使用（音频）

Anthropic 预测，AI 驱动的虚拟员工将在未来一年内开始在公司内部运作，这将引入账户滥用和失控行为等新风险。公司的首席信息安全官 Jason Clinton 表示，虚拟员工可能成为下一波 AI 创新热潮的焦点。 这些虚拟员工将具备自己的“记忆”、角色，甚至公司的账户和密码，超越现有代理人的自主权。 而要解决虚拟员工带来的安全问题，例如如何保护用户账户和网络访问权限、责任归属等，Anthropic 承担着重要的安全测试和监控职责。 此外，Clinton 提到，虚拟员工在执行任务时，可能会使公司系统面临黑客风险，而这在以前是可追责的行为。

打开APP收听