AI代理无处不在。几乎每两条新闻中就有一条与AI代理有关。随着越来越多的企业开始使用AI代理，要掌握它们的具体运作情况已非易事。Dataiku于9月推出了“AI代理管理”功能，而甲骨文(Oracle)在10月的AI World大会上，也用部分时间探讨了企业如何有效管控其AI代理。Snowflake、Databricks以及该领域的其他公司，都在致力于开发各具特色的AI代理。

　　聊天机器人的主要功能是回答问题，即输入与输出。然而，AI代理的构建方式则截然不同，它们能够真正完成各项任务——无需人工干预或支持。

　　例如，AI代理可以从企业系统中提取数据，并能与不同的应用程序协同工作。它们(至少在理论上)无需有人逐一指导每个步骤，就能完成任务。但当数百个此类代理在不同部门同时运行时，情况会变得更加复杂。你如何知道它们都在做什么?

　　更复杂的是，这些AI代理未必运行在同一个平台上。例如，财务团队可能使用一个系统，而市场营销团队或IT部门则可能使用另一个系统。有些代理可能在处理敏感的客户信息，而另一些则可能拥有更新记录或修改业务应用程序的权限。必须有人对这一切进行监督。

　　企业虽然已经拥有控制数据访问权限的工具，但这与管理AI代理截然不同。这不再仅仅是关于谁能查看特定数据库或文件的问题。企业还需要了解代理如何处理这些信息，知道它们将信息发送到了何处，以及是否在执行本不该执行的操作。

　　各供应商正以不同的方式应对这一问题。Dataiku希望为企业提供一个统一平台，用于追踪其代理——包括那些使用其他公司技术构建的代理。其最近发布的“代理管理”(Agent Management)产品，允许企业注册代理、监控其活动并追踪性能。Dataiku上周还推出了“Headless”解决方案，旨在让外部编码代理在其受管控的开发环境中运行。

　　甲骨文则发挥了另一项优势。其数据库和业务应用程序已被各大企业广泛采用，这使其能够将代理控制功能集成到客户现有的系统中。在今年10月的AI World大会上，甲骨文探讨了代理泛滥的问题，以及企业如何在整个运营过程中管理代理。其AI数据平台包含“代理中心”(Agent Hub)，该中心支持MCP和A2A标准，有助于代理与其他工具和系统协同工作。

　　管理代理仅是问题的一部分，企业还需要控制这些代理可以访问哪些信息。Snowflake一直通过其代理身份和安全功能致力于解决这一问题。该公司声称，这些功能旨在为每个代理分配独立的权限，而不是让它们使用共享凭据进行操作。

　　现有数据安全策略(包括对敏感信息的限制)可据此应用于代理活动。Snowflake还提供了审计功能，使企业能够查看代理与数据的交互情况。

　　Databricks正通过Unity AI Gateway解决类似问题，该平台提供了对AI模型和服务访问的控制功能，以及监控和使用情况追踪。它还与Unity AI Catalog相连，企业已在该平台上管理数据访问和治理。

　　越来越多的企业正加入这一行列。Cloudera于10月发布了Blueprints，该方案利用英伟达的Agent Toolkit帮助企业部署具备安全与治理能力的AI解决方案。英伟达还推出了OpenShell，该平台在沙箱环境中运行代理，以限制其访问范围和操作权限。可以看到，不仅是数据平台供应商在努力探索如何对代理进行管控。

　　有一个问题至今仍未得到解答：当一个代理在多个平台之间进行操作时，会发生什么情况?假设它从Snowflake提取客户信息，将其发送给另一个AI服务进行分析，然后更新Oracle中的记录。Snowflake可能知道哪些数据被访问了，Oracle可能知道哪些数据被修改了。但谁来追踪这两个步骤之间发生的一切呢?

　　Dataiku表示，其“代理管理”(Agent Management)产品能够监督使用其他技术构建的代理。这固然有帮助，但它究竟能掌握多少控制权，仍然是个问题。能够看到代理在做什么，并不一定意味着你能阻止它做不该做的事情。

　　MCP和A2A可以提供帮助。MCP允许AI应用与外部工具和数据连接;A2A 则使代理之间能够相互通信。但这些标准主要侧重于实现系统间的协作，并不会自动为企业提供一个集中管理权限或全面查看代理所有操作记录的统一平台。

　　此外，企业还希望了解其他方面的问题：这些产品与竞争平台的兼容性如何?它们能否预防未经授权的操作，还是仅能在事后进行标记?客户目前实际能使用哪些功能?

　　一旦企业开始在不同系统中部署这些工具，我们或许能得到更明确的答案。目前，市面上已有大量产品承诺提供更全面的监管能力。就当前状况而言，当AI代理在不同平台之间切换时，责任归属尚不完全明确。

　　来自 “ https://www.hpcwire.com/bigdatawire/2026/11/03/who ”