处理数据不是目的,决策才是
在AI Agent建设过程中,虽然要以数据为中心,不过AI Agent的工作任务是决策,而不是处理数据,处理数据只是决策的必要工作,而不是目的。从这一点上看,那些NL2SQL系统,问数系统从根子上就错了,目标错了,过程也大概率也是错的。
如果以此为目标,再来审视目前企业的AI项目,你会发现,这些AI项目与企业本身的管理模式和IT正常就是相违背的,规范着企业IT系统建设和运营的政策本身就是阻碍AI赋能IT的最大的阻力。
这两年我们参与了一些单位的数据库智能运维平台的建设,遇到的最大的问题就是大模型接入的问题。有些企业自己花大价钱微调、蒸馏了一些企业自有的AI大模型,名字起得很高大上,也都出自一些著名的AI企业之手,只不过这些模型建设过程中目的并不是为了用来干活,只是增加了一些企业自己的业务知识而已。这些模型的构建仅仅是增加了一些数据,而并没有针对任务编排、工具调用、意图识别、思维链性能等做出任何优化,微调后甚至退化了这些对于AI智能体建设十分关键的能力。我们在接入这些模型之后,发现意图识别不清,工具调用出错的问题比比皆是。我建议他们换一个规模更小的Qwen3.6-35b-a3b模型,这个模型在我们实验室里验证准确率远高于用户侧的数百b的模型。不过用户说他们的IT政策规定,只能使用自己的模型,不允许使用任何其他开源模型,因为他们的AI部门认为那些模型是不安全的。
另外一个安全政策就是,在很多机构里,Agent不能直接接触生产系统,只能接触数据。管理者希望以此来确保不会因为AGENT犯错而导致系统出现不可控的误操作。这个管理规则的出发点是好的,不过我感觉有点像某些城市的市内道路限速45-60公里一样,在这样的速度里,哪怕出车祸,死人的概率会很低,超过60公里,死人的概率就会高出数倍。小时候上学的时候,老师教过一个成语叫“因噎废食”,和这个管理模式很搭。我第一次去香港的时候,发现香港的道路条件远比国内的城市低很多,不过香港的两车道的狭窄的城市快速路居然会限速100。不同的管理理念造就了不同的通行效率,这个道理在目前的AI应用上也是类似的。因为我们陈旧的与AI时代不匹配的管理政策,可能会扼杀我们的AI创新能力。
如果Agent不能接触生产系统,只能接触数据,那么智能体就无法自主获取所需要的一手数据,只能拿到我们预设的数据,那么AI的能力上限就必然受到我们预设数据的限制。而当数据分析完成之后,验证结论的方式必须首先预制好,智能体的泛化处理能力必将受到严重的制约。
在这些约束之下,带有自主决策能力的智能体的开发将会变得更复杂,而问数类的应用才更容易建设。但是问数真的是目的吗?在这些年里,企业在数字化上投资巨大,但是收效却没有想象的大,数据有了,结论没有,也没有任何人敢直接利用数据背后的结论直接去决策执行。实际上这些年的企业数字化转型,大多数变成了为了数字化而去找更多的数据来分析,其实并没有真正提升企业的管理水平,达到增效的目的。
在AI时代,如果我们还是沿着数字化建设时的错误路线去折腾数据,然后还是采用另外一套以人为核心的决策和操作流程,那么AI的能力就会被限制在一个笼子里,只能发挥有限的作用了。
让Agent能够在安全受控的前提下去访问甚至操控生产系统,是挖掘AI系统能力上限的必要条件。在一个安全的只读访问工具的帮助下,智能体能够接触生产系统,在安全约束下自主探索,智能体的能力才能被充分发挥出来。而发现问题之后第一时间进行决策,甚至驱动执行,才能真正提高效率,节约人力资源。
在这些方面,我们的西方同行可能比我们更少束缚,因此他们在某些AI应用领域已经把我们远远抛在后面了。