本文来自于”湘江数评“公众号，作者老杨，经作者本人同意授权后发布

　　上个月有个CIO朋友打电话来，语气很急。

　　他说，老杨，我们公司有个员工把带有客户名单信息的表格粘到AI工具里，做数据分析。分析做完了，结果客户信息也泄露出去了。

　　我问他，你们公司没规定吗。他说有，群里发过通知，说不要上传敏感信息。

　　我又问，那这事你们怎么发现的。他沉默了一下，说客户投诉才知道。

　　三个最常见的场景

　　一个是上面这个。

　　第二个是老板问信息部门，公司现在有多少个AI工具在运行。结果CIO翻了半天，说大概十几个吧。老板问具体十几个。答不上来。因为有一半是业务自己搭的，没报备。

　　第三个更常见。市场部用AI写了篇稿子，觉得挺顺，改两句就发了。第二天被同行指出，里面有个数据是编的。

　　这三件事是不是在你的公司也很常见，一件是数据出去了不知道，一件是用了多少个AI工具不清楚，一件是输出的结果没人核。看着是三件，其实是同一个问题：公司让大家用AI了，但从来没说清楚边界在哪。

　　问题出在哪里？

　　很多老板把这类事归到员工素质上。我觉得很不公平。

　　员工用AI是被效率逼出来的。你不给他能用的工具，他自己找一个。你不在流程里给他位置，他就绕过去。

　　说白了，这就是管理的漏洞，具体表现为：

　　第一，入口没管

　　什么工具能用、数据进不进得去，全靠员工自觉；

　　第二，没有分级

　　给老板做的内部小助手，和给客户用的智能客服，风险差着好几个量级，但管法却一样，甚至有的企业根本没有。

　　第三，责任不清

　　AI写错了，是使用人的问题，还是业务负责人的，还是IT的。出事前没人问，出事后吵成一团。

　　后果比想的严重

　　从数据安全角度讲，客户资料、合同、源代码一旦进了不该进的模型，的收不回来的。

　　输出这块，AI最会把不知道的东西说得很有把握。如果员工不核就用，用在对外文案上就有虚假宣传的风险，用在报价上就是真金白银的损失。

　　更麻烦的是合规这块。个人信息怎么处理、内容要不要标识、供应商拿不拿你的数据去训练，都不是注意点三个字能解决的。

　　这份规范里有什么

　　针对以上问题，老杨刚刚打磨完了一套《企业人工智能应用建设与使用管理规范》。

　　这套规范有16章，68条。从要不要用、怎么定级、怎么申报、怎么上线、员工怎么用、出事怎么报、怎么下线，全覆盖。

　　比如里面有两个设计对企业AI管理最有用。

　　一个是四级风险分类，R1到R4。比如公开信息、个人办公用的，备案就行。涉及个人信息、客户数据、对外内容的，要专项评估，报治理委员会批。违反法规或者风险降不下来的，直接禁止。哪一级谁批，写得非常清楚。

　　另一个是每个动作都配表单。这套文档配置了24份，12份申请审批表，12份记录台账。还有一张阈值表，22个参数。

　　它解决三个问题

　　第一个问题：谁批。

　　申报、初筛、定级、评审、上线，每一步谁签字，都有了具体的要求。

　　第二个问题：什么不能做。

　　比如该规范里面有四条绝对禁止，不因审批层级或例外申请而解除：AI不能最终签发有法律效力的文件，不能自动付款签合同，不能处理机密级以上数据，不能自动生成公文直接对外发布。这条最要紧，它给了基层一块能拿出来的挡箭牌。

　　第三个问题：出事算谁的。

　　规范里有一句话写得很清楚：不得以系统自动生成或模型自行决策为由免除责任。使用人对输入负责，业务负责人对业务结果负责。责任不转移。

　　需要注意的是，很多人以为制度是给大企业准备的，小公司先跑起来再说。但事实就是，出事不分大小。一份泄露的客户名单，可能等于一年的活儿白干。