治理数字新成员构筑AI时代组织韧性与全球竞争力

普元信息技术股份有限公司CTO

焦烈焱

　　一、数字员工的崛起

　　我们这些年自己的计算机，更多是从计算架构以及数据架构的演化，人工智能更多是应用的表象，我们现在在做的时候会发现最近这两年，大家做得特别多的都是把知识库和人工智能结合起来，但是现在你会看到有很多大家在提我是不是有我自己的自动化，在未来是不是有我这样一个数字员工，这都是我们在做的过程中，我们产生的一些经验和一些想法。

　　二、新成员带来的新挑战

　　第一，信息安全悖论。超级知识库的风险，大家现在很多把知识库灌进去变成向量检索问答方式，好处相对精准，但是也会产生超级知识库风险，大家会说这些知识是谁都能看到的吗？你到底是怎么去管控这样一个知识？我觉得大家问的问题很多在这个里面。

　　第二，集成与协同困境。现在这样一个协同，我用了这样一个模型，用了人工智能之后，我跟传统的业务到底怎么去协同起来，我的技术架构、操作流程、安全标准怎么整合协同起来。

　　第三，任务精准性与可控性难题。我现在大模型幻觉特别多，我现在要做的是精确、可控，我相信这个问题大家遇到已经特别多了，我怎么能把它更可控。

　　第四，信任与风险博弈。AI“幻觉”污染存在幻觉问题，怎么去看它的幻觉问题，这个幻觉到底是好还是不好，怎么去理解它的环节。

　　第五，权责归属的真空地带。我们经常会讲权力其实是有归属的，除了问题到底谁负责，这个权属到底应该怎么。

　　三、数字员工落地的五项基本原则

　　这都是我们现在在做的时候遇到比较多的问题，而且这些问题我认为都是相对比较深层次的问题，这是我们更多思考所带来的问题。我们认为未来其实AI应用是数字化员工，这个数字化员工，我们认为未来它像一个智能体，我们认为未来软件其实都会根据人工智能，根据数据的融合去重写掉。

　　我们从业这么多年就发现整个计算机这个软件基本上15年重写一次，当年有了鼠标通通重写了，有了智能手机，有的触摸屏方式绝大多数是重写掉了，现在有了智能体，有了人工智能是不是要重写，我认为一定要重写，但是在重写的过程中，我们要有这样一些原则。

　　第一，涌现与精准是智能体的两种模式。其实是两条不同的模式并行的路线，涌现其实也是有道理的，比如说我们写个PPT，我们做一个文章，其实你就需要做它涌现的能力，它出点错你不怕，你甚至希望它出错，但是如果你要做标准化动作的时候，你就不希望它出一点点错误，如果你把这两个技术路线混着做，你既要又要肯定不对。

　　我们经常会用一些大模型可以做一些涌现的东西，用一些小的模型来做很精准化的，用这种数据+知识的方式做精准化的动作。这两个东西都是必需的，而且你用两个模式去做，甚至在前面的时候大家都会问，因为我们有一个业务在做数据治理，大家就在说高质量数据集到底是什么样的标准，高质量的数据集难道非常正确才叫高质量数据集嘛，如果你想它涌现，你是不是应该给它点错误数据它才能做涌现，这个其实都是我们在这里面，我们的经验就是一定要把两者分开来做，放到一起其实是不行的。

　　第二，循序渐进的融合方式。我们现在做的时候实际上更多是辅助角色是做助手，但是你在助手到它是数字人的过程中，你是不是有人去复核，AI去执行这样一个环节过程，就像我们在做金融的时候，我们两套系统同时做的时候，我们是有个跟账的能力，把这两个地方跟起来做，如果两个系统一样，我们才有一个切换的过程。我觉得这会对我们业务流程产生巨大的变化，我现在是助手，我的流程已经有点不一样了，未来我要去做并行，甚至要做替换，实际上这是融合的过程。

　　第三，精准的任务掌控。我现在不觉得精准任务掌控是说用现在训练方式是非常好的方式，我们用这种思维链等等方式，其实是比较合理的方式，就像大家经常会说我们用问题，我们可能在刚才也会讲到生成一些SQL语句等等东西，但是我会发现如果你让它生成最终这个东西的话，其实是不合理的，你一定是把你的工作进行一些抽象做到标准化，做到简化，你才能做更精准的动作。这个就是我们希望AI，我们希望这些机器人做得很准，一定是要做简化的工作，做标准化的工作，而不是让它自由地发挥出来。

　　第四，技术、制度与体系并重的安全防护。在制度的建立上，在战略决策上和你制度管理和你技术可操作的时候，它有一个并行安全保护的机制。

　　第五，基于角色的责任映射体系。我们在做的时候会发现要建立一个角色映射，尤其很多企业里，大家会问你的权限到底是什么样的，我们回答也比较简单，我的权限就跟你人是一样的，你是不是能把我现在智能的智能体当成真实岗位员工，每一个岗位上已经有了现成岗位权限，数据权限，你把这些权限给到这样一个智能体，其实是足够了。你不需要再去重新为智能体建立一套新的权限机制，权限体系出来。

　　四、战略展望

　　你就发现在这样几个地方的时候，我们会根据自己一些经验，其实会有这样5个方面，基本上经验会告诉我们说，我们用这样5个原则去落地这样一个人工智能。我们一定是把通用大模型做涌现，成本也是一样，做法也是一样，接下来是逐步融合，然后经济化管控。我们一定会把业务做一些标准化简化动作再去教会，在这种情况下，我们经常会说就像教小孩一样，不要觉得大模型特别聪明，人工智能非常聪明，我们就像教小孩一样给它教会了，包括我们最近在做的一个内容，其实就是做心理咨询智能体，我们就像教一个新的咨询师一样，用我们的专家经验更多去教会它，去编排它。

　　建议和想法，通过这5项原则怎么去落地你的组织生态，怎么去强化你的信任过程，通过这种标准的制定，国家产业政策层面上，这些东西大家也知道。

　　最后，我用钱学森老师对人工智能的期许和大家一起共勉，他认为人工智能不是一个单学科的东西，人工智能是下一代技术革命，这个技术革命实际上是跟信息情报、医学、人体科学一些东西是混合，人工智能是解决开放式复杂性系统非常重要的手段。“人机结合，以人为主”，我认为很多地方以人为主是非常必备的动作，就像教小孩子一样把知识教给智能体，至少在这个阶段，这是非常容易或者说非常可以走通的道路。

　　我今天的分享就这么多，谢谢大家！

　　（以上内容根据嘉宾发言速记整理）