迎客松配资 工行行长刘珺谈AI治理：不解决“身份定位”和“责任”问题，AI将很危险

　　蓝鲸新闻10月20日讯“人们经常谈论各种未知的黑天鹅因素，而人工智能未来的发展本身就可能伴随着大量黑天鹅事件。”在2026外滩年会上，工商银行行长刘珺在“金融领域AI治理：关键议题与可行路径”的圆桌讨论上表示。

　　刘珺认为，当前大家正面临大量不确定性，甚至还有许多未知因素，影响着人工智能未来的发展轨迹。中央银行家们面临着诸多挑战，而商业银行从业者的处境甚至更加艰难，他感慨，“简直就像维克多·雨果笔下的《悲惨世界》。”

　　银行业刚刚走过以计算机系统建设为核心的发展阶段，完成了相关系统的搭建。在刘珺看来，数字化转型阶段对于商业银行业务至关重要。银行从业者们正努力汇集各类数据，建立数据集，运用数据分析技术，提升自身的决策能力。

　　“但到目前为止，我们还没有完成这一转型过程就已经踏上了一段新的旅程。而这段旅程将把我们带向一个新的领域，其中充满了未知，我们根本无法确定未来会发生什么。”刘珺指出，作为商业银行从业者，只能采用相对成熟、经过验证的技术。

　　在此背景下，刘珺认为，人工智能的身份定位困境，即“人工智能究竟是主体还是客体？”必须得到解决。“迟早有一天，我们会发现人工智能发展出了某些能力，能够绕过人类进行讨论和谈判，甚至相互串通，破坏现有系统，绕过既定规则。这将是非常危险的。”

　　刘珺提出两个层面的问题：一是人工智能是否应当成为与人类并列的法律主体，还是仅仅作为一种技术工具；二是究竟由谁承担责任。需要提出新的思路，确保相关行为的责任归属得到清晰界定。

　　刘珺称，在过去，一名银行从业者若使用某一套计算机系统开展业务，相关责任就由其承担。但人工智能的开发和应用过程中涉及众多环节，相关责任可能涉及算法开发者、程序员、部署方、使用方以及最终用户。当各方处于不同环节，由谁承担责任？这与黑箱问题一起，导致当前阶段责任的认定与核实十分困难。

　　对此刘珺提到四个不匹配：监管要求充分披露相关信息，但人工智能算法及其各种数据参数，在某种程度上仍处于黑箱之中；数据存储要在本国主权管辖范围内，但数据与算法均无国界；人工智能应当受到一定的主权管辖，没有任何国家愿意将人工智能的控制权交给另一个国家；商业银行也建立在信用基础之上，已经建立了成熟、精细的信用评分体系，但“如何对人工智能算法进行准确的信用评估”、“如何评估不同类型模型的可信程度”均是当前存在的问题。

　　“尽管我们面临着诸多问题与挑战，我们必须确保，所有技术发展最终都应当服务于人类社会的进步。我们必须确保人工智能能够帮助人类，共同迈向更加美好的未来。否则，我们甚至没有必要讨论人工智能发展的利弊得失。”刘珺强调。

　　在此基础上，刘珺提出，如果能将人工智能视为一种类似人类的准法律主体，并将人工智能金融治理与人类主体的治理以及现有市场参与者的治理体系结合起来，便能建立一套统一的治理机制，对人工智能实施监管。具体而言，是将人工智能运行过程中产生的数据轨迹，与现有市场参与者的相关数据整合并纳入统一的体系，实现统一管理和全流程贯通。

　　在论坛上，刘珺还从“AI给商业实体乃至市场中不同利益相关者带来的收益”角度介绍了工行的经验。他提到，将工作证明、历史证明、权益证明和收益证明这四个因素结合起来，就可以确保能够识别并清晰界定AI在某项业务活动中最终承担的责任。

　　“如果工行在不同业务线上大量使用和部署AI工具和智能体，而所有收益都进入工行的资产负债表以及利润和收入报表，那么就意味着承担AI部署的责任。如果出了严重问题，就应该向相关受害者赔偿，并向市场给出最终答复。”刘珺举例称。

　　据刘珺介绍，在工行的业务流程中，如果某项业务高度依赖数据，便让AI在业务流程中拥有更多自主权；如果直接面向客户，会把大量人工团队放进流程中；如果涉及价格管理，并且具有很大的金融和社会敞口，从一开始就必须有人类参与。目前，工行已经部署数百个AI模型，分类到不同领域，再拆分到不同业务线，并明确哪些决策点必须由人处理、哪些环节可完全由AI工具自动化。

　　“但整个过程非常艰难，我们一边前进一边学习。这是一条相当艰难的道路，我确实认为央行应该给我们很多帮助，我们可以一起合作。”刘珺表示。

忠琦配资提示：文章来自网络，不代表本站观点。