推动人工智能安全发展：俄罗斯科学院圣彼得堡科学实践中心参与构建国家人工智能技术信任登记簿模型

为确保人工智能技术的安全与可信，俄罗斯科学院圣彼得堡联邦研究中心（SPC RAS，亦称圣彼得堡科学实践中心）作为人工智能安全研究联盟的重要成员，积极参与了俄罗斯国家人工智能技术信任登记簿模型的构建工作。2025年3月6日，相关专家出席了一场前瞻性游戏与战略会议，旨在描绘该登记簿未来发展的初步蓝图。

目前，人工智能技术正迅速渗透至全球主要国家经济与生活的各个领域，涵盖工业、医疗、金融、交通、教育等多个行业。AI技术能够实现流程自动化、提升工作效率、分析海量数据，并辅助制定更加科学的决策。然而，随着AI技术的广泛部署，其带来的各类安全与伦理威胁也日益凸显，政府及相关机构亟需加以重视。例如，许多AI算法（尤其是深度神经网络）本质上是“黑匣子”，其内部决策过程难以被准确解释与预测。此外，AI系统的可靠性还高度依赖于训练数据的准确性、算法使用的伦理正当性等因素。总体而言，这些问题共同指向了一个核心挑战：在AI技术使用方面缺乏统一、正式的监管框架。

为制定在莫斯科的“MIREA — 俄罗斯技术大学”（RTU MIREA）设立国家人工智能技术信任登记簿的相关提案，人工智能安全研究联盟的专家们专门举办了一场战略会议与前瞻性游戏。与会者包括来自俄罗斯科学院系统与控制问题研究所（SPC RAS）的顶尖学者，以及来自以下机构的代表：Gazinformservice、Yandex、Positive Technologies、Gazprombank、Code of Security、安全信息技术发展援助基金会、国家数字密码技术中心、Raft Digital Solutions 和 Swordfish Security。

本次会议的主持人之一为安德烈·切丘林（Andrey Chechulin），他担任俄罗斯科学院计算机科学研究所国际数字取证中心主任。

安德烈·切丘林指出：“人工智能技术的应用已势不可挡，因为当前诸多经济领域的运行效率都高度依赖于它。然而，AI不仅能为社会发展带来福祉，也可能被不法分子利用，造成危害。因此，我们不仅要学会掌握AI技术，更要能够区分危险的人工智能与可信的人工智能。在此次活动中，专家们致力于初步构建一个概念框架，明确AI系统必须满足哪些要求才能被认定为可信。我们工作的最终目标，是制定出一份详尽的人工智能技术信任登记簿。”

在深入探讨未来登记簿的关键要素后，专家们进入前瞻性游戏环节。这种方法有助于模拟登记簿发展的多种可能情景，并为其高效运行提出切实可行的建议。专家们被分成若干小组，全面分析了各利益相关方（包括开发者、供应商、用户、监管机构及信息安全专家）之间的互动关系。通过精心设置的角色扮演，团队系统评估了潜在的各类风险与机遇。

本次工作的核心成果是制定了一套AI技术被纳入信任登记簿所必须遵循的基本原则与标准。与会专家明确了关于数据、模型及软件的关键要求，并初步设计出信任认证与评估机制。这些成果将为构建“人工智能技术信任登记簿”奠定坚实基础。预计该登记簿未来将成为提升俄罗斯人工智能系统透明度、可靠性与安全性的重要国家工具。

人工智能安全研究联盟成立于2024年5月21日，由国家数字密码技术中心、俄罗斯联邦密码学院以及俄罗斯科学院V.P.伊万尼科夫系统编程研究所共同发起，并得到了俄罗斯联邦数字发展部的积极支持与参与。该联盟的核心目标是整合领先专家团队的力量，致力于推动人工智能技术的长期可持续发展，落实安全开发原则，以助力实现俄罗斯联邦国家项目中设定的各项战略任务。