法律：连接物理世界与数字世界｜2023世界人工智能大会法治青年论坛成功举办

2023年7月7日下午，以“法律：连接物理世界与数字世界”为主题的2023世界人工智能大会法治青年论坛在上海世博中心成功举办，8位人工智能法治研究领域的青年精英发表精彩演讲，探讨生成式人工智能、元宇宙、数字化司法等领域的前沿学术研究成果，聚焦数字化带来的物理世界相关基础制度建构、社会规则重塑、伦理认知对齐，破解人工智能创新发展中的治理难题，回应人类命运共同体建设。

瑞莱智慧realai合伙人、高级副总裁朱萌以《大模型时代的人工智能伦理风险与应对》为题发表主题演讲。她认为，人工智能语言大模型横空出世，大幅刷新了人们对ai能力边界的认知，目前至少面临ai控制权分配、采信度、人类辨别力危机、人类认知域的反向塑造、算法安全、数据安全等六大方面的风险挑战。无论是人工智能技术标准、规章，还是数字世界的法规体系建设，新规则的构建任重道远。解决好人工智能安全问题，本质上要从技术本身的内生安全做起。未来可以建设与时代相匹配的新型安全基础设施，如建设人工智能安全靶场，有效服务于广大人工智能企业对产品进行检验、训练及安全加固。应向社会提供针对不同安全场景的ai安全新工具，匹配智能社会发展阶段对安全治理方面的新诉求。

瑞莱智慧realai合伙人、高级副总裁朱萌

【资料图】

华东师范大学政治与国际关系学院教授josef gregory mahoney的演讲题目为《生成式人工智能的崛起：chatgpt与治理相关思考》。他表示，人工智能代表着新的经济增长点，对于保持技术创新和竞争前沿地位至关重要，不应受到过度限制。但作为一项新技术，人工智能可能增加人类面临的生存风险。人工智能有利有弊，人类应当学会如何与之共存并建立有效的治理机制。在现有监管框架的基础上，可以针对不同行业实施特定的人工智能法规，加强伦理指南框架并鼓励行业自律。特定的监管方法将取决于不同司法管辖区的法律、社会和文化背景。考虑到生成型人工智能的全球性质，国际合作和监管协调非常重要。中国在人工智能监管方面具备优势，需要向世界展示正确的前进方向。

华东师范大学政治与国际关系学院教授josef gregory mahoney

上海政法学院经济法学院副教授商建刚就《通用人工智能治理元规则》作报告。他认为，通用人工智能的数据固有瑕疵、数据处理瑕疵、数据标注瑕疵，以及算法设计理念瑕疵、算法模型设计瑕疵、算法安全保障瑕疵等问题会传导至生成结果，以人类无法感知的方式造成损害，在网络传播条件下能直接或间接对国家、社会、私权利造成严重损害。通用人工智能治理元规则的构建要以维护人类主体地位为核心，以算法和数据规制为内容，保持多元利益的平衡，防范社会风险，具体做到协同共治、提升算法透明度、保障数据质量、伦理先行。

上海政法学院经济法学院副教授商建刚

中国人民大学副教授张吉豫发表了题为《迈向赋能型人工智能监管》的演讲。她提出，人工智能应用正在发生或即将发生难以预料的风险问题，面对这种复杂情景，必须创新人工智能监管模式，开创“赋能型人工智能”新形态。

中国人民大学副教授张吉豫

中央财经大学法学院讲师李敏报告了《元宇宙金融：风险与监管》。她认为，元宇宙代表了人们从“信息时代”向“体验时代”转变的强烈愿景，nft是去中心化金融（defi）的底层资产，web3.0是去中心化金融的技术支撑，也是构建开放式元宇宙的网络基础设施。defi的去中心化运营与技术特性使监管机构很难确定被监管对象和应受监管的行为，未来可以将defi实践中的“再中心化”主体作为潜在监管抓手，利用监管科技构建技术驱动型监管以实现自动化监管。监管沙盒是促进defi创新并探索监管科技的有效机制，加强国际合作是为defi构建全球统一监管标准、防范监管套利的重要保障。

中央财经大学法学院讲师李敏

上海交通大学研究生院副院长、凯原法学院教授程金华作题目为《元宇宙的法律底座》的演讲。他认为，观念与技术促成了元宇宙的兴起，资本与产业造就了元宇宙热点，但是法律才能决定元宇宙的未来。虚拟货币的投机和炒作需要整顿，但是对虚拟货币近乎一刀切的禁止也将导致元宇宙会成为无源之水。应从五个方面来建构元宇宙的法律底座，即明确虚拟数字人的法律地位、界定虚拟空间的法律性质、明确数字资产的法律属性、一定程度上实现虚拟货币的合法化，并制定关于智能合约的规范体系。当数字虚拟空间中的人、土地、商品、货币和交易的法律属性得到了明确保障，元宇宙才可能变成有活力的社会经济系统。

上海交通大学研究生院副院长、凯原法学院教授程金华

葡萄牙丰沙尔司法法院法官hugo luz dos santos的报告题目是《生成式人工智能与法律：是敌是友？》。他认为，尽管生成式人工智能还处于初级阶段，但已在多个领域塑造了未来，并且随着时间的推移，对人类日常生活的影响将大幅增加。令人忧虑的是，随着大型语言模型的普及和广泛应用，可能导致人类的批判性思维相应减少。在短期内，生成内容可能包含不准确或误导性的信息，这是不容忽视的紧迫挑战。此外，以深度伪造为例，生成式人工智能对法治和刑法的基本原则可能构成威胁。生成式人工智能是一种能力非凡的工具，但在使用时应始终保持谨慎。

葡萄牙丰沙尔司法法院法官hugo luz dos santos

上海市嘉定区人民法院院长、二级高级法官顾全以《关于“数字化”司法理念的几点思考》为题进行演讲。他表示，数字化转型最核心的特征，就是对数据要素的处理和应用。数据不仅是独立的民事权利客体，也可以成为其他民事权利客体的“数字化”载体。无论数据信息以何种载体形式出现，法官必须具备穿透性视野，厘清数据与其他权利客体数字化形态之间“形式与内容”的区别。法官必须了解数据属性，具有一定的技术和产业思维，并且对“中立”技术的具体应用场景和性质作出法律评价。数字经济案件的审判理念和格局必须与时俱进，应当具备“穿透性”视角和相对统一的裁判思路。他介绍，上海法院在嘉定设立了“数字经济司法研究及实践基地”，已经对数字经济案件分类研究体系作了初步构建。

上海市嘉定区人民法院院长、二级高级法官顾全

论坛为2023世界人工智能大会法治论坛和2023世界人工智能大会法治青年论坛征文获奖代表颁奖。

复旦大学副教授朱丹、上海大学副研究员袁曾担任论坛研讨环节主持人。

复旦大学副教授朱丹（左）

上海大学副研究员袁曾（右）

责任编辑：

骆 珍 王沛然 郭 骏

上观号作者：上海市法学会

关键词：