时间: 2024-03-24 23:21:44 |   作者: 华体会登录

  2023 Inclusion·外滩大会9月7日在上海黄浦世博园正式开幕。为期三天，近20位“两院”院士、诺贝尔奖和图灵奖获得者，全球超500位有一定的影响力的科技领军企业和专家学者齐聚上海，带来一场科技、人文和产业的思想碰撞。

  时隔三年，外滩大会再度在上海揭幕。《中国经营报》记者发现，聚焦人工智能、大模型、抗量子密码、隐私计算、图计算、安全智能、区块链等前沿数字科技成为外滩大会最活跃的议题。与此同时，的安全问题及其挑战已然成为专家学者正在深入研究的前沿课题。

  模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”，AI的发展因此带来了新的安全隐私问题，怎么样才能解决这一隐患，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上“紧箍”。

  何积丰院士认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人隐私信息。隐私问题既有几率发生在训练过程，也有几率发生在使用的过程中，而大模型的生成能力则让“隐私泄露”的方式变得多样化，造成隐私保护更加困难。

  “为了应对这样一些问题，我们应该大模型对齐技术。”何积丰说，“对齐（alignment）”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。“如果把看作西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就能够保证技术不会任意使用能力来胡作非为。”

  不过，对齐技术同样面临挑战。首先，对齐的基础，人类的价值观是多元且动态变化的，需要保证大模型为人服务、与人为善；其次，大模型的有用性与无害性之间的目标也不完全一致。如何对错误进行相对有效纠正，设好大模型的“紧箍咒”也是挑战。

  因此，对齐技术已成为了一项令人眼花缭乱的跨学科研究，不仅考验技术，也审视文化。

  何积丰介绍，反馈强化学习是实现对齐的技术途径，目前有两种方式，一种方式是通过人工反馈给模型不同的奖励信号，引导模型的高质量输出；另一种方式，事先给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。“这在某种程度上预示着，不仅智能系统要向人类价值观对齐，人类的训练方法也要向价值观对齐。”何积丰说。