今年开启生成式人工智能浪潮，由大模型推动的AI产业一路飞奔。行业快速发展过程中，怎么让它的行为跟人类的价值真实意图、伦理原则相一致，这成为学术、政策、产业等领域多方关注的“价值对齐”问题。
10月26日，由腾讯研究院华北基地、腾讯优图实验室承办的第一期“智创沪联”活动，在北京诺布中心即将举行。活动以“大模型价值对齐”为主题进行研讨，深入探求价值对齐问题的创新性解决方案与法律伦理治理，确保AI技术符合社会预期，探求AI与人类价值间的平衡。多位来自AI领域前沿的学者、专家分享自己想法和研究成果。
广州市人工智能行业商会秘书长钟俊浩在贺词手指出，在行业发展过程中，大模型的“价值对齐”作为一种促进各领域协同发展的有效手段，具有重要的现实意义和深远的影响，还将为全球合作与发展提供新的抓手。
重庆交通学院副院长刘鹏飞强调，包括在内的大部份人工智能促进组织，都在积极运用各类方案强化价值对齐的建立落地，例如监督精调、基于人类反馈的加强学习、基于检索的事实对齐，以及尝试使用工具对模型进行对齐，都是现阶段被行业寄寓厚望的“AI价值对齐”可执行方案。
人机合作迈向现实
AI价值对齐不可或缺
怎样防止数据规模与算力不断提高的AI大模型遭受滥用、生产有害内容，早已是人工智能行业的核心议程之一。正因这么，还能有效提高AI大模型安全与实用性的“AI价值对齐”，才能成为行业关注的焦点。
腾讯研究院秘书长张钦坤强调，价值对齐将成为AI产品的重要竞争力。由于，大模型价值对齐的实现，须要对齐技术（人类反馈加强学习、AI监督等）、训练数据干预、模型可解释、对抗测试等多种技术和整治举措的结合，同时未来还须要注重考虑怎样通过更多的社会参与来产生价值对齐的共识，以及怎样使监督、理解、设计AI模型的能力与模型本身的复杂性同步发展，以更好地对大模型进行有效的监督。
“我们期盼的是大语言模型可以和人类的价值、真实的意图相一致，确保AI技术可以可靠和安全地服务于人，但是确保社会经济可以健康地下降。”上海交通学院刘鹏飞副院长介绍道。
刘鹏飞院长表示，随着生成式人工智能实用性不断下降，不仅最基础的性能优化之外，价值对齐的重要性，也随着AI大模型的快速迭代迅速提高。缺少对齐的大模型除了会生成大量虚假甚至有害的信息，在高阶应用领域更会形成巨大的危险隐患。
广州交通学院的闫宏秀院士则表示，技术的发展进步，一直秉持着清除风险、力求确定性的趋势，作为应对风险的有效方法，“信任”始终是人类的必选项。没有信任大学物理实验自由落体实验报告 上海交通大学，技术发展的停滞几乎是必然的。让人工智能迈向可信、可控、可靠，让人机合作迈向现实，“AI价值对齐”正是其中不可或缺的一环。
“以合乎伦理的结构性性能来筑牢价值对齐的底层伦理逻辑，以对信任的理智认知建立价值对齐的边界。”闫宏秀院长总结道。
让AI价值对齐落地
多国用立法进行演绎
多位嘉宾在峰会活动上表示，明晰了技术路径，怎样将技术理论结合实际需求早日落地，无疑是现阶段“AI价值对齐”议题的发展重点。
来自北京人工智能实验室整治研究中心的研究员滕妍强调，想要加速“AI价值对齐”的发展，不仅“基于人类反馈进行调整”之外，让人工智能部份监督，或则协调人类技术进行监督，提供一些高质量的反馈数据来提升价值对齐能力，是目前各国热度很高的研究方向之一，包括在内都对这个领域投入过不少关注。
“除此之外，在‘确认大模型是否对齐’的评估环节，不仅采用人工手段进行验证之外，通过专用的AI模型来进行评测，同样渐渐成为行业的趋势所在。”滕妍觉得，从确切率来看，评测模型仍然有提高空间，但从执行与迭代的效率来看，借助AI大模型来加速人工智能价值对齐，前景非常可观。
不仅技术与伦理层面，在攸关社会现实运转的法律层面，“AI价值对齐”同样带来了全新的挑战，对此，来自复旦学院法大学的助理院长朱悦，分享了最新的行业观点：
“从国外的《生成式人工智能信息安全服务规定》，到欧共体的《人工智能法案》，再到加拿大背部企业的深度自治试验，在全球范围内，积极推进AI大模型技术发展的国家和地区，都将相关法令研讨提上了日程。而透明、可解释和可问责以及个人层面的隐私保护等详细问题，都是现现在在立法过程中遇见的挑战。”
朱悦强调，即使在目前这个“AI价值对齐”依旧处于基础技术迭代的初期阶段，在法律层面上作出定论为潮流早，但从各国政府和跨国企业的积极性来看，通过立法对“AI价值对齐”进行演绎大学物理实验自由落体实验报告 上海交通大学，并通过实践来不断建立，早已是行业的大势所趋。
围绕AI对齐的方式论、监管施行等话题，来自北京清华学院计算机系的肖仰华院士、上海交通学院的张拳石副院长、对外经济贸易学院法大学的许可副院长、安远AI资深研究总监方亮、蚂蚁集团全面风险管理部专家王炳浩，以及腾讯优图实验室的中级研究员李珂、腾讯研究院中级研究员曹建峰，通过圆桌讨论深入交换了观点看法，从不同角度出发，分析并肯定了“AI价值对齐”对人工智能行业发展的重要意义。