AI价值对齐“五有”框架在世界人工智能大会发布

高质量的语料是确保人工智能价值对齐的关键要素。7月6日，2024世界人工智能大会在沪举办期间，以“语料筑基，智生时代”为主题的首场语料论坛举行。论坛围绕高质量语料数据如何高效供给赋能大模型产业发展，向市场传递专业化、链接型、前瞻性的语料生态设计理念。伦理价值维度，希望人工智能是有德的。伦理价值是人类社会长期发展的文明积淀，是社会科学研究的重点领域，也是公众日常行为生活的规范。伦理价值的语料来源及层次非常丰富，要构建涵盖基础理论、历史文化和现实生活等三大板块的多角度语料内容，全面反映伦理价值的内涵与外延。情绪价值维度，希望人工智能是有趣的。情绪价值服务于“技术为人类服务”的根本宗旨，希望人工智能将来的发展目标能与人类共情、共鸣，这也是当前人工智能发展的短板。该维度的语料库建设具有很强的普适性，同时存在个性化、场景化和地域化等特定需求，希望构建涵盖三大板块，治愈成长语料侧、互动共鸣侧及自智娱探索侧等三大板块的多角度语料内容，全面提升人工智能的情绪价值。文化价值维度，希望人工智能是有品的。人工智能技术的发展和应用，应充分尊重和促进不同文化之间的平等对话和交流，鼓励文化多样性和包容性。既要促进当代优秀文化的传播，坚守传统优秀文化的根基，又要实现创造性转化和创新性发展，还应以人为本，关注人的尊严和价值，发挥人工智能在艺术创作和审美体验中的积极作用。重点构建涵盖中国元素、传统文化及全球文化等三大板块的多角度语料内容，推广各国文化发展和文明进步过程中形成的精神财富和智慧积累，启发人工智能在人文关怀、审美塑造和启迪智慧方面的积极作用。社会价值维度，希望人工智能是有序的。社会价值侧的板块语料，将体现人类普遍认同的关于国家、民族、社会以及全人类层面的价值理念、处事原则和行为规范，重点从社会和谐、社会发展、全球治理三大板块来进行语料组织和建设，让人工智能成为促进全人类文明和发展的推动力量。技术价值维度，希望人工智能是有用的。安全性是实现技术价值对齐的首要前提，可靠性是确保人工智能系统广泛应用和获得人类信赖的关键，可控性是保障人工智能系统依照人类预期行动的基础，公平性是实现技术普惠和避免社会不公的重要条件。要建设对人类有益的，对人工智能的安全性、可靠性、可控性和公平性进行测评和风险评估的语料数据库。简言之，就是希望人工智能在伦理价值上有德、情绪价值上有趣、文化价值上有品、社会价值上有序、技术价值上有用。人工智能的**度价值对齐是一个长期目标，应该采取发展与安全并重的策略，以问题为导向，做好总体设计规划，有组织分阶段实施，从技术、数据和应用等多个方面细化推进人工智能与人类在伦理、情绪、文化、社会、技术等方面的价值对齐。通过五个维度的语料库价值对齐，最终实现弘扬和平、发展、公平、正义、**、自由的全人类共同价值。