"机器学习与人类价值观：实现人机对齐"

代表安远AI参与了这次审校，同时也阅读了英文原版和中文版，对假设批判部分有了新的收获。

人机对齐问题已成为人类社会最重要、最紧迫的问题之一，在机器学习系统的目标是否真正与人类设计意图相吻合方面存在着深层次的挑战。

本书作者Brian Christian采访了众多科学家，深入探讨了人机对齐领域的幕后故事，呈现了神经科学、行为主义心理学、工程学、信息论、数学等领域与机器学习相互交织的复杂关系。

书中涉及了模型的力量和失败方式，以及解决对齐问题的努力。尽管机器学习表面看来是一个技术问题，但它越来越多地涉及到人类问题。社会难题正在变得技术化，而技术难题正在变得社会化。探究这些系统“以我们想要的方式行事”成功和失败的过程，为我们审视自我提供了一面真实、启示性的镜子。

尽管对人机对齐问题感到担忧，但也不必悲观。随着对AI伦理和治理的关注不断增加，AI安全研究的认知和人才也在增加。我们需要不同思想和足够的研究员来解决人机对齐问题这一挑战，并降低AI的潜在风险。因此，领域建设是优先事项之一，这也是安远AI一直以来所提倡的。

最后，我们推荐安远AI连载的人机对齐概述(AIAlignmentOverview)希望能帮助大家更好地理解人工智能的潜在风险预判和人机对齐的技术研究议程。

飞书版链接：https://x9p6qmwq0n.feishu.cn/docx/BWRWdMi5Jo6VCqx3eqtcFw5Tnpc