人机对齐：机器内容火爆却挑战人类价值

ChatGPT 的火爆出圈，使智能内容产出成为可能。然而，我们需要审视这一现状背后的问题。比如，ChatGPT 提供的内容不完全符合人类习惯，存在误解和偏见。对中国读者来说，使用 ChatGPT 可能会得到一些奇怪的答案，这些答案背后的价值观与真实创作者不同。

智能内容产出仍然需要机器学习，但机器学习本身存在不确定性和需解决的问题。机器学习不是完全自主的学习，与人类的学习方式有本质差异，它基于大量信息和算法完成。

关键词是信息和算法，但人工智能中的信息和算法仍然受到人为操控，因为不同文化氛围和个人喜好选择不同信息和算法，导致机器学习表现形式和偏见不同。畅销书作家布莱恩·克里斯汀关注人与机械关系，关注机器学习和人类价值观的匹配问题。

他的新作《人机对齐：如何让人工智能学习人类价值观》探讨了机器学习的发展史，并与科学家们对话，提出了可行的建议。人机对齐问题实际上是人类自身的问题，我们应扮演重要角色。我们需要审视自身，以广阔的人类视野传递信息和算法给机器，才能得到无偏见的程序。这是一个艰巨的过程，但通过作者的系统性审视，我们将看到更广阔的道路。