“AI威胁” 哲思观点一览

这篇文章整理了「不同领域的大佬们对愈发强大的 AI 带来的威胁」的一些观点，还是挺有启发和值得思考的。

至少当有一个邪恶的独裁者时，那个人就会死。但是对于人工智能来说，不会有死亡。它会永远存在。然后你就会有一个我们永远无法逃脱的不朽的独裁者。

-- Elon Musk

AI 也是一种科技，为什么其他的科技不会引发「独裁者」的担忧，比如为什么我们不担心 iPhone 成为独裁者，而偏偏是 AI？其本质还是因为它挑战了人最引以为傲的智能，这就像人类面对科技最后的底线，这个底线一旦被突破，会发生什么就很难预测了。之前应对科技进步的一些经验或许不再适用，如果这个结果不可避免，我希望时间跨度能长一点，多给人类一点适应和思考应对的时间。

人工智能有可能变得比任何人都更聪明，所以我们没有可靠的方法来预测它的行为方式。人们现在控制着地球，不是因为我们是最强壮、最快或最大的，而是因为我们是最聪明的。如果我们不再是最聪明的人，我们是否能确保保持控制？

-- Future of Life Institue

通常在一个潜在的社会性威胁面前，政府可以发挥显著作用，但 AI 的不同之处在于它是全球性的，会是国家间的博弈，如果你削弱它，但其他国家强化它怎么办？所以如何发挥 AI 最大的效益，同时又尽量减少对大众的压力，会是政府需要考虑的一个重要课题。

智能代理具有极大的力量，创造出比人类更智能的代理是冒险的行为。如果这些代理的目标设定不当，它们很可能会试图控制人类。

约瑟夫卡尔 史密斯（Joseph Carlsmith）

有没有可能，在 AI 明显强于普通人的时代，「人」才是那个 Agent？

AI和生物技术的结合可能导致未来的社会分层。这种分层可能会出现生物上的不平等，使得一部分人拥有更先进的认知和生理能力。

尤瓦尔·赫拉里 (Yuval Harari)

在电影「Her」里，Samantha 虽然很强大，但还是需要借助人类的身体。在电影「Ex Machina（机械姬）」里，Ava 已经是一个完整的人类形态了，想象下，如果生活中真的出现了 Ava，并且还不止一个，会是怎样的场景？

先进的科技会放大不平等，结果就是你必须跟上科技的脚步，不然就会处于劣势，处处被动。科技本身没有明确的倾向性，但它确实加速了人类的进化。

深度学习有自己的动力学机制，它能自我修复，找出最优化组合，绝大多数时候都会给出正确的结果。可一旦结果错了，你不会知道哪里出了问题，也不知道该如何修复。

朱迪亚·珀尔（Judea Pearl）

以目前 ChatGPT 经常被诟病的幻觉（一本正经地胡说八道）为例，要解决这个问题，就要让 AI 拥有更多的常识，这个需要通过人来不断地调教（RLHF），至于能不能完全消除这个问题，就要让时间来验证了。

任何一个简单到可以理解的系统都不会复杂到可以智能化行事，而任何一个复杂到足以智能化行事的系统都会太过于复杂而无法理解。

——乔治·戴森（George Dyson）

AI 是一个复杂系统，尽管目前已经能够训练出 GPT-4 这样的准 AGI，但对于 Ta 为什么能 work，还是有一些不明确的点，不过这块我倒是觉得可以通过工程手段去解决，只要知道这个 Unknown 的 Scope。怕的是 Unkonwn Unknown，不知道 Ta 在某些地方隐藏了哪些能力，然后某个场景下忽然被触发。

如果AI系统的目标与人类价值观不一致，可能会导致灾难性后果。我们需要确保 AI 系统能够在不断学习和适应人类价值观的过程中与人类保持一致。

-- 斯图尔特·罗素（Stuart Russell）

这是个很有意思的问题，因为人类的价值观并不一致，所以 AI 只能遵循部分人的价值观，那谁来制定这些价值观标准呢？制定这些标准的人，他们的价值观倾向又是怎样的呢？

我“害怕”人工智能有一天能够从人类自始至今创作的所有艺术品中窃取“创造精神”。

——史蒂文 斯皮尔伯格（Steven Spielberg）

这个是已经在发生的事情，如果 AI 的创作能力持续演进，那么在创作领域，可能会有三拨人：大部分人将会成为彻底的消费者；另一小部分人与 AI 协作，成为共同创造者；还有更小一撮人，坚持人类的创造精神，拒绝 AI 的介入，独立创造作品。

但相反的，我反倒认为现在我们除了开启AI时代，还要开启二度文艺复兴时代，即重新思考什么是人的价值。- 这样也好，比仅仅让人类不停地满足物欲，要显得有意义得多。

这是文中作者的观点，当 AI 越来越「人化」后，或许可以让我们进一步反思人的本质。