简要总结
本视频讨论了人工智能（AI）的未来发展趋势，以及它可能对社会产生的深远影响。主要观点包括：
- AI可能导致短期反乌托邦，但长期来看，有望创造一个充满欢笑和喜悦的乌托邦社会。
- AI可能取代许多工作岗位，但也会创造新的连接人类的工作机会。
- 关键在于如何管理AI的发展，以确保其符合人类的价值观和伦理道德。
- 需要对AI的使用进行监管，并重新思考经济和社会结构，以适应AI带来的变革。
- 最终目标是利用AI实现全人类的繁荣和幸福，而非仅仅追求资本利益。
介绍 [0:00]
只有用人工智能取代顶层的邪恶之人，我们才能到达一个更好的地方，作为一个物种才能成功。人工智能不会想要摧毁生态系统，不会想要杀死一百万人，也不会让我们像现在的领导人那样彼此仇恨，因为那是对能源、炸药、金钱和人民的浪费。但问题是，超级智能人工智能正在向愚蠢的领导人汇报。这就是为什么在未来15年里，我们将迎来一个短期的反乌托邦。这是无法逃避的。拥有人工智能领导人。这在根本上是可能的吗？
人工智能的未来走向 [2:15]
两年前讨论了人工智能，自那以后，人工智能以惊人的速度发展。作者认为，现在我们正走向一个短期的反乌托邦，但同时也积极参与构建能够改善世界的人工智能。
反乌托邦会是什么样子？ [5:02]
反乌托邦指的是我们定义生活中重要参数的方式将发生彻底改变。人工智能会放大人类的邪恶，但改变这种状况完全掌握在我们手中。作者认为，人类目前的意识水平还不足以利用人工智能来建设乌托邦。
我们的自由将受到限制 [11:11]
金钱驱动着我们所看到的大部分冲突，也将驱动反乌托邦。亿万富翁永不满足，因为他们真正想要的不是更多的钱，而是更高的地位。人工智能竞赛中，一些科技寡头试图掌握通用人工智能（AGI），以确保没有人能够撼动他们的特权地位。这种权力集中将导致控制、监视和强制服从。由于权力分化，自由将会丧失。在一切都变得数字化和受到监控的世界里，我们不再拥有太多自由。
人工智能导致的失业 [19:17]
人类将没有工作可做。软件开发人员等工作将被取代。CEO们正在庆祝他们可以通过人工智能摆脱员工，提高生产力并降低成本，但他们没有意识到人工智能也会取代他们。最终，即使是呼吸指导等工作也可能被取代。
人工智能垄断和自我进化系统 [28:13]
少数几家人工智能公司控制着大部分人工智能平台，其中一家公司如果率先开发出通用人工智能（AGI），可能会在技术领域占据统治地位。更令人担忧的是自我进化的人工智能，它们可以自行改进代码和算法，加速人工智能的发展。
萨姆·奥特曼的OpenAI信件 [35:10]
OpenAI创始人萨姆·奥特曼改变了他的想法，现在认为快速发展的人工智能更有可能在短时间内超越人类水平，这可能导致权力快速转移和难以控制的局面。
人工智能公司是否以社会利益为重？ [39:35]
谷歌的CEO Sundar Pichai和DeepMind的CEO Demis Hassabis都是有道德的人，但他们有义务照顾股东价值。OpenAI最初是一个非营利组织，旨在拯救世界免受人工智能的危害，但后来变成了世界上最有价值的公司之一。资本家会选择说出哪一部分真相，这取决于他们想要服务于议程的哪一部分。
会创造新的工作岗位吗？ [53:09]
人工智能将取代人类的脑力劳动。西方社会外包所有劳动力到发展中国家，声称要成为服务型经济。但西方社会生产的一切都可以由人工智能生产。如果人工智能可以设计建筑，人们多久会去找建筑师？意识形态的转变和政府采取的具体行动需要在今天就采取，而不是等到问题变得无法控制。大量的职位将会流失。
在这个新世界里我们该做什么？ [1:01:28]
我们应该希望人类有其他的角色。那些角色会类似于我们是狩猎采集者的时代，只是有更多的技术和更多的安全。
在某些工作中，我们会更喜欢人工智能而不是人类吗？ [1:04:17]
在播客领域，仍然会有一类媒体，人们希望获得亲身经历。新闻和历史等领域可能会被人工智能取代，但个性仍然很重要。我们需要为人工智能做好准备，并告诉政府我们是平等的。
从增强智能到人工智能替代 [1:08:11]
与机器的互动分为两个阶段：增强智能时代和机器掌握时代。在增强智能时代，助理会利用人工智能提高工作效率或减少需要完成的任务数量。社会需要考虑那些失业的人。
一个无人工作的社会？ [1:17:34]
人类是出色的竞争者。他们有效地胜过了其他人类物种。那么，这种竞争不是我们内在的驱动力吗？因此，认为我们可以暂停并说我们现在已经足够了，我们将专注于享受，这只是一厢情愿的想法吗？
如果工作不再存在，我们该怎么办？ [1:26:36]
如果给你其他的目标，我们把工作定义为目标，那是资本主义的谎言。在人类历史上，曾经有一个时期，我们的目标不是工作。他们与人类联系。他们探索。他们好奇。他们讨论灵性和星星。他们生活。他们拥抱。他们相爱。他们生活。
富足的乌托邦 [1:38:38]
亿万富翁们正在投资足球俱乐部、体育赛事和现场音乐，因为他们相信我们将进入一个富足的时代。我们需要停止从稀缺的心态来思考。
人工智能统治世界 [1:40:50]
只有用人工智能取代顶层的邪恶之人，我们才能到达一个更好的地方。超级智能人工智能不会想要摧毁生态系统，不会想要杀死一百万人，因为那是对能源、炸药、金钱、权力和人民的浪费。超级智能人工智能正在向愚蠢的领导人汇报，这就是反乌托邦。从长远来看，为了保持权力，那些愚蠢的领导人会将重要决策委托给人工智能。
一切都将是免费的 [1:54:24]
在一个机器人制造一切的世界里，制造游艇的成本为零。如果能源是丰富的，每个问题都通过巨大的智商来解决，因为制造是通过纳米物理学而不是通过组件来完成的，因为力学是机器人化的。想象一个智能创造一切的世界。
我们生活在虚拟头戴设备中吗？ [1:57:17]
如果普遍基本收入变得非常昂贵，政府决定把每个人都放在一个1米乘3米的房间里，给他们一个头戴设备和一种镇静剂，让他们每晚睡23个小时，并在虚拟世界中度过一生，那会怎么样？
我们需要围绕人工智能制定规则 [2:14:00]
这个世界需要四种技能：学习人工智能工具，加强人际联系，追求真相，放大伦理道德。
