导演詹姆斯·卡梅隆：AGI 是一颗「定时炸弹」

卡梅隆在人工智能峰会上的致辞：拥抱变化与警惕风险

致辞背景

10 月 23 日，知名加拿大电影导演、编剧和制片人詹姆斯·卡梅隆为在华盛顿举行的 SCSP 人工智能 + 机器人峰会发表了视频致辞。作为一位在 CGI 领域有着深厚造诣的故事讲述者，卡梅隆分享了他对 AI 和机器人技术的看法。

积极拥抱 AI 技术

卡梅隆表示，他非常热爱 AI 和机器人技术，并愿意积极地将这些技术应用于未来的电影制作中。他认为，AI 技术能够极大地丰富电影的表现形式，提升观众的观影体验。

对 AI 技术的隐忧

尽管对 AI 技术充满热情，卡梅隆也表达了对 AI 和 AGI（通用人工智能）技术的隐忧。他指出，AI 缺乏情感和良知，这在军事应用中尤为危险。AI 在战场上不会对对手作出任何道德判断，这可能导致战争的“游戏化”，变成超级智能之间的对抗，而缺乏深刻的情感后果。

AGI 的未来风险

卡梅隆进一步强调，自我改进的代码编写 AGI 必然会导向超级智能，这种超级智能可能会引发文明与道德的碰撞。他担心 AGI 的发展会导致监控资本主义迅速转变为数字化极权主义，对个人自由和社会秩序构成威胁。

人道主义视角

站在反战和人道主义的高度，卡梅隆批判了“地域性的伪道德”。他认为，关键在于如何赋予 AI 系统适当的道德约束，制定全球统一的道德标准。卡梅隆认为，AGI 是“我们的一面镜子”，反映了人类社会的善恶好坏。由于人类世界中邪恶的存在和对正义的缺乏共识，他对 AGI 技术的发展持谨慎乐观的态度。

主要观点总结

- AI 没有情感和良知：在战场上不对对手作任何道德判断。

- AI 引发战争“游戏化”：变成超级智能之间的对抗，缺乏深刻的情感后果。

- 自我改进的代码导向超级智能：必然导致超级智能的出现。

- AGI 导致文明与道德碰撞：可能引发新的社会冲突。

- AGI 促进监控资本主义：可能迅速转变为数字化极权主义。

- AGI 是人类世界的镜子：反映了人类社会的正负两面。

通过这次致辞，卡梅隆不仅展示了他对 AI 技术的积极态度，也提醒人们关注其潜在的风险，呼吁全球共同制定合理的道德标准，以确保 AI 技术的健康发展。