刘慈欣：算力不足导致 AI 难以自我迭代暴力推翻人类，但我们反而可能会醉生梦死

CTOnews.com 6 月 25 日消息，刘慈欣最近在联合国中文日上进行了《科幻文学中的可持续未来》的演讲，阐述了对于"以 ChatGPT 为代表的人工智能会给人们带来的影响"话题的看法，并回答了人工智能是否会消灭人类的问题。

CTOnews.com整理刘慈欣在演讲中的要点如下：

• 人工智能会首先取代高大上的职业；

• 人类的算力限制了人工智能自我迭代的能力；

• 人工智能或许会让人类陷入舒适的陷阱之中。

刘慈欣表示，人工智能可以代替相当多的工作，但首先取代的是一般社会普遍认定的"高大上"的行业，与业界分析预测正好相反。

刘慈欣认为，这主要是因为简单劳动的行业，强调成本与精准性，当下人工智能实际无法满足资本市场的稳定要求。

因此"教师、作家、开发者、股票经纪人"这类被一般社会普遍认为"高大上"但是实际上"沉没成本相对更低、人力部署成本高昂"的工作反而会被首先代替。

而在面对"人工智能是否会追踪会消灭人类"这一问题时，刘慈欣从暴力与非暴力的层面进行了解答，即"由于人类算力不足，人工智能难以进行自我迭代，并最终物理上使用暴力统治世界"，但"人类可能在未来过度沉浸于人工智能提供的服务中，最终醉生梦死"。