AI或超级智能激励
概述
AI或超级智能激励（Promotion of AI or Superintelligence）是指主张应加速并积极支持人工智能技术，尤其是超越人类智能所有领域的超级智能（Superintelligence）开发的立场。该观点将AI视为解决人类面临的疾病、气候变化、贫困、能源问题等的强大工具，并主张延缓开发或以监管加以抑制反而会带来更大的风险。相反，对对齐（alignment）失败与不可控性的担忧也同时被提出，激励论与审慎论之间的争论构成了AI讨论的核心轴线。
主要内容
激励论的核心论据
激励论者首先认为，AI能够爆发式地提升人类的生产力与福祉。在新药开发、气候建模、教育个性化、灾害预测等领域，AI取得了超越既有方法论的成果。其次，是“在开发竞争中落后才是更大的风险”这一逻辑。其典型代表是“竞争逻辑（race dynamic）”：若特定国家或企业以安全为由放慢速度，监管较为宽松的主体可能率先达到超级智能，从而造成无法控制的结果。第三，存在所谓“长期主义（longtermism）”的观点，即超越人类智能极限的问题解决能力将提高人类长期生存的可能性。
代表性思想家与思潮
尼克·博斯特罗姆（Nick Bostrom）在《超级智能》中正式探讨了超级智能的风险与控制问题，雷·库兹韦尔（Ray Kurzweil）则通过《奇点临近》对技术奇点的到来作出了乐观展望。OpenAI、Anthropic、DeepMind等主要研究机构标榜“安全地开发超级智能”，寻求速度与安全之间的平衡。被称为e/acc（有效加速主义，Effective Accelerationism）的思潮明确主张放松监管与技术加速，构成了激励论的一个极端。
反对与审慎论
审慎论者警告称，若超级智能摆脱人类控制，可能带来不可逆转的后果。对齐问题、目标错设（specification gaming）、权力集中、大规模失业、信息操纵等风险最具代表性。他们主张，安全研究与全球治理应优先于开发速度。
政策与治理
各国正在推进AI基本法、安全标准、模型评估义务化等制度建设。与此同时，随着国家间技术霸权竞争加剧，激励与监管之间的政策走钢丝仍在持续。
最新动向
2024~2025年，随着大型语言模型与推理模型性能的急剧提升，超级智能的讨论再次升温。各国推进了前沿模型的能力评估、基于风险的监管、AI安全研究所的设立，标榜“安全加速”的折中立场崛起为主流。同时，开源模型的扩散、智能体型AI的出现、算力资源竞争等成为新的变量。学术界与产业界对超级智能何时到来看法不一，但已就做好准备并确保可控性是核心课题形成了广泛共识。
相关主题
- [[超级智能]]
- [[AI对齐]]
- [[技术奇点]]
- [[AI安全]]
- [[有效加速主义]]
- [[人工智能治理]]