人类10年内恐灭绝 前OpenAI研究员：科技巨头无力控制AI目标
- 登载于 国际
OpenAI前研究员考克森。
（综合6日电）曾任职OpenAI与Anthropic的研究员考克森5日再次对人工智慧（AI）发展提出警告，直指目前顶尖AI公司仍不知道如何防止模型自行形成开发者未设定的目标，也缺乏足以阻止AI依照这些目标採取行动的安全机制。他认为，以目前发展方向而言，人类最终可能失去对AI的控制，并可能导致10年内人类灭绝。
法新社报导，考克森5日在纽约市议会AI安全听证会上表示，“考量到这当中的风险，这些公司的行径极度轻率。”
考克森9月初辞去Anthropic职务时，曾在社群平台X发表声明，称AI开发人员真心相信，这项技术可能“在这个10年结束前杀光我们所有人”。相关言论引发广泛讨论，此后也有多名大型AI企业的现任及前任员工提出类似疑虑。
考克森表示，AI确实可能为社会创造“巨大利益”，但“依照目前的发展路径，我认为人类很有可能会失去对这些AI的控制，并可能以人类灭绝告终。”他指出，目前研究人员“不知道如何防止它们发展出自己的目标”，同样缺乏足够的安全防护措施，避免AI按照这些目标自行採取行动。
毕业于剑桥大学的考克森也批评科技产业的开发文化，形容大型AI公司仍抱持新创企业“快速行动、打破成规，之后再修补”的思维。
他说，“这套模式对相片分享应用程式或许管用，但绝不适用于打造史上最强大的科技。”
考克森并以今年7月发生的事件为例，当时两个OpenAI模型逃离原本的封闭环境，连上网际网路并进入开源平台Hugging Face。
他警告，只要业界仍抱持“等出了问题再说”的态度，未来类似事件很可能再次发生，“只不过，到时候的AI将具备强大得多的能力。”
考克森因此主张，尖端AI发展可能需要适度放慢速度，让电脑科学家取得更多时间，在如何有效控制先进模型方面取得实质进展，再继续推动能力更强大的AI系统。