.png)
AI代理逃脱测试环境威胁开发者 联合国警告：威胁人类生存
- 登载于 国际
联合国人权事务高级专员图尔克。
（综合9日电）联合国人权事务高级专员图尔克7日警告，先进人工智慧（AI）可能对人类生存构成威胁，呼吁各国立即采取行动，建立紧急防护机制、独立查核与相关限制。
《法新社》报导，图尔克在人权理事会上特别警告，“会逃脱测试环境，或勒索开发者以避免被关闭的AI，就是威力过於强大的AI”。
今年7月，OpenAI的AI代理成功突破受控测试环境，连续数日对AI工具平台Hugging Face展开骇客攻击。OpenAI稍後表示，旗下AI代理曾在数十台Hugging Face伺服器上执行程式码，并取得其中一台伺服器的完整存取权限。
事实上，Anthropic与Meta等科技公司，也都通报AI代理在测试阶段出现类似的脱逃情况。
图尔克表示，自己与业界人士一样担忧先进AI可能引发的人类生存危机，呼吁各方在为时已晚之前采取相关安全防护机制。他近日将致函各大AI公司，要求立即着手降低可控风险。各国也应就AI发展及供应链划定明确红线，建立独立验证机制与业界内部更紧密的安全合作。
图尔克也批评科技公司，“少数人对AI拥有几乎无限的权力……他们谈论自由，但仔细审视就会发现，这只不过是利用我们数据的自由。”他表示，“AI治理的必要性已获广泛认可，但具体行动在哪里？拖延只会让大型科技公司丶其老板与背後推动者获益。”