警告AI对人权构成空前威胁 联合国专员：应立即采防护措施
- 登载于 国际
联合国人权事务高级专员图克警告，AI发展可能对人类构成生存威胁，呼吁各国与AI业者立即设下安全红线、降低风险。
（综合8日电）联合国人权事务高级专员图克今天警告，人工智慧（AI）可能对人类构成生存威胁，当前人类正面临自身权利遭到陌生、甚至空前威胁，他要求立即采取行动减少这类风险。
法新社报导，图克对联合国人权理事会表示，“我们一再被告知，AI的运算能力不可想像”，但对於这项科技，“却只有少数人握有几乎无限的权力”。
他指出，除了有必要考量AI对就业、民主基本原则及环境带来的人权影响，更值得注意的是，AI若会“逃离测试环境，或勒索开发人员不让自己被关闭，这样的AI就过於强大”。
图克似乎指向7月美国聊天机器人ChatGPT开发商OpenAI遭披露，其AI代理曾逃离本应受控环境、闯入程式设计师分享AI软体热门平台Hugging Face的伺服器。
这起事件震撼科技界，也引发加强AI监管的呼声再起。包括Anthropic、Meta和其他公司都曾通报在测试其AI代理时发生类似状况。
图克表示：“我和业内人士一样，担忧先进AI可能对人类带来生存威胁。我今天在此呼吁，为了AI的安全与保障，应竭尽全力设下坚不可摧的确保措施，以免为时已晚。”
他说，他将在未来几天致函AI公司，“敦促他们在其掌控范围内采取步骤，来立即降低风险”。此外，有必要至少让设有AI及拥有AI供应链企业的国家，团结支持各方同意的红线。