面见英王查尔斯亲回AI夺命论 黄仁勋：产品不安全就绝不超速
- 登载于 国际
英王查尔斯召开AI峰会，黄仁勋强调产品不够安全绝不急着推出。
（综合18日电）“国民干爹”黄仁勋这回面见英王查尔斯三世！辉达执行长黄仁勋17日在英国苏格兰邓弗里斯宫出席AI峰会，与Google DeepMind、OpenAI及Anthropic等AI业界高层齐聚。查尔斯在会中警告，AI若落入错误的人手中，可能以灾难性方式被利用，甚至发展出夺走生命的能力，呼吁业界在一切为时已晚前建立足够安全机制。
查尔斯表示，人工智慧在生命科学及医疗等领域具有拯救生命的潜力，但科技发展的本质与速度同样令人振奋又忧心；他指出，近来连AI技术开发者都陆续警告，AI可能发展出更黑暗的能力，因此现在迫切需要思考相关科技若遭不当利用所带来的生存级危险。他也向与会者喊话，任务不只是推进科技，更要确保AI始终服务人类、社群与自然世界。
坐在台下的黄仁勋则强调，AI安全是至关重要的议题，企业在产品推出前必须更加严格确认安全性；若产品还没有准备好，就应该先暂缓上市、继续改进。他主张以负责任的乐观态度发展AI，意即可以追求更快的技术进步，但不能快到超出安全能力所能承受的程度。
同场出席的Google DeepMind共同创办人兼董事长德米斯．哈萨比斯、OpenAI财务长莎拉．佛莱尔、Anthropic全球事务长Tino Cuéllar及英国AI事务大臣Kanishka Narayan等人，也参与这场讨论。哈萨比斯近期曾表示，人工通用智慧可能在未来几年出现，其影响规模可能远超过过往科技变革；与此同时，AI安全议题近期因业界陆续出现模型异常行为及对失控风险的警告，再度成为国际焦点。
此次峰会并未达成具法律约束力的协议，重点在於促成AI安全与发展的共同讨论。黄仁勋过去也曾与查尔斯谈过AI安全，他在会後表示，查尔斯很早就提出负责任的乐观观念。此次英王亲自召集全球AI领袖，正值各界对AI究竟应由企业自主管理、第三方监督或政府介入仍存在分歧之际，也凸显AI快速发展下，如何兼顾创新与安全已成国际讨论的重要议题。