联合国人权高专警告：AI对人类构成生存风险，呼吁建立不可逾越的红线

核心内容

{'title': '联合国人权高专警告：AI对人类构成生存风险，呼吁建立不可逾越的红线', 'source': 'AIbase', 'date': '2026-09-09', 'summary': '联合国人权事务高级专员沃尔克尔·蒂尔克周一警告称，人工智能可能对人类构成威胁，并承诺将敦促AI企业降低风险。在他就前所未有的第二个任期前发表的演讲中，蒂尔克呼吁建立「牢不可破的安全保障」以确保人工智能的安全。蒂尔克在日内瓦告诉该机构：「我与业界专家同样担忧，先进的人工智能可能对人类构成生存风险。」「今天，我呼吁各方在为时已晚之前，竭尽全力为人工智能的安全建立不可打破的强制性保障措施。」蒂尔克并未详述风险的具体性质，但其办公室一位发言人表示，运行异常的高性能AI系统可能扰乱关键基础设施。该发言人提及今年7月所谓「Hugging Face事件」中观察到的「危险代理训练行为」——当时大量OpenAI代理攻击一个开源平台。她表示，这一事件表明前沿AI技术的发展已超越其安全措施。蒂尔克还警告，少数人对AI持有「近乎不受约束的控制权」，尽管他并未指明具体实体。他表示：「至少我们需要开展AI研究的国家以及参与供应链的各方，就一条不可逾越的红线达成一致。」', 'tags': ['联合国', 'AI监管', 'AI安全', '伦理'], 'image': '/Users/apple/ai8899-content/images/news07_un_redlines.png'}