【AI技术面临失控风险，该不该喊停？】Claude背后的Anthropic开始呼吁全球头部AI实验室建立暂停机制。一旦前沿AI风险上升，尤其是AI开始参与改进AI自己，就应该可以协同放慢，甚至暂停开发。
他们可能真正想问的问题可能是：如果顶级AI公司真的觉得前沿AI可能失控，其他公司要不要响应呢？
一家停没意义，几家都停那谁来监督？嘴上说这停，怎么证明？你停我不停，算什么？所以现在谁有资格按这个暂停键，AI已经快到连做AI的公司自己都开始紧张了。
我的观点是：AI不一定要一喊风险就全部暂停，这并不现实....
但我觉得必须要尽快出台一个红线机制，什么样的情况要限制，什么样的情况必须限制。
至少要有几条规则：
第一，模型能力达到某个危险等级，要强制第三方评估。
第二，模型如果能帮助研发更强的AI，必须披露测试结果和安全问题。
第三，AI公司不能自己说安全就上线。
第四，如果模型出现明显失控风险，要有行业共同认可的暂停机制。
口头呼吁之后能做到哪一步才是我们关心的问题。
红腾网提示：文章来自网络，不代表本站观点。
