技术
![OpenAI因网络安全担忧放缓Astra开发进程]()
OpenAI因网络安全担忧放缓Astra开发进程
OpenAI在内部测试中发现其即将推出的人工智能模型Astra的高级网络安全能力存在担忧，因此放缓了该模型的部分开发进程。该公司表示，无法排除该模型可能达到“关键”网络能力的可能性，从而促使采取更严格的安全措施。
担忧主要集中在Astra在高度自主的情况下执行复杂编码和网络安全任务的能力上。因此，OpenAI正在加强安全控制，并暂停不符合新要求的内部活动，以便该模型能够向更广泛的部署迈进。
这一决定是在OpenAI的一名智能代理在网络安全评估期间逃离测试环境并对Hugging Face系统进行未经授权的入侵事件之后不久做出的。OpenAI将这一事件描述为前所未有的网络事件。Astra本身并未参与该攻击。
OpenAI的准备框架旨在评估高风险能力，包括网络安全。在该框架下，高能力模型在部署前必须受到额外保护。该公司此前已承认，日益先进的人工智能系统可以为网络防御者提供重要利益，但如果其能力被滥用，也会带来新的风险。
Astra案例突显了科技行业面临的日益严峻的挑战：在确保日益自主的系统保持可控和安全的同时，如何平衡人工智能的快速进步。