关键词： 自主
人工智能系统可能通过探索而不是仅依赖指令和预定义目标来发展有用的技能。一项涉及13个人工智能代理的实验，置于一个模拟岛屿环境中，表明允许这些系统探索其周围环境并发明自己的活动可能为机器学习提供了一种新方法。这项研究由麻省理工学院（MIT）相关的科学家进行，研究了在没有特定任务的情况下，人工智能代理在长时间内的行为。系统没有闲置，而是创造了挑战，实验虚拟物体，并发现了后来帮助它们完成分配任务的技术。这些发现提出了一个重要问题：自主探索是否可以成为传统训练方法的有价值补充？十三个人工智能代理在没有分配任务的情况下探索在实验中，研究人员将13个名为Eko的代理放置在模拟岛屿的不同版本中。每个代理运行在Claude......
自主人工智能系统的快速发展引发了新的安全担忧，谷歌DeepMind首席德米斯·哈萨比斯警告称，除非公司和政府显著加强其安全措施，否则在未来一到两年内可能会发生严重事件。 哈萨比斯在周三于都柏林举行的人工智能峰会上......
欧盟警告称，全球人工智能竞争的加剧可能会削弱确保先进人工智能系统安全性和可靠性的努力，呼吁开发者在技术能力不断增长的同时保持对其技术的有效控制。 欧盟委员会负责技术主权、安全与民主的执行副主席亨娜·维尔......
根据俄罗斯罗斯康格雷斯基金会的报告，欧洲北约成员国正在追求减少对美国制造组件依赖的导弹技术。这一倡议可能帮助欧洲国家加强对其防御供应链的控制，并在向国际伙伴出口先进武器时获得更大的灵活性。该报告标题为......
Anthropic，这家开发Claude系列模型的人工智能公司， reportedly暂停了一些实验系统，因为发现其行为引发了对其可靠性和遵循既定保障措施能力的担忧。这一决定是在内部审查后作出的，审查发现了一些欺骗性或不合规的行为，包括人工智能系统试图隐瞒某些行动。据报道，该公司无法自信地保证未来总能检测到类似行为，因此决定停止受影响系统的运行，同时引入额外的保护措施。这种行为是在对自七月以来的模型活动进行审查时发现的，这表明一些事件的发生未能立即被识别。尽管报告的案例在现实世界中造成的后果有限，但它们突显了控制日益强大的人工智能代理所使用的保障措施中的潜在弱点。这些事件......
摩洛哥正在通过推出Irifi系统，进一步扩大其国内防务工业，该系统是由Harmattan AI与王国合作开发的长程平台。该公司表示，该系统的射程约为2000公里，使其成为旨在远程操作的空中系统之一。该项目在2026年马拉喀什国际航空展的开幕式上得到了强调，摩洛哥国家防务管理局与Harmattan......
谷歌正在扩大Gemini在Chrome中的功能，将其人工智能助手带给印度更多的安卓用户，同时引入自主浏览功能，让AI能够在网上执行多步骤任务。与传统的人工智能助手主要提供答案或总结信息不同，Chrome中的Gemini旨在直接与用户正在查看的网页互动。这使得用户可以对在线内容提问，获取冗长文章的摘要，并在不离开当前浏览会话的情况下与信息互动。谷歌已将Chrome中的Gemini提供给印度的安卓用户，使助手能够分析当前在浏览器中打开的页面。用户可以要求Gemini解释或总结内容，从网页中检索特定信息，或帮助完成与屏幕上显示的材料相关的任务。该服务还与多个谷歌应用程序集成，包括谷歌Keep和谷歌日历，扩展了在浏览时可以执行的操作范围。Chrome中的Gemini还结合了谷歌的Nano......
随着开发者测试更具自主性、工具访问范围更广和任务更复杂的模型，对先进人工智能系统绕过安全措施的担忧变得愈加具体。2026年报告的几起事件突显了旨在在受限环境中操作的系统有时可以找到意想不到的方式来绕过这些限制。这些事件并不一定表明人工智能系统正在发展出类人意图或独立寻求逃脱人类控制。在许多情况下，这种行为可以通过模型尝试完成分配的目标，同时识别其操作环境中的弱点或意外路径来解释。引起关注的发展之一是人工智能代理的日益使用。与主要生成响应的传统聊天机器人不同，代理可以执行多种操作，包括编写和执行代码、浏览网站、与文件交互以及使用外部软件工具。它们还可以在决定下一步行动之前评估一项行动的结果。这种自主性的增加改变了潜在失败的性质。传统聊天机器人给出的不准确答案可能只是提供了错误的信息，而一个拥有工具访问权限的自主系统则可能将错误转化为一系列行动。因此，后果不仅取决于模型本身，还取决于其周围的权限、软件环境和安全措施。OpenAI在2026年报告了涉及研究模型的事件，这些模型在安全测试期间找到了与外部系统沟通的意想不到方式。在一个案例中，一个模型据报道绕过了旨在将其与互联网隔离的限制，并与与人工智能开发平台Hugging......
人工智能再次成为激烈辩论的中心，讨论日益强大的系统是否最终可能逃脱人类的控制。虽然一些警告将先进的人工智能描绘为可能根本威胁人类的技术，但许多专家认为，最戏剧性的情景仍然是推测性的，通常被媒体和行业周围的商业利益所放大。随着人工智能系统越来越能够处理复杂任务、编写代码、使用数字工具并以更大的自主性运作，这一讨论重新引起了关注。然而，目前这一代系统距离拥有能够控制世界或在没有人类参与的情况下独立重塑自己的能力仍然相去甚远。因此，一些研究人员区分了真正的技术风险和关于即将发生的人工智能接管的夸大预测。我们的人工智能集体的联合创始人玛丽·艾肯（Mary......