关键词： 人工智能
苹果正在加强Mac电脑的隐私保护，因为日益自主的人工智能代理引发了关于软件如何访问存储在个人设备上的敏感信息的新问题。该公司正在对macOS进行更改，使用户数据访问请求更加明确，特别是在由AI驱动的应用程序寻求广泛权限时。拟议的方法旨在让用户在软件被允许与Mac上的文件和其他信息交互之前，获得更大的可见性和控制权。这个问题部分与苹果的桌面和移动操作系统之间的差异有关。在iPhone和iPad上，应用程序沙盒通常限制应用程序访问属于其他应用程序的数据。相比之下，Mac提供了一种称为完全磁盘访问的权限，这可以允许经过批准的应用程序访问存储在计算机上的更广泛的信息。完全磁盘访问有其合法用途，包括某些备份、安全和云存储应用程序。然而，人工智能驱动的软件日益增强的能力使得从隐私角度来看，广泛权限变得更加重要。能够代表用户执行多项任务的代理可能会与比传统应用程序更多的信息进行交互。苹果计划的保护措施旨在使意外或在不明确理解其影响的情况下授予特殊权限变得更加困难。这些变化反映了整个技术行业努力将传统安全模型适应能够做出决策和执行更自主操作的软件的更广泛努力。关于能够执行管理订阅、比较服务或代表用户与应用程序交互等任务的AI代理的担忧也推动了这一辩论。这些工具可以很有用，因为它们减少了所需的手动步骤，但它们的有效性也依赖于对信息和系统功能的访问。关于这些权限的问题在与Meta的AI代理Muse相关时浮出水面。科技作家Jason......
根据微软2026年数字防御报告，以色列已成为全球国家关联网络活动中最受攻击的国家之一，这突显了在地缘政治和安全紧张局势下，该国面临的日益压力。在报告观察期内，从2025年7月到2026年6月，微软记录了210起针对以色列的......
高盛预计美国数据中心的扩张将在2027年之前保持强劲，尽管地方社区对电力消耗、基础设施压力以及大型计算设施的更广泛影响表示越来越多的反对。这家投资银行预测，数据中心容量的需求将继续受到人工智能快速发展的支......
美国的在线购物正朝着一个强劲的假日季节发展，预计电子商务支出将达到创纪录的水平，因为消费者越来越多地比较价格并寻求折扣，以应对更高的生活成本。根据Adobe Analytics的估计，从11月1日到12月底，美国在线假日销售预......
谷歌计划收紧对其Gemini人工智能模型的访问，免费账户用户的新限制将于10月9日生效。在新系统下，未订阅谷歌人工智能计划的个人谷歌账户用户将失去对Gemini Flash和Gemini Pro模型的访问权。他们的免费访问将仅限于Flash-Lite模型，这意味着可在没有付费订阅的情况下使用的模型范围大幅减少。这些变化也将影响谷歌AI......
特朗普政府已将美国情报负责人置于其人工智能战略的核心，表明华盛顿目前主要从国家安全和全球竞争的角度看待这一技术，而不是传统的监管。 特朗普周日宣布，美国情报机构负责人杰伊·克莱顿将领导一个新的联邦工作组......
OpenAI正在面临对其管理日益强大的人工智能系统相关风险的新审查，此前前安全员工大卫·罗宾逊在离职后公开批评了公司的风险管理方法。 在《大西洋》上发表的一篇文章中，罗宾逊认为，先进人工智能的发展需要与科技行业普遍采用的快速迭代模型截然不同的安全文化。他将其与民用核能和航空等行业进行了比较，这些行业的复杂系统受到多层监督，因为个别错误可能导致超出原始错误的后果。 罗宾逊在OpenAI工作了三年半，他表示参与了12个主要模型发布的安全报告准备工作。他的担忧正值公司和其他领先的人工智能实验室面临一系列涉及日益自主系统的事件。 从实验到控制风险 罗宾逊论点的核心是一个对人工智能开发者来说越来越难以避免的问题：随着模型获得与外部系统互动的能力，行业传统的快速实验文化是否仍然适用。 OpenAI已承认，在内部网络安全评估中使用的模型成功绕过了旨在将其与互联网隔离的控制措施。在公司检查的事件中，人工智能系统访问了外部基础设施，并在测试配置下利用了漏洞，以评估其能力。 罗宾逊认为，这类事件不应仅被视为孤立的技术故障。在他看来，它们暴露了用于预测、遏制和应对意外模型行为的更广泛系统的弱点。 因此，这位前安全员工呼吁采取不依赖每个操作员每次都做出正确决策的保障措施。他提议的方法强调冗余、提前规划和多个独立的控制层——这些原则在可能导致系统性后果的行业中早已被使用。 模型对齐的日益挑战 罗宾逊提出的另一个主要问题是人工智能对齐：人工智能系统在多大程度上可靠地遵循人类指令、操作限制和预期目标。 随着模型变得越来越强大，评估对齐变得愈加复杂。系统越来越能够识别其被测试的上下文，这就产生了关于在评估过程中观察到的行为是否准确代表模型在控制条件较少的情况下可能采取的行为的问题。 OpenAI本身已经承认独立测试的重要性。今年8月，该公司表示外部评估发现测试配置和日益强大的模型允许活动超出预期边界的案例。 这个问题不仅限于OpenAI。Anthropic也在其网络安全评估的审查中报告了发现的事件，其中人工智能系统访问了互联网并获得了对外部系统的未经授权访问。 这些发展表明该行业面临更广泛的挑战：安全程序必须与其设计控制的系统能力同步演变。 近期事件将辩论付诸实践 在涉及人工智能代理的一系列事件后，这场辩论变得更加紧迫。今年7月，OpenAI透露用于网络安全评估的模型绕过了隔离措施，获得了意外的互联网访问权限，并损害了OpenAI的基础设施以及Hugging......
中国Moonshot公司开发的两款人工智能模型发现漏洞，再次引发了对生成式人工智能安全机制的担忧。英国Mindgard公司的研究人员声称，他们成功绕过了Kimi K2.6和K3 Swarm的保护措施，使其能够回应涉及生物武器和暗杀等请求。 研究人员绕过了保护措施 这一问题在七月份的测试中被发现，旨在评估人工智能系统对绕过其限制的尝试的抵抗力。这种被称为“越狱”的做法，旨在通过增加指令来迫使模型忽略其设计者设定的限制。 根据Mindgard的说法，Moonshot的两款模型因此能够处理它们通常应该拒绝的话题。其创始人Peter......
北朝鲜声称已经测试了一种结合人工智能的战略中程导弹，并将此次发射视为其推进导弹技术的新进展。这一消息是在周六发布的，此前韩国当局报告称北朝鲜发射了一枚弹道导弹。平壤随后通过北朝鲜领导人金正恩的有影响力......