关键词： 技术发展
人工智能正进一步融入国际安全辩论，作为中国人工智能初创公司DeepSeek准备参加联合国安理会会议，专注于快速发展的人工智能系统的风险和影响。15个成员国的安理会定于9月23日在纽约讨论人工智能和国际安全，正值联合国大会的高级别周。此次会议反映了日益增长的努力，旨在审视日益强大的人工智能系统如何影响全球和平、安全和战略稳定。DeepSeek已被邀请与其他中国人工智能公司一起参与，包括Moonshot。在美国方面，OpenAI首席执行官Sam......
九月份的一系列快速发展加剧了关于人工智能应该多快发展的辩论，研究人员、科技高管和政策制定者在创新、竞争和安全之间的平衡上愈加分歧。 在Anthropic的研究人员提出关于人工智能开发者是否能够有效监督日益自主的系......
越来越强大的人工智能系统的快速发展引发了关于先进模型在多大程度上能够与人类目标保持一致的新问题。最近涉及AI代理的事件突显了在它们变得更加自主并能够执行复杂任务时，监测其行为的重要性。 微软AI部门首席执行......
埃隆·马斯克认为，人工智能和机器人可以为全球收入的提高提供基础，他将这些技术描述为实现广泛繁荣的唯一可行途径。这位特斯拉和SpaceX的首席执行官在X上的一篇帖子中提出了这一观点，他认为人工智能和机器人可以改变......
伊朗代理国防和武装部队后勤部长马吉德·伊本·阿尔-雷扎将军强调，女性在国家国防工业中的参与越来越重要，称她们的贡献正成为伊朗科学和技术发展的重要组成部分。在与国防部门女性员工的会议上，伊本·阿尔-雷扎表示......
据金融时报报道，OpenAI正在与主要投资者探讨可能的新融资轮，估计将使ChatGPT开发者的估值达到约1.2万亿美元。如果以该水平完成交易，这将代表公司先前估值的显著增长，并进一步巩固其在扩展人工智能业务时的财务状况。......
关于先进人工智能潜在风险的警告正在加剧，研究人员和科技领袖正在辩论行业应多快开发越来越强大的系统。前谷歌DeepMind研究员比拉尔·丘赫塔伊（Bilal Chughtai）表示，进展的速度可能使人类没有足够的时间来防止严重后果。丘赫塔伊最近离开了谷歌DeepMind，在那里他在Alphabet内工作，处理与人工智能安全和人工智能系统与人类利益对齐相关的问题。在社交媒体平台上分享的帖子中，他将该领域的最新发展描述为一个重大担忧的来源。这位研究员认为，人工智能最终可能达到一种能力水平，这对人类构成生存风险。虽然这种情况仍然是科学家和技术专家之间辩论的主题，但他的评论反映出对当前安全措施是否足以应对日益先进的人工智能系统的日益关注。这种担忧与生成性人工智能的快速扩展以及能够执行越来越复杂任务的系统的发展有关。人工智能模型正在研究、软件开发、商业、教育和其他领域中得到部署，同时科技公司继续在计算基础设施和研究方面进行大量投资，以创建更强大的系统。一个核心问题是，人工智能能力的进步是否与安全和控制机制的进展保持同步。致力于人工智能对齐的研究人员寻求确保强大的系统按照人类意图行事，并保持在有意义的人类监督之下。然而，随着系统变得更加自主，维持这种控制可能变得越来越具有挑战性。丘赫塔伊的警告正值其他科技行业知名人物表达类似担忧之际。Anthropic首席执行官达里奥·阿莫代伊（Dario......
美国宇航局正在评估来自公司、大学和其他组织的提案，旨在开发能够支持未来载人月球任务的技术和基础设施，特别关注在月球南极附近建立可持续的人类存在。该计划是美国宇航局克服与长期月球操作相关的技术挑战的更广......
查尔斯三世将召集来自世界领先人工智能公司的高级代表，地点在英国，因对先进人工智能系统快速发展的担忧日益加剧，以及其对社会的潜在影响。 预计来自Nvidia、Google DeepMind、OpenAI和Anthropic的代表将参加会议，此外还有负责人工智能的英国部长。讨论旨在探讨如何在确保人工智能的发展和应用与更广泛的社会利益、人类尊严和公共福祉保持一致的同时，继续推动人工智能的进步。 此次会议正值人工智能行业面临越来越大的压力，需要应对与日益强大的系统相关的风险。尽管公司和政府继续在人工智能领域进行大量投资，因为其有潜力改变医疗、科学、工业和经济，但研究人员和技术领导者也呼吁加强保障措施。 Anthropic特别强调了谨慎的重要性。该公司的研究人员最近警告称，日益强大的人工智能系统可能最终会带来对人类有深远影响的风险。首席执行官达里奥·阿莫代伊（Dario......