Advertising

ChatGPT 对话被谷歌无意收录,引发严重隐私担忧

昨天 17:17
ChatGPT 对话被谷歌无意收录,引发严重隐私担忧
Zoom

谷歌正在将用户发送给朋友、家人或同事的 ChatGPT 对话收录,将原本供小群体使用的私密交流转化为数百万人可见的搜索结果。

使用用户主动点击 ChatGPT 上的“分享”按钮后生成的链接的一部分,进行简单的谷歌网站搜索,就能发现人们在对话中透露的私密信息,包括与毒瘾斗争、身体虐待经历或严重的心理健康问题——有时甚至会让人担心人工智能模型正在监视他们。虽然 ChatGPT 不会显示用户的身份,但有些人可能会通过在聊天中分享高度具体的个人信息来表明自己的身份。

用户可能会点击“分享”,通过 WhatsApp 将对话发送给好友,或保存链接以备将来参考。他们不太可能想到,这样做会让对话出现在谷歌搜索结果中,任何人都可以访问。目前尚不清楚受影响的用户是否意识到,点击“分享”按钮后,他们与机器人的对话内容已公开,大概他们以为自己只是在与一小群人分享。

谷歌网站搜索结果中出现了近 4500 条对话,但其中许多对话不包含个人信息或身份信息。这可能并非全部数据,因为谷歌可能不会将所有对话都编入索引。(由于对话内容私密,其中一些对话会泄露高度个人信息,包括用户姓名、位置和个人情况,因此《Fast Company》选择不提供链接或详细描述与聊天机器人的对话内容。)

鉴于一项调查显示,近一半的美国人表示,他们在过去一年中使用过大型语言模型来获得心理支持,这一发现尤其令人担忧。四分之三的受访者寻求焦虑方面的帮助,三分之二的受访者寻求个人问题方面的建议,近十分之六的受访者寻求抑郁症方面的帮助。但与您与现实生活中的治疗师之间的对话不同,与 ChatGPT 之类的对话记录只需通过简单的 Google 搜索即可找到。

Google 会将开放网络上的所有内容编入索引,网站所有者可以从搜索结果中删除页面。ChatGPT 的共享链接默认不会显示在搜索结果中,必须手动设置为用户可见。用户还被警告不要分享敏感信息,并且可以随时删除共享链接。(Google 和 OpenAI 均拒绝了 Fast Company 的置评请求。)

一位用户详细描述了他们的性生活和在国外生活的不愉快经历,声称自己患有创伤后应激障碍 (PTSD),正在寻求支持。他们还详细描述了自己的家族史以及与朋友和家人的人际关系。

“我感到非常震惊,”牛津大学人工智能伦理学家 Carissa Veliz 说道。 “作为一名隐私学者,我非常清楚这些数据并非隐私,但‘并非隐私’当然可以有很多含义,而谷歌记录这些极其敏感的对话实在令人震惊。”

竞争对手的聊天机器人也引发了类似的担忧,其中包括 Meta 运营的聊天机器人。Meta 开始在其 AI 应用程序中公开分享用户与其 AI 系统的查询。批评人士随后表示,用户的素养不足以认识到公开分享隐私信息的危险——后来,随着个人信息出现在社交信息流中,这一观点被证明是正确的。当时,网络安全专家强调了人们对用户对应用程序功能运作方式的认知与运行这些应用程序的公司实际操作方式之间存在差异的担忧。

Veliz 担心,这预示着我们将看到大型科技公司在隐私问题上采取的做法。“这也进一步证实了 OpenAI 这家公司并不值得信赖,无论他们说什么,他们都不会认真对待隐私,”她说。“重要的是他们做了什么。”

OpenAI 首席执行官 Sam Altman 本月早些时候警告称,用户不应与 ChatGPT 分享他们最私密的详细信息,因为如果法院依法强制要求,OpenAI“可能被要求提供这些信息”。他补充道:“我认为这非常糟糕。” 此次与播客 Theo Von 的对话并未讨论用户对话是否被 OpenAI 主动公开以供索引。

“人们期望他们可以完全私密地使用 ChatGPT 等工具,”网络安全分析师兼 SocialProof Security 首席执行官 Rachel Tobac 表示,“但现实情况是,许多用户并没有完全意识到这些平台的功能可能会无意中泄露他们最私密的问题、故事和担忧。”



阅读更多