谷歌 AI 从您的照片中能学到多少?一个新网站为您揭示

2024年12月8日修改
在当今数字化时代,我们的照片承载着无数的回忆和信息。然而,您是否曾想过,科技巨头谷歌的 AI 从您的照片中能获取多少内容呢?一个名为 Ente 的服务和其推出的网站 https://Theyseeyourphotos.com 试图为我们揭示这个问题。
软件工程师 Vishnu Mohandas 在了解到谷歌曾短暂帮助美国军方开发用于研究无人机镜头的 AI 后,决定离开谷歌,并停止将他的所有图像备份到谷歌照片。他担心自己的内容可能被用于训练 AI 系统,尽管这些系统并非专门与五角大楼项目相关。Mohandas 希望开发一种开源且端到端加密的照片存储和共享服务,即 Ente。尽管 Ente 已经盈利并拥有超过 10 万用户,但 Mohandas 发现很难向更广泛的受众解释为什么他们应该重新考虑依赖谷歌照片。
直到今年五月的一个周末,Ente 的一名实习生提出了一个想法:让人们了解谷歌的一些 AI 模型可以从研究图像中学到什么。于是,Theyseeyourphotos.com 网站应运而生。人们可以将任何照片上传到该网站,然后照片将被发送到谷歌云计算机视觉程序,该程序会为照片写出一份详细的三段式描述。
Mohandas 上传的第一张照片是他与妻子和女儿在印度尼西亚一座寺庙前的自拍。谷歌的分析非常详尽,甚至记录了他妻子所戴的手表型号——卡西欧 F - 91W。但随后,AI 做出了一些奇怪的事情:它指出卡西欧 F - 91W 手表通常与伊斯兰极端分子有关。之后,Ente 对提示进行了调整,以使输出结果更加健康但仍然令人惊讶。现在,上传同一张家庭照片得到的结果更加通用,包括寺庙的名称以及周围“部分多云的天空和郁郁葱葱的绿色植物”。但 AI 仍然对 Mohandas 及其家人做出了一些假设,例如他们的面部表情表达了“共同的满足感”,以及“父母可能是南亚裔中产阶级”。它还对他们的服装进行了评价(“适合观光”),并指出“女士手表显示的时间约为下午 2 点,这与图像元数据相符”。
谷歌发言人 Colin Smith 拒绝直接对 Ente 的项目发表评论。他引导人们参考支持页面,该页面指出上传到谷歌照片的内容仅用于训练有助于人们管理图像库的生成式 AI 模型,例如分析照片主题的年龄和位置的模型。谷歌表示,它不会将谷歌照片中存储的内容出售给第三方或用于广告目的。用户可以关闭照片中的一些分析功能,但由于数据未进行端到端加密,他们无法完全阻止谷歌访问其图像。
如果您不想上传自己的照片,Ente 为人们提供了使用几个库存图像在 Theyseeyourphotos 上进行实验的选项。谷歌的计算机视觉能够捕捉到其中的细微细节,例如一个人似乎是字母 G 的纹身,或一个孩子的临时叶子纹身。Mohandas 希望该网站能促使人们想象,谷歌或任何 AI 公司通过以同样的方式分析云中的数千张照片,能对他们了解多少。
然而,如果 Theyseeyourphotos 促使您从谷歌照片切换到其他图像存储服务,这个过渡可能并不完全顺利。Mohandas 表示,谷歌通过分解文件和压缩文件,使得人们将照片库转移到其他地方变得困难。他还声称,谷歌的 Android 应用商店 Google Play 多次以不透明定价等问题标记 Ente 的应用程序,而 Mohandas 称这些问题是虚假的。谷歌的 Smith 表示感谢反馈,并表示公司正在不断改进其服务。
Ente 在马拉雅拉姆语中意为“我的”,尽管该服务是小型且开源的,但像文件共享和搜索等功能可能还不够先进。如果用户丢失或忘记了作为加密密钥的密码,他们可能会失去对其照片库的访问权限。Mohandas 表示,他信任 Ente 来保管自己的家庭照片,该服务为用户保留了两个单独的私人备份。但谷歌在确保照片不会消失方面拥有数十年的更多经验。
在某种程度上,这正是 Mohandas 所担心的。他担心人类的视觉档案会以他无法预测或控制的方式被挖掘。他认为,今天为女儿拍摄的照片揭示了她是谁以及什么使她快乐或悲伤。“这些信息可能会在几十年后被任何能够访问这些数据的人——广告商、约会网站、雇主以及尚未存在但将从心理档案中受益的行业——用来操纵她,”Mohandas 说。
他意识到自己在某些人看来可能过于偏执,但他表示,“我们不知道未来会怎样,谨慎一些并没有坏处,有一个选择也没有坏处。”
总之,这个新网站的出现引发了人们对个人照片数据在 AI 时代的安全性和隐私性的思考。我们在享受科技带来的便利的同时,也应该更加关注我们的个人信息如何被使用和保护。