快捷搜索:  

马斯克公然怒怼,google 的ai 若何又翻车了?

"马斯克公然怒怼,google 的ai 若何又翻车了?,这篇新闻报道详尽,内容丰富,非常值得一读。 这篇报道的内容很有深度,让人看了之后有很多的感悟。 作者对于这个话题做了深入的调查和研究,呈现了很多有价值的信息。 这篇报道的观点独到,让人眼前一亮。 新闻的写作风格流畅,文笔优秀,让人容易理解。 " 账号设置我的关注我的收藏申请的报道退出登录登录搜索36氪Auto数字时氪将来消费智能涌现将来城市启动Power on36氪出海36氪研究院潮生TIDE36氪企服点评36氪财经(Finance)职场bonus36碳后浪研究所暗涌Waves硬氪媒体品牌企业号企服点评36Kr研究院36Kr创新咨询企业服务核心服务城市之窗行政部门服务创投发布LP源计划VClubVClub投资机构库投资机构职位推介投资人认证投资人服务寻求报道36氪Pro创投氪堂企业入驻创业者服务创投平台 首页快讯资讯推荐财经(Finance)科技(Technology)创新江苏最新创投汽车(Car)企服专精特新直播视频专题活动搜索寻求报道我要入驻城市合作马斯克公开怒怼,Google 的AI 怎么又翻车了?爱范儿·2024-02-24 08:00关注互联网的差异,可能比现实更极端

人称科技(Technology)界汪峰的 Google,屋漏偏逢连夜雨。 

前阵子官宣的大模型 Gemini 1.5,实力强劲但无人问津,被 OpenAI 的视频生成模型 Sora 抢去了风头。 

最近,它又摊上了米国社会(Society)敏感的种族歧视问题,好心办了坏事,惹恼了往往站在鄙视链顶端的白人。 

多样化算你认真,过度多样化惹祸上身 

如果在几天前使用 Gemini 生成历史(History)人物图片,呈现在用户眼前的仿佛是一个不存在课本的平行时空,违背「戏说不是胡说」的精神,把知识都学杂了。 

公元 8 世纪到 11 世纪的维京人,不再是金发碧眼、高大魁梧的影视剧经典形象,虽然肤色变黑了,穿着清凉了,坚毅的眼神依然展现着战士的强悍。 

1820 年代的德国夫妇,人种构成十分丰富,可以是米国原住民男性和印度女性,也可以是黑人男性和亚洲女性。 

AI 瞎编剧情也是讲逻辑的,后代继续着他们(They)的故事,过了 100 多年,1943 年的德国军队,又能见到黑人男性和亚洲女性的身影。 

王侯将相宁有种乎,时间的长河里,跨越陆地和大洋,米国的开国元勋,中世纪的英格兰国王,都可能由黑人执掌权柄。 

其他职业也被一视同仁,AI 忽略不让女性担任神职的天主教会,教皇可以是印度女性。尽管人类历史(History)的第一位米国女性参议员出现在 1922 年且是一位白人,但 AI 的 1800 年代欢迎米国原住民。 

都说历史(History)是个任人打扮的小姑娘,但这次 AI 把人都给换了。历来有优越感的白人气愤了,他们(They)终于也在人种、肤色和外貌上,尝到了被歧视的滋味。 

当探索越发深入,不仅是历史(History)人物,现代社会(Society)在 AI 眼里也是另外一副样子。 

Google 前工程师 @debarghya_das 发现,米国、英国(Britain)、德国、瑞典、芬兰、澳大利亚女性的肤色都可能偏黑。 

他痛心疾首地感叹:「让 Google Gemini 承认白人的存在是非常困难的。」 

更让网友生气的是,被要求生成乌干达等我国的女性时,Gemini 反应很快,干活也利索,轮到白人时,就可能拒绝,甚至对网友说教,这样的要求强化了种族刻板印象。 

计算机工程师 @IMAO_ 脑洞大开地做了一系列实验,不局限在人类这个物种,就想知道 Gemini 眼前的黑是什么黑,Gemini 要的白是什么白。 

结果(Result)很有意思,算法似乎只针对白人。 

生成白熊是没有问题的,说明 AI 不会被「white」这个词触发。生成非洲的祖鲁人也是没有问题的,尽管提示词强调了「多样化」,但大家长得还是差不多。 

漏洞出现在了奇幻生物上,精灵和侏儒都是白人,但吸血鬼和仙女是「多样化」的,看来 Gemini 道行不深,还得与时俱进。 

不过,他的游戏(Game)很快结束了。Google 站出来回复,承认一些历史(History)图片确实存在问题,并且暂停了 Gemini 的人像生成功(Success)能,很快会做出调整。 

Google 也解释了立场,强调生成多样化的人物本来是件好事,因为 AI 工具就是给全世界使用的,只是现在方向走得有点偏。 

虽然 Google 出面揽下了这口锅,但它没有明确回复,「一些」历史(History)图片到底是多少,以及为什么出现了「多样化过度」的问题。 

不买账的网友们牙尖嘴利:「Gemini 一定是用迪士尼公主和 Netflix 的翻拍训练的」「Gemini 其实想告诉你,如果你是黑人可能亚洲人,你会是什么样子」。 

然而,种族歧视本身就是个容易当枪使的话题,所以也有人怀疑,其中的一些图片是恶意 P 图,可能者通过提示词引导生成。那些在社交媒体骂声最响的,确实也是一些政治立场明确的人士,不免有阴谋论的味道。 

马斯克更是看热闹不嫌事大,批评 Google 过度多样化,问题不只出在 Gemini,还有 Google 搜索,顺便给自己两周后发布新版本的 AI 产品 Grok 打广告:「不顾批评、严格追求真理从未如此重要。」 

上次马斯克也是这么做的,呼吁暂停 GPT-4 进化后,购买了 1 万个 GPU 加入 AI 大战。 

比他的言论更吸引人的,可能是网友趁乱做的他的梗图。 

互联网的差异,可能比现实更极端 

Google 究竟为什么在「多样化」上走偏了? 

Hugging Face 首席道德科学家 Margaret Mitchel 分析,Google 可能对 AI 进行(Carry Out)了多种干预。 

一是,Google 可能在幕后为用户提示词增加了「多样化」的术语,比如将「厨师的肖像」变成「土著厨师的肖像」。 

二是,Google 可能优先显示「多样化」的图像,假设 Gemini 为每个提示词生成 10 张图像但只显示 4 张,那么用户就更可能看到排在前面的「多样化」图像。 

干预过度可能恰恰说明,模型还没有我们(We)想象得那么灵活和聪明。 

Hugging Face 研究员 Sasha Luccioni 认为,模型还不存在时间的概念,所以对「多样性」的校准用到了所有图像,在历史(History)图片方面尤其容易出错。 

其实,当年还籍籍无名的 OpenAI,也为 AI 画图工具 DALL·E 2 做过类似的事情。 

2022 年 7 月,OpenAI 在博客写道,如果用户请求生成某个人物图像,但没有指定种族可能性别,比如消防员,DALL·E 2 会在「系统级别」应用一项新技术,生成「更准确地反映世界人口多样性」的图像。 

OpenAI 还给出了一个对比图,同一个提示词「A photo of a CEO」(首席执行官的照片),使用新技术之后,多样性明显增加了。 

原来的结果(Result)主要是米国白人男性,改进之后,亚洲男性、黑人女性也有了成为 CEO 的资格,运筹帷幄的表情和姿势倒像复制粘贴出来的。 

其实不管是哪种解决方案,都是在后期亡羊补牢,更大的问题还是,数据本身仍然存在偏见。 

供 AI 公司训练的 LAION 等数据集,主要抓取的是米国、欧洲等互联网的数据,更少关注到印度、祖国等人口众多的我国。 

所以,「有魅力的人」,更可能是金发碧眼、皮肤白身材好的欧洲人。「幸福(Happiness)的家庭」,可能许特指着白人夫妇抱着孩子在修剪整齐的草坪上微笑。 

另外,为了让图像在搜索中排名靠前,很多数据集可能还有大量「有毒」的标签,充斥着色情和暴力。 

种种原因导致,当人们的观念早已进步,互联网图像里人与人的差异,可能比现实更加极端,非洲人原始,欧洲人世俗,高管是男性,囚犯是黑人...... 

为数据集「解毒」的努力(Effort)当然也在进行(Carry Out),比如从数据集中过滤掉「坏」内容,但过滤也意味着牵一发动全身,删除了色情内容,可能也导致某些地区的内容更多可能者更少,又造成了某种偏差。 

简而言之,达成完美是不可能的,现实社会(Society)又何尝不存在偏见,我们(We)只能尽量不让边缘的群体被排除在外,弱势的群体不被安上刻板印象。 

逃避虽可耻但有用 

2015 年,Google 的一个机器学习项目也陷入过类似的争议。 

当时,一名软件工程师批评 Google Photos 将非裔米国人可能者肤色较深的人标记为大猩猩。这件丑闻,也成为了「算法种族主义」的典型例子,影响至今。 

两名前 Google 员工解释,出现这么大的错误,是因为训练数据中没有足够的黑人照片,并且在相关功能公开亮相之前,没有足够的员工进行(Carry Out)内测。 

时至今日,计算机视觉不可同日而语,但科技(Technology)巨头们仍然担心重蹈覆辙,Google、苹果等大公司的相机应用,对大多数灵长类动物的识别仍然不灵敏,可能者刻意回避。 

防止错误再次发生的最好方式,似乎是把它关进小黑屋,而非修修补补。教训确实也重新上演了,2021 年,Facebook 为 AI 将黑人贴上「灵长类动物」标签道歉。 

这些才是有色人种可能者互联网弱势群体们熟悉的情况。 

去年 10 月,牛津大学(University)的几位研究员要求 Midjourney 生成「治疗白人儿童的非洲黑人医生(Doctor)」的图片,扭转「白人救世主」的传统印象。 

研究员的要求已经非常明确了,然而生成的 350 多张图像中,有 22 张的医生(Doctor)是白人,黑人医生(Doctor)旁边还总有长颈鹿、大象等非洲野生动物,「你看不到任何非洲的现代感」。 

一边是司空见惯的歧视,一边是 Google 歪曲事实营造虚假的平等感,从目前(Currently)来看,不存在简单的答案,也不存在端水的模型,如何达成人人满意的平衡,恐怕比走钢丝还难。 

就拿生成人像来说,如果是用 AI 生成某段历史(History)时期,可能许反映真实的情况更好,尽管看起来没有那么「多样化」。 

但如果是输入提示词「一名米国女性」,理应输出更加「多样化」的结果(Result),但难点在于,AI 如何在有限的几张图里做到反映现实,可能者至少不扭曲现实? 

哪怕同是白人可能黑人,年龄、身材、头发等特征也各不相同,所有人都是具有独特经历和观点的个体,却又生活(Life)在共同的社会(Society)中。 

一位网友用 Gemini 生成芬兰女性时,四张图里只有一张是黑人女性,便开玩笑说:「75%,得分 C。」 

也有人追问 Google,改进模型之后,是否「会在 25% 的时间生成白人,而非 5%」。 

很多问题并非技术所能解决,有时候也关于观念。这其实也是 Yann LeCun 等 AI 大佬支持开源的部分原因,由用户和组织自行控制,根据自己的意愿设置可能不设置保护措施。 

这次 Google 的闹剧中,也有人保持冷静,表示先去练习怎么写提示词吧,与其笼统地说白人、黑人,不如写「斯堪的纳维亚女性、肖像拍摄、演播室照明」,要求越明确,结果(Result)也越精准,要求越广泛,结果(Result)也可能越笼统。 

去年 7 月发生过类似的事情,一位麻省理工的亚裔学生(Students)想用 AI 工具 Playground AI 让头像看起来更专业,结果(Result)被变成白人,肤色更浅,眼睛更蓝,把帖子发在 X 后,引来了很多讨论(Discuss)。 

Playground AI 创始人回复,模型无法被这样的指令有效地提示,所以会输出更加通用的结果(Result)。 

把提示词「使其成为专业的领英照片」改成「工作室背景、锐利灯光」,结果(Result)可能会更好,但确实也说明了,很多 AI 工具既没教用户怎么写提示词,数据集又以白人为中心。 

任何技术都有犯错的可能和改进的空间,却未必都有解。当 AI 还不够聪明的时候,首先能够反思和进步的是人类自身。 

本文来自微信公众号“APPSO”(ID:appsolution),作者:张成晨,36氪经授权发布。

该文观点仅代表作者本人,36氪平台仅提供信息存储空间服务。

+13

好文章,需要你的鼓励

爱范儿特邀作者7收  藏+10评  论打开微信“扫一扫”,打开网页后点击屏幕右上角分享按钮微  博沉浸阅读返回顶部参与评论评论千万条,友善第一条登录后参与讨论(Discuss)提交评论0/1000你可能也喜欢这些文章Sora要把抖音(Tik Tok)们团灭了?重新理解AI变革Sora问世第7天:谷歌猛烈回击,技术冰山下还有这5个关键问题机器人做手术,38亿美元市场谁在分羹?文生视频时代已到,百度、讯飞、字节谁能率先做出“国产Sora”?OpenAI和谷歌,AI对线中的飞驰人生华为再度超越iPad,但AI才是平板电脑(Computer)的将来?国产大模型,不会开启“烧钱游戏(Game)”Stable Diffusion 3 惊艳亮相,还与 Sora 是同架构,生成图像真假难辨最新文章推荐焦点分析|瑞幸咖啡困于“9块9”Sora要把抖音(Tik Tok)们团灭了?9点1氪|张继科已经与安踏解约;支付宝招聘大量抖音(Tik Tok)、小红书员工;小米汽车(Car)辟谣买车送首都牌照资本市场并不“热辣滚烫”,沪上阿姨、蜜雪冰城、古茗为何还抢跑上市?刚开干就停产:高合丁磊现身上海总部,承认窗口期仅剩3个月马斯克公开怒怼,Google 的AI 怎么又翻车了?Sora、 Groq与Vision Pro:三个科技(Technology)热点与元宇宙的将来咪蒙:曾经被你们(You)口诛笔伐,现在被你们(You)夸赚钱全靠才华氪星晚报|支付宝大举扩张商业化团队,广告事业部数月扩员4倍;百度移动生态调整:文库业务升级为BU,“老将”回归负责搜索一分钟卖出25亿,量化巨头为何做空?爱范儿特邀作者

聚焦创新及消费科技(Technology)领域

发表文章2797篇最近内容马斯克公开怒怼,Google 的AI 怎么又翻车了?1小时前华为鸿蒙智行再添「享界」,一上来就要卖 40 万元2024-02-22GPT-4 更强的标志,原来藏在了 logo 里2024-02-20阅读更多内容,狠戳这里下一篇Sora、 Groq与Vision Pro:三个科技(Technology)热点与元宇宙的将来

元宇宙正在走向现实。

1小时前

热门标签葱油饼投资担保融资监管资金安危安危平台疯狂动物城变形金刚5特种部队2血战钢锯岭龙之战南朝鲜影视电话电视(Television)加里宁格勒无线3d地图空间数据郑州租房张喜平湖南卫视王菲窦靖童收视建筑结构超高层卢志强魔都奚梦瑶维密emoji表情符号关于36氪城市合作寻求报道我要入驻投资者关系商务合作关于我们(We)联系我们(We)加入我们(We)网站谣言信息举报入口热门推荐热门资讯热门产品文章标签快讯标签合作伙伴阿里云火山引擎高德个推星球日报(Daily)鲸准氪空间富途牛牛企服点评人人都是产品经理领氪36氪APP下载iOS Android36氪本站由 阿里云 提供计算与安危服务 违法和不良信息、未成年人保护举报电话:010-89650707 举报邮箱:jubao@36kr.com 网上有害信息举报© 2011~2024 首都多氪信息科技(Technology)有限公司 | 京ICP备12031756号-6 | 京ICP证150143号 | 京公网安备11010502036099号意见反馈36氪APP让一部分人先看到将来36氪鲸准氪空间

推送和解读前沿、有料的科技(Technology)创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业

马斯克公开怒怼,Google 的AI 怎么又翻车了?

您可能还会对下面的文章感兴趣:

赞(836) 踩(53) 阅读数(6018) 最新评论 查看所有评论
加载中......
发表评论