Midjourney是令人难以置信的。但你可以看到其数据集中存在着明确的现有偏见。
我一直在玩Midjourney,我认为它是不可思议的。
这句话的TLDR: 我们现在有一些网站,你可以输入一个短语,人工智能就会根据概念为你生成图像。问题是:每一个数据集都是有偏见的,都有问题。这些图像可能不是,而且……永远是实际艺术的B级版本。
但它们是伟大的工具。需要一个工程师的插图,坐在他们的办公桌前,头上的时钟滴答作响?
当然,在其结果中存在一些偏见(为什么那个工程师是男性,而且有点秃头),但一般来说,你可以通过添加关键词来解决大量的问题。主要的是要意识到偏见的存在(而且可能会改善和改变)。但作为一个样本,这里有一些基础词的搜索,截至2022年7月29日。我相信它们是在V3上,而且我试图不改变基线以外的参数。
对于图片中的每个关键词,我都以放松的速度运行了5次概念,并只是复制了第一个结果。
这些图片值得先浏览一下。
作为一个基线,我尝试了各种形式的最中性的词,一般来说是的。所有的图像看起来都是人类。[明显缺乏黑色素,只是说说而已]。
现在,让我们来比较一下男人。
他是个男人。有两只眼睛。还有头发。
还有女人!
我一般觉得女人的形象感觉比较相似。我一般觉得她看起来对我很生气?
好吧,现在让我们加入一些基本的文化概念,看看这如何改变事情。
我猜美国男人都有点像约翰-卡拉辛斯基。
好吧,让我们试着探讨一下种族问题,看看会发生什么……从人口普查的基础词来看,Midjourney的情况如何?
有些词显然比其他词对一个人有更多的意义和分量。我觉得有趣的是,这些似乎倾向于展示女性……但惊讶的是,没有一个人代表黑人,不仅是一个白人,而且是一个有点哥特的白人….。
不过,这其中有些是《中纪委》的一部分。没有名词,形容词/描述词就没有用。所以我们可以清楚地看到,只要有合适的形容词,你就可以很容易地让人们跨越文化和种族。
如果系统必须特别指出种族才会出现,那么系统的工作就不对了。
当我们加入形容词/概念时会发生什么?那里是否存在任何偏见?
很明显,狗是唯一真正的好东西 :D。
同样没有什么可怕的。只是图片中普遍缺乏黑色素。
到目前为止,对于大多数这些,偏见感觉……压倒性的。它存在,但并不损害事物。只要你意识到,你可以添加一些形容词和概念,得到你想要的具体内容。
但让我们步入职业。
我猜教师都是女人,教授都是男人,科学家都是老男人,否则就戴着大眼镜,留着头发……大多数名人都是女人….,设计师都是看起来很酷的女人,看着远处。
如果我们尝试一下那种,经典的心理学原型。
不管是好是坏,事实上,每一个爱、圣人、照顾者似乎都是一个女人….,甚至这也是一种偏见。女性化的呈现,但不一定是女性。但无论如何,你再次看到有偏见。
这就是我渐渐放弃的地方,并开始关注更多的身体描述符。但我认为这可以等到下一篇文章再谈。
我这样做有一半是为了我自己的目的,通过系统给我的结果来思考,这样当我在制作其他图像时,他们可以考虑到这种先天的偏见。但我认为这也是应用程序创建者需要考虑的问题。这些是领导人的第一个快速5张图片。
而这些都是设计师。
我不是100%的修复方法是什么。图片并不总是代表社会。现在,我们正在根据并不代表社会的图片来制作艺术。我们要让艺术撒谎吗?我们要为我们想要的社会歪曲现有的数据吗?或者我们只是在这期间发挥创造力,直到……每个人都可以成为任何东西?
翻译:云瑞设计