Lancer AI：由人工智能生成的照片有性别刻板印象吗？

Find AI Tools in second

Find AI Tools

No difficulty

No complicated process

Find ai tools

Home AI News CN Lancer AI：由人工智能生成的照片有性别刻板印象吗？

Updated on Mar 14,2024

Lancer AI：由人工智能生成的照片有性别刻板印象吗？

在当前社交媒体趋势中，由人工智能生成的肖像画非常流行。这种艺术化的风格图片对我们的虚荣心有很大吸引力。Lancer AI是一款颇受欢迎的应用，甚至在许多国家的应用下载排行榜上名列前茅。许多用户愿意为以超级英雄或摇滚明星风格生成的AI肖像付费，而这些图片在社交媒体上的发布效果也非常好。但是，许多女性用户，包括美国女演员梅根·福克斯在内，抱怨图片中过于性感化的结果。这是为什么呢？首先，我们看一下Lancer等应用是如何工作的。

2.1 如何使用Lancer

用户可以通过将10至20张自拍照上传到Lancer应用中，创建自己的魔法头像。照片越多样化，结果越有趣。一旦您的照片上传到应用的服务器，AI软件将分析它们，并生成不同分类的全新图片，如时尚科幻或动漫。这个过程大约需要20分钟。

2.2 AI生成图像的过程

Lancer从一个名为Lion 5B的开源数据集中提取信息。这个数据库是通过从互联网上爬取和分析图片而组成的，Lion 5B实际上正在创建一个各类图片的巨大库，并为它们添加标签，例如男性、女性、白人或拉丁裔等。这就是问题的起源。

💡 3. Lancer的问题：性别刻板印象和种族刻板印象

总体上，Lancer生成的结果质量不一。我不太喜欢生成的我一条腿的版本，也不太喜欢太空中的汉尼拔·莱克特。另外，在为男性和女性生成的图像中存在巨大差距。男性经常得到他们作为宇航员和超级英雄的称赞，而许多女性用户的图片则变成了裸体和过度性感化的卡通画。我们进行了一次测试，比较了我的照片和同事阿德里安娜的照片。作为一个白人欧洲男性，尽管我上传的自拍照并不是真正的美照，但我得到的结果主要是宇航员和超级英雄的阳刚版本，照片中我能够认出自己，没有裸露的皮肤。然而，我的同事阿德里安娜来自哥伦比亚，她很困惑，因为大部分照片中的她都呈现出非常欧洲的形象，皮肤较白，棕色头发，甚至有些照片中她穿着紧身性感牛仔裤，结果展示了很多肌肤，尽管她上传的照片中并没有这样的特点。总之，她无法辨认出自己。虽然阿德里安娜在结果中没有看到任何裸露的照片，但我们的小小比较确实确认了最近在网络上出现的一些批评。Lancer存在一些性别和种族歧视的刻板印象。

3.1 影响结果的数据集

人工智能始终依赖于数据集的质量。Lancer似乎使用了未经过滤的图像数据集——Lion 5B从互联网上收集了各种各样的图片。由于互联网上充斥着裸露或衣着暴露的女性图片以及反映性别歧视和种族歧视刻板印象的图片，导致数据集包含了大量这些类型的图像。因此，Lancer生成并强化了已经存在于我们社会中的偏见。

3.2 开发者的责任

然而，应用开发者也要承担责任。Lancer的开发者在男性头像的生成上选择了宇航员和超级英雄，而女性头像则更多是仙后和可爱的日本卡哇伊女孩。或许你会说：“嘿，这只是一个应用程序，请放宽心态。”但对我来说，Lancer是一个很好的例子，说明了AI应用所涉及的伦理问题。在我们让AI为我们做出更多更重要的决策之前，我认为我们社会需要充分讨论，并需要更多透明度和明确的数据集组建规则。你对AI生成的头像和Lancer等应用有何看法？请让我们知道。