技术是中立的，但人类创造的AI可能是有偏见或歧视性的。人工智能有偏见，例如性别歧视和种族歧视。例如，面部检测算法在识别白人时的准确性要远远高于黑人。在男性和女性类别中也存在类似的问题。当软件用于识别犯罪嫌疑人和公司选择求职者时，也引起了歧视。为了减少这方面的偏差，IBM研究院创建了一套更多样化的“百万个人数据集”。近年来，随着智能手机的普及，面部识别已广泛应用于许多领域。但是，在某些测试中，一些看似出色的AI也将被击败。借助新的“数百万的多样性面部数据集”，AI开发人员将能够充分考虑面部特征的多样性（DiF）。为了使面部识别能够按要求进行（既公平又准确），训练数据必须提供足够的平衡和覆盖范围。它应该足够大且多样，以了解面孔中更多类型的固有差异。该图像必须反映我们在世界上看到的五官。