据包含固有偏见或反映社

mawajannat912

因此，如果训练数会偏见，人工智能系统可能会在做出决策时无意中延续和放大这些偏见。 人工智能如何会出现偏见？ 研究和调查揭示了人工智能偏见的存在及其影响。例如，麻省理工学院和斯坦福大学的一篇新论文发现，知名科技公司的面部识别系统对女性和肤色较深的人的错误率更高。 实验表明，对于浅肤色男性，判断性别的错误率始终低于 0.8%，而对于深色皮肤的女性，错误率明显较高，在一个案例中超过了 20%，在另外两个案例中超过了 34%。


由于人工智能系统更容易错误识别这些人，因此它可能导致执法和 荷兰电话号码数据 招聘流程等领域出现潜在的歧视，因为这些技术可以（而且经常）用于识别可能的罪犯和执法部门通缉的人。 该研究的结果还引发了人们对这些程序中使用的神经网络的训练和评估的担忧，强调了检查面部分析系统中偏见的重要性，并表明需要进一步调查其他人工智能应用中可能存在的差异。


另一个例子是当我们分析贷款信用分析中使用的人工智能时。 贷款审批算法（也称为信用评分算法）通常被金融机构用来评估贷款申请人的信用度——如果该算法根据与少数群体相关的因素分配更高的风险分数，这些社区的个人可能难以获得贷款或受到不利的贷款条款的影响，从而延续系统性不平等并限制经济机会。 对此，负责任贷款中心拉丁裔事务主任阿拉塞利·帕纳梅尼奥 (Aracely Panameño) 表示，“输入承保算法的数据质量至关重要。