因为测试软件看不到有色人种的学生，有色人种的学生被老师盯上了
主板公司的一份报告称，Proctorio是一款考试监控软件，旨在防止学生在考试时作弊，它依赖于一款开源软件，该软件有种族偏见问题的历史。这个问题是由一个学生发现的，他发现这个软件是如何进行面部检测的，并且发现它在一半的时间里都不能识别出黑色的面孔。
Proctorio和其他类似的程序，是为了在学生参加考试时监视他们。然而，许多有色人种的学生报告说，他们在让软件看到他们的脸时遇到了问题——有时不得不采取极端的措施让软件识别他们。这可能会引起学生的问题：如果Proctorio没有检测到他们的脸，它会把他们标记给老师。
在轶事般地听说了这些问题后，Akash Satheesan决定研究一下该软件使用的面部检测方法。他发现，它的外观和性能与OpenCV完全相同，OpenCV是一个开源的计算机视觉程序，可以用来识别人脸（过去曾有种族偏见的问题）。在学习了这一点之后，他使用OpenCV和一个数据集进行了测试，该数据集旨在验证机器视觉算法处理不同人脸的能力。根据他的第二篇博文，结果并不好。
该软件不仅在超过一半的时间里无法识别黑人面孔，而且在识别任何种族的面孔方面也不是特别擅长——最高的命中率在75%以下。在报告中，主板联系了一位安全研究员，他能够验证Satheesan的结果和分析。Proctorio本身也证实了它在其许可证页面上使用OpenCV，尽管它没有详细说明如何使用OpenCV。
Proctorio的一位发言人在给主板的一份声明中说，Satheesan的测试证明，该软件只检测人脸，而不识别与人脸相关的身份。好吧，这可能是一个（小）安慰学生谁可能是正确的担心隐私问题有关的监考软件，它没有解决的指控种族偏见在所有。
这并不是第一次Proctorio因为不能识别不同的面孔而受到指责：一所大学把它给有色人种学生带来的问题作为它不愿与公司续约的理由。参议员理查德布卢门撒尔（RichardBlumenthal）甚至在谈到监控软件中的偏见时对公司发出了呼吁。
虽然代码中的种族偏见并不是什么新鲜事，但看到它影响到那些只想完成学业的学生，尤其是在一些人只能选择远程学习的一年里，尤其令人痛心。
- 发表于 2021-04-15 20:59
- 阅读 ( 168 )
- 分类：互联网
你可能感兴趣的文章
examsoft的proctoring软件存在人脸检测问题
...位美国参议员在去年12月给ExamSoft写了一封***，强调了对有色人种学生和残疾学生的潜在危害，以及许多其他担忧。 ExamSoft在一份即将发表的声明中说：“ExamMid旨在为考生提供无摩擦的体验。ExamID试图通过允许考生设置和批准自...
如何走出你的泡沫，开始改变你的社区
...估计有25000人参加了妇女游行，还有数千人参加了当天由有色人种妇女领导的交替游行。出席今天被称为“妇女节”的活动的人群达到64人。有几个空座位。会议的主要部分是展示当地的**组织，解释他们做什么，为什么需要他们...
对多样性的关注在今年的纽约漫画大会上获得了势头
...意识带到fandom中，从一小步开始，比如分享在出版业作为有色人种****和工作的故事。她说，“我做这些面板太棒了。我坚信滚雪球效应。“可以说，滚雪球效应导致了多样性讨论的增加，这不再依赖于偶尔有社会意识的小组成...
华尔街正在为投资打开多元化之门
...个长期的，可悲的遗产缺乏多样性和代表性的社区之间的有色人种，特别是黑人和西班牙裔社区。全球最大的基金管理公司的交易大厅和办公楼明显同质化，在为这些群体开辟职业道路方面做得还不够。在常春藤盟校和精英私立...
了解从学校到监狱的管道
...律。除亚裔和拉丁裔学生外，研究表明“四分之一以上的有色人种残疾男孩。。。同时，研究表明，在学校表现出行为问题的白人学生更有可能接受药物治疗，这降低了他们在学校表现出行为后入狱或坐牢的机会。 黑人学生...
黛西·贝茨：民权活动家的一生
...义、种族隔离和其他不平等制度。1952年，她当选为全国有色人种协进会阿肯色州会议主席，并在1957年直接参与了中央高中的整合；在整个混乱中，她是一位顾问，一位安慰者，一位代表他们的谈判者。 快速事实：黛西·贝茨...
白人至上的历史
历史上，白人至上被理解为白人优于有色人种的信念。因此，白人至上是欧洲殖民工程和美国帝国工程的意识形态驱动力：它被用来为不公正的人民和土地统治、盗窃土地和资源、奴役和种族灭绝合理化。 在这些早期的时期...
如何影响公立学校的有色人种儿童(affects children of color in public schools)
...学校的儿童。来自家庭的轶事、研究和歧视诉讼都表明，有色人种的孩子在学校里面临偏见。他们的纪律更严厉，不太可能被认为是天才，或者接触到高质量的教师，仅举几个例子。 学校中的种族主义有着严重的后果，从助...
黑人历史时间线：1960-1964
...更多的认可，很快就得到了数千名学生、格林斯博罗全国有色人种协进会和新成立的学生非暴力协调委员会的支持，该委员会由罗利肖大学的学生成立，由埃拉·贝克领导。全国各地的学生和活动家组织了类似的静坐示威，以非...
小石城高中的整合
...校董事会决定配合法院的裁决。 8月23日：阿肯色州全国有色人种协进会法律补救委员会由律师威利·布兰顿领导。在布兰顿的领导下，全国有色人种协进会请求学校董事会尽快整合公立学校。 1955 5月31日：最高法院的初...
0 篇文章
