生日购物遇羞辱,人脸识别起风波

据NZHerald报道,在罗托鲁瓦(Rotorua)一家试用面部识别技术的New World超市里,一名毛利妈妈被误认为是非法闯入的“小偷”,她说,在“可怕”的生日事件中,她感到“种族歧视”和尴尬。

WeChat截图_20240413110155

这家名为New World Westend的超市表示,这是一起“人为错误案例”,并表示会道歉

这家商店是Foodstuffs北岛25家超市为期六个月的面部识别技术试验的一部分,该试验由政府隐私专员监控。该技术扫描顾客的脸部,并将这些图像与商店已知罪犯或嫌疑人数据库中的图像进行比较。

Te Ani Solomon说,她在罗托鲁瓦生活和工作了12年,经常在新世界购物,没有发生任何事故。

她说,4月2日晚上,也就是她47岁生日那天,她和十几岁的儿子一起去New World Westend购物。两名男性工作人员在肉类区走近她,其中一人“当着她的面”,大声告诉她:“我们怀疑你非法闯入(企图行窃),你必须马上离开”。

 Solomon说,她难以置信地离开了,并告诉他他找错了人,她一生中从未被如此冒犯过。她说,他们坚持要她离开,即使她提供了带照片的身份证明。当她给了他们三种形式的身份证时,她说她在手机上看到了一张他们一直在看的照片,似乎是一个戴着帽子的毛利妇女。

 Solomon说,她告诉他们这张照片不是她的,“仅仅因为我的神色皮肤,戴着一顶帽子,你们这些家伙就认为那是我”。

她说,当他们继续质疑她的身份,并告暗示她是“小偷”时,她感到愤怒。她说她告诉他们:“不可能是我,你有我的三种形式的身份证。”

 Solomon说,“可怕”的折磨持续了大约10分钟,然后她和她的儿子离开了商店,也没有买到想买排骨,她在停车场哭了起来。她说她感到无助,这一事件“毁了直到那时都很美好的生日”。

WeChat截图_20240413110225

她说,她理解超市因扒手而遭受损失,但认为没有人应该忍受她认为的“故意恐吓”和“不尊重”。 Solomon说,她不知道这家商店正在进行面部识别试验,并且讨厌其他人经历她所经历的事情。她说,她感到这些男人“种族歧视”,并称他们的行为是“不合情理的”。她说,尽管工作人员接受了培训,但这种情况还是让她感到害怕。“我觉得我现在走到哪里都处于危险之中,这太可怕了。”

 Solomon说,商店已经联系了她,安排了一次关于这一事件的会议。

 Foodstuffs发言人表示,4月2日,一名值班经理和同事在商店“接近了他们认为有前科顾客”。“归根结底,这是一个真正的人为错误案例。

“客户完全有权感到不安,我们完全可以理解她的反应。当我们犯错时,我们会承认错误,并迅速采取行动纠正错误。所有合适的员工将接受进一步的培训,并将向私隐专员公署报告事件。

“我们向客户道歉,并将直接与她联系,为发生的事情道歉。他们说,在对面部识别系统的警报采取行动之前,两名训练有素的团队成员必须验证匹配的图像是否是系统中注册的人。

“在这种情况下,我们的团队没有做出正确判断,而是弄错了。”

该商店表示“非常重视”顾客和团队的安全,零售犯罪是他们面临“重大问题”。其中包括最近一名客户据称的袭击事件,将一名值班经理送进了医院。“今年,该团队报告了100多起商店零售犯罪事件,并有250多人擅自闯入(行窃)。

上周,隐私专员Michael Webster对Foodstuffs的面部识别试验进行了调查,以监督其是否遵守了《隐私法》,并有效地减少了这些超市的有害行为。

在一份书面声明中,专员办公室的一位发言人表示,他担心“偏见和准确性”以及面部识别技术(FRT)不是减少超市有害行为的“行之有效的工具”。“即使是最准确的人脸识别软件的全球评估也表明,有色人种,尤其是有色人种女性更有可能发生错误匹配。

该软件也没有针对新西兰人口进行培训,他不希望看到人们被诬告或错误地禁止进入当地超市。

新西兰消费者协会首席执行官Jon Duffy表示,从隐私的角度来看,这项技术的使用是“高度侵入性的”,“就像用大锤敲坚果一样”。

“许多新西兰人没有选择在哪里购物,这意味着他们可能被迫放弃他们的数据,无论他们喜欢与否。

他说,新西兰消费者协会对技术可能不可靠的证据以及这在“分析”某些种族群体时意味着什么表示担忧。

“智能识别系统如果仅仅通过这种海外培训,能够正确区分毛利人和太平洋岛民的可能性可能会降低,”他说。“去商店被错误的识别为罪犯是耻辱和可怕的,这不是我们应该冒险的事情。”

请先 登录账号 参与评论。
相关内容