在線客服
企業(yè)微信
核心提示：以色列的面部識別技術(shù)正被用于美國的各大賭場里，這引起了人們對私營機(jī)構(gòu)將如何使用強(qiáng)大監(jiān)控工具的擔(dān)憂。
以色列的面部識別技術(shù)正被用于美國的各大賭場里，這引起了人們對私營機(jī)構(gòu)將如何使用強(qiáng)大監(jiān)控工具的擔(dān)憂。
每一天，俄克拉荷馬州塔爾薩市河靈賭場 (River Spirit Casino) 保安室的一排排監(jiān)控屏幕上都會出現(xiàn)數(shù)千張面孔。
每一張出現(xiàn)的面孔都會與該賭場的禁止入內(nèi)人員監(jiān)控名單進(jìn)行比對，而這份名單里包含了騙子、已知罪犯，以及可能心懷不滿、伺機(jī)搗亂的前雇員。
該賭場的安保系統(tǒng)采用了以色列監(jiān)控初創(chuàng)公司Oosto的面部識別技術(shù)。這家有爭議的公司原名是AnyVision，因向以色列政府提供用于監(jiān)控約旦河西岸邊境的技術(shù)而在2019年登上了各大新聞媒體的頭條。
如今，該公司已更名，并將業(yè)務(wù)重心更多地轉(zhuǎn)移到了私營公司，其中就包括賭場。
今年7月，《福布斯》的一名視頻制作人實(shí)地觀看了該賭場監(jiān)控中心的運(yùn)作。只見一個(gè)藍(lán)色的方框出現(xiàn)在一名戴著口罩的女性的頭上，接著這個(gè)方框變綠了。對于這個(gè)軟件來說，綠框是一個(gè)危險(xiǎn)的標(biāo)志，盡管這位女性遮住了臉，但Oosto的面部識別系統(tǒng)仍然高度肯定地表示她是一個(gè)不受歡迎的人。
博彩公司Muscogee Nation Gaming Enterprises的合規(guī)與監(jiān)控主管Travis Thompson指著運(yùn)行Oosto軟件的屏幕說：“她肯定在試圖隱藏自己的身份，因?yàn)槲覀兊南到y(tǒng)給她打出了一個(gè)很高的分?jǐn)?shù)。”
他說，在該軟件中進(jìn)行標(biāo)記之后，他們就會親自核查這個(gè)人的身份。如果此人在被禁止入內(nèi)的名單上，工作人員就會給他/她一張表格，提醒對方在這里不受歡迎，并告訴其已經(jīng)出現(xiàn)在了賭場的面部識別數(shù)據(jù)庫中，然后把他們送出賭場。
這種監(jiān)控技術(shù)正在覆蓋美國各地的私人和公共場所，而這種強(qiáng)大的技術(shù)不僅掌握在了警察和聯(lián)邦政府手中，而且還被賣給了私營機(jī)構(gòu)，無論是賭場還是零售店。
雖然在企業(yè)看來，這不過是一種實(shí)現(xiàn)機(jī)構(gòu)安全自動化的方法，但這種在過去主要由情報(bào)和執(zhí)法機(jī)構(gòu)使用的工具的私有化仍然讓隱私保護(hù)活動人士感到害怕。
美國電子隱私信息中心 (EPIC) 負(fù)責(zé)國內(nèi)監(jiān)控的律師Jake Wiener說：“將面部識別技術(shù)賣給私營公司，實(shí)際上會增加警察濫用技術(shù)的風(fēng)險(xiǎn)，因?yàn)樗綘I公司會向警察出售或提供這種技術(shù)權(quán)限。面部識別技術(shù)破壞了人們的隱私，它被使用得越多，在公共和私人空間里追蹤人們的動向就越容易。”
不過，Oosto仍然希望自己能成為這個(gè)市場的頂級供應(yīng)商，因?yàn)橛泻芏鄽W美私營機(jī)構(gòu)想要讓自己的監(jiān)控更加順暢。自2015年成立以來，該公司已經(jīng)從軟銀和高通創(chuàng)投 (Qualcomm Ventures) 等機(jī)構(gòu)籌集了3.8億美元資金。
2019年，以色列媒體《國土報(bào)》 (Haaretz) 報(bào)道稱，這家監(jiān)控企業(yè)向以色列軍方提供了用于識別西岸邊境的巴勒斯坦人的工具，之后微軟的融資部門M12便撤出了持股。
不過，Oosto引用了一份所謂的針對其用例的獨(dú)立審計(jì)報(bào)告，稱其技術(shù)并沒有被用于開展大規(guī)模監(jiān)控活動，而是在邊境進(jìn)行“準(zhǔn)入控制”，即在人們來往于約旦河西岸和以色列之間時(shí)進(jìn)行面孔比對。
自上述報(bào)道發(fā)布以來，Oosto便改變了其品牌名稱，并將重點(diǎn)更多地轉(zhuǎn)移到私營部門，以及為更廣泛的地域提供服務(wù)。目前，該公司的技術(shù)服務(wù)對象包括在本土觀看比賽的美國球迷、參觀印度泰姬陵的游客、參觀特拉維夫私人拉斐爾醫(yī)院的訪客，以及進(jìn)入悉尼澳大利亞賽馬俱樂部的觀眾。
賭場是Oosto非政府業(yè)務(wù)的主要組成部分。公司聲稱自己在為拉斯維加斯大道上一些最大的賭場提供服務(wù)，但表示不能提供這座“罪惡之城”里的客戶名字。
此外，它還為坐落于倫敦上流社區(qū)梅菲爾區(qū)的私人賭場Les Ambassadeurs提供面部識別服務(wù)。在那里，Oosto的技術(shù)被用于發(fā)現(xiàn)不法分子，還有識別VIP客人并為其提供服務(wù)。但出于倫理方面的考慮，河靈賭場的老板決定不使用它來檢測貴賓。
“我們希望我們的賭場有一種對客戶友好的氛圍，所以不希望讓他們覺得‘老大哥’一直在盯著他們。那不是我們的系統(tǒng)在這里的用途。”Travis Thompson說。
他補(bǔ)充稱，自己的賭場之所以決定采用面部識別技術(shù)，是為了支持不堪重負(fù)的賭場安保人員，因?yàn)樗麄?ldquo;很難親自識別出人臉”。
“在過去，這個(gè)職責(zé)是由我們的保安和樓層人員肩負(fù)的，他們要走出去，記住誰是不良主顧，誰是拙劣演員，并試圖在每天的人海當(dāng)中識別出他們。”
Travis Thompson表示，他的賭場曾與執(zhí)法部門合作過，而這個(gè)面部識別系統(tǒng)在把欺詐者關(guān)進(jìn)監(jiān)獄方面發(fā)揮了關(guān)鍵作用。他不愿透露具體的案例，不過賭場上常見的欺詐行為包括利用監(jiān)控設(shè)備在撲克牌局中作弊，以及暗中給賭局加注。
雖然該賭場表示，這項(xiàng)技術(shù)只會用于保護(hù)大多數(shù)無辜的客戶群體，且后者的臉部信息不會存儲在其系統(tǒng)中，但面部識別技術(shù)的批評者說，這類措施不足以保護(hù)人們的隱私。
雖然警察和政府機(jī)構(gòu)受到信息自由要求和其他形式的監(jiān)督，但私營機(jī)構(gòu)卻不受此限制，并且它們有權(quán)將任何人列入自己的監(jiān)視名單，并借用此技術(shù)將人送進(jìn)監(jiān)獄。
Jake Wiener說：“最起碼，Oosto應(yīng)該保留搜索和決策的記錄。如果一個(gè)人因?yàn)檫@項(xiàng)技術(shù)而被拒絕參加某個(gè)活動，或者因?yàn)镺osto的識別而被逮捕，那么這個(gè)人應(yīng)該要知道他們是如何被識別的。”
除了每天掃描成千上萬人的臉?biāo)鶐淼娜渥円蛩赝�，這項(xiàng)技術(shù)也有一個(gè)無法成功檢測非白人個(gè)體的歷史。此前，該系統(tǒng)對黑人的面部識別錯誤就曾導(dǎo)致有人被錯誤逮捕，而在今年早些時(shí)候，也有美國參議員呼吁聯(lián)邦機(jī)構(gòu)停止使用該技術(shù)，因?yàn)樗?ldquo;對黑人、其他有色人種群體和移民群體構(gòu)成了獨(dú)特的威脅”。
在最近的一個(gè)案例中，伊利諾伊州公民自由聯(lián)盟 (ACLU) 就成功地迫使一家名為Clearview AI的面部識別公司停止在該州或向美國私營公司進(jìn)行銷售（該公司已經(jīng)表示不會向美國的非政府組織出售產(chǎn)品）。
佛蒙特州和俄勒岡州波特蘭市則禁止使用面部識別，以至于這些地方的警察和私營機(jī)構(gòu)都無法使用這種技術(shù)。
不過，一些禁令將在未來幾個(gè)月里到期。在加州，警方目前被禁止在隨身相機(jī)中使用面部識別和生物識別掃描儀，但該禁令的有效期只到明年1月；弗吉尼亞州曾禁止警察使用面部識別技術(shù)，但隨后又在今年7月取消了該禁令，盡管該州的新法律只允許“在所有人口群體中具有至少98%的準(zhǔn)確率”的面部識別產(chǎn)品。
Oosto的首席營銷官Dean Nicolls表示，在很大程度上，主要供應(yīng)商中已經(jīng)克服了偏見問題。“如果你在一群中年白人男性身上訓(xùn)練人工智能，那么它將非常擅長識別中年白人男性，但對非裔美國女性的識別可能就不太好。不過這些偏見在很大程度上已經(jīng)被消除了。如果你看看面部識別領(lǐng)域的所有主要參與者，你會發(fā)現(xiàn)，從年齡或種族的角度來看，他們幾乎沒有任何偏見。”
但是，該公司拒絕提供任何顯示其技術(shù)在偏差測試中的表現(xiàn)數(shù)據(jù)。美國國土安全部去年開展的一項(xiàng)研究發(fā)現(xiàn)，最好的算法對人臉的檢測準(zhǔn)確率超過了95%，無論其膚色如何，可總體而言，該技術(shù)在檢測白人男性方面的表現(xiàn)仍然好于任何其他群體。
Dean Nicolls說，Oosto其實(shí)并不僅僅專注于面部識別，它還計(jì)劃進(jìn)軍同樣有爭議的行為識別領(lǐng)域。雖然有越來越多的證據(jù)表明，軟件可以憑借超90%的準(zhǔn)確率識別人臉，但尚未證明代碼能夠確定一個(gè)人是否會執(zhí)行危險(xiǎn)行為，或能否通過分析一個(gè)人的運(yùn)動模式來確定其精神狀態(tài)。
此前，《福布斯》報(bào)道過多家開展情緒檢測和預(yù)測的公司，而研究機(jī)構(gòu)AI Now的聯(lián)合創(chuàng)始人Meredith Whittaker就抨擊該技術(shù)“并沒有健全的科學(xué)共識”。
去年，《福布斯》曾報(bào)道了Oosto的一項(xiàng)專利，該專利將其面部識別技術(shù)應(yīng)用于無人機(jī)，從而實(shí)現(xiàn)空中監(jiān)控。然而，該公司尚未將這項(xiàng)技術(shù)付諸實(shí)踐。
如果Oosto還打算繼續(xù)推動監(jiān)控技術(shù)的可行性，它將遇到更嚴(yán)格的技術(shù)和道德壁壘。
當(dāng)微軟在2020年決定與這家科技公司分道揚(yáng)鑣時(shí)，盡管前美國司法部長Eric Holder已經(jīng)確定這筆投資沒有違反前者的任何道德政策，此舉也清楚地表明了參與傳播這項(xiàng)技術(shù)的風(fēng)險(xiǎn)。正如當(dāng)時(shí)雙方在聯(lián)合聲明中所說的：“從微軟的角度來看，審計(jì)過程強(qiáng)化了在一家銷售敏感技術(shù)的公司中擔(dān)任少數(shù)股權(quán)投資者的挑戰(zhàn)。”
隨后，Oosto宣布將不再接受面部識別業(yè)務(wù)的少數(shù)股權(quán)投資。
每一天，俄克拉荷馬州塔爾薩市河靈賭場 (River Spirit Casino) 保安室的一排排監(jiān)控屏幕上都會出現(xiàn)數(shù)千張面孔。
每一張出現(xiàn)的面孔都會與該賭場的禁止入內(nèi)人員監(jiān)控名單進(jìn)行比對，而這份名單里包含了騙子、已知罪犯，以及可能心懷不滿、伺機(jī)搗亂的前雇員。
該賭場的安保系統(tǒng)采用了以色列監(jiān)控初創(chuàng)公司Oosto的面部識別技術(shù)。這家有爭議的公司原名是AnyVision，因向以色列政府提供用于監(jiān)控約旦河西岸邊境的技術(shù)而在2019年登上了各大新聞媒體的頭條。
如今，該公司已更名，并將業(yè)務(wù)重心更多地轉(zhuǎn)移到了私營公司，其中就包括賭場。
今年7月，《福布斯》的一名視頻制作人實(shí)地觀看了該賭場監(jiān)控中心的運(yùn)作。只見一個(gè)藍(lán)色的方框出現(xiàn)在一名戴著口罩的女性的頭上，接著這個(gè)方框變綠了。對于這個(gè)軟件來說，綠框是一個(gè)危險(xiǎn)的標(biāo)志，盡管這位女性遮住了臉，但Oosto的面部識別系統(tǒng)仍然高度肯定地表示她是一個(gè)不受歡迎的人。
博彩公司Muscogee Nation Gaming Enterprises的合規(guī)與監(jiān)控主管Travis Thompson指著運(yùn)行Oosto軟件的屏幕說：“她肯定在試圖隱藏自己的身份，因?yàn)槲覀兊南到y(tǒng)給她打出了一個(gè)很高的分?jǐn)?shù)。”
他說，在該軟件中進(jìn)行標(biāo)記之后，他們就會親自核查這個(gè)人的身份。如果此人在被禁止入內(nèi)的名單上，工作人員就會給他/她一張表格，提醒對方在這里不受歡迎，并告訴其已經(jīng)出現(xiàn)在了賭場的面部識別數(shù)據(jù)庫中，然后把他們送出賭場。
塔爾薩河靈賭場的監(jiān)控控制室顯示，Oosto技術(shù)正在掃描人臉。圖源：FORBES MEDIA
這種監(jiān)控技術(shù)正在覆蓋美國各地的私人和公共場所，而這種強(qiáng)大的技術(shù)不僅掌握在了警察和聯(lián)邦政府手中，而且還被賣給了私營機(jī)構(gòu)，無論是賭場還是零售店。
雖然在企業(yè)看來，這不過是一種實(shí)現(xiàn)機(jī)構(gòu)安全自動化的方法，但這種在過去主要由情報(bào)和執(zhí)法機(jī)構(gòu)使用的工具的私有化仍然讓隱私保護(hù)活動人士感到害怕。
美國電子隱私信息中心 (EPIC) 負(fù)責(zé)國內(nèi)監(jiān)控的律師Jake Wiener說：“將面部識別技術(shù)賣給私營公司，實(shí)際上會增加警察濫用技術(shù)的風(fēng)險(xiǎn)，因?yàn)樗綘I公司會向警察出售或提供這種技術(shù)權(quán)限。面部識別技術(shù)破壞了人們的隱私，它被使用得越多，在公共和私人空間里追蹤人們的動向就越容易。”
不過，Oosto仍然希望自己能成為這個(gè)市場的頂級供應(yīng)商，因?yàn)橛泻芏鄽W美私營機(jī)構(gòu)想要讓自己的監(jiān)控更加順暢。自2015年成立以來，該公司已經(jīng)從軟銀和高通創(chuàng)投 (Qualcomm Ventures) 等機(jī)構(gòu)籌集了3.8億美元資金。
2019年，以色列媒體《國土報(bào)》 (Haaretz) 報(bào)道稱，這家監(jiān)控企業(yè)向以色列軍方提供了用于識別西岸邊境的巴勒斯坦人的工具，之后微軟的融資部門M12便撤出了持股。
不過，Oosto引用了一份所謂的針對其用例的獨(dú)立審計(jì)報(bào)告，稱其技術(shù)并沒有被用于開展大規(guī)模監(jiān)控活動，而是在邊境進(jìn)行“準(zhǔn)入控制”，即在人們來往于約旦河西岸和以色列之間時(shí)進(jìn)行面孔比對。
自上述報(bào)道發(fā)布以來，Oosto便改變了其品牌名稱，并將重點(diǎn)更多地轉(zhuǎn)移到私營部門，以及為更廣泛的地域提供服務(wù)。目前，該公司的技術(shù)服務(wù)對象包括在本土觀看比賽的美國球迷、參觀印度泰姬陵的游客、參觀特拉維夫私人拉斐爾醫(yī)院的訪客，以及進(jìn)入悉尼澳大利亞賽馬俱樂部的觀眾。
賭場是Oosto非政府業(yè)務(wù)的主要組成部分。公司聲稱自己在為拉斯維加斯大道上一些最大的賭場提供服務(wù)，但表示不能提供這座“罪惡之城”里的客戶名字。
此外，它還為坐落于倫敦上流社區(qū)梅菲爾區(qū)的私人賭場Les Ambassadeurs提供面部識別服務(wù)。在那里，Oosto的技術(shù)被用于發(fā)現(xiàn)不法分子，還有識別VIP客人并為其提供服務(wù)。但出于倫理方面的考慮，河靈賭場的老板決定不使用它來檢測貴賓。
“我們希望我們的賭場有一種對客戶友好的氛圍，所以不希望讓他們覺得‘老大哥’一直在盯著他們。那不是我們的系統(tǒng)在這里的用途。”Travis Thompson說。
他補(bǔ)充稱，自己的賭場之所以決定采用面部識別技術(shù)，是為了支持不堪重負(fù)的賭場安保人員，因?yàn)樗麄?ldquo;很難親自識別出人臉”。
Muscogee Nation Gaming Enterprises的合規(guī)與監(jiān)控主管Travis Thompson
“在過去，這個(gè)職責(zé)是由我們的保安和樓層人員肩負(fù)的，他們要走出去，記住誰是不良主顧，誰是拙劣演員，并試圖在每天的人海當(dāng)中識別出他們。”
Travis Thompson表示，他的賭場曾與執(zhí)法部門合作過，而這個(gè)面部識別系統(tǒng)在把欺詐者關(guān)進(jìn)監(jiān)獄方面發(fā)揮了關(guān)鍵作用。他不愿透露具體的案例，不過賭場上常見的欺詐行為包括利用監(jiān)控設(shè)備在撲克牌局中作弊，以及暗中給賭局加注。
雖然該賭場表示，這項(xiàng)技術(shù)只會用于保護(hù)大多數(shù)無辜的客戶群體，且后者的臉部信息不會存儲在其系統(tǒng)中，但面部識別技術(shù)的批評者說，這類措施不足以保護(hù)人們的隱私。
雖然警察和政府機(jī)構(gòu)受到信息自由要求和其他形式的監(jiān)督，但私營機(jī)構(gòu)卻不受此限制，并且它們有權(quán)將任何人列入自己的監(jiān)視名單，并借用此技術(shù)將人送進(jìn)監(jiān)獄。
Jake Wiener說：“最起碼，Oosto應(yīng)該保留搜索和決策的記錄。如果一個(gè)人因?yàn)檫@項(xiàng)技術(shù)而被拒絕參加某個(gè)活動，或者因?yàn)镺osto的識別而被逮捕，那么這個(gè)人應(yīng)該要知道他們是如何被識別的。”
除了每天掃描成千上萬人的臉?biāo)鶐淼娜渥円蛩赝�，這項(xiàng)技術(shù)也有一個(gè)無法成功檢測非白人個(gè)體的歷史。此前，該系統(tǒng)對黑人的面部識別錯誤就曾導(dǎo)致有人被錯誤逮捕，而在今年早些時(shí)候，也有美國參議員呼吁聯(lián)邦機(jī)構(gòu)停止使用該技術(shù)，因?yàn)樗?ldquo;對黑人、其他有色人種群體和移民群體構(gòu)成了獨(dú)特的威脅”。
在最近的一個(gè)案例中，伊利諾伊州公民自由聯(lián)盟 (ACLU) 就成功地迫使一家名為Clearview AI的面部識別公司停止在該州或向美國私營公司進(jìn)行銷售（該公司已經(jīng)表示不會向美國的非政府組織出售產(chǎn)品）。
佛蒙特州和俄勒岡州波特蘭市則禁止使用面部識別，以至于這些地方的警察和私營機(jī)構(gòu)都無法使用這種技術(shù)。
不過，一些禁令將在未來幾個(gè)月里到期。在加州，警方目前被禁止在隨身相機(jī)中使用面部識別和生物識別掃描儀，但該禁令的有效期只到明年1月；弗吉尼亞州曾禁止警察使用面部識別技術(shù)，但隨后又在今年7月取消了該禁令，盡管該州的新法律只允許“在所有人口群體中具有至少98%的準(zhǔn)確率”的面部識別產(chǎn)品。
塔爾薩市河靈賭場正在不斷地掃描黑名單上的面孔，它的監(jiān)控系統(tǒng)供應(yīng)商Oosto正計(jì)劃在未來的軟件中推出行為和身體部位識別。圖源：FORBES MEDIA
Oosto的首席營銷官Dean Nicolls表示，在很大程度上，主要供應(yīng)商中已經(jīng)克服了偏見問題。“如果你在一群中年白人男性身上訓(xùn)練人工智能，那么它將非常擅長識別中年白人男性，但對非裔美國女性的識別可能就不太好。不過這些偏見在很大程度上已經(jīng)被消除了。如果你看看面部識別領(lǐng)域的所有主要參與者，你會發(fā)現(xiàn)，從年齡或種族的角度來看，他們幾乎沒有任何偏見。”
但是，該公司拒絕提供任何顯示其技術(shù)在偏差測試中的表現(xiàn)數(shù)據(jù)。美國國土安全部去年開展的一項(xiàng)研究發(fā)現(xiàn)，最好的算法對人臉的檢測準(zhǔn)確率超過了95%，無論其膚色如何，可總體而言，該技術(shù)在檢測白人男性方面的表現(xiàn)仍然好于任何其他群體。
Dean Nicolls說，Oosto其實(shí)并不僅僅專注于面部識別，它還計(jì)劃進(jìn)軍同樣有爭議的行為識別領(lǐng)域。雖然有越來越多的證據(jù)表明，軟件可以憑借超90%的準(zhǔn)確率識別人臉，但尚未證明代碼能夠確定一個(gè)人是否會執(zhí)行危險(xiǎn)行為，或能否通過分析一個(gè)人的運(yùn)動模式來確定其精神狀態(tài)。
此前，《福布斯》報(bào)道過多家開展情緒檢測和預(yù)測的公司，而研究機(jī)構(gòu)AI Now的聯(lián)合創(chuàng)始人Meredith Whittaker就抨擊該技術(shù)“并沒有健全的科學(xué)共識”。
去年，《福布斯》曾報(bào)道了Oosto的一項(xiàng)專利，該專利將其面部識別技術(shù)應(yīng)用于無人機(jī)，從而實(shí)現(xiàn)空中監(jiān)控。然而，該公司尚未將這項(xiàng)技術(shù)付諸實(shí)踐。
如果Oosto還打算繼續(xù)推動監(jiān)控技術(shù)的可行性，它將遇到更嚴(yán)格的技術(shù)和道德壁壘。
當(dāng)微軟在2020年決定與這家科技公司分道揚(yáng)鑣時(shí)，盡管前美國司法部長Eric Holder已經(jīng)確定這筆投資沒有違反前者的任何道德政策，此舉也清楚地表明了參與傳播這項(xiàng)技術(shù)的風(fēng)險(xiǎn)。正如當(dāng)時(shí)雙方在聯(lián)合聲明中所說的：“從微軟的角度來看，審計(jì)過程強(qiáng)化了在一家銷售敏感技術(shù)的公司中擔(dān)任少數(shù)股權(quán)投資者的挑戰(zhàn)。”
隨后，Oosto宣布將不再接受面部識別業(yè)務(wù)的少數(shù)股權(quán)投資。
