2019 年 6 月 12 日，，舊金山宣布了一個“減少偏見的工具”，計劃于 7 月 1 日開始實施，這個工具使用基本的人工智能技術，能夠自動修改警方報告中能夠識別出嫌疑人種族的信息。

之所以設計出這個工具，是為了防止檢察官在決定某人是否被控犯罪時受到種族偏見的影響。

舊金山地區檢察官 George Gascón 在新聞發布會上表示，在美國被監禁的人中，有色人種是不成比例的。此外，他還指出，當看到像 Hernandez 這樣的名字時，檢察官立即就會知道這個人是拉美裔，而這可能會影響結果。

此前，舊金山就已致力于不讓檢察官看到報告中與種族相關的信息，但只是移除報告的前兩頁內容，剩下的部分檢察官還是會看到，因此才想利用機器學習來減少偏見。

據舊金山地區檢察官辦公室的說法，該工具不僅可以刪除種族描述，還可以刪除眼睛顏色和頭發顏色等描述。那些可能有意或無意地向檢察官透露嫌疑人有某種種族背景的人名、地點和社區也會被刪除。不僅如此，這個工具還會刪除警察的詳細信息，包括他們的警徽號碼，以防檢察官碰巧認識，可能對他們的報告有偏見。

另外，值得一提的是，地方檢察官辦公室稱這是“全國第一次”使用這項技術，之前沒有任何機構使用人工智能來做這件事。

這個將被美國首次應用的工具是 Alex Chohlas-Wood 和斯坦福計算政策實驗室的團隊開發的。Wood 說，這個新工具基本上只是一個輕量級的 web 應用程序，它使用幾種算法來自動編輯警察報告，使用計算機視覺識別報告中的單詞，并將其替換為通用版本，如位置、一號警官等。

此外，Wood 還表示這個工具已經進入了最后階段，是由舊金山科技公司免費開發的，將在幾周內開放源代碼，供其他公司采用。

目前，由于沒有看到這個系統在警察報告上運行，所以還不清楚效果如何。不過，當記者詢問如果男扮女裝，或者女扮男裝，這個工具是否還能夠修改這些信息時，Gascón 只是表示今天是個起點，這個工具會不斷發展的。

另外，這個工具也只是用于逮捕后的第一次審查，檢察官的最終決定仍基于完整的未修訂的報告。并且，如果最初的指控證據是視頻資料，還是會很明顯地揭示出嫌疑人的種族。

盡管這個工具是否能產生幫助尚未可知，但值得注意的是，在上個月，舊金山才剛剛發出 AI 人臉識別的禁令（可參見雷鋒網此前報道），是全球首個發布此項禁令的城市；而發出禁令的原因之一，就是人臉識別技術存在種族偏見。

說到底，AI 是具有偏見還是能夠消除偏見，最終還是取決于 AI 技術，而就目前 AI 頻繁處于爭議中的情況看來，AI 技術的發展還有很長的路要走。