去年，Instagram推出了一個增強的評論過濾器，該過濾器使用機器學習在具有挑戰性的環境中發現令人反感的單詞和短語。現在，該公司正在擴大這項功能覆蓋范圍。今天，它宣布它將使用AI“主動檢測欺凌”，然后再將內容發送給人類審查者進行復查。新功能將在未來幾周內推廣給用戶，并將在10月份的美國國家欺凌預防月和英國反欺凌周之前推出。同樣的技術也被添加到實時視頻中以過濾那里的評論。

這是新Instagram首席執行官亞當·莫塞里（Adam Mosseri）在上個月聯合創始人凱文·西斯特羅姆（Kevin Systrom）和邁克·克里格（Mike Krieger）倉促離職后接手的第一個產品公告。據報道，這一分歧是由于Instagram公司和母公司Facebook之間的緊張關系引發的，該公司經常插手Instagram的產品。

隨著公眾對Facebook的信任繼續下降，Instagram仍然是該公司產品陣容的亮點。它受歡迎，有利可圖，而且還有可能被Facebook丑聞所玷污。在這種情況下，使用人工智能來幫助清除令人反感的內容并讓Instagram成為一個擁有良好氛圍的家園是非常重要的。

去年在Wired發表的一篇報道解釋了Instagram的機器學習評論過濾器的一些細節，但已經確定這種技術不適合內容審核。大規模部署人工智能是便宜的，是的，但它仍然無法處理內容背景和細微差別。這就是為什么這些新的欺凌過濾器還向人類審核者發送內容以執行最終檢查，沒有監督的自動化是一種災難。