算法可以改變兒童的生活路線。孩子們正在與Alexas互動，后者可以記錄他們的語音數據并影響他們的語音和社會發展。他們在TikTok和YouTube上通過推薦系統推送給他們的視頻，最終形成了他們的世界觀。

算法也越來越多地用于確定他們的學歷，是否接受醫療保健，甚至確定其父母是否適合照顧他們。有時這可能會造成毀滅性的影響：例如，去年夏天，成千上萬的學生在算法（代替大流行取消的標準化測試）中錯誤地預測了他們的學習成績后，失去了大學錄取資格。

換句話說，在使用和被人工智能使用時，兒童通常處于最前沿，這可能會使他們受到傷害。聯合國兒童基金會聯合國兒童基金會數字連接政策專家史蒂夫·沃斯盧（Steve Vosloo）表示：“由于它們在智力，情感和身體上的發展，因此非常有形。”沃斯盧（Vosloo）領導了聯合國兒童基金會（UNicef）起草的一套新指南，旨在幫助政府和公司制定考慮兒童需求的AI政策。9月16日發布的這9項新準則是與全球決策者，兒童發展研究人員，人工智能從業人員和兒童進行的幾次磋商的最終結果。他們還考慮到了1989年批準的一項人權條約《聯合國兒童權利公約》。

這些指導原則并不是要成為另一套AI原則，其中許多原則已經說了同樣的話。今年1月，哈佛大學伯克曼·克萊因中心對指導國家和公司AI戰略的36份最著名文件的審查發現了八個共同主題，其中包括隱私，安全，公平和可解釋性。

相反，聯合國兒童基金會的指導原則旨在補充這些現有主題，并使其適合兒童。例如，人工智能系統不僅應該是可解釋的，還應該對孩子是可以解釋的。他們還應考慮兒童的獨特發展需求。Vosloo說：“兒童擁有成年人的其他權利。”據估計，他們至少也占在線用戶的三分之一。他指出：“我們這里不是在談論少數群體。”

除了減輕AI危害外，該原則的目標還在于鼓勵開發可以改善兒童成長和福祉的AI系統。例如，如果設計得當，基于AI的學習工具將被證明可以提高兒童的批判性思維和解決問題的能力，并且對于學習障礙的孩子可能會有用。情緒化的AI助手雖然相對新生，但可以提供心理健康支持，并且已被證明可以改善自閉癥兒童的社交技能。謹慎使用面部識別功能可以幫助識別被綁架或被拐賣的孩子。

還應該對兒童進行有關AI的教育，并鼓勵他們參與AI的發展。Vosloo說，這不僅僅是保護他們。這是關于賦予他們權力并賦予他們創造未來的動力。