本周二，美東時間，得以觀測到，在上個月有“里程碑式”標簽的行政命令簽署后，美國總統Biden正在領導一場關于生成式人工智能的政策改革。該行動從早在四季度就開始實施，其目的就是為了保證機器學習系統能精準處理安全問題。

美國商務部的國家標準與技術研究院（NIST）宣布，即將于2月2日起，啟動人工智能的關鍵性測試工作，這對于保護人工智能系統的安全性具有巨大的現實意義。

NIST強調，正在積極擬定評估和檢測AI系統的具體指南，以推動人工智能領域的標準化進程，同時為評估人工智能系統提供完善的測試環境。針對人工智能行業的潛在風險，美國商務部長Gina Raimondo表示，全新的NIST措施正受到Biden總統10月份行政命令的催化作用影響，致力于打造“涵蓋范圍廣泛，關乎人工智能安全、保障及信任的行業標準，以此加強美國在負責任運營和使用這項快速進化技術方面的全球領導地位。”

據悉，NIST目前計劃制定包含“紅隊”測試策略在內的專項指導方針，即由專家團隊模擬對手環境，對人工智能系統的安全性能進行全面檢驗。“紅隊”測試作為網絡安全測試中的核心環節，其重要性不言而喻。8月份，在一次重量級的網絡安全會議上，美國首次公開展示了人工智能的“紅隊”測試過程，吸引了大量AI行業組織如AI Village、SeedAI和Humane Intelligence等參與其中。

據白宮披露，該次測試的參與人次高達數千人，大家通過嘗試主動攻擊系統來找出可能存在的安全隱患，并探討了如何改進以提升整體防御水平。此次測試也證實了“外部紅隊在發現新穎的人工智能風險方面的顯著優勢”。