應對人工智能技術在實際應用中引發的風險，除了積J推動人工智能技術可信能力 的提升，不斷減少技術本身的脆弱性，還應該構建更為積J的技術應用規范/規避 現階段人工智能技術"缺陷”帶來的問題。

人工智能產品研發中規劃設計、研發部署、運營使用環節的風險挑戰識別十分重要, 對于構建可信研發的實踐范式具有重要意義。

在規劃設計階段，難以在初始階段形成完備的風險分析，與此同時，確保相關理念貫徹執行存在挑戰，在設計理念、規范傳達給個層級實施人員過程中，存在非正確 傳達、誤解等風險，尤其機器學習場景中固有的不可預測性，傳達實施偏差會進一 步加劇。

在研發部署階段，一方面，數據層面可能會遇到數據缺失、重復、不一致、來源不 明等問題；另一方面，模型技術層面存在著技術選型不恰當，模型尚未完備訓練即 開始上線服務，以及模型運行之后的動態更新缺乏足夠驗證等挑戰。

在運營使用階段，一方面，在人類和人工智能交互時可能出現誤用、過度依賴等問 題；另一方面，人工智能相關技術存在著被惡意使用的風險。