數字經濟時代千千萬萬的生產活動催生海量智能化模型。近年來，人工智能技術取得了巨大進展，大數據與人工智能的結合使得海量模型的建立成為可能。無論是在縱深的算法研究，還是橫向的創新場景層面，人工智能技術都為數字經濟拉開了波瀾壯闊的巨幕。人工智能模型有著強大的優勢，不需要預設的邏輯、不需要專家觀點就可以實現建模，并且各類算法工具平臺可以支持快速建模。然而，人工智能模型也有不足，主要集中在模型的可解釋性、校驗方法的可靠度，模型缺陷與局限性等方面。
算法模型治理是人工智能的下一篇章。算法模型的治理，即模型的可解釋性、模型的精度與風險、算法公平性等方面。模型治理既是技術，又是制度，成熟的數字化企業會形成完整的模型治理制度。在推廣建設人工智能能力的同時，也要推廣成熟的模型治理制度建設。目前，包括對抗攻擊、因果分析與可解釋性分析的研究工作已經給這方面的工作指出了發展方向。在這些方面，我們認為應該進行以下工作內容：一是建立模型治理制度，形成模型價值評估、精度評估、風險與缺陷管理的成熟體系。二是建立模型評測中心，結合各類場景牽頭建設數據模型標準，并實踐模型評測，賦能行業發展。
模型治理的另一面是算法的合規性。在數字經濟時代，越來越多的生產活動需要依靠算法模型開展，算法與業務的深度融合會是未來的趨勢，對于業務的合規性要求也會傳導到對算法的合規性要求。同時，行業監管也在逐漸建立之中。建議各行業也應建立相應的行業規范與標準，在數據安全法等法律法規框架內，發展測評中心，對算法使用的合規性、公平性進行測試和評估。
建設數字經濟離不開算力的支持。算力在數字經濟建設過程中的必要性，主要體現在五方面：一是數據模型需要在算力平臺上實現；二是在海量數據、海量模型、實時計算的數字化時代，對算力的要求急劇提升；三是建立數據要素流通市場，多方數據共同建模使得對算力的要求更高；四是創新型軟硬件體系架構、智能芯片以及未來的量子計算技術對算力都有較大需求；五是從數據要素安全的角度來講，算法是攻防雙方的主要角力點，更高的算力支持，能夠有效增加不法分子竊取數據的成本，從而降低安全風險。
布局“優化防守效率”的安全體系。安全對抗本質是敵我雙方對資源的消耗戰，優化敵我戰損比是贏得勝利的關鍵。從安全技術角度出發，安全多方計算和零知識證明等隱私計算技術，在保障數據隱私和安全性的同時，相比無隱私保護的同類計算在計算效率和通訊復雜度上都有一定程度的犧牲。因此，為了保護數據要素安全，需要綜合考慮各類技術的優劣勢，優先融合應用“低算力成本、高敵方消耗”的密碼技術，采用免改造應用的創新數據保護技術，合理加強“防護算力”投入，以實現更低成本、更高安全的有效數據防護。
堅持關鍵核心技術自主可控。構建數據基礎制度是支持數字經濟的前提，核心技術是推動和完善數據基礎制度建立的支撐，技術深耕、模型建設、算力提升都是數字經濟發展中不可或缺的組成部分。從技術角度，我國要加強安全多方計算、商用密碼技術、人工智能等關鍵核心技術攻關，牽住自主創新這個“牛鼻子”，發揮我國社會主義制度優勢、新型舉國體制優勢、超大規模市場優勢，提高數字技術基礎研發能力，打贏關鍵核心技術攻堅戰，牢牢掌握發展數字經濟的自主權。
（作者：姚期智系中國科學院院士，清華大學交叉信息研究院院長、教授；郁昱系上海交通大學計算機科學與工程系教授）
責任編輯：
