AI倫理觀察丨雲從科技:以倫理為 “引擎” 驅動 AI 産業可持續發展-新華網
新華網 > > 正文
2025 08/05 16:20:10
來源:新華網

AI倫理觀察丨雲從科技:以倫理為 “引擎” 驅動 AI 産業可持續發展

字體:

  當前,人工智能技術正加速向金融、政務、製造等社會各領域深度滲透,在重塑産業發展格局的同時,也隨之産生了一系列亟待破解的倫理挑戰。技術快速迭代與倫理規範、安全保障之間的“時差”,已成為行業最大痛點——惡意使用、數據濫用、算法偏見等風險日益凸顯,不僅威脅用戶隱私和公平權益,更對國內多數産業良性發展産生密切影響。在這一背景下,AI倫理已非技術發展的附加項,而是關乎人類福祉的核心命題。作為中國AI領域的頭部企業,雲從科技認識到,構建安全、可信、可控的人工智能體系,是推動産業健康發展的前提,更是企業不可推卸的社會責任。

  雲從科技對AI倫理的重視,源於其早期實踐中的考驗。雲從科技董秘楊樺在本次採訪中坦言:“在服務銀行、公共安全等關鍵領域時,數據的精準性、算法的公平性、系統的安全性直接決定業務成敗。一個誤識別可能帶來巨大損失,這讓我們深刻認識到安全可控、以人為本是AI發展的前提。”從實戰中淬煉的認知,驅動雲從科技將倫理置於戰略核心,以“可知、可控、可靠、可用”為準則,積極參與國家標準制定,確保技術革新與倫理規範同步演進。

 雲從科技董秘楊樺

  倫理認知引領技術實踐:從源頭築牢安全防線

  雲從科技對AI倫理的認知,始終圍繞“可知、可控、可靠、可用”這四大支柱展開。楊樺強調:“符合倫理的AI技術,核心在於實現技術透明與風險可控。”在制定內部準則時,公司既借鑒了國際框架如OECD AI原則和歐盟可信賴人工智能評估清單(ALTAL),更緊密結合中國國情,以《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》及網信辦發布的《生成式人工智能服務管理辦法》為基石。這種融合國際共識與本土實踐的路徑,使雲從科技的倫理體系既具全球視野,又扎根中國實際。

  這一認知直接驅動了技術研發的倫理化轉型。在數據採集環節,雲從科技堅持“最小必要”原則,確保所有數據獲取均經合法授權,並進行嚴格脫敏與匿名化處理,建立全生命周期安全管理機制。楊樺解釋:“拿數據必須有法可依,這是隱私保護的底線。”模型訓練階段,公司依託國家網安基地的“可控訓練場”,構建安全受監管環境——所有訓練數據經過多級人工與AI工具審核,主動剔除侵權、虛假或有害內容。楊樺指出:“從‘喂給模型的第一口數據’就守住倫理底線,是防範虛假信息傳播的源頭之策。”同時,通過對抗訓練增強模型魯棒性,並持續監控模型行為,防止算法“跑偏”。在隱私保護上,聯邦學習、可信執行環境(TEE)等技術的應用,實現了“數據可用不可見”,楊樺總結道:“這不僅是技術創新,更是倫理承諾。”

  這些實踐已轉化為可量化的成果。雲從科技參與91項國家及行業標準制定,在“防算法歧視”等標準起草中貢獻了多模態融合技術,該技術通過融合文本、圖像、語音等多源信息,減少單一模態的偏見風險。公司還建立了動態公平性監測機制,結 合可解釋性AI(XAI)工具,讓模型決策過程可追溯、可審計。楊樺舉例:“我們發布的金融大模型獲中國信通院可信AI最高評級,證明安全可控不是口號,而是落地的競爭優勢。”這一系列舉措,不僅提升了技術可靠性,更推動自動化決策體系向公平、透明邁進,為行業樹立了標杆。

  構建産業生態,前瞻未來挑戰:從合作到引領

  儘管在AI倫理領域取得顯著成果,雲從科技並未止步於自身實踐,而是將目光投向産業生態構建。楊樺坦言:“倫理問題非一企之力可解,需産業鏈協同共治。”公司以“理念先行,實踐落地”為原則,將“負責任AI”理念傳遞給上下游夥伴,並通過具體項目將倫理原則“內置”到産品設計中。例如,在與元生智能合作的養老産品中,毫米波雷達技術僅監測老人體徵而不錄製音視頻,跌倒報警功能需經授權觸發。楊樺闡釋:“養老科技的本質是‘護人’,不是‘監控人’——這是與元生團隊反復溝通的共識。”同樣,在眾數信科參與的廈門海洋保護項目中,5G-A通感&&算法主動規避人臉信息,只輸出“行為合規性”判斷,楊樺強調:“這種設計平衡了執法需求與漁民隱私,技術既要保護白海豚,也要保護人的權益。”

  這種生態協作直接支撐了雲從科技對未來AI倫理挑戰的前瞻布局。面對技術演進中不斷涌現的新風險,如深度偽造和惡意攻擊,公司提出“融入標準、探索技術、引導客戶”三聯動策略。楊樺&&:“應對不確定性,規則建設至關重要。”雲從科技深度參與算法安全、數據治理等國家標準起草,將一線經驗轉化為行業基線。同時,持續投入隱私計算、可解釋AI(XAI)及深度偽造檢測等“倫理使能技術”,楊樺指出:“這些技術儲備是應對新挑戰的‘工具箱’。”在引導客戶層面,雲從科技不以供應商自居,而是作為顧問夥伴,通過金融風控、智慧城市等案例,展示“可控訓練場”如何通過嚴格審核提升信任度。

  雲從科技以認知為基、實踐為刃、生態為網,正引領AI倫理從理論走向落地。在技術狂飆突進的時代,其堅守的“安全可信”支柱,不僅保障了用戶權益與社會穩定,更昭示了一條以倫理驅動創新的可持續發展之路。正如楊樺所言:“倫理不是束縛,而是AI向善的引擎。”這不僅是雲從科技的承諾,更是中國AI産業走向海外的責任擔當。

【糾錯】 【責任編輯:王蓓蓓】