齊向東：人工智能帶來新的安全問題，需要人工智能技術化解

海峽網5月24日訊（海峽網記者 李牧晨）5月24日，以“釋放數據要素價值 發展新質生產力”為主題的第七屆數字中國建設峰會在福州開幕。在“數據資源與數字安全”分論壇結束后，全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東接受了媒體采訪，他表示：“人工智能帶來的新的安全問題，還需要人工智能技術進行化解。這次BCS大會我們將主題定為‘AI驅動安全’，就是希望立足安全領域，以全局視角和大家共同探討人工智能與安全的未來。我們要用AI驅動安全，跟數據投毒者、數據篡改者、數據竊取者進行賽跑，借助大模型的開發、應用和創新，把他們遠遠甩在后面。”

奇安信集團董事長齊向東接受媒體采訪。海峽網記者 李牧晨 攝

齊向東說，在數據、算力、算法“三駕馬車”的拉動下，人工智能正從“智慧型工具”，進化成人類的“全能型伙伴”。它給我們帶來的影響是全方位、顛覆性的，除了在促發展上起到的提質增效作用外，人工智能所帶來的安全問題最受人關注。當前，“飽和式”攻擊、深度偽造、數據投毒等等安全新風險，嚴重沖擊原有的網絡安全防線和安全體系，加劇了我們的不安全感，引人深思。

具體到數字安全方面，有三大新挑戰：

一是AI投毒安全隱患加重，攻擊者可以通過在訓練數據中加入精心構造的異常數據，破壞訓練數據集的準確性；

二是數據篡改隱患加重，AI的大規模內容生產能力可能產生真假難辨的信息，控制社交軟件乃至媒體的輿論聲音，激化意識形態矛盾；

三是數據泄露隱患加重，在向人工智能投喂數據的過程中，也會產生商業機密泄露問題，進而導致企業喪失核心競爭力。

安全是人們對美好生活最本質的向往，網絡安全是人工智能發展過程中無法回避的挑戰。作為人工智能最快落地、最快見到實效的行業之一，網絡安全產業肩負重任。未來人工智能給人類帶來的影響是正還是負，取決于當下如何培養和訓練它。如果培養得當，人工智能將會帶給人類應對新時代、新挑戰的“最優解”。做好“人工智能+安全”，關鍵要從提高防護效率入手。“去年，奇安信創新發布了QAX-GPT安全大模型，從開始訓練我們就制定了明確的目標：生產力是硬道理，一定要讓客戶在使用奇安信的GPT產品時就像是雇請了一個高級安全專家隊伍，把產品領回去就能變成自己的力量。”齊向東說。