向上向善！專家學者廈門共探算法治理的生態路徑

論壇現場。東南網記者 盧金福 攝

論壇現場。東南網記者 盧金福 攝

東南網7月19日報道（本網記者 盧金福）2023年中國網絡文明大會算法治理論壇昨日在廈門舉辦。論壇以“算法治理向上向善 網絡文明共建共享”為主題展開探討，來自算法領域的專家學者和企業代表通過主題演講等形式，聚焦人工智能技術發展的重點難點，立足算法綜合治理在新形勢下的迫切需求，共同探討人工智能技術創新發展新路徑、算法綜合治理新方法。

算法是數字社會、數字經濟的重要基礎，在社交媒體、電子商務、信息平臺等多領域被廣泛應用。在主題演講環節，6位嘉賓分別圍繞“通用人工智能的應用與治理”“AIGC時代全媒體傳播體系面臨的挑戰及對策建議”“AI大模型應用下的算法治理挑戰與應對”“智能算法安全現狀與綜合治理實踐”“總臺算法——大模型價值認知”等不同角度展望算法治理未來方向，共同尋求合理有效的算法治理路徑。

AI應用不斷推陳出新

AI變革的時代，隨著算力不斷發展，數據的膨脹，算法的創新和迭代，業界已經涌現出各種各樣的模型，能夠把人工智能的能力發揮出來，影響各行各業。近日，阿里云宣布AI繪畫創作大模型“通義萬相”開啟定向邀測，這是繼大語言模型“通義千問”、聚焦音視頻內容的“通義聽悟”之后，阿里云通義大模型家族的又一位新成員。“如果要將大模型算法這一技術推廣、運用到生產和科研中去，它的成本一定要降低，才可能被更多人使用，而這也是我們集團當前的發展思路。”阿里云智能集團副總裁朱冉說。

百度自 2019 年開始大模型的研發工作，先后發布知識增強文心系列模型。前不久，百度正式發布文心大模型 3．5 版本，進一步在基礎模型、知識增強、檢索增強等多項核心技術上取得創新。百度集團人工智能算法委員會主席、集團副總裁吳甜表示，大模型還面臨著不少的挑戰，大模型建設非常復雜，難度高、成本高，在算力、數據、算法三個層面要有深厚的積累。應用場景雖然現在很豐富，但大量的場景在引入大模型技術解決問題的同時，也遇到各種各樣的問題，包括穩定性和可控性等。

算法治理面臨不少挑戰

“算法缺陷導致智能系統存在崩潰隱患，如自動駕駛事故、金融市場閃崩、地區大停電等等。”中國科學院計算技術研究所副所長程學旗提到算法治理面臨著不少的挑戰，算法濫用導致社會不公和群體極化，危害社會穩定，如派單算法霸凌、算法誘使沉迷、大數據殺熟，推薦算法引發信息繭房和社會偏見等。他認為，算法治理要擁抱“技術治理”主義，要利用風險監測系統開展算法風險自動巡查，構建算法評估體系支撐，常態化算法安全評估。加快建設和出臺系列算法合規標準，形成監測、研判、評估的算法治理閉環體系，各方共同協作，構建一個良性的可持續發展的生態。

要大力推進發展更要全流程管理

人民網董事長、總裁，傳播內容認知全國重點實驗室主任葉蓁蓁表示，未來只能用AI治理AI，統籌發展與安全，首先要大力推進發展，不發展或者發展慢，將是最大的不安全。

新華社媒體融合生產技術與系統國家重點實驗室常務副主任賀大為表示，從算法的訓練模型，以及它的應用，全流程都應該進行相應的管理。“而這個管理的過程，應該是各部門乃至全社會形成合力。”