中國日報網11月11日電 （記者 曹靜 程爾凡）全球人工智能（AI）技術正以指數級速度演進，大模型已成為推動數字經濟發展的核心引擎。但與此同時，人工智能的發展引發數字濫用、算法歧視、虛假信息等一系列風險，如同潘多拉魔盒，風險高懸。
“AI有四個與生俱來的‘先天性基因缺陷’：一切皆可編程、一切皆可模仿、一切皆可生成以及一切皆可調度。” 2025年世界互聯網大會烏鎮峰會期間舉辦的前沿人工智能模型論壇上，360數字安全集團總裁胡振泉這樣談及AI技術帶來的挑戰，“這帶來的安全問題，我們無法避免，亟待解決。”
胡振泉認為，相較于傳統軟件，AI“更聰明”，因此其安全問題也更復雜，不僅涵蓋傳統的系統安全，還涉及內容安全與應用安全。
“過去做一次網絡攻擊可能需要一個小分隊，未來一兩個黑客就能調度一批‘攻擊智能體’發動網絡攻擊，讓防御難上加難。”胡振泉表示。
那么，我們應該如何保障AI安全，進而推動技術創新，最終讓技術落地、賦能千行百業？前沿人工智能模型論壇上，來自海內外的專家和行業領袖分享了他們對AI安全與應用實踐的見解。
AI安全：用高水平安全引導創新健康發展
“引用《孫子兵法》中的一句話，就是先勝而后求戰。”談及AI的發展路徑時，前瑞士網絡防御代表、數字演進基金會主席杰拉爾德·韋內茲在論壇上表示。他認為，AI戰略必須先于AI技術的發展，應該用戰略引導發展，最終抵達目標。
中國網絡空間安全協會副理事長盧衛則談及了算法的透明度與安全底線。他認為，應加強算法透明度與可解釋性研究，減少“黑箱”操作，增強社會信任，促進創新與安全良性互動。
“高水平的安全非束縛創新的枷鎖，而是引導創新健康可持續發展的保障。”盧衛表示。
中國人民大學黨委副書記鄭水泉分享了一些實踐經驗。在確保AI輸出內容的真實性上，鄭水泉表示，生成式AI的“幻覺”問題引發了虛假信息、信息繭房等問題，對此，人民大學在開發和部署生成式AI模型時，將檢索增強生成、慢思考推理等技術應用到模型開發中，有效降低了模型輸出虛假或失實信息的風險。
安恒信息首席技術官劉博則提及政策引導的重要性。
“國家和行業從法規、政策層面對AI安全問題提出了基本要求，就是告訴了我們怎么保障環境安全、內容安全、運行安全。” 劉博表示。
而在具體操作上，劉博介紹稱，安恒采用了訪問控制、攻擊檢測、白名單等方式解決大模型實時在線過程中面臨的問題。此外，當任務要求相對較低時，可以利用小模型進行快速調整，甚至與傳統非GPT模型相結合，快速解決模型的安全問題。
中科曙光總裁助理、智能計算產品事業部總經理杜夏威分享了構建國內AI算力聯合生態的做法。他表示，曙光的產品支持超400個大模型版本，旨在構建國內AI算力聯合生態。
“這一布局是為了解決大模型落地過程中的多重挑戰，包括隱私合規等問題。”杜夏威說。
AI應用：從場景出發，讓技術落地
以安全為前提，推動AI技術的迭代與創新，但最終要讓技術落地，才能賦能千行百業。
談及AI在企業層面落地時，IBM大中華區首席技術官翟峰表示：“現在，越來越多企業在推進AI化，往往投入了大量時間和精力，這實際上是在補上數字化轉型過程中落下的功課。”
他認為，國內的一些企業開始嘗試將生成式AI運用于辦公自動化、知識庫搭建等，但必須把AI推進到工業、農業等行業，幫助產品研發、供應鏈優化，才能讓AI發揮出最大價值。
對此，行業人士在論壇上分享了AI技術在各行各業的應用。
一智科技（成都）有限公司董事長劉俊杰分享了AI技術在建筑工程行業里的應用產品“安心筑”。
他表示，在智能技術高度發達的今天，建筑工程仍在依賴紙質存檔、手工造表等傳統管理方式，而“安心筑”則把高度非標、復雜多變的施工任務轉化為可量化、可追蹤、可管理的標準化任務，讓建筑施工管理流程更加透明、高效。
“使用安心筑后，轄區內項目欠薪糾紛率下降95%，糾紛處置時間縮短到半小時以內，助力主管部門從被動治欠到智慧防欠。”劉俊杰表示。
他介紹說，通過實現工序全鏈條數據存證、用AI技術識別工程風險等方式，“安心筑”將助力房屋建造從“建得快”向“建得好”轉變。
平安集團董事會秘書兼品牌總監盛瑞生表示，平安人工智能大模型在抗震救災、農業保險等場景中發揮了積極作用。
他介紹，平安依托AI和物聯網等技術的鷹眼系統，智能預警災害162萬場，發出預警信息470億次，覆蓋客戶1.3億人次。
“最近三年，在農業災害大模型智能系統協助下，我們直接降低了農業損失達7.6億元。”盛瑞生表示。
同時，萬聯易達集團首席執行官張棟和印象筆記高級副總裁喬遷都認為，只有從場景出發、讓技術落地，才把AI的技術價值轉化為真正的社會效能。
“現在大部分的AI應用更多偏向于ToC，是基于產業的延展。我們認為，只有深耕產業，讓AI應用與實體經濟相結合，才能讓智能體的普及率呈現指數級增長。”張棟表示。
喬遷認為，AI技術的潛能不僅取決于模型能力的上限，更取決于AI是否真正嵌入了工作與生活。
“模型是源頭，應用是橋梁，落地才是目標。”他說。
（編輯：曹靜 張瑨瑄 涂恬）
掃碼下載
中文網微信