5月18日（rì），2024西湖論劍·AI引領（lǐng）數字安全新（xīn）浪潮專題會議成（chéng）功召開（kāi）。業界精（jīng）英圍繞AI+安全，共同探討AI引領數字安全新質生產力的（de）發展之道，解鎖未來無限奧秘。
中國網絡空間安全協會副理事長、中國網絡空間安全協會人工智能（néng）安全治理專業委員會主任盧衛，浙（zhè）江省（shěng）杭州（zhōu）市科學技術協（xié）會黨組成員、副主席王菊紅，浙江移動信息技術與數（shù）據管理（lǐ）部總經理、中國移動集團首席專（zhuān）家王曉征，浙江移動信息安全部（bù）總經理王延長，杭州市科協學（xué）會管理部（科技創新部）部長餘勇平，海亮集團輪值總裁何文天，安恒信息董事長範淵，上海市大數據中心基礎設施（shī）部副部長靳玲，中國科學技術大學網（wǎng）絡空間安全學院執行院長俞能海，天（tiān）津大學信息與網絡中心主任（rèn）於瑞國，杭州市人工智能協（xié）會秘書長趙星倫，以及相關行（háng）業領導和企業專家出席（xí）論壇，教（jiāo）育部新工科聯盟（méng）網絡空間安全工委會主任委員、俄羅斯國家工程院外籍（jí）院士胡瑞（ruì）敏主持論壇。
教育部新工科聯盟網絡空間安全工委會主任委員、俄羅斯國家工程院外籍（jí）院士胡瑞敏（mǐn）主（zhǔ）持（chí）論壇
中（zhōng）國網絡空間（jiān）安全協會副理事長、中（zhōng）國網絡空間（jiān）安全協會人工智能安全治理專業委員會主任盧衛出席
AI引（yǐn）領，構建（jiàn）數字安全新質生產力
2023年以來，人工智能蓬勃發展，為數字安全領域帶來了全新的生態環境和產（chǎn）業格局。精东影业天美传媒网站在擁（yōng）抱AI的同時，也不能不嚴防AI可能帶來的（de）數據泄露、深度偽造等風險（xiǎn）。以AI對AI，以AI管AI，成為推動人工智能與網絡安全技術（shù）的深（shēn）度融合，構建數字（zì）安（ān）全新質生產力，為經（jīng）濟社會發展和國家安全提供有力保障的必然選擇。
CCF計算（suàn）機安（ān）全專業委員（yuán）會常務副主任、公安部第一研究所副所長於（yú）銳在視頻致辭中（zhōng）表示（shì），人工智能的飛速發（fā）展（zhǎn）以及AI技（jì）術的廣泛應（yīng）用對數字安全帶來了全新的挑戰與機遇，數據安全、算法安全、隱私保護等問題日益凸顯（xiǎn）。對於如何在享受（shòu）技術紅利的（de）同時，構建更加堅固的數字安（ān）全屏障，實現傳統網絡與數據安全的革命性升級（jí），打造新型的AI+網絡和數據（jù）安全體係，他提出（chū）四點建議：一是（shì）加強協同創新，共建安全生態；二是開展技術革新，驅（qū）動安全升級；三（sān）是加大法規（guī）引（yǐn）領，保障健康發展（zhǎn）；四是強化人才培養，強化安全根（gēn）基。
於銳所長在論壇中視頻致（zhì）辭
俞能海教授發表《生成式人工智能安全與新質數字資產》主題演講時指出，人工智能（néng）向生成（chéng）式跨越，全（quán）麵提升理解能力，AIGC不斷取得突破，多模態大（dà）模型快速發展，人工智能安全的（de）保障（zhàng）將成為人（rén）工智能可靠可控應用的重要基礎。為規避AIGC風險，不能單純依賴智能算法，而是將人創造能力與AI的生成能力有效結合。對此，俞教授建（jiàn）議從三（sān）個維度進行；一是利用AIGC合成內容鑒別（bié），應對AI的惡意應用；二是通過大模型糾偏，提升（shēng）AI的安全（quán）能力；三是借助生成式模型水印，保護（hù）AI賦能的（de）係統。
俞能海發（fā）表《生成（chéng）式人工智能安全與新（xīn）質數字資產》主題演講
安永（中國）企業谘詢有限公司合夥人王堅（jiān）在《AI大模型技術演進及應用》的主（zhǔ）題演講（jiǎng）中指出，未來AI大模型技術（shù）演（yǎn）進路線可（kě）能沿（yán）著六大維度發（fā）展：一是模型規模的增長，大模（mó）型參數（shù）數量（liàng）激增；二是多模態學習，能夠處理（lǐ）多（duō）種數（shù）據（jù）類型的應用和場景；三是提高模型訓練和推理的效率（lǜ）和可持續性；四是提升模型決策過程的透明度和可解釋性，減少“黑箱”現（xiàn）象；五是、使模型具備連續（xù）學習能力，避免災難性（xìng）遺忘，適應（yīng）動態環境中的新數據和變化；六是（shì）、確保（bǎo）模型在惡意攻（gōng）擊下的穩定（dìng）性和安全性，增強（qiáng）魯棒性。
王堅發表《AI大模型技術演進及應用》主題演講（jiǎng）
Al+安全，探索安全行業的創新未來
當前安全產（chǎn）業，從技術角度存（cún）在安全天平（píng）和能力鴻溝等問題，AI時（shí）代下的數據安全、內容安全、業務安全、供應鏈安全等安全問題（tí）尤為突出。在此（cǐ）背景下，杭（háng）州人工智能學會副秘（mì）書長、安恒信息研究（jiū）院（yuàn）院長王欣（xīn）在《Al之於安全（quán）行業的應（yīng）用（yòng）探索》的主題演講（jiǎng）中（zhōng）提（tí）出，AI+安全一定是安全未來發展的巨大（dà）方向。
王欣指出，人工智能創立之初即是模擬、延伸和擴展人的智能理論、方法、技術和應用係統的一門技術學（xué）科。大模型的湧現能力，相比於過往人工智能（néng）技術，在理解指令、理解例子、思（sī）維鏈能力和快速學習能力（lì）四個維度得到了更多的能力增強，分（fèn）享了過去在數據（jù）安全、安（ān）全運營（yíng）等多個場景下的安全大模型實踐經驗（yàn）。
王欣認為，AI之於安全，其真正的AI能力（lì）隻發揮了不足5%，同時他對AI之於安全的應用趨勢做出了八大預判：一是（shì）大模型為核心的AI智能（néng）體（AI Agents）將成為安全產業的標配，越來越多的AI Native工（gōng）具（jù）將成為Agent的“手和腳”。二是在AI智能體的（de）影響下，自適應安全架構將得（dé）到全新升（shēng）級。三是在AI智（zhì）能體的影響下，機器（qì）人（rén）流程自動化將與許多安全業務相結合。四是AI智能體將重塑（sù）安（ān）全工（gōng）作協（xié）同方式。五是AI多模態技術的不斷演進，輿論戰、信息戰、涉網新型犯罪將率先應用AI技術獲得技術“紅利（lì）”，監管將麵臨前（qián）所（suǒ）未有的挑（tiāo）戰。六是安全攻防將進入全新階段，智能攻（gōng）擊與智能防禦成為新的技術博弈領域，AI原生的蠕蟲病毒或（huò）將席卷全球。七是AI時代下的數據安全（quán）、內容安全（quán）、業務安全（quán）、供應鏈安全等安全問題尤為突出（chū），將會給AI產業應用和發展（zhǎn）帶（dài）來挑戰。八是AI時代帶來安全產品的全麵升級革新（xīn），能力原子化、接口標準化將（jiāng）快速（sù）推（tuī）進。
王欣發表《Al之於安全（quán）行業的（de）應（yīng）用探索》主題演講
實踐為先，為行業智能化轉型打樣
天津大學信網中心主任於（yú）瑞國在《天津大學算力與網絡安全（quán）融合建設》的主（zhǔ）題演講中介（jiè）紹了（le）天津大學響應（yīng）國家大力推進超算、人工智能平台建設的政策引導，建設校級算力資源共享平台，有效支撐麵向重大項目或課題的（de）開發與創新，服務AI FOR Science的成（chéng）功經驗。
於瑞國發（fā）布《天津大學算力與網絡安全融合（hé）建設》主題演講
安恒（héng）信息隱私計算事業部總經理陶立（lì）峰帶來《基於機（jī）密計算（suàn）的大模（mó）型訓練和推理數據圍欄》的主題演講（jiǎng），介紹（shào）了如何在（zài）大模型訓（xùn）練和推理時，解決數據既要（yào）利用又要保護的矛（máo）盾（dùn）需求，以及保護模（mó）型安（ān）全的雙重難題。安恒（héng）信息在隱私（sī）計算（suàn）的基礎之上，將大模型訓練與推（tuī）理能力支持起來，以確保大模型的訓練數據能在更安全、可信、可靠的環境當中得以訓練，模型也能在更安全的環境下去部署與應用。陶立峰表示（shì），通過將可信執行環（huán）境、機密計算與大模型訓練（liàn）框架結合，構建基於（yú）機（jī）密計算的大模型訓練與推理的數（shù）據圍欄，再結（jié）合全流程的加密、授權與審計、審批等管控手段，就能夠實現（xiàn）基於場景的最小化數據授（shòu）權，同時確保數據在受控環境（jìng）之下不會被濫用。
陶立峰發表《基於機（jī）密計算的大模型訓（xùn）練和推（tuī）理數據圍欄》主題演講
針對大模型開發（fā）及大規模AI計算（suàn）係（xì）統（tǒng）的挑戰，安恒信息正式發布了昇騰-恒腦推理一體機，全流（liú）程（chéng）加速（sù）大模型（xíng）的創新與落地，
在對人工智能高性能（néng）計算的不懈追求中（zhōng）,安恒信息與華為昇騰團隊經曆了長（zhǎng）期深入的合作與共創曆（lì）程。基於昇（shēng）騰軟硬件生態（tài），安（ān）恒恒腦大模型（xíng）取得了一係列重要成就，同時（shí）,也率先完成了多（duō）代昇騰硬件適配。一體機融合了安恒（héng）信息自主研發的恒腦大模型和華（huá）為昇騰業（yè）界領（lǐng）先的AI計（jì）算能力,在全流程加速大模型創新應用的同時,也彰顯了雙方在人工（gōng）智能領域的持續創新能力（lì）。
安（ān）恒信息生態合（hé）作部總經理吳偉京與華為製造與大企業軍團解決方案副總裁餘倬共同出席儀式。雙方未來將在安恒-華為戰略（luè）合（hé）作的框架下（xià）繼續加強合作，在大模型技（jì）術、軟硬件生態、雲端服務等領域開拓創新,共同推動智能化數字安（ān）全的進步。
昇騰-恒腦推理一體機發布儀式
安（ān）恒信息研究院創新業務（wù）部總經理姚龍（lóng）飛在《恒腦2.0智能體核（hé）心和自動化革新》主題演講中提出，大模型的下半場應是智能體的（de）大爆發。他以（yǐ）恒（héng）腦安全垂域大模型為（wéi）例，介紹了安恒信息以智能體為核心驅動產品、業務進行結合的探索與應用。目前，安（ān）恒信息將RPA的思想（xiǎng）進行了充分的理解（jiě）之後融入智能體框架設計，並在安恒的數據分類分級產品、Alpha告警研判、DLP、API、SOAR等產品中廣泛應用，實現了不同場景下的能力大（dà）幅提升。
姚龍飛發表《恒腦2.0智能體核心和（hé）自動化革新》主題演講
海（hǎi）亮集團數（shù）字創新部部長孫雯帶來（lái）《海亮集團大模型應用於數據安（ān）全的探索與實踐》主題演講，分享了海亮集團正在不同的業務場景探（tàn）索AI大模型的應用，特別在數據安全領域已取得一定成果。她說，隨著（zhe）企業邊界不斷擴大，場（chǎng）景越來越複雜，傳（chuán）統的安全防護正逐步失效。與此同時，企業的數據隨著數字化轉（zhuǎn）型深入變得越來越值錢，數據泄露風險與日俱增。為（wéi）此，海（hǎi）亮集團構（gòu）建了“113N”安全能（néng）力建設框架，從“事前-事中-事後”做好端到端防護，實現外抵攻擊、內防泄露的目標，以安全護航數字化轉型。孫雯表示，海亮集團將與安恒（héng）信息攜（xié）手，基於安（ān）恒恒腦的專業能力，海亮豐富的業務場景和多領域行業數據沉（chén）澱，鍛煉出更多適配於不同企（qǐ）業，聚焦於不同行業的智能體（tǐ）。
孫雯（wén）發表《海亮集團大模型應用於數據（jù）安全的探索與實踐》主題演講
在隨（suí）後舉行的海亮-安恒聯合創（chuàng）新實驗室揭牌儀式上，海亮集團輪（lún）值（zhí）總裁何文天、安恒信息董事長範淵、安恒信息研究院院長王（wáng）欣和海亮（liàng）集團數字創新部部長孫雯共同（tóng）見證聯合創（chuàng）新實驗室的揭牌，依托安恒信息恒腦安全大模（mó）型及生態資源，結合海亮集團豐富的行業數據及數（shù）據安全實踐，共同構建數（shù）據安全領域解決方案，推進國家、行（háng）業、團體等數據安全標準規（guī）範的研製，探索大模型+數據（jù）安全的應用（yòng）落地，打（dǎ）造國內大模型+數據安全的先進標杆案例，形成產業合力。
海亮-安恒聯合創新實驗室揭（jiē）牌儀式
火山（shān）引擎大模型安全（quán）產品研發負責人郭建新在《大模型安全內部實（shí）踐分享》中，總結了大（dà）模型應用的四個風險點，分別（bié）是模型輸出異常、對話（huà）機製、數據安全和係統（tǒng）安全。對此，火（huǒ）山（shān）引擎（qíng）方舟平（píng）台以業務安全和底座安全（quán）為核心，構建了“一矛”“一盾”“一沙箱”的解（jiě）決方案確保大模型應用安全。
郭建新《大模型安全內部實踐分享》主題演講
AI論劍，共議安全和發展的（de）平衡之道
隨著人工智能技術的蓬勃發展，到底哪些行業或領域在引入大模型技（jì）術後將會有顯著的效果和光明的（de）發展前景？安全和發展該如何平衡？未來（lái）可能出現哪些全（quán）新的應用場景（jǐng）或商業模式？
在杭州人工智能（néng）學（xué）會副秘書長、浙江傳媒學院媒體工程學院講師王亞奇（qí）的主（zhǔ）持下，教育部新工（gōng）科（kē）聯盟網絡空間安全工委會主任委員、俄羅斯國家工程院外籍院士胡瑞敏（mǐn），阿裏研究院數據經（jīng）濟研究中心副主（zhǔ）任王崢，華為製造與大企（qǐ）業軍團解決方案副總裁餘倬，安恒信息（xī）研究院副院長（zhǎng）稅（shuì）雪飛圍繞“大模型在（zài）各行業的應用潛力（lì）與安全影響”展開激烈碰撞。
圓桌對話（huà）：AI論劍——大模型在（zài）各行業的應用潛力於安全影響
胡瑞敏總結了大模型落地場景的三要素：數據資源足夠豐富、高端人才極度緊（jǐn）缺、效率提升需求（qiú）急迫；滿足這（zhè）三要素的行業（yè）和領域適合應用大模型進（jìn）行賦能（néng）和增益。餘倬（zhuō）分享了華為自身經驗，表示大模型在to B場景下的提質增效已有諸多應用成效（xiào），要抓住合適的場景進行深耕以提高生產力（lì）。王崢認（rèn）為，AI應（yīng）用從微軟AI助手到現在更多的AI 智能體，體（tǐ）現了機器（qì）在規劃、決（jué）策和執行能（néng）力的提升。在中長期看（kàn），大模型技術的發展趨勢是（shì）在人類可控的前提下，提升機器的自主性。稅雪飛認為從全球（qiú）主流大模型（xíng）發展近況看，大模（mó）型已經到了應用落地的快速爬坡時期；在（zài）安（ān）全領域，攻擊方和防守方在應用大模型上的對抗已經開始，安恒也在推進（jìn）應用大模型和智能體構築新一代的（de）安全防（fáng）線。
最（zuì）後，CSA大中華區研究院副（fù）院長黃連（lián）金帶來《生成式AI應（yīng）用的安（ān）全挑戰》的直播演講，指出生成式AI的安全挑戰主要包括影子AI、自動化和可拓展（zhǎn）的威脅與零日漏洞、安全工具集成（chéng）、惡意工具、大模型聚合導（dǎo）致的數據泄露，以及使用AI導致原先的權限策略問題更（gèng）加凸顯等（děng）。介紹（shào）了2024AI安全產業圖譜（pǔ）的整體調研（yán）情況。
黃連金《生成式AI應（yīng）用的安（ān）全挑（tiāo）戰》直播演講
本次“AI引（yǐn）領數字安全新浪潮專題會議”由浙江省科學技術協會指導，杭州市科學（xué）技術協會主辦，杭州市人工智能學會、中國計算機學會計算機安（ān）全專業委員會（huì）、雲安（ān）全聯盟大中（zhōng）華區、西（xī）電杭州研究（jiū）院（yuàn）、安恒（héng）信息承辦。
