速途網訊 12月21日，“云融未來，安全內在”第七屆云安全聯盟大中華區大會（CSA GCR Congress）在深圳圓滿舉辦。百度副總裁陳洋出席大會并圍繞“安全大模型”+“大模型安全”發表主題演講。陳洋表示，大模型在加速產業升級與經濟增長的同時，也為網絡安全行業帶來了全新的機遇與挑戰。基于大模型，通過智能人機協同可以重構整個安全業務流程，大模型可以進化成為一種“生產力工具”。

人工智能是新一輪科技革命和產業變革的重要驅動力量，而大模型的興起，使得人工智能應用的深度和廣度進一步拓展。自百度3月發布知識增強大語言模型文心一言至今，文心一言的基礎模型已迭代到文心大模型4.0版本，在理解、生成、邏輯、記憶四大基礎能力上都有了顯著提升。與會，陳洋分享了文心大模型應用在安全領域，在安全運營、內容審核、APP隱私合規檢測、業務風控等多領域的AI原生應用構建思路與實踐，助力大幅提升安全效率及能力。

陳洋表示，如何提升行業AI 原生安全應用研發的效率也非常關鍵。目前，基于百度領先的AI大模型平臺，百度安全打造了百度AI安全底座，基于安全知識和技能強化的大模型和全場景的智能體，針對各類安全業務場景，以低代碼的方式實現人機協同安全工作流，進而通過AI原生安全服務層，讓各類的安全應用都可以進行AI原生化重構。

另一方面，大模型自身的安全、可信、可控變得至關重要，網絡與系統安全、模型算法安全、數據安全和隱私保護、內容安全在大模型全生命周期中環環相扣，體系安全與內生安全將長期共存。

作為人工智能領軍企業，百度高度重視大模型安全風險防范的能力建設和生態建設。基于百度大模型安全實踐經驗，百度安全從大模型全生命周期視角出發總結出一套從服務提供方視角的應對思路，方案涵蓋大模型訓練/精調/推理、大模型部署、大模型業務運營等關鍵階段，提供全流程的包含數據安全與隱私保護、模型保護、內容安全、業務運營風控的安全產品與服務，同時結合以攻促防守的思路建立AIGC 內容安全評測能力，對大模型實現例行化的安全評估，助力企業構建平穩健康、可信可靠的大模型服務。

例如，在大模型運營階段中，百度安全構建了包括紅線知識庫/紅線大模型、prompt審核與改寫、多模態內容審核、內容安全評測等一系列安全服務。針對違法犯罪、不良價值觀等負面及高危紅線問題，重點構建了“紅線知識庫和紅線大模型”提供安全回復內容進行代答，并可對用戶做出正向的引導。針對Prompt注入攻擊，可在保持其初始指令和數據不變的基礎上，通過改寫Prompt的方式讓大模型輸出安全的內容。

作為云安全聯盟CSA全球會員單位，百度長期以來致力于以更安全的AI護航產業發展，積極布局智能云計算的前沿技術探索與實踐，持續深化“人工智能+云安全”的融合創新。與會，作為北京人工智能產業聯盟人工智能安全專委會主任，陳洋代表專委會與CSA云安全聯盟正式戰略簽約。未來，雙方將發揮各自優勢，在人工智能領域開展聯合研究、共同前沿技術和應用領域的發展。

面對當下“大模型+安全”所面臨的新形勢、新機遇、新挑戰，百度安全將一方面不斷拓展人工智能技術在網絡安全領域的技術革新與應用，一方面與各界保持合作，共筑大模型安全防線，探索更安全的大模型賦能千行百業的無限可能。