從研發(fā)設計到生產制造，從供應鏈管理到客戶服務，智能體正在滲透汽車產業(yè)的每一個環(huán)節(jié)。如何確保其安全、合規(guī)、可控，已成為車企的必答題。
目前，理想汽車（LI）已在企業(yè)內部部署了多種場景的AI智能助手，覆蓋安全運營、研發(fā)協(xié)同、IT 服務等多個真實業(yè)務場景。
理想汽車（LI）的安全團隊在深入智能體各類使用場景后發(fā)現(xiàn)，行業(yè)普遍存在三大安全瓶頸：權限邊界模糊、行為過程失控、攻擊面持續(xù)擴大，嚴重制約著AI規(guī)?；涞?。
為此，理想汽車（LI）與火山引擎圍繞AI助手安全方案開展合作，打造了覆蓋“供應鏈安全+助手運行安全+權限行為安全”的全流程“AI智能助手縱深防御體系”。從源頭補齊了開源AI智能助手的安全短板，同時實現(xiàn)對全量AI智能助手的企業(yè)級統(tǒng)一安全管理。
縱深防御體系，為AI智能助手全面護航
理想汽車（LI）安全團隊與火山引擎合作打造的“AI智能助手縱深防御體系”具備四大核心能力，為每個AI助手都系上了可靠的“安全帶”：
身份與權限管控——“人+AI”雙主體治理
在執(zhí)行任務時，同步校驗任務的發(fā)起人和執(zhí)行任務的AI。同時確認兩件事：
是誰給AI下指令的，這個人是否有權限下該指令？
這個AI助手是否有權限訪問這個數(shù)據(jù)/系統(tǒng)？
基于“人+AI”雙主體驗證，并根據(jù)最小權限原則，動態(tài)劃定AI助手可訪問的資源范圍，從源頭杜絕越權與誤用。
行為與執(zhí)行控制——為關鍵操作設置“紅綠燈”
針對讀寫文件、修改配置等關鍵操作，預先設置一套“紅綠燈”約束策略，讓AI在“自動”與“可控”之間找到最佳平衡：
對高風險操作設置“紅燈”進行攔截，或進入“黃燈”審批機制，等人工確認后再繼續(xù)執(zhí)行。
對低風險普通操作，AI直接“綠燈”執(zhí)行。
理解與生成安全——守住數(shù)據(jù)的“輸入”與“輸出”
在輸入端，全鏈路識別并攔截提示詞注入攻擊，避免惡意指令攻擊。
在輸出端，對敏感數(shù)據(jù)訪問與輸出做動態(tài)脫敏與控制，并阻斷異常數(shù)據(jù)外流。
審計與行為追溯——為每一次AI行為留下“證據(jù)鏈”
完整記錄整個鏈路：包括數(shù)據(jù)調用、工具執(zhí)行及內容生成等操作，并區(qū)隔哪些“人”的操作、哪些是“AI”的做作，并管控“AI自主執(zhí)行”和“AI遵從人類指令執(zhí)行”等不同場景。
發(fā)生異常時可快速回放：還原過程、定位問題并進行責任歸因。
基于以上能力，理想汽車（LI）的安全運營工程師只需要“發(fā)號施令”，AI智能助手便能在整套安全機制的全程護航下高效執(zhí)行任務，大幅提升漏洞響應速度，牢牢守住安全底線。
安全能力在實戰(zhàn)中持續(xù)進化
目前，在火山引擎與理想汽車（LI）安全團隊的緊密協(xié)作下，“AI助手縱深防御體系”已在多個關鍵業(yè)務場景落地驗證，推動AI智能助手逐步成長為可參與復雜流程的“數(shù)字執(zhí)行單元”。
以安全運營場景為例。安全管理員只需要在飛書群中發(fā)出指令，即可命令AI智能助手創(chuàng)建漏洞修復工單。AI智能助手可自動讀取漏洞庫信息、自動掃描代碼庫并完成漏洞修復與復測，無需人工干預，只需人工授權即可實現(xiàn)一站式漏洞工單的指派與修復閉環(huán)工作。
未來，火山引擎將與理想汽車（LI）持續(xù)做好AI時代企業(yè)智能體安全防御工作，保障“數(shù)字員工”安全落地，為企業(yè)智能化增長筑牢安全底座。
