中新網福州4月30日電 (記者 劉育英)奇安信集團董事長齊向東在第八屆數字中國建設峰會期間接受媒體采訪表示，層出不窮的新興場景，充分展現(xiàn)出人工智能大模型帶來的無限生產力、創(chuàng)造力。但新技術是把雙刃劍，大模型應用在帶來機遇的同時，也面臨三重挑戰(zhàn)。

　　一是“小數據”安全問題。傳統(tǒng)大數據存在碎片化、質量參差不齊等問題，而大模型需要經過加工處理的“精華小數據”。一旦精華小數據被竊取、泄露或篡改，企業(yè)核心競爭力將受損。

　　二是大模型“裸奔”風險。大模型深度融入關鍵領域，如智慧城市、工控系統(tǒng)、智慧政務等，風險串聯(lián)成網。奇安信監(jiān)測發(fā)現(xiàn)，大量Ollama大模型服務器“裸奔”，存在被攻擊導致業(yè)務中斷的風險。

　　三是AI決策失準風險。對AI的過度依賴可能導致善惡真?zhèn)坞y辨，黑客可通過漏洞利用、數據投毒等方式干擾大模型決策。內部員工更新知識庫時引入錯誤信息，也會污染模型學習環(huán)境，導致錯誤結論。

　　齊向東認為，筑牢AI安全底線，要把握住五個關鍵：構建大模型安全“紅域”形成多維度邊界隔離；權限強管控，以用戶身份為新邊界開展網絡和數據安全防護；嚴把內容關，構建貫穿大模型全生命周期的內容安全治理機制；以實戰(zhàn)為導向加強大模型應用安全評估；運營可閉環(huán)，做到對安全威脅的實時監(jiān)測和應急處置。(完)