全國(guó)工商聯(lián)副主席、奇安信集團(tuán)董事長(zhǎng)齊向東。 受訪者供圖

全國(guó)兩會(huì)期間，全國(guó)工商聯(lián)副主席、奇安信集團(tuán)董事長(zhǎng)齊向東分別就AI 安全和科技金融提出建議，應(yīng)大力探索“AI 安全”創(chuàng)新應(yīng)用，搶占國(guó)家安全的人工智能戰(zhàn)略制高點(diǎn)，提高我國(guó)應(yīng)對(duì)網(wǎng)絡(luò)空間安全風(fēng)險(xiǎn)與不確定性的能力，護(hù)航中國(guó)式現(xiàn)代化行穩(wěn)致遠(yuǎn)。

人工智能突飛猛進(jìn)之下，網(wǎng)絡(luò)安全面臨著什么樣的新挑戰(zhàn)?民營(yíng)企業(yè)如何提升“過冬”能力?日前齊向東接受南都記者采訪時(shí)分享了自己的觀點(diǎn)。

推動(dòng)科技金融由被動(dòng)服務(wù)模式轉(zhuǎn)向主動(dòng)服務(wù)模式

南都:今年全國(guó)兩會(huì)你提交了什么提案?

齊向東:今年我?guī)砹藘煞萏岚福謩e是《創(chuàng)新發(fā)展“AI 安全” 護(hù)航中國(guó)式現(xiàn)代化》的提案，和《做好“科技金融”大文章，促進(jìn)金融高質(zhì)量發(fā)展》的提案。

我認(rèn)為，AI是新一輪科技革命的核心技術(shù)，它極大提升了生產(chǎn)力，但是加大了數(shù)據(jù)泄露、“深偽”詐騙等安全威脅，針對(duì)AI的網(wǎng)絡(luò)攻擊和利用AI技術(shù)攻擊網(wǎng)絡(luò)的問題日益凸顯。因此，我提出《創(chuàng)新發(fā)展“AI 安全”護(hù)航中國(guó)式現(xiàn)代化》的提案，希望我國(guó)能大力探索“AI 安全”創(chuàng)新應(yīng)用，搶占國(guó)家安全的人工智能戰(zhàn)略制高點(diǎn)，提高我國(guó)應(yīng)對(duì)網(wǎng)絡(luò)空間安全風(fēng)險(xiǎn)與不確定性的能力。

此外，我也針對(duì)科技金融帶來了一份《做好“科技金融”大文章，促進(jìn)金融高質(zhì)量發(fā)展》的提案。當(dāng)前，無科技不金融已經(jīng)成為金融界的共識(shí)，無金融不科技也已經(jīng)成為科創(chuàng)界的現(xiàn)實(shí)。因此，我圍繞科技金融提出提案，建議用好數(shù)字科技技術(shù)，推動(dòng)科技金融由被動(dòng)服務(wù)模式轉(zhuǎn)向主動(dòng)服務(wù)模式，同時(shí)筑牢網(wǎng)絡(luò)安全底板，為中國(guó)式現(xiàn)代化作貢獻(xiàn)。

生成式AI導(dǎo)致網(wǎng)絡(luò)釣魚郵件攻擊增長(zhǎng)135%

南都:人工智能是否會(huì)給網(wǎng)絡(luò)安全帶來新的風(fēng)險(xiǎn)和挑戰(zhàn)?

齊向東:Sora的問世刷新了我們對(duì)人工智能大模型成長(zhǎng)速度的認(rèn)知，為千行百業(yè)提高生產(chǎn)力提供了一個(gè)更強(qiáng)大的工具。當(dāng)前，利用人工智能技術(shù)進(jìn)行網(wǎng)絡(luò)攻擊的事件已經(jīng)不在少數(shù)。Sora的出現(xiàn)進(jìn)一步加大了網(wǎng)絡(luò)和數(shù)據(jù)安全威脅。

南都:這兩年AI大模型生成假照片、假視頻等事件頻發(fā)。除此之外，人工智能還會(huì)帶來什么風(fēng)險(xiǎn)?

齊向東:以ChatGPT、Sora為代表的生成式AI技術(shù)可以快速生成釣魚郵件、編寫惡意軟件與代碼，導(dǎo)致攻擊數(shù)量爆發(fā)式增長(zhǎng)，AI欺詐事件頻繁發(fā)生。

數(shù)據(jù)顯示，ChatGPT等生成式AI導(dǎo)致網(wǎng)絡(luò)釣魚郵件攻擊增長(zhǎng)135%。生成式AI還帶來了數(shù)據(jù)非法獲取、數(shù)據(jù)泄露及惡意濫用等數(shù)據(jù)安全問題，如ChatGPT在對(duì)話交互過程中能獲取用戶數(shù)據(jù)或輸出訓(xùn)練數(shù)據(jù)，可能涉及到個(gè)人隱私數(shù)據(jù)、業(yè)務(wù)數(shù)據(jù)等敏感信息，加劇了數(shù)據(jù)泄露風(fēng)險(xiǎn)。

AI還會(huì)加劇攻防失衡。人工智能大幅降低了網(wǎng)絡(luò)攻擊門檻，不懂代碼、不懂技術(shù)的普通人也能成為黑客，將擴(kuò)大網(wǎng)絡(luò)攻擊數(shù)量，專業(yè)化的黑客組織可以利用人工智能工具對(duì)網(wǎng)絡(luò)攻擊進(jìn)行改造和升級(jí)。在針對(duì)AI算法攻擊方面，機(jī)器視覺攻擊、數(shù)據(jù)源污染等攻擊頻發(fā)，攻擊者通過對(duì)抗樣本、數(shù)據(jù)投毒、模型竊取等多種方式對(duì)AI算法進(jìn)行攻擊，使其產(chǎn)生錯(cuò)誤的判斷，同時(shí)由于算法黑箱和算法漏洞的存在，這些攻擊往往難以檢測(cè)和防范。

突破企業(yè)融資難 化解市場(chǎng)準(zhǔn)入壁壘

南都:民營(yíng)經(jīng)濟(jì)是推進(jìn)中國(guó)式現(xiàn)代化的生力軍，是高質(zhì)量發(fā)展的重要基礎(chǔ)。我國(guó)民營(yíng)企業(yè)發(fā)展正面臨哪些挑戰(zhàn)?應(yīng)該如何化解?

齊向東:過去一年，我跟隨政協(xié)、全國(guó)工商聯(lián)去各地調(diào)研，發(fā)現(xiàn)當(dāng)前民營(yíng)企業(yè)在實(shí)現(xiàn)高質(zhì)量發(fā)展上還面臨一些挑戰(zhàn)。比如，部分民營(yíng)企業(yè)在調(diào)整結(jié)構(gòu)、改變?cè)鲩L(zhǎng)方式、加大科技創(chuàng)新投入上存在困難，制約了企業(yè)高質(zhì)量發(fā)展的進(jìn)程。一些企業(yè)在發(fā)展上過于依賴單一業(yè)務(wù)，其他業(yè)務(wù)發(fā)展明顯滯后，比重偏低，在發(fā)展上遇到了轉(zhuǎn)型難題；還有些企業(yè)，過于注重短期利益，在技術(shù)創(chuàng)新方面投入少，造成了核心競(jìng)爭(zhēng)力的缺失。

去年7月發(fā)布的《中共中央國(guó)務(wù)院關(guān)于促進(jìn)民營(yíng)經(jīng)濟(jì)發(fā)展壯大的意見》，圍繞民營(yíng)經(jīng)濟(jì)高質(zhì)量發(fā)展，提出了31條針對(duì)性的舉措，這些好政策、好措施要真正落地見效，還要在以下方面有所加強(qiáng)，針對(duì)性解決企業(yè)高質(zhì)量發(fā)展的難題。

一是突破企業(yè)融資難的難題。民營(yíng)企業(yè)抗風(fēng)險(xiǎn)能力較弱、信息了解不對(duì)稱，在金融市場(chǎng)中相對(duì)弱勢(shì)。尤其是初創(chuàng)企業(yè)創(chuàng)新投資大、風(fēng)險(xiǎn)高、周期長(zhǎng)，面臨的風(fēng)控監(jiān)管較為嚴(yán)格，容易導(dǎo)致資金鏈斷裂。

二是化解市場(chǎng)準(zhǔn)入壁壘。在重大科技創(chuàng)新任務(wù)上，民營(yíng)企業(yè)仍然處在“看得見、進(jìn)不去”的階段，很多好政策難以真正落地。

三是培養(yǎng)高水平人才。隨著數(shù)字化、智能化不斷加深，我國(guó)多個(gè)產(chǎn)業(yè)面臨人才數(shù)量不足、質(zhì)量不高的問題，亟須加快建設(shè)創(chuàng)新能力突出的人才隊(duì)伍。

應(yīng)給予企業(yè)承擔(dān)重大科研項(xiàng)目機(jī)會(huì)

南都:網(wǎng)絡(luò)安全本就是一個(gè)對(duì)知識(shí)、技術(shù)和實(shí)戰(zhàn)經(jīng)驗(yàn)要求很高的行業(yè)，高水平人才難以快速培養(yǎng)，企業(yè)面臨著專家少的難題。據(jù)教育部統(tǒng)計(jì)，到2027年，我國(guó)網(wǎng)絡(luò)安全人員缺口將達(dá)到327萬。應(yīng)該如何培養(yǎng)更多精尖人工智能、網(wǎng)絡(luò)安全的人才呢?

齊向東:要培養(yǎng)更多的高精尖人才，需要打通企業(yè)和高校兩個(gè)“蓄才池”。從國(guó)內(nèi)外的實(shí)踐來看，關(guān)鍵性的創(chuàng)新人才都是從重大工程中鍛煉和培養(yǎng)出來的。目前我國(guó)大多數(shù)畢業(yè)生實(shí)操能力不足，也不了解產(chǎn)業(yè)前沿動(dòng)態(tài)，畢業(yè)后不符合產(chǎn)業(yè)能力要求。建議發(fā)揮企業(yè)主導(dǎo)作用，校企聯(lián)合培養(yǎng)能解決復(fù)雜問題的創(chuàng)新型人才。

另一方面，我認(rèn)為應(yīng)給予企業(yè)承擔(dān)重大科研項(xiàng)目的機(jī)會(huì)，進(jìn)一步打造實(shí)戰(zhàn)人才高地。以網(wǎng)絡(luò)安全行業(yè)為例，網(wǎng)絡(luò)安全是高度攻防對(duì)抗的行業(yè)，需要經(jīng)歷真實(shí)的網(wǎng)絡(luò)攻擊，才能在網(wǎng)絡(luò)防護(hù)核心技術(shù)上取得突破。高校和科研院所幾乎沒有實(shí)際攻防的場(chǎng)景，而企業(yè)一直戰(zhàn)斗在安全攻防的第一線，對(duì)技術(shù)發(fā)展高度敏感。因此，建議給予企業(yè)承擔(dān)重大專項(xiàng)和科研課題的機(jī)會(huì)，并給予一定的資金支持，在重大科研任務(wù)中培養(yǎng)實(shí)戰(zhàn)人才。

以網(wǎng)絡(luò)安全為例，一是通過“減稅降費(fèi)”等政策支持企業(yè)在網(wǎng)絡(luò)安全等領(lǐng)域的投入，鼓勵(lì)企業(yè)加大科技創(chuàng)新；二是加強(qiáng)網(wǎng)絡(luò)安全行業(yè)標(biāo)準(zhǔn)與規(guī)范的推廣，增強(qiáng)中國(guó)在國(guó)際網(wǎng)絡(luò)安全領(lǐng)域的話語權(quán)；三是為從業(yè)者、學(xué)生提供更多的國(guó)際交流機(jī)會(huì)、資助參加國(guó)際網(wǎng)絡(luò)安全賽事，培養(yǎng)更多具備國(guó)際視野和前沿技能的專業(yè)人才。

建議用好數(shù)字科技技術(shù)，推動(dòng)科技金融由被動(dòng)服務(wù)模式轉(zhuǎn)向主動(dòng)服務(wù)模式，同時(shí)筑牢網(wǎng)絡(luò)安全底板，為中國(guó)式現(xiàn)代化作貢獻(xiàn)?！R向東

采寫:南都記者 胡耕碩