周鴻祎：人工智能安全與發(fā)展可“同步走”

　　中新網(wǎng)北京3月2日電 (記者 夏賓)人工智能發(fā)展日新月異。近來，國產(chǎn)大模型的火熱降低了民眾與企業(yè)的使用門檻，但其帶來的安全問題不容忽視。如何保護數(shù)據(jù)安全、識別虛假信息、防御網(wǎng)絡(luò)攻擊等都是人工智能(AI)產(chǎn)業(yè)成長的“必答題”。

　　全國政協(xié)委員、360集團創(chuàng)始人周鴻祎近日在北京接受中新網(wǎng)等媒體采訪時，談及人工智能技術(shù)進步帶來的新風(fēng)險。

　　他認為，要正確認識AI的安全問題，不能夸大、不能忽視，也不要籠統(tǒng)地談AI安全。一些美國頭部AI公司想搞壟斷和封閉，往往會夸大AI不安全的問題作為其不開源的借口，這樣后來者就沒有機會趕上他們?！拔乙恢闭J為，不發(fā)展是最大的不安全”，周鴻祎說，必須抓住AI的這次機會，提升生產(chǎn)力，讓每個人感受到科技普惠的成果。

　　周鴻祎稱，AI的安全和業(yè)務(wù)發(fā)展可以“同步走”。人工智能尤其是大模型的安全問題不能以傳統(tǒng)網(wǎng)絡(luò)安全的解題方法來應(yīng)對，智能體的安全、知識數(shù)據(jù)的安全、客戶端的安全以及基座模型的安全，構(gòu)成一個人工智能安全的全新領(lǐng)域，解決方法的關(guān)鍵是“以模制模”。

　　“我們花了很多功夫?qū)ｉT做安全大模型，就是用聰明的大模型智力、能力去管理知識庫的使用，去管理智能體的調(diào)用，去管理基座模型的‘胡說八道’和對人的‘PUA攻擊’?！敝茗櫟t說。

　　談及當(dāng)下大模型發(fā)展路徑的開源和閉源發(fā)展路線，周鴻祎說，沒有開源就沒有互聯(lián)網(wǎng)。開源就是把自己的朋友搞得多多的、把自己的敵人搞得少少的，不分國家、不分種族，只要對人工智能有興趣的人都可以加入到開源社區(qū)中，與所有人一起分享成果。開源生態(tài)形成巨大的虹吸效應(yīng)，一般來說，開源一旦形成氣候，就能戰(zhàn)勝閉源。

　　他說，開源對整個中國傳統(tǒng)企業(yè)在利用大模型降本增效、打造新質(zhì)生產(chǎn)力等方面的杠桿作用大。因此，將來中國在AI領(lǐng)域會借助生態(tài)帶來更強的研發(fā)力量，帶來更多的創(chuàng)新和改進，帶來更多的標(biāo)準(zhǔn)。(完)