中新網烏鎮(zhèn)11月22日電(奚金燕 藍伊旎)人工智能生成的內容如何“防偽”？網絡空間國際規(guī)則怎么制定？數據安全的邊界在哪里？隨著人工智能的高速發(fā)展以及在各領域的廣泛應用，加強人工智能在開發(fā)和應用層面的安全治理逐漸成為社會共識，聚焦的議題也愈加細分、深入。

11月19日至22日，2024年世界互聯網大會烏鎮(zhèn)峰會在烏鎮(zhèn)舉辦，人工智能成為本次大會核心議題，AI的倫理風險、安全治理等問題成為討論的焦點。

11月19日至22日，2024年世界互聯網大會烏鎮(zhèn)峰會在烏鎮(zhèn)舉辦?！≈鬓k方 供圖

近年來，AI技術的快速發(fā)展帶來了巨大的經濟和社會效益，也引發(fā)了眾多安全和治理方面的挑戰(zhàn)。

在本屆峰會的網絡安全技術發(fā)展與國際合作論壇上，奇安信集團董事長齊向東指出，AI技術正面臨著“黑箱化”導致內容生成良莠不齊、“黑產化”導致深度偽造泛濫成災和“武器化”導致黑客攻擊愈演愈烈三重安全危機，亟須通過多維度體系化防護、深度偽造技術防治以及安全大模型的創(chuàng)新來加強治理。

“有了高效的安全治理，AI才有未來。”他認為，建立AI安全大模型是應對未來挑戰(zhàn)的關鍵策略。

以奇安信為例，用其部署自研的QAX-GPT安全大模型賦能天眼、天擎、椒圖等安全產品，再依托AISOC進行告警全局關聯，可以讓網絡安全、終端安全、服務器安全的防御變得更加主動。

再如，安恒信息牽頭研發(fā)的恒腦·安全垂域大模型在杭州亞運會賽事期間輔助處理安全事件287起，降低了ITCC57%的工作量。以AI對AI，以AI管AI，人工智能切實給網絡安保帶來了質的變化。

同時，隨著人工智能深入到生活的各個方面，如何用人文關懷搭建數字橋梁、實現技術發(fā)展與社會責任間的平衡成為新的課題。

在量子之歌董事長李鵬看來，隨著數字資源供給日益豐富、數字發(fā)展環(huán)境逐漸優(yōu)化，老年人對知識與精神生活的需求也更加迫切，銀發(fā)教育普惠及資源共享需要在供給側發(fā)力。

他呼吁，人工智能的發(fā)展應當為老年教育等領域提供更多的數字化解決方案。比如，通過“線上+線下”的融合創(chuàng)新，一起構建“15分鐘學習圈”，實現“老年大學辦到家門口”，打通“老年教育最后一百米”，以數字創(chuàng)新增強老年教育服務的“可及性”和“均衡性”。

那么，應當如何加強安全治理和社會引導，助力人工智能可持續(xù)發(fā)展？

據了解，本屆峰會圍繞人才培養(yǎng)、數據安全等方面，打造了多個“亮點”、實現了多個“首次”。

峰會期間，世界互聯網大會智庫合作計劃啟動。該計劃由全球約60家智庫聯合發(fā)起，涉及互聯網、人工智能、大數據、通信、云計算等專業(yè)方向和數字經濟、網絡文化、網絡空間國際治理、網絡安全等研究領域，將為全球互聯網領域學術交流和思想對話機制化、常態(tài)化搭建合作平臺，推動全球智庫圍繞互聯網相關議題開展研究、交流與合作。

功以才成，業(yè)由才廣?；ヂ摼W迅猛發(fā)展，亟需規(guī)模宏大、結構合理、素質優(yōu)良的創(chuàng)新人才隊伍。

為了應對這一挑戰(zhàn)，世界互聯網大會數字研修院正式啟動，旨在聚焦人工智能、數據、網絡安全、跨境電商等國際社會廣泛關注的熱點領域，通過開展國際化綜合性、專題性培訓和沙龍活動，為全球各國，特別是發(fā)展中國家培養(yǎng)具有廣闊國際視野、前沿數字化思維、先進數字化技能的專業(yè)人才。

作為研修院首批合作單位，安恒信息相關負責人表示，將以此為契機，在網絡安全人才培養(yǎng)領域走穩(wěn)走遠，走深走實，助力“數字研修院”這一全新引擎，以更加創(chuàng)新、開放、普惠的方式，搭建全球能力建設平臺，維護安全的新疆域、文明互鑒的新平臺。

此外，世界互聯網大會還成立了首個專業(yè)性、常態(tài)化分支機構——人工智能專業(yè)委員會。第一屆專委會成員共170余人，匯集了來自人工智能領域國際組織、知名智庫、科研院所、專業(yè)協(xié)會及產業(yè)界的權威專家和專業(yè)人才，設立了標準推進計劃、安全與治理推進計劃和產業(yè)推進計劃。

當前正處于全球人工智能治理的重要時期，專委會將秉持搭建國際交流合作平臺、推動發(fā)展與治理協(xié)同、促進全球共享人工智能發(fā)展成果的原則，通過開展專題研討、成果分享、倡議發(fā)布等活動，不斷凝聚國際共識，促進人工智能包容普惠、可持續(xù)發(fā)展。(完)

關鍵詞：