面對新技術“浪潮”該怎樣築牢“安全堤”

簡要回答

進入2023年，中國網絡文明大會、數字中國建設峯會、2023年國家網絡安全宣傳週等一系列的重要活動接連在福建舉辦，2023年舉辦的這三場活動都和互聯網有關，但會議上聚焦的內容卻是截然不同的兩個關鍵詞，如果互聯網是一把雙刃劍，“安全”和“發展”正是這把雙刃劍的一體兩面，伴隨着新一輪科技產業革命的深入發展，網絡安全領域也將面臨日益突出的挑戰。

近年來非常受輿論關注的AI換臉技術，在2023年的網絡安全博覽會中關於AI換臉技術的“防”和“攻”這兩個方面就特別受關注，只需要將一張目標人物的照片依靠智能AI換臉的技術就能夠變成另外一個人。這種方式能讓不法分子通過網貸平台的人臉認證“搖搖頭”“眨眨眼”就能夠快速把受害者的錢轉出去，在美亞柏科展區的現場工作人員就現場演繹了這一場騙術。

2023年4月份在福州當地舉辦的數字中國建設峯會中，在聊到發展時，聊的最多的就是“AI”這個詞，在當下正在舉辦的網絡安全宣傳週上談到“安全”這個詞彙時，“AI”仍然是出現最多的一個詞彙，大數據可以説是智能AI大模型非常重要的一個因素，大家對於這方面的認知各不相同，所有人都認為數據的質量對於智能AI大模型的水平影響非常高。

北京大學計算機學院教授黃鐵軍站在他的觀點來看，大模型是基於背後的數據而呈現出來的所有功能都源於數據，這也就意味將會有越來越高的風險出現，對於智能AI技術如果你給它輸入的數據出錯了，那它呈現出來的結果永遠都會按照這個錯誤的數據來呈現，這個時候就出現了一種互相矛盾的情況。
未來面對新技術的浪潮在實施的時候，有關部門一定要加強大數據領域違法違規行為的打擊力度，要強化規範引領加強新技術新應用使用之前的前瞻性研究，能夠有效規範引導新技術的應用。