網信辦約談11企業促監管 換臉技術具動員社會能力

【本報訊】國家網信辦和公安部近日指導各地網信部門、公安機關,加強對語音社交軟件和涉「深度偽造」(Deepfake)技術的網絡新技術、新應用安全評估工作,已約談映客、小米、快手、字節跳動、鯨準數服、雲賬戶、喜馬拉雅、阿里巴巴、網易雲音樂、騰訊、去演等11家企業。當局指出,此舉是為「加強對具有輿論屬性或社會動員能力的互聯網信息服務和相關新技術新應用的安全管理,規範互聯網信息服務活動,切實維護國家安全、社會秩序和公共利益」。
中通社報道,「深度偽造」技術又稱「深度換臉」,是以人工智能(AI)技術用於製作或修改短片內容以呈現與實際不符的影像,近期有關該技術的應用在網絡引起頗大爭議。
Clubhouse早前被禁
內地早前封鎖爆紅的語音聊天應用程式Clubhouse,近期又下架AI「變臉」應用程式Avatarify,加上網信部門和公安機關最新的行動,顯示是一連串加強監管語音社交和「深度偽造」技術的措施。
國家網信辦發出新聞稿稱,北京、上海、廣東等地網信部門、公安機關約談11間公司,行動是針對近期未履行安全評估程序的語音社交軟件和涉「深度偽造」技術的應用程式。當局督促有關企業按照《網絡安全法》、《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》(下稱規定)等法律法規及政策要求,認真開展安全評估,完善風險防控機制和措施,並對安全評估中發現的安全隱患及時採取有效整改措施,切實履行企業信息內容安全主體責任。
當局促企業開展「安全評估」
規定要求,出現具有輿論屬性或社會動員能力的信息服務上線,或者信息服務增設相關功能,使用新技術、新應用,使信息服務的功能屬性、技術實現方式、基礎資源配置等發生重大變更,用戶規模顯著增加等情形,互聯網信息服務提供者應當自行開展安全評估,對評估結果負責,並向網信部門和公安機關提交報告。當局經書面審查認為有必要的,應當依據各自職責對互聯網信息服務提供者開展現場檢查。
稱公安機關審查「有必要」
新聞稿表示,下一步國家網信辦和公安部將繼續指導各地網信部門、公安機關加大巡查檢查力度,督促屬地互聯網企業嚴格遵守相關法律法規,積極主動履行安全管理義務,切實履行企業主體責任,共同維護網絡傳播秩序,營造良好網絡生態。