中央網(wǎng)信辦：整治利用“AI換臉”生成涉未成年人低俗色情圖片視頻等問(wèn)題_天天速遞

(資料圖片)

人民網(wǎng)北京6月28日電 （記者申佳平）據中國網(wǎng)信網(wǎng)消息，為進(jìn)一步強化未成年人網(wǎng)絡(luò )保護，營(yíng)造健康安全網(wǎng)絡(luò )環(huán)境，中央網(wǎng)信辦近日決定開(kāi)展為期2個(gè)月的“清朗·2023年暑期未成年人網(wǎng)絡(luò )環(huán)境整治”專(zhuān)項行動(dòng)，將對網(wǎng)絡(luò )欺凌、利用“AI換臉”等技術(shù)生成涉未成年人低俗色情圖片視頻等問(wèn)題進(jìn)行處置處罰。

據了解，該專(zhuān)項行動(dòng)的目的是集中整治網(wǎng)上涉未成年人突出問(wèn)題，全面壓縮有害信息隱形變異的生存空間，堅決遏制侵害未成年人權益的違法行為，進(jìn)一步提升學(xué)習類(lèi)APP、兒童智能設備等專(zhuān)屬產(chǎn)品服務(wù)信息內容安全標準，有效解決網(wǎng)絡(luò )沉迷問(wèn)題，營(yíng)造有利于未成年人健康安全成長(cháng)的網(wǎng)絡(luò )環(huán)境。

同時(shí)，針對未成年人用戶(hù)數量較大、對未成年人具有顯著(zhù)影響的網(wǎng)站平臺以及兒童智能設備，專(zhuān)項行動(dòng)將從深從細全面整治，從嚴從重處置處罰，持續凈化網(wǎng)絡(luò )生態(tài)。重點(diǎn)聚焦以下7方面問(wèn)題：

一是有害內容隱形變異問(wèn)題。一是以諧音詞、變體字、表情符號等形式傳播色情低俗、賭博迷信等內容；二是利用視頻剪輯、影視二創(chuàng )、動(dòng)漫改編等方式集中展示涉未成年人血腥暴力等畫(huà)面；三是通過(guò)外鏈、浮窗、二維碼、賬號信息等進(jìn)行色情引流；四是兒童智能設備自帶及第三方APP，語(yǔ)音、文字搜索結果中存在涉黃涉暴內容。

二是網(wǎng)絡(luò )欺凌問(wèn)題。一是使用網(wǎng)絡(luò )爛梗對未成年人進(jìn)行侮辱謾罵；二是對未成年人進(jìn)行“人肉搜索”，惡意傳播泄露未成年人隱私的欺凌視頻；三是通過(guò)惡意P圖、編造謠言等，詆毀未成年人。

三是隔空猥褻問(wèn)題。一是借“個(gè)性交友”“童星招募”“有償收圖”等名義，誘騙或脅迫未成年人進(jìn)行在線(xiàn)裸聊、作出淫穢動(dòng)作、提供裸照視頻等；二是通過(guò)群組、私信等渠道向未成年人發(fā)送色情圖片、淫穢語(yǔ)言；三是在涉未成年人賬號、文章頁(yè)面發(fā)布低俗色情跟帖評論，誘導不良交友或實(shí)施性引誘。

四是網(wǎng)絡(luò )詐騙問(wèn)題。一是以“內部人員”“含淚轉讓”等名義向未成年人虛假售賣(mài)演唱會(huì )門(mén)票，實(shí)施網(wǎng)絡(luò )詐騙；二是以免費游戲裝備、投票返現、盲盒抽取、粉絲抽獎等名義誘導未成年人加入群聊，誘騙轉賬匯款；三是誘騙未成年人提供社交賬號、支付密碼等用于網(wǎng)絡(luò )詐騙活動(dòng)。

五是不良內容問(wèn)題。一是發(fā)布校園主題劇情演繹類(lèi)視頻，以偏激方式丑化學(xué)校形象，鼓噪師生矛盾，美化頂撞老師等行為；二是渲染家長(cháng)“壓迫”“壓榨”孩子，惡意編造虛假家庭矛盾等內容；三是誘導吸煙、飲酒、紋身、曠課等不良行為；四是通過(guò)虛假擺拍鼓吹“霸凌風(fēng)”“家暴妝”等畸形審美，傳播以強凌弱、以暴制暴等不良內容。

六是網(wǎng)絡(luò )沉迷問(wèn)題。一是誘導未成年人長(cháng)時(shí)間觀(guān)看直播短視頻；二是利用算法向未成年人集中推送誘導沉迷?xún)热?，形成信息繭房；三是通過(guò)聊天交友、虛擬空間裝飾等娛樂(lè )功能誘導未成年人消費；四是向未成年人違規提供網(wǎng)絡(luò )游戲賬號租售服務(wù)，教授未成年人破解防沉迷系統、繞過(guò)青少年模式。

七是新技術(shù)新應用風(fēng)險問(wèn)題。一是利用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術(shù)生成涉未成年人低俗色情圖片視頻；二是利用所謂“閱后即焚”的密聊軟件誘騙未成年人提供個(gè)人信息，誘導實(shí)施違法行為；三是利用生成式人工智能技術(shù)制作發(fā)布涉未成年人有害信息。

標簽：