中央網(wǎng)信辦：整治利用“AI換臉”生成涉未成年人低俗色情圖片視頻等問題|環(huán)球熱聞

來源：人民網(wǎng)

人民網(wǎng)北京6月28日電 （記者申佳平）據(jù)中國網(wǎng)信網(wǎng)消息，為進一步強化未成年人網(wǎng)絡(luò)保護，營造健康安全網(wǎng)絡(luò)環(huán)境，中央網(wǎng)信辦近日決定開展為期2個月的“清朗·2023年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項行動，將對網(wǎng)絡(luò)欺凌、利用“AI換臉”等技術(shù)生成涉未成年人低俗色情圖片視頻等問題進行處置處罰。

據(jù)了解，該專項行動的目的是集中整治網(wǎng)上涉未成年人突出問題，全面壓縮有害信息隱形變異的生存空間，堅決遏制侵害未成年人權(quán)益的違法行為，進一步提升學習類APP、兒童智能設(shè)備等專屬產(chǎn)品服務(wù)信息內(nèi)容安全標準，有效解決網(wǎng)絡(luò)沉迷問題，營造有利于未成年人健康安全成長的網(wǎng)絡(luò)環(huán)境。


(資料圖)

同時，針對未成年人用戶數(shù)量較大、對未成年人具有顯著影響的網(wǎng)站平臺以及兒童智能設(shè)備，專項行動將從深從細全面整治，從嚴從重處置處罰，持續(xù)凈化網(wǎng)絡(luò)生態(tài)。重點聚焦以下7方面問題：

一是有害內(nèi)容隱形變異問題。一是以諧音詞、變體字、表情符號等形式傳播色情低俗、賭博迷信等內(nèi)容；二是利用視頻剪輯、影視二創(chuàng)、動漫改編等方式集中展示涉未成年人血腥暴力等畫面；三是通過外鏈、浮窗、二維碼、賬號信息等進行色情引流；四是兒童智能設(shè)備自帶及第三方APP，語音、文字搜索結(jié)果中存在涉黃涉暴內(nèi)容。

二是網(wǎng)絡(luò)欺凌問題。一是使用網(wǎng)絡(luò)爛梗對未成年人進行侮辱謾罵；二是對未成年人進行“人肉搜索”，惡意傳播泄露未成年人隱私的欺凌視頻；三是通過惡意P圖、編造謠言等，詆毀未成年人。

三是隔空猥褻問題。一是借“個性交友”“童星招募”“有償收圖”等名義，誘騙或脅迫未成年人進行在線裸聊、作出淫穢動作、提供裸照視頻等；二是通過群組、私信等渠道向未成年人發(fā)送色情圖片、淫穢語言；三是在涉未成年人賬號、文章頁面發(fā)布低俗色情跟帖評論，誘導(dǎo)不良交友或?qū)嵤┬砸T。

四是網(wǎng)絡(luò)詐騙問題。一是以“內(nèi)部人員”“含淚轉(zhuǎn)讓”等名義向未成年人虛假售賣演唱會門票，實施網(wǎng)絡(luò)詐騙；二是以免費游戲裝備、投票返現(xiàn)、盲盒抽取、粉絲抽獎等名義誘導(dǎo)未成年人加入群聊，誘騙轉(zhuǎn)賬匯款；三是誘騙未成年人提供社交賬號、支付密碼等用于網(wǎng)絡(luò)詐騙活動。

五是不良內(nèi)容問題。一是發(fā)布校園主題劇情演繹類視頻，以偏激方式丑化學校形象，鼓噪師生矛盾，美化頂撞老師等行為；二是渲染家長“壓迫”“壓榨”孩子，惡意編造虛假家庭矛盾等內(nèi)容；三是誘導(dǎo)吸煙、飲酒、紋身、曠課等不良行為；四是通過虛假擺拍鼓吹“霸凌風”“家暴妝”等畸形審美，傳播以強凌弱、以暴制暴等不良內(nèi)容。

六是網(wǎng)絡(luò)沉迷問題。一是誘導(dǎo)未成年人長時間觀看直播短視頻；二是利用算法向未成年人集中推送誘導(dǎo)沉迷內(nèi)容，形成信息繭房；三是通過聊天交友、虛擬空間裝飾等娛樂功能誘導(dǎo)未成年人消費；四是向未成年人違規(guī)提供網(wǎng)絡(luò)游戲賬號租售服務(wù)，教授未成年人破解防沉迷系統(tǒng)、繞過青少年模式。

七是新技術(shù)新應(yīng)用風險問題。一是利用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術(shù)生成涉未成年人低俗色情圖片視頻；二是利用所謂“閱后即焚”的密聊軟件誘騙未成年人提供個人信息，誘導(dǎo)實施違法行為；三是利用生成式人工智能技術(shù)制作發(fā)布涉未成年人有害信息。

標簽：

推薦

財富更多》

動態(tài)更多》

熱點