日前，央視曝光AI“造黃”黑色產業(yè)鏈，引發(fā)社會廣泛熱議。記者調查發(fā)現(xiàn)，部分網(wǎng)絡平臺上，不法分子公然售賣AI色情擦邊視頻制作教程，聲稱僅憑一張照片、幾句提示詞，便可批量生成大尺度違規(guī)內容，甚至公開傳授繞過平臺監(jiān)管的方法，形成一條隱蔽的非法牟利鏈條。
點評
本應服務社會、賦能創(chuàng)新的AI技術，卻淪為滋生色情內容的工具，令人觸目驚心。放任此類低俗色情信息泛濫，不僅嚴重污染網(wǎng)絡生態(tài)、敗壞社會風氣，更極易衍生隱私侵權、網(wǎng)絡詐騙、惡意誹謗等違法犯罪行為，還會對心智尚未成熟的未成年人造成極大危害。因此，整治AI“造黃”亂象，刻不容緩，必須重拳出擊、標本兼治。
AI“造黃”的主要特點是低門檻、高回報。相較于傳統(tǒng)色情產業(yè)鏈，AI技術讓不良內容制作變得操作簡單、易于量產、傳播迅速、牟利高效，在巨額利益誘惑下，不少不法分子鋌而走險。
監(jiān)管部門亟需加大整治力度，深化“清朗”系列專項行動，針對AI技術濫用亂象精準發(fā)力，加快完善相關法律法規(guī)，明確違法違規(guī)行為的界定標準與處罰細則，提高違法成本，對產業(yè)鏈上下游不法分子從嚴懲處、形成震懾。互聯(lián)網(wǎng)平臺必須扛起主體責任，強化內容全流程審核，優(yōu)化AI內容風控技術，建立更嚴格的關鍵詞篩查、內容識別機制，及時封堵違規(guī)信息傳播渠道，對涉事賬號、商家堅決封禁、絕不姑息。
技術本無原罪，向善向惡全在使用者一念之間。面對觸碰紅線的AI涉黃行為，必須堅持零容忍態(tài)度，以嚴格監(jiān)管堵塞制度漏洞，以平臺責任筑牢技術防線，以社會共識凝聚治理合力，共同守護健康文明、風清氣正的網(wǎng)絡空間。（鄧也）
