阅读量:6
⚠️ 科技前沿
AI涉黄曝光：几句话就能手搓让人满意的大尺度视频
4月13日，央视曝光多款生成式AI应用存在严重涉黄内容生成漏洞，平台审核机制形同虚设，用户仅需几句经过隐晦处理的提示词，便可绕过限制，快速生成大尺度违规内容。
✦
⚠️ 平台审核形同虚设
实测发现，直白露骨的提示词会被多数平台拦截，但将敏感表述替换为含蓄描述、英文词汇等方式后，违规内容可顺利生成。在部分应用中，仅需几分钟即可生成半裸女性跳舞视频，全程未触发任何平台限制机制。
✦
🔗 完整黑色产业链
调查显示，AI”造黄”已形成完整黑色产业链，从违规提示词售卖、工具使用教程，到批量生成色情内容、付费换脸造假，各环节分工明确、牟利猖獗。网络上有商家公开兜售定制提示词，搭配境外AI工具或本地部署模型，进一步规避监管。
💾 付费AI写真乱象
部分付费AI照片生成器宣称，只要充值对应金额，仅凭一张照片就能一键生成色情视频，严重突破法律与伦理底线。此类乱象不仅污染网络生态，还极易滋生色情传播、敲诈勒索、恶意造谣等违法犯罪行为，对未成年人身心健康与网络空间秩序造成极大危害。
✦
📜 监管重拳出击
目前，我国已出台多项法规整治AI技术滥用，明确要求平台落实内容安全主体责任，强化算法审核与风险防控，严禁生成传播淫秽色情信息。
监管部门正持续开展“清朗”专项行动，重点打击利用AI制作低俗色情内容、违规提供生成服务等行为，督促平台升级审核技术，封堵提示词绕过漏洞。
AI技术的滥用已引起监管部门高度警觉。随着专项行动的持续推进和相关法规的不断完善，AI生成内容的监管漏洞有望逐步封堵。平台方也需承担起内容安全的主体责任，真正让技术造福社会而非成为违法工具。
