央视曝光AI造黄产业链，被点名公司发文致歉：将进一步完善管理与审核流程

14日，被央视曝光涉黄的AI软件哩布哩布发布《关于加强内容安全管理的说明》，承认在个别复杂提示词组合及规避表达的边界场景下，平台存在生成不符合规范内容的情况。哩布哩布AI表示，相关问题已第一时间完成技术修复，并对风险路径进行全面封堵。

据此前央视新闻报道，调查发现多个AI应用存在涉黄生成漏洞，如果直接向平台输入露骨色情词汇，平台通常会进行拦截，但只要改用隐晦说法，便能轻松绕过审核，生成违规色情内容。其中哩布哩布AI被点名，从网上购买隐晦提示词后，很容易就能在该平台生成违规视频，全程不会被平台拦截，平台也没有发出警示。部分商家在社交平台公开售卖“AI擦边视频制作教程”，宣称可手把手教用户利用AI软件，通过隐晦提示词生成色情内容，甚至鼓吹“日入5位数”，诱导更多人参与，形成“售卖提示词—AI生成内容—非法牟利”的灰色产业链。AI平台虽然没有直接提供违规内容，但监管、审核的缺位导致违规视频仍然能够轻易产出并传播。

“哩布哩布AI”的运营主体是北京奇点星宇科技有限公司，企查查显示2025年该企业曾两次收到税务机关通知，被要求及时办理纳税申报、报送纳税资料，并整改相关税务违法行为。该应用官网宣传称自身是AI文生图赛道融资第一，是中国最大的AI图像生成平台。2025年10月，该公司宣布完成1.3亿美元B轮融资，由红杉中国、CMC资本及一战略投资方联合领投，老股东顺为资本、源码资本、明势创投、渶策资本均超额增持，据称是当时国内资本市场AI应用赛道规模最大的一笔融资。

根据2023年8月起施行的《生成式人工智能服务管理暂行办法》和2025年11月正式实施的《网络安全技术 生成式人工智能服务安全基本要求》均要求提供和使用生成式人工智能服务，不得生成暴力、淫秽色情等内容，还要对明显诱导生成违法不良信息的问题拒绝回答。并且值得注意的是，约束AI生成侵权、滥用的绳索正在进一步拉近，今年7月15日《人工智能拟人化互动服务管理暂行办法》将施行，其中也提到“提供拟人化互动服务时，不得传播淫秽、色情、暴力等内容”，还对未成年人和老年人使用拟人化互动服务作出了相关规定。

扬子晚报|紫牛新闻记者沈昭

视频|周嘉楠

校对 胡妍璐