官方回应千问App可生成淫秽小说：已做整改 不算漏洞

近日，千问 App 归属的阿里，因在特定对话场景当中生成了不恰当的内容，从而引发了公众对于 AI 产品内容安全机制的广泛性质的质疑。这一事件，不仅暴露了技术方面存在的漏洞，而且还把品牌置于用户数据安全以及伦理规范方面需负担的责任推到了风口浪尖位置。

事件回溯与用户遭遇

2026年1月，用户许先生于千问App里上传牌九图片去咨询玩法，然而却碰到AI持续误判成麻将，还反复地对你讲解规则。在多次纠正都没有效果之后，许先生试着输入情绪化的以及尺度更大的测试指令。依据他的反馈，平台刚开始的拦截机制很薄弱，后续甚至产生了不适宜的内容，并且以不同的表述多次输出。

在用户察觉到问题之后，马上就把与之相关的截图以及录屏证据递交给了千问客服，平台方给出回应表明问题已然得到修复，并且针对不佳体验表达了歉意，还承诺会持续对产品予以优化，可是，关于事件根源、具体的整改措施以及未来的预防方案等核心问题，客服并未给出进一步的说明，从而引发了用户对于透明度的那种不满。

平台响应与媒体调查

在距离得到用户反馈大概两小时过后，相关那些不当的内容已经没办法再一次生成了。这个事件被“大风新闻”报道以后，很快就引起了行业的关注。为了去验证问题的普遍性，媒体针对市面主流的AI应用展开了同类的测试。最终的结果表明，包含豆包、元宝在内的多款竞品都没有出现类似的内容安全漏洞。

5月18日，媒体试着去联系之前跟用户交流通信的千问相关的工作人员，然而电话没能被接通。之后记者又一次咨询了官方客服，对方着重表明平台有着严格的安全管理机制，从理论上来说不应该出现这样的问题，同时还表示会开展内部核查。这一回的回应跟之前用户所经历的情况形成了反差，增添了外界的疑虑。

技术漏洞与安全机制审视

此番事件，把AI大模型于复杂场景里的理解以及拦截能力方面的缺陷，毫无保留地给暴露出来了。有分析明确指出，千问App在图像识别进而到后续对话逻辑连贯性的判断这个过程当中，是存在显著短板的。当一开始的识别出现错误，也就是把牌九误判成麻将之后，系统没有办法进行有效的纠正，反倒在用户引导的情况下，朝着更加危险的边界滑落下去了。

更深入层级的问题在于，内容安全过滤机制具备多层的失效情况。行业当中的专家持有这样的看法，一套健全的AI安全体系，应当涵盖实时意图实施识别，还应当包含上下文风险进行评估，以及有动态过滤这样的措施存在。千问所引发的事件表明，表示其安全的链条很有可能在某些设定的环节，或者是多个环节之处有着漏洞存在，进而致使非常规测试指令成功绕开了既定的防护策略。

行业对比与用户信任危机

与处在同一时期接受测试的千问形成鲜明对照的是，豆包、元宝等应用在内容的管控方面展现出了更为稳定的能力。这种情况并非毫无缘由，据业内人士透露，有部分相关厂商已经投入了数额巨大的资金去构建“人类反馈强化学习”以及“红队测试”这样的体系，专门针对具有对抗性质的输入开展压力训练，以此来提高模型的鲁棒性。

此回风波径直冲击了千问以及阿里系品牌信誉这一情况。于AI竞争处于白热化状态的2026年，安全跟可靠已然变成用户进行选择时的核心指标。发生了一次内容失控事件，这完全能够致使用户对产品整体安全性产生长时间的怀疑这种后果，进而会影响到市场占有率以及资本估值，如此代价难以确切估量。

监管态势与企业责任

伴随AI深度嵌入社会生活之中，全球范围内的监管机构正不断地持续收紧与之相关的内容安全标准。中国的有关部门已经多次着重强调，生成式AI服务的提供者务必要采取相应措施去防止生成非法有害的信息。千问事件恰恰正好发生在监管加强的敏感时期，给企业敲响了合规的警钟。

企业的责任，并非仅仅局限于事后进行修复，更关键的是要去构建事前预防以及透明的沟通机制。用户是拥有知晓问题根源以及改进方案的权利的，而不是仅仅获得程式化的道歉。那种缺乏透明度的回应，会对公众监督的作用起到削弱效果，并且对于行业从错误当中进行集体学习，共同建立健康生态也是不利的。

未来展望与行业启示

整个 AI 行业因该事件获得了宝贵的压力测试案例，它揭示出，在追求模型能力突破之际，安全跟伦理的位置须被放到同等甚至更优先的地步，开发团队要把“对抗性测试”平常化，去模拟各种各样的极端用户交互情况，预先发现并且修补潜在的风险点。

这是一次对用户而言颇为重要的风险教育，在享受AI便利之际，需具备基本安全意识，不开展有可能诱导有害内容的测试，还要经由正规渠道反馈问题，与此同时，用户以脚投票所形成的市场力量，最终会驱动企业把资源往安全领域倾斜。

对于此次千问App所出现的内容安全事件而言，它是技术突显缺陷、响应出现失当以及信任产生流失这几种情况交织而成的多重奏。在当下AI处于飞速发展的这个阶段，您觉得企业究竟应该怎样去平衡技术创新以及内容安全，如此这般才能够真正地获取到用户长期以来的信任？欢迎在评论区域分享您所拥有的观点，同时也请您点赞、分享本文，以便让更多的人去关注AI伦理这一相当重要的议题。

猜你喜欢