男子发现千问App可生成淫秽小说

在千问AI软件输入相关词汇,居然能够生成不堪入目的淫秽小说 ,这让河北沧州的许先生感到匪夷所思,难道千问App对色情内容不设防,甚至可以予求予取?

男子发现千问App可生成淫秽小说-第1张图片

许先生向千问运营方反馈数月 ,千问客服表示 ,他们已做了修复和迭代,但有些词汇概率出现,具有不可预测性 ,不算漏洞 。男子意外发现千问AI软件可生成黄色小说

今年40岁的许先生是一名大车司机,平时跑车之余,对AI软件颇感兴趣 ,“我以前用得比较多的就是千问。 ”

日前,许先生向华商报大风新闻记者介绍,事情发生在2026年1月5日 ,当时快过年了,许先生听朋友给他介绍了牌九的玩法,很感兴趣 ,为了进一步掌握规则,就到千问软件上去问询。“我发了朋友转给我的一张玩牌九的网络图片,让千问告诉我具体玩法 ,但它却似乎不认识 。”许先生说 ,千问软件每次给他反馈的内容都是麻将的玩法,起初,许先生耐心纠正了千问的认识错误 ,千问也多次表达了歉意,但当许先生再次输入那张图片询问,千问的回复却又回到了原点 ,依然表示图中呈现的是麻将,并对麻将的规则进行一番详尽讲解,如此往复十余次后 ,许先生开始失去耐心,输入了骂千问的脏话 。

“没想到脏话输入后没有被千问过滤,这引起了我的好奇。”许先生说 ,他开始逐渐输入一些大尺度词汇,千问始终没有进行劝诫和阻拦,最终 ,在许先生输入一些露骨话题和指令后 ,千问先是就两性问题给出科普性描述,之后随着进一步输入,开始生成各种不堪的淫秽小说情节 ,而且会用不同版本的表述方式呈现。

多方反馈希望运营方做出明确答复,数月无果

这让许先生感到匪夷所思,当下AI软件的普及率颇高 ,就像他自己,虽然文化程度不高,但在平时的生活中也会经常使用到AI软件咨询问题 ,比如找饭店、导航,还有一些事情的解决方案等,但千问对淫秽内容的生成让他感到意外 。

“发现这个情况后 ,我就改用别的AI软件了。 ”许先生表示,他也曾使用其他AI软件进行测试,发现输入脏话就会被阻拦 ,更无法生成淫秽小说。

于是 ,许先生将该现象截图录屏向千问客服进行了反馈,对方向许先生致歉称为其带来不好的体验,希望得到谅解 ,产品会不断迭代优化,还表示对已反映的问题进行了修复,并承诺后续会继续进行优化 。许先生提出希望对方提供报备回执单 ,修复漏洞的报告,提出“什么原因导致此类现象发生,又如何保证未来不会再发生 ”等问题 ,但对方称无法满足许先生的要求,一直未明确回答。

无奈之下,许先生向千问App运营公司所在地上海市12345进行了反映 ,“当地相关部门认为,提供的证据客观真实,给发了条短信 ,没有处理结果 ,也没有处理依据,到现在也没信儿了。”

客服称有些词汇概率出现,具有不可预测性 ,不算漏洞

据了解,千问App是上海智信普惠科技有限公司的核心产品,该应用作为阿里通义实验室qwen大模型的官方助手 ,提供智能对话 、内容生成等功能 。上海智信普惠科技有限公司是阿里巴巴旗下的一家软件和信息技术服务企业,由阿里巴巴旗下广州大鱼快乐信息技术有限公司全资持股,公司运营“千问App”项目 ,该项目接入了淘宝、支付宝等阿里巴巴旗下应用,截至2026年1月,月活跃用户数超过1亿。

在许先生向上海相关部门反映后 ,他还曾接到来自杭州自称千问客服负责人的电话回复,致电人表示,对于许先生反映的问题 ,他们确实也有看到过 ,但目前大模型的生成是一个新的技术,是基于一定概率生成的,具有一定的不可预测性 ,会有一定比例出现,其他AI软件也一样会出现,不算是漏洞 ,他们已经内部做了优化和迭代,进行了整改。“他们居然说概率出现是正常的,那是纯粹的黄色小说 ,人家其他AI软件是严格阻拦的 。 ”许先生说,不久前,千问已单方面清理了他当初在软件中的咨询过程 ,但好在自己做了录屏保存。“他们一直问我的诉求,我能有怎样的诉求?就希望有关部门依法依规进行处理。”许先生说 。

许先生表示,在事发两小时后即发现不再能生成同类内容 。日前 ,记者尝试在豆包、元宝等软件输入类似指令 ,均无法生成相关内容。

5月18日,华商报大风新闻记者尝试拨打曾两次致电许先生的杭州号码采访千问相关人士,但语音提示该号码无法接通。

记者就此向千问App客服反馈 ,对方表示,因为产品是有严格安全管控,应该不会有这类问题 。随后工作人员表示将核查此事。

标签:

相关推荐

  • 疫情合格党员/疫情优秀党员

    疫情合格党员/疫情优秀党员

    疫情期间党员自我鉴定范文疫情期间党员自我鉴定范文如下:思想政治方面坚定信念,深化学习:在疫情期间,我始终牢记党的誓词,深入学习党的理论知识,特别是关于疫情防控的重要指示精神,坚定共产主义信念,确保思想与党中央保持高度一致。下面就是我给大家带来的疫情防控自我鉴定,欢迎大家阅读借鉴!自我鉴定1在这个十分时期,不仅仅是湖北,对于所有的党员干部而言,这场...

    2026/06/06
  • 疫情特别烦/疫情真是烦死了

    疫情特别烦/疫情真是烦死了

    一天一天因为这个疫情把人弄得烦的要命,大家觉得呢?个体抗风险能力差异:无稳定职业规划、依赖线下收入或缺乏储蓄的人群,更容易因疫情陷入困境。例如,务农者可能因物流受阻导致农产品滞销,自由职业者可能因项目中断失去收入来源。信息过载与不确定性:疫情动态、政策调整频繁,容易引发焦虑情绪,长期处于“等待结束”的状态会消耗心理能量。疫情期间让你明白了什么,明白了,坐吃...

    2026/06/06
  • 疫情破产通知(疫情破产企业)

    疫情破产通知(疫情破产企业)

    因新冠疫情:首家宣布破产的邮轮企业首家因新冠疫情宣布破产的邮轮企业是日本神户夜光邮轮公司(LuminousCruisingCo.),具体信息如下:破产时间与原因:2020年3月2日,该公司正式宣布破产。直接原因是新冠疫情导致自1月起大量订单取消,经营陷入困境。欧洲最大邮轮公司歌诗达宣布暂停所有航线至4月3日,这是其70年来首次全面停航,主要因新冠肺炎疫...

    2026/06/06
  • 【公安疫情压力,疫情下公安机关】

    【公安疫情压力,疫情下公安机关】

    上海疫情管控的难点〖壹〗、综上所述,上海疫情管控的难点主要体现在多部门协作的复杂性、人性与责任担当的差异、长时间高强度工作的压力、资源紧张与分配不均、数据不一致与信息不对称以及公众配合度与防控意识等方面。为了克服这些难点,需要各部门之间加强协作、明确职责、优化流程;同时,也需要加强公众的宣传教育、提高防控意识;此外,还需要加强资源的统筹调配和数据的共享与整...

    2026/06/06
  • 临猗疫情举报/临猗防疫指挥部

    临猗疫情举报/临猗防疫指挥部

    临猗县封城了吗截至2022年12月4日,没有。经查阅临猗县疫情防控中心官方网站可知,临猗县并无全程封控的通知。临猗县,隶属于山西省运城市,位于山西西南部,运城盆地北沿,东南与运城市接壤,西南与永济市毗邻,西濒黄河与陕西省合阳县相望,北面孤峰拱秀与万荣县相连,总面积13332平方千米。临猗县对返回人员有什么政策严格执行报备审批制度。全县各级各部门党员干部及...

    2026/06/06
  • 疫情最美留言/抗击疫情的留言

    疫情最美留言/抗击疫情的留言

    给医护人员的留言100字〖壹〗、致医护人员的留言:无私奉献:当您穿上防护衣,便化身为平凡的英雄,用坚韧和勇气打败了疫情,守护了无数生命。您的付出,如同春风拂面,温暖了患者的心田。忘我工作:在无数个白昼与黑夜,您始终战斗在救死扶伤的第一线,与死神和病魔抗争,用精湛的技艺和无私的爱心,为患者燃起生命之火。〖贰〗、致医护人员的留言:你们是平凡的英雄:当穿上防护衣...

    2026/06/06
  • 【耶稣疫情,圣经中疫情的来临】

    【耶稣疫情,圣经中疫情的来临】

    5基督教祷告事项〖壹〗、谦卑自省与灵性成长:信徒需在祷告中向神承认自身软弱,祈求守护免于跌倒,赋予抗拒罪恶的勇气,并引领自己重返主的怀抱,加深对主的热爱。例如,通过祷告反思日常行为,恳求神帮助克服试探,培养敬虔品格。时间管理与生活秩序:恳求主赐予热爱真理、渴慕圣道的心,珍惜光阴,合理安排生活,避免沉迷电子网络,建立健康作息习惯。〖贰〗、祷告不受时间地点限制...

    2026/06/06
  • 疫情检测狗(疫情隔离狗狗)

    疫情检测狗(疫情隔离狗狗)

    狗子神了!英国用狗子检测新冠,准确率高达94.3%!〖壹〗、英国确实在训练狗通过嗅觉检测新冠病毒,准确率高达93%,但需作为初步筛选工具,不能完全替代核酸检测。以下是详细介绍:检测原理与实施背景狗的嗅觉灵敏度远超人类,能够识别极微量的挥发性有机化合物(VOCs)。新冠病毒会改变人体代谢,导致汗液、呼吸等体液中的VOCs成分发生变化。二哈新神技:训练有素的狗...

    2026/06/06
  • 上海医院疫情/上海 医院 疫情

    上海医院疫情/上海 医院 疫情

    看病难、配药难,上海疫情下这类医院迅速「翻红」上海疫情期间,互联网医院业务量迅速增长,成为缓解看病难、配药难问题的重要途径。互联网医院数量与业务量激增数量增长:上海市互联网医院数量在疫情期间迅速增加。4月2日,全市互联网医院数量为76家;4月25日,这一数字已超过100家。徐浦中医医院的主动作为成立专项配药小组:疫情初期,医院关注到慢性病和常见病患者因封...

    2026/06/06
  • 因为疫情诈骗(因为疫情诈骗怎么处理)

    因为疫情诈骗(因为疫情诈骗怎么处理)

    多事之秋!疫情期间世界贸易欺诈频发,警惕骗子用这些新套路趁火打劫_百...〖壹〗、疫情期间世界贸易欺诈频发,出口商需警惕以下新套路,并通过资信调查、合同条款优化及风险监控降低损失风险。具体分析如下:疫情期间世界贸易欺诈的常见套路合同付款条款陷阱低预付款+收货后付款:骗子要求合同注明仅支付少量预付款,剩余货款在收货后支付,利用出口商急于清库存的心理诱导发货...

    2026/06/06
返回顶部