男子发现千问App可生成淫秽小说

在千问AI软件输入相关词汇,居然能够生成不堪入目的淫秽小说 ,这让河北沧州的许先生感到匪夷所思 ,难道千问App对色情内容不设防,甚至可以予求予取?

男子发现千问App可生成淫秽小说-第1张图片

许先生向千问运营方反馈数月,千问客服表示 ,他们已做了修复和迭代,但有些词汇概率出现,具有不可预测性 ,不算漏洞 。男子意外发现千问AI软件可生成黄色小说

今年40岁的许先生是一名大车司机,平时跑车之余,对AI软件颇感兴趣 ,“我以前用得比较多的就是千问 。 ”

日前,许先生向华商报大风新闻记者介绍,事情发生在2026年1月5日 ,当时快过年了,许先生听朋友给他介绍了牌九的玩法,很感兴趣 ,为了进一步掌握规则 ,就到千问软件上去问询。“我发了朋友转给我的一张玩牌九的网络图片,让千问告诉我具体玩法,但它却似乎不认识。 ”许先生说 ,千问软件每次给他反馈的内容都是麻将的玩法,起初,许先生耐心纠正了千问的认识错误 ,千问也多次表达了歉意,但当许先生再次输入那张图片询问,千问的回复却又回到了原点 ,依然表示图中呈现的是麻将,并对麻将的规则进行一番详尽讲解,如此往复十余次后 ,许先生开始失去耐心,输入了骂千问的脏话 。

“没想到脏话输入后没有被千问过滤,这引起了我的好奇。”许先生说 ,他开始逐渐输入一些大尺度词汇 ,千问始终没有进行劝诫和阻拦,最终,在许先生输入一些露骨话题和指令后 ,千问先是就两性问题给出科普性描述,之后随着进一步输入,开始生成各种不堪的淫秽小说情节 ,而且会用不同版本的表述方式呈现。

多方反馈希望运营方做出明确答复,数月无果

这让许先生感到匪夷所思,当下AI软件的普及率颇高 ,就像他自己,虽然文化程度不高,但在平时的生活中也会经常使用到AI软件咨询问题 ,比如找饭店、导航,还有一些事情的解决方案等,但千问对淫秽内容的生成让他感到意外 。

“发现这个情况后 ,我就改用别的AI软件了。”许先生表示 ,他也曾使用其他AI软件进行测试,发现输入脏话就会被阻拦,更无法生成淫秽小说。

于是 ,许先生将该现象截图录屏向千问客服进行了反馈,对方向许先生致歉称为其带来不好的体验,希望得到谅解 ,产品会不断迭代优化,还表示对已反映的问题进行了修复,并承诺后续会继续进行优化 。许先生提出希望对方提供报备回执单 ,修复漏洞的报告,提出“什么原因导致此类现象发生,又如何保证未来不会再发生 ”等问题 ,但对方称无法满足许先生的要求,一直未明确回答。

无奈之下,许先生向千问App运营公司所在地上海市12345进行了反映 ,“当地相关部门认为 ,提供的证据客观真实,给发了条短信,没有处理结果 ,也没有处理依据,到现在也没信儿了。”

客服称有些词汇概率出现,具有不可预测性 ,不算漏洞

据了解,千问App是上海智信普惠科技有限公司的核心产品,该应用作为阿里通义实验室qwen大模型的官方助手 ,提供智能对话 、内容生成等功能 。上海智信普惠科技有限公司是阿里巴巴旗下的一家软件和信息技术服务企业,由阿里巴巴旗下广州大鱼快乐信息技术有限公司全资持股,公司运营“千问App”项目 ,该项目接入了淘宝 、支付宝等阿里巴巴旗下应用,截至2026年1月,月活跃用户数超过1亿。

在许先生向上海相关部门反映后 ,他还曾接到来自杭州自称千问客服负责人的电话回复 ,致电人表示,对于许先生反映的问题,他们确实也有看到过 ,但目前大模型的生成是一个新的技术,是基于一定概率生成的,具有一定的不可预测性 ,会有一定比例出现,其他AI软件也一样会出现,不算是漏洞 ,他们已经内部做了优化和迭代,进行了整改。“他们居然说概率出现是正常的,那是纯粹的黄色小说 ,人家其他AI软件是严格阻拦的 。 ”许先生说,不久前,千问已单方面清理了他当初在软件中的咨询过程 ,但好在自己做了录屏保存 。“他们一直问我的诉求 ,我能有怎样的诉求?就希望有关部门依法依规进行处理。”许先生说。

许先生表示,在事发两小时后即发现不再能生成同类内容 。日前,记者尝试在豆包、元宝等软件输入类似指令 ,均无法生成相关内容。

5月18日,华商报大风新闻记者尝试拨打曾两次致电许先生的杭州号码采访千问相关人士,但语音提示该号码无法接通。

记者就此向千问App客服反馈 ,对方表示,因为产品是有严格安全管控,应该不会有这类问题 。随后工作人员表示将核查此事。

标签:

相关推荐

  • 【共同助力疫情,共同助力抗击疫情】

    【共同助力疫情,共同助力抗击疫情】

    奋斗基层抗疫一线,做好防疫“模范兵”晋江市城镇集体工业联合社党员干部在基层抗疫一线积极作为,成为防疫“模范兵”,通过多种方式助力疫情防控工作,具体如下:率先垂范,发挥模范作用面对疫情,中共晋江市城镇集体工业联合社党组积极响应市委号召,第一时间抽调3名党员干部前往陈埭镇、龙湖镇参与疫情防控。积极宣传防控政策,普及科学知识,抵制谣言传播,营造众志成城的抗疫氛围...

    2026/06/10
  • 【疫情封门提示,疫情封门提示怎么写】

    【疫情封门提示,疫情封门提示怎么写】

    防控疫情打电话核实要封门吗〖壹〗、要。防控疫情打电话说明接接触了阳性感染人员,需要居家观察7天,由此防控疫情打电话核实要封门。防控的意思就是预防和控制,疫情指疫病的发生和发展情况,较大范围内出现的较大型疫情有重症急性呼吸综合征。〖贰〗、拉走隔离的人能给防疫占打电话。会打电话通知。疫情期间,如果是居家隔离,会直接上门封门。需要集中隔离的,居委会,防疫站等都会...

    2026/06/10
  • 【巴中疫情检查,巴中防控】

    【巴中疫情检查,巴中防控】

    越南防疫紧张进行时,这回轮到河内了〖壹〗、越南河内近期疫情骤然紧张,尽管新增确诊病例和总感染人数低于南部省市,但作为首都和防疫指挥中枢,当地已加强防控措施。疫情数据与分布9月9日上午,河内卫生部通报9月8日下午6点至9月9日上午6点新增3例COVID-19患者,均在隔离区发现。地区分布:清池县(ThanhTri)2例,海巴中县(HaiBaTrung)...

    2026/06/10
  • 疫情誓词团员/疫情誓词30个字

    疫情誓词团员/疫情誓词30个字

    入团誓词是什么啊誓词如下:我志愿加入中国共产主义青年团,坚决拥护中国共产党的领导,遵守团的章程,执行团的决议,履行团员义务,严守团的纪律,勤奋学习,积极工作,吃苦在前,享受在后,为共产主义事业而奋斗。共青团员入团誓词为:我志愿加入中国共产主义青年团,坚决拥护中国共产党的领导,遵守团的章程,执行团的决议,履行团员义务,严守团的纪律,勤奋学习,积极工作,吃苦在...

    2026/06/10
  • 疫情受益(疫情受益概念股)

    疫情受益(疫情受益概念股)

    埃博拉受益股龙头股埃博拉受益股龙头股主要包括疫苗类、检测与治疗类、医疗防护类、抗病毒药物类及世界上市公司中的核心企业,具体如下:疫苗类康希诺(688185)是国内唯一拥有重组埃博拉病毒病疫苗获批的企业,其疫苗已完成新药注册,是防控埃博拉的核心标的。当前本轮刚果(金)本迪布焦型埃博拉疫情中,市场公认的埃博拉受益龙头股主要分为三类,核心龙头分别为之江生物、康希...

    2026/06/10
  • 疫情搜索数据(如何搜索疫情数据)

    疫情搜索数据(如何搜索疫情数据)

    国外疫情情况怎么查询?〖壹〗、可以通过支付宝的疫情抗击专区查询国外疫情情况,具体步骤如下:进入支付宝并点击疫情抗击专区打开支付宝应用,在首页或搜索栏中找到“疫情抗击专区”入口。该专区整合了国内外疫情数据及防控服务功能。选取“国外”选项在专区界面中,通常会有“国内疫情”和“国外疫情”的分类标签。〖贰〗、进入“疫情地图”在“战肺炎”专题页面中,下拉至底部,找到...

    2026/06/10
  • 【厦门疫情解除,厦门解除防控】

    【厦门疫情解除,厦门解除防控】

    厦门哪些小区被隔离〖壹〗、厦门隔离在海沧的雍厝公寓。通过查询相关公开信息显示对在福建省口岸解除隔离后目的地为我省的,由各地驻口岸工作专班安排专车,点对点转运回居住地实施3天居家隔离。〖贰〗、没有被隔离。厦门,简称“厦”或“鹭”,别称鹭岛,是福建省副省级市、计划单列市,通过查询厦门疫情防控报告,截止到2022年8月25日经核实,厦门所有小区从中高风险地区解除...

    2026/06/10
  • 遛狗防疫情(动物防疫法遛狗)

    遛狗防疫情(动物防疫法遛狗)

    小区遛狗不带绳检查狗是否有病毒是哪个部门管〖壹〗、小区遛狗不带绳的问题主要由公安机关主管,城市管理综合执法组织辅助管理;检查狗是否有病毒(犬只防疫工作)主要由农业农村部门负责。〖贰〗、遛狗不牵绳归公安部门管。根据我国《治安管理处罚法》第五十一条规定,养犬人在公共场所遛狗时应当使用牵引绳,不得放养。如果发现有人遛狗不牵绳,可以向当地公安部门报告,他们有权对违...

    2026/06/10
  • 【何桥疫情,何桥是什么地方】

    【何桥疫情,何桥是什么地方】

    何桥镇简介位于中国东部的铜山县,有一个重要的乡镇叫何桥镇,它坐落在江苏省和安徽省的交界地带。具体来说,何桥镇南边与安徽的肖县相邻,西部与丰县的范楼接壤,北部则与沛县的敬安镇相邻,距离繁华的徐州市中心大约35公里的路程。淮安盱眙确有河桥镇,该镇是江苏省淮安市盱眙县下辖的一个行政建制镇。何桥镇的历史可以追溯到1958年,那时它隶属于黄集公社。随着历史的演变,1...

    2026/06/10
  • 疫情发钱(疫情给钱)

    疫情发钱(疫情给钱)

    发钱了!!!〖壹〗、其他国家类似措施中国香港、澳门特区:2020年2月份起开始发钱,澳门率先提出每人发放面值为3000澳门元的电子消费券,香港向18岁或以上香港永久性居民每人派发1万元。澳大利亚:3月30日推出总额为1300亿澳元的工资补贴措施,企业暂停运营6个月员工也不会失业。〖贰〗、将此视为“给老百姓发钱”,混淆了商业行为与福利政策的界限。总结:中国通...

    2026/06/10
返回顶部