
DeepSeek V3.1演出的 bug 大秀"极你太好意思"开云(中国)Kaiyun·官方网站 - 登录入口,可谓是让全网热议了一波。
轻便来说呢,即是络续有诱骗者们发现,当他们在调用 API 进行代码诱骗的进程中,输出成果里会时时常蹦出来"极"字。
像这么:

这个问题领先是在火山引擎、chutes 等平台上被发现,但跟着事件的发酵,更多平台也被卷入了进来,包括腾讯的 CodeBuddy,致使是DeepSeek 官方……

事件之火,在海外 Reddit 上亦然究诘声一派,重灾地是" extreme "、"极" 和"極":
" extreme "(id:15075)
"极"(id:2577,简体汉文的 extreme)
"極"(id:16411,繁体汉文中的 extreme)

腾讯 CodeBuddy 还出现了愈加仙葩的情况,径直插了句带"极"字儿的告白……

图源:小红书用户 @ 奈绪白 Nine-piece shell
如果诱骗者们莫得细看,径直用了生成的代码,那定然是会导致编译欠亨过等情况,不错说是对需要高精度、结构化输出的场景是致命一击。
扬弃现时,公共也曾调处将问题的锋芒指向了 DeepSeek V3.1 模子本人,以及 CodeBuddy 襄理问了:
也曾和 DeepSeek 团队取得策动,将在最近的一个版块中进行缔造。

图源:微信公众号"刘小排 r "批驳区当今该如何回绝"极"字 bug?
就现时来看,固然全齐惩办问题要比及 DeepSeek 官方下场,但也曾有网友启动支招惩办这个问题了。
例如小红书网友 @大模子家具司理,便共享了一招——教唆词缓解:

关键的一句教唆词是这么的:
不容如下标记序列风光:
[ 空格 ] [ 几个 token ] [ 占位符 / 不祥标记 ]
况兼这个智商主要是针对调用 API 的第三方平台,如果在 DeepSeek V3.1 官方,则不需要。
为什么会这么?
临了,至于为什么 DeepSeek V3.1 会出现这么的 bug,知乎网友、阶跃星辰黄哲威给出了他的观念,并得到了高赞。

他开头指出,这种表象并非孤例。在他使用小模子和开源数据蒸馏,以及在测试早期的 R1 模子时,就曾遭遇过雷同的 bug。
黄哲威以为,这与大模子编程编题时可能出现的一种"恶性风光"(malicious pattern)策动。他例如说,在胪列素数的任务中,一个平时的模子本应无尽地列举下去,如"素数表 2, 3, 5, 7 …"。
然而,他不雅察到之前一个代号为 R1-0528 的模子会出现一种奇特行为:在列举一段后会自行罢手,酿成一个有限的列表,例如"素数表 2, 3, 5, 7 … 997, 极长"。
这个"极长"的用法,与当今究诘的"极"字问题越过相同,常常出当今多数恶性重迭之后,作为平时推理进程的回正。随机,模子致使会输出" 90000000 … 0000 极大的数字"这么的实质。
他进一步描画了这种 bug 的触发场景。当模子堕入" thinking "的末尾轮回无法跳出时,有千分之一的概率会瞬息蹦出一个"极"字,然后驱逐念念考(),这似乎是一种特等的驱逐符或标记。
通过不雅察 R1 模子多数的输出,黄哲威发现了不少问题,包括超长反应(response)、大面积的空缺字符、束缚的短句重迭等,致使连 thinking 末尾的英翰墨符齐变得幻灭。
基于以上不雅察,他建议了一个中枢估量:这个问题的根源可能在于数据清洗不透澈。他以为,在进行 SFT(监督微调)数据合成,乃至构建预锻真金不怕火数据时,可能莫得将一组名为"‘极长’的数组"的"脏数据"清洗干净。
他推断,R1 模子在处理一些艰辛的解答时,似乎多数使用了 RAG(检索增强生成)技巧,尔后续的 RL+(强化学习)阶段,模子径直将这个"极"字看成了某种驱逐符粗略说话切换标记来学习和使用了。
临了,黄哲威追思说念,如果 R1 迭代时的数据莫得清洗干净,模子自行蒸馏并"遏抑"到平时的输出进程中,是全齐可能发生的。这为贯通 DeepSeek V3.1 模子出现的"极"字问题提供了一个可能的证实旅途。

至于这个被网友戏称为"极你太好意思"、"‘极’速版"的问题到底何时会透澈惩办,就要等 DeepSeek 官方的新版块了。
参考联贯:
[ 1 ]
[ 2 ] https://www.zhihu.com/question/1942934856603505597
[ 3 ] https://www.reddit.com/r/LocalLLaMA/comments/1mzsg6v/deepseek_v31_getting_token_extreme_极_極_out_of/
[ 4 ] https://linux.do/t/topic/897789
一键三连「点赞」「转发」「防范心」
迎接在批驳区留住你的主见!
— 完 —
专属 AI 家具从业者的实名社群,只聊 AI 家具最落地的真问题 扫码添加小助手,发送「姓名 + 公司 + 职位」央求入群~
进群后,你将径直得到:
� � 最新最专科的 AI 家具信息及分析 � �
� � 不如期披发的热点家具内测码 � �
� � 里面专属实质与专科究诘 � �
� � 点亮星标 � �
科技前沿发扬逐日见开云(中国)Kaiyun·官方网站 - 登录入口
热点资讯