Report for internlm/internlm2_5-7b-chat
Model Info:
Tied embeddings: False
LM head uses bias: False
Embeddings shape: [92544, 4096]
Tokenizer Info:
Vocab Size: 92544
Tokenizer Class: InternLM2Tokenizer
Token for verification prompt building: InvalidArgumentException
Token id for verification prompt building: 54563
Indicator summary:
Indicator for under-trained tokens: E_{in} L2 Norm
Overall distribution: 0.871 +/- 0.105
Detected Token Counts:
Number of tested under-trained tokens: 1845, 1700 non-special, 312 below p = 0.01 threshold, 161 below soft indicator threshold
Number of single byte tokens: 383, of which 3 below indicator threshold
Number of special tokens: 64, of which 0 below indicator threshold
Number of non-single-byte unreachable tokens: 64, of which 0 below indicator threshold
Under-trained token indicators plot
Under-trained token verification results
161 entries below threshold of 0.145
token_id
token
indicator
max_prob
in_other_tokens
83790
現時由南極條約體系管理
0.00106708
8.5e-07
83469
南極條約體系管理
0.00111888
2.7e-06
現時由南極條約體系管理
80869
年美國人口普查的數據
0.00113782
1.5e-06
79720
而該地的平均海拔高度為
0.00113863
7e-07
81490
當中陸地面積為
0.00117276
2.5e-06
80552
該地的面積和人口
0.00122101
1.4e-06
該地的面積和人口皆未知
80891
而人口密度為每平方千米
0.00124144
8.4e-07
80888
人口密度為每平方千米
0.00126075
1e-06
而人口密度為每平方千米
89705
不会自动计算在总价中
0.00129459
1.6e-06
附加费用不会自动计算在总价中
81489
而水域面積為
0.00129814
1e-06
87527
屬下的一个种
0.0013211
6.1e-06
89348
位於該國東南部
0.00137418
2e-06
84487
坐标为赤經
0.00139848
1.3e-06
80885
當地共有人口
0.00142727
2.7e-06
84485
位于銀經
0.00142839
1.6e-06
82199
附带不同的取消
0.00143763
2.5e-06
不同类型的客房附带不同的取消
80082
位於該國東
0.00146693
4.7e-06
位於該國東南部
, 位於該國東北部
78349
而該地的
0.00163537
1.5e-06
而該地的平均海拔高度為
79717
平均海拔高度為
0.00290261
1.6e-06
而該地的平均海拔高度為
45446
webElementXpaths
0.005365
5.2e-06
141 additional entries below threshold
token_id
token
indicator
max_prob
in_other_tokens
91998
為輻鰭魚綱鱸形目
0.00573614
9.4e-07
89347
位於該國南部
0.00872311
1.5e-06
85979
底層水域
0.00877862
7.9e-07
85919
注意调料根据自己口味
0.00897476
4.1e-06
注意调料根据自己口味适量增减
84023
省負責管轄
0.00923175
3.6e-06
87583
位於該國中部
0.00958838
1.5e-06
89095
位於該國西南部
0.00983656
1.1e-06
78211
文章来自豆果美食达人作者
0.0100826
1.9e-06
该文章来自豆果美食达人作者
77349
生活習性不明
0.011304
1.2e-06
80803
水域面積為
0.0116494
2e-06
而水域面積為
81190
縣的一個非建制地區
0.0125105
1.6e-06
33925
▁+#+#+#+
0.0127084
2e-06
▁+#+#+#+#+#+
91816
位於該國東北部
0.0133417
7.7e-07
56255
:-------------</
0.0134696
1.4e-06
32810
webElementProperties
0.0137047
1.1e-06
83387
南極條約體系
0.0138894
3.7e-06
南極條約體系管理
, 現時由南極條約體系管理
80556
該地的面積和人口皆未知
0.0143349
1.6e-05
92269
是南極洲的
0.0146674
2.9e-06
73798
區負責管轄
0.0155705
1.7e-06
84008
河道全長
0.0158706
3.1e-06
74132
輻鰭魚綱
0.0166554
5.4e-06
為輻鰭魚綱
, 為輻鰭魚綱鱸形目
76013
是烏克蘭的村落
0.0168909
1.2e-06
78509
位於該國西部
0.0184384
5.5e-07
89702
需在入住时
0.0207848
1.4e-06
需在入住时另行支付
, 您需在入住时另行支付
50425
SpecWarn
0.0217366
5.7e-07
82215
预订和预先
0.0225592
1.1e-06
预订和预先付费政策
80808
陸地面積為
0.0228559
1.1e-06
當中陸地面積為
45445
webElementX
0.0229652
1.4e-06
webElementXpaths
80690
人口密度為每
0.0231007
2.4e-06
人口密度為每平方千米
, 而人口密度為每平方千米
83935
位於該國北部
0.0250792
1e-06
74111
輻鰭魚
0.0257552
1.6e-06
輻鰭魚綱
, 為輻鰭魚綱
, 為輻鰭魚綱鱸形目
79781
層水域
0.0260072
5.3e-06
底層水域
84462
銀緯
0.0274496
1.8e-05
83203
南極條約
0.0290841
4e-05
南極條約體系
, 南極條約體系管理
, 現時由南極條約體系管理
80523
鄰車站
0.0294802
3.6e-06
78968
是南極洲
0.0301938
5.7e-06
是南極洲的
79859
非建制地區
0.0308583
2.6e-06
縣的一個非建制地區
79507
州負責管轄
0.0312634
1.8e-06
89311
鱸形目
0.0351945
1.2e-06
為輻鰭魚綱鱸形目
76502
科的其中一種
0.0355322
2.6e-06
89088
棲息深度
0.0365379
3e-06
83000
山脈的一部分
0.038324
1.3e-06
70411
位於該國
0.0394326
1.8e-06
位於該國西部
, 位於該國東
, 位於該國北部
, 位於該國中部
, 位於該國西南部
, ...
84474
銀經
0.0419633
1.2e-06
位于銀經
74536
是烏克蘭的
0.0424551
7.2e-06
是烏克蘭的村落
55082
▁;;^
0.0430051
9.7e-07
82138
車人次
0.0437772
2.2e-06
87817
地面車站
0.0451711
1.3e-05
89982
加床或婴儿床
0.0456711
6.3e-06
所提出的任何加床或婴儿床
86080
準決賽及決賽
0.0458402
1.6e-06
75089
為輻鰭魚綱
0.0464653
1.7e-06
為輻鰭魚綱鱸形目
92069
灰色即表示
0.0470089
1.6e-06
后面的圆点变为灰色即表示
84129
印地安納州
0.0479914
2.4e-07
49826
▁prostituerte
0.0541535
2.5e-06
81306
脂鯉
0.0583067
5.1e-05
79498
海拔高度為
0.058311
0.00018
平均海拔高度為
, 而該地的平均海拔高度為
54094
.sulake
0.0609712
4.5e-05
80789
旅客鐵道
0.0612463
0.0001
91612
島式月台
0.0634915
1.2e-05
90482
而該地
0.0646358
7.5e-05
80533
面積和人口
0.0651382
4.9e-06
該地的面積和人口
, 該地的面積和人口皆未知
45337
▁swingerclub
0.0656844
2.1e-05
70873
負責管轄
0.0658305
1.4e-05
區負責管轄
, 州負責管轄
, 省負責管轄
85882
及決賽
0.066971
3.8e-06
準決賽及決賽
75157
是位於美國
0.067565
9.5e-07
89762
車站大樓
0.0676385
8.9e-06
55518
▁;;=
0.0691518
9.7e-06
78624
人口密度為
0.0697895
2.2e-05
人口密度為每
, 人口密度為每平方千米
, 而人口密度為每平方千米
87207
總教區
0.0722181
1.9e-05
78070
年美國人口普查
0.0743354
5.5e-05
年美國人口普查的數據
41550
\tNullCheck
0.0749475
0.00012
85602
名舉人
0.0754824
1e-06
86832
本魚
0.0757248
0.00033
83995
赤經
0.0772708
1e-05
坐标为赤經
84710
合作两次以上的
0.0797078
1.7e-06
合作两次以上的影人
92161
號月台
0.0802564
1.4e-05
72262
下辖以下地区
0.0808345
8.8e-07
镇下辖以下地区
, 乡下辖以下地区
, 街道下辖以下地区
91912
年夏季奧林匹克運動會
0.0815058
0.00011
74006
鰭魚
0.0824024
0.00033
輻鰭魚
, 輻鰭魚綱
, 為輻鰭魚綱
, 為輻鰭魚綱鱸形目
86088
是一颗围绕太阳公转
0.0836523
2.7e-06
是一颗围绕太阳公转的小行星
84740
科會試
0.0837438
1.7e-05
81659
該庄
0.0851025
6.7e-05
42371
▁prostituerade
0.0857547
2.6e-05
53464
((&___
0.087357
9.9e-06
57565
▁principalColumn
0.088734
0.00062
56753
▁{{--<
0.0888864
3e-05
92216
張單曲
0.0903982
1.5e-05
40107
rigesimal
0.0910731
7.5e-05
atrigesimal
, ▁hexatrigesimal
57274
IntoConstraints
0.091309
0.00013
AutoresizingMaskIntoConstraints
, latesAutoresizingMaskIntoConstraints
89877
庄為
0.0919976
8.1e-05
89983
的要求均需获得
0.0928538
3.6e-06
的要求均需获得酒店的确认
79524
的座標為
0.0929539
7.6e-06
81612
乡下辖以下地区
0.0957371
3.1e-05
78170
文章来自豆果美食达人
0.0972068
0.00013
文章来自豆果美食达人作者
, 该文章来自豆果美食达人作者
44235
>tagger
0.100594
0.00031
74599
體長可達
0.101562
9.6e-06
77014
亞目
0.104485
4e-05
59829
.`|`\n
0.105473
8.4e-06
42140
atrigesimal
0.106416
0.00076
▁hexatrigesimal
38967
wcsstore
0.108042
0.00049
83299
包括以下物种
0.109865
0.00023
本属包括以下物种
85703
一项住宿
0.109983
3e-05
一项住宿的免费政策
, 还会提供一项住宿的免费政策
, 酒店还会提供一项住宿的免费政策
85076
鐵路車站
0.110375
0.032
57726
MASConstraintMaker
0.11136
0.0071
56787
▁hexatrigesimal
0.111538
0.00026
84837
客房条款
0.112078
1e-06
请参阅客房条款
75437
縣的一個
0.113972
2.2e-05
縣的一個非建制地區
84032
赤緯
0.115036
0.014
43617
%timeout
0.115472
0.00066
58536
▁typingsSlinky
0.115594
0.00034
57426
▁principalTable
0.116496
0.00015
31479
▁neuken
0.117504
0.00035
89781
國家足球隊
0.118668
0.015
89703
不会自动计算
0.118681
1.1e-05
不会自动计算在总价中
, 附加费用不会自动计算在总价中
77059
镇下辖以下地区
0.118868
1.2e-05
89669
電視動畫
0.119462
0.00025
77296
生活習性
0.121738
0.02
生活習性不明
82712
現時由
0.123581
0.00012
現時由南極條約體系管理
59509
_RGCTX
0.125609
0.00063
91582
街道下辖以下地区
0.125668
2.4e-05
76761
中华人民共和国政治人物
0.125697
0.00016
39717
▁bakeca
0.126592
7.3e-05
49938
$IFn
0.128271
0.0008
51911
▁erotique
0.129173
0.0032
45542
▁bryster
0.130558
0.0007
84076
爾蘭
0.13111
0.0051
愛爾蘭
39254
▁erotici
0.131787
0.0011
29727
▁StObject
0.131869
0.0027
86901
流域面積
0.132122
0.013
81664
名進士
0.134123
1.8e-05
82672
伊利諾伊州
0.135337
0.0017
73967
是烏克蘭
0.135896
0.002
是烏克蘭的
, 是烏克蘭的村落
34226
▁########.
0.136455
0.00014
87009
為熱帶
0.136586
0.0002
85152
的绝对星等为
0.136747
0.00056
这颗小行星的绝对星等为
43574
compileComponents
0.138289
0.0081
71949
下辖以下
0.138414
0.00017
下辖以下地区
, 镇下辖以下地区
, 乡下辖以下地区
, 街道下辖以下地区
32788
.UndefOr
0.14029
0.00023
24478
:UIControl
0.14095
0.0014
:UIControlState
, :UIControlStateNormal
, :UIControlEvent
, :UIControlEventTouchUpInside
89904
愛荷華州
0.141388
0.011
55175
_REALTYPE
0.141574
0.002
3 entries below threshold of 0.146
token_id
token
indicator
ord
hex
byte_type
reencoded
13
<0x0A>
0.00214672
10
0x0A
ascii
364: \n
12
<0x09>
0.00248286
9
0x09
ascii
363: \t
3
<0x00>
0.0028125
0x00
ascii
354: \x00
148 entries below threshold of 0.146
token_id
token
indicator
max_prob
92501
[UNUSED_TOKEN_104]
0.00111271
1.5e-06
92537
[UNUSED_TOKEN_140]
0.00111271
1.6e-06
92499
[UNUSED_TOKEN_102]
0.00111332
1.7e-06
92517
[UNUSED_TOKEN_120]
0.00111332
1.3e-06
92521
[UNUSED_TOKEN_124]
0.00111438
1.2e-06
92522
[UNUSED_TOKEN_125]
0.00111524
1.6e-06
92526
[UNUSED_TOKEN_129]
0.0011153
2.4e-06
92505
[UNUSED_TOKEN_108]
0.00111591
2.9e-06
92525
[UNUSED_TOKEN_128]
0.00111618
1.3e-06
92500
[UNUSED_TOKEN_103]
0.00111707
1.9e-06
92527
[UNUSED_TOKEN_130]
0.00111707
1.1e-06
92502
[UNUSED_TOKEN_105]
0.0011174
2.5e-06
92511
[UNUSED_TOKEN_114]
0.00111771
1.2e-06
92498
[UNUSED_TOKEN_101]
0.00111893
1.9e-06
92507
[UNUSED_TOKEN_110]
0.00111893
2e-06
92515
[UNUSED_TOKEN_118]
0.00111903
1.3e-06
92503
[UNUSED_TOKEN_106]
0.00111913
1.3e-06
92506
[UNUSED_TOKEN_109]
0.00111971
1.7e-06
92520
[UNUSED_TOKEN_123]
0.00112038
4.4e-06
92529
[UNUSED_TOKEN_132]
0.00112038
3.4e-06
128 additional entries below threshold
token_id
token
indicator
max_prob
reencoded
92509
[UNUSED_TOKEN_112]
0.00112048
1.3e-06
92518
[UNUSED_TOKEN_121]
0.00112048
2.3e-06
92512
[UNUSED_TOKEN_115]
0.00112055
4e-06
92523
[UNUSED_TOKEN_126]
0.00112094
1.5e-06
92536
[UNUSED_TOKEN_139]
0.00112146
1.7e-06
92516
[UNUSED_TOKEN_119]
0.00112197
2e-06
92535
[UNUSED_TOKEN_138]
0.00112214
3.4e-06
92513
[UNUSED_TOKEN_116]
0.00112244
2.5e-06
92531
[UNUSED_TOKEN_134]
0.00112268
4e-06
92524
[UNUSED_TOKEN_127]
0.00112284
2.5e-06
92510
[UNUSED_TOKEN_113]
0.00112336
2.3e-06
92528
[UNUSED_TOKEN_131]
0.00112336
1e-06
92504
[UNUSED_TOKEN_107]
0.00112343
2.3e-06
92532
[UNUSED_TOKEN_135]
0.0011241
5.7e-06
92533
[UNUSED_TOKEN_136]
0.00112776
1e-06
92514
[UNUSED_TOKEN_117]
0.00112918
1.7e-06
92519
[UNUSED_TOKEN_122]
0.00113086
1.5e-06
92534
[UNUSED_TOKEN_137]
0.00113217
1.9e-06
92497
[UNUSED_TOKEN_100]
0.00113447
2e-06
92508
[UNUSED_TOKEN_111]
0.00113956
1.2e-06
92530
[UNUSED_TOKEN_133]
0.00114834
3.1e-06
92411
[UNUSED_TOKEN_14]
0.00116187
1.5e-06
92438
[UNUSED_TOKEN_41]
0.00116187
1.5e-06
92407
[UNUSED_TOKEN_10]
0.00116253
5e-06
92409
[UNUSED_TOKEN_12]
0.00116269
1.2e-06
92418
[UNUSED_TOKEN_21]
0.00116269
4.9e-06
92412
[UNUSED_TOKEN_15]
0.00116464
3e-06
92448
[UNUSED_TOKEN_51]
0.00116464
1.9e-06
92415
[UNUSED_TOKEN_18]
0.00116755
1.1e-06
92478
[UNUSED_TOKEN_81]
0.00116755
1.6e-06
92410
[UNUSED_TOKEN_13]
0.00116802
1.2e-06
92428
[UNUSED_TOKEN_31]
0.00116802
7.8e-07
92413
[UNUSED_TOKEN_16]
0.00116928
1.6e-06
92458
[UNUSED_TOKEN_61]
0.00116928
2.7e-06
92416
[UNUSED_TOKEN_19]
0.00116928
3e-06
92488
[UNUSED_TOKEN_91]
0.00116928
1.1e-06
92417
[UNUSED_TOKEN_20]
0.0011711
2.5e-06
92408
[UNUSED_TOKEN_11]
0.00117118
1.6e-06
92421
[UNUSED_TOKEN_24]
0.00117373
2.8e-06
92439
[UNUSED_TOKEN_42]
0.00117373
1.3e-06
92437
[UNUSED_TOKEN_40]
0.00117417
1.8e-06
92414
[UNUSED_TOKEN_17]
0.00117516
1.2e-06
92468
[UNUSED_TOKEN_71]
0.00117516
2.3e-06
92422
[UNUSED_TOKEN_25]
0.00117517
1.7e-06
92449
[UNUSED_TOKEN_52]
0.00117517
2.6e-06
92426
[UNUSED_TOKEN_29]
0.00117626
7e-07
92489
[UNUSED_TOKEN_92]
0.00117626
2.6e-06
92425
[UNUSED_TOKEN_28]
0.00117843
8.8e-07
92479
[UNUSED_TOKEN_82]
0.00117843
1.7e-06
92427
[UNUSED_TOKEN_30]
0.0011794
3.3e-06
92447
[UNUSED_TOKEN_50]
0.00117943
2.5e-06
92420
[UNUSED_TOKEN_23]
0.00117995
2e-06
92429
[UNUSED_TOKEN_32]
0.00117995
4.1e-06
92477
[UNUSED_TOKEN_80]
0.00118057
2e-06
92423
[UNUSED_TOKEN_26]
0.00118164
2.3e-06
92459
[UNUSED_TOKEN_62]
0.00118164
2.5e-06
92487
[UNUSED_TOKEN_90]
0.00118266
6e-06
92457
[UNUSED_TOKEN_60]
0.00118321
7.1e-06
92424
[UNUSED_TOKEN_27]
0.00118514
3.4e-06
92469
[UNUSED_TOKEN_72]
0.00118514
1.3e-06
92431
[UNUSED_TOKEN_34]
0.00118593
1.1e-06
92440
[UNUSED_TOKEN_43]
0.00118593
4.9e-06
92436
[UNUSED_TOKEN_39]
0.0011866
1.4e-06
92490
[UNUSED_TOKEN_93]
0.0011866
3e-06
92467
[UNUSED_TOKEN_70]
0.0011869
2.3e-06
92442
[UNUSED_TOKEN_45]
0.0011869
2.9e-06
92451
[UNUSED_TOKEN_54]
0.0011869
2e-06
92432
[UNUSED_TOKEN_35]
0.00118709
1.1e-06
92450
[UNUSED_TOKEN_53]
0.00118709
3e-06
92435
[UNUSED_TOKEN_38]
0.00118713
1.2e-06
92480
[UNUSED_TOKEN_83]
0.00118713
7.4e-07
92446
[UNUSED_TOKEN_49]
0.001188
8.9e-07
92491
[UNUSED_TOKEN_94]
0.001188
1.9e-06
92443
[UNUSED_TOKEN_46]
0.00118896
1.2e-06
92461
[UNUSED_TOKEN_64]
0.00118896
3.8e-06
92419
[UNUSED_TOKEN_22]
0.00118934
2e-06
92445
[UNUSED_TOKEN_48]
0.00118951
1.8e-06
92481
[UNUSED_TOKEN_84]
0.00118951
1.5e-06
92455
[UNUSED_TOKEN_58]
0.00118979
3.1e-06
92482
[UNUSED_TOKEN_85]
0.00118979
1.8e-06
92433
[UNUSED_TOKEN_36]
0.0011904
2.1e-06
92460
[UNUSED_TOKEN_63]
0.0011904
2.3e-06
92456
[UNUSED_TOKEN_59]
0.00119151
1.8e-06
92492
[UNUSED_TOKEN_95]
0.00119151
8.8e-07
92444
[UNUSED_TOKEN_47]
0.00119164
1.7e-06
92471
[UNUSED_TOKEN_74]
0.00119164
4.9e-06
92453
[UNUSED_TOKEN_56]
0.00119369
1.1e-06
92462
[UNUSED_TOKEN_65]
0.00119369
2.3e-06
92466
[UNUSED_TOKEN_69]
0.00119631
1.6e-06
92493
[UNUSED_TOKEN_96]
0.00119631
2.1e-06
92434
[UNUSED_TOKEN_37]
0.00119681
1.9e-06
92470
[UNUSED_TOKEN_73]
0.00119681
5.3e-06
92454
[UNUSED_TOKEN_57]
0.00119942
1.4e-06
92472
[UNUSED_TOKEN_75]
0.00119942
2e-06
92465
[UNUSED_TOKEN_68]
0.00120065
4.1e-06
92483
[UNUSED_TOKEN_86]
0.00120065
1.5e-06
92486
[UNUSED_TOKEN_89]
0.00120445
1.5e-06
92495
[UNUSED_TOKEN_98]
0.00120445
5.9e-06
92475
[UNUSED_TOKEN_78]
0.00120713
1.1e-06
92484
[UNUSED_TOKEN_87]
0.00120713
9.7e-07
92476
[UNUSED_TOKEN_79]
0.00120722
1.6e-06
92494
[UNUSED_TOKEN_97]
0.00120722
2e-06
92441
[UNUSED_TOKEN_44]
0.00120975
1.2e-06
92464
[UNUSED_TOKEN_67]
0.00121003
1.1e-06
92473
[UNUSED_TOKEN_76]
0.00121003
3.2e-06
92430
[UNUSED_TOKEN_33]
0.0012135
4.5e-06
92452
[UNUSED_TOKEN_55]
0.00121602
1.7e-06
92485
[UNUSED_TOKEN_88]
0.00123051
2.4e-06
92463
[UNUSED_TOKEN_66]
0.00123197
5.7e-07
92496
[UNUSED_TOKEN_99]
0.00123859
2.7e-06
92398
[UNUSED_TOKEN_1]
0.00124664
2.4e-06
92474
[UNUSED_TOKEN_77]
0.00124943
1.9e-06
92399
[UNUSED_TOKEN_2]
0.00125553
1.4e-06
92397
[UNUSED_TOKEN_0]
0.00125849
1.2e-06
92401
[UNUSED_TOKEN_4]
0.00125876
1.3e-06
92400
[UNUSED_TOKEN_3]
0.00126242
2e-06
92402
[UNUSED_TOKEN_5]
0.00126245
2.2e-06
92405
[UNUSED_TOKEN_8]
0.00126847
2.3e-06
92406
[UNUSED_TOKEN_9]
0.00126891
2.1e-06
92403
[UNUSED_TOKEN_6]
0.00126919
1.6e-06
92404
[UNUSED_TOKEN_7]
0.00127624
1.8e-06
0
<unk>
0.00170388
262: ▁
, 0: <unk>
92538
<|plugin|>
0.0659253
262: ▁
, 92538: <|plugin|>
92540
<|action_end|>
0.0738474
262: ▁
, 92540: <|action_end|>
92539
<|interpreter|>
0.0745309
262: ▁
, 92539: <|interpreter|>
92541
<|action_start|>
0.0752911
262: ▁
, 92541: <|action_start|>
92543
<|im_start|>
0.0755186
262: ▁
, 92543: <|im_start|>
92542
<|im_end|>
0.079645
262: ▁
, 92542: <|im_end|>
0 entries below threshold of 0.146