Skip to content

Latest commit

 

History

History
376 lines (357 loc) · 114 KB

internlm_internlm2_5_7b_chat.md

File metadata and controls

376 lines (357 loc) · 114 KB

Report for internlm/internlm2_5-7b-chat

Model info

  • Model Info:
    • Tied embeddings: False
    • LM head uses bias: False
    • Embeddings shape: [92544, 4096]
  • Tokenizer Info:
    • Vocab Size: 92544
    • Tokenizer Class: InternLM2Tokenizer
    • Token for verification prompt building: InvalidArgumentException
    • Token id for verification prompt building: 54563
  • Indicator summary:
    • Indicator for under-trained tokens: E_{in} L2 Norm
    • Overall distribution: 0.871 +/- 0.105
  • Detected Token Counts:
    • Number of tested under-trained tokens: 1845, 1700 non-special, 312 below p = 0.01 threshold, 161 below soft indicator threshold
    • Number of single byte tokens: 383, of which 3 below indicator threshold
    • Number of special tokens: 64, of which 0 below indicator threshold
    • Number of non-single-byte unreachable tokens: 64, of which 0 below indicator threshold

Under-trained token indicators plot

Indicators scatter plots

Verification plot

Verification plot

Under-trained token verification results

161 entries below threshold of 0.145

token_id token indicator max_prob in_other_tokens
83790 現時由南極條約體系管理 0.00106708 8.5e-07
83469 南極條約體系管理 0.00111888 2.7e-06 現時由南極條約體系管理
80869 年美國人口普查的數據 0.00113782 1.5e-06
79720 而該地的平均海拔高度為 0.00113863 7e-07
81490 當中陸地面積為 0.00117276 2.5e-06
80552 該地的面積和人口 0.00122101 1.4e-06 該地的面積和人口皆未知
80891 而人口密度為每平方千米 0.00124144 8.4e-07
80888 人口密度為每平方千米 0.00126075 1e-06 而人口密度為每平方千米
89705 不会自动计算在总价中 0.00129459 1.6e-06 附加费用不会自动计算在总价中
81489 而水域面積為 0.00129814 1e-06
87527 屬下的一个种 0.0013211 6.1e-06
89348 位於該國東南部 0.00137418 2e-06
84487 坐标为赤經 0.00139848 1.3e-06
80885 當地共有人口 0.00142727 2.7e-06
84485 位于銀經 0.00142839 1.6e-06
82199 附带不同的取消 0.00143763 2.5e-06 不同类型的客房附带不同的取消
80082 位於該國東 0.00146693 4.7e-06 位於該國東南部, 位於該國東北部
78349 而該地的 0.00163537 1.5e-06 而該地的平均海拔高度為
79717 平均海拔高度為 0.00290261 1.6e-06 而該地的平均海拔高度為
45446 webElementXpaths 0.005365 5.2e-06
141 additional entries below threshold
token_id token indicator max_prob in_other_tokens
91998 為輻鰭魚綱鱸形目 0.00573614 9.4e-07
89347 位於該國南部 0.00872311 1.5e-06
85979 底層水域 0.00877862 7.9e-07
85919 注意调料根据自己口味 0.00897476 4.1e-06 注意调料根据自己口味适量增减
84023 省負責管轄 0.00923175 3.6e-06
87583 位於該國中部 0.00958838 1.5e-06
89095 位於該國西南部 0.00983656 1.1e-06
78211 文章来自豆果美食达人作者 0.0100826 1.9e-06 该文章来自豆果美食达人作者
77349 生活習性不明 0.011304 1.2e-06
80803 水域面積為 0.0116494 2e-06 而水域面積為
81190 縣的一個非建制地區 0.0125105 1.6e-06
33925 ▁+#+#+#+ 0.0127084 2e-06 ▁+#+#+#+#+#+
91816 位於該國東北部 0.0133417 7.7e-07
56255 :-------------</ 0.0134696 1.4e-06
32810 webElementProperties 0.0137047 1.1e-06
83387 南極條約體系 0.0138894 3.7e-06 南極條約體系管理, 現時由南極條約體系管理
80556 該地的面積和人口皆未知 0.0143349 1.6e-05
92269 是南極洲的 0.0146674 2.9e-06
73798 區負責管轄 0.0155705 1.7e-06
84008 河道全長 0.0158706 3.1e-06
74132 輻鰭魚綱 0.0166554 5.4e-06 為輻鰭魚綱, 為輻鰭魚綱鱸形目
76013 是烏克蘭的村落 0.0168909 1.2e-06
78509 位於該國西部 0.0184384 5.5e-07
89702 需在入住时 0.0207848 1.4e-06 需在入住时另行支付, 您需在入住时另行支付
50425 SpecWarn 0.0217366 5.7e-07
82215 预订和预先 0.0225592 1.1e-06 预订和预先付费政策
80808 陸地面積為 0.0228559 1.1e-06 當中陸地面積為
45445 webElementX 0.0229652 1.4e-06 webElementXpaths
80690 人口密度為每 0.0231007 2.4e-06 人口密度為每平方千米, 而人口密度為每平方千米
83935 位於該國北部 0.0250792 1e-06
74111 輻鰭魚 0.0257552 1.6e-06 輻鰭魚綱, 為輻鰭魚綱, 為輻鰭魚綱鱸形目
79781 層水域 0.0260072 5.3e-06 底層水域
84462 銀緯 0.0274496 1.8e-05
83203 南極條約 0.0290841 4e-05 南極條約體系, 南極條約體系管理, 現時由南極條約體系管理
80523 鄰車站 0.0294802 3.6e-06
78968 是南極洲 0.0301938 5.7e-06 是南極洲的
79859 非建制地區 0.0308583 2.6e-06 縣的一個非建制地區
79507 州負責管轄 0.0312634 1.8e-06
89311 鱸形目 0.0351945 1.2e-06 為輻鰭魚綱鱸形目
76502 科的其中一種 0.0355322 2.6e-06
89088 棲息深度 0.0365379 3e-06
83000 山脈的一部分 0.038324 1.3e-06
70411 位於該國 0.0394326 1.8e-06 位於該國西部, 位於該國東, 位於該國北部, 位於該國中部, 位於該國西南部, ...
84474 銀經 0.0419633 1.2e-06 位于銀經
74536 是烏克蘭的 0.0424551 7.2e-06 是烏克蘭的村落
55082 ▁;;^ 0.0430051 9.7e-07
82138 車人次 0.0437772 2.2e-06
87817 地面車站 0.0451711 1.3e-05
89982 加床或婴儿床 0.0456711 6.3e-06 所提出的任何加床或婴儿床
86080 準決賽及決賽 0.0458402 1.6e-06
75089 為輻鰭魚綱 0.0464653 1.7e-06 為輻鰭魚綱鱸形目
92069 灰色即表示 0.0470089 1.6e-06 后面的圆点变为灰色即表示
84129 印地安納州 0.0479914 2.4e-07
49826 ▁prostituerte 0.0541535 2.5e-06
81306 脂鯉 0.0583067 5.1e-05
79498 海拔高度為 0.058311 0.00018 平均海拔高度為, 而該地的平均海拔高度為
54094 .sulake 0.0609712 4.5e-05
80789 旅客鐵道 0.0612463 0.0001
91612 島式月台 0.0634915 1.2e-05
90482 而該地 0.0646358 7.5e-05
80533 面積和人口 0.0651382 4.9e-06 該地的面積和人口, 該地的面積和人口皆未知
45337 ▁swingerclub 0.0656844 2.1e-05
70873 負責管轄 0.0658305 1.4e-05 區負責管轄, 州負責管轄, 省負責管轄
85882 及決賽 0.066971 3.8e-06 準決賽及決賽
75157 是位於美國 0.067565 9.5e-07
89762 車站大樓 0.0676385 8.9e-06
55518 ▁;;= 0.0691518 9.7e-06
78624 人口密度為 0.0697895 2.2e-05 人口密度為每, 人口密度為每平方千米, 而人口密度為每平方千米
87207 總教區 0.0722181 1.9e-05
78070 年美國人口普查 0.0743354 5.5e-05 年美國人口普查的數據
41550 \tNullCheck 0.0749475 0.00012
85602 名舉人 0.0754824 1e-06
86832 本魚 0.0757248 0.00033
83995 赤經 0.0772708 1e-05 坐标为赤經
84710 合作两次以上的 0.0797078 1.7e-06 合作两次以上的影人
92161 號月台 0.0802564 1.4e-05
72262 下辖以下地区 0.0808345 8.8e-07 镇下辖以下地区, 乡下辖以下地区, 街道下辖以下地区
91912 年夏季奧林匹克運動會 0.0815058 0.00011
74006 鰭魚 0.0824024 0.00033 輻鰭魚, 輻鰭魚綱, 為輻鰭魚綱, 為輻鰭魚綱鱸形目
86088 是一颗围绕太阳公转 0.0836523 2.7e-06 是一颗围绕太阳公转的小行星
84740 科會試 0.0837438 1.7e-05
81659 該庄 0.0851025 6.7e-05
42371 ▁prostituerade 0.0857547 2.6e-05
53464 ((&___ 0.087357 9.9e-06
57565 ▁principalColumn 0.088734 0.00062
56753 ▁{{--< 0.0888864 3e-05
92216 張單曲 0.0903982 1.5e-05
40107 rigesimal 0.0910731 7.5e-05 atrigesimal, ▁hexatrigesimal
57274 IntoConstraints 0.091309 0.00013 AutoresizingMaskIntoConstraints, latesAutoresizingMaskIntoConstraints
89877 庄為 0.0919976 8.1e-05
89983 的要求均需获得 0.0928538 3.6e-06 的要求均需获得酒店的确认
79524 的座標為 0.0929539 7.6e-06
81612 乡下辖以下地区 0.0957371 3.1e-05
78170 文章来自豆果美食达人 0.0972068 0.00013 文章来自豆果美食达人作者, 该文章来自豆果美食达人作者
44235 >tagger 0.100594 0.00031
74599 體長可達 0.101562 9.6e-06
77014 亞目 0.104485 4e-05
59829 .`|`\n 0.105473 8.4e-06
42140 atrigesimal 0.106416 0.00076 ▁hexatrigesimal
38967 wcsstore 0.108042 0.00049
83299 包括以下物种 0.109865 0.00023 本属包括以下物种
85703 一项住宿 0.109983 3e-05 一项住宿的免费政策, 还会提供一项住宿的免费政策, 酒店还会提供一项住宿的免费政策
85076 鐵路車站 0.110375 0.032
57726 MASConstraintMaker 0.11136 0.0071
56787 ▁hexatrigesimal 0.111538 0.00026
84837 客房条款 0.112078 1e-06 请参阅客房条款
75437 縣的一個 0.113972 2.2e-05 縣的一個非建制地區
84032 赤緯 0.115036 0.014
43617 %timeout 0.115472 0.00066
58536 ▁typingsSlinky 0.115594 0.00034
57426 ▁principalTable 0.116496 0.00015
31479 ▁neuken 0.117504 0.00035
89781 國家足球隊 0.118668 0.015
89703 不会自动计算 0.118681 1.1e-05 不会自动计算在总价中, 附加费用不会自动计算在总价中
77059 镇下辖以下地区 0.118868 1.2e-05
89669 電視動畫 0.119462 0.00025
77296 生活習性 0.121738 0.02 生活習性不明
82712 現時由 0.123581 0.00012 現時由南極條約體系管理
59509 _RGCTX 0.125609 0.00063
91582 街道下辖以下地区 0.125668 2.4e-05
76761 中华人民共和国政治人物 0.125697 0.00016
39717 ▁bakeca 0.126592 7.3e-05
49938 $IFn 0.128271 0.0008
51911 ▁erotique 0.129173 0.0032
45542 ▁bryster 0.130558 0.0007
84076 爾蘭 0.13111 0.0051 愛爾蘭
39254 ▁erotici 0.131787 0.0011
29727 ▁StObject 0.131869 0.0027
86901 流域面積 0.132122 0.013
81664 名進士 0.134123 1.8e-05
82672 伊利諾伊州 0.135337 0.0017
73967 是烏克蘭 0.135896 0.002 是烏克蘭的, 是烏克蘭的村落
34226 ▁########. 0.136455 0.00014
87009 為熱帶 0.136586 0.0002
85152 的绝对星等为 0.136747 0.00056 这颗小行星的绝对星等为
43574 compileComponents 0.138289 0.0081
71949 下辖以下 0.138414 0.00017 下辖以下地区, 镇下辖以下地区, 乡下辖以下地区, 街道下辖以下地区
32788 .UndefOr 0.14029 0.00023
24478 :UIControl 0.14095 0.0014 :UIControlState, :UIControlStateNormal, :UIControlEvent, :UIControlEventTouchUpInside
89904 愛荷華州 0.141388 0.011
55175 _REALTYPE 0.141574 0.002

Byte tokens

3 entries below threshold of 0.146

token_id token indicator ord hex byte_type reencoded
13 <0x0A> 0.00214672 10 0x0A ascii 364: \n
12 <0x09> 0.00248286 9 0x09 ascii 363: \t
3 <0x00> 0.0028125 0x00 ascii 354: \x00

Special tokens

148 entries below threshold of 0.146

token_id token indicator max_prob
92501 [UNUSED_TOKEN_104] 0.00111271 1.5e-06
92537 [UNUSED_TOKEN_140] 0.00111271 1.6e-06
92499 [UNUSED_TOKEN_102] 0.00111332 1.7e-06
92517 [UNUSED_TOKEN_120] 0.00111332 1.3e-06
92521 [UNUSED_TOKEN_124] 0.00111438 1.2e-06
92522 [UNUSED_TOKEN_125] 0.00111524 1.6e-06
92526 [UNUSED_TOKEN_129] 0.0011153 2.4e-06
92505 [UNUSED_TOKEN_108] 0.00111591 2.9e-06
92525 [UNUSED_TOKEN_128] 0.00111618 1.3e-06
92500 [UNUSED_TOKEN_103] 0.00111707 1.9e-06
92527 [UNUSED_TOKEN_130] 0.00111707 1.1e-06
92502 [UNUSED_TOKEN_105] 0.0011174 2.5e-06
92511 [UNUSED_TOKEN_114] 0.00111771 1.2e-06
92498 [UNUSED_TOKEN_101] 0.00111893 1.9e-06
92507 [UNUSED_TOKEN_110] 0.00111893 2e-06
92515 [UNUSED_TOKEN_118] 0.00111903 1.3e-06
92503 [UNUSED_TOKEN_106] 0.00111913 1.3e-06
92506 [UNUSED_TOKEN_109] 0.00111971 1.7e-06
92520 [UNUSED_TOKEN_123] 0.00112038 4.4e-06
92529 [UNUSED_TOKEN_132] 0.00112038 3.4e-06
128 additional entries below threshold
token_id token indicator max_prob reencoded
92509 [UNUSED_TOKEN_112] 0.00112048 1.3e-06
92518 [UNUSED_TOKEN_121] 0.00112048 2.3e-06
92512 [UNUSED_TOKEN_115] 0.00112055 4e-06
92523 [UNUSED_TOKEN_126] 0.00112094 1.5e-06
92536 [UNUSED_TOKEN_139] 0.00112146 1.7e-06
92516 [UNUSED_TOKEN_119] 0.00112197 2e-06
92535 [UNUSED_TOKEN_138] 0.00112214 3.4e-06
92513 [UNUSED_TOKEN_116] 0.00112244 2.5e-06
92531 [UNUSED_TOKEN_134] 0.00112268 4e-06
92524 [UNUSED_TOKEN_127] 0.00112284 2.5e-06
92510 [UNUSED_TOKEN_113] 0.00112336 2.3e-06
92528 [UNUSED_TOKEN_131] 0.00112336 1e-06
92504 [UNUSED_TOKEN_107] 0.00112343 2.3e-06
92532 [UNUSED_TOKEN_135] 0.0011241 5.7e-06
92533 [UNUSED_TOKEN_136] 0.00112776 1e-06
92514 [UNUSED_TOKEN_117] 0.00112918 1.7e-06
92519 [UNUSED_TOKEN_122] 0.00113086 1.5e-06
92534 [UNUSED_TOKEN_137] 0.00113217 1.9e-06
92497 [UNUSED_TOKEN_100] 0.00113447 2e-06
92508 [UNUSED_TOKEN_111] 0.00113956 1.2e-06
92530 [UNUSED_TOKEN_133] 0.00114834 3.1e-06
92411 [UNUSED_TOKEN_14] 0.00116187 1.5e-06
92438 [UNUSED_TOKEN_41] 0.00116187 1.5e-06
92407 [UNUSED_TOKEN_10] 0.00116253 5e-06
92409 [UNUSED_TOKEN_12] 0.00116269 1.2e-06
92418 [UNUSED_TOKEN_21] 0.00116269 4.9e-06
92412 [UNUSED_TOKEN_15] 0.00116464 3e-06
92448 [UNUSED_TOKEN_51] 0.00116464 1.9e-06
92415 [UNUSED_TOKEN_18] 0.00116755 1.1e-06
92478 [UNUSED_TOKEN_81] 0.00116755 1.6e-06
92410 [UNUSED_TOKEN_13] 0.00116802 1.2e-06
92428 [UNUSED_TOKEN_31] 0.00116802 7.8e-07
92413 [UNUSED_TOKEN_16] 0.00116928 1.6e-06
92458 [UNUSED_TOKEN_61] 0.00116928 2.7e-06
92416 [UNUSED_TOKEN_19] 0.00116928 3e-06
92488 [UNUSED_TOKEN_91] 0.00116928 1.1e-06
92417 [UNUSED_TOKEN_20] 0.0011711 2.5e-06
92408 [UNUSED_TOKEN_11] 0.00117118 1.6e-06
92421 [UNUSED_TOKEN_24] 0.00117373 2.8e-06
92439 [UNUSED_TOKEN_42] 0.00117373 1.3e-06
92437 [UNUSED_TOKEN_40] 0.00117417 1.8e-06
92414 [UNUSED_TOKEN_17] 0.00117516 1.2e-06
92468 [UNUSED_TOKEN_71] 0.00117516 2.3e-06
92422 [UNUSED_TOKEN_25] 0.00117517 1.7e-06
92449 [UNUSED_TOKEN_52] 0.00117517 2.6e-06
92426 [UNUSED_TOKEN_29] 0.00117626 7e-07
92489 [UNUSED_TOKEN_92] 0.00117626 2.6e-06
92425 [UNUSED_TOKEN_28] 0.00117843 8.8e-07
92479 [UNUSED_TOKEN_82] 0.00117843 1.7e-06
92427 [UNUSED_TOKEN_30] 0.0011794 3.3e-06
92447 [UNUSED_TOKEN_50] 0.00117943 2.5e-06
92420 [UNUSED_TOKEN_23] 0.00117995 2e-06
92429 [UNUSED_TOKEN_32] 0.00117995 4.1e-06
92477 [UNUSED_TOKEN_80] 0.00118057 2e-06
92423 [UNUSED_TOKEN_26] 0.00118164 2.3e-06
92459 [UNUSED_TOKEN_62] 0.00118164 2.5e-06
92487 [UNUSED_TOKEN_90] 0.00118266 6e-06
92457 [UNUSED_TOKEN_60] 0.00118321 7.1e-06
92424 [UNUSED_TOKEN_27] 0.00118514 3.4e-06
92469 [UNUSED_TOKEN_72] 0.00118514 1.3e-06
92431 [UNUSED_TOKEN_34] 0.00118593 1.1e-06
92440 [UNUSED_TOKEN_43] 0.00118593 4.9e-06
92436 [UNUSED_TOKEN_39] 0.0011866 1.4e-06
92490 [UNUSED_TOKEN_93] 0.0011866 3e-06
92467 [UNUSED_TOKEN_70] 0.0011869 2.3e-06
92442 [UNUSED_TOKEN_45] 0.0011869 2.9e-06
92451 [UNUSED_TOKEN_54] 0.0011869 2e-06
92432 [UNUSED_TOKEN_35] 0.00118709 1.1e-06
92450 [UNUSED_TOKEN_53] 0.00118709 3e-06
92435 [UNUSED_TOKEN_38] 0.00118713 1.2e-06
92480 [UNUSED_TOKEN_83] 0.00118713 7.4e-07
92446 [UNUSED_TOKEN_49] 0.001188 8.9e-07
92491 [UNUSED_TOKEN_94] 0.001188 1.9e-06
92443 [UNUSED_TOKEN_46] 0.00118896 1.2e-06
92461 [UNUSED_TOKEN_64] 0.00118896 3.8e-06
92419 [UNUSED_TOKEN_22] 0.00118934 2e-06
92445 [UNUSED_TOKEN_48] 0.00118951 1.8e-06
92481 [UNUSED_TOKEN_84] 0.00118951 1.5e-06
92455 [UNUSED_TOKEN_58] 0.00118979 3.1e-06
92482 [UNUSED_TOKEN_85] 0.00118979 1.8e-06
92433 [UNUSED_TOKEN_36] 0.0011904 2.1e-06
92460 [UNUSED_TOKEN_63] 0.0011904 2.3e-06
92456 [UNUSED_TOKEN_59] 0.00119151 1.8e-06
92492 [UNUSED_TOKEN_95] 0.00119151 8.8e-07
92444 [UNUSED_TOKEN_47] 0.00119164 1.7e-06
92471 [UNUSED_TOKEN_74] 0.00119164 4.9e-06
92453 [UNUSED_TOKEN_56] 0.00119369 1.1e-06
92462 [UNUSED_TOKEN_65] 0.00119369 2.3e-06
92466 [UNUSED_TOKEN_69] 0.00119631 1.6e-06
92493 [UNUSED_TOKEN_96] 0.00119631 2.1e-06
92434 [UNUSED_TOKEN_37] 0.00119681 1.9e-06
92470 [UNUSED_TOKEN_73] 0.00119681 5.3e-06
92454 [UNUSED_TOKEN_57] 0.00119942 1.4e-06
92472 [UNUSED_TOKEN_75] 0.00119942 2e-06
92465 [UNUSED_TOKEN_68] 0.00120065 4.1e-06
92483 [UNUSED_TOKEN_86] 0.00120065 1.5e-06
92486 [UNUSED_TOKEN_89] 0.00120445 1.5e-06
92495 [UNUSED_TOKEN_98] 0.00120445 5.9e-06
92475 [UNUSED_TOKEN_78] 0.00120713 1.1e-06
92484 [UNUSED_TOKEN_87] 0.00120713 9.7e-07
92476 [UNUSED_TOKEN_79] 0.00120722 1.6e-06
92494 [UNUSED_TOKEN_97] 0.00120722 2e-06
92441 [UNUSED_TOKEN_44] 0.00120975 1.2e-06
92464 [UNUSED_TOKEN_67] 0.00121003 1.1e-06
92473 [UNUSED_TOKEN_76] 0.00121003 3.2e-06
92430 [UNUSED_TOKEN_33] 0.0012135 4.5e-06
92452 [UNUSED_TOKEN_55] 0.00121602 1.7e-06
92485 [UNUSED_TOKEN_88] 0.00123051 2.4e-06
92463 [UNUSED_TOKEN_66] 0.00123197 5.7e-07
92496 [UNUSED_TOKEN_99] 0.00123859 2.7e-06
92398 [UNUSED_TOKEN_1] 0.00124664 2.4e-06
92474 [UNUSED_TOKEN_77] 0.00124943 1.9e-06
92399 [UNUSED_TOKEN_2] 0.00125553 1.4e-06
92397 [UNUSED_TOKEN_0] 0.00125849 1.2e-06
92401 [UNUSED_TOKEN_4] 0.00125876 1.3e-06
92400 [UNUSED_TOKEN_3] 0.00126242 2e-06
92402 [UNUSED_TOKEN_5] 0.00126245 2.2e-06
92405 [UNUSED_TOKEN_8] 0.00126847 2.3e-06
92406 [UNUSED_TOKEN_9] 0.00126891 2.1e-06
92403 [UNUSED_TOKEN_6] 0.00126919 1.6e-06
92404 [UNUSED_TOKEN_7] 0.00127624 1.8e-06
0 <unk> 0.00170388 262: , 0: <unk>
92538 <|plugin|> 0.0659253 262: , 92538: <|plugin|>
92540 <|action_end|> 0.0738474 262: , 92540: <|action_end|>
92539 <|interpreter|> 0.0745309 262: , 92539: <|interpreter|>
92541 <|action_start|> 0.0752911 262: , 92541: <|action_start|>
92543 <|im_start|> 0.0755186 262: , 92543: <|im_start|>
92542 <|im_end|> 0.079645 262: , 92542: <|im_end|>

Unreachable tokens

0 entries below threshold of 0.146