-
Notifications
You must be signed in to change notification settings - Fork 0
/
tokenizer.subwords
54504 lines (54504 loc) · 780 KB
/
tokenizer.subwords
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
619
620
621
622
623
624
625
626
627
628
629
630
631
632
633
634
635
636
637
638
639
640
641
642
643
644
645
646
647
648
649
650
651
652
653
654
655
656
657
658
659
660
661
662
663
664
665
666
667
668
669
670
671
672
673
674
675
676
677
678
679
680
681
682
683
684
685
686
687
688
689
690
691
692
693
694
695
696
697
698
699
700
701
702
703
704
705
706
707
708
709
710
711
712
713
714
715
716
717
718
719
720
721
722
723
724
725
726
727
728
729
730
731
732
733
734
735
736
737
738
739
740
741
742
743
744
745
746
747
748
749
750
751
752
753
754
755
756
757
758
759
760
761
762
763
764
765
766
767
768
769
770
771
772
773
774
775
776
777
778
779
780
781
782
783
784
785
786
787
788
789
790
791
792
793
794
795
796
797
798
799
800
801
802
803
804
805
806
807
808
809
810
811
812
813
814
815
816
817
818
819
820
821
822
823
824
825
826
827
828
829
830
831
832
833
834
835
836
837
838
839
840
841
842
843
844
845
846
847
848
849
850
851
852
853
854
855
856
857
858
859
860
861
862
863
864
865
866
867
868
869
870
871
872
873
874
875
876
877
878
879
880
881
882
883
884
885
886
887
888
889
890
891
892
893
894
895
896
897
898
899
900
901
902
903
904
905
906
907
908
909
910
911
912
913
914
915
916
917
918
919
920
921
922
923
924
925
926
927
928
929
930
931
932
933
934
935
936
937
938
939
940
941
942
943
944
945
946
947
948
949
950
951
952
953
954
955
956
957
958
959
960
961
962
963
964
965
966
967
968
969
970
971
972
973
974
975
976
977
978
979
980
981
982
983
984
985
986
987
988
989
990
991
992
993
994
995
996
997
998
999
1000
### SubwordTextEncoder
### Metadata: {}
' .'
' ?'
'키키_'
'거_'
'키키'
'너무_'
' !'
'안_'
'나는_'
' . '
'많이_'
'진짜_'
'잘_'
'것_'
'거예요'
' ? '
'나도_'
'수_'
'더_'
'맞아_'
'같아'
'다_'
'좀_'
'나_'
'게_'
'있어'
'그_'
'난_'
' '
' . . .'
'아_'
'좋아하는_'
'근데_'
'좋은_'
'때_'
' . . . '
'그런_'
'한_'
'그냥_'
'싶어'
'정말_'
'하고_'
'응_'
'내_'
'못_'
'하는_'
'같아요'
'내가_'
'왜_'
'사람_'
'요즘_'
'있는_'
'해'
'엄청_'
'어떻게_'
'할_'
'이제_'
'건_'
'있어요'
'사람이_'
'같이_'
'있을_'
'다른_'
' ! '
'또_'
'그래도_'
'다들_'
'오늘_'
'뭐_'
'ㅠㅠ'
'그거_'
'것도_'
'없어'
'우리_'
'다시_'
'그래서_'
'거야'
'지금_'
'ㅜㅜ'
'무슨_'
'그렇게_'
'~ '
'마세요'
'어떤_'
'수도_'
'한번_'
'싶다'
'마음이_'
'아니_'
'너_'
'그럼_'
'아직_'
'먹고_'
'해보세요'
'보고_'
'하면_'
'같은_'
'저도_'
'시간이_'
'좋아'
'헐_'
'그래'
'좋을_'
'계속_'
'ㅠ'
'해_'
'제일_'
'없는_'
'그게_'
'썸_'
'완전_'
'될_'
'때문에_'
'보면_'
'오_'
'자꾸_'
'이런_'
'걸_'
'혼자_'
'가고_'
'저는_'
'몇_'
'같아_'
'않아'
'봤어'
'그건_'
'꼭_'
'있으면_'
'맞아'
'돈_'
'줄_'
'그러면_'
'돼'
'먼저_'
'자주_'
'와_'
'있는데_'
'그럴_'
'제가_'
'시간_'
'좋아해'
'적_'
'알아'
'많은_'
'진짜'
'아니야'
'너는_'
'일이_'
'그래_'
'이렇게_'
'가서_'
'참_'
'없어요'
'가는_'
'있을까'
'조금_'
'어_'
'집_'
'해야_'
'전_'
'힘든_'
'이_'
'봐'
'게임_'
'항상_'
'갑자기_'
'본_'
'해도_'
'하지_'
'사람은_'
'했어'
'바랄게요'
'해서_'
'좋아요'
'돼요'
'얼마나_'
'나를_'
'생각_'
'듯'
'해요'
'오래_'
'요즘은_'
'살_'
'막_'
'헤어진지_'
'친구가_'
'있어서_'
'싶은_'
'말고_'
'마음을_'
'날_'
'바로_'
'그치_'
'전에_'
'번_'
'않아요'
'남자친구가_'
'나중에_'
'하세요'
'집에_'
'이별_'
'여자친구가_'
'어때'
'보세요'
'보는_'
'거의_'
'열심히_'
'그러게_'
'하는데_'
'생각이_'
'뭐야'
'될까'
'ㅜㅜ_'
'하하'
'뭔가_'
'타고_'
'큰_'
'여행_'
'서로_'
'빨리_'
'마음_'
'가면_'
'영화_'
'먹는_'
'되는_'
'응'
'말_'
'드세요'
'했는데_'
'하나_'
'코로나_'
'좋죠'
'회사_'
'좋겠어'
'좋겠다'
'있어_'
'봤는데_'
'갈_'
'ㅠㅠ_'
'하지'
'정도_'
'올_'
'생각해요'
'그때_'
'모르겠어'
'많아'
'연락_'
'싶은데_'
'볼_'
'가끔_'
'좋겠어요'
'새로운_'
'바랍니다'
'같은데'
'할까'
'음_'
'아직도_'
'힘들어'
'뭐가_'
'딱_'
'나만_'
'타는_'
'일_'
'벌써_'
'때는_'
'언제_'
'어디_'
'술_'
'지금은_'
'이번에_'
'원래_'
'사랑이_'
'사람들이_'
'중에_'
'말해보세요'
'때가_'
'너네_'
'군대_'
'직접_'
'알고_'
'없어서_'
'같애'
'사람을_'
'나한테_'
'그리고_'
'좋아_'
'어제_'
'싫어'
'사는_'
'네_'
'친구_'
'연애_'
'차_'
'쉽지_'
'생각보다_'
'몰라요'
'맨날_'
'두_'
'같은데_'
'힘들_'
'역시_'
'안돼'
'매일_'
'처음_'
'머리_'
'자신을_'
'생각해'
'가장_'
'눈_'
'힘드네'
'이젠_'
'생각을_'
'사랑은_'
'따라_'
'결혼_'
'보통_'
'별로_'
'먹으면_'
'맞는_'
'집에서_'
'어떨까요'
'선물_'
'사람도_'
'사람'
'주세요'
'아니에요'
'사람들_'
'그것도_'
'생각해보세요'
'말을_'
'따로_'
'그렇구나_'
'어릴_'
'사고_'
'기억이_'
'혹시_'
'있고_'
'오늘도_'
'사랑_'
'뭘_'
'먹을_'
'되게_'
'좋겠네요'
'여자_'
'얼른_'
'아무래도_'
'사랑하는_'
'ㅠ_'
' , '
'하더라'
'충분히_'
'제_'
'이번_'
'없이_'
'않을까'
'않는_'
'비_'
'둘_'
'날씨_'
'얼마_'
'살고_'
'만큼_'
'대한_'
'한데_'
'짝사랑_'
'연락이_'
'아니면_'
'마음에_'
'넘_'
'그러니까_'
'거라_'
'이별'
'오늘은_'
'오는_'
'많아서_'
'그렇지_'
'가지고_'
'함께_'
'스트레스_'
'듯_'
'지금도_'
'점점_'
'왔어'
'아'
'사랑을_'
'내일_'
'그런데_'
'그니깐_'
'ㅜ'
'헤어진_'
'사실_'
'물_'
'만날_'
'된_'
'않을_'
'않은_'
'아는_'
'밖에_'
'되면_'
'건가'
'짝남이_'
'이별을_'
'사진_'
'말이_'
' . . . ?'
'해봤어'
'중요한_'
'좋지_'
'좋을까'
'아픈_'
'싶어요'
'봐_'
'바라요'
'마스크_'
'너도_'
'남자_'
'나이_'
'기분_'
'후_'
'조금만_'
'제대로_'
'장난_'
'싶어_'
'시간을_'
'밥_'
'도움이_'
'중'
'있죠'
'운동_'
'엄마_'
'언니_'
'약간_'
'찾아보세요'
'재밌어'
'입고_'
'사람들은_'
'보니까_'
'받고_'
'결국_'
'하루_'
'일단_'
'웅_'
'왜'
'없어_'
'엄마가_'
'아니라_'
'아니고_'
'보니_'
'말이야'
'마음의_'
'날씨가_'
'나'
'공부_'
'곧_'
'학교_'
'조금씩_'
'이별은_'
'없네'
'모르는_'
'대화를_'
'나오는_'
'가보세요'
'주는_'
'좀'
'데이트_'
'나서_'
'괜찮아요'
'거기_'
'아닌_'
'물어보세요'
'되고_'
'남자가_'
'강아지_'
'해볼까'
'합니다'
'좋지'
'요즘에_'
'와'
'연락을_'
'아마_'
'때도_'
'되지_'
'됐어'
'기분이_'
'거지'
'거'
'잘하는_'
'이유가_'
'우리는_'
'쓰고_'
'모든_'
'맞어_'
'덜_'
'나와'
'거야_'
'가_'
'가'
'필요한_'
'짝남_'
'있지_'
'있다면_'
'있다고_'
'알바_'
'사람이랑_'
'버스_'
'받는_'
'무서워'
'누가_'
'그만_'
'적은_'
'자신의_'
'오랜만에_'
'사랑의_'
'맞아요'
'말아요'
'돈이_'
'눈이_'
' !'
'핸드폰_'
'젤_'
'있지'
'있었어'
'있나봐요'
'일을_'
'연락해보세요'
'없을_'
'없는데_'
'아예_'
'봤어_'
'무조건_'
'금방_'
'간_'
'확실히_'
'키우는_'
'짝녀가_'
'일찍_'
'예전에_'
'여자가_'
'어떡해'
'얘기_'
'시험_'
'봐요'
'몰라'
'해보고_'
'하긴_'
'친구랑_'
'주변에_'
'저랑_'
'작은_'
'자기_'
'요새_'
'어느_'
'모르겠어요'
'당신의_'
'노래_'
'그런가_'
'그니까_'
'갔다_'
'ㅎ'
'하더라고'
'하는데'
'탈_'
'지_'
'주고_'
'좋은데_'
'있나'
'이미_'
'얼굴_'
'싶다_'
'몸이_'
'마지막_'
'곳이_'
'것이_'
'걸로_'
'같습니다'
' **'
'친구들이랑_'
'최근에_'
'좋더라'
'조심하세요'
'잠깐_'
'잘하고_'
'오히려_'
'오세요'
'알_'
'보러_'
'뭘까'
'맛있는_'
'나쁜_'
'걸까'
'거는_'
' . . . !'
'챙겨_'
'절대_'
'요즘엔_'
'여자친구_'
'어쩔_'
'애들_'
'아파'
'뭐'
'남자친구_'
'가야_'
'가기_'
'천천히_'
'중요해요'
'좋아하는데_'
'저_'
'이제는_'
'않고_'
'만나고_'
'나온_'
'괜히_'
'괜찮은_'
'감기_'
'하기_'
'잘할_'
'이거_'
'우와_'
'오면_'
'아니'
'신경_'
'방법_'
'들어'
'나랑_'
'기억_'
'가보고_'
' : '
'헤어지고_'
'하나씩_'
'크게_'
'카톡_'
'주면_'
'정리가_'
'웅웅_'
'옷_'
'문제가_'
'먹어'
'맛있게_'
'당연히_'
'하죠'
'특히_'
'커피_'
'추천_'
'있잖아'
'이게_'
'와서_'
'어려운_'
'아무것도_'
'쓰는_'
'모두_'
'곳_'
'했어_'
'하는게_'
'하네'
'하나'
'키우고_'
'카페_'
'짝남한테_'
'좋다'
'음'
'우리나라_'
'싶네요'
'쉽게_'
'살짝_'
'사람한테_'
'미리_'
'뭔지_'
'만나는_'
'딱히_'
'들었어'
'되나'
'놀러_'
'꽤_'
'그런가'
'그래요'
'~ ?'
'힘들다'
'회사에서_'
'하하_'
'하_'
'편이야'
'키키난_'
'자신이_'
'아침에_'
'쉬운_'
'샀어'
'백신_'
'관심이_'
'관심_'
'걸'
'한다고_'
'하지만_'
'키키근데_'
'중_'
'주로_'
'좋아할_'
'정말'
'적이_'
'있나요'
'원_'
'온_'
'어려워'
'어디서_'
'아무_'
'아니야_'
'소리_'
'생각해_'
'맘_'
'다이어트_'
'놓고_'
'날이_'
'그렇긴_'
'그러니깐_'
'그거는_'
'갖고_'
'확신이_'
'했는데'
'한번도_'
'편하게_'
'위해_'
'오'
'않았어'
'아빠가_'
'생각하면_'
'부모님_'
'무서워_'
'먹었어'
'많아요'
'~ !'
'힘이_'
'했던_'
'준비_'
'주말에_'
'잠시_'
'인연이_'
'애가_'
'애_'
'알려줘'
'아닌데_'
'수가_'
'사세요'
'배_'
'방법'
'받을_'
'뭐라고_'
'뭐든_'
'돈을_'
'눈을_'
'넌_'
'긴_'
'고민_'
'ㅋ_'
'ㅇㅈ_'
'…'
'1년_'
'힘내세요'
'해주세요'
'친구는_'
'짱_'
'좋아하면_'
'있는지_'
'이상_'
'여름에_'
'여러_'
'앞에_'
'알았는데'
'안되는_'
'반_'
'못하겠어'
'말하는_'
'많았어요'
'만났어'
'당신이_'
'당신을_'
'다음에_'
'남편이_'
'나이가_'
'나왔어'
'**'
' ^^'
'해야지'
'하나도_'
'폰_'
'집이_'
'집은_'
'저희_'
'잔_'
'이야기_'
'예쁘게_'
'않아도_'
'싶네'
'슬픈_'
'서로에게_'
'생각하고_'
'사랑에_'
'명_'
'때까지_'
'드는_'
'되길_'
'궁금해'
'곳은_'
'게임을_'
'거죠'
'갔어'
'힘들어요'
'힘들게_'
'하잖아'
'하니까_'
'피부_'
'재밌는_'
'잠이_'
'있어야_'
'우리가_'
'없으면_'
'언젠간_'
'언제나_'
'어렸을_'
'싫다'
'사귀고_'
'뿐이에요'
'비싸'
'믿어요'
'못해서_'
'먹어야지'
'많더라'
'듣고_'
'돼_'
'다닐_'
'늦지_'
'늦게_'
'느낌이_'
'남친_'
'그치'
'가족_'
'학원_'
'하더라_'
'저녁_'
'일은_'
'연예인_'
'연락하고_'
'여친_'
'없네요'
'않죠'
'생각만_'
'번도_'
'문제_'
'못하는_'
'머리가_'
'만든_'
'땐_'
'동안_'
'나면_'
'괜찮을_'
'곳으로_'
'겨울_'
'건지_'
'거기서_'
'가능'
'했지'
'했었어'
'하면서_'
'하던데'
'하다가_'
'하고'
'텐데_'
'중요하지_'
'중국_'
'있었나봐요'
'있어도_'
'음식_'
'요즘에는_'
'예쁜_'
'없다'
'언니는_'
'애기_'
'아닐까'
'신경쓰지_'
'생각하는_'
'봐도_'
'보다_'
'무서운_'
'동물_'
'대해_'
'대학_'
'다음_'
'다를_'
'나의_'
'그렇지'
'그런지_'
'것은_'
'같네'
'가족이_'
' . . . ? '
'해본_'
'친구한테_'
'좋았어'
'좋아해서_'
'적당히_'
'저번에_'
'있습니다'
'있대'
'있나_'
'일본_'
'이별한지_'
'여름_'
'없죠'
'없었어'
'없다면_'
'알게_'
'않으면_'
'아무리_'
'상관_'
'사_'
'봅니다'
'받았어'
'멋진_'
'말도_'
'만들어_'
'되네'
'느낌'
'나가서_'
'꾸준히_'
'그렇구나'
'그러고_'
'귀찮아'
'괜찮아'
'관리_'
'고민이야'
'것을_'
'같아서_'
'했으면_'
'평생_'
'친구를_'
'추억이_'
'첫_'
'짝녀_'
'직장_'
'죽을_'
'주변_'
'주무세요'
'좋아하게_'
'있는데'
'이별이_'
'올해_'
'옛날에_'
'옆에_'
'여친이_'
'약_'
'알지'
'알았는데_'
'않을까요'
'안해'
'아침_'
'아주_'
'아닐까요'
'아냐'
'쓸_'
'스스로_'
'쉬고_'
'새_'
'사귀는_'
'배우고_'
'먹은_'
'맛이_'
'둘이_'
'데_'
'대로_'
'누구나_'
'나와서_'
'끝이_'
'괜찮을까'
'게임은_'
'것보다_'
'건데_'
'가봤어'
'가본_'
'확실한_'
'화장실_'
'헉_'
'한국_'
'필요해요'
'키키나도_'
'코_'
'차가_'
'중인데_'
'좋다고_'
'일도_'
'은근_'
'원하는_'
'예의가_'
'없다고_'
'야_'
'애들이_'
'앞에서_'
'앜_'
'싶지_'
'시간은_'
'시간도_'