End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -17,11 +19,11 @@ should probably proofread and complete it, then remove this comment. -->
 
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
-- Loss: 0.7147
-- Rouge1: 0.4109
+- Loss: 0.9113
+- Rouge1: 0.4336
 - Rouge2: 0.0
-- Rougel: 0.4081
-- Rougelsum: 0.4066
+- Rougel: 0.4366
+- Rougelsum: 0.4379
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -1,29 +1,29 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5082412362098694,
-    "eval_rouge1": 0.3572,
+    "eval_loss": 0.9113389849662781,
+    "eval_rouge1": 0.4336,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.3545,
-    "eval_rougeLsum": 0.3557,
-    "eval_runtime": 333.3038,
+    "eval_rougeL": 0.4366,
+    "eval_rougeLsum": 0.4379,
+    "eval_runtime": 2253.1359,
     "eval_samples": 750,
-    "eval_samples_per_second": 2.25,
-    "eval_steps_per_second": 0.282,
+    "eval_samples_per_second": 0.333,
+    "eval_steps_per_second": 0.042,
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5292530655860901,
-    "predict_rouge1": 0.4599,
+    "predict_loss": 0.9408350586891174,
+    "predict_rouge1": 0.4389,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.4593,
-    "predict_rougeLsum": 0.4589,
-    "predict_runtime": 1669.4106,
+    "predict_rougeL": 0.4391,
+    "predict_rougeLsum": 0.4386,
+    "predict_runtime": 11301.1047,
     "predict_samples": 3762,
-    "predict_samples_per_second": 2.253,
-    "predict_steps_per_second": 0.282,
-    "total_flos": 6.578740997709005e+16,
-    "train_loss": 0.3747134633901342,
-    "train_runtime": 9353.1788,
+    "predict_samples_per_second": 0.333,
+    "predict_steps_per_second": 0.042,
+    "total_flos": 4.883004680306688e+16,
+    "train_loss": 0.7543908821486784,
+    "train_runtime": 12843.575,
     "train_samples": 14262,
-    "train_samples_per_second": 7.624,
-    "train_steps_per_second": 1.906
+    "train_samples_per_second": 5.552,
+    "train_steps_per_second": 1.388
 }

eval_results.json

@@ -1,13 +1,13 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5082412362098694,
-    "eval_rouge1": 0.3572,
+    "eval_loss": 0.9113389849662781,
+    "eval_rouge1": 0.4336,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.3545,
-    "eval_rougeLsum": 0.3557,
-    "eval_runtime": 333.3038,
+    "eval_rougeL": 0.4366,
+    "eval_rougeLsum": 0.4379,
+    "eval_runtime": 2253.1359,
     "eval_samples": 750,
-    "eval_samples_per_second": 2.25,
-    "eval_steps_per_second": 0.282
+    "eval_samples_per_second": 0.333,
+    "eval_steps_per_second": 0.042
 }

generated_predictions.txt

@@ -1,186 +1,186 @@
-k
+6
 beberapa
 2
 dengan
-karena
+)
 k
-adalah
+itu
 dan
-permainan
-saya
+s
+itu
 oleh
-sudah
-bagi
+,
+orang
 ada
-itu
+di
 
-,
+jika
 harus
 dan
 8
 juga
 
-dengan
+akan
 "
+4
+adalah
+membuat
+a
 judi
-dari
-1
-uang
-judi
-dengan
-/
+p
+kamu
 2
-dan
-bisa
+6
+juga
 bagi
 judi
-memiliki
+-
 karena
-saya
-3
-yang
+/
+harus
+satu
 semua
-an
+4
+-
 -
-maka
 .
-1
+untuk
 seperti
 situs
 dan
-6
+bahwa
 menjadi
 pada
 ke
 dari
 
 jika
-permainan
-a
-juga
+menggunakan
+jadi
+?
 kami
-akan
-situs
-jika
+karena
+telah
+dalam
 sebagai
 ada
 :
 1
-ini
--
+/
 -
+ingin
 
 satu
 lebih
-dan
+apa
 .
 .
-dalam
-juga
+:
+)
 dari
-jika
-permainan
-hanya
+ini
+telah
+
 /
 oleh
 
 pada
-banyak
+bermain
 -
 6
-e
-pada
-lebih
+besar
+satu
+lain
 a
 "
-situs
-?
-banyak
-atau
-bisa
-untuk
+,
+sudah
+indonesia
+tidak
+poker
+online
 kan
-itu
-p
+slot
+sangat
 dari
 s
 sebagai
 satu
-kita
-"
-
+itu
+dengan
+oleh
 dari
 
 
-dari
-8
-dapat
+ada
+3
+seperti
 memiliki
-di
-pada
-dalam
-s
+harus
+
+"
+akan
 dari
-bermain
+maka
 dari
 dan
-bisa
+k
 nya
-perlu
-dan
+pada
+bisa
 dan
 mereka
-kamu
-beberapa
-2
+kita
+judi
+a
 
-an
+di
 dari
 dan
-juga
-anda
-menggunakan
-,
-permainan
-anda
-e
-indonesia
 lebih
-t
+u
+/
+-
+sudah
+dari
+atau
+indonesia
+o
+ini
 baik
 di
-orang
-5
+bahwa
+i
 
-judi
+banyak
 oleh
-ada
-kita
-para
-sangat
 seperti
-dan
+kita
+bisa
+hal
+5
+.
 untuk
-k
+"
 saja
-kan
+permainan
 menjadi
 di
 d
-orang
+.
 baik
 mereka
-jika
+bagi
 adalah
 u
-7
+1
 nya
-
+oleh
 dalam
 nya
 
-tersebut
-hal
+untuk
+i
 dengan
 beberapa
 1
@@ -189,122 +189,122 @@ beberapa
 dari
 saya
 1
-saja
--
+permainan
+6
 dan
-tersebut
-8
+oleh
+seperti
 online
 yang
-a
+sudah
 
-4
+bermain
 dari
-para
+kita
 nya
 anda
 ?
 dari
 .
-kita
-3
+jika
+
 (
-bermain
-karena
-online
+anda
+kan
+mungkin
 cara
 
 atau
-di
+game
 itu
-:
+hal
 dan
-orang
-tersebut
-sangat
+anda
+satu
+tidak
 -
-2
+dapat
 1
-menggunakan
+uang
 anda
-adalah
-orang
-ada
-namun
-beberapa
+yang
+situs
+an
+?
+untuk
 saat
 di
-kamu
+9
 0
 
-harus
-seperti
-sebagai
+1
+menggunakan
+3
 atau
 di
 
 1
 satu
-m
-tersebut
-juga
-di
+namun
+judi
+menjadi
+2
 1
 yang
-telah
-cara
+adalah
+sudah
 untuk
-terbaik
+melakukan
 ada
-besar
+oleh
 adalah
 -
 ini
-lain
+beberapa
 yang
 yang
 ,
 yang
 pada
-poker
-situs
+uang
+bermain
 an
-yang
+lebih
 untuk
-di
+pada
 atau
+dari
 harus
-untuk
-ada
+(
 i
-a
-slot
+k
+jika
 juga
-dalam
+hal
 orang
 saat
-
+an
 online
-
-semua
+ini
+e
 membuat
 pada
-p
+dan
 tersebut
-d
-atau
-
+e
+ada
+dan
 situs
 /
 satu
 i
 nya
-.
-7
+seperti
+itu
 baik
 kami
 juga
-nya
+seperti
 2
 anda
 yang
@@ -312,399 +312,399 @@ tersebut
 yang
 a
 kan
-bahwa
+7
 orang
-juga
+lebih
 nya
-m
-i
--
+perlu
+akan
+dengan
 0
-dan
-s
-kami
-lain
+ini
+bagi
+
+juga
 untuk
 saat
 untuk
-2
+nya
 dapat
-cara
+?
 yang
 untuk
-juga
+di
 dengan
 
 di
 :
-saya
+indonesia
 juga
 banyak
-/
-situs
+di
+dapat
 seperti
-:
-menjadi
+harus
+k
 dan
 -
 4
-hal
-memiliki
+,
+kamu
 ini
 kami
 4
 e
-tidak
+-
 sudah
-0
+nya
 
-kami
-"
-hanya
+banyak
+sudah
+slot
 dalam
-hanya
+9
 banyak
 jika
 nya
 0
 lebih
-3
+sebagai
 bahwa
-itu
-kami
+orang
+
 .
 i
-tahun
-yang
-kan
 
-dengan
-s
+di
+an
+dari
+uang
+anda
 0
 
 dan
-sudah
-secara
-kita
+satu
+k
+ke
 juga
 :
-saat
+dengan
 8
 secara
-uang
+kamu
 yang
-dari
-hanya
+sudah
+permainan
 2
 adalah
-(
+1
 pada
 anda
 5
-dapat
-sudah
+(
+memiliki
 di
-
+memiliki
 oleh
-perlu
+maka
 
-seperti
-dalam
+.
 dalam
-kita
+nya
+4
 
-s
+kita
 tidak
-s
-1
-jika
-orang
+karena
+pada
+saya
+para
 itu
 dengan
-oleh
-s
-
+membuat
+i
+itu
 untuk
-lain
+anda
 harus
-2
-memiliki
+ingin
+/
 adalah
 2
 dan
-4
+permainan
 bermain
+maka
+i
 permainan
-nya
 permainan
-?
-u
+semua
 akan
-saya
-situs
+indonesia
+ke
 dari
 akan
-bermain
+jika
 lebih
-
+t
 saja
 karena
 
-kan
+"
 tidak
-seperti
-dan
+menggunakan
+online
 3
-?
+karena
 dan
-bahwa
+terbaik
 kamu
-bahwa
-dalam
+sebagai
+lain
 5
-secara
-slot
+(
+,
 .
 ini
 8
 bahwa
 5
-situs
-karena
-indonesia
-
+.
+bisnis
+baik
+slot
 s
 0
-permainan
-
-bermain
-"
+atau
+di
+jika
+sudah
 (
-dalam
+akan
 saya
 4
-satu
-e
+saya
+kami
 tersebut
-anda
+bermain
 "
 banyak
-tahun
+memiliki
 
-di
-(
-karena
+harus
+kan
+lain
 sangat
-dan
+0
 situs
 s
-kan
+t
 anda
-atau
+ke
 yang
 harus
-7
+lebih
 
-judi
-pada
-beberapa
+sudah
+adalah
+mudah
 2
 atau
-?
+ada
 dan
-"
 memiliki
+(
+kamu
+dalam
+a
 permainan
-secara
-bahwa
-mereka
-
+memiliki
 online
 anda
-lain
+itu
 untuk
 yang
-waktu
-dengan
-tidak
+itu
+dapat
+,
 juga
 dengan
-an
-tersebut
+
+sebagai
 i
-4
+poker
 saat
 
 bisnis
-membuat
-oleh
-menjadi
+yang
+dengan
+adalah
 sangat
 5
 ada
 
 mereka
 ke
-ada
+tentang
 di
 untuk
 
 besar
-tahun
-4
+perlu
+waktu
 cara
-k
-2
+kami
+dapat
 anda
-0
+lebih
 juga
-)
+5
 hal
-t
+menjadi
 2
-ini
+besar
 5
-juga
-bermain
-dan
+1
+indonesia
+jadi
 melakukan
 yang
-1
+dan
 indonesia
 dapat
-saja
+lebih
 orang
 dengan
 sudah
-1
+tahun
 dan
 ini
 0
 ada
 
-an
-hanya
+u
+k
 4
 seperti
-membuat
-membuat
+pada
+dalam
 itu
 bahwa
 
-kita
+saat
 indonesia
-atau
+di
 cara
-
-dan
+,
+harus
 -
 mereka
-a
-semua
-game
-saat
+secara
+d
+terbaik
+k
 3
-mereka
+slot
 s
-harus
+k
 secara
 i
 lebih
-dengan
-sebagai
--
 "
-)
+menjadi
+yang
+"
+jadi
 anda
-.
+ada
 mereka
 karena
-6
+akan
 1
 anda
 sebagai
 k
 ada
-orang
+saja
 untuk
 bisa
 dengan
 permainan
 anda
 maka
-dan
-seperti
+ini
+memiliki
 seperti
 kita
-
-k
+yang
+/
 saat
 
-tersebut
+harus
 telah
 dengan
 
 dengan
-anda
+ke
 ,
 dari
 juga
-dapat
-pada
-6
-poker
+an
+3
 t
+banyak
+5
 dapat
 (
 kita
 dalam
 dengan
-dan
+game
 yang
 ,
-kamu
-/
+s
+judi
 bisa
 9
-pemain
+saja
 
 tidak
 yang
 sebagai
-yang
-jika
+tidak
+kita
 apa
-juga
+adalah
 sangat
-atau
-sudah
+judi
+adalah
 
-0
+tidak
 cara
 dengan
-online
-i
-besar
-(
+9
 i
+u
+maka
+yang
 atau
 adalah
-dalam
+ke
 dengan
 .
-hanya
+5
 sudah
 satu
 
-orang
-d
+para
+membuat
 online
-kan
-m
-/
+besar
+
+
 adalah
 bahwa
-akan
+t
 yang
 baik
 saja
@@ -712,147 +712,147 @@ atau
 dengan
 orang
 di
-tidak
-untuk
-perlu
+bahwa
+itu
+apa
 ke
 .
 pada
-baik
+/
 9
-sangat
-indonesia
-dari
+e
+ini
+baik
 
-online
-ke
+atau
+bermain
 dapat
 0
-secara
-oleh
-karena
+/
+untuk
+menjadi
 
 yang
-anda
+e
 dengan
-judi
+a
 mereka
 lebih
-secara
-u
-tahun
-namun
+saja
+.
+harga
+
 saya
-2
+memiliki
 di
-k
-saja
+salah
+adalah
 
 (
 -
-?
-juga
+dari
+atau
 ,
-kami
-untuk
+online
+-
 untuk
 untuk
-membuat
+hanya
 1
 ada
-tidak
-dengan
-besar
+dapat
+saya
+satu
 di
 bermain
 lebih
-anda
+4
 /
-t
-"
+baik
+sangat
 poker
 8
 dan
 1
 :
 2
-itu
+situs
 lain
-jika
+permainan
 banyak
-hal
-saja
-jika
-kan
+apa
+k
+?
+1
 anda
 ,
-online
-akan
-ini
-beberapa
+menjadi
+hanya
+a
+adalah
 mereka
-akan
+2
 dapat
 sangat
-cara
-melakukan
-dalam
-dan
-di
+seperti
+ke
+baru
+/
+menjadi
 sebagai
 yang
 
-sudah
-1
-satu
+kami
+2
 satu
+orang
 tidak
-
-k
+mereka
+juga
 menjadi
 .
-5
-hal
-an
-dapat
-dari
-adalah
+satu
+nya
+bisa
+pada
+namun
+mungkin
 yang
 beberapa
-.
-9
-0
 ,
-satu
-(
+situs
+8
+,
+tidak
+
 tidak
 yang
 sangat
+:
 dari
-game
 t
 ini
-juga
-bermain
-9
+baik
+
+m
 di
-menjadi
+slot
 adalah
-/
-memiliki
+online
+?
 tahun
-saja
+secara
 hanya
 
-semua
+uang
 ini
 ,
-/
-cara
+judi
+
 juga
 dengan
 situs
-u
+nya
 itu
 pada
 situs
@@ -862,262 +862,262 @@ nya
 tidak
 kita
 yang
-di
-waktu
+itu
+an
 di
 sebagai
 8
-bagi
-atau
+namun
+pemain
 ,
 mereka
-?
+anda
 
 ,
 /
 kami
-untuk
 lebih
-indonesia
-untuk
+0
+dalam
+dengan
 nya
-dan
+t
 jika
 1
 oleh
 ,
-seperti
-memiliki
+baik
+i
 
-slot
-bahwa
+)
+an
 pada
-secara
+4
 
-orang
-mereka
-an
+dan
+jika
+dan
 -
-
-memiliki
+banyak
+telah
 atau
-lebih
+o
 anda
 hal
-akan
-online
+di
+ini
 a
-untuk
+-
 dapat
 menjadi
-hanya
+secara
 5
-dengan
-orang
+lain
+d
 yang
 .
 7
-?
+slot
 banyak
-8
+harus
 yang
 5
 besar
 :
-dalam
+nya
 
-itu
+menggunakan
 mereka
-melakukan
+-
 ke
 tersebut
 
-saat
-8
-akan
-salah
+kita
+seperti
+nya
+i
 oleh
-mereka
+cara
 
 bisa
 saja
 0
-ada
+o
 
-poker
-saja
-salah
+secara
+k
+ini
 )
-bisa
-harus
-hanya
-membuat
+akan
+maka
+8
+game
 3
 slot
 
 bisa
+ada
+apa
 1
-memiliki
-1
-anda
+
 banyak
 bisa
-situs
-
+an
+secara
 kita
 untuk
 karena
 1
 8
-n
-d
+itu
+akan
 yang
-nya
+karena
 satu
 "
-mereka
-di
-saat
-bisa
+semua
+banyak
+setiap
+t
 ini
-mereka
+kita
 saja
 akan
-jika
+
 5
-t
+
 seperti
 untuk
 yang
-/
-seperti
-memiliki
-4
+online
+banyak
+satu
+5
 secara
 slot
 i
-nya
+ke
 jika
 lebih
-bahwa
-saya
-saat
+kamu
+ada
+k
 ini
 menjadi
-an
-poker
+untuk
+itu
 dan
-5
+2
 saja
 1
 juga
-e
-dan
+salah
+adalah
 ini
 juga
 kamu
 yang
-besar
+u
 ke
-mendapatkan
 
 
-bahwa
-online
+
+,
+maka
 
 orang
-bahwa
-kamu
+uang
+nya
 2
-t
-saja
-
-baik
+semua
+tersebut
+pada
+bermain
 an
 oleh
-(
+yang
 lebih
-k
+indonesia
 adalah
-sangat
--
-
-karena
+bahwa
+cara
+ada
+seperti
 cara
 )
 
-5
+-
 banyak
-memiliki
+dapat
 0
 tidak
 kamu
-jika
-?
-akan
+game
+mendapatkan
+"
 ini
 )
-telah
+karena
 akan
 adalah
 bisa
-
-secara
-banyak
 :
-(
-itu
-sangat
-8
-dan
-salah
-situs
-menjadi
-
 indonesia
-dengan
+5
 :
-yang
-ini
+e
+:
+salah
+orang
+dan
+sudah
+lebih
+dalam
+
+
+dengan
+:
+saya
+ini
 jika
 
-anda
-untuk
+ini
+semua
 di
-
-karena
-online
+satu
+dapat
+lebih
 
 pada
 an
-kita
-menjadi
+melakukan
+seperti
 2
 .
 ,
-dalam
-an
-judi
-oleh
+nya
+d
 lebih
+bisa
+dari
 jika
-poker
+ingin
 kami
 hal
-telah
+pada
 
-besar
-an
-dapat
-9
+slot
+yang
+5
+6
 membuat
-lain
+?
 nya
 pada
-membuat
+judi
 seperti
 juga
-namun
+.
 m
 
 juga
@@ -1125,244 +1125,244 @@ juga
 melakukan
 banyak
 bisa
-1
+nya
 
 jika
 sebagai
-an
-besar
+seperti
+itu
 dan
 sudah
-ada
+online
 indonesia
 ,
-judi
-kita
-jika
-slot
+dan
+4
+)
+permainan
 menjadi
-judi
+kamu
 dan
 
-pada
+9
 bisnis
-,
+uang
 
 untuk
 jika
 tersebut
 -
-ke
-saat
+kita
+situs
 poker
 besar
-9
+membuat
 cara
 bisa
 dan
-1
+ke
 ini
-,
+
 di
-t
+-
 adalah
 untuk
 
-3
+1
 5
-kami
+besar
 dan
 seperti
 itu
-:
-dapat
-9
-
-?
-adalah
+d
+)
+ini
 
+pada
+sebagai
+situs
 hal
 
 "
-.
+5
 pada
 ini
-ke
+bahwa
 secara
 cara
-itu
+online
 tersebut
-judi
-d
+cara
+masih
 harus
 di
 5
 yang
 seperti
-kamu
-memiliki
+kami
+indonesia
 sangat
 
 akan
-dengan
+juga
 situs
 itu
-?
-mereka
-i
-a
-s
+harus
+jika
+kami
+t
+uang
 menjadi
 yang
-1
+akan
 n
-oleh
+ke
 bisa
-dengan
+secara
 
 1
 0
 .
-u
+m
 .
 t
-baru
+
 dan
-?
-(
-akan
-saat
-maka
+o
+beberapa
+untuk
+online
 kami
+dari
 t
 .
-e
-online
-
-
-7
+melakukan
+(
+9
 
+membuat
+mereka
 4
 
-karena
-?
-i
-?
+kita
+mereka
+
+salah
 anda
 dapat
 bahwa
-besar
+sebagai
 bermain
-ini
+e
 an
 
-9
-1
+a
+nya
 ke
-akan
-pada
-:
+dalam
+oleh
+kamu
 untuk
 secara
 dan
-"
+satu
 online
-
-beberapa
-)
-di
+dari
+akan
+kita
 di
-
+2
+untuk
 )
-sudah
-oleh
+judi
+bermain
 oleh
 dari
-nya
+tidak
 menjadi
 0
 .
 -
-tidak
+
 0
-,
-?
-t
-cara
-permainan
+dalam
+dengan
+harus
+.
+menggunakan
 
-sebagai
-slot
+9
+4
 atau
 ke
-dari
+nya
 maka
 salah
-online
-besar
+beberapa
+u
 "
-sudah
+cara
 hanya
-menggunakan
+an
 dari
-jika
+(
 dapat
-satu
+harus
 
-saat
+membuat
 di
 tersebut
 di
 
 lain
-bisnis
-dalam
+7
+atau
 
 ke
 satu
-oleh
-saya
+akan
+kita
 beberapa
-memiliki
-saat
+harus
+.
 dengan
 banyak
+dan
 dapat
-dapat
-n
+mendapatkan
 .
-menggunakan
-pada
-harus
-
-maka
-judi
-lain
+k
+perlu
+mudah
 
+poker
+6
+bisa
+indonesia
 situs
 cara
 5
 dari
 maka
 yang
-,
-,
+dalam
+semua
 ?
-lebih
+online
 saat
-besar
 9
-beberapa
+kamu
+saat
 bisa
-saja
-masih
+uang
+saya
 anda
 satu
 bisa
 sudah
-satu
+besar
 pada
-
+?
 banyak
 menjadi
 dan
@@ -1371,58 +1371,58 @@ saya
 akan
 ada
 bahwa
-lebih
-hal
-harus
 ini
-4
-a
+di
+d
+ini
+kita
+dalam
 yang
 0
 juga
-adalah
+:
 hanya
 bahwa
-beberapa
+memiliki
 saja
 untuk
 s
 
-"
-tersebut
-pada
-nya
-ke
+dalam
+bahwa
+s
+poker
+banyak
 .
-kami
-/
-lebih
-/
+d
+hal
+bisa
+harus
 tersebut
-menggunakan
+6
 yang
 harus
-kamu
-situs
+saja
+
 kan
 cara
 ada
 nya
-para
-)
+
+2
 beberapa
 sangat
-satu
+,
 anda
 ke
-hal
-sudah
+situs
+nya
 di
 maka
--
-banyak
+mereka
+mereka
 dari
-secara
+bagi
 
 saat
 9
@@ -1430,195 +1430,195 @@ saat
 k
 dalam
 ,
-:
-)
+judi
+menjadi
 itu
 .
 kita
 pada
 s
 di
-yang
-tidak
+–
+para
 online
 beberapa
-seperti
+satu
 karena
-yang
+jika
 game
 permainan
-3
+9
 nya
 juga
-satu
+poker
 karena
-jadi
-slot
-"
-juga
-dapat
+,
+besar
+di
+dengan
+harus
 seperti
 
-situs
+salah
 (
 
 ,
 adalah
-beberapa
+orang
 .
-
+e
 secara
-nya
-6
+adalah
+
 yang
-saya
+banyak
 adalah
 di
-5
+t
 nya
 untuk
-para
+telah
 -
 karena
 (
 memiliki
 adalah
-satu
-membuat
-,
-waktu
+"
+secara
+sudah
 adalah
-nya
-saja
+adalah
+3
+t
 secara
 dalam
 .
 ini
 5
-sudah
+-
 ini
 1
 s
 
-hal
+bahwa
 :
 "
 ini
-uang
+yang
 
-bermain
+saja
 ,
 ,
 di
 ,
-(
+dengan
 ,
 -
-judi
+dan
 anda
-atau
+baru
 
-kan
+dapat
 banyak
 hal
-beberapa
-dari
-satu
+.
+tidak
+3
 s
 .
 dalam
 saya
-a
-dalam
+ini
 dalam
-game
+slot
+"
 adalah
 oleh
-:
+dalam
 juga
-k
-karena
+akan
+menjadi
 ini
--
-slot
-u
+(
+bisa
+)
 0
 adalah
 dari
 yang
-9
+melakukan
 judi
-di
-dengan
+d
+
 online
-6
-o
+besar
+sebagai
 ,
 /
-(
+)
 jika
-bisa
-salah
+ini
+
 dapat
-tersebut
--
-adalah
-1
+(
+tidak
+.
+menjadi
 d
 tidak
-dari
-bisa
-indonesia
+adalah
+banyak
+permainan
 0
 satu
 dari
-tidak
-d
-7
+itu
+lain
+pada
 poker
 yang
-e
-1
-seperti
-d
+nya
+cara
+bermain
+besar
 saya
-bagi
+adalah
 .
 bisa
-satu
-(
+6
+yang
 sebagai
-u
-dapat
-5
-mungkin
+orang
+permainan
+menjadi
+game
 bisa
-kita
+5
 ,
 .
 dalam
 memiliki
-)
-sudah
-k
-jadi
-mudah
+pemain
+tidak
+0
+besar
+oleh
 yang
-nya
+adalah
 banyak
-dengan
-ada
-kan
-hal
+i
+banyak
+pada
+8
 untuk
 
-bermain
+/
 "
-:
+2
 0
-ke
-)
-semua
+saja
+untuk
+tidak
 anda
 atau
 bahwa
@@ -1627,506 +1627,506 @@ besar
 kita
 adalah
 ,
-5
+bisa
 dan
 ini
-itu
+cara
 adalah
 ada
 permainan
 tersebut
-
+untuk
 bermain
-secara
+i
 5
 3
-sudah
-lain
-lain
+beberapa
+kan
+banyak
 banyak
 pada
 ,
-p
+saat
 ,
 )
 e
-atau
+dan
 akan
 -
 1
 2
 -
-uang
+akan
 online
 judi
 atau
 satu
-dengan
-
+dalam
+mendapatkan
 bermain
-kamu
-bisa
+?
+s
 yang
-situs
+harus
 apa
-ada
-yang
+8
+,
 yang
 .
-(
+memiliki
 )
-jadi
-untuk
+membuat
+0
 e
 juga
 baik
-lain
+semua
 adalah
-tahun
+,
 tidak
 lebih
-kamu
-bahwa
-6
+tahun
+para
+0
 nya
-u
+tidak
 a
-permainan
+cara
 
 /
 atau
 adalah
-5
-sudah
-n
-ada
-)
+itu
+orang
+pada
+jika
+itu
 untuk
 dan
-bermain
+poker
 u
-
-
+sudah
+online
 dalam
 yang
 
 untuk
-5
-:
+menjadi
+nya
 lebih
 pada
-8
+karena
 akan
-itu
+judi
 dalam
 atau
-7
+:
 satu
 s
 cara
-semua
-indonesia
+menggunakan
+untuk
+dan
+para
+e
+.
 dan
-tersebut
-itu
-semua
-maka
 1
 online
-salah
+saya
 
 ini
 saja
 tidak
-nya
--
-hal
+e
+mereka
+adalah
 ke
-9
+juga
 7
 game
-karena
-yang
-adalah
+bahwa
+anda
+anda
 0
 -
 bahwa
 salah
 ada
+(
 seperti
-saya
 0
 bisa
 juga
 ada
 atau
 yang
-salah
-membuat
-pada
+hanya
+sangat
+m
 bahwa
-d
+sebagai
 k
-hanya
+para
 menjadi
 banyak
 bisa
-pada
+lain
 jika
-)
-bisa
+9
+ke
 jika
-?
+0
 bahwa
 itu
-ke
+banyak
 ada
 untuk
-dapat
-
+1
+dengan
 ini
 untuk
 bahwa
 yang
 1
 bisa
-menggunakan
-waktu
-online
-s
-kamu
+tidak
+mendapatkan
+lebih
+hal
+juga
 6
-kami
+d
 karena
-dapat
-game
-besar
+bermain
+salah
+ingin
 nya
 ke
 saja
 atau
 -
-judi
+dari
 atau
 secara
 mereka
-tersebut
-harus
+1
+di
 dan
 5
 bisnis
-4
+memiliki
 )
-dengan
+tidak
 atau
-besar
+nya
 beberapa
-saat
-"
+(
+sangat
 1
 –
-menjadi
-satu
+5
 satu
+harus
 
-mereka
+sangat
 situs
 dan
-kan
-maka
-di
-nya
-6
-0
+baik
+bermain
+-
+mendapatkan
+ini
+baru
 anda
 dari
-apa
-3
-terbaik
+tidak
+bermain
+6
 
-nya
-salah
+an
+mendapatkan
 membuat
 )
-
+u
 pada
-indonesia
-secara
-apa
-semua
+sangat
+membuat
+akan
+bagi
 untuk
 4
-juga
 
 
+.
 .
 sudah
 a
-hanya
-mereka
+dengan
+pada
 1
-
-bahwa
-nya
+tahun
+anda
+ke
 bisa
 juga
-,
+7
 .
 dan
 tidak
 sebagai
 ini
 bisnis
-membuat
+s
 cara
 banyak
-cara
-e
+namun
+satu
 dan
 jika
-4
+saya
 i
 2
 ke
 memiliki
 orang
-8
+saat
 yang
-permainan
+5
 7
 sudah
 cara
 dapat
 lebih
-dari
-pada
-anda
+a
+harus
+dan
 dengan
 cara
-(
-)
-seperti
+saja
+juga
+9
 atau
 di
 2
-:
-sangat
-namun
-i
-dan
-
+harga
+?
+cara
+ini
+kami
+kamu
 dan
-harus
+memiliki
 di
 poker
-saya
+membuat
 ada
-bisa
-secara
+i
+slot
 harus
 harus
-orang
-6
+seperti
+banyak
+baik
 situs
-7
 di
 bisa
-dapat
-atau
+-
+itu
 dalam
 dapat
-satu
+beberapa
 seperti
-4
+dapat
 -
-)
+:
 tersebut
-lain
-2
+sangat
+adalah
 saja
 kami
-dalam
+itu
 judi
-3
+itu
 adalah
-uang
-dari
+karena
+untuk
 mungkin
 yang
-
+anda
 .
-harus
-,
-membuat
-?
-akan
-ke
+tersebut
+ini
+saja
+k
+dalam
+tentang
 bermain
 dengan
 
-kamu
-lebih
-di
-sudah
+i
+dari
+namun
+,
 untuk
-beberapa
 sangat
-baru
-anda
-9
-menggunakan
+seperti
+dari
+-
+atau
+i
 kami
-memiliki
-saya
-9
-bermain
+s
+di
+sebagai
+.
 permainan
-karena
+menjadi
 anda
 pada
-kita
-p
+u
+waktu
 untuk
 :
-baik
+besar
 bahwa
-a
-s
-tidak
+
+dan
+permainan
 (
-bisa
-di
-lebih
-an
+memiliki
+kan
+.
+judi
 sebagai
 baik
 atau
-online
-dalam
-game
+0
+3
+bisa
 .
-jika
+i
 ini
 satu
+kami
+t
+bisa
 
+akan
 lebih
-dan
-
-3
-lebih
-bahwa
-kamu
+beberapa
+hanya
 saat
-dapat
-kan
-u
-mereka
+kita
+baik
+9
+-
 tersebut
 "
 6
 ,
-masih
+maka
 ke
-3
+nya
 dan
-baik
-situs
+untuk
+
 anda
-seperti
-seperti
+hal
+?
 
-maka
+1
 .
 salah
 kamu
 
-7
-kami
-bermain
-
+ini
+a
+besar
+kan
 anda
-juga
-"
-hal
+tahun
+3
+u
 )
 dalam
 s
 hanya
-karena
-satu
+s
+situs
 bisa
-e
-kita
-an
+-
+kamu
 lain
-membuat
-situs
+bahwa
+an
+baik
 ke
-bisa
-judi
-t
+saya
+waktu
+membuat
 akan
-uang
-mereka
+jika
+bahwa
 bisa
 3
 .
-ada
+orang
 5
-kamu
+d
 -
 yang
 banyak
 dan
-)
+harus
 akan
-i
-1
-.
-d
-memiliki
-oleh
-dari
+namun
+ingin
+kamu
+sudah
+indonesia
+k
+ini
 melakukan
-harus
+/
 saya
-
-?
+satu
+menggunakan
 dengan
-di
+a
 0
-untuk
-dengan
-)
-sangat
+di
+an
+bahwa
+anda
 lebih
 anda
-9
+dalam
 ke
 tidak
 :
-
+atau
 yang
 dari
 
 atau
 
-saya
-lebih
-salah
+bahwa
+ke
+apa
 satu
-besar
-5
-8
-kan
+yang
+
+?
+waktu
 itu
-7
-jadi
+a
+menjadi
 
-maka
+yang
 
 untuk
-untuk
+sangat
 2
 dan
 satu
@@ -2134,123 +2134,123 @@ cara
 yang
 baik
 akan
-6
-ke
+hal
+lebih
 (
 di
 hal
-juga
+a
 
 0
-akan
+k
 anda
-t
-/
--
+s
+1
+
 
 s
 harus
 akan
-bahwa
-hanya
-bahwa
-dalam
+,
+memiliki
+kan
+setiap
 an
-dapat
-telah
-menjadi
-6
+/
+apa
+s
+sudah
 orang
 menjadi
-t
+nya
 orang
-yang
+juga
 anda
-cara
-2
+
+:
 8
-4
+.
 an
 kami
-setiap
-dengan
+s
+0
 :
 saya
 s
 -
 adalah
-satu
+u
 memiliki
 1
-saya
-menjadi
-seperti
-bisnis
-indonesia
+banyak
+memiliki
+itu
+ini
+baik
 hal
 kami
 untuk
-indonesia
-kan
-untuk
-.
-kita
+
+nya
+akan
+sebagai
+sudah
 anda
 ini
 para
-hal
+kami
 juga
 kita
-/
+slot
 
 akan
-sebagai
-8
-seperti
+situs
+hal
+4
 yang
-ke
-sangat
+satu
+anda
 nya
 hal
 dan
 untuk
 pada
-dan
-0
+lain
+online
 
-di
+anda
 s
 2
 ,
-beberapa
+permainan
 
-untuk
+dan
 
 "
-tersebut
+lain
 6
-e
-cara
+harus
+karena
 -
 dari
-i
+dari
 saya
-saja
-mereka
+telah
+namun
 dengan
-apa
-nya
-dan
+slot
+oleh
+kita
 dalam
 karena
 
-melakukan
+k
 maka
 melakukan
-d
+-
 dalam
 s
-oleh
+5
 .
 pada
 lebih
@@ -2259,56 +2259,56 @@ maka
 dapat
 
 4
-a
+u
 beberapa
 tidak
-secara
+9
 i
 banyak
 online
 4
 salah
 s
-mudah
-ini
+pemain
+0
 :
-menjadi
+8
 
-dari
+bisa
 situs
 ,
 dengan
-?
-dapat
-8
+judi
 dapat
-8
-salah
+permainan
+.
+hal
+7
 ,
-memiliki
+semua
 kita
-/
+kami
 sudah
-beberapa
+k
 anda
-untuk
-orang
+?
+memiliki
 tidak
-atau
-tersebut
+kan
+akan
 
-i
+3
 di
-tahun
+mungkin
 bisa
 yang
 "
-e
-hanya
+ini
+sebagai
 (
 dapat
-5
-oleh
+lain
+sangat
 oleh
 saya
 permainan
@@ -2316,75 +2316,75 @@ menjadi
 dengan
 untuk
 lebih
-beberapa
+online
 anda
 i
 ada
 indonesia
-saat
+bagi
 
 orang
 mereka
-/
+kami
 
-membuat
-dan
-masih
+"
+-
+lebih
 k
 pada
-an
-dalam
-)
-beberapa
+ada
+6
+sangat
+orang
 ?
 judi
 harus
-seperti
+:
 ?
 nya
-kan
+:
 ini
-1
+orang
 yang
-seperti
-saya
+u
+memiliki
 slot
 judi
-8
+)
 permainan
-harga
+baik
 4
-dapat
-sangat
+bahwa
+3
 ke
-
+e
 bermain
-tidak
+dari
 game
 akan
-ke
-dengan
-,
 
-1
-hal
+juga
+itu
 
+1
+bisa
+harus
 dengan
 saat
-t
-seperti
+r
+oleh
 akan
 saya
-s
+a
 2
-dan
+yang
 yang
 s
 
 telah
-:
+telah
 itu
-dalam
+satu
 cara
 yang
 
@@ -2392,284 +2392,284 @@ permainan
 di
 mendapatkan
 nya
-kami
-nya
-atau
+anda
+juga
+ke
 4
-harus
-yang
-situs
+dalam
+2
+beberapa
 oleh
 akan
-beberapa
-beberapa
-secara
-orang
-banyak
-2
+ada
+
+anda
+a
 menjadi
 2
+k
+2
 7
 i
 beberapa
-besar
-bahwa
-dan
+memiliki
+ada
+maka
 saja
 sangat
-lain
+kita
 nya
-dari
+menjadi
 akan
-,
+poker
 secara
-1
+telah
 adalah
 an
 secara
-judi
+kan
+bisnis
+dengan
 bisa
-untuk
-
-dalam
+bisnis
 itu
 bisa
-karena
-d
-atau
+karena
+bermain
+anda
 itu
-
+?
 kami
-mendapatkan
+dengan
 8
-cara
+anda
 di
 pada
 saat
 adalah
 0
-tidak
-saat
-mereka
-adalah
-memiliki
+saja
+"
+perlu
+1
+akan
 dan
-di
+menggunakan
 secara
-bisa
+
 :
-u
+oleh
 ,
-yang
-"
+saya
+namun
 dari
 sangat
-kami
-dan
-anda
+beberapa
+
+/
 
 masih
-banyak
-e
+bisa
+situs
 akan
 5
 anda
-permainan
+k
 t
 besar
-
-satu
+ada
+itu
 i
 salah
-game
+semua
 t
 kamu
-lain
-anda
-ini
+telah
+bisa
+
 jika
-salah
-4
-saat
-besar
+tahun
+hal
+untuk
+baik
 adalah
 akan
-kami
-?
-k
-8
 ?
+u
+di
+dari
+tidak
 atau
-kan
-(
+
+baik
 di
-cara
+menggunakan
 poker
 dapat
-8
+oleh
 k
-mereka
+atau
 bahwa
-kan
+7
 bisa
 cara
-tentang
+poker
 mereka
 yang
-s
-yang
-sudah
-atau
+seperti
+membuat
+kamu
+juga
 dapat
 
-dan
+dalam
 untuk
 )
-bahwa
+saat
 akan
-mereka
-lain
+(
+poker
 "
 tidak
-dan
-di
+para
+e
 dari
-kita
+jika
 satu
-akan
+6
 0
 bisa
 
-o
-di
-i
+,
+6
+slot
 itu
 kami
 ke
-"
+?
 harus
-juga
+saat
 uang
 secara
 1
 anda
-bisa
-besar
-6
-0
-seperti
-4
-waktu
+jika
+u
 sangat
-bahwa
+membuat
+8
+online
+tidak
+bisnis
+lain
 e
 situs
-karena
+tidak
 di
-kami
-mereka
+-
+pemain
 pada
 i
-?
+hal
 2
 0
 ,
 t
 u
-dalam
-8
+
+situs
 sudah
 itu
 )
-a
+indonesia
 lebih
-uang
+karena
 akan
 5
-game
+/
 sangat
 lebih
-0
+2
 bermain
-a
+slot
 saat
-di
-salah
-0
-dapat
+r
+slot
+pemain
+2
 1
 tersebut
 satu
 itu
-(
-?
-
+situs
+7
+uang
 kan
 tidak
 "
 dan
 saat
 .
-seperti
+dapat
 ?
-,
+t
 ada
-kami
+menjadi
 nya
-sebagai
-)
+tidak
 )
-/
-nya
-
-bisa
+beberapa
+karena
+-
+seperti
+namun
 online
 namun
 ,
-an
+para
 
-judi
-saat
-uang
+indonesia
+cara
+anda
 kami
-telah
-telah
+s
+m
 hal
-lebih
-pada
+situs
+s
 dapat
 permainan
-dengan
+maka
 juga
 juga
 di
-a
+0
 .
-s
+kami
 
-beberapa
-situs
+baik
+membuat
 cara
-menggunakan
+bagi
 5
-8
+lain
+
 
 
-situs
 juga
 2
 bisa
-sebagai
-
-a
+dengan
+,
+jadi
 saat
 atau
-seperti
+u
 bisa
-kami
+game
 
 tersebut
-di
+maka
 dengan
 anda
 situs
@@ -2677,644 +2677,644 @@ situs
 s
 maka
 
-ini
-adalah
-telah
+hal
+maka
+tidak
 bisa
 sudah
 bahwa
 saya
-untuk
+dalam
 akan
 :
 dari
 bisa
 dalam
-pada
-satu
+menggunakan
+dengan
 yang
 4
-membuat
-orang
-akan
+tidak
+kami
+seperti
 menggunakan
 mendapatkan
-indonesia
-mereka
+p
+yang
 tidak
-semua
+
 sebagai
-akan
-)
+pada
+membuat
 -
 
-anda
+banyak
 dengan
-apa
+m
 "
 situs
-kan
 :
-"
-banyak
+:
+permainan
+karena
 ,
-s
-pada
+(
+tidak
 s
 0
-oleh
-permainan
+karena
+judi
 pada
 slot
 5
 2
 baik
 2
-poker
+ke
 adalah
 -
-harus
-waktu
-kami
+4
+lain
+cara
 sebagai
 hal
 
 kita
-6
+tentang
 s
 yang
-tersebut
+indonesia
 di
-3
-atau
+bahwa
+sudah
 satu
 judi
 bisa
 u
-9
-t
-satu
+,
+baik
+juga
 4
-)
-7
+(
+beberapa
 saya
 seperti
 
 e
 baik
 permainan
-6
+pada
 banyak
-u
+lain
 e
-juga
+lebih
 0
 beberapa
-mereka
+besar
 hanya
-jadi
-permainan
-atau
+–
+"
+itu
 )
 untuk
-judi
-itu
+atau
+4
 hal
 a
 7
-ke
-sudah
+slot
+9
 hal
-2
+-
 judi
-a
-untuk
-salah
-u
+-
+?
+dengan
+juga
 
 bisa
 3
-a
-3
-pada
+8
+anda
+maka
 -
 sudah
-besar
-dari
+juga
+membuat
 ,
-satu
+bermain
 1
 untuk
 s
-kan
+membuat
 di
-.
-anda
-sangat
-bisa
-akan
+lebih
+2
+kamu
+s
+lebih
 secara
 
-mereka
+besar
 dari
-,
+saya
 adalah
 0
 situs
-/
+slot
 .
 
-,
-uang
-karena
-nya
+ini
+
+mereka
+
 jika
 i
 dan
-bahwa
-ke
-anda
-kamu
+an
+3
+a
+kita
+3
+karena
 dan
-1
-menjadi
 .
 dengan
-sudah
--
+dengan
+dalam
 seperti
 beberapa
-orang
-lain
-:
+poker
+o
+sangat
 i
+3
+d
 tidak
-di
-hanya
 saya
-cara
+
 besar
 0
-e
-di
+saya
+,
 bahwa
 tidak
 cara
-melakukan
+0
 kami
 banyak
-karena
+menjadi
 adalah
-cara
+sebagai
 judi
 3
 untuk
-membuat
-k
-satu
-di
+hanya
+pemain
+
+para
 saya
 bisa
-t
-kami
-juga
-di
-apa
-tidak
-situs
 satu
+saja
+sebagai
+di
 harus
 tidak
+situs
+bermain
+e
 tidak
+bisa
 1
-8
+jika
 1
-para
-memiliki
+.
+mereka
 orang
-9
+7
 anda
-harus
-dengan
+/
+telah
 -
 secara
-,
+:
 kami
 yang
 ini
-5
+bisa
 2
 
-1
-nya
-anda
-judi
-juga
-hanya
 menggunakan
-salah
-menjadi
-yang
+dapat
+pada
+akan
+juga
+,
+atau
+u
+jika
 yang
-8
-lain
+bisa
+,
+seperti
 ke
 online
-8
+sangat
 saja
 adalah
-d
+karena
 kamu
-sudah
+karena
 satu
 atau
-"
+7
 tidak
 3
-memiliki
-
-orang
-ke
+bermain
+"
+judi
+dari
 jika
 lebih
-karena
-di
+poker
+kita
 9
-bisa
+dengan
 jadi
 online
 
-0
-
+/
+kan
 satu
 3
 ,
 yang
-e
-memiliki
+jika
+3
 /
 
 mereka
 ,
-saat
-ada
+banyak
+dari
 indonesia
 kami
-:
+hal
 pada
 untuk
-bermain
+dan
 sangat
-secara
-ke
-karena
-u
+membuat
+sudah
+/
+tersebut
 ,
 dapat
-secara
-dalam
-ini
-d
+:
+akan
+nya
+besar
 i
-)
-(
+saja
+dan
 9
-namun
-dapat
+memiliki
+i
 (
-saja
+akan
+jika
+9
 poker
-di
-ingin
-untuk
+.
 3
-judi
-ingin
-di
+banyak
+6
+0
 
 t
-d
+slot
 masih
-
+orang
 untuk
-
-
-6
-satu
+0
+online
+ke
+melakukan
 hal
 semua
-2
-t
+pada
+"
 maka
 )
-anda
-lebih
-judi
+mereka
+di
+beberapa
 "
-3
+jika
 "
-menjadi
+nya
 dari
 pada
-oleh
+apa
 satu
-online
+d
 ?
-m
-bahwa
+s
+situs
 tidak
 saat
 orang
 5
+bisa
 untuk
-:
-0
+permainan
 tidak
-kan
+2
 3
 oleh
 dengan
 situs
-
-dari
+.
+nya
 a
-kita
-,
+saat
+banyak
 ini
 /
 cara
-ini
-harus
-baru
+dari
+yang
+saat
 pada
-bisa
+n
 ,
-an
+orang
 8
 akan
 di
 untuk
 di
-harus
-
+hanya
+judi
 dapat
-maka
+banyak
 dari
-.
+karena
 menjadi
-akan
-tentang
+ada
+apa
 t
 menjadi
 banyak
 oleh
-maka
+adalah
 dalam
-yang
-anda
-di
-anda
-6
+2
+2
+perlu
+e
+pemain
 adalah
 /
 sudah
 ,
-semua
-(
+memiliki
+kita
 :
-dari
+dalam
 poker
 adalah
-cara
+anda
 kamu
 ada
-judi
-oleh
+kami
+:
 ada
 atau
-"
-kita
-di
-namun
-kamu
-6
+oleh
+semua
+para
+a
+lain
+ini
 di
-9
-itu
-0
-2
+kami
+s
+m
+judi
 untuk
-bisa
-itu
--
-saja
+(
+2
+harus
+anda
 nya
-tersebut
+
 
 satu
 ke
-bisa
+oleh
 karena
 0
-baik
+i
 
 salah
 baru
-beberapa
+yang
 sebagai
 ,
 ?
-an
+game
 untuk
 tidak
 itu
-kami
-akan
+s
+sebagai
 :
-tahun
-karena
-indonesia
+salah
+)
+hanya
 lebih
 atau
 
 banyak
 /
 itu
-indonesia
-k
+karena
+lain
 online
-anda
+s
 ini
 tersebut
 hanya
-tidak
+k
 ,
 memiliki
-akan
-)
-sebagai
-game
-anda
-,
-sebagai
-
-tidak
+"
 banyak
+
+sudah
+p
+ada
+kita
+
+e
+karena
 ,
-2
+yang
 adalah
-e
+bisa
 mereka
 jika
-online
-sudah
+kita
+2
 
 menjadi
--
+
 anda
-juga
+adalah
 sebagai
-memiliki
-telah
+saat
+salah
 5
-u
+a
 dalam
-d
+,
 saya
 2
-kan
+karena
 dari
--
+dan
 ini
 an
 kita
-pada
+anda
 memiliki
 adalah
 untuk
-itu
+satu
 bisa
-seperti
+melakukan
 
 untuk
 3
 cara
--
+anda
 hal
-d
-7
+indonesia
 a
-game
-4
+beberapa
+mungkin
+jika
 dan
-9
-melakukan
+
+salah
 .
-k
+indonesia
 k
 anda
-e
+bisa
 untuk
-dalam
+saat
 dengan
-a
+ini
 hanya
 (
-maka
+mereka
 pada
-karena
-o
-ada
-secara
+
+
+mudah
+5
 tidak
 sangat
-seperti
+bahwa
 karena
 di
-game
+uang
 6
-tersebut
-ada
-lain
-kamu
-bermain
-3
+saya
+memiliki
+,
+saya
+harga
+sudah
 seperti
--
-judi
+kami
+.
 5
-di
 online
+pada
 itu
 dan
 i
-lain
+di
 
-online
-"
-pemain
+)
+nya
+0
 akan
 
-memiliki
-kami
-hanya
-cara
-(
-bermain
-4
-membuat
-jika
 
-lain
+kamu
+jadi
+hal
+yang
+bagi
+4
+nya
+dalam
+anda
+baik
 0
-,
+waktu
 nya
+dan
 tahun
-tahun
-oleh
+secara
 1
-sudah
-3
-9
+uang
+uang
+dan
 banyak
 0
 2
 saja
-d
+seperti
 pada
 di
 karena
 9
 satu
-semua
-atau
-bahwa
-e
+:
+s
+pada
+saya
 banyak
-kami
+.
 orang
 tidak
-3
 judi
-juga
+hanya
+dari
 dapat
-indonesia
+kami
 yang
 dengan
-pemain
-apa
-akan
-k
-hal
+beberapa
+dari
+masih
+menggunakan
+itu
 .
-,
+memiliki
 telah
 hanya
 yang
-4
+tersebut
 ke
-anda
-
+secara
+2
 atau
 maka
 menjadi
@@ -3324,189 +3324,189 @@ bermain
 satu
 besar
 5
-uang
-3
-i
-?
-(
+"
+menjadi
+akan
+7
+bisa
 anda
 ini
-situs
+
 dari
-kami
+baru
 
-dengan
-permainan
+
+kita
 dapat
-0
+itu
 tidak
 )
 secara
 dan
-sudah
+u
 anda
 adalah
-karena
-?
-"
+
+dan
+sebagai
 2
 membuat
 5
 baik
-?
+ada
 menjadi
 
 adalah
-orang
+,
 lebih
 
 
-saat
-1
+:
+pada
 dalam
-2
--
-yang
-kita
+"
+ada
+tersebut
+slot
 bahwa
-kami
+oleh
 juga
 lebih
 beberapa
-2
+maka
 dengan
-harus
+"
 4
-mereka
-yang
-yang
+para
+online
+kami
 s
-3
+dengan
 0
-saya
-saya
+para
+.
 pada
 dari
-anda
-situs
+4
+maka
 )
 di
-0
-nya
+bisnis
+di
 .
 e
-kan
+besar
 di
 dan
 bahwa
 dari
 di
-besar
+secara
 anda
-akan
-8
-di
-akan
+atau
+mendapatkan
+para
+(
 tidak
 
-hal
+kita
 untuk
-7
-itu
+semua
+yang
 lebih
 baik
 secara
 bahwa
-secara
-kami
+indonesia
+game
 5
-untuk
-secara
+judi
+?
 pada
 sangat
 lebih
-(
-seperti
+kan
+e
 akan
-:
-bermain
-
-sudah
-
+anda
+an
+7
+indonesia
+ingin
 cara
 dan
 karena
-seperti
-kamu
+?
+semua
 hanya
-baik
-slot
-atau
-itu
-dan
+bahwa
+-
+0
+sangat
+bagi
 yang
 tidak
-orang
 saat
+k
 dengan
-sangat
+hanya
 anda
 yang
-dan
+akan
 untuk
-nya
--
+kan
+k
 banyak
-maka
-judi
-dari
-namun
+m
+an
+menjadi
+bermain
 1
 untuk
-permainan
+-
 ,
 anda
-lebih
-di
+itu
+sudah
 )
 memiliki
-ada
+hal
 
 situs
 sudah
-atau
-.
-
-anda
+dapat
+ini
+-
+dengan
 beberapa
 -
 itu
-k
-setiap
-sangat
+untuk
+secara
+kami
 5
-juga
+ada
 dan
 dan
 dengan
 judi
 dengan
-sangat
+situs
 atau
-saat
+oleh
 tidak
 .
 :
-)
+tersebut
 ,
 dalam
-cara
-anda
-kan
+6
+hanya
+1
 ini
 juga
 .
-oleh
+juga
 banyak
 2
 orang
@@ -3514,60 +3514,60 @@ ke
 
 jika
 an
-kita
+indonesia
 harus
 -
 kita
 mereka
 dalam
-hal
+,
 di
-untuk
+adalah
 .
-an
-bisnis
+tentang
+3
 di
-
-bermain
-melakukan
-menjadi
+hal
+bahwa
+menggunakan
+jika
 
 adalah
 bisa
 satu
-tersebut
+ada
 saat
 yang
 lebih
 seperti
-orang
-ke
--
-bagi
-untuk
-dapat
-lain
-ini
+sebagai
+0
+atau
+8
+nya
+pada
+menggunakan
+adalah
 di
 dan
 8
-anda
-jika
+i
+salah
 sudah
-4
+9
 ,
 ini
 kita
 di
 pada
-tersebut
+dari
 dan
-baik
+beberapa
 hal
-,
-s
+
+lebih
 pada
-akan
+u
 sangat
 online
 .
@@ -3578,119 +3578,119 @@ dari
 a
 /
 saya
-apa
+.
 beberapa
-juga
-pada
+i
+2
 1
 (
-kami
-karena
+akan
+3
 
 1
 juga
 (
 satu
-adalah
-mereka
-mereka
-yang
+5
+beberapa
+0
+ada
 -
-karena
-sudah
+dengan
+mereka
 ,
 juga
-ingin
-/
-lain
-pada
+0
+seperti
+satu
+saat
 judi
 2
-banyak
+waktu
 
 harus
 juga
 situs
 di
 judi
-5
-membuat
+semua
+saya
 .
 /
-banyak
+itu
 1
 jika
-menjadi
-an
-ke
+mereka
+beberapa
+anda
 untuk
-bahwa
+judi
 banyak
-baik
-maka
+memiliki
+kita
 saja
-uang
-?
-satu
+kami
+besar
+5
 semua
 tidak
 1
 6
 yang
 dengan
-d
-
-dari
-5
+seperti
+kamu
+s
+sebagai
 memiliki
 hal
 untuk
-yang
-lain
+maka
+membuat
 
-ke
+m
 7
 ,
-(
-juga
+t
+kan
 pada
-3
+mereka
 
-dapat
-nya
+memiliki
+:
 slot
-i
-anda
+hanya
+jika
 ?
-0
-atau
-lebih
-bisa
+e
+saya
+kami
+untuk
 saat
-dan
+ingin
 ke
-membuat
-t
-oleh
-kami
+i
+nya
+harus
+an
 karena
 atau
 sudah
-,
+nya
 
 di
 online
-t
+d
 1
-a
-salah
+ke
+terbaik
 untuk
 nya
 akan
-secara
-ada
+kita
+lain
 memiliki
-maka
+judi
 sebagai
 e
 adalah
@@ -3698,65 +3698,65 @@ sudah
 akan
 2
 saat
-sudah
-anda
-4
-
-ke
+nya
+mereka
+m
 
+o
+orang
 "
 untuk
 di
 hanya
-tidak
+0
 
 anda
-melakukan
+baru
 "
-9
+3
+3
 4
-9
-di
+itu
 tersebut
 
 0
-waktu
-dengan
-?
-jadi
+kita
+maka
+beberapa
+-
 dapat
 itu
-(
-akan
+jika
+9
 1
 i
 dengan
 i
-semua
+d
 -
-lain
-"
-dengan
-situs
+game
+d
+slot
+judi
 dengan
 2
-i
+saja
 sangat
 untuk
 hal
-orang
-u
+.
+besar
 kita
 3
-s
+tidak
 anda
 dengan
-dapat
-dapat
+itu
+s
 salah
 
-u
+4
 lebih
-bermain
+kami
 3
-p
+hal

predict_results.json

@@ -1,12 +1,12 @@
 {
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5292530655860901,
-    "predict_rouge1": 0.4599,
+    "predict_loss": 0.9408350586891174,
+    "predict_rouge1": 0.4389,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.4593,
-    "predict_rougeLsum": 0.4589,
-    "predict_runtime": 1669.4106,
+    "predict_rougeL": 0.4391,
+    "predict_rougeLsum": 0.4386,
+    "predict_runtime": 11301.1047,
     "predict_samples": 3762,
-    "predict_samples_per_second": 2.253,
-    "predict_steps_per_second": 0.282
+    "predict_samples_per_second": 0.333,
+    "predict_steps_per_second": 0.042
 }

train_results.json

@@ -1,9 +1,9 @@
 {
     "epoch": 5.0,
-    "total_flos": 6.578740997709005e+16,
-    "train_loss": 0.3747134633901342,
-    "train_runtime": 9353.1788,
+    "total_flos": 4.883004680306688e+16,
+    "train_loss": 0.7543908821486784,
+    "train_runtime": 12843.575,
     "train_samples": 14262,
-    "train_samples_per_second": 7.624,
-    "train_steps_per_second": 1.906
+    "train_samples_per_second": 5.552,
+    "train_steps_per_second": 1.388
 }

trainer_state.json

@@ -1,6 +1,6 @@
 {
-  "best_metric": null,
-  "best_model_checkpoint": null,
+  "best_metric": 0.4457,
+  "best_model_checkpoint": "bin/summarization-base-0/checkpoint-3566",
   "epoch": 5.0,
   "eval_steps": 500,
   "global_step": 17830,
@@ -10,112 +10,112 @@
   "log_history": [
     {
       "epoch": 1.0,
-      "grad_norm": 5.567347526550293,
-      "learning_rate": 4e-05,
-      "loss": 0.6282,
+      "grad_norm": 2.3418121337890625,
+      "learning_rate": 0.0008,
+      "loss": 1.5349,
       "step": 3566
     },
     {
       "epoch": 1.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.4718768894672394,
-      "eval_rouge1": 0.43,
+      "eval_loss": 0.9113389849662781,
+      "eval_rouge1": 0.4457,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4255,
-      "eval_rougeLsum": 0.4282,
-      "eval_runtime": 336.2537,
-      "eval_samples_per_second": 2.23,
-      "eval_steps_per_second": 0.28,
+      "eval_rougeL": 0.4447,
+      "eval_rougeLsum": 0.4422,
+      "eval_runtime": 633.9025,
+      "eval_samples_per_second": 1.183,
+      "eval_steps_per_second": 0.148,
       "step": 3566
     },
     {
       "epoch": 2.0,
-      "grad_norm": 2.3693532943725586,
-      "learning_rate": 3e-05,
-      "loss": 0.4301,
+      "grad_norm": 1.0075907707214355,
+      "learning_rate": 0.0006,
+      "loss": 0.8222,
       "step": 7132
     },
     {
       "epoch": 2.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.4727809727191925,
-      "eval_rouge1": 0.3754,
+      "eval_loss": 0.7657843828201294,
+      "eval_rouge1": 0.4293,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.3711,
-      "eval_rougeLsum": 0.3719,
-      "eval_runtime": 337.4308,
-      "eval_samples_per_second": 2.223,
-      "eval_steps_per_second": 0.279,
+      "eval_rougeL": 0.4263,
+      "eval_rougeLsum": 0.4253,
+      "eval_runtime": 631.9317,
+      "eval_samples_per_second": 1.187,
+      "eval_steps_per_second": 0.149,
       "step": 7132
     },
     {
       "epoch": 3.0,
-      "grad_norm": 2.505617618560791,
-      "learning_rate": 2e-05,
-      "loss": 0.3336,
+      "grad_norm": 0.6747327446937561,
+      "learning_rate": 0.0004,
+      "loss": 0.6231,
       "step": 10698
     },
     {
       "epoch": 3.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.4631851613521576,
-      "eval_rouge1": 0.3806,
+      "eval_loss": 0.6905989050865173,
+      "eval_rouge1": 0.4208,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.3777,
-      "eval_rougeLsum": 0.3808,
-      "eval_runtime": 335.5116,
-      "eval_samples_per_second": 2.235,
-      "eval_steps_per_second": 0.28,
+      "eval_rougeL": 0.417,
+      "eval_rougeLsum": 0.415,
+      "eval_runtime": 620.388,
+      "eval_samples_per_second": 1.209,
+      "eval_steps_per_second": 0.152,
       "step": 10698
     },
     {
       "epoch": 4.0,
-      "grad_norm": 1.3223034143447876,
-      "learning_rate": 1e-05,
-      "loss": 0.2643,
+      "grad_norm": 0.5738873481750488,
+      "learning_rate": 0.0002,
+      "loss": 0.4701,
       "step": 14264
     },
     {
       "epoch": 4.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.49206262826919556,
-      "eval_rouge1": 0.3537,
+      "eval_loss": 0.6816205978393555,
+      "eval_rouge1": 0.4158,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.3512,
-      "eval_rougeLsum": 0.3514,
-      "eval_runtime": 333.89,
-      "eval_samples_per_second": 2.246,
-      "eval_steps_per_second": 0.282,
+      "eval_rougeL": 0.4113,
+      "eval_rougeLsum": 0.41,
+      "eval_runtime": 613.0796,
+      "eval_samples_per_second": 1.223,
+      "eval_steps_per_second": 0.153,
       "step": 14264
     },
     {
       "epoch": 5.0,
-      "grad_norm": 2.5732645988464355,
+      "grad_norm": 1.3324648141860962,
       "learning_rate": 0.0,
-      "loss": 0.2174,
+      "loss": 0.3217,
       "step": 17830
     },
     {
       "epoch": 5.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5082412362098694,
-      "eval_rouge1": 0.3572,
+      "eval_loss": 0.7147426009178162,
+      "eval_rouge1": 0.4109,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.3545,
-      "eval_rougeLsum": 0.3557,
-      "eval_runtime": 333.1622,
-      "eval_samples_per_second": 2.251,
-      "eval_steps_per_second": 0.282,
+      "eval_rougeL": 0.4081,
+      "eval_rougeLsum": 0.4066,
+      "eval_runtime": 610.9308,
+      "eval_samples_per_second": 1.228,
+      "eval_steps_per_second": 0.154,
       "step": 17830
     },
     {
       "epoch": 5.0,
       "step": 17830,
-      "total_flos": 6.578740997709005e+16,
-      "train_loss": 0.3747134633901342,
-      "train_runtime": 9353.1788,
-      "train_samples_per_second": 7.624,
-      "train_steps_per_second": 1.906
+      "total_flos": 4.883004680306688e+16,
+      "train_loss": 0.7543908821486784,
+      "train_runtime": 12843.575,
+      "train_samples_per_second": 5.552,
+      "train_steps_per_second": 1.388
     }
   ],
   "logging_steps": 500,
@@ -123,7 +123,7 @@
   "num_input_tokens_seen": 0,
   "num_train_epochs": 5,
   "save_steps": 500,
-  "total_flos": 6.578740997709005e+16,
+  "total_flos": 4.883004680306688e+16,
   "train_batch_size": 4,
   "trial_name": null,
   "trial_params": null