diff options
| -rw-r--r-- | Makefile | 1 | ||||
| -rw-r--r-- | models/download-wmt18.sh | 12 | ||||
| -rw-r--r-- | models/wmt16_systems/amun.en-de.yml | 12 | ||||
| -rw-r--r-- | models/wmt16_systems/marian.en-de.ensemble.yml | 14 | ||||
| -rw-r--r-- | tests/decoder/align-ensemble/align.b1.expected | 25 | ||||
| -rw-r--r-- | tests/decoder/align-ensemble/align.expected | 25 | ||||
| -rw-r--r-- | tests/decoder/align-ensemble/setup.sh | 5 | ||||
| -rw-r--r-- | tests/decoder/align-ensemble/test_align_ensemble.sh | 11 | ||||
| -rw-r--r-- | tests/decoder/align-ensemble/test_align_ensemble_beam_1.sh | 11 | ||||
| -rw-r--r-- | tests/decoder/align-ensemble/text.in | 25 | ||||
| -rw-r--r-- | tests/decoder/align/ensemble.b1.expected | 50 | ||||
| -rw-r--r-- | tests/decoder/align/ensemble.expected | 50 | ||||
| -rw-r--r-- | tests/decoder/align/setup.sh | 10 | ||||
| -rw-r--r-- | tests/decoder/align/test_align_ensemble.sh | 12 | ||||
| -rw-r--r-- | tests/decoder/align/test_align_ensemble_beam_1.sh | 12 |
15 files changed, 128 insertions, 147 deletions
@@ -39,7 +39,6 @@ models: cd $@ && bash ./download-wmt17.sh cd $@ && bash ./download-char-s2s.sh cd $@ && bash ./download-wnmt18.sh - cd $@ && bash ./download-wmt18.sh data: mkdir -p $@ diff --git a/models/download-wmt18.sh b/models/download-wmt18.sh deleted file mode 100644 index 09ec5f7..0000000 --- a/models/download-wmt18.sh +++ /dev/null @@ -1,12 +0,0 @@ -#!/bin/bash - -# Download WMT18 Turkish models -mkdir -p wmt18/entr -cd wmt18/entr - -wget -nc -nv http://data.statmt.org/romang/marian-regression-tests/models/wmt18/entr/model.rnn.A.npz -wget -nc -nv http://data.statmt.org/romang/marian-regression-tests/models/wmt18/entr/model.rnn.B.npz -wget -nc -nv http://data.statmt.org/romang/marian-regression-tests/models/wmt18/entr/vocab.yml -wget -nc -nv http://data.statmt.org/romang/marian-regression-tests/models/wmt18/entr/dev2016.bpe.en - -cd - diff --git a/models/wmt16_systems/amun.en-de.yml b/models/wmt16_systems/amun.en-de.yml new file mode 100644 index 0000000..c6c86ff --- /dev/null +++ b/models/wmt16_systems/amun.en-de.yml @@ -0,0 +1,12 @@ +relative-paths: true +beam-size: 5 +normalize: no +no-debpe: yes +scorers: + F0: + path: en-de/model.npz + type: Nematus +weights: + F0: 1.0 +source-vocab: en-de/vocab.en.json +target-vocab: en-de/vocab.de.json diff --git a/models/wmt16_systems/marian.en-de.ensemble.yml b/models/wmt16_systems/marian.en-de.ensemble.yml new file mode 100644 index 0000000..70b645a --- /dev/null +++ b/models/wmt16_systems/marian.en-de.ensemble.yml @@ -0,0 +1,14 @@ +relative-paths: true +type: amun +models: + - en-de/model-ens1.npz + - en-de/model-ens2.npz + - en-de/model-ens3.npz + - en-de/model-ens4.npz +dim-emb: 500 +vocabs: + - en-de/vocab.en.json + - en-de/vocab.de.json +dim-vocabs: + - 85000 + - 85000 diff --git a/tests/decoder/align-ensemble/align.b1.expected b/tests/decoder/align-ensemble/align.b1.expected new file mode 100644 index 0000000..c9baf5d --- /dev/null +++ b/tests/decoder/align-ensemble/align.b1.expected @@ -0,0 +1,25 @@ +das Treffen war auch geplant , um den Konflikt mit den Palästinensern und die umstrittene Zwei-@@ Staaten@@ -Lösung zu decken . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-5 7-7 8-8 9-9 10-10 11-11 12-6 13-13 14-14 15-15 16-16 17-17 18-6 19-6 20-19 +Sie hatten einen Hund namens Ligh@@ tning , der mit ihnen im Back@@ stein@@ haus lebte , die sich in Gau@@ tier dem Kö@@ der entgegen@@ nahm . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-6 7-7 8-7 9-9 10-10 11-11 12-13 13-13 14-14 15-8 16-15 17-15 18-17 19-18 20-23 21-24 22-16 23-20 24-26 25-16 26-26 27-26 +er war verheiratet und hatte drei junge Kinder . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-6 7-7 8-9 +Schmidt , der ermor@@ dete Professor , leitete das erst@@ inst@@ anz@@ liche Seminar@@ programm und spezialisierte sich auf die Indianer und die Kolonial@@ geschichte , sagte Don Allan Mitchell , ein englischer Professor an der Schule . ||| 0-0 1-1 2-2 3-3 4-33 5-4 6-5 7-6 8-7 9-8 10-9 11-33 12-33 13-10 14-11 15-12 16-13 17-14 18-13 19-15 20-15 21-17 22-18 23-18 24-19 25-20 26-21 27-22 28-23 29-24 30-25 31-26 32-27 33-28 34-29 35-30 36-31 37-32 +und einige halten sich für eine Imp@@ lo@@ sion aus . ||| 0-0 1-1 2-3 3-5 4-5 5-6 6-7 7-7 8-8 9-3 10-10 +der britische Premierminister hat erneut alle Parteien , einschließlich des geteilten Sicherheitsrates , aufgefordert , alle Verhandlungen über die Aufnahme und Unterstützung der Verhandlungen zu vereinen und zu unterstützen , um eine politische Lösung zu finden . ||| 0-0 1-1 2-3 3-29 4-6 5-6 6-7 7-5 8-9 9-10 10-11 11-12 12-29 13-5 14-17 15-21 16-22 17-18 18-22 19-21 20-19 21-20 22-21 23-21 24-18 25-18 26-19 27-20 28-20 29-23 30-23 31-25 32-26 33-27 34-24 35-24 36-29 +die Polizei sagte , der Hund sei in Ordnung . ||| 0-0 1-0 2-1 3-2 4-2 5-3 6-4 7-5 8-5 9-6 +andere haben ihn als Witz abgetan . ||| 0-0 1-1 2-3 3-4 4-6 5-2 6-7 +in der Gegend wuchs Lamm@@ ert auf . ||| 0-0 1-4 2-5 3-1 4-0 5-7 6-7 7-7 +der Film beginnt und es kommt mir vor , dass ich ein Fa@@ ke G@@ äh@@ nen und ein Arm strecken weg von der zu einem Termin mit der Prinzessin von Wales . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-5 7-5 8-31 9-8 10-9 11-11 12-12 13-31 14-13 15-31 16-31 17-15 18-16 19-17 20-18 21-20 22-20 23-21 24-21 25-23 26-24 27-25 28-26 29-27 30-28 31-29 32-31 +Sie und ihre Mutter waren absolut beste Freunde . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-6 7-7 8-8 +sein Auto war noch in der Einfahrt gelaufen . ||| 0-0 1-1 2-2 3-3 4-5 5-6 6-7 7-4 8-9 +beide unter@@ richteten in der Sparte Sozialwissenschaften und Geschichte , die 17 Fakult@@ äts@@ mitglieder aufführen , und viele Schüler nahmen Kurse von beiden . ||| 0-0 1-1 2-1 3-2 4-3 5-4 6-6 7-8 8-9 9-10 10-11 11-13 12-14 13-25 14-15 15-12 16-16 17-17 18-18 19-19 20-20 21-21 22-22 23-23 24-20 +einen Tag nach der Schul@@ schie@@ ß@@ aktion zw@@ angen sich Schüler und Dozenten hinter verschlossenen Türen zu verstecken , die Behörden versuchten noch , gemeinsam das , was motivierte Lamm zu bilden . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-27 7-27 8-6 9-27 10-7 11-7 12-8 13-9 14-12 15-13 16-14 17-11 18-11 19-15 20-16 21-16 22-19 23-18 24-20 25-23 26-23 27-24 28-23 29-24 30-25 31-21 32-21 33-27 +die Kurse nehmen am Mittwoch wieder an . ||| 0-0 1-0 2-1 3-2 4-2 5-1 6-4 7-4 +im März hatte Netanjahu auf Einladung der Republikaner eine umstrittene Rede vor dem US-Kongress abgegeben , der zum Teil als Aff@@ ront gegen Obama gesehen wurde . ||| 0-0 1-1 2-11 3-10 4-3 5-5 6-7 7-8 8-12 9-13 10-14 11-15 12-16 13-17 14-11 15-19 16-20 17-28 18-22 19-24 20-26 21-26 22-27 23-28 24-23 25-21 26-29 +es gab keinen Hinweis , dass Lamb , der zwei Online-@@ Klassen für die Delta State University in Cleveland , Mississippi , war schon 300 Meilen auf dem Campus der Schule gereist , wo die Polizei glaubt , dass er einen gut ausseh@@ enden Geschichts@@ professor E@@ than Schmidt in die Tür zu seinem Büro scho@@ ss und umgebracht hat . ||| 0-3 1-1 2-2 3-3 4-4 5-5 6-5 7-6 8-7 9-10 10-11 11-12 12-13 13-14 14-14 15-15 16-16 17-17 18-18 19-19 20-20 21-9 22-23 23-23 24-25 25-26 26-27 27-28 28-31 29-14 30-29 31-24 32-22 33-33 34-34 35-34 36-35 37-40 38-40 39-36 40-40 41-41 42-42 43-58 44-43 45-44 46-46 47-47 48-48 49-50 50-51 51-52 52-54 53-55 54-56 55-37 56-58 57-38 58-39 59-58 60-58 +Ban sagte einer Pressekonferenz am Mittwoch , er plane , mit ausländischen Ministern der fünf ständigen Rat@@ sk@@ andi@@ daten - den USA , Russland , China , Großbritannien und Frankreich - am Rande der Minister@@ tagung der Generalversammlung noch in diesem Monat zu sprechen , um über Syrien zu sprechen . ||| 0-0 1-1 2-2 3-3 4-5 5-5 6-1 7-7 8-8 9-11 10-11 11-12 12-13 13-14 14-16 15-17 16-18 17-19 18-19 19-49 20-20 21-21 22-22 23-23 24-24 25-25 26-26 27-27 28-28 29-29 30-30 31-31 32-32 33-34 34-36 35-40 36-41 37-36 38-37 39-42 40-43 41-43 42-44 43-45 44-47 45-49 46-47 47-47 48-47 49-46 50-46 51-49 +" das ist wirklich für mich " , sagte Spiel@@ berg , " in@@ wohl der größte Zeit@@ reise@@ film , der je auf Film gesetzt wird " . ||| 0-0 1-1 2-3 3-2 4-4 5-5 6-6 7-8 8-8 9-9 10-10 11-11 12-12 13-13 14-14 15-15 16-16 17-17 18-18 19-19 20-20 21-20 22-20 23-22 24-23 25-21 26-24 27-24 28-26 +das Verhältnis zwischen Obama und Netanjahu ist nicht gerade freundlich . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-6 7-7 8-8 9-9 10-10 +Lamm und Pr@@ enti@@ ss hatten offenbar schon seit einiger Zeit Bestand . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-6 7-9 8-10 9-10 10-11 11-8 12-13 +alle Mädchen würden schmelzen , als er sich herum@@ sprach " , sagte H@@ air@@ ston , heute 40 und leben im Jack@@ son-@@ Vorort Brand@@ on . ||| 0-0 1-2 2-3 3-4 4-5 5-5 6-6 7-8 8-8 9-7 10-9 11-11 12-11 13-12 14-13 15-14 16-15 17-16 18-17 19-18 20-19 21-20 22-22 23-28 24-23 25-25 26-26 27-27 +Pres@@ ses@@ pre@@ cher Emil@@ y Wag@@ ster P@@ ett@@ us in Green@@ ville , Mississippi und Reb@@ ecca Sant@@ ana in New Orleans trugen zu diesem Bericht bei . ||| 0-0 1-1 2-2 3-2 4-3 5-4 6-5 7-6 8-7 9-8 10-9 11-10 12-11 13-12 14-13 15-14 16-15 17-17 18-18 19-19 20-20 21-21 22-22 23-23 24-24 25-25 26-26 27-27 28-24 29-29 +auch die Ehefrau von Schmidt , Li@@ z und Bruder Jeff Schmidt nahmen an der Vi@@ gil teil , bei der der Uni@@ -@@ Chor " B@@ right Mor@@ ning Star " und " Ama@@ zing Grace " sang . ||| 0-0 1-0 2-2 3-4 4-0 5-3 6-4 7-5 8-6 9-8 10-9 11-10 12-12 13-13 14-13 15-14 16-15 17-12 18-16 19-17 20-18 21-19 22-20 23-21 24-21 25-23 26-24 27-25 28-26 29-27 30-28 31-29 32-30 33-31 34-32 35-33 36-34 37-35 38-22 39-37 +er äußerte Bedauern darüber , dass die Spaltung im Rat und unter den syrischen Völkern und Regional@@ mächten " diese Situation nicht lös@@ bar " gemacht habe . ||| 0-0 1-1 2-2 3-25 4-25 5-4 6-4 7-4 8-5 9-7 10-8 11-9 12-10 13-11 14-12 15-13 16-14 17-15 18-16 19-18 20-19 21-20 22-21 23-25 24-17 25-17 26-24 27-25 diff --git a/tests/decoder/align-ensemble/align.expected b/tests/decoder/align-ensemble/align.expected new file mode 100644 index 0000000..cf7947e --- /dev/null +++ b/tests/decoder/align-ensemble/align.expected @@ -0,0 +1,25 @@ +das Treffen war auch geplant , um den Konflikt mit den Palästinensern und die umstrittene Zwei-@@ Staaten@@ -Lösung abzudecken . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-5 7-7 8-8 9-9 10-10 11-11 12-6 13-13 14-14 15-15 16-16 17-17 18-6 19-19 +Sie hatten einen Hund namens Ligh@@ tning , der mit ihnen im Back@@ stein@@ haus lebte , die sich in Gau@@ tier auf einen Kö@@ der stützen . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-6 7-7 8-7 9-9 10-10 11-11 12-13 13-13 14-14 15-8 16-15 17-15 18-17 19-18 20-23 21-24 22-16 23-19 24-20 25-26 26-16 27-25 +er war verheiratet und hatte drei junge Kinder . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-6 7-7 8-9 +Schmidt , der ermor@@ dete Professor , leitete das erst@@ inst@@ anz@@ liche Seminar@@ programm und spezialisierte sich auf Indianer und Kolonial@@ geschichte , sagte Don Allan Mitchell , ein englischer Professor an der Schule . ||| 0-0 1-1 2-2 3-3 4-33 5-4 6-5 7-6 8-7 9-8 10-9 11-33 12-33 13-10 14-11 15-12 16-13 17-14 18-13 19-15 20-33 21-18 22-19 23-20 24-21 25-22 26-23 27-24 28-25 29-26 30-27 31-28 32-29 33-30 34-31 35-32 +und einige halten sich für eine Imp@@ lo@@ sion aus . ||| 0-0 1-1 2-3 3-5 4-5 5-6 6-7 7-7 8-8 9-3 10-10 +der UN-Generalsekretär forderte erneut alle Parteien , einschließlich des geteilten UN-Sicherheitsrates , auf , umfassende Verhandlungen zu vereinen und zu unterstützen , um eine politische Lösung zu finden . ||| 0-0 1-1 2-5 3-4 4-6 5-7 6-8 7-9 8-10 9-11 10-12 11-16 12-17 13-18 14-21 15-22 16-18 17-18 18-19 19-20 20-20 21-23 22-23 23-25 24-26 25-27 26-24 27-24 28-28 +die Polizei sagte , der Hund sei in Ordnung . ||| 0-0 1-0 2-1 3-2 4-2 5-3 6-4 7-5 8-5 9-6 +andere haben ihn als Witz abgetan . ||| 0-0 1-1 2-3 3-4 4-6 5-2 6-7 +Lamm wuchs in der Gegend auf . ||| 0-0 1-1 2-3 3-4 4-5 5-1 6-7 +der Film beginnt und es kommt mir vor , dass ich ein Fa@@ ke G@@ äh@@ nen und ein Arm strecken weg von der Anwesenheit mit der Prinzessin von Wales . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-5 7-5 8-31 9-8 10-9 11-11 12-12 13-31 14-13 15-31 16-31 17-15 18-16 19-17 20-18 21-20 22-20 23-21 24-21 25-25 26-26 27-27 28-28 29-29 30-31 +Sie und ihre Mutter waren absolut beste Freunde . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-6 7-7 8-8 +sein Auto lief noch in der Einfahrt . ||| 0-0 1-1 2-2 3-3 4-5 5-6 6-7 7-9 +beide lernten in der Sparte Sozialwissenschaften und Geschichte , die 17 Fakult@@ äts@@ mitglieder aufführen , und viele Schüler nahmen Kurse von beiden . ||| 0-0 1-1 2-2 3-3 4-4 5-6 6-8 7-9 8-1 9-11 10-13 11-14 12-25 13-15 14-12 15-16 16-17 17-18 18-19 19-20 20-21 21-22 22-23 23-20 +einen Tag nach der Schul@@ aufnahme zw@@ angen sich Schüler und Dozenten hinter verschlossenen Türen zu verstecken , die Behörden versuchten noch , gemeinsam das , was motivierte Lamm zu leisten . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-6 7-27 8-7 9-7 10-8 11-9 12-12 13-13 14-14 15-11 16-11 17-15 18-16 19-16 20-19 21-18 22-20 23-23 24-23 25-24 26-23 27-24 28-25 29-21 30-21 31-27 +die Kurse werden am Mittwoch fortgesetzt . ||| 0-0 1-0 2-1 3-2 4-2 5-1 6-4 +im März hatte Netanjahu auf Einladung der Republikaner eine umstrittene Rede vor dem US-Kongress , der zum Teil als Aff@@ ront gegen Obama gesehen wurde . ||| 0-0 1-1 2-11 3-10 4-3 5-5 6-7 7-8 8-12 9-13 10-14 11-15 12-16 13-17 14-11 15-20 16-28 17-22 18-24 19-26 20-26 21-27 22-28 23-23 24-21 25-29 +es gab keine Hinweise darauf , dass Lamb , der zwei Online-@@ Klassen für die Delta State University in Cleveland , Mississippi war , schon 300 Meilen auf dem Campus der Schule gereist war , wo die Polizei glaubt , dass er einen gut ausseh@@ enden Geschichts@@ professor E@@ than Schmidt in die Tür zu seinem Büro scho@@ ss und umgebracht hat . ||| 0-3 1-1 2-2 3-3 4-4 5-1 6-5 7-5 8-6 9-7 10-10 11-11 12-12 13-13 14-14 15-14 16-15 17-16 18-17 19-18 20-19 21-20 22-9 23-21 24-25 25-25 26-26 27-27 28-28 29-31 30-28 31-29 32-24 33-22 34-32 35-33 36-34 37-34 38-35 39-58 40-40 41-36 42-40 43-41 44-42 45-58 46-43 47-44 48-46 49-47 50-48 51-50 52-51 53-52 54-54 55-55 56-56 57-37 58-58 59-38 60-39 61-58 62-58 +Ban sagte einer Pressekonferenz am Mittwoch , er plane , sich mit ausländischen Ministern der fünf ständigen Rat@@ stagungen - den USA , Russland , China , Großbritannien und Frankreich - am Rande der Minister@@ tagung der Generalversammlung noch in diesem Monat zu Gesprächen über Syrien zu treffen . ||| 0-0 1-1 2-2 3-3 4-5 5-5 6-1 7-7 8-8 9-11 10-11 11-11 12-12 13-13 14-14 15-16 16-17 17-18 18-19 19-20 20-21 21-22 22-23 23-24 24-25 25-26 26-27 27-28 28-29 29-30 30-31 31-32 32-34 33-35 34-40 35-41 36-36 37-37 38-42 39-43 40-43 41-44 42-45 43-47 44-47 45-47 46-32 47-10 48-45 +" das ist wirklich für mich " , sagte Spiel@@ berg , " in@@ wohl der größte Zeit@@ reise@@ film , der jemals auf Film gesetzt wurde " . ||| 0-0 1-1 2-3 3-2 4-4 5-5 6-6 7-8 8-8 9-9 10-10 11-11 12-12 13-13 14-14 15-15 16-16 17-17 18-18 19-19 20-20 21-20 22-20 23-22 24-23 25-21 26-24 27-24 28-26 +das Verhältnis zwischen Obama und Netanjahu ist nicht gerade freundlich . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-6 7-7 8-8 9-9 10-10 +Lamm und Pr@@ enti@@ ss waren offenbar seit einiger Zeit aus . ||| 0-0 1-1 2-2 3-3 4-4 5-5 6-6 7-9 8-10 9-11 10-8 11-13 +alle Mädchen würden schmelzen , als er sich um " , sagte H@@ air@@ ston , heute 40 und lebe im Jack@@ son-@@ Vorort Brand@@ on . ||| 0-0 1-2 2-3 3-4 4-5 5-5 6-6 7-8 8-8 9-9 10-11 11-11 12-12 13-13 14-14 15-15 16-16 17-17 18-18 19-19 20-20 21-22 22-28 23-23 24-25 25-26 26-27 +Pres@@ ses@@ pre@@ cher Emil@@ y Wag@@ ster P@@ ett@@ us in Green@@ ville , Mississippi und Reb@@ ecca Sant@@ ana in New Orleans trugen zu diesem Bericht bei . ||| 0-0 1-1 2-2 3-2 4-3 5-4 6-5 7-6 8-7 9-8 10-9 11-10 12-11 13-12 14-13 15-14 16-15 17-17 18-18 19-19 20-20 21-21 22-22 23-23 24-24 25-25 26-26 27-27 28-24 29-29 +auch Schmidt ' s Frau Li@@ z und Bruder Jeff Schmidt nahmen an der Vi@@ gil teil , bei der der Uni@@ -@@ Chor " B@@ right Mor@@ ning Star " und " Ama@@ zing Grace " sang . ||| 0-0 1-0 2-2 3-2 4-2 5-4 6-5 7-6 8-8 9-9 10-10 11-12 12-13 13-13 14-14 15-15 16-12 17-16 18-17 19-18 20-19 21-20 22-21 23-21 24-23 25-24 26-25 27-26 28-27 29-28 30-29 31-30 32-31 33-32 34-33 35-34 36-35 37-22 38-37 +er bedau@@ erte , dass die Spaltung im Rat und unter den syrischen Völkern und Regional@@ mächten " diese Situation nicht lös@@ bar " gemacht habe . ||| 0-0 1-1 2-25 3-2 4-3 5-4 6-4 7-5 8-7 9-8 10-9 11-10 12-11 13-12 14-13 15-14 16-15 17-16 18-18 19-19 20-20 21-21 22-25 23-17 24-17 25-25 26-25 diff --git a/tests/decoder/align-ensemble/setup.sh b/tests/decoder/align-ensemble/setup.sh new file mode 100644 index 0000000..be74745 --- /dev/null +++ b/tests/decoder/align-ensemble/setup.sh @@ -0,0 +1,5 @@ +test -f $MRT_MODELS/wmt16_systems/en-de/model-ens1.npz || exit 1 +test -f $MRT_MODELS/wmt16_systems/en-de/model-ens2.npz || exit 1 +test -f $MRT_MODELS/wmt16_systems/en-de/model-ens3.npz || exit 1 +test -f $MRT_MODELS/wmt16_systems/en-de/model-ens4.npz || exit 1 + diff --git a/tests/decoder/align-ensemble/test_align_ensemble.sh b/tests/decoder/align-ensemble/test_align_ensemble.sh new file mode 100644 index 0000000..25e5834 --- /dev/null +++ b/tests/decoder/align-ensemble/test_align_ensemble.sh @@ -0,0 +1,11 @@ +#!/bin/bash + +# Exit on error +set -e + +# Test code goes here +$MRT_MARIAN/build/marian-decoder -c $MRT_MODELS/wmt16_systems/marian.en-de.ensemble.yml --mini-batch 32 -b 5 --alignment < text.in > align.out +diff align.out align.expected > align.diff + +# Exit with success code +exit 0 diff --git a/tests/decoder/align-ensemble/test_align_ensemble_beam_1.sh b/tests/decoder/align-ensemble/test_align_ensemble_beam_1.sh new file mode 100644 index 0000000..3daba8e --- /dev/null +++ b/tests/decoder/align-ensemble/test_align_ensemble_beam_1.sh @@ -0,0 +1,11 @@ +#!/bin/bash + +# Exit on error +set -e + +# Test code goes here +$MRT_MARIAN/build/marian-decoder -c $MRT_MODELS/wmt16_systems/marian.en-de.ensemble.yml --mini-batch 1 -b 1 --alignment < text.in > align.b1.out +diff align.b1.out align.b1.expected > align.b1.diff + +# Exit with success code +exit 0 diff --git a/tests/decoder/align-ensemble/text.in b/tests/decoder/align-ensemble/text.in new file mode 100644 index 0000000..73fa7b6 --- /dev/null +++ b/tests/decoder/align-ensemble/text.in @@ -0,0 +1,25 @@ +the meeting was also planned to cover the conflict with the Palestinians and the disputed two state solution . +they had a dog named Ligh@@ tning that lived with them at the brick house that backs up to a ba@@ you in Gau@@ tier . +he was married and had three young children . +Schmidt , the slain professor , directed the first-@@ year seminar program and specialized in Native American and colonial history , said Don Allan Mitchell , an English professor at the school . +and some are holding out for an implo@@ sion . +the U.@@ N. chief again urged all parties , including the divided U.@@ N. Security Council , to unite and support inclusive negotiations to find a political solution . +police said the dog was OK . +others have dismissed him as a joke . +lamb grew up in the area . +the movie starts and it occurs to me that I 'm a fake ya@@ wn and an arm stretch away from being on a date with the Princess of Wales . +she and her mother were absolutely best friends . +his car was still running in the drive@@ way . +both taught in the Division of Social Sciences and History , which lists 17 faculty members , and many students took courses from both . +a day after the school shooting forced students and faculty to hide behind locked doors , authorities were still trying to piece together what motivated Lamb . +classes resume Wednesday . +in March , at the invitation of the Republicans , Netanyahu made a controversial speech to the US Congress , which was partly seen as an affront to Obama . +there was no indication that Lamb , who was teaching two online classes for Delta State University in Cleveland , Mississippi , had already traveled 300 miles to the school 's campus , where police believe he shot and killed a well-@@ liked history professor , E@@ than Schmidt , in the door@@ way to his office . +ban told a news conference Wednesday that he plans to meet with foreign ministers of the five permanent council nations - the U.S. , Russia , China , Britain and France - on the sidelines of the General Assembly 's ministerial session later this month to discuss Syria . +`` It really is for me , '' said Spiel@@ berg , `` in@@ arguably the greatest time travel movie ever put on film . '' +the relationship between Obama and Netanyahu is not exactly friendly . +lamb and Pr@@ enti@@ ss had apparently been dating for some time . +all the girls would melt when he was around , '' said H@@ air@@ ston , now 40 and living in the Jackson suburb of Brand@@ on . +associated Press writers Emil@@ y Wag@@ ster P@@ ett@@ us in Green@@ ville , Mississippi , and Reb@@ ecca Sant@@ ana in New Orleans contributed to this report . +Schmidt 's wife , Li@@ z , and brother Jeff Schmidt also attended the vi@@ gil , during which the university choir sang `` B@@ right Mor@@ ning Star '' and `` Ama@@ zing Grace . '' +he expressed regret that divisions in the council and among the Syrian people and regional powers `` made this situation un@@ sol@@ vable . '' diff --git a/tests/decoder/align/ensemble.b1.expected b/tests/decoder/align/ensemble.b1.expected deleted file mode 100644 index 0e06eae..0000000 --- a/tests/decoder/align/ensemble.b1.expected +++ /dev/null @@ -1,50 +0,0 @@ -Norveç ' in rak@@ ı : bu dünyanın en kal@@ or@@ ili bal@@ ığı mı ? ||| 0-0 1-2 2-1 3-2 4-3 5-5 6-7 7-9 8-11 9-11 10-11 11-13 12-13 13-6 14-6 15-6 -Norveç " in beş milyon insanı sadece Avrupa ' da değil , dünyada da en yüksek yaşam standart@@ larından birine sahip . ||| 0-0 1-1 2-1 3-2 4-3 5-4 6-15 7-17 8-18 9-16 10-14 11-22 12-22 13-12 14-12 15-9 16-12 17-10 18-7 19-6 20-5 21-5 -ülkenin başarısının sır@@ rı , bazı muazzam kal@@ ıp@@ lı balık@@ ların yerel iş@@ tah@@ ıyla bağ@@ daş@@ abilir mi ? ||| 0-5 1-7 2-2 3-1 4-18 5-18 6-18 7-21 8-21 9-22 10-23 11-16 12-12 13-13 14-14 15-11 16-9 17-0 18-0 19-0 20-25 -aşırı derecede al@@ er@@ jik ne@@ m@@ lendiri@@ ciler seç@@ in . ||| 0-4 1-6 2-6 3-7 4-7 5-8 6-9 7-3 8-3 9-2 10-1 11-0 -onları p@@ il kirli , v@@ ah@@ şi bir futbol k@@ uyru@@ ğ@@ unun ortasında bul@@ uştur@@ un . ||| 0-1 1-8 2-9 3-11 4-12 5-13 6-14 7-14 8-15 9-15 10-16 11-17 12-6 13-6 14-4 15-0 16-0 17-0 18-18 -bir hafta ara ver@@ in . ||| 0-0 1-3 2-1 3-0 4-5 5-0 -şimdi büyük Norveç De@@ lik@@ anl@@ ılarından biri olan rak@@ i@@ bin n@@ ab@@ ız kok@@ usu var . ||| 0-0 1-20 2-21 3-22 4-23 5-24 6-19 7-13 8-16 9-13 10-14 11-14 12-4 13-5 14-6 15-7 16-11 17-2 18-1 -Oslo ' dan yaklaşık üç saat önce küçük F@@ ag@@ er@@ nes kasab@@ as@@ ınday@@ ım . ||| 0-16 1-15 2-15 3-12 4-13 5-14 6-4 7-4 8-7 9-8 10-9 11-10 12-5 13-2 14-1 15-0 16-18 -kar var , muhteşem manzar@@ alar var ve o od@@ alar , hiç var olmayan hav@@ alarda as@@ ılı kalıyor . ||| 0-2 1-1 2-4 3-4 4-5 5-6 6-8 7-9 8-14 9-11 10-12 11-14 12-14 13-15 14-21 15-16 16-20 17-17 18-18 19-17 20-23 -Rak@@ fis@@ iz , balık y@@ em@@ eniz nasıl kal@@ or@@ ili bir şekilde bir yıla kadar kal@@ or@@ ili bir şekilde tu@@ z ve fer@@ ah suy@@ uyla al@@ ak@@ alı . ||| 0-0 1-1 2-2 3-27 4-27 5-28 6-24 7-26 8-25 9-22 10-22 11-23 12-25 13-32 14-25 15-32 16-29 17-18 18-22 19-24 20-25 21-16 22-25 23-11 24-12 25-13 26-14 27-16 28-10 29-4 30-4 31-3 32-3 -karanlık set@@ ler ve hava soğuk havaya dönüş@@ ün@@ ce , Nor@@ ve@@ ç@@ liler burada F@@ ag@@ er@@ nes ' de bu en çok , iyi , tut@@ kul@@ u gı@@ d@@ alara sadık bir festivale akın ediyor . ||| 0-2 1-3 2-4 3-4 4-7 5-9 6-8 7-8 8-0 9-0 10-11 11-11 12-12 13-13 14-13 15-18 16-20 17-21 18-22 19-23 20-19 21-19 22-35 23-27 24-28 25-28 26-29 27-30 28-31 29-32 30-33 31-35 32-34 33-25 34-24 35-24 36-17 37-14 38-14 39-37 -tam zamanlı yerel itfaiye eri olan fakat aynı zamanda festivalin işle@@ mesinden sorumlu " Rak@@ fis@@ k General " olan Hav@@ ard Hal@@ var@@ sen , " B@@ ana ham@@ si y@@ iyorsunuz , sonra da bir cam su k@@ aş@@ ığı k@@ avr@@ ul@@ uy@@ orsunuz " . diyor . ||| 0-25 1-27 2-28 3-29 4-30 5-31 6-31 7-49 8-32 9-49 10-47 11-46 12-45 13-37 14-38 15-39 16-40 17-41 18-42 19-19 20-19 21-20 22-21 23-22 24-23 25-18 26-0 27-3 28-3 29-4 30-5 31-2 32-1 33-6 34-7 35-11 36-11 37-11 38-13 39-8 40-8 41-9 42-8 43-8 44-1 45-1 46-1 47-17 48-18 49-18 50-19 -etraf@@ ımız@@ daki tüm insanlar balık@@ ların az k@@ ub@@ b@@ esini yiy@@ ip miktarlarda iç@@ iyor . ||| 0-1 1-1 2-0 3-0 4-3 5-13 6-12 7-7 8-8 9-9 10-10 11-6 12-5 13-4 14-18 15-20 16-21 17-15 -Hav@@ ard , " Bazı insanlar su@@ sam@@ ı rak@@ i@@ be göre daha fazla istiyor " . diyor . ||| 0-17 1-18 2-16 3-0 4-1 5-2 6-5 7-6 8-6 9-11 10-12 11-12 12-8 13-8 14-8 15-3 16-15 17-16 18-16 19-17 -İç@@ ine kok@@ u öl@@ dü@@ rebilir . ||| 0-1 1-0 2-5 3-7 4-3 5-2 6-2 7-8 -birkaç parça den@@ iyorum . ||| 0-3 1-4 2-1 3-1 4-5 -eğer diş@@ in@@ izin altına geç@@ mekten kaçın@@ abilir@@ seniz kötü değil - çok uzun bir otobüs yolculuğ@@ unda olan bir sus@@ uz@@ luğun aksine değil . ||| 0-5 1-8 2-7 3-6 4-6 5-4 6-3 7-3 8-2 9-1 10-14 11-13 12-15 13-28 14-30 15-31 16-31 17-32 18-27 19-26 20-22 21-22 22-23 23-21 24-17 25-16 26-15 -Rak@@ fis@@ k , Norveç ' te buz@@ lanma öncesi , bal@@ ığın sonbaharda hav@@ alı var@@ il@@ lerde ve t@@ uz@@ da so@@ tele@@ diği çok farklı , yoksulluk dolu dönem@@ lerin ürünü . ||| 0-0 1-1 2-2 3-16 4-16 5-15 6-15 7-39 8-22 9-19 10-7 11-26 12-27 13-39 14-31 15-32 16-33 17-33 18-33 19-28 20-37 21-37 22-30 23-28 24-29 25-17 26-7 27-8 28-9 29-10 30-11 31-14 32-6 33-5 34-3 -sonra kış@@ ın derin@@ lik@@ lerinde , iyi ve gerçek fer@@ ah@@ lat@@ ılmış , dışarı atıl@@ ır ve - alkol@@ ün ç@@ aldığı sen@@ sör@@ lerden şüphe yok - yen@@ ir . ||| 0-0 1-6 2-5 3-3 4-2 5-1 6-8 7-8 8-9 9-10 10-11 11-12 12-12 13-13 14-13 15-16 16-16 17-15 18-18 19-19 20-30 21-29 22-26 23-27 24-24 25-25 26-23 27-21 28-20 29-31 30-32 31-33 32-34 -yalnızca bir nesil önce binlerce Nor@@ ve@@ ç@@ çi , daha çok ABD ' ye göç ederek iş arayış@@ larında ülkelerini terk etmek zorunda kalmıştı . ||| 0-0 1-1 2-2 3-3 4-5 5-7 6-8 7-9 8-9 9-19 10-19 11-23 12-26 13-24 14-25 15-21 16-20 17-19 18-17 19-16 20-15 21-13 22-12 23-11 24-10 25-28 -artık nüfus hızla büyüyor - % 13 ' ten fazlası göçmen , bu da bol iş , yüksek ücretler ve kapsamlı bir bakım sistemi . ||| 0-0 1-2 2-5 3-4 4-6 5-10 6-9 7-8 8-8 9-7 10-12 11-13 12-14 13-14 14-16 15-19 16-20 17-21 18-22 19-23 20-25 21-26 22-26 23-27 24-14 -eski rakibi olan ve bu kadar uzun süre önce Norveç ' ten çok daha zengin olmayan İsveç ' ten insanlar , işe geri dön@@ üyorlar . ||| 0-5 1-6 2-2 3-2 4-9 5-9 6-10 7-11 8-11 9-16 10-15 11-15 12-12 13-13 14-13 15-8 16-2 17-1 18-1 19-0 20-21 21-21 22-20 23-18 24-18 25-22 -Rak@@ fis@@ le , Norveç ' in geçmiş@@ inin önemli , hayati ve daha kal@@ ıp@@ laşmış bir parçası olarak görülüyor . ||| 0-0 1-1 2-2 3-20 4-20 5-22 6-21 7-22 8-19 9-10 10-11 11-13 12-14 13-16 14-16 15-16 16-17 17-18 18-18 19-6 20-4 21-24 -satın alabil@@ eceğ@@ iniz daha pahalı yemek@@ lerin arasında yer alıyor . ||| 0-9 1-8 2-7 3-7 4-4 5-5 6-6 7-3 8-2 9-1 10-1 11-11 -ama sonra her şey pahalı - küçük bir kade@@ h bira veya bir k@@ aş@@ ık ç@@ or@@ b@@ ası sizi her biri 9 ster@@ lin ( 14 dolar ) geri alıyor . ||| 0-0 1-1 2-2 3-2 4-4 5-5 6-7 7-8 8-10 9-10 10-10 11-11 12-13 13-13 14-14 15-15 16-16 17-16 18-18 19-18 20-26 21-21 22-26 23-21 24-22 25-20 26-22 27-24 28-23 29-25 30-19 31-16 32-18 -Norveç , çoğu zaman küresel haber gündemine otur@@ muyor ve çoğu da bunu böyle yapıyor . ||| 0-0 1-9 2-9 3-3 4-9 5-10 6-11 7-6 8-2 9-12 10-14 11-18 12-18 13-19 14-17 15-15 -buradaki insanlar , geçen yıl 77 erkek , kadın ve çocuğu öldür@@ üp öldür@@ müş olan sağ ve ırkçı aşırılık yanlısı Anders Bre@@ i@@ vik ' in adını yaz@@ maktan hala çekin@@ iyor . ||| 0-1 1-0 2-3 3-34 4-35 5-28 6-29 7-30 8-31 9-32 10-33 11-24 12-26 13-27 14-23 15-16 16-16 17-19 18-20 19-22 20-15 21-10 22-11 23-12 24-13 25-9 26-9 27-9 28-7 29-8 30-3 31-4 32-2 33-37 -bunun yerine , çatışmada " 22 Temmuz olayı " olarak an@@ ılıyor . ||| 0-0 1-0 2-3 3-3 4-9 5-13 6-11 7-14 8-15 9-8 10-6 11-5 12-16 -Nor@@ ve@@ ç@@ liler , barış sev@@ inci içinde kendi başlarına bir şeyin bu kadar z@@ alim@@ lik ve cinay@@ ete dayan@@ abil@@ diğine inan@@ mayı çok zor bul@@ uyorlar . ||| 0-0 1-0 2-2 3-2 4-12 5-12 6-14 7-15 8-16 9-17 10-19 11-17 12-17 13-24 14-24 15-25 16-26 17-27 18-28 19-29 20-23 21-22 22-9 23-9 24-8 25-7 26-5 27-6 28-3 29-3 30-31 -dünyanın en büyük petrol ve doğalgaz sektör@@ lerinden birinin 1970 ' lerin başından bu yana elde ettiği büyüme Norveç ' in bugünkü zengin@@ liğinin çok gerisinde yer alıyor . ||| 0-10 1-12 2-12 3-13 4-14 5-15 6-16 7-8 8-7 9-5 10-4 11-4 12-4 13-2 14-2 15-1 16-1 17-1 18-21 19-22 20-22 21-23 22-26 23-20 24-19 25-18 26-17 27-17 28-28 -" fakat bu kadar iyi yapt@@ ığ@@ ımızın tek nedeni petrol değil " , diyen Anna ' nın gar@@ son , olgun@@ laşmış rak@@ i@@ bin kap@@ akları ve uzun boy@@ lu saç@@ ları ve start@@ up mavi göz@@ leriyle Kuzey Avrupa ' nın imajını tanıt@@ ıyor . ||| 0-16 1-1 2-11 3-11 4-12 5-10 6-8 7-8 8-6 9-7 10-2 11-3 12-14 13-15 14-16 15-16 16-17 17-17 18-18 19-19 20-21 21-27 22-28 23-29 24-30 25-30 26-24 27-24 28-22 29-33 30-37 31-38 32-40 33-41 34-42 35-43 36-44 37-46 38-47 39-48 40-52 41-53 42-53 43-51 44-50 45-22 46-22 47-57 -biz bir - nasıl söyl@@ üy@@ or@@ sun - tedbir@@ li insanlar . ||| 0-2 1-2 2-3 3-4 4-6 5-5 6-5 7-5 8-8 9-8 10-9 11-10 12-11 -İngilizce , buradaki çoğu insan gibi kusur@@ suz . ||| 0-0 1-2 2-8 3-6 4-7 5-3 6-11 7-12 8-10 -çok ş@@ ükü@@ r değiliz , os@@ ten@@ yon sev@@ miyoruz . ||| 0-3 1-4 2-4 3-2 4-2 5-6 6-11 7-12 8-13 9-10 10-9 11-14 -Norveç petrol zengin@@ liğini çok dikkatli ele aldı - sektör@@ den elde edilen paranın küçük bir yüz@@ desi , gelecek nesil@@ lerin yararına özel bir fon@@ a yatır@@ ılıyor . ||| 0-0 1-4 2-5 3-3 4-6 5-7 6-2 7-8 8-8 9-18 10-17 11-15 12-14 13-15 14-12 15-13 16-13 17-13 18-29 19-29 20-30 21-28 22-27 23-23 24-24 25-24 26-21 27-20 28-19 29-32 -herkes sahip olmadığı parayı etraf@@ a at@@ arken , küresel mali kaz@@ aya giden yıllarda Norveç ar@@ alık kal@@ elerini sık@@ ıca bağlı tut@@ uyordu . ||| 0-2 1-10 2-9 3-6 4-5 5-4 6-4 7-3 8-19 9-19 10-20 11-21 12-17 13-15 14-14 15-23 16-26 17-27 18-28 19-29 20-30 21-31 22-32 23-24 24-24 25-34 -Anna , " kış@@ ın kayak yapabil@@ diğimiz ve yaz aylarında h@@ alı çek@@ ebil@@ diğimiz sürece mut@@ luyuz " . diyor . ||| 0-21 1-22 2-0 3-8 4-7 5-6 6-5 7-4 8-9 9-14 10-13 11-11 12-12 13-10 14-5 15-4 16-2 17-17 18-16 19-18 20-20 21-20 22-21 -" ve rak@@ i@@ bi@@ m ye@@ dir@@ in " . diyor . ||| 0-12 1-3 2-3 3-4 4-4 5-5 6-2 7-2 8-2 9-6 10-12 11-9 12-12 -kar@@ ın içinde dur@@ uyorum ve yemek için k@@ uyru@@ k ol@@ uyorum . - yeterli rak@@ i@@ bi@@ m vardı . ||| 0-4 1-3 2-2 3-1 4-0 5-11 6-11 7-10 8-6 9-6 10-7 11-6 12-0 13-12 14-12 15-16 16-17 17-18 18-18 19-15 20-15 21-20 -artık bir el@@ ma bur@@ c@@ unda kesinlikle farklı bir şey ve t@@ adı daha çok suc@@ uk . ||| 0-0 1-2 2-2 3-3 4-4 5-5 6-20 7-7 8-9 9-10 10-8 11-10 12-17 13-18 14-15 15-11 16-12 17-13 18-12 -ama akşam saatlerinde bu had@@ siz balık@@ tan daha fazlası . ||| 0-0 1-3 2-1 3-9 4-10 5-11 6-12 7-8 8-7 9-7 10-6 -kal@@ dığım otel , konuk@@ ların en iyi - belki de en nas@@ ıl@@ - balık tuttuğu bir rak@@ i@@ bin yeme@@ ğine ev sahipliği yapan bir dizi mek@@ â@@ ndan biri . ||| 0-4 1-3 2-1 3-20 4-20 5-20 6-24 7-24 8-25 9-26 10-29 11-29 12-30 13-31 14-33 15-32 16-21 17-15 18-15 19-16 20-16 21-18 22-14 23-13 24-13 25-13 26-12 27-10 28-12 29-8 30-8 31-7 32-6 -rak@@ i@@ bin plak@@ alarıyla çevr@@ ili bo@@ w bağ@@ ında bir der@@ eye kadar canlı bir televizyon bağlantısı var . ||| 0-20 1-21 2-21 3-18 4-17 5-16 6-16 7-13 8-14 9-15 10-11 11-9 12-9 13-10 14-6 15-3 16-4 17-4 18-5 19-1 20-24 -Eurovision şarkı yarışması gibi . ||| 0-4 1-5 2-6 3-2 4-1 -" dağ@@ larda Th@@ or @-@ Ju@@ er@@ gen ' de en iyi balık için ne puan al@@ dınız ? " ||| 0-15 1-15 2-13 3-15 4-16 5-17 6-18 7-19 8-20 9-14 10-12 11-10 12-8 13-9 14-6 15-1 16-2 17-5 18-4 19-21 20-22 -" burada bizim nokt@@ alar@@ ımız Hav@@ ard " diye bir şey yok . ||| 0-0 1-1 2-4 3-4 4-3 5-3 6-6 7-7 8-8 9-10 10-10 11-10 12-10 13-9 -bul@@ an@@ tı , gül@@ me var . ||| 0-2 1-3 2-1 3-4 4-5 5-6 6-1 7-7 -bir adam kol@@ undan düş@@ er , belki su@@ yla aş@@ ar . ||| 0-5 1-1 2-5 3-4 4-2 5-6 6-7 7-7 8-10 9-11 10-8 11-8 12-14 -yoksa belki o bal@@ ığın bütün fu@@ ar@@ ları . ||| 0-0 1-1 2-8 3-10 4-11 5-5 6-5 7-6 8-3 9-3 -Meksika ' dan En@@ ri@@ que P@@ ena Ni@@ e@@ to ' ya sert başlangıç ||| 0-0 1-2 2-1 3-2 4-3 5-4 6-5 7-6 8-7 9-8 10-9 11-11 12-13 13-11 14-12 diff --git a/tests/decoder/align/ensemble.expected b/tests/decoder/align/ensemble.expected deleted file mode 100644 index be3b931..0000000 --- a/tests/decoder/align/ensemble.expected +++ /dev/null @@ -1,50 +0,0 @@ -Norveç ' in rak@@ ı : bu dünyanın had@@ siz bal@@ ığı mı ? ||| 0-0 1-2 2-1 3-2 4-3 5-5 6-7 7-9 8-11 9-12 10-13 11-13 12-6 13-6 -Norveç " in beş milyon insanı sadece Avrupa ' da değil , dünyada en yüksek yaşam standart@@ larından birine sahip . ||| 0-0 1-1 2-1 3-2 4-3 5-4 6-15 7-17 8-18 9-16 10-14 11-22 12-22 13-12 14-9 15-12 16-10 17-7 18-6 19-5 20-5 -ülkenin başarısının sır@@ rı , son derece had@@ siz balık@@ ların yerel iş@@ tah@@ ına bağlan@@ abilir mi ? ||| 0-5 1-7 2-2 3-1 4-18 5-18 6-18 7-21 8-22 9-23 10-16 11-12 12-13 13-14 14-11 15-9 16-0 17-0 18-25 -üstüne üst@@ lü ne@@ m@@ lendiri@@ ciler seç@@ in . ||| 0-4 1-6 2-6 3-8 4-9 5-9 6-10 7-2 8-1 9-11 -onları bir p@@ il kirli , v@@ ah@@ şi bir futbol k@@ uyru@@ ğ@@ unun ortasında yerleştir@@ in . ||| 0-1 1-8 2-8 3-9 4-11 5-12 6-13 7-14 8-14 9-15 10-15 11-16 12-17 13-6 14-6 15-4 16-0 17-0 18-18 -bir hafta ara ver@@ in . ||| 0-0 1-3 2-1 3-0 4-5 5-0 -şimdi büyük Norveç De@@ lik@@ lerinden biri olan rak@@ i@@ bin n@@ ab@@ z@@ ı num@@ un@@ e kok@@ usu var . ||| 0-0 1-20 2-21 3-22 4-23 5-24 6-17 7-16 8-13 9-14 10-14 11-4 12-5 13-6 14-7 15-7 16-8 17-8 18-9 19-11 20-2 21-1 -Oslo ' ya yaklaşık üç saat mesafedeki küçük F@@ ag@@ er@@ nes kasab@@ as@@ ınday@@ ım . ||| 0-16 1-15 2-15 3-13 4-13 5-14 6-4 7-4 8-7 9-8 10-9 11-10 12-5 13-2 14-1 15-0 16-18 -kar var , görülmeye değer manzar@@ alar var ve o od@@ alar , her zaman var , havada as@@ ılı . ||| 0-2 1-1 2-4 3-4 4-4 5-5 6-6 7-8 8-9 9-14 10-11 11-12 12-14 13-14 14-14 15-15 16-16 17-21 18-17 19-18 20-17 -Rak@@ fis@@ le al@@ ak@@ alı , tu@@ z ve ber@@ ek@@ etli su@@ da -@@ balık@@ ların@@ ızı ne kadar kal@@ ça sev@@ diğ@@ in@@ ize bağlı olarak - bir yıla kadar kayn@@ atın . ||| 0-0 1-1 2-2 3-4 4-4 5-5 6-4 7-27 8-11 9-12 10-13 11-14 12-10 13-16 14-15 15-18 16-27 17-26 18-26 19-25 20-22 21-22 22-23 23-25 24-24 25-24 26-20 27-19 28-19 29-31 30-31 31-32 32-29 33-4 34-3 35-4 -karanlık set@@ ler ve hav@@ alar soğuk olduğu için , Nor@@ ve@@ ç@@ liler burada F@@ ag@@ er@@ nes ' de bu en çok , iyi , tut@@ kul@@ u gı@@ d@@ alara adanmış bir festivale akın ediyor . ||| 0-2 1-3 2-4 3-4 4-7 5-7 6-9 7-8 8-0 9-11 10-11 11-12 12-13 13-13 14-18 15-20 16-21 17-22 18-23 19-19 20-19 21-35 22-27 23-28 24-28 25-29 26-30 27-31 28-32 29-33 30-35 31-34 32-25 33-24 34-17 35-17 36-14 37-14 38-37 -tam zamanlı yerel itfaiy@@ eci olan fakat aynı zamanda festivalin işle@@ mesinden sorumlu " Rak@@ fis@@ li General " olan Hav@@ ard Hal@@ var@@ sen , " B@@ ana ham@@ si y@@ iyorsunuz , sonra da bir kade@@ h su iç@@ iyorsunuz " . diyor . ||| 0-25 1-27 2-28 3-29 4-30 5-31 6-31 7-49 8-32 9-49 10-47 11-46 12-45 13-37 14-38 15-39 16-40 17-41 18-42 19-19 20-19 21-20 22-21 23-22 24-23 25-18 26-0 27-3 28-3 29-4 30-5 31-2 32-1 33-6 34-7 35-11 36-11 37-11 38-12 39-13 40-8 41-1 42-17 43-18 44-18 45-19 -etraf@@ ımız@@ daki tüm insanlar bal@@ ığın az k@@ ub@@ b@@ esini yiy@@ ip miktarlarda içecek ç@@ alıyor . ||| 0-1 1-1 2-0 3-0 4-3 5-13 6-12 7-7 8-8 9-9 10-10 11-6 12-5 13-4 14-18 15-20 16-15 17-4 18-21 -Hav@@ ard , " Bazı insanlar su@@ sam@@ ı rak@@ i@@ be göre daha fazla istiyor " . diyor . ||| 0-17 1-18 2-16 3-0 4-1 5-2 6-5 7-6 8-6 9-11 10-12 11-12 12-8 13-8 14-8 15-3 16-15 17-16 18-16 19-17 -içecek kok@@ usunu öl@@ dü@@ rebilir . ||| 0-1 1-5 2-7 3-3 4-2 5-2 6-8 -birkaç parça den@@ iyorum . ||| 0-3 1-4 2-1 3-1 4-5 -eğer diş@@ in@@ izin altında geçir@@ mekten kaçın@@ abilir@@ seniz kötü değil - çok uzun bir otobüs yolculuğ@@ unda olan bir sus@@ uz@@ luğun aksine değil . ||| 0-5 1-8 2-7 3-6 4-6 5-4 6-3 7-3 8-2 9-1 10-14 11-13 12-15 13-28 14-30 15-31 16-31 17-32 18-27 19-26 20-22 21-22 22-23 23-21 24-17 25-16 26-15 -Rak@@ fis@@ k , Norveç ' te buz@@ do@@ la@@ b@@ ı öncesi , bal@@ ığın sonbaharda hav@@ alı var@@ il@@ lerde ve t@@ uz@@ da so@@ tele@@ diği çok farklı , yoksulluk dolu dönem@@ lerin ürünü . ||| 0-0 1-1 2-2 3-16 4-16 5-15 6-15 7-39 8-22 9-23 10-23 11-19 12-19 13-26 14-39 15-27 16-39 17-31 18-32 19-33 20-33 21-33 22-28 23-37 24-37 25-30 26-28 27-29 28-17 29-7 30-8 31-9 32-10 33-11 34-14 35-6 36-5 37-3 -sonra kış@@ ın derin@@ lik@@ lerinde , iyi ve gerçekten fer@@ ah@@ la@@ tır , dışarı atıl@@ ır ve - alkol@@ ün ç@@ aldığı sen@@ sör@@ lerden şüphe yok - yen@@ ir . ||| 0-0 1-6 2-5 3-3 4-2 5-1 6-8 7-8 8-9 9-10 10-11 11-12 12-12 13-13 14-13 15-16 16-16 17-15 18-18 19-19 20-30 21-29 22-26 23-27 24-24 25-25 26-23 27-21 28-20 29-31 30-32 31-33 32-34 -yalnızca bir nesil önce binlerce Nor@@ ve@@ ç@@ çi , daha çok ABD ' ye göç ederek iş arayış@@ ıyla ülkelerini terk etmek zorunda kalmıştı . ||| 0-0 1-1 2-2 3-3 4-5 5-7 6-8 7-9 8-9 9-19 10-19 11-23 12-26 13-24 14-25 15-21 16-20 17-19 18-17 19-16 20-15 21-13 22-12 23-11 24-10 25-28 -artık nüfus hızlı bir şekilde büyüyor - % 13 ' ten fazlası göçmenler , bol iş , yüksek ücretler ve kapsamlı bir bakım sistemi . ||| 0-0 1-2 2-5 3-4 4-4 5-4 6-6 7-10 8-9 9-8 10-8 11-7 12-12 13-13 14-16 15-19 16-20 17-21 18-22 19-23 20-25 21-26 22-26 23-27 24-14 -eski rakibi olan ve bu kadar uzun süre önce Norveç ' ten çok daha zengin olmayan İsveç ' ten gelen insanlar çalışmaya devam ediyorlar . ||| 0-5 1-6 2-2 3-2 4-9 5-9 6-10 7-11 8-11 9-16 10-15 11-15 12-12 13-13 14-13 15-8 16-2 17-1 18-1 19-0 20-0 21-21 22-18 23-18 24-23 -Rak@@ iti@@ k , Norveç " in geçmiş@@ inin önemli , hayati ve çok had@@ siz bir parçası olarak görülüyor . ||| 0-0 1-1 2-2 3-20 4-20 5-22 6-21 7-22 8-19 9-10 10-11 11-13 12-14 13-16 14-16 15-17 16-18 17-18 18-6 19-6 20-5 -satın alabil@@ eceğ@@ iniz daha pahalı yemekler arasında . ||| 0-9 1-8 2-7 3-7 4-4 5-5 6-6 7-2 8-1 -ama sonra her şey pahalı - küçük bir kade@@ h bira veya bir sand@@ viç sizi her biri 9 ster@@ line ( 14 dolar ) geri ç@@ alıyor . ||| 0-0 1-1 2-2 3-2 4-4 5-5 6-7 7-8 8-10 9-10 10-10 11-11 12-13 13-13 14-14 15-18 16-26 17-26 18-21 19-22 20-20 21-22 22-24 23-23 24-25 25-19 26-16 27-16 28-18 -Norveç , çoğu zaman küresel haber gündemine otur@@ muyor ve çoğu da böyle görünüyor . ||| 0-0 1-9 2-9 3-3 4-9 5-10 6-11 7-6 8-2 9-12 10-14 11-18 12-18 13-17 14-15 -buradaki insanlar , geçen yıl 77 erkek , kadın ve çocuğu öldür@@ üp öl@@ dü@@ ren sağ ve ırkçı aşırılık yanlısı Anders Bre@@ i@@ vik ' in adını söyle@@ meye hala devam ediyor . ||| 0-1 1-0 2-3 3-34 4-35 5-28 6-29 7-30 8-31 9-32 10-33 11-24 12-26 13-27 14-23 15-23 16-16 17-19 18-20 19-22 20-15 21-10 22-11 23-12 24-13 25-9 26-9 27-9 28-7 29-6 30-3 31-4 32-2 33-37 -bunun yerine , çatışmada " 22 Temmuz olayı " olarak an@@ ılıyor . ||| 0-0 1-0 2-3 3-3 4-9 5-13 6-11 7-14 8-15 9-8 10-6 11-5 12-16 -Nor@@ ve@@ ç@@ liler , barış@@ sever bir ülkede bu tür z@@ alim@@ lere ve cinay@@ ete sahip çık@@ abil@@ eceklerine inan@@ mayı çok zor buluyor . ||| 0-0 1-0 2-2 3-2 4-12 5-12 6-13 7-16 8-16 9-20 10-24 11-25 12-26 13-27 14-28 15-29 16-23 17-22 18-9 19-9 20-9 21-8 22-7 23-5 24-6 25-3 26-31 -dünyanın en büyük petrol ve doğalgaz sektör@@ lerinden birinin 1970 ' lerin başından bu yana elde ettiği büyüme , Norveç ' in günümüz zengin@@ liğinin çok gerisinde yer alıyor . ||| 0-10 1-12 2-12 3-13 4-14 5-15 6-16 7-8 8-7 9-5 10-4 11-4 12-4 13-2 14-2 15-1 16-1 17-1 18-21 19-21 20-22 21-22 22-23 23-26 24-20 25-19 26-18 27-17 28-17 29-28 -" fakat bu kadar iyi yap@@ mam@@ ızın tek nedeni petrol değil " , diyen Anna ' nın gar@@ son , olgun@@ laşmış rak@@ i@@ bin kap@@ ak@@ larını teslim ediyor ve uzun boy@@ lu saç@@ ları ve start@@ up mavi göz@@ leriyle Kuzey Avrupa ' nın imaj@@ ına ışık tutuyor . ||| 0-16 1-1 2-11 3-11 4-12 5-10 6-8 7-8 8-6 9-7 10-2 11-3 12-14 13-15 14-16 15-16 16-17 17-17 18-18 19-19 20-21 21-27 22-28 23-29 24-30 25-30 26-24 27-24 28-25 29-22 30-32 31-32 32-36 33-37 34-38 35-40 36-41 37-42 38-43 39-44 40-46 41-47 42-48 43-52 44-53 45-53 46-51 47-50 48-49 49-22 50-57 51-57 -biz bir - nasıl söyl@@ üy@@ orsunuz - tedbir@@ li insanlar . ||| 0-2 1-2 2-3 3-4 4-6 5-5 6-5 7-8 8-8 9-9 10-10 11-11 -İngilizce , buradaki insanların çoğu gibi kusur@@ suz . ||| 0-0 1-2 2-8 3-6 4-6 5-3 6-11 7-12 8-10 -çok göster@@ me@@ lik değiliz , os@@ ten@@ yon sev@@ miyoruz . ||| 0-3 1-4 2-4 3-2 4-2 5-6 6-11 7-12 8-13 9-10 10-9 11-14 -Norveç , petrol zengin@@ liğini çok dikkatli bir şekilde ele aldı . - sanay@@ iden elde edilen par@@ aların küçük bir kısmı gelecek nesil@@ lerin yararına özel bir fon@@ a yatır@@ ılıyor . ||| 0-0 1-4 2-4 3-5 4-3 5-6 6-7 7-2 8-2 9-2 10-8 11-8 12-18 13-18 14-17 15-15 16-14 17-15 18-14 19-9 20-13 21-13 22-29 23-30 24-28 25-27 26-23 27-24 28-24 29-21 30-20 31-19 32-32 -herkes sahip olmadığı paranın etraf@@ ını at@@ arken , küresel mali kaz@@ aya giden yıllarda Norveç ar@@ alık kal@@ elerini sıkı bir şekilde bağlı tut@@ uyordu . ||| 0-2 1-10 2-9 3-6 4-5 5-4 6-4 7-3 8-19 9-19 10-20 11-21 12-17 13-15 14-14 15-23 16-26 17-27 18-28 19-29 20-30 21-32 22-32 23-32 24-24 25-24 26-34 -Anna , " kış@@ ın kayak yapabil@@ diğimiz ve yaz aylarında h@@ alı çek@@ tiğimiz sürece mut@@ luyuz " . diyor . ||| 0-21 1-22 2-0 3-8 4-7 5-6 6-5 7-4 8-9 9-14 10-13 11-11 12-12 13-10 14-5 15-2 16-17 17-16 18-18 19-20 20-20 21-21 -" ve rak@@ ı yiy@@ in " . diyor . ||| 0-12 1-3 2-3 3-4 4-2 5-1 6-6 7-12 8-9 9-12 -kar@@ ın içinde dur@@ uyorum ve yiy@@ eceği bir şey için k@@ uyru@@ ğa gir@@ dim . - yeterli rak@@ i@@ be sahip ol@@ dum . ||| 0-4 1-3 2-2 3-1 4-0 5-11 6-11 7-10 8-9 9-9 10-8 11-6 12-6 13-7 14-12 15-0 16-12 17-12 18-16 19-17 20-18 21-18 22-15 23-14 24-13 25-20 -artık bir el@@ ma bur@@ c@@ unda kesinlikle farklı bir şey ve t@@ adı daha çok suc@@ lan@@ ır . ||| 0-0 1-2 2-2 3-3 4-4 5-5 6-20 7-7 8-9 9-10 10-8 11-10 12-17 13-18 14-15 15-11 16-12 17-13 18-6 19-19 -ama akşam saatlerinde bu had@@ siz balık@@ tan daha fazlası . ||| 0-0 1-3 2-1 3-9 4-10 5-11 6-12 7-8 8-7 9-7 10-6 -kal@@ dığım otel , konuk@@ ların en iyi - veya belki de en nas@@ ıl@@ - bal@@ ığa oy verdiği bir rak@@ i@@ bin yeme@@ ğine ev sahipliği yapan mekan@@ lardan biri . ||| 0-4 1-3 2-1 3-20 4-20 5-20 6-24 7-24 8-25 9-26 10-27 11-29 12-29 13-30 14-31 15-33 16-34 17-35 18-21 19-19 20-15 21-15 22-16 23-16 24-18 25-14 26-13 27-13 28-13 29-12 30-11 31-7 32-6 -rak@@ i@@ bin plak@@ alarıyla çevr@@ ili bo@@ w bağ@@ ında bir der@@ eye kadar canlı bir televizyon bağlantısı var . ||| 0-20 1-21 2-21 3-18 4-17 5-16 6-16 7-13 8-14 9-15 10-11 11-9 12-9 13-10 14-6 15-3 16-4 17-4 18-5 19-1 20-24 -Eurovision şarkı yarışması gibi . ||| 0-4 1-5 2-6 3-2 4-1 -" dağ@@ larda Th@@ or @-@ Ju@@ er@@ gen ' de en iyi balık için ne puan al@@ dınız ? " ||| 0-15 1-15 2-13 3-15 4-16 5-17 6-18 7-19 8-20 9-14 10-12 11-10 12-8 13-9 14-6 15-1 16-2 17-5 18-4 19-21 20-22 -burada bizim nokt@@ alar@@ ımız Hav@@ ard " dedi . ||| 0-0 1-4 2-4 3-3 4-3 5-6 6-7 7-8 8-10 9-10 -bul@@ an@@ tı , gül@@ me var . ||| 0-2 1-3 2-1 3-4 4-5 5-6 6-1 7-7 -bir adam sandaly@@ esine düş@@ er , belki su@@ yla aş@@ ar . ||| 0-5 1-1 2-5 3-4 4-2 5-6 6-7 7-7 8-10 9-11 10-8 11-8 12-13 -ya da belki o balık@@ lardan gelen fu@@ arlar . ||| 0-0 1-1 2-1 3-8 4-10 5-11 6-5 7-5 8-6 9-3 -Meksika ' dan En@@ ri@@ que P@@ ena Ni@@ e@@ to ' ya zor başlangıç ||| 0-0 1-2 2-1 3-2 4-3 5-4 6-5 7-6 8-7 9-8 10-9 11-11 12-13 13-11 14-12 diff --git a/tests/decoder/align/setup.sh b/tests/decoder/align/setup.sh index 15688a5..59913a8 100644 --- a/tests/decoder/align/setup.sh +++ b/tests/decoder/align/setup.sh @@ -1,12 +1,2 @@ test -f $MRT_MODELS/wmt16_systems/en-de/model.npz || exit 1 -test -f $MRT_MODELS/wmt18/entr/model.rnn.A.npz || exit 1 -test -f $MRT_MODELS/wmt18/entr/model.rnn.B.npz || exit 1 - -test -f dev2016.in || head -n 50 $MRT_MODELS/wmt18/entr/dev2016.bpe.en > dev2016.in -test -f dev2016.in || exit 1 -test -f $MRT_MODELS/wmt18/entr/model.rnn.A.npz || exit 1 -test -f $MRT_MODELS/wmt18/entr/model.rnn.B.npz || exit 1 - -test -f dev2016.in || head -n 50 $MRT_MODELS/wmt18/entr/dev2016.bpe.en > dev2016.in -test -f dev2016.in || exit 1 diff --git a/tests/decoder/align/test_align_ensemble.sh b/tests/decoder/align/test_align_ensemble.sh deleted file mode 100644 index cfb9e9f..0000000 --- a/tests/decoder/align/test_align_ensemble.sh +++ /dev/null @@ -1,12 +0,0 @@ -#!/bin/bash - -# Exit on error -set -e - -# Test code goes here -$MRT_MARIAN/build/marian-decoder -m $MRT_MODELS/wmt18/entr/model.rnn.{A,B}.npz -v $MRT_MODELS/wmt18/entr/vocab.{yml,yml} \ - --mini-batch 32 -b 5 --alignment < dev2016.in > ensemble.out -diff ensemble.out ensemble.expected > ensemble.diff - -# Exit with success code -exit 0 diff --git a/tests/decoder/align/test_align_ensemble_beam_1.sh b/tests/decoder/align/test_align_ensemble_beam_1.sh deleted file mode 100644 index 74719f4..0000000 --- a/tests/decoder/align/test_align_ensemble_beam_1.sh +++ /dev/null @@ -1,12 +0,0 @@ -#!/bin/bash - -# Exit on error -set -e - -# Test code goes here -$MRT_MARIAN/build/marian-decoder -m $MRT_MODELS/wmt18/entr/model.rnn.{A,B}.npz -v $MRT_MODELS/wmt18/entr/vocab.{yml,yml} \ - --mini-batch 1 -b 1 --alignment < dev2016.in > ensemble.b1.out -diff ensemble.b1.out ensemble.b1.expected > ensemble.b1.diff - -# Exit with success code -exit 0 |