tests/training/basics/test_gzipped_train_sets.sh


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28

#!/bin/bash

#####################################################################
# SUMMARY: Train with gzipped files
# AUTHOR: snukky
# TAGS: gzip
#####################################################################

# Exit on error
set -e

# Test code goes here
rm -rf gzip gzip.log
mkdir -p gzip

$MRT_MARIAN/marian \
    --no-shuffle --seed 1111 --dim-emb 64 --dim-rnn 64 \
    -m gzip/model.npz -t $MRT_DATA/europarl.de-en/corpus.bpe.{en,de}.gz -v vocab.en.yml vocab.de.yml \
    --log gzip.log --disp-freq 10 --after-batches 50

test -e gzip/model.npz
test -e gzip.log

cat gzip.log | $MRT_TOOLS/extract-costs.sh > gzip.out
$MRT_TOOLS/diff-nums.py gzip.out gzip.expected -p 0.1 -o gzip.diff

# Exit with success code
exit 0