ssa: Delete an unused variable
[nit.git] / tests / tests.sh
index 39e0cbd..99ec314 100755 (executable)
@@ -21,7 +21,7 @@
 export LANG=C
 export LC_ALL=C
 export NIT_TESTING=true
-export MNIT_SRAND=0
+export NIT_SRAND=0
 
 unset NIT_DIR
 
@@ -35,7 +35,26 @@ JNI_LIB_PATH=`dirname ${paths[0]}`
 shopt -u nullglob
 
 outdir="out"
-compdir=".nit_compile"
+compdir="nit_compile"
+
+# User CPU time limit (in seconds)
+# Is used to avoid to CPU intensive test (infinite loops). See ulimit -t
+usertimelimit=600 # 1 CPU minute
+
+# Real-time limit (in seconds)
+# Is used to avoid waiting or sleeping tests.
+# Require timeout or timelimit, or else is not used.
+realtimelimit=300 # 5 min
+
+# User limit for write files (in kilo-bytes)
+# Is used to avoid execution that loop and fill the hard drive. See ulimit -f
+# Note that a test might require a lot of temporary disk space (eg. nitc+gcc)
+filelimit=100000 # ~100MB
+
+# Limit (in bytes) for generated .res file.
+# Larger ones are truncated and will fail tests
+# Is used to avoid processing huge crappy res file (diff, xml, etc)
+reslimit=100000 # ~100KB
 
 usage()
 {
@@ -48,7 +67,7 @@ Usage: $e [options] modulenames
 --engine    Use a specific engine (default=nitc)
 --noskip    Do not skip a test even if the .skip file matches
 --outdir    Use a specific output folder (default=out/)
---compdir   Use a specific temporary compilation folder (default=.nit_compile)
+--compdir   Use a specific temporary compilation folder (default=$compdir)
 --node      Run as a node in parallel, will not output context information
 --autosav   Copy the .res files directly in the sav folder overriding existing .res files
 END
@@ -70,6 +89,9 @@ saferun()
                        *) stop=true
                esac
        done
+       (
+       ulimit -f "$filelimit"
+       ulimit -t "$usertimelimit"
        if test -d "$1"; then
                find $1 | sort
        elif test -n "$TIME"; then
@@ -78,6 +100,7 @@ saferun()
                if test -n "$a"; then echo 0 >> "$o"; else echo 0 > "$o"; fi
                $TIMEOUT "$@"
        fi
+       )
 }
 
 # Output a timestamp attribute for XML, or an empty line
@@ -95,9 +118,9 @@ timestamp()
 
 # Detect a working timeout
 if sh -c "timelimit echo" 1>/dev/null 2>&1; then
-       TIMEOUT="timelimit -t 600"
+       TIMEOUT="timelimit -t $realtimelimit"
 elif sh -c "timeout 1 echo" 1>/dev/null 2>&1; then
-       TIMEOUT="timeout 600s"
+       TIMEOUT="timeout ${realtimelimit}s"
 else
        echo "No timelimit or timeout command detected. Tests may hang :("
 fi
@@ -172,6 +195,15 @@ function process_result()
        OLD=""
        LIST=""
        FIRST=""
+
+       # Truncate too big res file
+       size=$(wc -c < "$outdir/$pattern.res")
+       if test -n "$reslimit" -a "$size" -gt "$reslimit"; then
+               # The most portable way to truncate a file is with Perl
+               perl -e "truncate \"$outdir/$pattern.res\", $reslimit;"
+               echo "***TRUNCATED***" >> "$outdir/$pattern.res"
+       fi
+
        echo >>$xml "<testcase classname='`xmlesc "$pack"`' name='`xmlesc "$description"`' time='`cat -- "$outdir/$pattern.time.out"`' `timestamp`>"
        #for sav in "sav/$engine/fixme/$pattern.res" "sav/$engine/$pattern.res" "sav/fixme/$pattern.res" "sav/$pattern.res" "sav/$pattern.sav"; do
        for savdir in $savdirs; do
@@ -395,30 +427,34 @@ enginebinname=$engine
 isinterpret=
 case $engine in
        nitc|nitg)
-               engine=nitg-s;
+               engine=nitcs;
                enginebinname=nitc;
                OPT="--separate $OPT --compile-dir $compdir"
-               savdirs="sav/nitg-common/"
+               savdirs="sav/nitc-common/"
                ;;
        nitcs|nitg-s)
+               engine=nitcs;
                enginebinname=nitc;
                OPT="--separate $OPT --compile-dir $compdir"
-               savdirs="sav/nitg-common/"
+               savdirs="sav/nitc-common/"
                ;;
        nitce|nitg-e)
+               engine=nitce;
                enginebinname=nitc;
                OPT="--erasure $OPT --compile-dir $compdir"
-               savdirs="sav/nitg-common/"
+               savdirs="sav/nitc-common/"
                ;;
        nitcsg|nitg-sg)
+               engine=nitcsg;
                enginebinname=nitc;
                OPT="--semi-global $OPT --compile-dir $compdir"
-               savdirs="sav/nitg-common/"
+               savdirs="sav/nitc-common/"
                ;;
        nitcg|nitg-g)
+               engine=nitcg;
                enginebinname=nitc;
                OPT="--global $OPT --compile-dir $compdir"
-               savdirs="sav/nitg-common/"
+               savdirs="sav/nitc-common/"
                ;;
        nit)
                engine=niti
@@ -437,11 +473,7 @@ case $engine in
        emscripten)
                enginebinname=nitc
                OPT="-m emscripten_nodejs.nit --semi-global $OPT --compile-dir $compdir"
-               savdirs="sav/nitg-sg/"
-               ;;
-       nitc)
-               echo "disabled engine $engine"
-               exit 0
+               savdirs="sav/nitcsg/"
                ;;
        *)
                echo "unknown engine $engine"
@@ -564,6 +596,8 @@ END
                                cat -- "$ff.compile.log"
                                cat >&2 -- "$ff.cmp.err"
                        fi
+                       # Clean
+                       rm -r "$compdir" 2>/dev/null
                fi
                if [ "$engine" = "emscripten" ]; then
                        echo > "$ff.bin" "nodejs $ffout \"\$@\""