Fix make-array transforms.
[sbcl.git] / tests / float.pure.lisp
1 ;;;; floating-point-related tests with no side effects
2
3 ;;;; This software is part of the SBCL system. See the README file for
4 ;;;; more information.
5 ;;;;
6 ;;;; While most of SBCL is derived from the CMU CL system, the test
7 ;;;; files (like this one) were written from scratch after the fork
8 ;;;; from CMU CL.
9 ;;;;
10 ;;;; This software is in the public domain and is provided with
11 ;;;; absolutely no warranty. See the COPYING and CREDITS files for
12 ;;;; more information.
13
14 (cl:in-package :cl-user)
15
16 (dolist (ifnis (list (cons single-float-positive-infinity
17                            single-float-negative-infinity)
18                      (cons double-float-positive-infinity
19                            double-float-negative-infinity)))
20   (destructuring-bind (+ifni . -ifni) ifnis
21     (assert (= (* +ifni 1) +ifni))
22     (assert (= (* +ifni -0.1) -ifni))
23     (assert (= (+ +ifni -0.1) +ifni))
24     (assert (= (- +ifni -0.1) +ifni))
25     (assert (= (sqrt +ifni) +ifni))
26     (assert (= (* -ifni -14) +ifni))
27     (assert (= (/ -ifni 0.1) -ifni))
28     (assert (= (/ -ifni 100/3) -ifni))
29     (assert (not (= +ifni -ifni)))
30     (assert (= -ifni -ifni))
31     (assert (not (= +ifni 100/3)))
32     (assert (not (= -ifni -1.0 -ifni)))
33     (assert (not (= -ifni -17/02 -ifni)))
34     (assert (< -ifni +ifni))
35     (assert (not (< +ifni 100)))
36     (assert (not (< +ifni 100.0)))
37     (assert (not (< +ifni -ifni)))
38     (assert (< 100 +ifni))
39     (assert (< 100.0 +ifni))
40     (assert (>= 100 -ifni))
41     (assert (not (<= 6/7 (* 3 -ifni))))
42     (assert (not (> +ifni +ifni)))))
43
44 ;;; ANSI: FLOAT-RADIX should signal an error if its argument is not a
45 ;;; float.
46 ;;;
47 ;;; (Peter Van Eynde's ansi-test suite caught this, and Eric Marsden
48 ;;; reported a fix for CMU CL, which was ported to sbcl-0.6.12.35.)
49 (assert (typep (nth-value 1 (ignore-errors (float-radix "notfloat")))
50                'type-error))
51
52 (assert (typep (nth-value 1 (ignore-errors
53                               (funcall (fdefinition 'float-radix) "notfloat")))
54                'type-error))
55
56 ;;; Before 0.8.2.14 the cross compiler failed to work with
57 ;;; denormalized numbers
58 (when (subtypep 'single-float 'short-float)
59   (assert (eql least-positive-single-float least-positive-short-float)))
60
61 ;;; bug found by Paul Dietz: FFLOOR and similar did not work for integers
62 (let ((tests '(((ffloor -8 3) (-3.0 1))
63                ((fround -8 3) (-3.0 1))
64                ((ftruncate -8 3) (-2.0 -2))
65                ((fceiling -8 3) (-2.0 -2)))))
66   (loop for (exp res) in tests
67         for real-res = (multiple-value-list (eval exp))
68         do (assert (equal real-res res))))
69
70 ;;; bug 45b reported by PVE
71 (dolist (type '(short single double long))
72   (dolist (sign '(positive negative))
73     (let* ((name (find-symbol (format nil "LEAST-~A-~A-FLOAT"
74                                       sign type)
75                               :cl))
76            (value (symbol-value name)))
77       (assert (zerop (/ value 2))))))
78
79 ;;; bug found by Paul Dietz: bad rounding on small floats
80 (assert (= (fround least-positive-short-float least-positive-short-float) 1.0))
81
82 ;;; bug found by Peter Seibel: scale-float was only accepting float
83 ;;; exponents, when it should accept all integers.  (also bug #269)
84 (assert (= (multiple-value-bind (significand expt sign)
85                (integer-decode-float least-positive-double-float)
86              (* (scale-float (float significand 0.0d0) expt) sign))
87            least-positive-double-float))
88 (assert (= (multiple-value-bind (significand expt sign)
89                (decode-float least-positive-double-float)
90              (* (scale-float significand expt) sign))
91            least-positive-double-float))
92 (assert (= 0.0 (scale-float 1.0 most-negative-fixnum)))
93 (assert (= 0.0d0 (scale-float 1.0d0 (1- most-negative-fixnum))))
94
95 (with-test (:name (:scale-float-overflow :bug-372)
96             :fails-on '(and :darwin :ppc)) ;; bug 372
97   (progn
98     (assert (raises-error? (scale-float 1.0 most-positive-fixnum)
99                            floating-point-overflow))
100     (assert (raises-error? (scale-float 1.0d0 (1+ most-positive-fixnum))
101                            floating-point-overflow))))
102
103 ;;; bug found by jsnell when nfroyd tried to implement better LOGAND
104 ;;; type derivation.
105 (assert (= (integer-decode-float (coerce -1756510900000000000
106                                          'single-float))
107            12780299))
108
109 ;;; MISC.564: no out-of-line %ATAN2 for constant folding
110 (assert (typep
111   (funcall
112    (compile
113     nil
114     '(lambda (p1)
115       (declare (optimize (speed 3) (safety 2) (debug 3) (space 0))
116        (type complex p1))
117       (phase (the (eql #c(1.0d0 2.0d0)) p1))))
118    #c(1.0d0 2.0d0))
119     'double-float))
120
121 ;;; More out of line functions (%COS, %SIN, %TAN) for constant folding,
122 ;;; reported by Mika Pihlajamäki
123 (funcall (compile nil '(lambda () (cos (tan (round 0))))))
124 (funcall (compile nil '(lambda () (sin (tan (round 0))))))
125 (funcall (compile nil '(lambda () (tan (tan (round 0))))))
126
127 (with-test (:name (:addition-overflow :bug-372)
128             :fails-on '(or (and :ppc :openbsd)
129                            (and :ppc :darwin)
130                            (and :x86 :netbsd)))
131   (assert (typep (nth-value
132                   1
133                   (ignore-errors
134                     (sb-sys:without-interrupts
135                      (sb-int:set-floating-point-modes :current-exceptions nil
136                                                       :accrued-exceptions nil)
137                      (loop repeat 2 summing most-positive-double-float)
138                      (sleep 2))))
139                  'floating-point-overflow)))
140
141 ;; This is the same test as above.  Even if the above copy passes,
142 ;; this copy will fail if SIGFPE handling ends up clearing the FPU
143 ;; control word, which can happen if the kernel clears the FPU control
144 ;; (a reasonable thing for it to do) and the runtime fails to
145 ;; compensate for this (see RESTORE_FP_CONTROL_WORD in interrupt.c).
146 ;; Note that this only works when running float.pure.lisp alone, as
147 ;; the preceeding "pure" test files aren't as free of side effects as
148 ;; we might like.
149 (with-test (:name (:addition-overflow :bug-372 :take-2)
150             :fails-on '(or (and :ppc :openbsd)
151                            (and :ppc :darwin)
152                            (and :x86 :netbsd)))
153   (assert (typep (nth-value
154                   1
155                   (ignore-errors
156                     (sb-sys:without-interrupts
157                      (sb-int:set-floating-point-modes :current-exceptions nil
158                                                       :accrued-exceptions nil)
159                      (loop repeat 2 summing most-positive-double-float)
160                      (sleep 2))))
161                  'floating-point-overflow)))
162
163 ;;; On x86-64 generating complex floats on the stack failed an aver in
164 ;;; the compiler if the stack slot was the same as the one containing
165 ;;; the real part of the complex. The following expression was able to
166 ;;; trigger this in 0.9.5.62.
167 (with-test (:name :complex-float-stack)
168   (dolist (type '((complex double-float)
169                   (complex single-float)))
170     (compile nil
171              `(lambda (x0 x1 x2 x3 x4 x5 x6 x7)
172                 (declare (type ,type x0 x1 x2 x3 x4 x5 x6 x7))
173                 (let ((x0 (+ x0 x0))
174                       (x1 (+ x1 x1))
175                       (x2 (+ x2 x2))
176                       (x3 (+ x3 x3))
177                       (x4 (+ x4 x4))
178                       (x5 (+ x5 x5))
179                       (x6 (+ x6 x6))
180                       (x7 (+ x7 x7)))
181                   (* (+ x0 x1 x2 x3) (+ x4 x5 x6 x7)
182                      (+ x0 x2 x4 x6) (+ x1 x3 x5 x7)
183                      (+ x0 x3 x4 x7) (+ x1 x2 x5 x6)
184                      (+ x0 x1 x6 x7) (+ x2 x3 x4 x5)))))))
185
186
187 (with-test (:name :nan-comparisons
188             :fails-on '(or :sparc :mips))
189   (sb-int:with-float-traps-masked (:invalid)
190     (macrolet ((test (form)
191                  (let ((nform (subst '(/ 0.0 0.0) 'nan form)))
192                    `(progn
193                       (assert (eval ',nform))
194                       (assert (eval `(let ((nan (/ 0.0 0.0)))
195                                        ,',form)))
196                       (assert (funcall
197                                (compile nil `(lambda () ,',nform))))
198                       (assert (funcall
199                                (compile nil `(lambda (nan) ,',form))
200                                (/ 0.0 0.0)))))))
201       (test (/= nan nan))
202       (test (/= nan nan nan))
203       (test (/= 1.0 nan 2.0 nan))
204       (test (/= nan 1.0 2.0 nan))
205       (test (not (= nan 1.0)))
206       (test (not (= nan nan)))
207       (test (not (= nan nan nan)))
208       (test (not (= 1.0 nan)))
209       (test (not (= nan 1.0)))
210       (test (not (= 1.0 1.0 nan)))
211       (test (not (= 1.0 nan 1.0)))
212       (test (not (= nan 1.0 1.0)))
213       (test (not (>= nan nan)))
214       (test (not (>= nan 1.0)))
215       (test (not (>= 1.0 nan)))
216       (test (not (>= 1.0 nan 0.0)))
217       (test (not (>= 1.0 0.0 nan)))
218       (test (not (>= nan 1.0 0.0)))
219       (test (not (<= nan nan)))
220       (test (not (<= nan 1.0)))
221       (test (not (<= 1.0 nan)))
222       (test (not (<= 1.0 nan 2.0)))
223       (test (not (<= 1.0 2.0 nan)))
224       (test (not (<= nan 1.0 2.0)))
225       (test (not (< nan nan)))
226       (test (not (< -1.0 nan)))
227       (test (not (< nan 1.0)))
228       (test (not (> nan nan)))
229       (test (not (> -1.0 nan)))
230       (test (not (> nan 1.0))))))
231
232 (with-test (:name :log-int/double-accuracy)
233   ;; we used to use single precision for intermediate results
234   (assert (eql 2567.6046442221327d0
235                (log (loop for n from 1 to 1000 for f = 1 then (* f n)
236                           finally (return f))
237                     10d0)))
238   ;; both ways
239   (assert (eql (log 123123123.0d0 10) (log 123123123 10.0d0))))
240
241 (with-test (:name :log-base-zero-return-type)
242   (assert (eql 0.0f0 (log 123 (eval 0))))
243   (assert (eql 0.0d0 (log 123.0d0 (eval 0))))
244   (assert (eql 0.0d0 (log 123 (eval 0.0d0))))
245   (let ((f (compile nil '(lambda (x y)
246                           (declare (optimize speed))
247                           (etypecase x
248                             (single-float
249                              (etypecase y
250                                (single-float (log x y))
251                                (double-float (log x y))))
252                             (double-float
253                              (etypecase y
254                                (single-float (log x y))
255                                (double-float (log x y)))))))))
256     (assert (eql 0.0f0 (funcall f 123.0 0.0)))
257     (assert (eql 0.0d0 (funcall f 123.0d0 0.0)))
258     (assert (eql 0.0d0 (funcall f 123.0d0 0.0d0)))
259     (assert (eql 0.0d0 (funcall f 123.0 0.0d0)))))
260
261 ;; Bug reported by Eric Marsden on July 15 2009. The compiler
262 ;; used not to constant fold calls with arguments of type
263 ;; (EQL foo).
264 (with-test (:name :eql-type-constant-fold)
265   (assert (equal '(FUNCTION (T) (VALUES (MEMBER T) &OPTIONAL))
266                  (sb-kernel:%simple-fun-type
267                   (compile nil `(lambda (x)
268                                   (eql #c(1.0 2.0)
269                                        (the (eql #c(1.0 2.0))
270                                          x))))))))
271
272 ;; Leakage from the host could result in wrong values for truncation.
273 (with-test (:name :truncate)
274   (assert (plusp (sb-kernel:%unary-truncate/single-float (expt 2f0 33))))
275   (assert (plusp (sb-kernel:%unary-truncate/double-float (expt 2d0 33))))
276   ;; That'd be one strange host, but just in case
277   (assert (plusp (sb-kernel:%unary-truncate/single-float (expt 2f0 65))))
278   (assert (plusp (sb-kernel:%unary-truncate/double-float (expt 2d0 65)))))
279
280 ;; On x86-64, we sometimes forgot to clear the higher order bits of the
281 ;; destination register before using it with an instruction that doesn't
282 ;; clear the (unused) high order bits. Suspect instructions are operations
283 ;; with only one operand: for everything else, the destination has already
284 ;; been loaded with a value, making it safe (by induction).
285 ;;
286 ;; The tests are extremely brittle and could be broken by any number of
287 ;; back- or front-end optimisations. We should just keep the issue above
288 ;; in mind at all times when working with SSE or similar instruction sets.
289 ;;
290 ;; Run only on x86/x86-64m as no other platforms have SB-VM::TOUCH-OBJECT.
291 (macrolet ((with-pinned-floats ((count type &rest names) &body body)
292              "Force COUNT float values to be kept live (and hopefully in registers),
293               fill a temporary register with noise, and execute BODY."
294              ;; KLUDGE: SB-VM is locked, and non-x86oids don't have
295              ;; SB-VM::TOUCH-OBJECT.  Don't even READ this body on
296              ;; other platforms.
297              #-(or x86 x86-64)
298              (declare (ignore count type names body))
299              #+(or x86 x86-64)
300              (let ((dummy (loop repeat count
301                                 collect (or (pop names)
302                                             (gensym "TEMP")))))
303                `(let ,(loop for i downfrom -1
304                             for var in dummy
305                             for j = (coerce i type)
306                             collect
307                             `(,var ,(complex j j))) ; we don't actually need that, but
308                   (declare (type (complex ,type) ,@dummy)) ; future-proofing can't hurt
309                   ,@(loop for var in dummy
310                           for i upfrom 0
311                           collect `(setf ,var ,(complex i (coerce i type))))
312                   (multiple-value-prog1
313                       (progn
314                         (let ((x ,(complex 1d0 1d0)))
315                           (declare (type (complex double-float) x))
316                           (setf x ,(complex most-positive-fixnum (float most-positive-fixnum 1d0)))
317                           (sb-vm::touch-object x))
318                         (locally ,@body))
319                     ,@(loop for var in dummy
320                             collect `(sb-vm::touch-object ,var)))))))
321   (with-test (:name :clear-sqrtsd :skipped-on '(not (or :x86 :x86-64)))
322     (flet ((test-sqrtsd (float)
323              (declare (optimize speed (safety 1))
324                       (type (double-float (0d0)) float))
325              (with-pinned-floats (14 double-float x0)
326                (let ((x (sqrt float)))
327                  (values (+ x x0) float)))))
328       (declare (notinline test-sqrtsd))
329       (assert (zerop (imagpart (test-sqrtsd 4d0))))))
330
331   (with-test (:name :clear-sqrtsd-single :skipped-on '(not (or :x86 :x86-64)))
332     (flet ((test-sqrtsd-float (float)
333              (declare (optimize speed (safety 1))
334                       (type (single-float (0f0)) float))
335              (with-pinned-floats (14 single-float x0)
336                (let ((x (sqrt float)))
337                  (values (+ x x0) float)))))
338       (declare (notinline test-sqrtsd-float))
339       (assert (zerop (imagpart (test-sqrtsd-float 4f0))))))
340
341   (with-test (:name :clear-cvtss2sd :skipped-on '(not (or :x86 :x86-64)))
342     (flet ((test-cvtss2sd (float)
343              (declare (optimize speed (safety 1))
344                       (type single-float float))
345              (with-pinned-floats (14 double-float x0)
346                (let ((x (float float 0d0)))
347                  (values (+ x x0) (+ 1e0 float))))))
348       (declare (notinline test-cvtss2sd))
349       (assert (zerop (imagpart (test-cvtss2sd 1f0))))))
350
351   (with-test (:name :clear-cvtsd2ss :skipped-on '(not (or :x86 :x86-64)))
352     (flet ((test-cvtsd2ss (float)
353              (declare (optimize speed (safety 1))
354                       (type double-float float))
355              (with-pinned-floats (14 single-float x0)
356                (let ((x (float float 1e0)))
357                  (values (+ x x0) (+ 1d0 float))))))
358       (declare (notinline test-cvtsd2ss))
359       (assert (zerop (imagpart (test-cvtsd2ss 4d0))))))
360
361   (with-test (:name :clear-cvtsi2sd :skipped-on '(not (or :x86 :x86-64)))
362     (flet ((test-cvtsi2sd (int)
363              (declare (optimize speed (safety 0))
364                       (type (unsigned-byte 10) int))
365              (with-pinned-floats (15 double-float x0)
366                (+ (float int 0d0) x0))))
367       (declare (notinline test-cvtsi2sd))
368       (assert (zerop (imagpart (test-cvtsi2sd 4))))))
369
370   (with-test (:name :clear-cvtsi2ss :skipped-on '(not (or :x86 :x86-64)))
371     (flet ((test-cvtsi2ss (int)
372              (declare (optimize speed (safety 0))
373                       (type (unsigned-byte 10) int))
374              (with-pinned-floats (15 single-float x0)
375                (+ (float int 0e0) x0))))
376       (declare (notinline test-cvtsi2ss))
377       (assert (zerop (imagpart (test-cvtsi2ss 4)))))))
378
379 (with-test (:name :round-to-bignum)
380   (assert (= (round 1073741822.3d0) 1073741822))
381   (assert (= (round 1073741822.5d0) 1073741822))
382   (assert (= (round 1073741822.7d0) 1073741823))
383   (assert (= (round 1073741823.3d0) 1073741823))
384   (assert (= (round 1073741823.5d0) 1073741824))
385   (assert (= (round 1073741823.7d0) 1073741824)))
386
387 (with-test (:name :round-single-to-bignum)
388   (assert (= (round 1e14) 100000000376832))
389   (assert (= (round 1e19) 9999999980506447872)))
390
391 (with-test (:name :scaled-%hypot)
392   (assert (<= (abs (complex most-positive-double-float 1d0))
393               (1+ most-positive-double-float))))