Clean up listify-rest-args VOP on x86-64.
[sbcl.git] / tests / float.impure.lisp
1 ;;;; This file is for floating-point-related tests which have side
2 ;;;; effects (e.g. executing DEFUN).
3
4 ;;;; This software is part of the SBCL system. See the README file for
5 ;;;; more information.
6 ;;;;
7 ;;;; While most of SBCL is derived from the CMU CL system, the test
8 ;;;; files (like this one) were written from scratch after the fork
9 ;;;; from CMU CL.
10 ;;;;
11 ;;;; This software is in the public domain and is provided with
12 ;;;; absolutely no warranty. See the COPYING and CREDITS files for
13 ;;;; more information.
14
15 (cl:in-package :cl-user)
16
17 ;;; Hannu Rummukainen reported a CMU CL bug on cmucl-imp@cons.org 26
18 ;;; Jun 2000. This is the test case for it.
19 ;;;
20 ;;; The bug was listed as "39: .. Probably the same bug exists in
21 ;;; SBCL" for a while until Martin Atzmueller showed that it's not
22 ;;; present after all, presumably because the bug was introduced into
23 ;;; CMU CL after the fork. But we'll test for it anyway, in case
24 ;;; e.g. someone inadvertently ports the bad code.
25 (defun point39 (x y)
26   (make-array 2
27               :element-type 'double-float
28               :initial-contents (list x y)))
29
30 (declaim (inline point39-x point39-y))
31 (defun point39-x (p)
32   (declare (type (simple-array double-float (2)) p))
33   (aref p 0))
34 (defun point39-y (p)
35   (declare (type (simple-array double-float (2)) p))
36   (aref p 1))
37 (defun order39 (points)
38   (sort points  (lambda (p1 p2)
39                   (let* ((y1 (point39-y p1))
40                          (y2 (point39-y p2)))
41                     (if (= y1 y2)
42                         (< (point39-x p1)
43                            (point39-x p2))
44                         (< y1 y2))))))
45 (defun test39 ()
46   (order39 (make-array 4
47                        :initial-contents (list (point39 0.0d0 0.0d0)
48                                                (point39 1.0d0 1.0d0)
49                                                (point39 2.0d0 2.0d0)
50                                                (point39 3.0d0 3.0d0)))))
51 (assert (equalp (test39)
52                 #(#(0.0d0 0.0d0)
53                   #(1.0d0 1.0d0)
54                   #(2.0d0 2.0d0)
55                   #(3.0d0 3.0d0))))
56
57 (defun complex-double-float-ppc (x y)
58   (declare (type (complex double-float) x y))
59   (declare (optimize speed))
60   (+ x y))
61 (compile 'complex-double-float-ppc)
62 (assert (= (complex-double-float-ppc #c(0.0d0 1.0d0) #c(2.0d0 3.0d0))
63            #c(2.0d0 4.0d0)))
64
65 (defun single-float-ppc (x)
66   (declare (type (signed-byte 32) x) (optimize speed))
67   (float x 1f0))
68 (compile 'single-float-ppc)
69 (assert (= (single-float-ppc -30) -30f0))
70
71 ;;; constant-folding irrational functions
72 (declaim (inline df))
73 (defun df (x)
74   ;; do not remove the ECASE here: the bug this checks for indeed
75   ;; depended on this configuration
76   (ecase x (1 least-positive-double-float)))
77 (macrolet ((test (fun)
78              (let ((name (intern (format nil "TEST-CONSTANT-~A" fun))))
79                `(progn
80                   (defun ,name () (,fun (df 1)))
81                   (,name)))))
82   (test sqrt)
83   (test log)
84   (test sin)
85   (test cos)
86   (test tan)
87   (test asin)
88   (test acos)
89   (test atan)
90   (test sinh)
91   (test cosh)
92   (test tanh)
93   (test asinh)
94   (test acosh)
95   (test atanh)
96   (test exp))
97
98 ;;; Broken move-arg-double-float for non-rsp frame pointers on x86-64
99 (defun test (y)
100   (declare (optimize speed))
101   (multiple-value-bind (x)
102       (labels ((aux (x)
103                  (declare (double-float x))
104                  (etypecase y
105                    (double-float
106                     nil)
107                    (fixnum
108                     (aux x))
109                    (complex
110                     (format t "y=~s~%" y)))
111                  (values x)))
112         (aux 2.0d0))
113     x))
114
115 (assert (= (test 1.0d0) 2.0d0))
116
117 (deftype myarraytype (&optional (length '*))
118   `(simple-array double-float (,length)))
119 (defun new-pu-label-from-pu-labels (array)
120   (setf (aref (the myarraytype array) 0)
121         sb-ext:double-float-positive-infinity))
122
123 ;;; bug 407
124 ;;;
125 ;;; FIXME: it may be that TYPE-ERROR is wrong, and we should
126 ;;; instead signal an overflow or coerce into an infinity.
127 (defun bug-407a ()
128   (loop for n from (expt 2 1024) upto (+ 10 (expt 2 1024))
129         do (handler-case
130                (coerce n 'single-float)
131              (simple-type-error ()
132                (return-from bug-407a :type-error)))))
133 (assert (eq :type-error (bug-407a)))
134 (defun bug-407b ()
135   (loop for n from (expt 2 1024) upto (+ 10 (expt 2 1024))
136         do (handler-case
137                (format t "~E~%" (coerce n 'single-float))
138              (simple-type-error ()
139                (return-from bug-407b :type-error)))))
140 (assert (eq :type-error (bug-407b)))
141
142 ;; 1.0.29.44 introduces a ton of changes for complex floats
143 ;; on x86-64. Huge test of doom to help catch weird corner
144 ;; cases.
145 ;; Abuse the framework to also test some float arithmetic
146 ;; changes wrt constant arguments in 1.0.29.54.
147 (defmacro def-compute (name real-type
148                        &optional (complex-type `(complex ,real-type)))
149   `(defun ,name (x y r)
150      (declare (type ,complex-type x y)
151               (type ,real-type r))
152      (flet ((reflections (x)
153               (values x
154                       (conjugate x)
155                       (complex (- (realpart x)) (imagpart x))
156                       (- x)))
157             (compute (x y r)
158               (declare (type ,complex-type x y)
159                        (type ,real-type r))
160               (list (1+ x) (* 2 x) (/ x 2) (= 1 x)
161                     (+ x y) (+ r x) (+ x r)
162                     (- x y) (- r x) (- x r)
163                     (* x y) (* x r) (* r x)
164                     (unless (zerop y)
165                       (/ x y))
166                     (unless (zerop r)
167                       (/ x r))
168                     (unless (zerop x)
169                       (/ r x))
170                     (conjugate x) (conjugate r)
171                     (abs r) (- r) (= 1 r)
172                     (- x) (1+ r) (* 2 r) (/ r 2)
173                     (complex r) (complex r r) (complex 0 r)
174                     (= x y) (= r x) (= y r) (= x (complex 0 r))
175                     (= r (realpart x)) (= (realpart x) r)
176                     (> r (realpart x)) (< r (realpart x))
177                     (> (realpart x) r) (< (realpart x) r)
178                     (eql x y) (eql x (complex r)) (eql y (complex r))
179                     (eql x (complex r r)) (eql y (complex 0 r))
180                     (eql r (realpart x)) (eql (realpart x) r))))
181        (declare (inline reflections))
182        (multiple-value-bind (x1 x2 x3 x4) (reflections x)
183          (multiple-value-bind (y1 y2 y3 y4) (reflections y)
184            #.(let ((form '(list)))
185                (dolist (x '(x1 x2 x3 x4) (reverse form))
186                  (dolist (y '(y1 y2 y3 y4))
187                    (push `(list ,x ,y r
188                                 (append (compute ,x ,y r)
189                                         (compute ,x ,y (- r))))
190                          form)))))))))
191
192 (def-compute compute-number real number)
193 (def-compute compute-single single-float)
194 (def-compute compute-double double-float)
195
196 (labels ((equal-enough (x y)
197            (cond ((eql x y))
198                  ((or (complexp x)
199                       (complexp y))
200                   (or (eql (coerce x '(complex double-float))
201                            (coerce y '(complex double-float)))
202                       (and (equal-enough (realpart x) (realpart y))
203                            (equal-enough (imagpart x) (imagpart y)))))
204                  ((numberp x)
205                   (or (eql (coerce x 'double-float) (coerce y 'double-float))
206                       (< (abs (- x y))  1d-5))))))
207   (let* ((reals     '(0 1 2))
208          (complexes '#.(let ((reals '(0 1 2))
209                              (cpx   '()))
210                          (dolist (x reals (nreverse cpx))
211                            (dolist (y reals)
212                              (push (complex x y) cpx))))))
213     (declare (notinline every))
214     (dolist (r reals)
215       (dolist (x complexes)
216         (dolist (y complexes)
217           (let ((value  (compute-number x y r))
218                 (single (compute-single (coerce x '(complex single-float))
219                                         (coerce y '(complex single-float))
220                                         (coerce r 'single-float)))
221                 (double (compute-double (coerce x '(complex double-float))
222                                         (coerce y '(complex double-float))
223                                         (coerce r 'double-float))))
224             (assert (every (lambda (pos ref single double)
225                              (declare (ignorable pos))
226                              (every (lambda (ref single double)
227                                       (or (and (equal-enough ref single)
228                                                (equal-enough ref double))
229                                           (and (not (numberp single)) ;; -ve 0s
230                                                (equal-enough single double))))
231                                     (fourth ref) (fourth single) (fourth double)))
232                            '((0 0) (0 1) (0 2) (0 3)
233                              (1 0) (1 1) (1 2) (1 3)
234                              (2 0) (2 1) (2 2) (2 3)
235                              (3 0) (3 1) (3 2) (3 3))
236                            value single double))))))))
237
238 ;; The x86 port used not to reduce the arguments of transcendentals
239 ;; correctly.
240 ;; This test is valid only for x86: The x86 port uses the builtin x87
241 ;; FPU instructions to implement the trigonometric functions; other
242 ;; ports rely on the system's math library. These two differ in the
243 ;; precision of pi used for the range reduction and so yield results
244 ;; that can differ by arbitrarily large amounts for large inputs.
245 ;; The test expects the x87 results.
246 (with-test (:name (:range-reduction :x87)
247             :skipped-on '(not :x86))
248   (flet ((almost= (x y)
249            (< (abs (- x y)) 1d-5)))
250     (macrolet ((foo (op value)
251                  `(let ((actual (,op ,value))
252                         (expected (,op (mod ,value (* 2 pi)))))
253                     (unless (almost= actual expected)
254                       (error "Inaccurate result for ~a: expected ~a, got ~a"
255                              (list ',op ,value) expected actual)))))
256       (let ((big (* pi (expt 2d0 70)))
257             (mid (coerce most-positive-fixnum 'double-float))
258             (odd (* pi most-positive-fixnum)))
259         (foo sin big)
260         (foo sin mid)
261         (foo sin odd)
262         (foo sin (/ odd 2d0))
263
264         (foo cos big)
265         (foo cos mid)
266         (foo cos odd)
267         (foo cos (/ odd 2d0))
268
269         (foo tan big)
270         (foo tan mid)
271         (foo tan odd)))))
272
273 ;; To test the range reduction of trigonometric functions we need a much
274 ;; more accurate approximation of pi than CL:PI is. Calculating this is
275 ;; more fun than copy-pasting a constant and Gauss-Legendre converges
276 ;; extremely fast.
277 (defun pi-gauss-legendre (n-bits)
278   "Return a rational approximation to pi using the Gauss-Legendre
279 algorithm. The calculations are done with integers, representing
280 multiples of (expt 2 (- N-BITS)), and the result is an integral multiple
281 of this number. The result is accurate to a few less than N-BITS many
282 fractional bits."
283   (let ((a (ash 1 n-bits))                     ; scaled 1
284         (b (isqrt (expt 2 (1- (* n-bits 2))))) ; scaled (sqrt 1/2)
285         (c (ash 1 (- n-bits 2)))               ; scaled 1/4
286         (d 0))
287     (loop
288       (when (<= (- a b) 1)
289         (return))
290       (let ((a1 (ash (+ a b) -1)))
291         (psetf a a1
292                b (isqrt (* a b))
293                c (- c (ash (expt (- a a1) 2) (- d n-bits)))
294                d (1+ d))))
295     (/ (round (expt (+ a b) 2) (* 4 c))
296        (ash 1 n-bits))))
297
298 ;; Test that the range reduction of trigonometric functions is done
299 ;; with a sufficiently accurate value of pi that the reduced argument
300 ;; is correct to nearly double-float precision even for arguments of
301 ;; very large absolute value.
302 ;; This test is skipped on x86; as to why see the comment at the test
303 ;; (:range-reduction :x87) above.
304 (with-test (:name (:range-reduction :precise-pi)
305             :skipped-on :x86)
306   (let ((rational-2pi (* 2 (pi-gauss-legendre 2200))))
307     (labels ((mod-2pi (x)
308                "Return X modulo 2 pi, where pi is precise enough that the
309                 result is exact to double-float precision for all possible
310                 double-float arguments."
311                (declare (type double-float x))
312                (coerce (mod (rational x) rational-2pi)
313                        'double-float))
314              (test (op x)
315                (let ((actual (funcall op x))
316                      (expected (funcall op (mod-2pi x))))
317                  ;; Some of the test values are chosen to reduce modulo
318                  ;; 2 pi to small numbers (between 1d-10 and 1d-7),
319                  ;; making their sine and tangent this small, too.
320                  ;; For other test values the absolute value of the
321                  ;; tangent may be much larger than 1. Therefore we
322                  ;; measure relative instead of absolute error.
323                  (unless (or (= actual expected 0)
324                              (and (= (signum actual) (signum expected))
325                                   (< (abs (/ (- actual expected)
326                                              (+ actual expected)))
327                                      (/ 1d-12 2))))
328                    (error "Inaccurate result for ~a: expected ~a, got ~a"
329                           (list op x) expected actual)))))
330       (dolist (op '(sin cos tan))
331         (dolist (val `(,(coerce most-positive-fixnum 'double-float)
332                        ,@(loop for v = most-positive-double-float
333                                then (expt v 4/5)
334                                while (> v (expt 2 50))
335                                collect v)
336                        6.543554061677196d28
337                        1.5334254929660437d43
338                        1.837213298702053d93
339                        4.913896894631919d229))
340           (test op val))))))