src/compiler/x86/c-call.lisp

   1 ;;;; the VOPs and other necessary machine specific support
   2 ;;;; routines for call-out to C
   3
   4 ;;;; This software is part of the SBCL system. See the README file for
   5 ;;;; more information.
   6 ;;;;
   7 ;;;; This software is derived from the CMU CL system, which was
   8 ;;;; written at Carnegie Mellon University and released into the
   9 ;;;; public domain. The software is in the public domain and is
  10 ;;;; provided with absolutely no warranty. See the COPYING and CREDITS
  11 ;;;; files for more information.
  12
  13 (in-package "SB!VM")
  14
  15 ;; The MOVE-ARG vop is going to store args on the stack for
  16 ;; call-out. These tn's will be used for that. move-arg is normally
  17 ;; used for things going down the stack but C wants to have args
  18 ;; indexed in the positive direction.
  19
  20 (defun my-make-wired-tn (prim-type-name sc-name offset)
  21   (make-wired-tn (primitive-type-or-lose prim-type-name)
  22                  (sc-number-or-lose sc-name)
  23                  offset))
  24
  25 (defstruct (arg-state (:copier nil))
  26   (stack-frame-size 0))
  27
  28 (define-alien-type-method (integer :arg-tn) (type state)
  29   (let ((stack-frame-size (arg-state-stack-frame-size state)))
  30     (setf (arg-state-stack-frame-size state) (1+ stack-frame-size))
  31     (multiple-value-bind (ptype stack-sc)
  32         (if (alien-integer-type-signed type)
  33             (values 'signed-byte-32 'signed-stack)
  34             (values 'unsigned-byte-32 'unsigned-stack))
  35       (my-make-wired-tn ptype stack-sc stack-frame-size))))
  36
  37 (define-alien-type-method (system-area-pointer :arg-tn) (type state)
  38   (declare (ignore type))
  39   (let ((stack-frame-size (arg-state-stack-frame-size state)))
  40     (setf (arg-state-stack-frame-size state) (1+ stack-frame-size))
  41     (my-make-wired-tn 'system-area-pointer
  42                       'sap-stack
  43                       stack-frame-size)))
  44
  45 #!+long-float
  46 (define-alien-type-method (long-float :arg-tn) (type state)
  47   (declare (ignore type))
  48   (let ((stack-frame-size (arg-state-stack-frame-size state)))
  49     (setf (arg-state-stack-frame-size state) (+ stack-frame-size 3))
  50     (my-make-wired-tn 'long-float 'long-stack stack-frame-size)))
  51
  52 (define-alien-type-method (double-float :arg-tn) (type state)
  53   (declare (ignore type))
  54   (let ((stack-frame-size (arg-state-stack-frame-size state)))
  55     (setf (arg-state-stack-frame-size state) (+ stack-frame-size 2))
  56     (my-make-wired-tn 'double-float 'double-stack stack-frame-size)))
  57
  58 (define-alien-type-method (single-float :arg-tn) (type state)
  59   (declare (ignore type))
  60   (let ((stack-frame-size (arg-state-stack-frame-size state)))
  61     (setf (arg-state-stack-frame-size state) (1+ stack-frame-size))
  62     (my-make-wired-tn 'single-float 'single-stack stack-frame-size)))
  63
  64 (defstruct (result-state (:copier nil))
  65   (num-results 0))
  66
  67 (defun result-reg-offset (slot)
  68   (ecase slot
  69     (0 eax-offset)
  70     (1 edx-offset)))
  71
  72 (define-alien-type-method (integer :result-tn) (type state)
  73   (let ((num-results (result-state-num-results state)))
  74     (setf (result-state-num-results state) (1+ num-results))
  75     (multiple-value-bind (ptype reg-sc)
  76         (if (alien-integer-type-signed type)
  77             (values 'signed-byte-32 'signed-reg)
  78             (values 'unsigned-byte-32 'unsigned-reg))
  79       (my-make-wired-tn ptype reg-sc (result-reg-offset num-results)))))
  80
  81 (define-alien-type-method (system-area-pointer :result-tn) (type state)
  82   (declare (ignore type))
  83   (let ((num-results (result-state-num-results state)))
  84     (setf (result-state-num-results state) (1+ num-results))
  85     (my-make-wired-tn 'system-area-pointer 'sap-reg
  86                       (result-reg-offset num-results))))
  87
  88 #!+long-float
  89 (define-alien-type-method (long-float :result-tn) (type state)
  90   (declare (ignore type))
  91   (let ((num-results (result-state-num-results state)))
  92     (setf (result-state-num-results state) (1+ num-results))
  93     (my-make-wired-tn 'long-float 'long-reg (* num-results 2))))
  94
  95 (define-alien-type-method (double-float :result-tn) (type state)
  96   (declare (ignore type))
  97   (let ((num-results (result-state-num-results state)))
  98     (setf (result-state-num-results state) (1+ num-results))
  99     (my-make-wired-tn 'double-float 'double-reg (* num-results 2))))
 100
 101 (define-alien-type-method (single-float :result-tn) (type state)
 102   (declare (ignore type))
 103   (let ((num-results (result-state-num-results state)))
 104     (setf (result-state-num-results state) (1+ num-results))
 105     (my-make-wired-tn 'single-float 'single-reg (* num-results 2))))
 106
 107 (define-alien-type-method (values :result-tn) (type state)
 108   (let ((values (alien-values-type-values type)))
 109     (when (> (length values) 2)
 110       (error "Too many result values from c-call."))
 111     (mapcar (lambda (type)
 112               (invoke-alien-type-method :result-tn type state))
 113             values)))
 114
 115 (!def-vm-support-routine make-call-out-tns (type)
 116   (let ((arg-state (make-arg-state)))
 117     (collect ((arg-tns))
 118       (dolist (arg-type (alien-fun-type-arg-types type))
 119         (arg-tns (invoke-alien-type-method :arg-tn arg-type arg-state)))
 120       (values (my-make-wired-tn 'positive-fixnum 'any-reg esp-offset)
 121               (* (arg-state-stack-frame-size arg-state) n-word-bytes)
 122               (arg-tns)
 123               (invoke-alien-type-method :result-tn
 124                                         (alien-fun-type-result-type type)
 125                                         (make-result-state))))))
 126
 127
 128 (deftransform %alien-funcall ((function type &rest args) * * :node node)
 129   (aver (sb!c::constant-lvar-p type))
 130   (let* ((type (sb!c::lvar-value type))
 131          (env (sb!c::node-lexenv node))
 132          (arg-types (alien-fun-type-arg-types type))
 133          (result-type (alien-fun-type-result-type type)))
 134     (aver (= (length arg-types) (length args)))
 135     (if (or (some #'(lambda (type)
 136                       (and (alien-integer-type-p type)
 137                            (> (sb!alien::alien-integer-type-bits type) 32)))
 138                   arg-types)
 139             (and (alien-integer-type-p result-type)
 140                  (> (sb!alien::alien-integer-type-bits result-type) 32)))
 141         (collect ((new-args) (lambda-vars) (new-arg-types))
 142           (dolist (type arg-types)
 143             (let ((arg (gensym)))
 144               (lambda-vars arg)
 145               (cond ((and (alien-integer-type-p type)
 146                           (> (sb!alien::alien-integer-type-bits type) 32))
 147                      (new-args `(logand ,arg #xffffffff))
 148                      (new-args `(ash ,arg -32))
 149                      (new-arg-types (parse-alien-type '(unsigned 32) env))
 150                      (if (alien-integer-type-signed type)
 151                          (new-arg-types (parse-alien-type '(signed 32) env))
 152                          (new-arg-types (parse-alien-type '(unsigned 32) env))))
 153                     (t
 154                      (new-args arg)
 155                      (new-arg-types type)))))
 156           (cond ((and (alien-integer-type-p result-type)
 157                       (> (sb!alien::alien-integer-type-bits result-type) 32))
 158                  (let ((new-result-type
 159                         (let ((sb!alien::*values-type-okay* t))
 160                           (parse-alien-type
 161                            (if (alien-integer-type-signed result-type)
 162                                '(values (unsigned 32) (signed 32))
 163                                '(values (unsigned 32) (unsigned 32)))
 164                            env))))
 165                    `(lambda (function type ,@(lambda-vars))
 166                       (declare (ignore type))
 167                       (multiple-value-bind (low high)
 168                           (%alien-funcall function
 169                                           ',(make-alien-fun-type
 170                                              :arg-types (new-arg-types)
 171                                              :result-type new-result-type)
 172                                           ,@(new-args))
 173                         (logior low (ash high 32))))))
 174                 (t
 175                  `(lambda (function type ,@(lambda-vars))
 176                     (declare (ignore type))
 177                     (%alien-funcall function
 178                                     ',(make-alien-fun-type
 179                                        :arg-types (new-arg-types)
 180                                        :result-type result-type)
 181                                     ,@(new-args))))))
 182         (sb!c::give-up-ir1-transform))))
 183
 184 #!+win32
 185 (deftransform %alien-funcall-stdcall ((function type &rest args) * * :node node)
 186   (aver (sb!c::constant-lvar-p type))
 187   (let* ((type (sb!c::lvar-value type))
 188          (env (sb!c::node-lexenv node))
 189          (arg-types (alien-fun-type-arg-types type))
 190          (result-type (alien-fun-type-result-type type)))
 191     (aver (= (length arg-types) (length args)))
 192     (if (or (some #'(lambda (type)
 193                       (and (alien-integer-type-p type)
 194                            (> (sb!alien::alien-integer-type-bits type) 32)))
 195                   arg-types)
 196             (and (alien-integer-type-p result-type)
 197                  (> (sb!alien::alien-integer-type-bits result-type) 32)))
 198         (collect ((new-args) (lambda-vars) (new-arg-types))
 199           (dolist (type arg-types)
 200             (let ((arg (gensym)))
 201               (lambda-vars arg)
 202               (cond ((and (alien-integer-type-p type)
 203                           (> (sb!alien::alien-integer-type-bits type) 32))
 204                      (new-args `(logand ,arg #xffffffff))
 205                      (new-args `(ash ,arg -32))
 206                      (new-arg-types (parse-alien-type '(unsigned 32) env))
 207                      (if (alien-integer-type-signed type)
 208                          (new-arg-types (parse-alien-type '(signed 32) env))
 209                          (new-arg-types (parse-alien-type '(unsigned 32) env))))
 210                     (t
 211                      (new-args arg)
 212                      (new-arg-types type)))))
 213           (cond ((and (alien-integer-type-p result-type)
 214                       (> (sb!alien::alien-integer-type-bits result-type) 32))
 215                  (let ((new-result-type
 216                         (let ((sb!alien::*values-type-okay* t))
 217                           (parse-alien-type
 218                            (if (alien-integer-type-signed result-type)
 219                                '(values (unsigned 32) (signed 32))
 220                                '(values (unsigned 32) (unsigned 32)))
 221                            env))))
 222                    `(lambda (function type ,@(lambda-vars))
 223                       (declare (ignore type))
 224                       (multiple-value-bind (low high)
 225                           (%alien-funcall function
 226                                           ',(make-alien-fun-type
 227                                              :arg-types (new-arg-types)
 228                                              :result-type new-result-type)
 229                                           ,@(new-args))
 230                         (logior low (ash high 32))))))
 231                 (t
 232                  `(lambda (function type ,@(lambda-vars))
 233                     (declare (ignore type))
 234                     (%alien-funcall function
 235                                     ',(make-alien-fun-type
 236                                        :arg-types (new-arg-types)
 237                                        :result-type result-type)
 238                                     ,@(new-args))))))
 239         (sb!c::give-up-ir1-transform))))
 240
 241 (define-vop (foreign-symbol-sap)
 242   (:translate foreign-symbol-sap)
 243   (:policy :fast-safe)
 244   (:args)
 245   (:arg-types (:constant simple-string))
 246   (:info foreign-symbol)
 247   (:results (res :scs (sap-reg)))
 248   (:result-types system-area-pointer)
 249   (:generator 2
 250    (inst lea res (make-fixup foreign-symbol :foreign))))
 251
 252 #!+linkage-table
 253 (define-vop (foreign-symbol-dataref-sap)
 254   (:translate foreign-symbol-dataref-sap)
 255   (:policy :fast-safe)
 256   (:args)
 257   (:arg-types (:constant simple-string))
 258   (:info foreign-symbol)
 259   (:results (res :scs (sap-reg)))
 260   (:result-types system-area-pointer)
 261   (:generator 2
 262    (inst mov res (make-fixup foreign-symbol :foreign-dataref))))
 263
 264 (define-vop (call-out)
 265   (:args (function :scs (sap-reg))
 266          (args :more t))
 267   (:results (results :more t))
 268   (:temporary (:sc unsigned-reg :offset eax-offset
 269                    :from :eval :to :result) eax)
 270   (:temporary (:sc unsigned-reg :offset ecx-offset
 271                    :from :eval :to :result) ecx)
 272   (:temporary (:sc unsigned-reg :offset edx-offset
 273                    :from :eval :to :result) edx)
 274   (:node-var node)
 275   (:vop-var vop)
 276   (:save-p t)
 277   (:ignore args ecx edx)
 278   (:generator 0
 279     (cond ((policy node (> space speed))
 280            (move eax function)
 281            (inst call (make-fixup "call_into_c" :foreign)))
 282           (t
 283            ;; Setup the NPX for C; all the FP registers need to be
 284            ;; empty; pop them all.
 285            (dotimes (i 8)
 286              (inst fstp fr0-tn))
 287
 288            #!+win32 (inst cld)
 289
 290            (inst call function)
 291            ;; To give the debugger a clue. XX not really internal-error?
 292            (note-this-location vop :internal-error)
 293
 294            ;; Restore the NPX for lisp; ensure no regs are empty
 295            (dotimes (i 7)
 296              (inst fldz))
 297
 298            (if (and results
 299                     (location= (tn-ref-tn results) fr0-tn))
 300                ;; The return result is in fr0.
 301                (inst fxch fr7-tn) ; move the result back to fr0
 302                (inst fldz)) ; insure no regs are empty
 303            ))))
 304
 305 (define-vop (alloc-number-stack-space)
 306   (:info amount)
 307   (:results (result :scs (sap-reg any-reg)))
 308   (:node-var node)
 309   (:generator 0
 310     (aver (location= result esp-tn))
 311     (when (policy node (= sb!c::float-accuracy 3))
 312       (inst sub esp-tn 4)
 313       (inst fnstcw (make-ea :word :base esp-tn))
 314       (inst wait)
 315       (inst or (make-ea :word :base esp-tn) #x300)
 316       (inst fldcw (make-ea :word :base esp-tn))
 317       (inst wait))
 318     (unless (zerop amount)
 319       (let ((delta (logandc2 (+ amount 3) 3)))
 320         (inst sub esp-tn delta)))
 321     (move result esp-tn)))
 322
 323 (define-vop (dealloc-number-stack-space)
 324   (:info amount)
 325   (:node-var node)
 326   (:generator 0
 327     (unless (zerop amount)
 328       (let ((delta (logandc2 (+ amount 3) 3)))
 329         (inst add esp-tn delta)))
 330     (when (policy node (= sb!c::float-accuracy 3))
 331       (inst fnstcw (make-ea :word :base esp-tn))
 332       (inst wait)
 333       (inst and (make-ea :word :base esp-tn) #xfeff)
 334       (inst fldcw (make-ea :word :base esp-tn))
 335       (inst wait)
 336       (inst add esp-tn 4))))
 337
 338 (define-vop (alloc-alien-stack-space)
 339   (:info amount)
 340   #!+sb-thread (:temporary (:sc unsigned-reg) temp)
 341   (:results (result :scs (sap-reg any-reg)))
 342   #!+sb-thread
 343   (:generator 0
 344     (aver (not (location= result esp-tn)))
 345     (unless (zerop amount)
 346       (let ((delta (logandc2 (+ amount 3) 3)))
 347         (inst mov temp
 348               (make-ea :dword
 349                        :disp (+ nil-value
 350                                 (static-symbol-offset '*alien-stack*)
 351                                 (ash symbol-tls-index-slot word-shift)
 352                                 (- other-pointer-lowtag))))
 353         (inst fs-segment-prefix)
 354         (inst sub (make-ea :dword :scale 1 :index temp) delta)))
 355     (load-tl-symbol-value result *alien-stack*))
 356   #!-sb-thread
 357   (:generator 0
 358     (aver (not (location= result esp-tn)))
 359     (unless (zerop amount)
 360       (let ((delta (logandc2 (+ amount 3) 3)))
 361         (inst sub (make-ea :dword
 362                            :disp (+ nil-value
 363                                     (static-symbol-offset '*alien-stack*)
 364                                     (ash symbol-value-slot word-shift)
 365                                     (- other-pointer-lowtag)))
 366               delta)))
 367     (load-symbol-value result *alien-stack*)))
 368
 369 (define-vop (dealloc-alien-stack-space)
 370   (:info amount)
 371   #!+sb-thread (:temporary (:sc unsigned-reg) temp)
 372   #!+sb-thread
 373   (:generator 0
 374     (unless (zerop amount)
 375       (let ((delta (logandc2 (+ amount 3) 3)))
 376         (inst mov temp
 377               (make-ea :dword
 378                            :disp (+ nil-value
 379                                     (static-symbol-offset '*alien-stack*)
 380                                 (ash symbol-tls-index-slot word-shift)
 381                                 (- other-pointer-lowtag))))
 382         (inst fs-segment-prefix)
 383         (inst add (make-ea :dword :scale 1 :index temp) delta))))
 384   #!-sb-thread
 385   (:generator 0
 386     (unless (zerop amount)
 387       (let ((delta (logandc2 (+ amount 3) 3)))
 388         (inst add (make-ea :dword
 389                            :disp (+ nil-value
 390                                     (static-symbol-offset '*alien-stack*)
 391                                     (ash symbol-value-slot word-shift)
 392                                     (- other-pointer-lowtag)))
 393               delta)))))
 394
 395 ;;; these are not strictly part of the c-call convention, but are
 396 ;;; needed for the WITH-PRESERVED-POINTERS macro used for "locking
 397 ;;; down" lisp objects so that GC won't move them while foreign
 398 ;;; functions go to work.
 399
 400 (define-vop (push-word-on-c-stack)
 401     (:translate push-word-on-c-stack)
 402   (:args (val :scs (sap-reg)))
 403   (:policy :fast-safe)
 404   (:arg-types system-area-pointer)
 405   (:generator 2
 406     (inst push val)))
 407
 408 (define-vop (pop-words-from-c-stack)
 409     (:translate pop-words-from-c-stack)
 410   (:args)
 411   (:arg-types (:constant (unsigned-byte 29)))
 412   (:info number)
 413   (:policy :fast-safe)
 414   (:generator 2
 415     (inst add esp-tn (fixnumize number))))
 416
 417 #-sb-xc-host
 418 (defun alien-callback-accessor-form (type sp offset)
 419   `(deref (sap-alien (sap+ ,sp ,offset) (* ,type))))
 420
 421 #-sb-xc-host
 422 (defun alien-callback-assembler-wrapper (index return-type arg-types)
 423   "Cons up a piece of code which calls call-callback with INDEX and a
 424 pointer to the arguments."
 425   (declare (ignore arg-types))
 426   (let* ((segment (make-segment))
 427          (eax eax-tn)
 428          (edx edx-tn)
 429          (ebp ebp-tn)
 430          (esp esp-tn)
 431          ([ebp-8] (make-ea :dword :base ebp :disp -8))
 432          ([ebp-4] (make-ea :dword :base ebp :disp -4)))
 433     (assemble (segment)
 434               (inst push ebp)                       ; save old frame pointer
 435               (inst mov  ebp esp)                   ; establish new frame
 436               (inst mov  eax esp)                   ;
 437               (inst sub  eax 8)                     ; place for result
 438               (inst push eax)                       ; arg2
 439               (inst add  eax 16)                    ; arguments
 440               (inst push eax)                       ; arg1
 441               (inst push (ash index 2))             ; arg0
 442               (inst push (get-lisp-obj-address #'enter-alien-callback)) ; function
 443               (inst mov  eax (foreign-symbol-address "funcall3"))
 444               (inst call eax)
 445               ;; now put the result into the right register
 446               (cond
 447                 ((and (alien-integer-type-p return-type)
 448                       (eql (alien-type-bits return-type) 64))
 449                  (inst mov eax [ebp-8])
 450                  (inst mov edx [ebp-4]))
 451                 ((or (alien-integer-type-p return-type)
 452                      (alien-pointer-type-p return-type)
 453                      (alien-type-= #.(parse-alien-type 'system-area-pointer nil)
 454                                    return-type))
 455                  (inst mov eax [ebp-8]))
 456                 ((alien-single-float-type-p return-type)
 457                  (inst fld  [ebp-8]))
 458                 ((alien-double-float-type-p return-type)
 459                  (inst fldd [ebp-8]))
 460                 ((alien-void-type-p return-type))
 461                 (t
 462                  (error "unrecognized alien type: ~A" return-type)))
 463               (inst mov esp ebp)                   ; discard frame
 464               (inst pop ebp)                       ; restore frame pointer
 465               (inst ret))
 466     (finalize-segment segment)
 467     ;; Now that the segment is done, convert it to a static
 468     ;; vector we can point foreign code to.
 469     (let ((buffer (sb!assem::segment-buffer segment)))
 470       (make-static-vector (length buffer)
 471                           :element-type '(unsigned-byte 8)
 472                           :initial-contents buffer))))