0.9.2.21:
[sbcl.git] / src / compiler / mips / call.lisp
1 ;;;; the VM definition of function call for MIPS
2
3 ;;;; This software is part of the SBCL system. See the README file for
4 ;;;; more information.
5 ;;;;
6 ;;;; This software is derived from the CMU CL system, which was
7 ;;;; written at Carnegie Mellon University and released into the
8 ;;;; public domain. The software is in the public domain and is
9 ;;;; provided with absolutely no warranty. See the COPYING and CREDITS
10 ;;;; files for more information.
11
12 (in-package "SB!VM")
13 \f
14 ;;;; Interfaces to IR2 conversion:
15
16 ;;; Return a wired TN describing the N'th full call argument passing
17 ;;; location.
18 (!def-vm-support-routine standard-arg-location (n)
19   (declare (type unsigned-byte n))
20   (if (< n register-arg-count)
21       (make-wired-tn *backend-t-primitive-type*
22                      register-arg-scn
23                      (elt *register-arg-offsets* n))
24       (make-wired-tn *backend-t-primitive-type*
25                      control-stack-arg-scn n)))
26
27
28 ;;; Make a passing location TN for a local call return PC.  If standard is
29 ;;; true, then use the standard (full call) location, otherwise use any legal
30 ;;; location.  Even in the non-standard case, this may be restricted by a
31 ;;; desire to use a subroutine call instruction.
32 (!def-vm-support-routine make-return-pc-passing-location (standard)
33   (if standard
34       (make-wired-tn *backend-t-primitive-type* register-arg-scn lra-offset)
35       (make-restricted-tn *backend-t-primitive-type* register-arg-scn)))
36
37 ;;; This is similar to MAKE-RETURN-PC-PASSING-LOCATION, but makes a
38 ;;; location to pass Old-FP in. This is (obviously) wired in the
39 ;;; standard convention, but is totally unrestricted in non-standard
40 ;;; conventions, since we can always fetch it off of the stack using
41 ;;; the arg pointer.
42 (!def-vm-support-routine make-old-fp-passing-location (standard)
43   (if standard
44       (make-wired-tn *fixnum-primitive-type* immediate-arg-scn ocfp-offset)
45       (make-normal-tn *fixnum-primitive-type*)))
46
47 ;;; Make the TNs used to hold OLD-FP and RETURN-PC within the current
48 ;;; function. We treat these specially so that the debugger can find
49 ;;; them at a known location.
50 (!def-vm-support-routine make-old-fp-save-location (env)
51   (specify-save-tn
52    (physenv-debug-live-tn (make-normal-tn *fixnum-primitive-type*) env)
53    (make-wired-tn *fixnum-primitive-type*
54                   control-stack-arg-scn
55                   ocfp-save-offset)))
56 (!def-vm-support-routine make-return-pc-save-location (env)
57   (let ((ptype *backend-t-primitive-type*))
58     (specify-save-tn
59      (physenv-debug-live-tn (make-normal-tn ptype) env)
60      (make-wired-tn ptype control-stack-arg-scn lra-save-offset))))
61
62 ;;; Make a TN for the standard argument count passing location.  We only
63 ;;; need to make the standard location, since a count is never passed when we
64 ;;; are using non-standard conventions.
65 (!def-vm-support-routine make-arg-count-location ()
66   (make-wired-tn *fixnum-primitive-type* immediate-arg-scn nargs-offset))
67
68
69 ;;; Make a TN to hold the number-stack frame pointer.  This is allocated
70 ;;; once per component, and is component-live.
71 (!def-vm-support-routine make-nfp-tn ()
72   (component-live-tn
73    (make-wired-tn *fixnum-primitive-type* immediate-arg-scn nfp-offset)))
74
75 (!def-vm-support-routine make-stack-pointer-tn ()
76   (make-normal-tn *fixnum-primitive-type*))
77
78 (!def-vm-support-routine make-number-stack-pointer-tn ()
79   (make-normal-tn *fixnum-primitive-type*))
80
81 ;;; Return a list of TNs that can be used to represent an unknown-values
82 ;;; continuation within a function.
83 (!def-vm-support-routine make-unknown-values-locations ()
84   (list (make-stack-pointer-tn)
85         (make-normal-tn *fixnum-primitive-type*)))
86
87
88 ;;; This function is called by the ENTRY-ANALYZE phase, allowing
89 ;;; VM-dependent initialization of the IR2-COMPONENT structure.  We push
90 ;;; placeholder entries in the Constants to leave room for additional
91 ;;; noise in the code object header.
92 (!def-vm-support-routine select-component-format (component)
93   (declare (type component component))
94   (dotimes (i code-constants-offset)
95     (vector-push-extend nil
96                         (ir2-component-constants (component-info component))))
97   (values))
98
99 \f
100 ;;;; Frame hackery:
101
102 ;;; BYTES-NEEDED-FOR-NON-DESCRIPTOR-STACK-FRAME -- internal
103 ;;;
104 ;;; Return the number of bytes needed for the current non-descriptor stack
105 ;;; frame.  Non-descriptor stack frames must be multiples of 8 bytes on
106 ;;; the PMAX.
107 ;;; 
108 (defun bytes-needed-for-non-descriptor-stack-frame ()
109   (* (logandc2 (1+ (sb-allocated-size 'non-descriptor-stack)) 1)
110      n-word-bytes))
111
112 ;;; Used for setting up the Old-FP in local call.
113 ;;;
114 (define-vop (current-fp)
115   (:results (val :scs (any-reg)))
116   (:generator 1
117     (move val cfp-tn)))
118
119 ;;; Used for computing the caller's NFP for use in known-values return.  Only
120 ;;; works assuming there is no variable size stuff on the nstack.
121 ;;;
122 (define-vop (compute-old-nfp)
123   (:results (val :scs (any-reg)))
124   (:vop-var vop)
125   (:generator 1
126     (let ((nfp (current-nfp-tn vop)))
127       (when nfp
128         (inst addu val nfp (bytes-needed-for-non-descriptor-stack-frame))))))
129
130
131 (define-vop (xep-allocate-frame)
132   (:info start-lab copy-more-arg-follows)
133   (:ignore copy-more-arg-follows)
134   (:vop-var vop)
135   (:temporary (:scs (non-descriptor-reg)) temp)
136   (:generator 1
137     ;; Make sure the function is aligned, and drop a label pointing to this
138     ;; function header.
139     (align n-lowtag-bits)
140     (trace-table-entry trace-table-fun-prologue)
141     (emit-label start-lab)
142     ;; Allocate function header.
143     (inst fun-header-word)
144     (dotimes (i (1- simple-fun-code-offset))
145       (inst word 0))
146     ;; The start of the actual code.
147     ;; Compute CODE from the address of this entry point.
148     (let ((entry-point (gen-label)))
149       (emit-label entry-point)
150       (inst compute-code-from-fn code-tn lip-tn entry-point temp)
151       ;; ### We should also save it on the stack so that the garbage collector
152       ;; won't forget about us if we call anyone else.
153       )
154     ;; Build our stack frames.
155     (inst addu csp-tn cfp-tn
156           (* n-word-bytes (sb-allocated-size 'control-stack)))
157     (let ((nfp (current-nfp-tn vop)))
158       (when nfp
159         (inst addu nsp-tn nsp-tn
160               (- (bytes-needed-for-non-descriptor-stack-frame)))
161         (move nfp nsp-tn)))
162     (trace-table-entry trace-table-normal)))
163
164 (define-vop (allocate-frame)
165   (:results (res :scs (any-reg))
166             (nfp :scs (any-reg)))
167   (:info callee)
168   (:generator 2
169     (trace-table-entry trace-table-fun-prologue)
170     (move res csp-tn)
171     (inst addu csp-tn csp-tn
172           (* n-word-bytes (sb-allocated-size 'control-stack)))
173     (when (ir2-physenv-number-stack-p callee)
174       (inst addu nsp-tn nsp-tn
175             (- (bytes-needed-for-non-descriptor-stack-frame)))
176       (move nfp nsp-tn))
177     (trace-table-entry trace-table-normal)))
178
179 ;;; Allocate a partial frame for passing stack arguments in a full call.  Nargs
180 ;;; is the number of arguments passed.  If no stack arguments are passed, then
181 ;;; we don't have to do anything.
182 ;;;
183 (define-vop (allocate-full-call-frame)
184   (:info nargs)
185   (:results (res :scs (any-reg)))
186   (:generator 2
187     (when (> nargs register-arg-count)
188       (move res csp-tn)
189       (inst addu csp-tn csp-tn (* nargs n-word-bytes)))))
190
191
192
193 \f
194 ;;; Emit code needed at the return-point from an unknown-values call for a
195 ;;; fixed number of values.  Values is the head of the TN-Ref list for the
196 ;;; locations that the values are to be received into.  Nvals is the number of
197 ;;; values that are to be received (should equal the length of Values).
198 ;;;
199 ;;;    MOVE-TEMP is a DESCRIPTOR-REG TN used as a temporary.
200 ;;;
201 ;;;    This code exploits the fact that in the unknown-values convention, a
202 ;;; single value return returns at the return PC + 8, whereas a return of other
203 ;;; than one value returns directly at the return PC.
204 ;;;
205 ;;;    If 0 or 1 values are expected, then we just emit an instruction to reset
206 ;;; the SP (which will only be executed when other than 1 value is returned.)
207 ;;;
208 ;;; In the general case, we have to do three things:
209 ;;;  -- Default unsupplied register values.  This need only be done when a
210 ;;;     single value is returned, since register values are defaulted by the
211 ;;;     called in the non-single case.
212 ;;;  -- Default unsupplied stack values.  This needs to be done whenever there
213 ;;;     are stack values.
214 ;;;  -- Reset SP.  This must be done whenever other than 1 value is returned,
215 ;;;     regardless of the number of values desired.
216 ;;;
217 ;;; The general-case code looks like this:
218 #|
219         b regs-defaulted                ; Skip if MVs
220         nop
221
222         move a1 null-tn                 ; Default register values
223         ...
224         loadi nargs 1                   ; Force defaulting of stack values
225         move ocfp csp                   ; Set up args for SP resetting
226
227 regs-defaulted
228         subu temp nargs register-arg-count
229
230         bltz temp default-value-7       ; jump to default code
231         addu temp temp -1
232         loadw move-temp ocfp-tn 6       ; Move value to correct location.
233         store-stack-tn val4-tn move-temp
234
235         bltz temp default-value-8
236         addu temp temp -1
237         loadw move-temp ocfp-tn 7
238         store-stack-tn val5-tn move-temp
239
240         ...
241
242 defaulting-done
243         move sp ocfp                    ; Reset SP.
244 <end of code>
245
246 <elsewhere>
247 default-value-7
248         store-stack-tn val4-tn null-tn  ; Nil out 7'th value. (first on stack)
249
250 default-value-8
251         store-stack-tn val5-tn null-tn  ; Nil out 8'th value.
252
253         ...
254
255         br defaulting-done
256         nop
257 |#
258 ;;;
259 (defun default-unknown-values (vop values nvals move-temp temp lra-label)
260   (declare (type (or tn-ref null) values)
261            (type unsigned-byte nvals) (type tn move-temp temp))
262   (if (<= nvals 1)
263       (progn
264         ;; Note that this is a single-value return point.  This is actually
265         ;; the multiple-value entry point for a single desired value, but
266         ;; the code location has to be here, or the debugger backtrace
267         ;; gets confused.
268         (without-scheduling ()
269           (note-this-location vop :single-value-return)
270           (inst move csp-tn ocfp-tn)
271           (inst nop))
272         (when lra-label
273           (inst compute-code-from-lra code-tn code-tn lra-label temp)))
274       (let ((regs-defaulted (gen-label))
275             (defaulting-done (gen-label))
276             (default-stack-vals (gen-label)))
277         (without-scheduling ()
278           ;; Note that this is an unknown-values return point.
279           (note-this-location vop :unknown-return)
280           ;; Branch off to the MV case.
281           (inst b regs-defaulted)
282           ;; If there are no stack results, clear the stack now.
283           (if (> nvals register-arg-count)
284               (inst addu temp nargs-tn (fixnumize (- register-arg-count)))
285               (move csp-tn ocfp-tn t)))
286         
287         ;; Do the single value calse.
288         (do ((i 1 (1+ i))
289              (val (tn-ref-across values) (tn-ref-across val)))
290             ((= i (min nvals register-arg-count)))
291           (move (tn-ref-tn val) null-tn))
292         (when (> nvals register-arg-count)
293           (inst b default-stack-vals)
294           (move ocfp-tn csp-tn t))
295         
296         (emit-label regs-defaulted)
297         
298         (when (> nvals register-arg-count)
299           ;; If there are stack results, we have to default them
300           ;; and clear the stack.
301           (collect ((defaults))
302             (do ((i register-arg-count (1+ i))
303                  (val (do ((i 0 (1+ i))
304                            (val values (tn-ref-across val)))
305                           ((= i register-arg-count) val))
306                       (tn-ref-across val)))
307                 ((null val))
308               
309               (let ((default-lab (gen-label))
310                     (tn (tn-ref-tn val)))
311                 (defaults (cons default-lab tn))
312                 
313                 (inst blez temp default-lab)
314                 (inst lw move-temp ocfp-tn (* i n-word-bytes))
315                 (inst addu temp temp (fixnumize -1))
316                 (store-stack-tn tn move-temp)))
317             
318             (emit-label defaulting-done)
319             (move csp-tn ocfp-tn)
320             
321             (let ((defaults (defaults)))
322               (aver defaults)
323               (assemble (*elsewhere*)
324                 (emit-label default-stack-vals)
325                 (do ((remaining defaults (cdr remaining)))
326                     ((null remaining))
327                   (let ((def (car remaining)))
328                     (emit-label (car def))
329                     (when (null (cdr remaining))
330                       (inst b defaulting-done))
331                     (store-stack-tn (cdr def) null-tn)))))))
332
333         (when lra-label
334           (inst compute-code-from-lra code-tn code-tn lra-label temp))))
335   (values))
336
337 \f
338 ;;;; Unknown values receiving:
339
340 ;;;    Emit code needed at the return point for an unknown-values call for an
341 ;;; arbitrary number of values.
342 ;;;
343 ;;;    We do the single and non-single cases with no shared code: there doesn't
344 ;;; seem to be any potential overlap, and receiving a single value is more
345 ;;; important efficiency-wise.
346 ;;;
347 ;;;    When there is a single value, we just push it on the stack, returning
348 ;;; the old SP and 1.
349 ;;;
350 ;;;    When there is a variable number of values, we move all of the argument
351 ;;; registers onto the stack, and return Args and Nargs.
352 ;;;
353 ;;;    Args and Nargs are TNs wired to the named locations.  We must
354 ;;; explicitly allocate these TNs, since their lifetimes overlap with the
355 ;;; results Start and Count (also, it's nice to be able to target them).
356 ;;;
357 (defun receive-unknown-values (args nargs start count lra-label temp)
358   (declare (type tn args nargs start count temp))
359   (let ((variable-values (gen-label))
360         (done (gen-label)))
361     (without-scheduling ()
362       (inst b variable-values)
363       (inst nop))
364
365     (when lra-label
366       (inst compute-code-from-lra code-tn code-tn lra-label temp))
367     (inst addu csp-tn csp-tn 4)
368     (storew (first register-arg-tns) csp-tn -1)
369     (inst addu start csp-tn -4)
370     (inst li count (fixnumize 1))
371     
372     (emit-label done)
373     
374     (assemble (*elsewhere*)
375       (emit-label variable-values)
376       (when lra-label
377         (inst compute-code-from-lra code-tn code-tn lra-label temp))
378       (do ((arg register-arg-tns (rest arg))
379            (i 0 (1+ i)))
380           ((null arg))
381         (storew (first arg) args i))
382       (move start args)
383       (inst b done)
384       (move count nargs t)))
385   (values))
386
387
388 ;;; VOP that can be inherited by unknown values receivers.  The main thing this
389 ;;; handles is allocation of the result temporaries.
390 ;;;
391 (define-vop (unknown-values-receiver)
392   (:results
393    (start :scs (any-reg))
394    (count :scs (any-reg)))
395   (:temporary (:sc descriptor-reg :offset ocfp-offset
396                    :from :eval :to (:result 0))
397               values-start)
398   (:temporary (:sc any-reg :offset nargs-offset
399                :from :eval :to (:result 1))
400               nvals)
401   (:temporary (:scs (non-descriptor-reg)) temp))
402
403
404 \f
405 ;;;; Local call with unknown values convention return:
406
407 ;;; Non-TR local call for a fixed number of values passed according to the
408 ;;; unknown values convention.
409 ;;;
410 ;;; Args are the argument passing locations, which are specified only to
411 ;;; terminate their lifetimes in the caller.
412 ;;;
413 ;;; Values are the return value locations (wired to the standard passing
414 ;;; locations).
415 ;;;
416 ;;; Save is the save info, which we can ignore since saving has been done.
417 ;;; Return-PC is the TN that the return PC should be passed in.
418 ;;; Target is a continuation pointing to the start of the called function.
419 ;;; Nvals is the number of values received.
420 ;;;
421 ;;; Note: we can't use normal load-tn allocation for the fixed args, since all
422 ;;; registers may be tied up by the more operand.  Instead, we use
423 ;;; MAYBE-LOAD-STACK-TN.
424 ;;;
425 (define-vop (call-local)
426   (:args (fp)
427          (nfp)
428          (args :more t))
429   (:results (values :more t))
430   (:save-p t)
431   (:move-args :local-call)
432   (:info arg-locs callee target nvals)
433   (:vop-var vop)
434   (:temporary (:scs (descriptor-reg) :from :eval) move-temp)
435   (:temporary (:scs (non-descriptor-reg)) temp)
436   (:temporary (:sc control-stack :offset nfp-save-offset) nfp-save)
437   (:temporary (:sc any-reg :offset ocfp-offset :from :eval) ocfp)
438   (:ignore arg-locs args ocfp)
439   (:generator 5
440     (let ((label (gen-label))
441           (cur-nfp (current-nfp-tn vop)))
442       (when cur-nfp
443         (store-stack-tn nfp-save cur-nfp))
444       (let ((callee-nfp (callee-nfp-tn callee)))
445         (when callee-nfp
446           (maybe-load-stack-tn callee-nfp nfp)))
447       (maybe-load-stack-tn cfp-tn fp)
448       (trace-table-entry trace-table-call-site)
449       (inst compute-lra-from-code
450             (callee-return-pc-tn callee) code-tn label temp)
451       (note-this-location vop :call-site)
452       (inst b target)
453       (inst nop)
454       (trace-table-entry trace-table-normal)
455       (emit-return-pc label)
456       (default-unknown-values vop values nvals move-temp temp label)
457       (when cur-nfp
458         (load-stack-tn cur-nfp nfp-save)))))
459
460
461 ;;; Non-TR local call for a variable number of return values passed according
462 ;;; to the unknown values convention.  The results are the start of the values
463 ;;; glob and the number of values received.
464 ;;;
465 ;;; Note: we can't use normal load-tn allocation for the fixed args, since all
466 ;;; registers may be tied up by the more operand.  Instead, we use
467 ;;; MAYBE-LOAD-STACK-TN.
468 ;;;
469 (define-vop (multiple-call-local unknown-values-receiver)
470   (:args (fp)
471          (nfp)
472          (args :more t))
473   (:save-p t)
474   (:move-args :local-call)
475   (:info save callee target)
476   (:ignore args save)
477   (:vop-var vop)
478   (:temporary (:sc control-stack :offset nfp-save-offset) nfp-save)
479   (:generator 20
480     (let ((label (gen-label))
481           (cur-nfp (current-nfp-tn vop)))
482       (when cur-nfp
483         (store-stack-tn nfp-save cur-nfp))
484       (let ((callee-nfp (callee-nfp-tn callee)))
485         (when callee-nfp
486           (maybe-load-stack-tn callee-nfp nfp)))
487       (maybe-load-stack-tn cfp-tn fp)
488       (trace-table-entry trace-table-call-site)
489       (inst compute-lra-from-code
490             (callee-return-pc-tn callee) code-tn label temp)
491       (note-this-location vop :call-site)
492       (inst b target)
493       (inst nop)
494       (trace-table-entry trace-table-normal)
495       (emit-return-pc label)
496       (note-this-location vop :unknown-return)
497       (receive-unknown-values values-start nvals start count label temp)
498       (when cur-nfp
499         (load-stack-tn cur-nfp nfp-save)))))
500
501 \f
502 ;;;; Local call with known values return:
503
504 ;;; Non-TR local call with known return locations.  Known-value return works
505 ;;; just like argument passing in local call.
506 ;;;
507 ;;; Note: we can't use normal load-tn allocation for the fixed args, since all
508 ;;; registers may be tied up by the more operand.  Instead, we use
509 ;;; MAYBE-LOAD-STACK-TN.
510 ;;;
511 (define-vop (known-call-local)
512   (:args (fp)
513          (nfp)
514          (args :more t))
515   (:results (res :more t))
516   (:move-args :local-call)
517   (:save-p t)
518   (:info save callee target)
519   (:ignore args res save)
520   (:vop-var vop)
521   (:temporary (:sc control-stack :offset nfp-save-offset) nfp-save)
522   (:temporary (:scs (non-descriptor-reg)) temp)
523   (:generator 5
524     (let ((label (gen-label))
525           (cur-nfp (current-nfp-tn vop)))
526       (when cur-nfp
527         (store-stack-tn nfp-save cur-nfp))
528       (let ((callee-nfp (callee-nfp-tn callee)))
529         (when callee-nfp
530           (maybe-load-stack-tn callee-nfp nfp)))
531       (maybe-load-stack-tn cfp-tn fp)
532       (trace-table-entry trace-table-call-site)
533       (inst compute-lra-from-code
534             (callee-return-pc-tn callee) code-tn label temp)
535       (note-this-location vop :call-site)
536       (inst b target)
537       (inst nop)
538       (trace-table-entry trace-table-normal)
539       (emit-return-pc label)
540       (note-this-location vop :known-return)
541       (when cur-nfp
542         (load-stack-tn cur-nfp nfp-save)))))
543
544 ;;; Return from known values call.  We receive the return locations as
545 ;;; arguments to terminate their lifetimes in the returning function.  We
546 ;;; restore FP and CSP and jump to the Return-PC.
547 ;;;
548 ;;; Note: we can't use normal load-tn allocation for the fixed args, since all
549 ;;; registers may be tied up by the more operand.  Instead, we use
550 ;;; MAYBE-LOAD-STACK-TN.
551 ;;;
552 (define-vop (known-return)
553   (:args (ocfp :target ocfp-temp)
554          (return-pc :target return-pc-temp)
555          (vals :more t))
556   (:temporary (:sc any-reg :from (:argument 0)) ocfp-temp)
557   (:temporary (:sc descriptor-reg :from (:argument 1))
558               return-pc-temp)
559   (:temporary (:scs (interior-reg)) lip)
560   (:move-args :known-return)
561   (:info val-locs)
562   (:ignore val-locs vals)
563   (:vop-var vop)
564   (:generator 6
565     (trace-table-entry trace-table-fun-epilogue)
566     (maybe-load-stack-tn ocfp-temp ocfp)
567     (maybe-load-stack-tn return-pc-temp return-pc)
568     (move csp-tn cfp-tn)
569     (let ((cur-nfp (current-nfp-tn vop)))
570       (when cur-nfp
571         (inst addu nsp-tn cur-nfp
572               (bytes-needed-for-non-descriptor-stack-frame))))
573     (inst addu lip return-pc-temp (- n-word-bytes other-pointer-lowtag))
574     (inst j lip)
575     (move cfp-tn ocfp-temp t)
576     (trace-table-entry trace-table-normal)))
577
578 \f
579 ;;;; Full call:
580 ;;;
581 ;;;    There is something of a cross-product effect with full calls.  Different
582 ;;; versions are used depending on whether we know the number of arguments or
583 ;;; the name of the called function, and whether we want fixed values, unknown
584 ;;; values, or a tail call.
585 ;;;
586 ;;; In full call, the arguments are passed creating a partial frame on the
587 ;;; stack top and storing stack arguments into that frame.  On entry to the
588 ;;; callee, this partial frame is pointed to by FP.  If there are no stack
589 ;;; arguments, we don't bother allocating a partial frame, and instead set FP
590 ;;; to SP just before the call.
591
592 ;;;    This macro helps in the definition of full call VOPs by avoiding code
593 ;;; replication in defining the cross-product VOPs.
594 ;;;
595 ;;; Name is the name of the VOP to define.
596 ;;; 
597 ;;; Named is true if the first argument is a symbol whose global function
598 ;;; definition is to be called.
599 ;;;
600 ;;; Return is either :Fixed, :Unknown or :Tail:
601 ;;; -- If :Fixed, then the call is for a fixed number of values, returned in
602 ;;;    the standard passing locations (passed as result operands).
603 ;;; -- If :Unknown, then the result values are pushed on the stack, and the
604 ;;;    result values are specified by the Start and Count as in the
605 ;;;    unknown-values continuation representation.
606 ;;; -- If :Tail, then do a tail-recursive call.  No values are returned.
607 ;;;    The Ocfp and Return-PC are passed as the second and third arguments.
608 ;;;
609 ;;; In non-tail calls, the pointer to the stack arguments is passed as the last
610 ;;; fixed argument.  If Variable is false, then the passing locations are
611 ;;; passed as a more arg.  Variable is true if there are a variable number of
612 ;;; arguments passed on the stack.  Variable cannot be specified with :Tail
613 ;;; return.  TR variable argument call is implemented separately.
614 ;;;
615 ;;; In tail call with fixed arguments, the passing locations are passed as a
616 ;;; more arg, but there is no new-FP, since the arguments have been set up in
617 ;;; the current frame.
618 ;;;
619 (defmacro define-full-call (name named return variable)
620   (aver (not (and variable (eq return :tail))))
621   `(define-vop (,name
622                 ,@(when (eq return :unknown)
623                     '(unknown-values-receiver)))
624      (:args
625       ,@(unless (eq return :tail)
626           '((new-fp :scs (any-reg) :to :eval)))
627
628       ,(if named
629            '(name :target name-pass)
630            '(arg-fun :target lexenv))
631       
632       ,@(when (eq return :tail)
633           '((ocfp :target ocfp-pass)
634             (return-pc :target return-pc-pass)))
635       
636       ,@(unless variable '((args :more t :scs (descriptor-reg)))))
637
638      ,@(when (eq return :fixed)
639          '((:results (values :more t))))
640    
641      (:save-p ,(if (eq return :tail) :compute-only t))
642
643      ,@(unless (or (eq return :tail) variable)
644          '((:move-args :full-call)))
645
646      (:vop-var vop)
647      (:info ,@(unless (or variable (eq return :tail)) '(arg-locs))
648             ,@(unless variable '(nargs))
649             ,@(when (eq return :fixed) '(nvals)))
650
651      (:ignore ,@(unless (or variable (eq return :tail)) '(arg-locs))
652               ,@(unless variable '(args)))
653
654      (:temporary (:sc descriptor-reg
655                   :offset ocfp-offset
656                   :from (:argument 1)
657                   ,@(unless (eq return :fixed)
658                       '(:to :eval)))
659                  ocfp-pass)
660
661      (:temporary (:sc descriptor-reg
662                   :offset lra-offset 
663                   :from (:argument ,(if (eq return :tail) 2 1))
664                   :to :eval)
665                  return-pc-pass)
666
667      ,@(if named
668          `((:temporary (:sc descriptor-reg :offset fdefn-offset
669                         :from (:argument ,(if (eq return :tail) 0 1))
670                         :to :eval)
671                        name-pass))
672
673          `((:temporary (:sc descriptor-reg :offset lexenv-offset
674                         :from (:argument ,(if (eq return :tail) 0 1))
675                         :to :eval)
676                        lexenv)
677            (:temporary (:scs (descriptor-reg) :from (:argument 0) :to :eval)
678                        function)))
679
680      (:temporary (:sc any-reg :offset nargs-offset :to :eval)
681                  nargs-pass)
682
683      ,@(when variable
684          (mapcar #'(lambda (name offset)
685                      `(:temporary (:sc descriptor-reg
686                                    :offset ,offset
687                                    :to :eval)
688                          ,name))
689                  register-arg-names *register-arg-offsets*))
690      ,@(when (eq return :fixed)
691          '((:temporary (:scs (descriptor-reg) :from :eval) move-temp)))
692
693      ,@(unless (eq return :tail)
694          '((:temporary (:scs (non-descriptor-reg)) temp)
695            (:temporary (:sc control-stack :offset nfp-save-offset) nfp-save)))
696
697      (:temporary (:sc interior-reg :offset lip-offset) entry-point)
698
699      (:generator ,(+ (if named 5 0)
700                      (if variable 19 1)
701                      (if (eq return :tail) 0 10)
702                      15
703                      (if (eq return :unknown) 25 0))
704        (let* ((cur-nfp (current-nfp-tn vop))
705               ,@(unless (eq return :tail)
706                   '((lra-label (gen-label))))
707               (filler
708                (remove nil
709                        (list :load-nargs
710                              ,@(if (eq return :tail)
711                                    '((unless (location= ocfp ocfp-pass)
712                                        :load-ocfp)
713                                      (unless (location= return-pc
714                                                         return-pc-pass)
715                                        :load-return-pc)
716                                      (when cur-nfp
717                                        :frob-nfp))
718                                    '(:comp-lra
719                                      (when cur-nfp
720                                        :frob-nfp)
721                                      :save-fp
722                                      :load-fp))))))
723          (flet ((do-next-filler ()
724                   (let* ((next (pop filler))
725                          (what (if (consp next) (car next) next)))
726                     (ecase what
727                       (:load-nargs
728                        ,@(if variable
729                              `((inst subu nargs-pass csp-tn new-fp)
730                                ,@(let ((index -1))
731                                    (mapcar #'(lambda (name)
732                                                `(inst lw ,name new-fp
733                                                       ,(ash (incf index)
734                                                             word-shift)))
735                                            register-arg-names)))
736                              '((inst li nargs-pass (fixnumize nargs)))))
737                       ,@(if (eq return :tail)
738                             '((:load-ocfp
739                                (sc-case ocfp
740                                  (any-reg
741                                   (move ocfp-pass ocfp t))
742                                  (control-stack
743                                   (inst lw ocfp-pass cfp-tn
744                                         (ash (tn-offset ocfp)
745                                              word-shift)))))
746                               (:load-return-pc
747                                (sc-case return-pc
748                                  (descriptor-reg
749                                   (move return-pc-pass return-pc t))
750                                  (control-stack
751                                   (inst lw return-pc-pass cfp-tn
752                                         (ash (tn-offset return-pc)
753                                              word-shift)))))
754                               (:frob-nfp
755                                (inst addu nsp-tn cur-nfp
756                                      (bytes-needed-for-non-descriptor-stack-frame))))
757                             `((:comp-lra
758                                (inst compute-lra-from-code
759                                      return-pc-pass code-tn lra-label temp))
760                               (:frob-nfp
761                                (store-stack-tn nfp-save cur-nfp))
762                               (:save-fp
763                                (move ocfp-pass cfp-tn t))
764                               (:load-fp
765                                ,(if variable
766                                     '(move cfp-tn new-fp)
767                                     '(if (> nargs register-arg-count)
768                                          (move cfp-tn new-fp)
769                                          (move cfp-tn csp-tn)))
770                                (trace-table-entry trace-table-call-site))))
771                       ((nil)
772                        (inst nop))))))
773
774            ,@(if named
775                  `((sc-case name
776                      (descriptor-reg (move name-pass name))
777                      (control-stack
778                       (inst lw name-pass cfp-tn
779                             (ash (tn-offset name) word-shift))
780                       (do-next-filler))
781                      (constant
782                       (inst lw name-pass code-tn
783                             (- (ash (tn-offset name) word-shift)
784                                other-pointer-lowtag))
785                       (do-next-filler)))
786                    (inst lw entry-point name-pass
787                          (- (ash fdefn-raw-addr-slot word-shift)
788                             other-pointer-lowtag))
789                    (do-next-filler))
790                  `((sc-case arg-fun
791                      (descriptor-reg (move lexenv arg-fun))
792                      (control-stack
793                       (inst lw lexenv cfp-tn
794                             (ash (tn-offset arg-fun) word-shift))
795                       (do-next-filler))
796                      (constant
797                       (inst lw lexenv code-tn
798                             (- (ash (tn-offset arg-fun) word-shift)
799                                other-pointer-lowtag))
800                       (do-next-filler)))
801                    (inst lw function lexenv
802                          (- (ash closure-fun-slot word-shift)
803                             fun-pointer-lowtag))
804                    (do-next-filler)
805                    (inst addu entry-point function
806                          (- (ash simple-fun-code-offset word-shift)
807                             fun-pointer-lowtag))))
808            (loop
809              (if (cdr filler)
810                  (do-next-filler)
811                  (return)))
812            
813            (do-next-filler)
814            (note-this-location vop :call-site)
815            (inst j entry-point)
816            (inst nop))
817
818          ,@(ecase return
819              (:fixed
820               '((trace-table-entry trace-table-normal)
821                 (emit-return-pc lra-label)
822                 (default-unknown-values vop values nvals
823                                         move-temp temp lra-label)
824                 (when cur-nfp
825                   (load-stack-tn cur-nfp nfp-save))))
826              (:unknown
827               '((trace-table-entry trace-table-normal)
828                 (emit-return-pc lra-label)
829                 (note-this-location vop :unknown-return)
830                 (receive-unknown-values values-start nvals start count
831                                         lra-label temp)
832                 (when cur-nfp
833                   (load-stack-tn cur-nfp nfp-save))))
834              (:tail))))))
835
836
837 (define-full-call call nil :fixed nil)
838 (define-full-call call-named t :fixed nil)
839 (define-full-call multiple-call nil :unknown nil)
840 (define-full-call multiple-call-named t :unknown nil)
841 (define-full-call tail-call nil :tail nil)
842 (define-full-call tail-call-named t :tail nil)
843
844 (define-full-call call-variable nil :fixed t)
845 (define-full-call multiple-call-variable nil :unknown t)
846
847
848 ;;; Defined separately, since needs special code that BLT's the arguments
849 ;;; down.
850 ;;;
851 (define-vop (tail-call-variable)
852   (:args
853    (args-arg :scs (any-reg) :target args)
854    (function-arg :scs (descriptor-reg) :target lexenv)
855    (ocfp-arg :scs (any-reg) :target ocfp)
856    (lra-arg :scs (descriptor-reg) :target lra))
857
858   (:temporary (:sc any-reg :offset nl0-offset :from (:argument 0)) args)
859   (:temporary (:sc any-reg :offset lexenv-offset :from (:argument 1)) lexenv)
860   (:temporary (:sc any-reg :offset ocfp-offset :from (:argument 2)) ocfp)
861   (:temporary (:sc any-reg :offset lra-offset :from (:argument 3)) lra)
862
863   (:vop-var vop)
864
865   (:generator 75
866
867     ;; Move these into the passing locations if they are not already there.
868     (move args args-arg)
869     (move lexenv function-arg)
870     (move ocfp ocfp-arg)
871     (move lra lra-arg)
872
873     ;; Clear the number stack if anything is there and jump to the
874     ;; assembly-routine that does the bliting.
875     (inst j (make-fixup 'tail-call-variable :assembly-routine))
876     (let ((cur-nfp (current-nfp-tn vop)))
877       (if cur-nfp
878         (inst addu nsp-tn cur-nfp
879               (bytes-needed-for-non-descriptor-stack-frame))
880         (inst nop)))))
881
882 \f
883 ;;;; Unknown values return:
884
885 ;;; Return a single value using the unknown-values convention.
886 ;;; 
887 (define-vop (return-single)
888   (:args (ocfp :scs (any-reg))
889          (return-pc :scs (descriptor-reg))
890          (value))
891   (:ignore value)
892   (:temporary (:scs (interior-reg)) lip)
893   (:vop-var vop)
894   (:generator 6
895     ;; Clear the number stack.
896     (trace-table-entry trace-table-fun-epilogue)
897     (let ((cur-nfp (current-nfp-tn vop)))
898       (when cur-nfp
899         (inst addu nsp-tn cur-nfp
900               (bytes-needed-for-non-descriptor-stack-frame))))
901     ;; Clear the control stack, and restore the frame pointer.
902     (move csp-tn cfp-tn)
903     (move cfp-tn ocfp)
904     ;; Out of here.
905     (lisp-return return-pc lip :offset 2)
906     (trace-table-entry trace-table-normal)))
907
908
909 ;;; Do unknown-values return of a fixed number of values.  The Values are
910 ;;; required to be set up in the standard passing locations.  Nvals is the
911 ;;; number of values returned.
912 ;;;
913 ;;; If returning a single value, then deallocate the current frame, restore
914 ;;; FP and jump to the single-value entry at Return-PC + 8.
915 ;;;
916 ;;; If returning other than one value, then load the number of values returned,
917 ;;; NIL out unsupplied values registers, restore FP and return at Return-PC.
918 ;;; When there are stack values, we must initialize the argument pointer to
919 ;;; point to the beginning of the values block (which is the beginning of the
920 ;;; current frame.)
921 ;;;
922 (define-vop (return)
923   (:args (ocfp :scs (any-reg))
924          (return-pc :scs (descriptor-reg) :to (:eval 1))
925          (values :more t))
926   (:ignore values)
927   (:info nvals)
928   (:temporary (:sc descriptor-reg :offset a0-offset :from (:eval 0)) a0)
929   (:temporary (:sc descriptor-reg :offset a1-offset :from (:eval 0)) a1)
930   (:temporary (:sc descriptor-reg :offset a2-offset :from (:eval 0)) a2)
931   (:temporary (:sc descriptor-reg :offset a3-offset :from (:eval 0)) a3)
932   (:temporary (:sc descriptor-reg :offset a4-offset :from (:eval 0)) a4)
933   (:temporary (:sc descriptor-reg :offset a5-offset :from (:eval 0)) a5)
934   (:temporary (:sc any-reg :offset nargs-offset) nargs)
935   (:temporary (:sc any-reg :offset ocfp-offset) val-ptr)
936   (:temporary (:scs (interior-reg)) lip)
937   (:vop-var vop)
938   (:generator 6
939     ;; Clear the number stack.
940     (trace-table-entry trace-table-fun-epilogue)
941     (let ((cur-nfp (current-nfp-tn vop)))
942       (when cur-nfp
943         (inst addu nsp-tn cur-nfp
944               (bytes-needed-for-non-descriptor-stack-frame))))
945     ;; Establish the values pointer and values count.
946     (move val-ptr cfp-tn)
947     (inst li nargs (fixnumize nvals))
948     ;; restore the frame pointer and clear as much of the control
949     ;; stack as possible.
950     (move cfp-tn ocfp)
951     (inst addu csp-tn val-ptr (* nvals n-word-bytes))
952     ;; pre-default any argument register that need it.
953     (when (< nvals register-arg-count)
954       (dolist (reg (subseq (list a0 a1 a2 a3 a4 a5) nvals))
955         (move reg null-tn)))
956     ;; And away we go.
957     (lisp-return return-pc lip)
958     (trace-table-entry trace-table-normal)))
959
960 ;;; Do unknown-values return of an arbitrary number of values (passed on the
961 ;;; stack.)  We check for the common case of a single return value, and do that
962 ;;; inline using the normal single value return convention.  Otherwise, we
963 ;;; branch off to code that calls an assembly-routine.
964 ;;;
965 (define-vop (return-multiple)
966   (:args (ocfp-arg :scs (any-reg) :target ocfp)
967          (lra-arg :scs (descriptor-reg) :target lra)
968          (vals-arg :scs (any-reg) :target vals)
969          (nvals-arg :scs (any-reg) :target nvals))
970
971   (:temporary (:sc any-reg :offset nl1-offset :from (:argument 0)) ocfp)
972   (:temporary (:sc descriptor-reg :offset lra-offset :from (:argument 1)) lra)
973   (:temporary (:sc any-reg :offset nl0-offset :from (:argument 2)) vals)
974   (:temporary (:sc any-reg :offset nargs-offset :from (:argument 3)) nvals)
975   (:temporary (:sc descriptor-reg :offset a0-offset) a0)
976   (:temporary (:scs (interior-reg)) lip)
977
978   (:vop-var vop)
979
980   (:generator 13
981     (trace-table-entry trace-table-fun-epilogue)
982     (let ((not-single (gen-label)))
983       ;; Clear the number stack.
984       (let ((cur-nfp (current-nfp-tn vop)))
985         (when cur-nfp
986           (inst addu nsp-tn cur-nfp
987                 (bytes-needed-for-non-descriptor-stack-frame))))
988
989       ;; Check for the single case.
990       (inst li a0 (fixnumize 1))
991       (inst bne nvals-arg a0 not-single)
992       (inst lw a0 vals-arg)
993
994       ;; Return with one value.
995       (move csp-tn cfp-tn)
996       (move cfp-tn ocfp-arg)
997       (lisp-return lra-arg lip :offset 2)
998
999       ;; Nope, not the single case.
1000       (emit-label not-single)
1001       (move ocfp ocfp-arg)
1002       (move lra lra-arg)
1003       (move vals vals-arg)
1004
1005       (inst j (make-fixup 'return-multiple :assembly-routine))
1006       (move nvals nvals-arg t))
1007     (trace-table-entry trace-table-normal)))
1008
1009
1010 \f
1011 ;;;; XEP hackery:
1012
1013
1014 ;;; We don't need to do anything special for regular functions.
1015 ;;;
1016 (define-vop (setup-environment)
1017   (:info label)
1018   (:ignore label)
1019   (:generator 0
1020     ;; Don't bother doing anything.
1021     ))
1022
1023 ;;; Get the lexical environment from it's passing location.
1024 ;;;
1025 (define-vop (setup-closure-environment)
1026   (:temporary (:sc descriptor-reg :offset lexenv-offset :target closure
1027                :to (:result 0))
1028               lexenv)
1029   (:results (closure :scs (descriptor-reg)))
1030   (:info label)
1031   (:ignore label)
1032   (:generator 6
1033     ;; Get result.
1034     (move closure lexenv)))
1035
1036 ;;; Copy a more arg from the argument area to the end of the current frame.
1037 ;;; Fixed is the number of non-more arguments. 
1038 ;;;
1039 (define-vop (copy-more-arg)
1040   (:temporary (:sc any-reg :offset nl0-offset) result)
1041   (:temporary (:sc any-reg :offset nl1-offset) count)
1042   (:temporary (:sc any-reg :offset nl2-offset) src)
1043   (:temporary (:sc any-reg :offset nl3-offset) dst)
1044   (:temporary (:sc descriptor-reg :offset l0-offset) temp)
1045   (:info fixed)
1046   (:generator 20
1047     (let ((loop (gen-label))
1048           (do-regs (gen-label))
1049           (done (gen-label)))
1050       (when (< fixed register-arg-count)
1051         ;; Save a pointer to the results so we can fill in register args.
1052         ;; We don't need this if there are more fixed args than reg args.
1053         (move result csp-tn))
1054       ;; Allocate the space on the stack.
1055       (cond ((zerop fixed)
1056              (inst beq nargs-tn done)
1057              (inst addu csp-tn csp-tn nargs-tn))
1058             (t
1059              (inst addu count nargs-tn (fixnumize (- fixed)))
1060              (inst blez count done)
1061              (inst nop)
1062              (inst addu csp-tn csp-tn count)))
1063       (when (< fixed register-arg-count)
1064         ;; We must stop when we run out of stack args, not when we run out of
1065         ;; more args.
1066         (inst addu count nargs-tn (fixnumize (- register-arg-count))))
1067       ;; Everything of interest in registers.
1068       (inst blez count do-regs)
1069       ;; Initialize dst to be end of stack.
1070       (move dst csp-tn t)
1071       ;; Initialize src to be end of args.
1072       (inst addu src cfp-tn nargs-tn)
1073
1074       (emit-label loop)
1075       ;; *--dst = *--src, --count
1076       (inst addu src src (- n-word-bytes))
1077       (inst addu count count (fixnumize -1))
1078       (loadw temp src)
1079       (inst addu dst dst (- n-word-bytes))
1080       (inst bgtz count loop)
1081       (storew temp dst)
1082
1083       (emit-label do-regs)
1084       (when (< fixed register-arg-count)
1085         ;; Now we have to deposit any more args that showed up in registers.
1086         ;; We know there is at least one more arg, otherwise we would have
1087         ;; branched to done up at the top.
1088         (inst subu count nargs-tn (fixnumize (1+ fixed)))
1089         (do ((i fixed (1+ i)))
1090             ((>= i register-arg-count))
1091           ;; Is this the last one?
1092           (inst beq count done)
1093           ;; Store it relative to the pointer saved at the start.
1094           (storew (nth i register-arg-tns) result (- i fixed))
1095           ;; Decrement count.
1096           (inst subu count (fixnumize 1))))
1097       (emit-label done))))
1098
1099
1100 ;;; More args are stored consequtively on the stack, starting immediately at
1101 ;;; the context pointer.  The context pointer is not typed, so the lowtag is 0.
1102 ;;;
1103 (define-full-reffer more-arg * 0 0 (descriptor-reg any-reg) * %more-arg)
1104
1105
1106 ;;; Turn more arg (context, count) into a list.
1107 ;;;
1108 (define-vop (listify-rest-args)
1109   (:args (context-arg :target context :scs (descriptor-reg))
1110          (count-arg :target count :scs (any-reg)))
1111   (:arg-types * tagged-num)
1112   (:temporary (:scs (any-reg) :from (:argument 0)) context)
1113   (:temporary (:scs (any-reg) :from (:argument 1)) count)
1114   (:temporary (:scs (descriptor-reg) :from :eval) temp dst)
1115   (:temporary (:sc non-descriptor-reg :offset nl4-offset) pa-flag)
1116   (:results (result :scs (descriptor-reg)))
1117   (:translate %listify-rest-args)
1118   (:policy :safe)
1119   (:generator 20
1120     (let ((enter (gen-label))
1121           (loop (gen-label))
1122           (done (gen-label)))
1123       (move context context-arg)
1124       (move count count-arg)
1125       ;; Check to see if there are any arguments.
1126       (inst beq count zero-tn done)
1127       (move result null-tn t)
1128
1129       ;; We need to do this atomically.
1130       (pseudo-atomic (pa-flag)
1131         ;; Allocate a cons (2 words) for each item.
1132         (inst or result alloc-tn list-pointer-lowtag)
1133         (move dst result)
1134         (inst sll temp count 1)
1135         (inst b enter)
1136         (inst addu alloc-tn alloc-tn temp)
1137
1138         ;; Store the current cons in the cdr of the previous cons.
1139         (emit-label loop)
1140         (inst addu dst dst (* 2 n-word-bytes))
1141         (storew dst dst -1 list-pointer-lowtag)
1142
1143         (emit-label enter)
1144         ;; Grab one value.
1145         (loadw temp context)
1146         (inst addu context context n-word-bytes)
1147
1148         ;; Dec count, and if != zero, go back for more.
1149         (inst addu count count (fixnumize -1))
1150         (inst bne count zero-tn loop)
1151
1152         ;; Store the value in the car (in delay slot)
1153         (storew temp dst 0 list-pointer-lowtag)
1154
1155         ;; NIL out the last cons.
1156         (storew null-tn dst 1 list-pointer-lowtag))
1157       (emit-label done))))
1158
1159 ;;; Return the location and size of the more arg glob created by Copy-More-Arg.
1160 ;;; Supplied is the total number of arguments supplied (originally passed in
1161 ;;; NARGS.)  Fixed is the number of non-rest arguments.
1162 ;;;
1163 ;;; We must duplicate some of the work done by Copy-More-Arg, since at that
1164 ;;; time the environment is in a pretty brain-damaged state, preventing this
1165 ;;; info from being returned as values.  What we do is compute
1166 ;;; supplied - fixed, and return a pointer that many words below the current
1167 ;;; stack top.
1168 ;;;
1169 (define-vop (more-arg-context)
1170   (:policy :fast-safe)
1171   (:translate sb!c::%more-arg-context)
1172   (:args (supplied :scs (any-reg)))
1173   (:arg-types tagged-num (:constant fixnum))
1174   (:info fixed)
1175   (:results (context :scs (descriptor-reg))
1176             (count :scs (any-reg)))
1177   (:result-types t tagged-num)
1178   (:note "more-arg-context")
1179   (:generator 5
1180     (inst addu count supplied (fixnumize (- fixed)))
1181     (inst subu context csp-tn count)))
1182
1183
1184 ;;; Signal wrong argument count error if Nargs isn't = to Count.
1185 ;;;
1186 (define-vop (verify-arg-count)
1187   (:policy :fast-safe)
1188   (:translate sb!c::%verify-arg-count)
1189   (:args (nargs :scs (any-reg)))
1190   (:arg-types positive-fixnum (:constant t))
1191   (:temporary (:scs (any-reg) :type fixnum) temp)
1192   (:info count)
1193   (:vop-var vop)
1194   (:save-p :compute-only)
1195   (:generator 3
1196     (let ((err-lab
1197            (generate-error-code vop invalid-arg-count-error nargs)))
1198       (cond ((zerop count)
1199              (inst bne nargs zero-tn err-lab)
1200              (inst nop))
1201             (t
1202              (inst li temp (fixnumize count))
1203              (inst bne nargs temp err-lab)
1204              (inst nop))))))
1205
1206 ;;; Various other error signalers.
1207 ;;;
1208 (macrolet ((frob (name error translate &rest args)
1209              `(define-vop (,name)
1210                 ,@(when translate
1211                     `((:policy :fast-safe)
1212                       (:translate ,translate)))
1213                 (:args ,@(mapcar #'(lambda (arg)
1214                                      `(,arg :scs (any-reg descriptor-reg)))
1215                                  args))
1216                 (:vop-var vop)
1217                 (:save-p :compute-only)
1218                 (:generator 1000
1219                   (error-call vop ,error ,@args)))))
1220   (frob arg-count-error invalid-arg-count-error
1221     sb!c::%arg-count-error nargs)
1222   (frob type-check-error object-not-type-error sb!c::%type-check-error
1223     object type)
1224   (frob layout-invalid-error layout-invalid-error sb!c::%layout-invalid-error
1225     object layout)
1226   (frob odd-key-args-error odd-key-args-error
1227     sb!c::%odd-key-args-error)
1228   (frob unknown-key-arg-error unknown-key-arg-error
1229     sb!c::%unknown-key-arg-error key)
1230   (frob nil-fun-returned-error nil-fun-returned-error nil fun))