1.0.21.34: fix build on x86/x86-64 lutex platforms
[sbcl.git] / src / compiler / x86 / insts.lisp
1 ;;;; that part of the description of the x86 instruction set (for
2 ;;;; 80386 and above) which can live on the cross-compilation host
3
4 ;;;; This software is part of the SBCL system. See the README file for
5 ;;;; more information.
6 ;;;;
7 ;;;; This software is derived from the CMU CL system, which was
8 ;;;; written at Carnegie Mellon University and released into the
9 ;;;; public domain. The software is in the public domain and is
10 ;;;; provided with absolutely no warranty. See the COPYING and CREDITS
11 ;;;; files for more information.
12
13 (in-package "SB!VM")
14 ;;; FIXME: SB!DISASSEM: prefixes are used so widely in this file that
15 ;;; I wonder whether the separation of the disassembler from the
16 ;;; virtual machine is valid or adds value.
17
18 ;;; Note: In CMU CL, this used to be a call to SET-DISASSEM-PARAMS.
19 (setf sb!disassem:*disassem-inst-alignment-bytes* 1)
20
21 (deftype reg () '(unsigned-byte 3))
22
23 (def!constant +default-operand-size+ :dword)
24 \f
25 (eval-when (#-sb-xc :compile-toplevel :load-toplevel :execute)
26
27 (defun offset-next (value dstate)
28   (declare (type integer value)
29            (type sb!disassem:disassem-state dstate))
30   (+ (sb!disassem:dstate-next-addr dstate) value))
31
32 (defparameter *default-address-size*
33   ;; Actually, :DWORD is the only one really supported.
34   :dword)
35
36 (defparameter *byte-reg-names*
37   #(al cl dl bl ah ch dh bh))
38 (defparameter *word-reg-names*
39   #(ax cx dx bx sp bp si di))
40 (defparameter *dword-reg-names*
41   #(eax ecx edx ebx esp ebp esi edi))
42
43 (defun print-reg-with-width (value width stream dstate)
44   (declare (ignore dstate))
45   (princ (aref (ecase width
46                  (:byte *byte-reg-names*)
47                  (:word *word-reg-names*)
48                  (:dword *dword-reg-names*))
49                value)
50          stream)
51   ;; XXX plus should do some source-var notes
52   )
53
54 (defun print-reg (value stream dstate)
55   (declare (type reg value)
56            (type stream stream)
57            (type sb!disassem:disassem-state dstate))
58   (print-reg-with-width value
59                         (sb!disassem:dstate-get-prop dstate 'width)
60                         stream
61                         dstate))
62
63 (defun print-word-reg (value stream dstate)
64   (declare (type reg value)
65            (type stream stream)
66            (type sb!disassem:disassem-state dstate))
67   (print-reg-with-width value
68                         (or (sb!disassem:dstate-get-prop dstate 'word-width)
69                             +default-operand-size+)
70                         stream
71                         dstate))
72
73 (defun print-byte-reg (value stream dstate)
74   (declare (type reg value)
75            (type stream stream)
76            (type sb!disassem:disassem-state dstate))
77   (print-reg-with-width value :byte stream dstate))
78
79 (defun print-addr-reg (value stream dstate)
80   (declare (type reg value)
81            (type stream stream)
82            (type sb!disassem:disassem-state dstate))
83   (print-reg-with-width value *default-address-size* stream dstate))
84
85 (defun print-reg/mem (value stream dstate)
86   (declare (type (or list reg) value)
87            (type stream stream)
88            (type sb!disassem:disassem-state dstate))
89   (if (typep value 'reg)
90       (print-reg value stream dstate)
91       (print-mem-access value stream nil dstate)))
92
93 ;; Same as print-reg/mem, but prints an explicit size indicator for
94 ;; memory references.
95 (defun print-sized-reg/mem (value stream dstate)
96   (declare (type (or list reg) value)
97            (type stream stream)
98            (type sb!disassem:disassem-state dstate))
99   (if (typep value 'reg)
100       (print-reg value stream dstate)
101       (print-mem-access value stream t dstate)))
102
103 (defun print-byte-reg/mem (value stream dstate)
104   (declare (type (or list reg) value)
105            (type stream stream)
106            (type sb!disassem:disassem-state dstate))
107   (if (typep value 'reg)
108       (print-byte-reg value stream dstate)
109       (print-mem-access value stream t dstate)))
110
111 (defun print-word-reg/mem (value stream dstate)
112   (declare (type (or list reg) value)
113            (type stream stream)
114            (type sb!disassem:disassem-state dstate))
115   (if (typep value 'reg)
116       (print-word-reg value stream dstate)
117       (print-mem-access value stream nil dstate)))
118
119 (defun print-label (value stream dstate)
120   (declare (ignore dstate))
121   (sb!disassem:princ16 value stream))
122
123 ;;; Returns either an integer, meaning a register, or a list of
124 ;;; (BASE-REG OFFSET INDEX-REG INDEX-SCALE), where any component
125 ;;; may be missing or nil to indicate that it's not used or has the
126 ;;; obvious default value (e.g., 1 for the index-scale).
127 (defun prefilter-reg/mem (value dstate)
128   (declare (type list value)
129            (type sb!disassem:disassem-state dstate))
130   (let ((mod (car value))
131         (r/m (cadr value)))
132     (declare (type (unsigned-byte 2) mod)
133              (type (unsigned-byte 3) r/m))
134     (cond ((= mod #b11)
135            ;; registers
136            r/m)
137           ((= r/m #b100)
138            ;; sib byte
139            (let ((sib (sb!disassem:read-suffix 8 dstate)))
140              (declare (type (unsigned-byte 8) sib))
141              (let ((base-reg (ldb (byte 3 0) sib))
142                    (index-reg (ldb (byte 3 3) sib))
143                    (index-scale (ldb (byte 2 6) sib)))
144                (declare (type (unsigned-byte 3) base-reg index-reg)
145                         (type (unsigned-byte 2) index-scale))
146                (let* ((offset
147                        (case mod
148                          (#b00
149                           (if (= base-reg #b101)
150                               (sb!disassem:read-signed-suffix 32 dstate)
151                               nil))
152                          (#b01
153                           (sb!disassem:read-signed-suffix 8 dstate))
154                          (#b10
155                           (sb!disassem:read-signed-suffix 32 dstate)))))
156                  (list (if (and (= mod #b00) (= base-reg #b101)) nil base-reg)
157                        offset
158                        (if (= index-reg #b100) nil index-reg)
159                        (ash 1 index-scale))))))
160           ((and (= mod #b00) (= r/m #b101))
161            (list nil (sb!disassem:read-signed-suffix 32 dstate)) )
162           ((= mod #b00)
163            (list r/m))
164           ((= mod #b01)
165            (list r/m (sb!disassem:read-signed-suffix 8 dstate)))
166           (t                            ; (= mod #b10)
167            (list r/m (sb!disassem:read-signed-suffix 32 dstate))))))
168
169
170 ;;; This is a sort of bogus prefilter that just stores the info globally for
171 ;;; other people to use; it probably never gets printed.
172 (defun prefilter-width (value dstate)
173   (setf (sb!disassem:dstate-get-prop dstate 'width)
174         (if (zerop value)
175             :byte
176             (let ((word-width
177                    ;; set by a prefix instruction
178                    (or (sb!disassem:dstate-get-prop dstate 'word-width)
179                        +default-operand-size+)))
180               (when (not (eql word-width +default-operand-size+))
181                 ;; Reset it.
182                 (setf (sb!disassem:dstate-get-prop dstate 'word-width)
183                       +default-operand-size+))
184               word-width))))
185
186 (defun read-address (value dstate)
187   (declare (ignore value))              ; always nil anyway
188   (sb!disassem:read-suffix (width-bits *default-address-size*) dstate))
189
190 (defun width-bits (width)
191   (ecase width
192     (:byte 8)
193     (:word 16)
194     (:dword 32)
195     (:float 32)
196     (:double 64)))
197
198 ) ; EVAL-WHEN
199 \f
200 ;;;; disassembler argument types
201
202 (sb!disassem:define-arg-type displacement
203   :sign-extend t
204   :use-label #'offset-next
205   :printer (lambda (value stream dstate)
206              (sb!disassem:maybe-note-assembler-routine value nil dstate)
207              (print-label value stream dstate)))
208
209 (sb!disassem:define-arg-type accum
210   :printer (lambda (value stream dstate)
211              (declare (ignore value)
212                       (type stream stream)
213                       (type sb!disassem:disassem-state dstate))
214              (print-reg 0 stream dstate)))
215
216 (sb!disassem:define-arg-type word-accum
217   :printer (lambda (value stream dstate)
218              (declare (ignore value)
219                       (type stream stream)
220                       (type sb!disassem:disassem-state dstate))
221              (print-word-reg 0 stream dstate)))
222
223 (sb!disassem:define-arg-type reg
224   :printer #'print-reg)
225
226 (sb!disassem:define-arg-type addr-reg
227   :printer #'print-addr-reg)
228
229 (sb!disassem:define-arg-type word-reg
230   :printer #'print-word-reg)
231
232 (sb!disassem:define-arg-type imm-addr
233   :prefilter #'read-address
234   :printer #'print-label)
235
236 (sb!disassem:define-arg-type imm-data
237   :prefilter (lambda (value dstate)
238                (declare (ignore value)) ; always nil anyway
239                (sb!disassem:read-suffix
240                 (width-bits (sb!disassem:dstate-get-prop dstate 'width))
241                 dstate)))
242
243 (sb!disassem:define-arg-type signed-imm-data
244   :prefilter (lambda (value dstate)
245                (declare (ignore value)) ; always nil anyway
246                (let ((width (sb!disassem:dstate-get-prop dstate 'width)))
247                  (sb!disassem:read-signed-suffix (width-bits width) dstate))))
248
249 (sb!disassem:define-arg-type signed-imm-byte
250   :prefilter (lambda (value dstate)
251                (declare (ignore value)) ; always nil anyway
252                (sb!disassem:read-signed-suffix 8 dstate)))
253
254 (sb!disassem:define-arg-type signed-imm-dword
255   :prefilter (lambda (value dstate)
256                (declare (ignore value)) ; always nil anyway
257                (sb!disassem:read-signed-suffix 32 dstate)))
258
259 (sb!disassem:define-arg-type imm-word
260   :prefilter (lambda (value dstate)
261                (declare (ignore value)) ; always nil anyway
262                (let ((width
263                       (or (sb!disassem:dstate-get-prop dstate 'word-width)
264                           +default-operand-size+)))
265                  (sb!disassem:read-suffix (width-bits width) dstate))))
266
267 (sb!disassem:define-arg-type signed-imm-word
268   :prefilter (lambda (value dstate)
269                (declare (ignore value)) ; always nil anyway
270                (let ((width
271                       (or (sb!disassem:dstate-get-prop dstate 'word-width)
272                           +default-operand-size+)))
273                  (sb!disassem:read-signed-suffix (width-bits width) dstate))))
274
275 ;;; needed for the ret imm16 instruction
276 (sb!disassem:define-arg-type imm-word-16
277   :prefilter (lambda (value dstate)
278                (declare (ignore value)) ; always nil anyway
279                (sb!disassem:read-suffix 16 dstate)))
280
281 (sb!disassem:define-arg-type reg/mem
282   :prefilter #'prefilter-reg/mem
283   :printer #'print-reg/mem)
284 (sb!disassem:define-arg-type sized-reg/mem
285   ;; Same as reg/mem, but prints an explicit size indicator for
286   ;; memory references.
287   :prefilter #'prefilter-reg/mem
288   :printer #'print-sized-reg/mem)
289 (sb!disassem:define-arg-type byte-reg/mem
290   :prefilter #'prefilter-reg/mem
291   :printer #'print-byte-reg/mem)
292 (sb!disassem:define-arg-type word-reg/mem
293   :prefilter #'prefilter-reg/mem
294   :printer #'print-word-reg/mem)
295
296 ;;; added by jrd
297 (eval-when (#-sb-xc :compile-toplevel :load-toplevel :execute)
298 (defun print-fp-reg (value stream dstate)
299   (declare (ignore dstate))
300   (format stream "FR~D" value))
301 (defun prefilter-fp-reg (value dstate)
302   ;; just return it
303   (declare (ignore dstate))
304   value)
305 ) ; EVAL-WHEN
306 (sb!disassem:define-arg-type fp-reg
307                              :prefilter #'prefilter-fp-reg
308                              :printer #'print-fp-reg)
309
310 (sb!disassem:define-arg-type width
311   :prefilter #'prefilter-width
312   :printer (lambda (value stream dstate)
313              (if;; (zerop value)
314                  (or (null value)
315                      (and (numberp value) (zerop value))) ; zzz jrd
316                  (princ 'b stream)
317                  (let ((word-width
318                         ;; set by a prefix instruction
319                         (or (sb!disassem:dstate-get-prop dstate 'word-width)
320                             +default-operand-size+)))
321                    (princ (schar (symbol-name word-width) 0) stream)))))
322
323 (eval-when (:compile-toplevel :load-toplevel :execute)
324 (defparameter *conditions*
325   '((:o . 0)
326     (:no . 1)
327     (:b . 2) (:nae . 2) (:c . 2)
328     (:nb . 3) (:ae . 3) (:nc . 3)
329     (:eq . 4) (:e . 4) (:z . 4)
330     (:ne . 5) (:nz . 5)
331     (:be . 6) (:na . 6)
332     (:nbe . 7) (:a . 7)
333     (:s . 8)
334     (:ns . 9)
335     (:p . 10) (:pe . 10)
336     (:np . 11) (:po . 11)
337     (:l . 12) (:nge . 12)
338     (:nl . 13) (:ge . 13)
339     (:le . 14) (:ng . 14)
340     (:nle . 15) (:g . 15)))
341 (defparameter *condition-name-vec*
342   (let ((vec (make-array 16 :initial-element nil)))
343     (dolist (cond *conditions*)
344       (when (null (aref vec (cdr cond)))
345         (setf (aref vec (cdr cond)) (car cond))))
346     vec))
347 ) ; EVAL-WHEN
348
349 ;;; Set assembler parameters. (In CMU CL, this was done with
350 ;;; a call to a macro DEF-ASSEMBLER-PARAMS.)
351 (eval-when (:compile-toplevel :load-toplevel :execute)
352   (setf sb!assem:*assem-scheduler-p* nil))
353
354 (sb!disassem:define-arg-type condition-code
355   :printer *condition-name-vec*)
356
357 (defun conditional-opcode (condition)
358   (cdr (assoc condition *conditions* :test #'eq)))
359 \f
360 ;;;; disassembler instruction formats
361
362 (eval-when (:compile-toplevel :execute)
363   (defun swap-if (direction field1 separator field2)
364     `(:if (,direction :constant 0)
365           (,field1 ,separator ,field2)
366           (,field2 ,separator ,field1))))
367
368 (sb!disassem:define-instruction-format (byte 8 :default-printer '(:name))
369   (op    :field (byte 8 0))
370   ;; optional fields
371   (accum :type 'accum)
372   (imm))
373
374 (sb!disassem:define-instruction-format (simple 8)
375   (op    :field (byte 7 1))
376   (width :field (byte 1 0) :type 'width)
377   ;; optional fields
378   (accum :type 'accum)
379   (imm))
380
381 (sb!disassem:define-instruction-format (two-bytes 16
382                                         :default-printer '(:name))
383   (op :fields (list (byte 8 0) (byte 8 8))))
384
385 ;;; Same as simple, but with direction bit
386 (sb!disassem:define-instruction-format (simple-dir 8 :include 'simple)
387   (op :field (byte 6 2))
388   (dir :field (byte 1 1)))
389
390 ;;; Same as simple, but with the immediate value occurring by default,
391 ;;; and with an appropiate printer.
392 (sb!disassem:define-instruction-format (accum-imm 8
393                                      :include 'simple
394                                      :default-printer '(:name
395                                                         :tab accum ", " imm))
396   (imm :type 'imm-data))
397
398 (sb!disassem:define-instruction-format (reg-no-width 8
399                                      :default-printer '(:name :tab reg))
400   (op    :field (byte 5 3))
401   (reg   :field (byte 3 0) :type 'word-reg)
402   ;; optional fields
403   (accum :type 'word-accum)
404   (imm))
405
406 ;;; adds a width field to reg-no-width
407 (sb!disassem:define-instruction-format (reg 8
408                                         :default-printer '(:name :tab reg))
409   (op    :field (byte 4 4))
410   (width :field (byte 1 3) :type 'width)
411   (reg   :field (byte 3 0) :type 'reg)
412   ;; optional fields
413   (accum :type 'accum)
414   (imm)
415   )
416
417 ;;; Same as reg, but with direction bit
418 (sb!disassem:define-instruction-format (reg-dir 8 :include 'reg)
419   (op  :field (byte 3 5))
420   (dir :field (byte 1 4)))
421
422 (sb!disassem:define-instruction-format (two-bytes 16
423                                         :default-printer '(:name))
424   (op :fields (list (byte 8 0) (byte 8 8))))
425
426 (sb!disassem:define-instruction-format (reg-reg/mem 16
427                                         :default-printer
428                                         `(:name :tab reg ", " reg/mem))
429   (op      :field (byte 7 1))
430   (width   :field (byte 1 0)    :type 'width)
431   (reg/mem :fields (list (byte 2 14) (byte 3 8))
432                                 :type 'reg/mem)
433   (reg     :field (byte 3 11)   :type 'reg)
434   ;; optional fields
435   (imm))
436
437 ;;; same as reg-reg/mem, but with direction bit
438 (sb!disassem:define-instruction-format (reg-reg/mem-dir 16
439                                         :include 'reg-reg/mem
440                                         :default-printer
441                                         `(:name
442                                           :tab
443                                           ,(swap-if 'dir 'reg/mem ", " 'reg)))
444   (op  :field (byte 6 2))
445   (dir :field (byte 1 1)))
446
447 ;;; Same as reg-rem/mem, but uses the reg field as a second op code.
448 (sb!disassem:define-instruction-format (reg/mem 16
449                                         :default-printer '(:name :tab reg/mem))
450   (op      :fields (list (byte 7 1) (byte 3 11)))
451   (width   :field (byte 1 0)    :type 'width)
452   (reg/mem :fields (list (byte 2 14) (byte 3 8))
453                                 :type 'sized-reg/mem)
454   ;; optional fields
455   (imm))
456
457 ;;; Same as reg/mem, but with the immediate value occurring by default,
458 ;;; and with an appropiate printer.
459 (sb!disassem:define-instruction-format (reg/mem-imm 16
460                                         :include 'reg/mem
461                                         :default-printer
462                                         '(:name :tab reg/mem ", " imm))
463   (reg/mem :type 'sized-reg/mem)
464   (imm     :type 'imm-data))
465
466 ;;; Same as reg/mem, but with using the accumulator in the default printer
467 (sb!disassem:define-instruction-format
468     (accum-reg/mem 16
469      :include 'reg/mem :default-printer '(:name :tab accum ", " reg/mem))
470   (reg/mem :type 'reg/mem)              ; don't need a size
471   (accum :type 'accum))
472
473 ;;; Same as reg-reg/mem, but with a prefix of #b00001111
474 (sb!disassem:define-instruction-format (ext-reg-reg/mem 24
475                                         :default-printer
476                                         `(:name :tab reg ", " reg/mem))
477   (prefix  :field (byte 8 0)    :value #b00001111)
478   (op      :field (byte 7 9))
479   (width   :field (byte 1 8)    :type 'width)
480   (reg/mem :fields (list (byte 2 22) (byte 3 16))
481                                 :type 'reg/mem)
482   (reg     :field (byte 3 19)   :type 'reg)
483   ;; optional fields
484   (imm))
485
486 ;;; Same as reg/mem, but with a prefix of #b00001111
487 (sb!disassem:define-instruction-format (ext-reg/mem 24
488                                         :default-printer '(:name :tab reg/mem))
489   (prefix  :field (byte 8 0)    :value #b00001111)
490   (op      :fields (list (byte 7 9) (byte 3 19)))
491   (width   :field (byte 1 8)    :type 'width)
492   (reg/mem :fields (list (byte 2 22) (byte 3 16))
493                                 :type 'sized-reg/mem)
494   ;; optional fields
495   (imm))
496
497 (sb!disassem:define-instruction-format (ext-reg/mem-imm 24
498                                         :include 'ext-reg/mem
499                                         :default-printer
500                                         '(:name :tab reg/mem ", " imm))
501   (imm :type 'imm-data))
502 \f
503 ;;;; This section was added by jrd, for fp instructions.
504
505 ;;; regular fp inst to/from registers/memory
506 (sb!disassem:define-instruction-format (floating-point 16
507                                         :default-printer
508                                         `(:name :tab reg/mem))
509   (prefix :field (byte 5 3) :value #b11011)
510   (op     :fields (list (byte 3 0) (byte 3 11)))
511   (reg/mem :fields (list (byte 2 14) (byte 3 8)) :type 'reg/mem))
512
513 ;;; fp insn to/from fp reg
514 (sb!disassem:define-instruction-format (floating-point-fp 16
515                                         :default-printer `(:name :tab fp-reg))
516   (prefix :field (byte 5 3) :value #b11011)
517   (suffix :field (byte 2 14) :value #b11)
518   (op     :fields (list (byte 3 0) (byte 3 11)))
519   (fp-reg :field (byte 3 8) :type 'fp-reg))
520
521 ;;; fp insn to/from fp reg, with the reversed source/destination flag.
522 (sb!disassem:define-instruction-format
523  (floating-point-fp-d 16
524    :default-printer `(:name :tab ,(swap-if 'd "ST0" ", " 'fp-reg)))
525   (prefix :field (byte 5 3) :value #b11011)
526   (suffix :field (byte 2 14) :value #b11)
527   (op     :fields (list (byte 2 0) (byte 3 11)))
528   (d      :field (byte 1 2))
529   (fp-reg :field (byte 3 8) :type 'fp-reg))
530
531
532 ;;; (added by (?) pfw)
533 ;;; fp no operand isns
534 (sb!disassem:define-instruction-format (floating-point-no 16
535                                       :default-printer '(:name))
536   (prefix :field (byte 8  0) :value #b11011001)
537   (suffix :field (byte 3 13) :value #b111)
538   (op     :field (byte 5  8)))
539
540 (sb!disassem:define-instruction-format (floating-point-3 16
541                                       :default-printer '(:name))
542   (prefix :field (byte 5 3) :value #b11011)
543   (suffix :field (byte 2 14) :value #b11)
544   (op     :fields (list (byte 3 0) (byte 6 8))))
545
546 (sb!disassem:define-instruction-format (floating-point-5 16
547                                       :default-printer '(:name))
548   (prefix :field (byte 8  0) :value #b11011011)
549   (suffix :field (byte 3 13) :value #b111)
550   (op     :field (byte 5  8)))
551
552 (sb!disassem:define-instruction-format (floating-point-st 16
553                                       :default-printer '(:name))
554   (prefix :field (byte 8  0) :value #b11011111)
555   (suffix :field (byte 3 13) :value #b111)
556   (op     :field (byte 5  8)))
557
558 (sb!disassem:define-instruction-format (string-op 8
559                                      :include 'simple
560                                      :default-printer '(:name width)))
561
562 (sb!disassem:define-instruction-format (short-cond-jump 16)
563   (op    :field (byte 4 4))
564   (cc    :field (byte 4 0) :type 'condition-code)
565   (label :field (byte 8 8) :type 'displacement))
566
567 (sb!disassem:define-instruction-format (short-jump 16
568                                      :default-printer '(:name :tab label))
569   (const :field (byte 4 4) :value #b1110)
570   (op    :field (byte 4 0))
571   (label :field (byte 8 8) :type 'displacement))
572
573 (sb!disassem:define-instruction-format (near-cond-jump 16)
574   (op    :fields (list (byte 8 0) (byte 4 12)) :value '(#b00001111 #b1000))
575   (cc    :field (byte 4 8) :type 'condition-code)
576   ;; The disassembler currently doesn't let you have an instruction > 32 bits
577   ;; long, so we fake it by using a prefilter to read the offset.
578   (label :type 'displacement
579          :prefilter (lambda (value dstate)
580                       (declare (ignore value)) ; always nil anyway
581                       (sb!disassem:read-signed-suffix 32 dstate))))
582
583 (sb!disassem:define-instruction-format (near-jump 8
584                                      :default-printer '(:name :tab label))
585   (op    :field (byte 8 0))
586   ;; The disassembler currently doesn't let you have an instruction > 32 bits
587   ;; long, so we fake it by using a prefilter to read the address.
588   (label :type 'displacement
589          :prefilter (lambda (value dstate)
590                       (declare (ignore value)) ; always nil anyway
591                       (sb!disassem:read-signed-suffix 32 dstate))))
592
593
594 (sb!disassem:define-instruction-format (cond-set 24
595                                      :default-printer '('set cc :tab reg/mem))
596   (prefix :field (byte 8 0) :value #b00001111)
597   (op    :field (byte 4 12) :value #b1001)
598   (cc    :field (byte 4 8) :type 'condition-code)
599   (reg/mem :fields (list (byte 2 22) (byte 3 16))
600            :type 'byte-reg/mem)
601   (reg     :field (byte 3 19)   :value #b000))
602
603 (sb!disassem:define-instruction-format (cond-move 24
604                                      :default-printer
605                                         '('cmov cc :tab reg ", " reg/mem))
606   (prefix  :field (byte 8 0)    :value #b00001111)
607   (op      :field (byte 4 12)   :value #b0100)
608   (cc      :field (byte 4 8)    :type 'condition-code)
609   (reg/mem :fields (list (byte 2 22) (byte 3 16))
610                                 :type 'reg/mem)
611   (reg     :field (byte 3 19)   :type 'reg))
612
613 (sb!disassem:define-instruction-format (enter-format 32
614                                      :default-printer '(:name
615                                                         :tab disp
616                                                         (:unless (:constant 0)
617                                                           ", " level)))
618   (op :field (byte 8 0))
619   (disp :field (byte 16 8))
620   (level :field (byte 8 24)))
621
622 (sb!disassem:define-instruction-format (prefetch 24
623                                                  :default-printer
624                                                  '(:name ", " reg/mem))
625   (prefix :field (byte 8 0) :value #b00001111)
626   (op :field (byte 8 8) :value #b00011000)
627   (reg/mem :fields (list (byte 2 22) (byte 3 16)) :type 'byte-reg/mem)
628   (reg :field (byte 3 19) :type 'reg))
629
630 ;;; Single byte instruction with an immediate byte argument.
631 (sb!disassem:define-instruction-format (byte-imm 16
632                                      :default-printer '(:name :tab code))
633  (op :field (byte 8 0))
634  (code :field (byte 8 8)))
635
636 ;;; Two byte instruction with an immediate byte argument.
637 ;;;
638 (sb!disassem:define-instruction-format (word-imm 24
639                                      :default-printer '(:name :tab code))
640   (op :field (byte 16 0))
641   (code :field (byte 8 16)))
642
643 \f
644 ;;;; primitive emitters
645
646 (define-bitfield-emitter emit-word 16
647   (byte 16 0))
648
649 (define-bitfield-emitter emit-dword 32
650   (byte 32 0))
651
652 (define-bitfield-emitter emit-byte-with-reg 8
653   (byte 5 3) (byte 3 0))
654
655 (define-bitfield-emitter emit-mod-reg-r/m-byte 8
656   (byte 2 6) (byte 3 3) (byte 3 0))
657
658 (define-bitfield-emitter emit-sib-byte 8
659   (byte 2 6) (byte 3 3) (byte 3 0))
660 \f
661 ;;;; fixup emitters
662
663 (defun emit-absolute-fixup (segment fixup)
664   (note-fixup segment :absolute fixup)
665   (let ((offset (fixup-offset fixup)))
666     (if (label-p offset)
667         (emit-back-patch segment
668                          4 ; FIXME: n-word-bytes
669                          (lambda (segment posn)
670                            (declare (ignore posn))
671                            (emit-dword segment
672                                        (- (+ (component-header-length)
673                                              (or (label-position offset)
674                                                  0))
675                                           other-pointer-lowtag))))
676         (emit-dword segment (or offset 0)))))
677
678 (defun emit-relative-fixup (segment fixup)
679   (note-fixup segment :relative fixup)
680   (emit-dword segment (or (fixup-offset fixup) 0)))
681 \f
682 ;;;; the effective-address (ea) structure
683
684 (defun reg-tn-encoding (tn)
685   (declare (type tn tn))
686   (aver (eq (sb-name (sc-sb (tn-sc tn))) 'registers))
687   (let ((offset (tn-offset tn)))
688     (logior (ash (logand offset 1) 2)
689             (ash offset -1))))
690
691 (defstruct (ea (:constructor make-ea (size &key base index scale disp))
692                (:copier nil))
693   (size nil :type (member :byte :word :dword))
694   (base nil :type (or tn null))
695   (index nil :type (or tn null))
696   (scale 1 :type (member 1 2 4 8))
697   (disp 0 :type (or (unsigned-byte 32) (signed-byte 32) fixup)))
698 (def!method print-object ((ea ea) stream)
699   (cond ((or *print-escape* *print-readably*)
700          (print-unreadable-object (ea stream :type t)
701            (format stream
702                    "~S~@[ base=~S~]~@[ index=~S~]~@[ scale=~S~]~@[ disp=~S~]"
703                    (ea-size ea)
704                    (ea-base ea)
705                    (ea-index ea)
706                    (let ((scale (ea-scale ea)))
707                      (if (= scale 1) nil scale))
708                    (ea-disp ea))))
709         (t
710          (format stream "~A PTR [" (symbol-name (ea-size ea)))
711          (when (ea-base ea)
712            (write-string (sb!c::location-print-name (ea-base ea)) stream)
713            (when (ea-index ea)
714              (write-string "+" stream)))
715          (when (ea-index ea)
716            (write-string (sb!c::location-print-name (ea-index ea)) stream))
717          (unless (= (ea-scale ea) 1)
718            (format stream "*~A" (ea-scale ea)))
719          (typecase (ea-disp ea)
720            (null)
721            (integer
722             (format stream "~@D" (ea-disp ea)))
723            (t
724             (format stream "+~A" (ea-disp ea))))
725          (write-char #\] stream))))
726
727 (defun emit-ea (segment thing reg &optional allow-constants)
728   (etypecase thing
729     (tn
730      (ecase (sb-name (sc-sb (tn-sc thing)))
731        (registers
732         (emit-mod-reg-r/m-byte segment #b11 reg (reg-tn-encoding thing)))
733        (stack
734         ;; Convert stack tns into an index off of EBP.
735         (let ((disp (frame-byte-offset (tn-offset thing))))
736           (cond ((<= -128 disp 127)
737                  (emit-mod-reg-r/m-byte segment #b01 reg #b101)
738                  (emit-byte segment disp))
739                 (t
740                  (emit-mod-reg-r/m-byte segment #b10 reg #b101)
741                  (emit-dword segment disp)))))
742        (constant
743         (unless allow-constants
744           (error
745            "Constant TNs can only be directly used in MOV, PUSH, and CMP."))
746         (emit-mod-reg-r/m-byte segment #b00 reg #b101)
747         (emit-absolute-fixup segment
748                              (make-fixup nil
749                                          :code-object
750                                          (- (* (tn-offset thing) n-word-bytes)
751                                             other-pointer-lowtag))))))
752     (ea
753      (let* ((base (ea-base thing))
754             (index (ea-index thing))
755             (scale (ea-scale thing))
756             (disp (ea-disp thing))
757             (mod (cond ((or (null base)
758                             (and (eql disp 0)
759                                  (not (= (reg-tn-encoding base) #b101))))
760                         #b00)
761                        ((and (fixnump disp) (<= -128 disp 127))
762                         #b01)
763                        (t
764                         #b10)))
765             (r/m (cond (index #b100)
766                        ((null base) #b101)
767                        (t (reg-tn-encoding base)))))
768        (emit-mod-reg-r/m-byte segment mod reg r/m)
769        (when (= r/m #b100)
770          (let ((ss (1- (integer-length scale)))
771                (index (if (null index)
772                           #b100
773                           (let ((index (reg-tn-encoding index)))
774                             (if (= index #b100)
775                                 (error "can't index off of ESP")
776                                 index))))
777                (base (if (null base)
778                          #b101
779                          (reg-tn-encoding base))))
780            (emit-sib-byte segment ss index base)))
781        (cond ((= mod #b01)
782               (emit-byte segment disp))
783              ((or (= mod #b10) (null base))
784               (if (fixup-p disp)
785                   (emit-absolute-fixup segment disp)
786                   (emit-dword segment disp))))))
787     (fixup
788      (emit-mod-reg-r/m-byte segment #b00 reg #b101)
789      (emit-absolute-fixup segment thing))))
790
791 (defun fp-reg-tn-p (thing)
792   (and (tn-p thing)
793        (eq (sb-name (sc-sb (tn-sc thing))) 'float-registers)))
794
795 ;;; like the above, but for fp-instructions--jrd
796 (defun emit-fp-op (segment thing op)
797   (if (fp-reg-tn-p thing)
798       (emit-byte segment (dpb op (byte 3 3) (dpb (tn-offset thing)
799                                                  (byte 3 0)
800                                                  #b11000000)))
801     (emit-ea segment thing op)))
802
803 (defun byte-reg-p (thing)
804   (and (tn-p thing)
805        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
806        (member (sc-name (tn-sc thing)) *byte-sc-names*)
807        t))
808
809 (defun byte-ea-p (thing)
810   (typecase thing
811     (ea (eq (ea-size thing) :byte))
812     (tn
813      (and (member (sc-name (tn-sc thing)) *byte-sc-names*) t))
814     (t nil)))
815
816 (defun word-reg-p (thing)
817   (and (tn-p thing)
818        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
819        (member (sc-name (tn-sc thing)) *word-sc-names*)
820        t))
821
822 (defun word-ea-p (thing)
823   (typecase thing
824     (ea (eq (ea-size thing) :word))
825     (tn (and (member (sc-name (tn-sc thing)) *word-sc-names*) t))
826     (t nil)))
827
828 (defun dword-reg-p (thing)
829   (and (tn-p thing)
830        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
831        (member (sc-name (tn-sc thing)) *dword-sc-names*)
832        t))
833
834 (defun dword-ea-p (thing)
835   (typecase thing
836     (ea (eq (ea-size thing) :dword))
837     (tn
838      (and (member (sc-name (tn-sc thing)) *dword-sc-names*) t))
839     (t nil)))
840
841 (defun register-p (thing)
842   (and (tn-p thing)
843        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)))
844
845 (defun accumulator-p (thing)
846   (and (register-p thing)
847        (= (tn-offset thing) 0)))
848 \f
849 ;;;; utilities
850
851 (def!constant +operand-size-prefix-byte+ #b01100110)
852
853 (defun maybe-emit-operand-size-prefix (segment size)
854   (unless (or (eq size :byte) (eq size +default-operand-size+))
855     (emit-byte segment +operand-size-prefix-byte+)))
856
857 (defun operand-size (thing)
858   (typecase thing
859     (tn
860      ;; FIXME: might as well be COND instead of having to use #. readmacro
861      ;; to hack up the code
862      (case (sc-name (tn-sc thing))
863        (#.*dword-sc-names*
864         :dword)
865        (#.*word-sc-names*
866         :word)
867        (#.*byte-sc-names*
868         :byte)
869        ;; added by jrd: float-registers is a separate size (?)
870        (#.*float-sc-names*
871         :float)
872        (#.*double-sc-names*
873         :double)
874        (t
875         (error "can't tell the size of ~S ~S" thing (sc-name (tn-sc thing))))))
876     (ea
877      (ea-size thing))
878     (t
879      nil)))
880
881 (defun matching-operand-size (dst src)
882   (let ((dst-size (operand-size dst))
883         (src-size (operand-size src)))
884     (if dst-size
885         (if src-size
886             (if (eq dst-size src-size)
887                 dst-size
888                 (error "size mismatch: ~S is a ~S and ~S is a ~S."
889                        dst dst-size src src-size))
890             dst-size)
891         (if src-size
892             src-size
893             (error "can't tell the size of either ~S or ~S" dst src)))))
894
895 (defun emit-sized-immediate (segment size value)
896   (ecase size
897     (:byte
898      (emit-byte segment value))
899     (:word
900      (emit-word segment value))
901     (:dword
902      (emit-dword segment value))))
903
904 (defun toggle-word-width (chunk inst stream dstate)
905   (declare (ignore chunk inst stream))
906   (let ((word-width (or (sb!disassem:dstate-get-prop dstate 'word-width)
907                         +default-operand-size+)))
908     (setf (sb!disassem:dstate-get-prop dstate 'word-width)
909           (ecase word-width
910             (:word :dword)
911             (:dword :word)))))
912
913 ;;; This is a "prefix" instruction, which means that it modifies the
914 ;;; following instruction in some way without having an actual
915 ;;; mnemonic of its own.
916 (define-instruction operand-size-prefix (segment)
917   (:printer byte ((op +operand-size-prefix-byte+))
918             nil                         ; don't actually print it
919             :control #'toggle-word-width))
920 \f
921 ;;;; general data transfer
922
923 (define-instruction mov (segment dst src &optional prefix)
924   ;; immediate to register
925   (:printer reg ((op #b1011) (imm nil :type 'imm-data))
926             '(:name :tab reg ", " imm))
927   ;; absolute mem to/from accumulator
928   (:printer simple-dir ((op #b101000) (imm nil :type 'imm-addr))
929             `(:name :tab ,(swap-if 'dir 'accum ", " '("[" imm "]"))))
930   ;; register to/from register/memory
931   (:printer reg-reg/mem-dir ((op #b100010)))
932   ;; immediate to register/memory
933   (:printer reg/mem-imm ((op '(#b1100011 #b000))))
934
935   (:emitter
936    (emit-prefix segment prefix)
937    (let ((size (matching-operand-size dst src)))
938      (maybe-emit-operand-size-prefix segment size)
939      (cond ((register-p dst)
940             (cond ((integerp src)
941                    (emit-byte-with-reg segment
942                                        (if (eq size :byte)
943                                            #b10110
944                                            #b10111)
945                                        (reg-tn-encoding dst))
946                    (emit-sized-immediate segment size src))
947                   ((and (fixup-p src) (accumulator-p dst))
948                    (emit-byte segment
949                               (if (eq size :byte)
950                                   #b10100000
951                                   #b10100001))
952                    (emit-absolute-fixup segment src))
953                   (t
954                    (emit-byte segment
955                               (if (eq size :byte)
956                                   #b10001010
957                                   #b10001011))
958                    (emit-ea segment src (reg-tn-encoding dst) t))))
959            ((and (fixup-p dst) (accumulator-p src))
960             (emit-byte segment (if (eq size :byte) #b10100010 #b10100011))
961             (emit-absolute-fixup segment dst))
962            ((integerp src)
963             (emit-byte segment (if (eq size :byte) #b11000110 #b11000111))
964             (emit-ea segment dst #b000)
965             (emit-sized-immediate segment size src))
966            ((register-p src)
967             (emit-byte segment (if (eq size :byte) #b10001000 #b10001001))
968             (emit-ea segment dst (reg-tn-encoding src)))
969            ((fixup-p src)
970             (aver (eq size :dword))
971             (emit-byte segment #b11000111)
972             (emit-ea segment dst #b000)
973             (emit-absolute-fixup segment src))
974            (t
975             (error "bogus arguments to MOV: ~S ~S" dst src))))))
976
977 (defun emit-move-with-extension (segment dst src opcode)
978   (aver (register-p dst))
979   (let ((dst-size (operand-size dst))
980         (src-size (operand-size src)))
981     (ecase dst-size
982       (:word
983        (aver (eq src-size :byte))
984        (maybe-emit-operand-size-prefix segment :word)
985        (emit-byte segment #b00001111)
986        (emit-byte segment opcode)
987        (emit-ea segment src (reg-tn-encoding dst)))
988       (:dword
989        (ecase src-size
990          (:byte
991           (maybe-emit-operand-size-prefix segment :dword)
992           (emit-byte segment #b00001111)
993           (emit-byte segment opcode)
994           (emit-ea segment src (reg-tn-encoding dst)))
995          (:word
996           (emit-byte segment #b00001111)
997           (emit-byte segment (logior opcode 1))
998           (emit-ea segment src (reg-tn-encoding dst))))))))
999
1000 (define-instruction movsx (segment dst src)
1001   (:printer ext-reg-reg/mem ((op #b1011111) (reg nil :type 'word-reg)))
1002   (:emitter (emit-move-with-extension segment dst src #b10111110)))
1003
1004 (define-instruction movzx (segment dst src)
1005   (:printer ext-reg-reg/mem ((op #b1011011) (reg nil :type 'word-reg)))
1006   (:emitter (emit-move-with-extension segment dst src #b10110110)))
1007
1008 (define-instruction push (segment src &optional prefix)
1009   ;; register
1010   (:printer reg-no-width ((op #b01010)))
1011   ;; register/memory
1012   (:printer reg/mem ((op '(#b1111111 #b110)) (width 1)))
1013   ;; immediate
1014   (:printer byte ((op #b01101010) (imm nil :type 'signed-imm-byte))
1015             '(:name :tab imm))
1016   (:printer byte ((op #b01101000) (imm nil :type 'imm-word))
1017             '(:name :tab imm))
1018   ;; ### segment registers?
1019
1020   (:emitter
1021    (emit-prefix segment prefix)
1022    (cond ((integerp src)
1023           (cond ((<= -128 src 127)
1024                  (emit-byte segment #b01101010)
1025                  (emit-byte segment src))
1026                 (t
1027                  (emit-byte segment #b01101000)
1028                  (emit-dword segment src))))
1029          ((fixup-p src)
1030           ;; Interpret the fixup as an immediate dword to push.
1031           (emit-byte segment #b01101000)
1032           (emit-absolute-fixup segment src))
1033          (t
1034           (let ((size (operand-size src)))
1035             (aver (not (eq size :byte)))
1036             (maybe-emit-operand-size-prefix segment size)
1037             (cond ((register-p src)
1038                    (emit-byte-with-reg segment #b01010 (reg-tn-encoding src)))
1039                   (t
1040                    (emit-byte segment #b11111111)
1041                    (emit-ea segment src #b110 t))))))))
1042
1043 (define-instruction pusha (segment)
1044   (:printer byte ((op #b01100000)))
1045   (:emitter
1046    (emit-byte segment #b01100000)))
1047
1048 (define-instruction pop (segment dst)
1049   (:printer reg-no-width ((op #b01011)))
1050   (:printer reg/mem ((op '(#b1000111 #b000)) (width 1)))
1051   (:emitter
1052    (let ((size (operand-size dst)))
1053      (aver (not (eq size :byte)))
1054      (maybe-emit-operand-size-prefix segment size)
1055      (cond ((register-p dst)
1056             (emit-byte-with-reg segment #b01011 (reg-tn-encoding dst)))
1057            (t
1058             (emit-byte segment #b10001111)
1059             (emit-ea segment dst #b000))))))
1060
1061 (define-instruction popa (segment)
1062   (:printer byte ((op #b01100001)))
1063   (:emitter
1064    (emit-byte segment #b01100001)))
1065
1066 (define-instruction xchg (segment operand1 operand2)
1067   ;; Register with accumulator.
1068   (:printer reg-no-width ((op #b10010)) '(:name :tab accum ", " reg))
1069   ;; Register/Memory with Register.
1070   (:printer reg-reg/mem ((op #b1000011)))
1071   (:emitter
1072    (let ((size (matching-operand-size operand1 operand2)))
1073      (maybe-emit-operand-size-prefix segment size)
1074      (labels ((xchg-acc-with-something (acc something)
1075                 (if (and (not (eq size :byte)) (register-p something))
1076                     (emit-byte-with-reg segment
1077                                         #b10010
1078                                         (reg-tn-encoding something))
1079                     (xchg-reg-with-something acc something)))
1080               (xchg-reg-with-something (reg something)
1081                 (emit-byte segment (if (eq size :byte) #b10000110 #b10000111))
1082                 (emit-ea segment something (reg-tn-encoding reg))))
1083        (cond ((accumulator-p operand1)
1084               (xchg-acc-with-something operand1 operand2))
1085              ((accumulator-p operand2)
1086               (xchg-acc-with-something operand2 operand1))
1087              ((register-p operand1)
1088               (xchg-reg-with-something operand1 operand2))
1089              ((register-p operand2)
1090               (xchg-reg-with-something operand2 operand1))
1091              (t
1092               (error "bogus args to XCHG: ~S ~S" operand1 operand2)))))))
1093
1094 (define-instruction lea (segment dst src)
1095   (:printer reg-reg/mem ((op #b1000110) (width 1)))
1096   (:emitter
1097    (aver (dword-reg-p dst))
1098    (emit-byte segment #b10001101)
1099    (emit-ea segment src (reg-tn-encoding dst))))
1100
1101 (define-instruction cmpxchg (segment dst src &optional prefix)
1102   ;; Register/Memory with Register.
1103   (:printer ext-reg-reg/mem ((op #b1011000)) '(:name :tab reg/mem ", " reg))
1104   (:emitter
1105    (aver (register-p src))
1106    (emit-prefix segment prefix)
1107    (let ((size (matching-operand-size src dst)))
1108      (maybe-emit-operand-size-prefix segment size)
1109      (emit-byte segment #b00001111)
1110      (emit-byte segment (if (eq size :byte) #b10110000 #b10110001))
1111      (emit-ea segment dst (reg-tn-encoding src)))))
1112
1113 \f
1114 (defun emit-prefix (segment name)
1115   (ecase name
1116     ((nil))
1117     (:lock
1118      #!+sb-thread
1119      (emit-byte segment #xf0))
1120     (:fs
1121      (emit-byte segment #x64))
1122     (:gs
1123      (emit-byte segment #x65))))
1124
1125 (define-instruction fs-segment-prefix (segment)
1126   (:printer byte ((op #b01100100)))
1127   (:emitter
1128    (bug "FS emitted as a separate instruction!")))
1129
1130 (define-instruction gs-segment-prefix (segment)
1131   (:printer byte ((op #b01100101)))
1132   (:emitter
1133    (bug "GS emitted as a separate instruction!")))
1134
1135 ;;;; flag control instructions
1136
1137 ;;; CLC -- Clear Carry Flag.
1138 (define-instruction clc (segment)
1139   (:printer byte ((op #b11111000)))
1140   (:emitter
1141    (emit-byte segment #b11111000)))
1142
1143 ;;; CLD -- Clear Direction Flag.
1144 (define-instruction cld (segment)
1145   (:printer byte ((op #b11111100)))
1146   (:emitter
1147    (emit-byte segment #b11111100)))
1148
1149 ;;; CLI -- Clear Iterrupt Enable Flag.
1150 (define-instruction cli (segment)
1151   (:printer byte ((op #b11111010)))
1152   (:emitter
1153    (emit-byte segment #b11111010)))
1154
1155 ;;; CMC -- Complement Carry Flag.
1156 (define-instruction cmc (segment)
1157   (:printer byte ((op #b11110101)))
1158   (:emitter
1159    (emit-byte segment #b11110101)))
1160
1161 ;;; LAHF -- Load AH into flags.
1162 (define-instruction lahf (segment)
1163   (:printer byte ((op #b10011111)))
1164   (:emitter
1165    (emit-byte segment #b10011111)))
1166
1167 ;;; POPF -- Pop flags.
1168 (define-instruction popf (segment)
1169   (:printer byte ((op #b10011101)))
1170   (:emitter
1171    (emit-byte segment #b10011101)))
1172
1173 ;;; PUSHF -- push flags.
1174 (define-instruction pushf (segment)
1175   (:printer byte ((op #b10011100)))
1176   (:emitter
1177    (emit-byte segment #b10011100)))
1178
1179 ;;; SAHF -- Store AH into flags.
1180 (define-instruction sahf (segment)
1181   (:printer byte ((op #b10011110)))
1182   (:emitter
1183    (emit-byte segment #b10011110)))
1184
1185 ;;; STC -- Set Carry Flag.
1186 (define-instruction stc (segment)
1187   (:printer byte ((op #b11111001)))
1188   (:emitter
1189    (emit-byte segment #b11111001)))
1190
1191 ;;; STD -- Set Direction Flag.
1192 (define-instruction std (segment)
1193   (:printer byte ((op #b11111101)))
1194   (:emitter
1195    (emit-byte segment #b11111101)))
1196
1197 ;;; STI -- Set Interrupt Enable Flag.
1198 (define-instruction sti (segment)
1199   (:printer byte ((op #b11111011)))
1200   (:emitter
1201    (emit-byte segment #b11111011)))
1202 \f
1203 ;;;; arithmetic
1204
1205 (defun emit-random-arith-inst (name segment dst src opcode
1206                                &optional allow-constants)
1207   (let ((size (matching-operand-size dst src)))
1208     (maybe-emit-operand-size-prefix segment size)
1209     (cond
1210      ((integerp src)
1211       (cond ((and (not (eq size :byte)) (<= -128 src 127))
1212              (emit-byte segment #b10000011)
1213              (emit-ea segment dst opcode allow-constants)
1214              (emit-byte segment src))
1215             ((accumulator-p dst)
1216              (emit-byte segment
1217                         (dpb opcode
1218                              (byte 3 3)
1219                              (if (eq size :byte)
1220                                  #b00000100
1221                                  #b00000101)))
1222              (emit-sized-immediate segment size src))
1223             (t
1224              (emit-byte segment (if (eq size :byte) #b10000000 #b10000001))
1225              (emit-ea segment dst opcode allow-constants)
1226              (emit-sized-immediate segment size src))))
1227      ((register-p src)
1228       (emit-byte segment
1229                  (dpb opcode
1230                       (byte 3 3)
1231                       (if (eq size :byte) #b00000000 #b00000001)))
1232       (emit-ea segment dst (reg-tn-encoding src) allow-constants))
1233      ((register-p dst)
1234       (emit-byte segment
1235                  (dpb opcode
1236                       (byte 3 3)
1237                       (if (eq size :byte) #b00000010 #b00000011)))
1238       (emit-ea segment src (reg-tn-encoding dst) allow-constants))
1239      (t
1240       (error "bogus operands to ~A" name)))))
1241
1242 (eval-when (:compile-toplevel :execute)
1243   (defun arith-inst-printer-list (subop)
1244     `((accum-imm ((op ,(dpb subop (byte 3 2) #b0000010))))
1245       (reg/mem-imm ((op (#b1000000 ,subop))))
1246       (reg/mem-imm ((op (#b1000001 ,subop))
1247                     (imm nil :type signed-imm-byte)))
1248       (reg-reg/mem-dir ((op ,(dpb subop (byte 3 1) #b000000))))))
1249   )
1250
1251 (define-instruction add (segment dst src &optional prefix)
1252   (:printer-list (arith-inst-printer-list #b000))
1253   (:emitter
1254    (emit-prefix segment prefix)
1255    (emit-random-arith-inst "ADD" segment dst src #b000)))
1256
1257 (define-instruction adc (segment dst src)
1258   (:printer-list (arith-inst-printer-list #b010))
1259   (:emitter (emit-random-arith-inst "ADC" segment dst src #b010)))
1260
1261 (define-instruction sub (segment dst src &optional prefix)
1262   (:printer-list (arith-inst-printer-list #b101))
1263   (:emitter
1264    (emit-prefix segment prefix)
1265    (emit-random-arith-inst "SUB" segment dst src #b101)))
1266
1267 (define-instruction sbb (segment dst src)
1268   (:printer-list (arith-inst-printer-list #b011))
1269   (:emitter (emit-random-arith-inst "SBB" segment dst src #b011)))
1270
1271 (define-instruction cmp (segment dst src &optional prefix)
1272   (:printer-list (arith-inst-printer-list #b111))
1273   (:emitter
1274    (emit-prefix segment prefix)
1275    (emit-random-arith-inst "CMP" segment dst src #b111 t)))
1276
1277 (define-instruction inc (segment dst)
1278   ;; Register.
1279   (:printer reg-no-width ((op #b01000)))
1280   ;; Register/Memory
1281   (:printer reg/mem ((op '(#b1111111 #b000))))
1282   (:emitter
1283    (let ((size (operand-size dst)))
1284      (maybe-emit-operand-size-prefix segment size)
1285      (cond ((and (not (eq size :byte)) (register-p dst))
1286             (emit-byte-with-reg segment #b01000 (reg-tn-encoding dst)))
1287            (t
1288             (emit-byte segment (if (eq size :byte) #b11111110 #b11111111))
1289             (emit-ea segment dst #b000))))))
1290
1291 (define-instruction dec (segment dst)
1292   ;; Register.
1293   (:printer reg-no-width ((op #b01001)))
1294   ;; Register/Memory
1295   (:printer reg/mem ((op '(#b1111111 #b001))))
1296   (:emitter
1297    (let ((size (operand-size dst)))
1298      (maybe-emit-operand-size-prefix segment size)
1299      (cond ((and (not (eq size :byte)) (register-p dst))
1300             (emit-byte-with-reg segment #b01001 (reg-tn-encoding dst)))
1301            (t
1302             (emit-byte segment (if (eq size :byte) #b11111110 #b11111111))
1303             (emit-ea segment dst #b001))))))
1304
1305 (define-instruction neg (segment dst)
1306   (:printer reg/mem ((op '(#b1111011 #b011))))
1307   (:emitter
1308    (let ((size (operand-size dst)))
1309      (maybe-emit-operand-size-prefix segment size)
1310      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1311      (emit-ea segment dst #b011))))
1312
1313 (define-instruction aaa (segment)
1314   (:printer byte ((op #b00110111)))
1315   (:emitter
1316    (emit-byte segment #b00110111)))
1317
1318 (define-instruction aas (segment)
1319   (:printer byte ((op #b00111111)))
1320   (:emitter
1321    (emit-byte segment #b00111111)))
1322
1323 (define-instruction daa (segment)
1324   (:printer byte ((op #b00100111)))
1325   (:emitter
1326    (emit-byte segment #b00100111)))
1327
1328 (define-instruction das (segment)
1329   (:printer byte ((op #b00101111)))
1330   (:emitter
1331    (emit-byte segment #b00101111)))
1332
1333 (define-instruction mul (segment dst src)
1334   (:printer accum-reg/mem ((op '(#b1111011 #b100))))
1335   (:emitter
1336    (let ((size (matching-operand-size dst src)))
1337      (aver (accumulator-p dst))
1338      (maybe-emit-operand-size-prefix segment size)
1339      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1340      (emit-ea segment src #b100))))
1341
1342 (define-instruction imul (segment dst &optional src1 src2)
1343   (:printer accum-reg/mem ((op '(#b1111011 #b101))))
1344   (:printer ext-reg-reg/mem ((op #b1010111)))
1345   (:printer reg-reg/mem ((op #b0110100) (width 1)
1346                          (imm nil :type 'signed-imm-word))
1347             '(:name :tab reg ", " reg/mem ", " imm))
1348   (:printer reg-reg/mem ((op #b0110101) (width 1)
1349                          (imm nil :type 'signed-imm-byte))
1350             '(:name :tab reg ", " reg/mem ", " imm))
1351   (:emitter
1352    (flet ((r/m-with-immed-to-reg (reg r/m immed)
1353             (let* ((size (matching-operand-size reg r/m))
1354                    (sx (and (not (eq size :byte)) (<= -128 immed 127))))
1355               (maybe-emit-operand-size-prefix segment size)
1356               (emit-byte segment (if sx #b01101011 #b01101001))
1357               (emit-ea segment r/m (reg-tn-encoding reg))
1358               (if sx
1359                   (emit-byte segment immed)
1360                   (emit-sized-immediate segment size immed)))))
1361      (cond (src2
1362             (r/m-with-immed-to-reg dst src1 src2))
1363            (src1
1364             (if (integerp src1)
1365                 (r/m-with-immed-to-reg dst dst src1)
1366                 (let ((size (matching-operand-size dst src1)))
1367                   (maybe-emit-operand-size-prefix segment size)
1368                   (emit-byte segment #b00001111)
1369                   (emit-byte segment #b10101111)
1370                   (emit-ea segment src1 (reg-tn-encoding dst)))))
1371            (t
1372             (let ((size (operand-size dst)))
1373               (maybe-emit-operand-size-prefix segment size)
1374               (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1375               (emit-ea segment dst #b101)))))))
1376
1377 (define-instruction div (segment dst src)
1378   (:printer accum-reg/mem ((op '(#b1111011 #b110))))
1379   (:emitter
1380    (let ((size (matching-operand-size dst src)))
1381      (aver (accumulator-p dst))
1382      (maybe-emit-operand-size-prefix segment size)
1383      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1384      (emit-ea segment src #b110))))
1385
1386 (define-instruction idiv (segment dst src)
1387   (:printer accum-reg/mem ((op '(#b1111011 #b111))))
1388   (:emitter
1389    (let ((size (matching-operand-size dst src)))
1390      (aver (accumulator-p dst))
1391      (maybe-emit-operand-size-prefix segment size)
1392      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1393      (emit-ea segment src #b111))))
1394
1395 (define-instruction aad (segment)
1396   (:printer two-bytes ((op '(#b11010101 #b00001010))))
1397   (:emitter
1398    (emit-byte segment #b11010101)
1399    (emit-byte segment #b00001010)))
1400
1401 (define-instruction aam (segment)
1402   (:printer two-bytes ((op '(#b11010100 #b00001010))))
1403   (:emitter
1404    (emit-byte segment #b11010100)
1405    (emit-byte segment #b00001010)))
1406
1407 ;;; CBW -- Convert Byte to Word. AX <- sign_xtnd(AL)
1408 (define-instruction cbw (segment)
1409   (:emitter
1410    (maybe-emit-operand-size-prefix segment :word)
1411    (emit-byte segment #b10011000)))
1412
1413 ;;; CWDE -- Convert Word To Double Word Extened. EAX <- sign_xtnd(AX)
1414 (define-instruction cwde (segment)
1415   (:emitter
1416    (maybe-emit-operand-size-prefix segment :dword)
1417    (emit-byte segment #b10011000)))
1418
1419 ;;; CWD -- Convert Word to Double Word. DX:AX <- sign_xtnd(AX)
1420 (define-instruction cwd (segment)
1421   (:emitter
1422    (maybe-emit-operand-size-prefix segment :word)
1423    (emit-byte segment #b10011001)))
1424
1425 ;;; CDQ -- Convert Double Word to Quad Word. EDX:EAX <- sign_xtnd(EAX)
1426 (define-instruction cdq (segment)
1427   (:printer byte ((op #b10011001)))
1428   (:emitter
1429    (maybe-emit-operand-size-prefix segment :dword)
1430    (emit-byte segment #b10011001)))
1431
1432 (define-instruction xadd (segment dst src &optional prefix)
1433   ;; Register/Memory with Register.
1434   (:printer ext-reg-reg/mem ((op #b1100000)) '(:name :tab reg/mem ", " reg))
1435   (:emitter
1436    (aver (register-p src))
1437    (emit-prefix segment prefix)
1438    (let ((size (matching-operand-size src dst)))
1439      (maybe-emit-operand-size-prefix segment size)
1440      (emit-byte segment #b00001111)
1441      (emit-byte segment (if (eq size :byte) #b11000000 #b11000001))
1442      (emit-ea segment dst (reg-tn-encoding src)))))
1443
1444 \f
1445 ;;;; logic
1446
1447 (defun emit-shift-inst (segment dst amount opcode)
1448   (let ((size (operand-size dst)))
1449     (maybe-emit-operand-size-prefix segment size)
1450     (multiple-value-bind (major-opcode immed)
1451         (case amount
1452           (:cl (values #b11010010 nil))
1453           (1 (values #b11010000 nil))
1454           (t (values #b11000000 t)))
1455       (emit-byte segment
1456                  (if (eq size :byte) major-opcode (logior major-opcode 1)))
1457       (emit-ea segment dst opcode)
1458       (when immed
1459         (emit-byte segment amount)))))
1460
1461 (eval-when (:compile-toplevel :execute)
1462   (defun shift-inst-printer-list (subop)
1463     `((reg/mem ((op (#b1101000 ,subop)))
1464                (:name :tab reg/mem ", 1"))
1465       (reg/mem ((op (#b1101001 ,subop)))
1466                (:name :tab reg/mem ", " 'cl))
1467       (reg/mem-imm ((op (#b1100000 ,subop))
1468                     (imm nil :type signed-imm-byte))))))
1469
1470 (define-instruction rol (segment dst amount)
1471   (:printer-list
1472    (shift-inst-printer-list #b000))
1473   (:emitter
1474    (emit-shift-inst segment dst amount #b000)))
1475
1476 (define-instruction ror (segment dst amount)
1477   (:printer-list
1478    (shift-inst-printer-list #b001))
1479   (:emitter
1480    (emit-shift-inst segment dst amount #b001)))
1481
1482 (define-instruction rcl (segment dst amount)
1483   (:printer-list
1484    (shift-inst-printer-list #b010))
1485   (:emitter
1486    (emit-shift-inst segment dst amount #b010)))
1487
1488 (define-instruction rcr (segment dst amount)
1489   (:printer-list
1490    (shift-inst-printer-list #b011))
1491   (:emitter
1492    (emit-shift-inst segment dst amount #b011)))
1493
1494 (define-instruction shl (segment dst amount)
1495   (:printer-list
1496    (shift-inst-printer-list #b100))
1497   (:emitter
1498    (emit-shift-inst segment dst amount #b100)))
1499
1500 (define-instruction shr (segment dst amount)
1501   (:printer-list
1502    (shift-inst-printer-list #b101))
1503   (:emitter
1504    (emit-shift-inst segment dst amount #b101)))
1505
1506 (define-instruction sar (segment dst amount)
1507   (:printer-list
1508    (shift-inst-printer-list #b111))
1509   (:emitter
1510    (emit-shift-inst segment dst amount #b111)))
1511
1512 (defun emit-double-shift (segment opcode dst src amt)
1513   (let ((size (matching-operand-size dst src)))
1514     (when (eq size :byte)
1515       (error "Double shifts can only be used with words."))
1516     (maybe-emit-operand-size-prefix segment size)
1517     (emit-byte segment #b00001111)
1518     (emit-byte segment (dpb opcode (byte 1 3)
1519                             (if (eq amt :cl) #b10100101 #b10100100)))
1520     #+nil
1521     (emit-ea segment dst src)
1522     (emit-ea segment dst (reg-tn-encoding src)) ; pw tries this
1523     (unless (eq amt :cl)
1524       (emit-byte segment amt))))
1525
1526 (eval-when (:compile-toplevel :execute)
1527   (defun double-shift-inst-printer-list (op)
1528     `(#+nil
1529       (ext-reg-reg/mem-imm ((op ,(logior op #b10))
1530                             (imm nil :type signed-imm-byte)))
1531       (ext-reg-reg/mem ((op ,(logior op #b10)))
1532          (:name :tab reg/mem ", " reg ", " 'cl)))))
1533
1534 (define-instruction shld (segment dst src amt)
1535   (:declare (type (or (member :cl) (mod 32)) amt))
1536   (:printer-list (double-shift-inst-printer-list #b1010000))
1537   (:emitter
1538    (emit-double-shift segment #b0 dst src amt)))
1539
1540 (define-instruction shrd (segment dst src amt)
1541   (:declare (type (or (member :cl) (mod 32)) amt))
1542   (:printer-list (double-shift-inst-printer-list #b1010100))
1543   (:emitter
1544    (emit-double-shift segment #b1 dst src amt)))
1545
1546 (define-instruction and (segment dst src)
1547   (:printer-list
1548    (arith-inst-printer-list #b100))
1549   (:emitter
1550    (emit-random-arith-inst "AND" segment dst src #b100)))
1551
1552 (define-instruction test (segment this that)
1553   (:printer accum-imm ((op #b1010100)))
1554   (:printer reg/mem-imm ((op '(#b1111011 #b000))))
1555   (:printer reg-reg/mem ((op #b1000010)))
1556   (:emitter
1557    (let ((size (matching-operand-size this that)))
1558      (maybe-emit-operand-size-prefix segment size)
1559      (flet ((test-immed-and-something (immed something)
1560               (cond ((accumulator-p something)
1561                      (emit-byte segment
1562                                 (if (eq size :byte) #b10101000 #b10101001))
1563                      (emit-sized-immediate segment size immed))
1564                     (t
1565                      (emit-byte segment
1566                                 (if (eq size :byte) #b11110110 #b11110111))
1567                      (emit-ea segment something #b000)
1568                      (emit-sized-immediate segment size immed))))
1569             (test-reg-and-something (reg something)
1570               (emit-byte segment (if (eq size :byte) #b10000100 #b10000101))
1571               (emit-ea segment something (reg-tn-encoding reg))))
1572        (cond ((integerp that)
1573               (test-immed-and-something that this))
1574              ((integerp this)
1575               (test-immed-and-something this that))
1576              ((register-p this)
1577               (test-reg-and-something this that))
1578              ((register-p that)
1579               (test-reg-and-something that this))
1580              (t
1581               (error "bogus operands for TEST: ~S and ~S" this that)))))))
1582
1583 ;;; Emit the most compact form of the test immediate instruction,
1584 ;;; using an 8 bit test when the immediate is only 8 bits and the
1585 ;;; value is one of the four low registers (eax, ebx, ecx, edx) or the
1586 ;;; control stack.
1587 (defun emit-optimized-test-inst (x y)
1588   (typecase y
1589     ((unsigned-byte 7)
1590      (let ((offset (tn-offset x)))
1591        (cond ((and (sc-is x any-reg descriptor-reg)
1592                    (or (= offset eax-offset) (= offset ebx-offset)
1593                        (= offset ecx-offset) (= offset edx-offset)))
1594               (inst test (make-random-tn :kind :normal
1595                                          :sc (sc-or-lose 'byte-reg)
1596                                          :offset offset)
1597                     y))
1598              ((sc-is x control-stack)
1599               (inst test (make-ea :byte :base ebp-tn
1600                                   :disp (- (* (1+ offset) n-word-bytes)))
1601                     y))
1602              (t
1603               (inst test x y)))))
1604     (t
1605      (inst test x y))))
1606
1607 (define-instruction or (segment dst src &optional prefix)
1608   (:printer-list
1609    (arith-inst-printer-list #b001))
1610   (:emitter
1611    (emit-prefix segment prefix)
1612    (emit-random-arith-inst "OR" segment dst src #b001)))
1613
1614 (define-instruction xor (segment dst src &optional prefix)
1615   (:printer-list
1616    (arith-inst-printer-list #b110))
1617   (:emitter
1618    (emit-prefix segment prefix)
1619    (emit-random-arith-inst "XOR" segment dst src #b110)))
1620
1621 (define-instruction not (segment dst)
1622   (:printer reg/mem ((op '(#b1111011 #b010))))
1623   (:emitter
1624    (let ((size (operand-size dst)))
1625      (maybe-emit-operand-size-prefix segment size)
1626      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1627      (emit-ea segment dst #b010))))
1628 \f
1629 ;;;; string manipulation
1630
1631 (define-instruction cmps (segment size)
1632   (:printer string-op ((op #b1010011)))
1633   (:emitter
1634    (maybe-emit-operand-size-prefix segment size)
1635    (emit-byte segment (if (eq size :byte) #b10100110 #b10100111))))
1636
1637 (define-instruction ins (segment acc)
1638   (:printer string-op ((op #b0110110)))
1639   (:emitter
1640    (let ((size (operand-size acc)))
1641      (aver (accumulator-p acc))
1642      (maybe-emit-operand-size-prefix segment size)
1643      (emit-byte segment (if (eq size :byte) #b01101100 #b01101101)))))
1644
1645 (define-instruction lods (segment acc)
1646   (:printer string-op ((op #b1010110)))
1647   (:emitter
1648    (let ((size (operand-size acc)))
1649      (aver (accumulator-p acc))
1650      (maybe-emit-operand-size-prefix segment size)
1651      (emit-byte segment (if (eq size :byte) #b10101100 #b10101101)))))
1652
1653 (define-instruction movs (segment size)
1654   (:printer string-op ((op #b1010010)))
1655   (:emitter
1656    (maybe-emit-operand-size-prefix segment size)
1657    (emit-byte segment (if (eq size :byte) #b10100100 #b10100101))))
1658
1659 (define-instruction outs (segment acc)
1660   (:printer string-op ((op #b0110111)))
1661   (:emitter
1662    (let ((size (operand-size acc)))
1663      (aver (accumulator-p acc))
1664      (maybe-emit-operand-size-prefix segment size)
1665      (emit-byte segment (if (eq size :byte) #b01101110 #b01101111)))))
1666
1667 (define-instruction scas (segment acc)
1668   (:printer string-op ((op #b1010111)))
1669   (:emitter
1670    (let ((size (operand-size acc)))
1671      (aver (accumulator-p acc))
1672      (maybe-emit-operand-size-prefix segment size)
1673      (emit-byte segment (if (eq size :byte) #b10101110 #b10101111)))))
1674
1675 (define-instruction stos (segment acc)
1676   (:printer string-op ((op #b1010101)))
1677   (:emitter
1678    (let ((size (operand-size acc)))
1679      (aver (accumulator-p acc))
1680      (maybe-emit-operand-size-prefix segment size)
1681      (emit-byte segment (if (eq size :byte) #b10101010 #b10101011)))))
1682
1683 (define-instruction xlat (segment)
1684   (:printer byte ((op #b11010111)))
1685   (:emitter
1686    (emit-byte segment #b11010111)))
1687
1688 (define-instruction rep (segment)
1689   (:emitter
1690    (emit-byte segment #b11110010)))
1691
1692 (define-instruction repe (segment)
1693   (:printer byte ((op #b11110011)))
1694   (:emitter
1695    (emit-byte segment #b11110011)))
1696
1697 (define-instruction repne (segment)
1698   (:printer byte ((op #b11110010)))
1699   (:emitter
1700    (emit-byte segment #b11110010)))
1701
1702 \f
1703 ;;;; bit manipulation
1704
1705 (define-instruction bsf (segment dst src)
1706   (:printer ext-reg-reg/mem ((op #b1011110) (width 0)))
1707   (:emitter
1708    (let ((size (matching-operand-size dst src)))
1709      (when (eq size :byte)
1710        (error "can't scan bytes: ~S" src))
1711      (maybe-emit-operand-size-prefix segment size)
1712      (emit-byte segment #b00001111)
1713      (emit-byte segment #b10111100)
1714      (emit-ea segment src (reg-tn-encoding dst)))))
1715
1716 (define-instruction bsr (segment dst src)
1717   (:printer ext-reg-reg/mem ((op #b1011110) (width 1)))
1718   (:emitter
1719    (let ((size (matching-operand-size dst src)))
1720      (when (eq size :byte)
1721        (error "can't scan bytes: ~S" src))
1722      (maybe-emit-operand-size-prefix segment size)
1723      (emit-byte segment #b00001111)
1724      (emit-byte segment #b10111101)
1725      (emit-ea segment src (reg-tn-encoding dst)))))
1726
1727 (defun emit-bit-test-and-mumble (segment src index opcode)
1728   (let ((size (operand-size src)))
1729     (when (eq size :byte)
1730       (error "can't scan bytes: ~S" src))
1731     (maybe-emit-operand-size-prefix segment size)
1732     (emit-byte segment #b00001111)
1733     (cond ((integerp index)
1734            (emit-byte segment #b10111010)
1735            (emit-ea segment src opcode)
1736            (emit-byte segment index))
1737           (t
1738            (emit-byte segment (dpb opcode (byte 3 3) #b10000011))
1739            (emit-ea segment src (reg-tn-encoding index))))))
1740
1741 (eval-when (:compile-toplevel :execute)
1742   (defun bit-test-inst-printer-list (subop)
1743     `((ext-reg/mem-imm ((op (#b1011101 ,subop))
1744                         (reg/mem nil :type word-reg/mem)
1745                         (imm nil :type imm-data)
1746                         (width 0)))
1747       (ext-reg-reg/mem ((op ,(dpb subop (byte 3 2) #b1000001))
1748                         (width 1))
1749                        (:name :tab reg/mem ", " reg)))))
1750
1751 (define-instruction bt (segment src index)
1752   (:printer-list (bit-test-inst-printer-list #b100))
1753   (:emitter
1754    (emit-bit-test-and-mumble segment src index #b100)))
1755
1756 (define-instruction btc (segment src index)
1757   (:printer-list (bit-test-inst-printer-list #b111))
1758   (:emitter
1759    (emit-bit-test-and-mumble segment src index #b111)))
1760
1761 (define-instruction btr (segment src index)
1762   (:printer-list (bit-test-inst-printer-list #b110))
1763   (:emitter
1764    (emit-bit-test-and-mumble segment src index #b110)))
1765
1766 (define-instruction bts (segment src index)
1767   (:printer-list (bit-test-inst-printer-list #b101))
1768   (:emitter
1769    (emit-bit-test-and-mumble segment src index #b101)))
1770
1771 \f
1772 ;;;; control transfer
1773
1774 (define-instruction call (segment where)
1775   (:printer near-jump ((op #b11101000)))
1776   (:printer reg/mem ((op '(#b1111111 #b010)) (width 1)))
1777   (:emitter
1778    (typecase where
1779      (label
1780       (emit-byte segment #b11101000)
1781       (emit-back-patch segment
1782                        4
1783                        (lambda (segment posn)
1784                          (emit-dword segment
1785                                      (- (label-position where)
1786                                         (+ posn 4))))))
1787      (fixup
1788       (emit-byte segment #b11101000)
1789       (emit-relative-fixup segment where))
1790      (t
1791       (emit-byte segment #b11111111)
1792       (emit-ea segment where #b010)))))
1793
1794 (defun emit-byte-displacement-backpatch (segment target)
1795   (emit-back-patch segment
1796                    1
1797                    (lambda (segment posn)
1798                      (let ((disp (- (label-position target) (1+ posn))))
1799                        (aver (<= -128 disp 127))
1800                        (emit-byte segment disp)))))
1801
1802 (define-instruction jmp (segment cond &optional where)
1803   ;; conditional jumps
1804   (:printer short-cond-jump ((op #b0111)) '('j cc :tab label))
1805   (:printer near-cond-jump () '('j cc :tab label))
1806   ;; unconditional jumps
1807   (:printer short-jump ((op #b1011)))
1808   (:printer near-jump ((op #b11101001)) )
1809   (:printer reg/mem ((op '(#b1111111 #b100)) (width 1)))
1810   (:emitter
1811    (cond (where
1812           (emit-chooser
1813            segment 6 2
1814            (lambda (segment posn delta-if-after)
1815              (let ((disp (- (label-position where posn delta-if-after)
1816                             (+ posn 2))))
1817                (when (<= -128 disp 127)
1818                  (emit-byte segment
1819                             (dpb (conditional-opcode cond)
1820                                  (byte 4 0)
1821                                  #b01110000))
1822                  (emit-byte-displacement-backpatch segment where)
1823                  t)))
1824            (lambda (segment posn)
1825              (let ((disp (- (label-position where) (+ posn 6))))
1826                (emit-byte segment #b00001111)
1827                (emit-byte segment
1828                           (dpb (conditional-opcode cond)
1829                                (byte 4 0)
1830                                #b10000000))
1831                (emit-dword segment disp)))))
1832          ((label-p (setq where cond))
1833           (emit-chooser
1834            segment 5 0
1835            (lambda (segment posn delta-if-after)
1836              (let ((disp (- (label-position where posn delta-if-after)
1837                             (+ posn 2))))
1838                (when (<= -128 disp 127)
1839                  (emit-byte segment #b11101011)
1840                  (emit-byte-displacement-backpatch segment where)
1841                  t)))
1842            (lambda (segment posn)
1843              (let ((disp (- (label-position where) (+ posn 5))))
1844                (emit-byte segment #b11101001)
1845                (emit-dword segment disp)))))
1846          ((fixup-p where)
1847           (emit-byte segment #b11101001)
1848           (emit-relative-fixup segment where))
1849          (t
1850           (unless (or (ea-p where) (tn-p where))
1851                   (error "don't know what to do with ~A" where))
1852           (emit-byte segment #b11111111)
1853           (emit-ea segment where #b100)))))
1854
1855 (define-instruction jmp-short (segment label)
1856   (:emitter
1857    (emit-byte segment #b11101011)
1858    (emit-byte-displacement-backpatch segment label)))
1859
1860 (define-instruction ret (segment &optional stack-delta)
1861   (:printer byte ((op #b11000011)))
1862   (:printer byte ((op #b11000010) (imm nil :type 'imm-word-16))
1863             '(:name :tab imm))
1864   (:emitter
1865    (cond (stack-delta
1866           (emit-byte segment #b11000010)
1867           (emit-word segment stack-delta))
1868          (t
1869           (emit-byte segment #b11000011)))))
1870
1871 (define-instruction jecxz (segment target)
1872   (:printer short-jump ((op #b0011)))
1873   (:emitter
1874    (emit-byte segment #b11100011)
1875    (emit-byte-displacement-backpatch segment target)))
1876
1877 (define-instruction loop (segment target)
1878   (:printer short-jump ((op #b0010)))
1879   (:emitter
1880    (emit-byte segment #b11100010)       ; pfw this was 11100011, or jecxz!!!!
1881    (emit-byte-displacement-backpatch segment target)))
1882
1883 (define-instruction loopz (segment target)
1884   (:printer short-jump ((op #b0001)))
1885   (:emitter
1886    (emit-byte segment #b11100001)
1887    (emit-byte-displacement-backpatch segment target)))
1888
1889 (define-instruction loopnz (segment target)
1890   (:printer short-jump ((op #b0000)))
1891   (:emitter
1892    (emit-byte segment #b11100000)
1893    (emit-byte-displacement-backpatch segment target)))
1894 \f
1895 ;;;; conditional move
1896 (define-instruction cmov (segment cond dst src)
1897   (:printer cond-move ())
1898   (:emitter
1899    (aver (register-p dst))
1900    (let ((size (matching-operand-size dst src)))
1901      (aver (or (eq size :word) (eq size :dword)))
1902      (maybe-emit-operand-size-prefix segment size))
1903    (emit-byte segment #b00001111)
1904    (emit-byte segment (dpb (conditional-opcode cond) (byte 4 0) #b01000000))
1905    (emit-ea segment src (reg-tn-encoding dst))))
1906
1907 ;;;; conditional byte set
1908
1909 (define-instruction set (segment dst cond)
1910   (:printer cond-set ())
1911   (:emitter
1912    (emit-byte segment #b00001111)
1913    (emit-byte segment (dpb (conditional-opcode cond) (byte 4 0) #b10010000))
1914    (emit-ea segment dst #b000)))
1915 \f
1916 ;;;; enter/leave
1917
1918 (define-instruction enter (segment disp &optional (level 0))
1919   (:declare (type (unsigned-byte 16) disp)
1920             (type (unsigned-byte 8) level))
1921   (:printer enter-format ((op #b11001000)))
1922   (:emitter
1923    (emit-byte segment #b11001000)
1924    (emit-word segment disp)
1925    (emit-byte segment level)))
1926
1927 (define-instruction leave (segment)
1928   (:printer byte ((op #b11001001)))
1929   (:emitter
1930    (emit-byte segment #b11001001)))
1931 \f
1932 ;;;; prefetch
1933 (define-instruction prefetchnta (segment ea)
1934   (:printer prefetch ((op #b00011000) (reg #b000)))
1935   (:emitter
1936    (aver (typep ea 'ea))
1937    (aver (eq :byte (ea-size ea)))
1938    (emit-byte segment #b00001111)
1939    (emit-byte segment #b00011000)
1940    (emit-ea segment ea #b000)))
1941
1942 (define-instruction prefetcht0 (segment ea)
1943   (:printer prefetch ((op #b00011000) (reg #b001)))
1944   (:emitter
1945    (aver (typep ea 'ea))
1946    (aver (eq :byte (ea-size ea)))
1947    (emit-byte segment #b00001111)
1948    (emit-byte segment #b00011000)
1949    (emit-ea segment ea #b001)))
1950
1951 (define-instruction prefetcht1 (segment ea)
1952   (:printer prefetch ((op #b00011000) (reg #b010)))
1953   (:emitter
1954    (aver (typep ea 'ea))
1955    (aver (eq :byte (ea-size ea)))
1956    (emit-byte segment #b00001111)
1957    (emit-byte segment #b00011000)
1958    (emit-ea segment ea #b010)))
1959
1960 (define-instruction prefetcht2 (segment ea)
1961   (:printer prefetch ((op #b00011000) (reg #b011)))
1962   (:emitter
1963    (aver (typep ea 'ea))
1964    (aver (eq :byte (ea-size ea)))
1965    (emit-byte segment #b00001111)
1966    (emit-byte segment #b00011000)
1967    (emit-ea segment ea #b011)))
1968 \f
1969 ;;;; interrupt instructions
1970
1971 (defun snarf-error-junk (sap offset &optional length-only)
1972   (let* ((length (sb!sys:sap-ref-8 sap offset))
1973          (vector (make-array length :element-type '(unsigned-byte 8))))
1974     (declare (type sb!sys:system-area-pointer sap)
1975              (type (unsigned-byte 8) length)
1976              (type (simple-array (unsigned-byte 8) (*)) vector))
1977     (cond (length-only
1978            (values 0 (1+ length) nil nil))
1979           (t
1980            (sb!kernel:copy-ub8-from-system-area sap (1+ offset)
1981                                                 vector 0 length)
1982            (collect ((sc-offsets)
1983                      (lengths))
1984              (lengths 1)                ; the length byte
1985              (let* ((index 0)
1986                     (error-number (sb!c:read-var-integer vector index)))
1987                (lengths index)
1988                (loop
1989                  (when (>= index length)
1990                    (return))
1991                  (let ((old-index index))
1992                    (sc-offsets (sb!c:read-var-integer vector index))
1993                    (lengths (- index old-index))))
1994                (values error-number
1995                        (1+ length)
1996                        (sc-offsets)
1997                        (lengths))))))))
1998
1999 #|
2000 (defmacro break-cases (breaknum &body cases)
2001   (let ((bn-temp (gensym)))
2002     (collect ((clauses))
2003       (dolist (case cases)
2004         (clauses `((= ,bn-temp ,(car case)) ,@(cdr case))))
2005       `(let ((,bn-temp ,breaknum))
2006          (cond ,@(clauses))))))
2007 |#
2008
2009 (defun break-control (chunk inst stream dstate)
2010   (declare (ignore inst))
2011   (flet ((nt (x) (if stream (sb!disassem:note x dstate))))
2012     ;; FIXME: Make sure that BYTE-IMM-CODE is defined. The genesis
2013     ;; map has it undefined; and it should be easier to look in the target
2014     ;; Lisp (with (DESCRIBE 'BYTE-IMM-CODE)) than to definitively deduce
2015     ;; from first principles whether it's defined in some way that genesis
2016     ;; can't grok.
2017     (case #!-darwin (byte-imm-code chunk dstate)
2018           #!+darwin (word-imm-code chunk dstate)
2019       (#.error-trap
2020        (nt "error trap")
2021        (sb!disassem:handle-break-args #'snarf-error-junk stream dstate))
2022       (#.cerror-trap
2023        (nt "cerror trap")
2024        (sb!disassem:handle-break-args #'snarf-error-junk stream dstate))
2025       (#.breakpoint-trap
2026        (nt "breakpoint trap"))
2027       (#.pending-interrupt-trap
2028        (nt "pending interrupt trap"))
2029       (#.halt-trap
2030        (nt "halt trap"))
2031       (#.fun-end-breakpoint-trap
2032        (nt "function end breakpoint trap")))))
2033
2034 (define-instruction break (segment code)
2035   (:declare (type (unsigned-byte 8) code))
2036   #!-darwin (:printer byte-imm ((op #b11001100)) '(:name :tab code)
2037                      :control #'break-control)
2038   #!+darwin (:printer word-imm ((op #b0000101100001111)) '(:name :tab code)
2039                      :control #'break-control)
2040   (:emitter
2041    #!-darwin (emit-byte segment #b11001100)
2042    ;; On darwin, trap handling via SIGTRAP is unreliable, therefore we
2043    ;; throw a sigill with 0x0b0f instead and check for this in the
2044    ;; SIGILL handler and pass it on to the sigtrap handler if
2045    ;; appropriate
2046    #!+darwin (emit-word segment #b0000101100001111)
2047    (emit-byte segment code)))
2048
2049 (define-instruction int (segment number)
2050   (:declare (type (unsigned-byte 8) number))
2051   (:printer byte-imm ((op #b11001101)))
2052   (:emitter
2053    (etypecase number
2054      ((member 3)
2055       (emit-byte segment #b11001100))
2056      ((unsigned-byte 8)
2057       (emit-byte segment #b11001101)
2058       (emit-byte segment number)))))
2059
2060 (define-instruction into (segment)
2061   (:printer byte ((op #b11001110)))
2062   (:emitter
2063    (emit-byte segment #b11001110)))
2064
2065 (define-instruction bound (segment reg bounds)
2066   (:emitter
2067    (let ((size (matching-operand-size reg bounds)))
2068      (when (eq size :byte)
2069        (error "can't bounds-test bytes: ~S" reg))
2070      (maybe-emit-operand-size-prefix segment size)
2071      (emit-byte segment #b01100010)
2072      (emit-ea segment bounds (reg-tn-encoding reg)))))
2073
2074 (define-instruction iret (segment)
2075   (:printer byte ((op #b11001111)))
2076   (:emitter
2077    (emit-byte segment #b11001111)))
2078 \f
2079 ;;;; processor control
2080
2081 (define-instruction hlt (segment)
2082   (:printer byte ((op #b11110100)))
2083   (:emitter
2084    (emit-byte segment #b11110100)))
2085
2086 (define-instruction nop (segment)
2087   (:printer byte ((op #b10010000)))
2088   (:emitter
2089    (emit-byte segment #b10010000)))
2090
2091 (define-instruction wait (segment)
2092   (:printer byte ((op #b10011011)))
2093   (:emitter
2094    (emit-byte segment #b10011011)))
2095
2096 ;;; FIXME: It would be better to make the disassembler understand the prefix as part
2097 ;;; of the instructions...
2098 (define-instruction lock (segment)
2099   (:printer byte ((op #b11110000)))
2100   (:emitter
2101    (bug "LOCK prefix used as a standalone instruction")))
2102 \f
2103 ;;;; miscellaneous hackery
2104
2105 (define-instruction byte (segment byte)
2106   (:emitter
2107    (emit-byte segment byte)))
2108
2109 (define-instruction word (segment word)
2110   (:emitter
2111    (emit-word segment word)))
2112
2113 (define-instruction dword (segment dword)
2114   (:emitter
2115    (emit-dword segment dword)))
2116
2117 (defun emit-header-data (segment type)
2118   (emit-back-patch segment
2119                    4
2120                    (lambda (segment posn)
2121                      (emit-dword segment
2122                                  (logior type
2123                                          (ash (+ posn
2124                                                  (component-header-length))
2125                                               (- n-widetag-bits
2126                                                  word-shift)))))))
2127
2128 (define-instruction simple-fun-header-word (segment)
2129   (:emitter
2130    (emit-header-data segment simple-fun-header-widetag)))
2131
2132 (define-instruction lra-header-word (segment)
2133   (:emitter
2134    (emit-header-data segment return-pc-header-widetag)))
2135 \f
2136 ;;;; fp instructions
2137 ;;;;
2138 ;;;; FIXME: This section said "added by jrd", which should end up in CREDITS.
2139 ;;;;
2140 ;;;; Note: We treat the single-precision and double-precision variants
2141 ;;;; as separate instructions.
2142
2143 ;;; Load single to st(0).
2144 (define-instruction fld (segment source)
2145   (:printer floating-point ((op '(#b001 #b000))))
2146   (:emitter
2147     (emit-byte segment #b11011001)
2148     (emit-fp-op segment source #b000)))
2149
2150 ;;; Load double to st(0).
2151 (define-instruction fldd (segment source)
2152   (:printer floating-point ((op '(#b101 #b000))))
2153   (:printer floating-point-fp ((op '(#b001 #b000))))
2154   (:emitter
2155    (if (fp-reg-tn-p source)
2156        (emit-byte segment #b11011001)
2157      (emit-byte segment #b11011101))
2158     (emit-fp-op segment source #b000)))
2159
2160 ;;; Load long to st(0).
2161 (define-instruction fldl (segment source)
2162   (:printer floating-point ((op '(#b011 #b101))))
2163   (:emitter
2164     (emit-byte segment #b11011011)
2165     (emit-fp-op segment source #b101)))
2166
2167 ;;; Store single from st(0).
2168 (define-instruction fst (segment dest)
2169   (:printer floating-point ((op '(#b001 #b010))))
2170   (:emitter
2171     (cond ((fp-reg-tn-p dest)
2172            (emit-byte segment #b11011101)
2173            (emit-fp-op segment dest #b010))
2174           (t
2175            (emit-byte segment #b11011001)
2176            (emit-fp-op segment dest #b010)))))
2177
2178 ;;; Store double from st(0).
2179 (define-instruction fstd (segment dest)
2180   (:printer floating-point ((op '(#b101 #b010))))
2181   (:printer floating-point-fp ((op '(#b101 #b010))))
2182   (:emitter
2183    (cond ((fp-reg-tn-p dest)
2184           (emit-byte segment #b11011101)
2185           (emit-fp-op segment dest #b010))
2186          (t
2187           (emit-byte segment #b11011101)
2188           (emit-fp-op segment dest #b010)))))
2189
2190 ;;; Arithmetic ops are all done with at least one operand at top of
2191 ;;; stack. The other operand is is another register or a 32/64 bit
2192 ;;; memory loc.
2193
2194 ;;; dtc: I've tried to follow the Intel ASM386 conventions, but note
2195 ;;; that these conflict with the Gdb conventions for binops. To reduce
2196 ;;; the confusion I've added comments showing the mathamatical
2197 ;;; operation and the two syntaxes. By the ASM386 convention the
2198 ;;; instruction syntax is:
2199 ;;;
2200 ;;;      Fop Source
2201 ;;; or   Fop Destination, Source
2202 ;;;
2203 ;;; If only one operand is given then it is the source and the
2204 ;;; destination is ST(0). There are reversed forms of the fsub and
2205 ;;; fdiv instructions inducated by an 'R' suffix.
2206 ;;;
2207 ;;; The mathematical operation for the non-reverse form is always:
2208 ;;;     destination = destination op source
2209 ;;;
2210 ;;; For the reversed form it is:
2211 ;;;     destination = source op destination
2212 ;;;
2213 ;;; The instructions below only accept one operand at present which is
2214 ;;; usually the source. I've hack in extra instructions to implement
2215 ;;; the fops with a ST(i) destination, these have a -sti suffix and
2216 ;;; the operand is the destination with the source being ST(0).
2217
2218 ;;; Add single:
2219 ;;;   st(0) = st(0) + memory or st(i).
2220 (define-instruction fadd (segment source)
2221   (:printer floating-point ((op '(#b000 #b000))))
2222   (:emitter
2223     (emit-byte segment #b11011000)
2224     (emit-fp-op segment source #b000)))
2225
2226 ;;; Add double:
2227 ;;;   st(0) = st(0) + memory or st(i).
2228 (define-instruction faddd (segment source)
2229   (:printer floating-point ((op '(#b100 #b000))))
2230   (:printer floating-point-fp ((op '(#b000 #b000))))
2231   (:emitter
2232    (if (fp-reg-tn-p source)
2233        (emit-byte segment #b11011000)
2234      (emit-byte segment #b11011100))
2235    (emit-fp-op segment source #b000)))
2236
2237 ;;; Add double destination st(i):
2238 ;;;   st(i) = st(0) + st(i).
2239 (define-instruction fadd-sti (segment destination)
2240   (:printer floating-point-fp ((op '(#b100 #b000))))
2241   (:emitter
2242    (aver (fp-reg-tn-p destination))
2243    (emit-byte segment #b11011100)
2244    (emit-fp-op segment destination #b000)))
2245 ;;; with pop
2246 (define-instruction faddp-sti (segment destination)
2247   (:printer floating-point-fp ((op '(#b110 #b000))))
2248   (:emitter
2249    (aver (fp-reg-tn-p destination))
2250    (emit-byte segment #b11011110)
2251    (emit-fp-op segment destination #b000)))
2252
2253 ;;; Subtract single:
2254 ;;;   st(0) = st(0) - memory or st(i).
2255 (define-instruction fsub (segment source)
2256   (:printer floating-point ((op '(#b000 #b100))))
2257   (:emitter
2258     (emit-byte segment #b11011000)
2259     (emit-fp-op segment source #b100)))
2260
2261 ;;; Subtract single, reverse:
2262 ;;;   st(0) = memory or st(i) - st(0).
2263 (define-instruction fsubr (segment source)
2264   (:printer floating-point ((op '(#b000 #b101))))
2265   (:emitter
2266     (emit-byte segment #b11011000)
2267     (emit-fp-op segment source #b101)))
2268
2269 ;;; Subtract double:
2270 ;;;   st(0) = st(0) - memory or st(i).
2271 (define-instruction fsubd (segment source)
2272   (:printer floating-point ((op '(#b100 #b100))))
2273   (:printer floating-point-fp ((op '(#b000 #b100))))
2274   (:emitter
2275    (if (fp-reg-tn-p source)
2276        (emit-byte segment #b11011000)
2277      (emit-byte segment #b11011100))
2278    (emit-fp-op segment source #b100)))
2279
2280 ;;; Subtract double, reverse:
2281 ;;;   st(0) = memory or st(i) - st(0).
2282 (define-instruction fsubrd (segment source)
2283   (:printer floating-point ((op '(#b100 #b101))))
2284   (:printer floating-point-fp ((op '(#b000 #b101))))
2285   (:emitter
2286    (if (fp-reg-tn-p source)
2287        (emit-byte segment #b11011000)
2288      (emit-byte segment #b11011100))
2289    (emit-fp-op segment source #b101)))
2290
2291 ;;; Subtract double, destination st(i):
2292 ;;;   st(i) = st(i) - st(0).
2293 ;;;
2294 ;;; ASM386 syntax: FSUB ST(i), ST
2295 ;;; Gdb    syntax: fsubr %st,%st(i)
2296 (define-instruction fsub-sti (segment destination)
2297   (:printer floating-point-fp ((op '(#b100 #b101))))
2298   (:emitter
2299    (aver (fp-reg-tn-p destination))
2300    (emit-byte segment #b11011100)
2301    (emit-fp-op segment destination #b101)))
2302 ;;; with a pop
2303 (define-instruction fsubp-sti (segment destination)
2304   (:printer floating-point-fp ((op '(#b110 #b101))))
2305   (:emitter
2306    (aver (fp-reg-tn-p destination))
2307    (emit-byte segment #b11011110)
2308    (emit-fp-op segment destination #b101)))
2309
2310 ;;; Subtract double, reverse, destination st(i):
2311 ;;;   st(i) = st(0) - st(i).
2312 ;;;
2313 ;;; ASM386 syntax: FSUBR ST(i), ST
2314 ;;; Gdb    syntax: fsub %st,%st(i)
2315 (define-instruction fsubr-sti (segment destination)
2316   (:printer floating-point-fp ((op '(#b100 #b100))))
2317   (:emitter
2318    (aver (fp-reg-tn-p destination))
2319    (emit-byte segment #b11011100)
2320    (emit-fp-op segment destination #b100)))
2321 ;;; with a pop
2322 (define-instruction fsubrp-sti (segment destination)
2323   (:printer floating-point-fp ((op '(#b110 #b100))))
2324   (:emitter
2325    (aver (fp-reg-tn-p destination))
2326    (emit-byte segment #b11011110)
2327    (emit-fp-op segment destination #b100)))
2328
2329 ;;; Multiply single:
2330 ;;;   st(0) = st(0) * memory or st(i).
2331 (define-instruction fmul (segment source)
2332   (:printer floating-point ((op '(#b000 #b001))))
2333   (:emitter
2334     (emit-byte segment #b11011000)
2335     (emit-fp-op segment source #b001)))
2336
2337 ;;; Multiply double:
2338 ;;;   st(0) = st(0) * memory or st(i).
2339 (define-instruction fmuld (segment source)
2340   (:printer floating-point ((op '(#b100 #b001))))
2341   (:printer floating-point-fp ((op '(#b000 #b001))))
2342   (:emitter
2343    (if (fp-reg-tn-p source)
2344        (emit-byte segment #b11011000)
2345      (emit-byte segment #b11011100))
2346    (emit-fp-op segment source #b001)))
2347
2348 ;;; Multiply double, destination st(i):
2349 ;;;   st(i) = st(i) * st(0).
2350 (define-instruction fmul-sti (segment destination)
2351   (:printer floating-point-fp ((op '(#b100 #b001))))
2352   (:emitter
2353    (aver (fp-reg-tn-p destination))
2354    (emit-byte segment #b11011100)
2355    (emit-fp-op segment destination #b001)))
2356
2357 ;;; Divide single:
2358 ;;;   st(0) = st(0) / memory or st(i).
2359 (define-instruction fdiv (segment source)
2360   (:printer floating-point ((op '(#b000 #b110))))
2361   (:emitter
2362     (emit-byte segment #b11011000)
2363     (emit-fp-op segment source #b110)))
2364
2365 ;;; Divide single, reverse:
2366 ;;;   st(0) = memory or st(i) / st(0).
2367 (define-instruction fdivr (segment source)
2368   (:printer floating-point ((op '(#b000 #b111))))
2369   (:emitter
2370     (emit-byte segment #b11011000)
2371     (emit-fp-op segment source #b111)))
2372
2373 ;;; Divide double:
2374 ;;;   st(0) = st(0) / memory or st(i).
2375 (define-instruction fdivd (segment source)
2376   (:printer floating-point ((op '(#b100 #b110))))
2377   (:printer floating-point-fp ((op '(#b000 #b110))))
2378   (:emitter
2379    (if (fp-reg-tn-p source)
2380        (emit-byte segment #b11011000)
2381      (emit-byte segment #b11011100))
2382    (emit-fp-op segment source #b110)))
2383
2384 ;;; Divide double, reverse:
2385 ;;;   st(0) = memory or st(i) / st(0).
2386 (define-instruction fdivrd (segment source)
2387   (:printer floating-point ((op '(#b100 #b111))))
2388   (:printer floating-point-fp ((op '(#b000 #b111))))
2389   (:emitter
2390    (if (fp-reg-tn-p source)
2391        (emit-byte segment #b11011000)
2392      (emit-byte segment #b11011100))
2393    (emit-fp-op segment source #b111)))
2394
2395 ;;; Divide double, destination st(i):
2396 ;;;   st(i) = st(i) / st(0).
2397 ;;;
2398 ;;; ASM386 syntax: FDIV ST(i), ST
2399 ;;; Gdb    syntax: fdivr %st,%st(i)
2400 (define-instruction fdiv-sti (segment destination)
2401   (:printer floating-point-fp ((op '(#b100 #b111))))
2402   (:emitter
2403    (aver (fp-reg-tn-p destination))
2404    (emit-byte segment #b11011100)
2405    (emit-fp-op segment destination #b111)))
2406
2407 ;;; Divide double, reverse, destination st(i):
2408 ;;;   st(i) = st(0) / st(i).
2409 ;;;
2410 ;;; ASM386 syntax: FDIVR ST(i), ST
2411 ;;; Gdb    syntax: fdiv %st,%st(i)
2412 (define-instruction fdivr-sti (segment destination)
2413   (:printer floating-point-fp ((op '(#b100 #b110))))
2414   (:emitter
2415    (aver (fp-reg-tn-p destination))
2416    (emit-byte segment #b11011100)
2417    (emit-fp-op segment destination #b110)))
2418
2419 ;;; Exchange fr0 with fr(n). (There is no double precision variant.)
2420 (define-instruction fxch (segment source)
2421   (:printer floating-point-fp ((op '(#b001 #b001))))
2422   (:emitter
2423     (unless (and (tn-p source)
2424                  (eq (sb-name (sc-sb (tn-sc source))) 'float-registers))
2425       (cl:break))
2426     (emit-byte segment #b11011001)
2427     (emit-fp-op segment source #b001)))
2428
2429 ;;; Push 32-bit integer to st0.
2430 (define-instruction fild (segment source)
2431   (:printer floating-point ((op '(#b011 #b000))))
2432   (:emitter
2433    (emit-byte segment #b11011011)
2434    (emit-fp-op segment source #b000)))
2435
2436 ;;; Push 64-bit integer to st0.
2437 (define-instruction fildl (segment source)
2438   (:printer floating-point ((op '(#b111 #b101))))
2439   (:emitter
2440    (emit-byte segment #b11011111)
2441    (emit-fp-op segment source #b101)))
2442
2443 ;;; Store 32-bit integer.
2444 (define-instruction fist (segment dest)
2445   (:printer floating-point ((op '(#b011 #b010))))
2446   (:emitter
2447    (emit-byte segment #b11011011)
2448    (emit-fp-op segment dest #b010)))
2449
2450 ;;; Store and pop 32-bit integer.
2451 (define-instruction fistp (segment dest)
2452   (:printer floating-point ((op '(#b011 #b011))))
2453   (:emitter
2454    (emit-byte segment #b11011011)
2455    (emit-fp-op segment dest #b011)))
2456
2457 ;;; Store and pop 64-bit integer.
2458 (define-instruction fistpl (segment dest)
2459   (:printer floating-point ((op '(#b111 #b111))))
2460   (:emitter
2461    (emit-byte segment #b11011111)
2462    (emit-fp-op segment dest #b111)))
2463
2464 ;;; Store single from st(0) and pop.
2465 (define-instruction fstp (segment dest)
2466   (:printer floating-point ((op '(#b001 #b011))))
2467   (:emitter
2468    (cond ((fp-reg-tn-p dest)
2469           (emit-byte segment #b11011101)
2470           (emit-fp-op segment dest #b011))
2471          (t
2472           (emit-byte segment #b11011001)
2473           (emit-fp-op segment dest #b011)))))
2474
2475 ;;; Store double from st(0) and pop.
2476 (define-instruction fstpd (segment dest)
2477   (:printer floating-point ((op '(#b101 #b011))))
2478   (:printer floating-point-fp ((op '(#b101 #b011))))
2479   (:emitter
2480    (cond ((fp-reg-tn-p dest)
2481           (emit-byte segment #b11011101)
2482           (emit-fp-op segment dest #b011))
2483          (t
2484           (emit-byte segment #b11011101)
2485           (emit-fp-op segment dest #b011)))))
2486
2487 ;;; Store long from st(0) and pop.
2488 (define-instruction fstpl (segment dest)
2489   (:printer floating-point ((op '(#b011 #b111))))
2490   (:emitter
2491     (emit-byte segment #b11011011)
2492     (emit-fp-op segment dest #b111)))
2493
2494 ;;; Decrement stack-top pointer.
2495 (define-instruction fdecstp (segment)
2496   (:printer floating-point-no ((op #b10110)))
2497   (:emitter
2498    (emit-byte segment #b11011001)
2499    (emit-byte segment #b11110110)))
2500
2501 ;;; Increment stack-top pointer.
2502 (define-instruction fincstp (segment)
2503   (:printer floating-point-no ((op #b10111)))
2504   (:emitter
2505    (emit-byte segment #b11011001)
2506    (emit-byte segment #b11110111)))
2507
2508 ;;; Free fp register.
2509 (define-instruction ffree (segment dest)
2510   (:printer floating-point-fp ((op '(#b101 #b000))))
2511   (:emitter
2512    (emit-byte segment #b11011101)
2513    (emit-fp-op segment dest #b000)))
2514
2515 (define-instruction fabs (segment)
2516   (:printer floating-point-no ((op #b00001)))
2517   (:emitter
2518    (emit-byte segment #b11011001)
2519    (emit-byte segment #b11100001)))
2520
2521 (define-instruction fchs (segment)
2522   (:printer floating-point-no ((op #b00000)))
2523   (:emitter
2524    (emit-byte segment #b11011001)
2525    (emit-byte segment #b11100000)))
2526
2527 (define-instruction frndint(segment)
2528   (:printer floating-point-no ((op #b11100)))
2529   (:emitter
2530    (emit-byte segment #b11011001)
2531    (emit-byte segment #b11111100)))
2532
2533 ;;; Initialize NPX.
2534 (define-instruction fninit(segment)
2535   (:printer floating-point-5 ((op #b00011)))
2536   (:emitter
2537    (emit-byte segment #b11011011)
2538    (emit-byte segment #b11100011)))
2539
2540 ;;; Store Status Word to AX.
2541 (define-instruction fnstsw(segment)
2542   (:printer floating-point-st ((op #b00000)))
2543   (:emitter
2544    (emit-byte segment #b11011111)
2545    (emit-byte segment #b11100000)))
2546
2547 ;;; Load Control Word.
2548 ;;;
2549 ;;; src must be a memory location
2550 (define-instruction fldcw(segment src)
2551   (:printer floating-point ((op '(#b001 #b101))))
2552   (:emitter
2553    (emit-byte segment #b11011001)
2554    (emit-fp-op segment src #b101)))
2555
2556 ;;; Store Control Word.
2557 (define-instruction fnstcw(segment dst)
2558   (:printer floating-point ((op '(#b001 #b111))))
2559   (:emitter
2560    (emit-byte segment #b11011001)
2561    (emit-fp-op segment dst #b111)))
2562
2563 ;;; Store FP Environment.
2564 (define-instruction fstenv(segment dst)
2565   (:printer floating-point ((op '(#b001 #b110))))
2566   (:emitter
2567    (emit-byte segment #b11011001)
2568    (emit-fp-op segment dst #b110)))
2569
2570 ;;; Restore FP Environment.
2571 (define-instruction fldenv(segment src)
2572   (:printer floating-point ((op '(#b001 #b100))))
2573   (:emitter
2574    (emit-byte segment #b11011001)
2575    (emit-fp-op segment src #b100)))
2576
2577 ;;; Save FP State.
2578 (define-instruction fsave(segment dst)
2579   (:printer floating-point ((op '(#b101 #b110))))
2580   (:emitter
2581    (emit-byte segment #b11011101)
2582    (emit-fp-op segment dst #b110)))
2583
2584 ;;; Restore FP State.
2585 (define-instruction frstor(segment src)
2586   (:printer floating-point ((op '(#b101 #b100))))
2587   (:emitter
2588    (emit-byte segment #b11011101)
2589    (emit-fp-op segment src #b100)))
2590
2591 ;;; Clear exceptions.
2592 (define-instruction fnclex(segment)
2593   (:printer floating-point-5 ((op #b00010)))
2594   (:emitter
2595    (emit-byte segment #b11011011)
2596    (emit-byte segment #b11100010)))
2597
2598 ;;; comparison
2599 (define-instruction fcom (segment src)
2600   (:printer floating-point ((op '(#b000 #b010))))
2601   (:emitter
2602    (emit-byte segment #b11011000)
2603    (emit-fp-op segment src #b010)))
2604
2605 (define-instruction fcomd (segment src)
2606   (:printer floating-point ((op '(#b100 #b010))))
2607   (:printer floating-point-fp ((op '(#b000 #b010))))
2608   (:emitter
2609    (if (fp-reg-tn-p src)
2610        (emit-byte segment #b11011000)
2611      (emit-byte segment #b11011100))
2612    (emit-fp-op segment src #b010)))
2613
2614 ;;; Compare ST1 to ST0, popping the stack twice.
2615 (define-instruction fcompp (segment)
2616   (:printer floating-point-3 ((op '(#b110 #b011001))))
2617   (:emitter
2618    (emit-byte segment #b11011110)
2619    (emit-byte segment #b11011001)))
2620
2621 ;;; unordered comparison
2622 (define-instruction fucom (segment src)
2623   (:printer floating-point-fp ((op '(#b101 #b100))))
2624   (:emitter
2625    (aver (fp-reg-tn-p src))
2626    (emit-byte segment #b11011101)
2627    (emit-fp-op segment src #b100)))
2628
2629 (define-instruction ftst (segment)
2630   (:printer floating-point-no ((op #b00100)))
2631   (:emitter
2632    (emit-byte segment #b11011001)
2633    (emit-byte segment #b11100100)))
2634
2635 ;;;; 80387 specials
2636
2637 (define-instruction fsqrt(segment)
2638   (:printer floating-point-no ((op #b11010)))
2639   (:emitter
2640    (emit-byte segment #b11011001)
2641    (emit-byte segment #b11111010)))
2642
2643 (define-instruction fscale(segment)
2644   (:printer floating-point-no ((op #b11101)))
2645   (:emitter
2646    (emit-byte segment #b11011001)
2647    (emit-byte segment #b11111101)))
2648
2649 (define-instruction fxtract(segment)
2650   (:printer floating-point-no ((op #b10100)))
2651   (:emitter
2652    (emit-byte segment #b11011001)
2653    (emit-byte segment #b11110100)))
2654
2655 (define-instruction fsin(segment)
2656   (:printer floating-point-no ((op #b11110)))
2657   (:emitter
2658    (emit-byte segment #b11011001)
2659    (emit-byte segment #b11111110)))
2660
2661 (define-instruction fcos(segment)
2662   (:printer floating-point-no ((op #b11111)))
2663   (:emitter
2664    (emit-byte segment #b11011001)
2665    (emit-byte segment #b11111111)))
2666
2667 (define-instruction fprem1(segment)
2668   (:printer floating-point-no ((op #b10101)))
2669   (:emitter
2670    (emit-byte segment #b11011001)
2671    (emit-byte segment #b11110101)))
2672
2673 (define-instruction fprem(segment)
2674   (:printer floating-point-no ((op #b11000)))
2675   (:emitter
2676    (emit-byte segment #b11011001)
2677    (emit-byte segment #b11111000)))
2678
2679 (define-instruction fxam (segment)
2680   (:printer floating-point-no ((op #b00101)))
2681   (:emitter
2682    (emit-byte segment #b11011001)
2683    (emit-byte segment #b11100101)))
2684
2685 ;;; These do push/pop to stack and need special handling
2686 ;;; in any VOPs that use them. See the book.
2687
2688 ;;; st0 <- st1*log2(st0)
2689 (define-instruction fyl2x(segment)      ; pops stack
2690   (:printer floating-point-no ((op #b10001)))
2691   (:emitter
2692    (emit-byte segment #b11011001)
2693    (emit-byte segment #b11110001)))
2694
2695 (define-instruction fyl2xp1(segment)
2696   (:printer floating-point-no ((op #b11001)))
2697   (:emitter
2698    (emit-byte segment #b11011001)
2699    (emit-byte segment #b11111001)))
2700
2701 (define-instruction f2xm1(segment)
2702   (:printer floating-point-no ((op #b10000)))
2703   (:emitter
2704    (emit-byte segment #b11011001)
2705    (emit-byte segment #b11110000)))
2706
2707 (define-instruction fptan(segment)      ; st(0) <- 1; st(1) <- tan
2708   (:printer floating-point-no ((op #b10010)))
2709   (:emitter
2710    (emit-byte segment #b11011001)
2711    (emit-byte segment #b11110010)))
2712
2713 (define-instruction fpatan(segment)     ; POPS STACK
2714   (:printer floating-point-no ((op #b10011)))
2715   (:emitter
2716    (emit-byte segment #b11011001)
2717    (emit-byte segment #b11110011)))
2718
2719 ;;;; loading constants
2720
2721 (define-instruction fldz(segment)
2722   (:printer floating-point-no ((op #b01110)))
2723   (:emitter
2724    (emit-byte segment #b11011001)
2725    (emit-byte segment #b11101110)))
2726
2727 (define-instruction fld1(segment)
2728   (:printer floating-point-no ((op #b01000)))
2729   (:emitter
2730    (emit-byte segment #b11011001)
2731    (emit-byte segment #b11101000)))
2732
2733 (define-instruction fldpi(segment)
2734   (:printer floating-point-no ((op #b01011)))
2735   (:emitter
2736    (emit-byte segment #b11011001)
2737    (emit-byte segment #b11101011)))
2738
2739 (define-instruction fldl2t(segment)
2740   (:printer floating-point-no ((op #b01001)))
2741   (:emitter
2742    (emit-byte segment #b11011001)
2743    (emit-byte segment #b11101001)))
2744
2745 (define-instruction fldl2e(segment)
2746   (:printer floating-point-no ((op #b01010)))
2747   (:emitter
2748    (emit-byte segment #b11011001)
2749    (emit-byte segment #b11101010)))
2750
2751 (define-instruction fldlg2(segment)
2752   (:printer floating-point-no ((op #b01100)))
2753   (:emitter
2754    (emit-byte segment #b11011001)
2755    (emit-byte segment #b11101100)))
2756
2757 (define-instruction fldln2(segment)
2758   (:printer floating-point-no ((op #b01101)))
2759   (:emitter
2760    (emit-byte segment #b11011001)
2761    (emit-byte segment #b11101101)))
2762
2763 ;;;; Miscellany
2764
2765 (define-instruction cpuid (segment)
2766   (:printer two-bytes ((op '(#b00001111 #b10100010))))
2767   (:emitter
2768    (emit-byte segment #b00001111)
2769    (emit-byte segment #b10100010)))
2770
2771 (define-instruction rdtsc (segment)
2772   (:printer two-bytes ((op '(#b00001111 #b00110001))))
2773   (:emitter
2774    (emit-byte segment #b00001111)
2775    (emit-byte segment #b00110001)))