src/compiler/x86/insts.lisp

   1 ;;;; that part of the description of the x86 instruction set (for
   2 ;;;; 80386 and above) which can live on the cross-compilation host
   3
   4 ;;;; This software is part of the SBCL system. See the README file for
   5 ;;;; more information.
   6 ;;;;
   7 ;;;; This software is derived from the CMU CL system, which was
   8 ;;;; written at Carnegie Mellon University and released into the
   9 ;;;; public domain. The software is in the public domain and is
  10 ;;;; provided with absolutely no warranty. See the COPYING and CREDITS
  11 ;;;; files for more information.
  12
  13 (in-package "SB!VM")
  14 ;;; FIXME: SB!DISASSEM: prefixes are used so widely in this file that
  15 ;;; I wonder whether the separation of the disassembler from the
  16 ;;; virtual machine is valid or adds value.
  17
  18 ;;; Note: In CMU CL, this used to be a call to SET-DISASSEM-PARAMS.
  19 (setf sb!disassem:*disassem-inst-alignment-bytes* 1)
  20
  21 (deftype reg () '(unsigned-byte 3))
  22
  23 (def!constant +default-operand-size+ :dword)
  24 \f
  25 (eval-when (#-sb-xc :compile-toplevel :load-toplevel :execute)
  26
  27 (defun offset-next (value dstate)
  28   (declare (type integer value)
  29            (type sb!disassem:disassem-state dstate))
  30   (+ (sb!disassem:dstate-next-addr dstate) value))
  31
  32 (defparameter *default-address-size*
  33   ;; Actually, :DWORD is the only one really supported.
  34   :dword)
  35
  36 (defparameter *byte-reg-names*
  37   #(al cl dl bl ah ch dh bh))
  38 (defparameter *word-reg-names*
  39   #(ax cx dx bx sp bp si di))
  40 (defparameter *dword-reg-names*
  41   #(eax ecx edx ebx esp ebp esi edi))
  42
  43 (defun print-reg-with-width (value width stream dstate)
  44   (declare (ignore dstate))
  45   (princ (aref (ecase width
  46                  (:byte *byte-reg-names*)
  47                  (:word *word-reg-names*)
  48                  (:dword *dword-reg-names*))
  49                value)
  50          stream)
  51   ;; XXX plus should do some source-var notes
  52   )
  53
  54 (defun print-reg (value stream dstate)
  55   (declare (type reg value)
  56            (type stream stream)
  57            (type sb!disassem:disassem-state dstate))
  58   (print-reg-with-width value
  59                         (sb!disassem:dstate-get-prop dstate 'width)
  60                         stream
  61                         dstate))
  62
  63 (defun print-word-reg (value stream dstate)
  64   (declare (type reg value)
  65            (type stream stream)
  66            (type sb!disassem:disassem-state dstate))
  67   (print-reg-with-width value
  68                         (or (sb!disassem:dstate-get-prop dstate 'word-width)
  69                             +default-operand-size+)
  70                         stream
  71                         dstate))
  72
  73 (defun print-byte-reg (value stream dstate)
  74   (declare (type reg value)
  75            (type stream stream)
  76            (type sb!disassem:disassem-state dstate))
  77   (print-reg-with-width value :byte stream dstate))
  78
  79 (defun print-addr-reg (value stream dstate)
  80   (declare (type reg value)
  81            (type stream stream)
  82            (type sb!disassem:disassem-state dstate))
  83   (print-reg-with-width value *default-address-size* stream dstate))
  84
  85 (defun print-reg/mem (value stream dstate)
  86   (declare (type (or list reg) value)
  87            (type stream stream)
  88            (type sb!disassem:disassem-state dstate))
  89   (if (typep value 'reg)
  90       (print-reg value stream dstate)
  91       (print-mem-access value stream nil dstate)))
  92
  93 ;; Same as print-reg/mem, but prints an explicit size indicator for
  94 ;; memory references.
  95 (defun print-sized-reg/mem (value stream dstate)
  96   (declare (type (or list reg) value)
  97            (type stream stream)
  98            (type sb!disassem:disassem-state dstate))
  99   (if (typep value 'reg)
 100       (print-reg value stream dstate)
 101       (print-mem-access value stream t dstate)))
 102
 103 (defun print-byte-reg/mem (value stream dstate)
 104   (declare (type (or list reg) value)
 105            (type stream stream)
 106            (type sb!disassem:disassem-state dstate))
 107   (if (typep value 'reg)
 108       (print-byte-reg value stream dstate)
 109       (print-mem-access value stream t dstate)))
 110
 111 (defun print-word-reg/mem (value stream dstate)
 112   (declare (type (or list reg) value)
 113            (type stream stream)
 114            (type sb!disassem:disassem-state dstate))
 115   (if (typep value 'reg)
 116       (print-word-reg value stream dstate)
 117       (print-mem-access value stream nil dstate)))
 118
 119 (defun print-label (value stream dstate)
 120   (declare (ignore dstate))
 121   (sb!disassem:princ16 value stream))
 122
 123 ;;; Returns either an integer, meaning a register, or a list of
 124 ;;; (BASE-REG OFFSET INDEX-REG INDEX-SCALE), where any component
 125 ;;; may be missing or nil to indicate that it's not used or has the
 126 ;;; obvious default value (e.g., 1 for the index-scale).
 127 (defun prefilter-reg/mem (value dstate)
 128   (declare (type list value)
 129            (type sb!disassem:disassem-state dstate))
 130   (let ((mod (car value))
 131         (r/m (cadr value)))
 132     (declare (type (unsigned-byte 2) mod)
 133              (type (unsigned-byte 3) r/m))
 134     (cond ((= mod #b11)
 135            ;; registers
 136            r/m)
 137           ((= r/m #b100)
 138            ;; sib byte
 139            (let ((sib (sb!disassem:read-suffix 8 dstate)))
 140              (declare (type (unsigned-byte 8) sib))
 141              (let ((base-reg (ldb (byte 3 0) sib))
 142                    (index-reg (ldb (byte 3 3) sib))
 143                    (index-scale (ldb (byte 2 6) sib)))
 144                (declare (type (unsigned-byte 3) base-reg index-reg)
 145                         (type (unsigned-byte 2) index-scale))
 146                (let* ((offset
 147                        (case mod
 148                          (#b00
 149                           (if (= base-reg #b101)
 150                               (sb!disassem:read-signed-suffix 32 dstate)
 151                               nil))
 152                          (#b01
 153                           (sb!disassem:read-signed-suffix 8 dstate))
 154                          (#b10
 155                           (sb!disassem:read-signed-suffix 32 dstate)))))
 156                  (list (if (and (= mod #b00) (= base-reg #b101)) nil base-reg)
 157                        offset
 158                        (if (= index-reg #b100) nil index-reg)
 159                        (ash 1 index-scale))))))
 160           ((and (= mod #b00) (= r/m #b101))
 161            (list nil (sb!disassem:read-signed-suffix 32 dstate)) )
 162           ((= mod #b00)
 163            (list r/m))
 164           ((= mod #b01)
 165            (list r/m (sb!disassem:read-signed-suffix 8 dstate)))
 166           (t                            ; (= mod #b10)
 167            (list r/m (sb!disassem:read-signed-suffix 32 dstate))))))
 168
 169
 170 ;;; This is a sort of bogus prefilter that just stores the info globally for
 171 ;;; other people to use; it probably never gets printed.
 172 (defun prefilter-width (value dstate)
 173   (setf (sb!disassem:dstate-get-prop dstate 'width)
 174         (if (zerop value)
 175             :byte
 176             (let ((word-width
 177                    ;; set by a prefix instruction
 178                    (or (sb!disassem:dstate-get-prop dstate 'word-width)
 179                        +default-operand-size+)))
 180               (when (not (eql word-width +default-operand-size+))
 181                 ;; Reset it.
 182                 (setf (sb!disassem:dstate-get-prop dstate 'word-width)
 183                       +default-operand-size+))
 184               word-width))))
 185
 186 (defun read-address (value dstate)
 187   (declare (ignore value))              ; always nil anyway
 188   (sb!disassem:read-suffix (width-bits *default-address-size*) dstate))
 189
 190 (defun width-bits (width)
 191   (ecase width
 192     (:byte 8)
 193     (:word 16)
 194     (:dword 32)
 195     (:float 32)
 196     (:double 64)))
 197
 198 ) ; EVAL-WHEN
 199 \f
 200 ;;;; disassembler argument types
 201
 202 (sb!disassem:define-arg-type displacement
 203   :sign-extend t
 204   :use-label #'offset-next
 205   :printer (lambda (value stream dstate)
 206              (sb!disassem:maybe-note-assembler-routine value nil dstate)
 207              (print-label value stream dstate)))
 208
 209 (sb!disassem:define-arg-type accum
 210   :printer (lambda (value stream dstate)
 211              (declare (ignore value)
 212                       (type stream stream)
 213                       (type sb!disassem:disassem-state dstate))
 214              (print-reg 0 stream dstate)))
 215
 216 (sb!disassem:define-arg-type word-accum
 217   :printer (lambda (value stream dstate)
 218              (declare (ignore value)
 219                       (type stream stream)
 220                       (type sb!disassem:disassem-state dstate))
 221              (print-word-reg 0 stream dstate)))
 222
 223 (sb!disassem:define-arg-type reg
 224   :printer #'print-reg)
 225
 226 (sb!disassem:define-arg-type addr-reg
 227   :printer #'print-addr-reg)
 228
 229 (sb!disassem:define-arg-type word-reg
 230   :printer #'print-word-reg)
 231
 232 (sb!disassem:define-arg-type imm-addr
 233   :prefilter #'read-address
 234   :printer #'print-label)
 235
 236 (sb!disassem:define-arg-type imm-data
 237   :prefilter (lambda (value dstate)
 238                (declare (ignore value)) ; always nil anyway
 239                (sb!disassem:read-suffix
 240                 (width-bits (sb!disassem:dstate-get-prop dstate 'width))
 241                 dstate)))
 242
 243 (sb!disassem:define-arg-type signed-imm-data
 244   :prefilter (lambda (value dstate)
 245                (declare (ignore value)) ; always nil anyway
 246                (let ((width (sb!disassem:dstate-get-prop dstate 'width)))
 247                  (sb!disassem:read-signed-suffix (width-bits width) dstate))))
 248
 249 (sb!disassem:define-arg-type signed-imm-byte
 250   :prefilter (lambda (value dstate)
 251                (declare (ignore value)) ; always nil anyway
 252                (sb!disassem:read-signed-suffix 8 dstate)))
 253
 254 (sb!disassem:define-arg-type signed-imm-dword
 255   :prefilter (lambda (value dstate)
 256                (declare (ignore value)) ; always nil anyway
 257                (sb!disassem:read-signed-suffix 32 dstate)))
 258
 259 (sb!disassem:define-arg-type imm-word
 260   :prefilter (lambda (value dstate)
 261                (declare (ignore value)) ; always nil anyway
 262                (let ((width
 263                       (or (sb!disassem:dstate-get-prop dstate 'word-width)
 264                           +default-operand-size+)))
 265                  (sb!disassem:read-suffix (width-bits width) dstate))))
 266
 267 (sb!disassem:define-arg-type signed-imm-word
 268   :prefilter (lambda (value dstate)
 269                (declare (ignore value)) ; always nil anyway
 270                (let ((width
 271                       (or (sb!disassem:dstate-get-prop dstate 'word-width)
 272                           +default-operand-size+)))
 273                  (sb!disassem:read-signed-suffix (width-bits width) dstate))))
 274
 275 ;;; needed for the ret imm16 instruction
 276 (sb!disassem:define-arg-type imm-word-16
 277   :prefilter (lambda (value dstate)
 278                (declare (ignore value)) ; always nil anyway
 279                (sb!disassem:read-suffix 16 dstate)))
 280
 281 (sb!disassem:define-arg-type reg/mem
 282   :prefilter #'prefilter-reg/mem
 283   :printer #'print-reg/mem)
 284 (sb!disassem:define-arg-type sized-reg/mem
 285   ;; Same as reg/mem, but prints an explicit size indicator for
 286   ;; memory references.
 287   :prefilter #'prefilter-reg/mem
 288   :printer #'print-sized-reg/mem)
 289 (sb!disassem:define-arg-type byte-reg/mem
 290   :prefilter #'prefilter-reg/mem
 291   :printer #'print-byte-reg/mem)
 292 (sb!disassem:define-arg-type word-reg/mem
 293   :prefilter #'prefilter-reg/mem
 294   :printer #'print-word-reg/mem)
 295
 296 ;;; added by jrd
 297 (eval-when (#-sb-xc :compile-toplevel :load-toplevel :execute)
 298 (defun print-fp-reg (value stream dstate)
 299   (declare (ignore dstate))
 300   (format stream "FR~D" value))
 301 (defun prefilter-fp-reg (value dstate)
 302   ;; just return it
 303   (declare (ignore dstate))
 304   value)
 305 ) ; EVAL-WHEN
 306 (sb!disassem:define-arg-type fp-reg
 307                              :prefilter #'prefilter-fp-reg
 308                              :printer #'print-fp-reg)
 309
 310 (sb!disassem:define-arg-type width
 311   :prefilter #'prefilter-width
 312   :printer (lambda (value stream dstate)
 313              (if;; (zerop value)
 314                  (or (null value)
 315                      (and (numberp value) (zerop value))) ; zzz jrd
 316                  (princ 'b stream)
 317                  (let ((word-width
 318                         ;; set by a prefix instruction
 319                         (or (sb!disassem:dstate-get-prop dstate 'word-width)
 320                             +default-operand-size+)))
 321                    (princ (schar (symbol-name word-width) 0) stream)))))
 322
 323 (eval-when (:compile-toplevel :load-toplevel :execute)
 324 (defparameter *conditions*
 325   '((:o . 0)
 326     (:no . 1)
 327     (:b . 2) (:nae . 2) (:c . 2)
 328     (:nb . 3) (:ae . 3) (:nc . 3)
 329     (:eq . 4) (:e . 4) (:z . 4)
 330     (:ne . 5) (:nz . 5)
 331     (:be . 6) (:na . 6)
 332     (:nbe . 7) (:a . 7)
 333     (:s . 8)
 334     (:ns . 9)
 335     (:p . 10) (:pe . 10)
 336     (:np . 11) (:po . 11)
 337     (:l . 12) (:nge . 12)
 338     (:nl . 13) (:ge . 13)
 339     (:le . 14) (:ng . 14)
 340     (:nle . 15) (:g . 15)))
 341 (defparameter *condition-name-vec*
 342   (let ((vec (make-array 16 :initial-element nil)))
 343     (dolist (cond *conditions*)
 344       (when (null (aref vec (cdr cond)))
 345         (setf (aref vec (cdr cond)) (car cond))))
 346     vec))
 347 ) ; EVAL-WHEN
 348
 349 ;;; Set assembler parameters. (In CMU CL, this was done with
 350 ;;; a call to a macro DEF-ASSEMBLER-PARAMS.)
 351 (eval-when (:compile-toplevel :load-toplevel :execute)
 352   (setf sb!assem:*assem-scheduler-p* nil))
 353
 354 (sb!disassem:define-arg-type condition-code
 355   :printer *condition-name-vec*)
 356
 357 (defun conditional-opcode (condition)
 358   (cdr (assoc condition *conditions* :test #'eq)))
 359 \f
 360 ;;;; disassembler instruction formats
 361
 362 (eval-when (:compile-toplevel :execute)
 363   (defun swap-if (direction field1 separator field2)
 364     `(:if (,direction :constant 0)
 365           (,field1 ,separator ,field2)
 366           (,field2 ,separator ,field1))))
 367
 368 (sb!disassem:define-instruction-format (byte 8 :default-printer '(:name))
 369   (op    :field (byte 8 0))
 370   ;; optional fields
 371   (accum :type 'accum)
 372   (imm))
 373
 374 (sb!disassem:define-instruction-format (simple 8)
 375   (op    :field (byte 7 1))
 376   (width :field (byte 1 0) :type 'width)
 377   ;; optional fields
 378   (accum :type 'accum)
 379   (imm))
 380
 381 ;;; Same as simple, but with direction bit
 382 (sb!disassem:define-instruction-format (simple-dir 8 :include 'simple)
 383   (op :field (byte 6 2))
 384   (dir :field (byte 1 1)))
 385
 386 ;;; Same as simple, but with the immediate value occurring by default,
 387 ;;; and with an appropiate printer.
 388 (sb!disassem:define-instruction-format (accum-imm 8
 389                                      :include 'simple
 390                                      :default-printer '(:name
 391                                                         :tab accum ", " imm))
 392   (imm :type 'imm-data))
 393
 394 (sb!disassem:define-instruction-format (reg-no-width 8
 395                                      :default-printer '(:name :tab reg))
 396   (op    :field (byte 5 3))
 397   (reg   :field (byte 3 0) :type 'word-reg)
 398   ;; optional fields
 399   (accum :type 'word-accum)
 400   (imm))
 401
 402 ;;; adds a width field to reg-no-width
 403 (sb!disassem:define-instruction-format (reg 8
 404                                         :default-printer '(:name :tab reg))
 405   (op    :field (byte 4 4))
 406   (width :field (byte 1 3) :type 'width)
 407   (reg   :field (byte 3 0) :type 'reg)
 408   ;; optional fields
 409   (accum :type 'accum)
 410   (imm)
 411   )
 412
 413 ;;; Same as reg, but with direction bit
 414 (sb!disassem:define-instruction-format (reg-dir 8 :include 'reg)
 415   (op  :field (byte 3 5))
 416   (dir :field (byte 1 4)))
 417
 418 (sb!disassem:define-instruction-format (two-bytes 16
 419                                         :default-printer '(:name))
 420   (op :fields (list (byte 8 0) (byte 8 8))))
 421
 422 (sb!disassem:define-instruction-format (reg-reg/mem 16
 423                                         :default-printer
 424                                         `(:name :tab reg ", " reg/mem))
 425   (op      :field (byte 7 1))
 426   (width   :field (byte 1 0)    :type 'width)
 427   (reg/mem :fields (list (byte 2 14) (byte 3 8))
 428                                 :type 'reg/mem)
 429   (reg     :field (byte 3 11)   :type 'reg)
 430   ;; optional fields
 431   (imm))
 432
 433 ;;; same as reg-reg/mem, but with direction bit
 434 (sb!disassem:define-instruction-format (reg-reg/mem-dir 16
 435                                         :include 'reg-reg/mem
 436                                         :default-printer
 437                                         `(:name
 438                                           :tab
 439                                           ,(swap-if 'dir 'reg/mem ", " 'reg)))
 440   (op  :field (byte 6 2))
 441   (dir :field (byte 1 1)))
 442
 443 ;;; Same as reg-rem/mem, but uses the reg field as a second op code.
 444 (sb!disassem:define-instruction-format (reg/mem 16
 445                                         :default-printer '(:name :tab reg/mem))
 446   (op      :fields (list (byte 7 1) (byte 3 11)))
 447   (width   :field (byte 1 0)    :type 'width)
 448   (reg/mem :fields (list (byte 2 14) (byte 3 8))
 449                                 :type 'sized-reg/mem)
 450   ;; optional fields
 451   (imm))
 452
 453 ;;; Same as reg/mem, but with the immediate value occurring by default,
 454 ;;; and with an appropiate printer.
 455 (sb!disassem:define-instruction-format (reg/mem-imm 16
 456                                         :include 'reg/mem
 457                                         :default-printer
 458                                         '(:name :tab reg/mem ", " imm))
 459   (reg/mem :type 'sized-reg/mem)
 460   (imm     :type 'imm-data))
 461
 462 ;;; Same as reg/mem, but with using the accumulator in the default printer
 463 (sb!disassem:define-instruction-format
 464     (accum-reg/mem 16
 465      :include 'reg/mem :default-printer '(:name :tab accum ", " reg/mem))
 466   (reg/mem :type 'reg/mem)              ; don't need a size
 467   (accum :type 'accum))
 468
 469 ;;; Same as reg-reg/mem, but with a prefix of #b00001111
 470 (sb!disassem:define-instruction-format (ext-reg-reg/mem 24
 471                                         :default-printer
 472                                         `(:name :tab reg ", " reg/mem))
 473   (prefix  :field (byte 8 0)    :value #b00001111)
 474   (op      :field (byte 7 9))
 475   (width   :field (byte 1 8)    :type 'width)
 476   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 477                                 :type 'reg/mem)
 478   (reg     :field (byte 3 19)   :type 'reg)
 479   ;; optional fields
 480   (imm))
 481
 482 ;;; Same as reg/mem, but with a prefix of #b00001111
 483 (sb!disassem:define-instruction-format (ext-reg/mem 24
 484                                         :default-printer '(:name :tab reg/mem))
 485   (prefix  :field (byte 8 0)    :value #b00001111)
 486   (op      :fields (list (byte 7 9) (byte 3 19)))
 487   (width   :field (byte 1 8)    :type 'width)
 488   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 489                                 :type 'sized-reg/mem)
 490   ;; optional fields
 491   (imm))
 492
 493 (sb!disassem:define-instruction-format (ext-reg/mem-imm 24
 494                                         :include 'ext-reg/mem
 495                                         :default-printer
 496                                         '(:name :tab reg/mem ", " imm))
 497   (imm :type 'imm-data))
 498 \f
 499 ;;;; This section was added by jrd, for fp instructions.
 500
 501 ;;; regular fp inst to/from registers/memory
 502 (sb!disassem:define-instruction-format (floating-point 16
 503                                         :default-printer
 504                                         `(:name :tab reg/mem))
 505   (prefix :field (byte 5 3) :value #b11011)
 506   (op     :fields (list (byte 3 0) (byte 3 11)))
 507   (reg/mem :fields (list (byte 2 14) (byte 3 8)) :type 'reg/mem))
 508
 509 ;;; fp insn to/from fp reg
 510 (sb!disassem:define-instruction-format (floating-point-fp 16
 511                                         :default-printer `(:name :tab fp-reg))
 512   (prefix :field (byte 5 3) :value #b11011)
 513   (suffix :field (byte 2 14) :value #b11)
 514   (op     :fields (list (byte 3 0) (byte 3 11)))
 515   (fp-reg :field (byte 3 8) :type 'fp-reg))
 516
 517 ;;; fp insn to/from fp reg, with the reversed source/destination flag.
 518 (sb!disassem:define-instruction-format
 519  (floating-point-fp-d 16
 520    :default-printer `(:name :tab ,(swap-if 'd "ST0" ", " 'fp-reg)))
 521   (prefix :field (byte 5 3) :value #b11011)
 522   (suffix :field (byte 2 14) :value #b11)
 523   (op     :fields (list (byte 2 0) (byte 3 11)))
 524   (d      :field (byte 1 2))
 525   (fp-reg :field (byte 3 8) :type 'fp-reg))
 526
 527
 528 ;;; (added by (?) pfw)
 529 ;;; fp no operand isns
 530 (sb!disassem:define-instruction-format (floating-point-no 16
 531                                       :default-printer '(:name))
 532   (prefix :field (byte 8  0) :value #b11011001)
 533   (suffix :field (byte 3 13) :value #b111)
 534   (op     :field (byte 5  8)))
 535
 536 (sb!disassem:define-instruction-format (floating-point-3 16
 537                                       :default-printer '(:name))
 538   (prefix :field (byte 5 3) :value #b11011)
 539   (suffix :field (byte 2 14) :value #b11)
 540   (op     :fields (list (byte 3 0) (byte 6 8))))
 541
 542 (sb!disassem:define-instruction-format (floating-point-5 16
 543                                       :default-printer '(:name))
 544   (prefix :field (byte 8  0) :value #b11011011)
 545   (suffix :field (byte 3 13) :value #b111)
 546   (op     :field (byte 5  8)))
 547
 548 (sb!disassem:define-instruction-format (floating-point-st 16
 549                                       :default-printer '(:name))
 550   (prefix :field (byte 8  0) :value #b11011111)
 551   (suffix :field (byte 3 13) :value #b111)
 552   (op     :field (byte 5  8)))
 553
 554 (sb!disassem:define-instruction-format (string-op 8
 555                                      :include 'simple
 556                                      :default-printer '(:name width)))
 557
 558 (sb!disassem:define-instruction-format (short-cond-jump 16)
 559   (op    :field (byte 4 4))
 560   (cc    :field (byte 4 0) :type 'condition-code)
 561   (label :field (byte 8 8) :type 'displacement))
 562
 563 (sb!disassem:define-instruction-format (short-jump 16
 564                                      :default-printer '(:name :tab label))
 565   (const :field (byte 4 4) :value #b1110)
 566   (op    :field (byte 4 0))
 567   (label :field (byte 8 8) :type 'displacement))
 568
 569 (sb!disassem:define-instruction-format (near-cond-jump 16)
 570   (op    :fields (list (byte 8 0) (byte 4 12)) :value '(#b00001111 #b1000))
 571   (cc    :field (byte 4 8) :type 'condition-code)
 572   ;; The disassembler currently doesn't let you have an instruction > 32 bits
 573   ;; long, so we fake it by using a prefilter to read the offset.
 574   (label :type 'displacement
 575          :prefilter (lambda (value dstate)
 576                       (declare (ignore value)) ; always nil anyway
 577                       (sb!disassem:read-signed-suffix 32 dstate))))
 578
 579 (sb!disassem:define-instruction-format (near-jump 8
 580                                      :default-printer '(:name :tab label))
 581   (op    :field (byte 8 0))
 582   ;; The disassembler currently doesn't let you have an instruction > 32 bits
 583   ;; long, so we fake it by using a prefilter to read the address.
 584   (label :type 'displacement
 585          :prefilter (lambda (value dstate)
 586                       (declare (ignore value)) ; always nil anyway
 587                       (sb!disassem:read-signed-suffix 32 dstate))))
 588
 589
 590 (sb!disassem:define-instruction-format (cond-set 24
 591                                      :default-printer '('set cc :tab reg/mem))
 592   (prefix :field (byte 8 0) :value #b00001111)
 593   (op    :field (byte 4 12) :value #b1001)
 594   (cc    :field (byte 4 8) :type 'condition-code)
 595   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 596            :type 'byte-reg/mem)
 597   (reg     :field (byte 3 19)   :value #b000))
 598
 599 (sb!disassem:define-instruction-format (cond-move 24
 600                                      :default-printer
 601                                         '('cmov cc :tab reg ", " reg/mem))
 602   (prefix  :field (byte 8 0)    :value #b00001111)
 603   (op      :field (byte 4 12)   :value #b0100)
 604   (cc      :field (byte 4 8)    :type 'condition-code)
 605   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 606                                 :type 'reg/mem)
 607   (reg     :field (byte 3 19)   :type 'reg))
 608
 609 (sb!disassem:define-instruction-format (enter-format 32
 610                                      :default-printer '(:name
 611                                                         :tab disp
 612                                                         (:unless (:constant 0)
 613                                                           ", " level)))
 614   (op :field (byte 8 0))
 615   (disp :field (byte 16 8))
 616   (level :field (byte 8 24)))
 617
 618 (sb!disassem:define-instruction-format (prefetch 24
 619                                                  :default-printer
 620                                                  '(:name ", " reg/mem))
 621   (prefix :field (byte 8 0) :value #b00001111)
 622   (op :field (byte 8 8) :value #b00011000)
 623   (reg/mem :fields (list (byte 2 22) (byte 3 16)) :type 'byte-reg/mem)
 624   (reg :field (byte 3 19) :type 'reg))
 625
 626 ;;; Single byte instruction with an immediate byte argument.
 627 (sb!disassem:define-instruction-format (byte-imm 16
 628                                      :default-printer '(:name :tab code))
 629  (op :field (byte 8 0))
 630  (code :field (byte 8 8)))
 631
 632 ;;; Two byte instruction with an immediate byte argument.
 633 ;;;
 634 (sb!disassem:define-instruction-format (word-imm 24
 635                                      :default-printer '(:name :tab code))
 636   (op :field (byte 16 0))
 637   (code :field (byte 8 16)))
 638
 639 \f
 640 ;;;; primitive emitters
 641
 642 (define-bitfield-emitter emit-word 16
 643   (byte 16 0))
 644
 645 (define-bitfield-emitter emit-dword 32
 646   (byte 32 0))
 647
 648 (define-bitfield-emitter emit-byte-with-reg 8
 649   (byte 5 3) (byte 3 0))
 650
 651 (define-bitfield-emitter emit-mod-reg-r/m-byte 8
 652   (byte 2 6) (byte 3 3) (byte 3 0))
 653
 654 (define-bitfield-emitter emit-sib-byte 8
 655   (byte 2 6) (byte 3 3) (byte 3 0))
 656 \f
 657 ;;;; fixup emitters
 658
 659 (defun emit-absolute-fixup (segment fixup)
 660   (note-fixup segment :absolute fixup)
 661   (let ((offset (fixup-offset fixup)))
 662     (if (label-p offset)
 663         (emit-back-patch segment
 664                          4 ; FIXME: n-word-bytes
 665                          (lambda (segment posn)
 666                            (declare (ignore posn))
 667                            (emit-dword segment
 668                                        (- (+ (component-header-length)
 669                                              (or (label-position offset)
 670                                                  0))
 671                                           other-pointer-lowtag))))
 672         (emit-dword segment (or offset 0)))))
 673
 674 (defun emit-relative-fixup (segment fixup)
 675   (note-fixup segment :relative fixup)
 676   (emit-dword segment (or (fixup-offset fixup) 0)))
 677 \f
 678 ;;;; the effective-address (ea) structure
 679
 680 (defun reg-tn-encoding (tn)
 681   (declare (type tn tn))
 682   (aver (eq (sb-name (sc-sb (tn-sc tn))) 'registers))
 683   (let ((offset (tn-offset tn)))
 684     (logior (ash (logand offset 1) 2)
 685             (ash offset -1))))
 686
 687 (defstruct (ea (:constructor make-ea (size &key base index scale disp))
 688                (:copier nil))
 689   (size nil :type (member :byte :word :dword))
 690   (base nil :type (or tn null))
 691   (index nil :type (or tn null))
 692   (scale 1 :type (member 1 2 4 8))
 693   (disp 0 :type (or (unsigned-byte 32) (signed-byte 32) fixup)))
 694 (def!method print-object ((ea ea) stream)
 695   (cond ((or *print-escape* *print-readably*)
 696          (print-unreadable-object (ea stream :type t)
 697            (format stream
 698                    "~S~@[ base=~S~]~@[ index=~S~]~@[ scale=~S~]~@[ disp=~S~]"
 699                    (ea-size ea)
 700                    (ea-base ea)
 701                    (ea-index ea)
 702                    (let ((scale (ea-scale ea)))
 703                      (if (= scale 1) nil scale))
 704                    (ea-disp ea))))
 705         (t
 706          (format stream "~A PTR [" (symbol-name (ea-size ea)))
 707          (when (ea-base ea)
 708            (write-string (sb!c::location-print-name (ea-base ea)) stream)
 709            (when (ea-index ea)
 710              (write-string "+" stream)))
 711          (when (ea-index ea)
 712            (write-string (sb!c::location-print-name (ea-index ea)) stream))
 713          (unless (= (ea-scale ea) 1)
 714            (format stream "*~A" (ea-scale ea)))
 715          (typecase (ea-disp ea)
 716            (null)
 717            (integer
 718             (format stream "~@D" (ea-disp ea)))
 719            (t
 720             (format stream "+~A" (ea-disp ea))))
 721          (write-char #\] stream))))
 722
 723 (defun emit-ea (segment thing reg &optional allow-constants)
 724   (etypecase thing
 725     (tn
 726      (ecase (sb-name (sc-sb (tn-sc thing)))
 727        (registers
 728         (emit-mod-reg-r/m-byte segment #b11 reg (reg-tn-encoding thing)))
 729        (stack
 730         ;; Convert stack tns into an index off of EBP.
 731         (let ((disp (- (* (1+ (tn-offset thing)) n-word-bytes))))
 732           (cond ((<= -128 disp 127)
 733                  (emit-mod-reg-r/m-byte segment #b01 reg #b101)
 734                  (emit-byte segment disp))
 735                 (t
 736                  (emit-mod-reg-r/m-byte segment #b10 reg #b101)
 737                  (emit-dword segment disp)))))
 738        (constant
 739         (unless allow-constants
 740           (error
 741            "Constant TNs can only be directly used in MOV, PUSH, and CMP."))
 742         (emit-mod-reg-r/m-byte segment #b00 reg #b101)
 743         (emit-absolute-fixup segment
 744                              (make-fixup nil
 745                                          :code-object
 746                                          (- (* (tn-offset thing) n-word-bytes)
 747                                             other-pointer-lowtag))))))
 748     (ea
 749      (let* ((base (ea-base thing))
 750             (index (ea-index thing))
 751             (scale (ea-scale thing))
 752             (disp (ea-disp thing))
 753             (mod (cond ((or (null base)
 754                             (and (eql disp 0)
 755                                  (not (= (reg-tn-encoding base) #b101))))
 756                         #b00)
 757                        ((and (fixnump disp) (<= -128 disp 127))
 758                         #b01)
 759                        (t
 760                         #b10)))
 761             (r/m (cond (index #b100)
 762                        ((null base) #b101)
 763                        (t (reg-tn-encoding base)))))
 764        (emit-mod-reg-r/m-byte segment mod reg r/m)
 765        (when (= r/m #b100)
 766          (let ((ss (1- (integer-length scale)))
 767                (index (if (null index)
 768                           #b100
 769                           (let ((index (reg-tn-encoding index)))
 770                             (if (= index #b100)
 771                                 (error "can't index off of ESP")
 772                                 index))))
 773                (base (if (null base)
 774                          #b101
 775                          (reg-tn-encoding base))))
 776            (emit-sib-byte segment ss index base)))
 777        (cond ((= mod #b01)
 778               (emit-byte segment disp))
 779              ((or (= mod #b10) (null base))
 780               (if (fixup-p disp)
 781                   (emit-absolute-fixup segment disp)
 782                   (emit-dword segment disp))))))
 783     (fixup
 784      (emit-mod-reg-r/m-byte segment #b00 reg #b101)
 785      (emit-absolute-fixup segment thing))))
 786
 787 (defun fp-reg-tn-p (thing)
 788   (and (tn-p thing)
 789        (eq (sb-name (sc-sb (tn-sc thing))) 'float-registers)))
 790
 791 ;;; like the above, but for fp-instructions--jrd
 792 (defun emit-fp-op (segment thing op)
 793   (if (fp-reg-tn-p thing)
 794       (emit-byte segment (dpb op (byte 3 3) (dpb (tn-offset thing)
 795                                                  (byte 3 0)
 796                                                  #b11000000)))
 797     (emit-ea segment thing op)))
 798
 799 (defun byte-reg-p (thing)
 800   (and (tn-p thing)
 801        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 802        (member (sc-name (tn-sc thing)) *byte-sc-names*)
 803        t))
 804
 805 (defun byte-ea-p (thing)
 806   (typecase thing
 807     (ea (eq (ea-size thing) :byte))
 808     (tn
 809      (and (member (sc-name (tn-sc thing)) *byte-sc-names*) t))
 810     (t nil)))
 811
 812 (defun word-reg-p (thing)
 813   (and (tn-p thing)
 814        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 815        (member (sc-name (tn-sc thing)) *word-sc-names*)
 816        t))
 817
 818 (defun word-ea-p (thing)
 819   (typecase thing
 820     (ea (eq (ea-size thing) :word))
 821     (tn (and (member (sc-name (tn-sc thing)) *word-sc-names*) t))
 822     (t nil)))
 823
 824 (defun dword-reg-p (thing)
 825   (and (tn-p thing)
 826        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 827        (member (sc-name (tn-sc thing)) *dword-sc-names*)
 828        t))
 829
 830 (defun dword-ea-p (thing)
 831   (typecase thing
 832     (ea (eq (ea-size thing) :dword))
 833     (tn
 834      (and (member (sc-name (tn-sc thing)) *dword-sc-names*) t))
 835     (t nil)))
 836
 837 (defun register-p (thing)
 838   (and (tn-p thing)
 839        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)))
 840
 841 (defun accumulator-p (thing)
 842   (and (register-p thing)
 843        (= (tn-offset thing) 0)))
 844 \f
 845 ;;;; utilities
 846
 847 (def!constant +operand-size-prefix-byte+ #b01100110)
 848
 849 (defun maybe-emit-operand-size-prefix (segment size)
 850   (unless (or (eq size :byte) (eq size +default-operand-size+))
 851     (emit-byte segment +operand-size-prefix-byte+)))
 852
 853 (defun operand-size (thing)
 854   (typecase thing
 855     (tn
 856      ;; FIXME: might as well be COND instead of having to use #. readmacro
 857      ;; to hack up the code
 858      (case (sc-name (tn-sc thing))
 859        (#.*dword-sc-names*
 860         :dword)
 861        (#.*word-sc-names*
 862         :word)
 863        (#.*byte-sc-names*
 864         :byte)
 865        ;; added by jrd: float-registers is a separate size (?)
 866        (#.*float-sc-names*
 867         :float)
 868        (#.*double-sc-names*
 869         :double)
 870        (t
 871         (error "can't tell the size of ~S ~S" thing (sc-name (tn-sc thing))))))
 872     (ea
 873      (ea-size thing))
 874     (t
 875      nil)))
 876
 877 (defun matching-operand-size (dst src)
 878   (let ((dst-size (operand-size dst))
 879         (src-size (operand-size src)))
 880     (if dst-size
 881         (if src-size
 882             (if (eq dst-size src-size)
 883                 dst-size
 884                 (error "size mismatch: ~S is a ~S and ~S is a ~S."
 885                        dst dst-size src src-size))
 886             dst-size)
 887         (if src-size
 888             src-size
 889             (error "can't tell the size of either ~S or ~S" dst src)))))
 890
 891 (defun emit-sized-immediate (segment size value)
 892   (ecase size
 893     (:byte
 894      (emit-byte segment value))
 895     (:word
 896      (emit-word segment value))
 897     (:dword
 898      (emit-dword segment value))))
 899 \f
 900 ;;;; general data transfer
 901
 902 (define-instruction mov (segment dst src)
 903   ;; immediate to register
 904   (:printer reg ((op #b1011) (imm nil :type 'imm-data))
 905             '(:name :tab reg ", " imm))
 906   ;; absolute mem to/from accumulator
 907   (:printer simple-dir ((op #b101000) (imm nil :type 'imm-addr))
 908             `(:name :tab ,(swap-if 'dir 'accum ", " '("[" imm "]"))))
 909   ;; register to/from register/memory
 910   (:printer reg-reg/mem-dir ((op #b100010)))
 911   ;; immediate to register/memory
 912   (:printer reg/mem-imm ((op '(#b1100011 #b000))))
 913
 914   (:emitter
 915    (let ((size (matching-operand-size dst src)))
 916      (maybe-emit-operand-size-prefix segment size)
 917      (cond ((register-p dst)
 918             (cond ((integerp src)
 919                    (emit-byte-with-reg segment
 920                                        (if (eq size :byte)
 921                                            #b10110
 922                                            #b10111)
 923                                        (reg-tn-encoding dst))
 924                    (emit-sized-immediate segment size src))
 925                   ((and (fixup-p src) (accumulator-p dst))
 926                    (emit-byte segment
 927                               (if (eq size :byte)
 928                                   #b10100000
 929                                   #b10100001))
 930                    (emit-absolute-fixup segment src))
 931                   (t
 932                    (emit-byte segment
 933                               (if (eq size :byte)
 934                                   #b10001010
 935                                   #b10001011))
 936                    (emit-ea segment src (reg-tn-encoding dst) t))))
 937            ((and (fixup-p dst) (accumulator-p src))
 938             (emit-byte segment (if (eq size :byte) #b10100010 #b10100011))
 939             (emit-absolute-fixup segment dst))
 940            ((integerp src)
 941             (emit-byte segment (if (eq size :byte) #b11000110 #b11000111))
 942             (emit-ea segment dst #b000)
 943             (emit-sized-immediate segment size src))
 944            ((register-p src)
 945             (emit-byte segment (if (eq size :byte) #b10001000 #b10001001))
 946             (emit-ea segment dst (reg-tn-encoding src)))
 947            ((fixup-p src)
 948             (aver (eq size :dword))
 949             (emit-byte segment #b11000111)
 950             (emit-ea segment dst #b000)
 951             (emit-absolute-fixup segment src))
 952            (t
 953             (error "bogus arguments to MOV: ~S ~S" dst src))))))
 954
 955 (defun emit-move-with-extension (segment dst src opcode)
 956   (aver (register-p dst))
 957   (let ((dst-size (operand-size dst))
 958         (src-size (operand-size src)))
 959     (ecase dst-size
 960       (:word
 961        (aver (eq src-size :byte))
 962        (maybe-emit-operand-size-prefix segment :word)
 963        (emit-byte segment #b00001111)
 964        (emit-byte segment opcode)
 965        (emit-ea segment src (reg-tn-encoding dst)))
 966       (:dword
 967        (ecase src-size
 968          (:byte
 969           (maybe-emit-operand-size-prefix segment :dword)
 970           (emit-byte segment #b00001111)
 971           (emit-byte segment opcode)
 972           (emit-ea segment src (reg-tn-encoding dst)))
 973          (:word
 974           (emit-byte segment #b00001111)
 975           (emit-byte segment (logior opcode 1))
 976           (emit-ea segment src (reg-tn-encoding dst))))))))
 977
 978 (define-instruction movsx (segment dst src)
 979   (:printer ext-reg-reg/mem ((op #b1011111) (reg nil :type 'word-reg)))
 980   (:emitter (emit-move-with-extension segment dst src #b10111110)))
 981
 982 (define-instruction movzx (segment dst src)
 983   (:printer ext-reg-reg/mem ((op #b1011011) (reg nil :type 'word-reg)))
 984   (:emitter (emit-move-with-extension segment dst src #b10110110)))
 985
 986 (define-instruction push (segment src)
 987   ;; register
 988   (:printer reg-no-width ((op #b01010)))
 989   ;; register/memory
 990   (:printer reg/mem ((op '(#b1111111 #b110)) (width 1)))
 991   ;; immediate
 992   (:printer byte ((op #b01101010) (imm nil :type 'signed-imm-byte))
 993             '(:name :tab imm))
 994   (:printer byte ((op #b01101000) (imm nil :type 'imm-word))
 995             '(:name :tab imm))
 996   ;; ### segment registers?
 997
 998   (:emitter
 999    (cond ((integerp src)
1000           (cond ((<= -128 src 127)
1001                  (emit-byte segment #b01101010)
1002                  (emit-byte segment src))
1003                 (t
1004                  (emit-byte segment #b01101000)
1005                  (emit-dword segment src))))
1006          ((fixup-p src)
1007           ;; Interpret the fixup as an immediate dword to push.
1008           (emit-byte segment #b01101000)
1009           (emit-absolute-fixup segment src))
1010          (t
1011           (let ((size (operand-size src)))
1012             (aver (not (eq size :byte)))
1013             (maybe-emit-operand-size-prefix segment size)
1014             (cond ((register-p src)
1015                    (emit-byte-with-reg segment #b01010 (reg-tn-encoding src)))
1016                   (t
1017                    (emit-byte segment #b11111111)
1018                    (emit-ea segment src #b110 t))))))))
1019
1020 (define-instruction pusha (segment)
1021   (:printer byte ((op #b01100000)))
1022   (:emitter
1023    (emit-byte segment #b01100000)))
1024
1025 (define-instruction pop (segment dst)
1026   (:printer reg-no-width ((op #b01011)))
1027   (:printer reg/mem ((op '(#b1000111 #b000)) (width 1)))
1028   (:emitter
1029    (let ((size (operand-size dst)))
1030      (aver (not (eq size :byte)))
1031      (maybe-emit-operand-size-prefix segment size)
1032      (cond ((register-p dst)
1033             (emit-byte-with-reg segment #b01011 (reg-tn-encoding dst)))
1034            (t
1035             (emit-byte segment #b10001111)
1036             (emit-ea segment dst #b000))))))
1037
1038 (define-instruction popa (segment)
1039   (:printer byte ((op #b01100001)))
1040   (:emitter
1041    (emit-byte segment #b01100001)))
1042
1043 (define-instruction xchg (segment operand1 operand2)
1044   ;; Register with accumulator.
1045   (:printer reg-no-width ((op #b10010)) '(:name :tab accum ", " reg))
1046   ;; Register/Memory with Register.
1047   (:printer reg-reg/mem ((op #b1000011)))
1048   (:emitter
1049    (let ((size (matching-operand-size operand1 operand2)))
1050      (maybe-emit-operand-size-prefix segment size)
1051      (labels ((xchg-acc-with-something (acc something)
1052                 (if (and (not (eq size :byte)) (register-p something))
1053                     (emit-byte-with-reg segment
1054                                         #b10010
1055                                         (reg-tn-encoding something))
1056                     (xchg-reg-with-something acc something)))
1057               (xchg-reg-with-something (reg something)
1058                 (emit-byte segment (if (eq size :byte) #b10000110 #b10000111))
1059                 (emit-ea segment something (reg-tn-encoding reg))))
1060        (cond ((accumulator-p operand1)
1061               (xchg-acc-with-something operand1 operand2))
1062              ((accumulator-p operand2)
1063               (xchg-acc-with-something operand2 operand1))
1064              ((register-p operand1)
1065               (xchg-reg-with-something operand1 operand2))
1066              ((register-p operand2)
1067               (xchg-reg-with-something operand2 operand1))
1068              (t
1069               (error "bogus args to XCHG: ~S ~S" operand1 operand2)))))))
1070
1071 (define-instruction lea (segment dst src)
1072   (:printer reg-reg/mem ((op #b1000110) (width 1)))
1073   (:emitter
1074    (aver (dword-reg-p dst))
1075    (emit-byte segment #b10001101)
1076    (emit-ea segment src (reg-tn-encoding dst))))
1077
1078 (define-instruction cmpxchg (segment dst src)
1079   ;; Register/Memory with Register.
1080   (:printer ext-reg-reg/mem ((op #b1011000)) '(:name :tab reg/mem ", " reg))
1081   (:emitter
1082    (aver (register-p src))
1083    (let ((size (matching-operand-size src dst)))
1084      (maybe-emit-operand-size-prefix segment size)
1085      (emit-byte segment #b00001111)
1086      (emit-byte segment (if (eq size :byte) #b10110000 #b10110001))
1087      (emit-ea segment dst (reg-tn-encoding src)))))
1088
1089 \f
1090
1091 (define-instruction fs-segment-prefix (segment)
1092   (:emitter
1093    (emit-byte segment #x64)))
1094
1095 ;;;; flag control instructions
1096
1097 ;;; CLC -- Clear Carry Flag.
1098 (define-instruction clc (segment)
1099   (:printer byte ((op #b11111000)))
1100   (:emitter
1101    (emit-byte segment #b11111000)))
1102
1103 ;;; CLD -- Clear Direction Flag.
1104 (define-instruction cld (segment)
1105   (:printer byte ((op #b11111100)))
1106   (:emitter
1107    (emit-byte segment #b11111100)))
1108
1109 ;;; CLI -- Clear Iterrupt Enable Flag.
1110 (define-instruction cli (segment)
1111   (:printer byte ((op #b11111010)))
1112   (:emitter
1113    (emit-byte segment #b11111010)))
1114
1115 ;;; CMC -- Complement Carry Flag.
1116 (define-instruction cmc (segment)
1117   (:printer byte ((op #b11110101)))
1118   (:emitter
1119    (emit-byte segment #b11110101)))
1120
1121 ;;; LAHF -- Load AH into flags.
1122 (define-instruction lahf (segment)
1123   (:printer byte ((op #b10011111)))
1124   (:emitter
1125    (emit-byte segment #b10011111)))
1126
1127 ;;; POPF -- Pop flags.
1128 (define-instruction popf (segment)
1129   (:printer byte ((op #b10011101)))
1130   (:emitter
1131    (emit-byte segment #b10011101)))
1132
1133 ;;; PUSHF -- push flags.
1134 (define-instruction pushf (segment)
1135   (:printer byte ((op #b10011100)))
1136   (:emitter
1137    (emit-byte segment #b10011100)))
1138
1139 ;;; SAHF -- Store AH into flags.
1140 (define-instruction sahf (segment)
1141   (:printer byte ((op #b10011110)))
1142   (:emitter
1143    (emit-byte segment #b10011110)))
1144
1145 ;;; STC -- Set Carry Flag.
1146 (define-instruction stc (segment)
1147   (:printer byte ((op #b11111001)))
1148   (:emitter
1149    (emit-byte segment #b11111001)))
1150
1151 ;;; STD -- Set Direction Flag.
1152 (define-instruction std (segment)
1153   (:printer byte ((op #b11111101)))
1154   (:emitter
1155    (emit-byte segment #b11111101)))
1156
1157 ;;; STI -- Set Interrupt Enable Flag.
1158 (define-instruction sti (segment)
1159   (:printer byte ((op #b11111011)))
1160   (:emitter
1161    (emit-byte segment #b11111011)))
1162 \f
1163 ;;;; arithmetic
1164
1165 (defun emit-random-arith-inst (name segment dst src opcode
1166                                     &optional allow-constants)
1167   (let ((size (matching-operand-size dst src)))
1168     (maybe-emit-operand-size-prefix segment size)
1169     (cond
1170      ((integerp src)
1171       (cond ((and (not (eq size :byte)) (<= -128 src 127))
1172              (emit-byte segment #b10000011)
1173              (emit-ea segment dst opcode allow-constants)
1174              (emit-byte segment src))
1175             ((accumulator-p dst)
1176              (emit-byte segment
1177                         (dpb opcode
1178                              (byte 3 3)
1179                              (if (eq size :byte)
1180                                  #b00000100
1181                                  #b00000101)))
1182              (emit-sized-immediate segment size src))
1183             (t
1184              (emit-byte segment (if (eq size :byte) #b10000000 #b10000001))
1185              (emit-ea segment dst opcode allow-constants)
1186              (emit-sized-immediate segment size src))))
1187      ((register-p src)
1188       (emit-byte segment
1189                  (dpb opcode
1190                       (byte 3 3)
1191                       (if (eq size :byte) #b00000000 #b00000001)))
1192       (emit-ea segment dst (reg-tn-encoding src) allow-constants))
1193      ((register-p dst)
1194       (emit-byte segment
1195                  (dpb opcode
1196                       (byte 3 3)
1197                       (if (eq size :byte) #b00000010 #b00000011)))
1198       (emit-ea segment src (reg-tn-encoding dst) allow-constants))
1199      (t
1200       (error "bogus operands to ~A" name)))))
1201
1202 (eval-when (:compile-toplevel :execute)
1203   (defun arith-inst-printer-list (subop)
1204     `((accum-imm ((op ,(dpb subop (byte 3 2) #b0000010))))
1205       (reg/mem-imm ((op (#b1000000 ,subop))))
1206       (reg/mem-imm ((op (#b1000001 ,subop))
1207                     (imm nil :type signed-imm-byte)))
1208       (reg-reg/mem-dir ((op ,(dpb subop (byte 3 1) #b000000))))))
1209   )
1210
1211 (define-instruction add (segment dst src)
1212   (:printer-list (arith-inst-printer-list #b000))
1213   (:emitter (emit-random-arith-inst "ADD" segment dst src #b000)))
1214
1215 (define-instruction adc (segment dst src)
1216   (:printer-list (arith-inst-printer-list #b010))
1217   (:emitter (emit-random-arith-inst "ADC" segment dst src #b010)))
1218
1219 (define-instruction sub (segment dst src)
1220   (:printer-list (arith-inst-printer-list #b101))
1221   (:emitter (emit-random-arith-inst "SUB" segment dst src #b101)))
1222
1223 (define-instruction sbb (segment dst src)
1224   (:printer-list (arith-inst-printer-list #b011))
1225   (:emitter (emit-random-arith-inst "SBB" segment dst src #b011)))
1226
1227 (define-instruction cmp (segment dst src)
1228   (:printer-list (arith-inst-printer-list #b111))
1229   (:emitter (emit-random-arith-inst "CMP" segment dst src #b111 t)))
1230
1231 (define-instruction inc (segment dst)
1232   ;; Register.
1233   (:printer reg-no-width ((op #b01000)))
1234   ;; Register/Memory
1235   (:printer reg/mem ((op '(#b1111111 #b000))))
1236   (:emitter
1237    (let ((size (operand-size dst)))
1238      (maybe-emit-operand-size-prefix segment size)
1239      (cond ((and (not (eq size :byte)) (register-p dst))
1240             (emit-byte-with-reg segment #b01000 (reg-tn-encoding dst)))
1241            (t
1242             (emit-byte segment (if (eq size :byte) #b11111110 #b11111111))
1243             (emit-ea segment dst #b000))))))
1244
1245 (define-instruction dec (segment dst)
1246   ;; Register.
1247   (:printer reg-no-width ((op #b01001)))
1248   ;; Register/Memory
1249   (:printer reg/mem ((op '(#b1111111 #b001))))
1250   (:emitter
1251    (let ((size (operand-size dst)))
1252      (maybe-emit-operand-size-prefix segment size)
1253      (cond ((and (not (eq size :byte)) (register-p dst))
1254             (emit-byte-with-reg segment #b01001 (reg-tn-encoding dst)))
1255            (t
1256             (emit-byte segment (if (eq size :byte) #b11111110 #b11111111))
1257             (emit-ea segment dst #b001))))))
1258
1259 (define-instruction neg (segment dst)
1260   (:printer reg/mem ((op '(#b1111011 #b011))))
1261   (:emitter
1262    (let ((size (operand-size dst)))
1263      (maybe-emit-operand-size-prefix segment size)
1264      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1265      (emit-ea segment dst #b011))))
1266
1267 (define-instruction aaa (segment)
1268   (:printer byte ((op #b00110111)))
1269   (:emitter
1270    (emit-byte segment #b00110111)))
1271
1272 (define-instruction aas (segment)
1273   (:printer byte ((op #b00111111)))
1274   (:emitter
1275    (emit-byte segment #b00111111)))
1276
1277 (define-instruction daa (segment)
1278   (:printer byte ((op #b00100111)))
1279   (:emitter
1280    (emit-byte segment #b00100111)))
1281
1282 (define-instruction das (segment)
1283   (:printer byte ((op #b00101111)))
1284   (:emitter
1285    (emit-byte segment #b00101111)))
1286
1287 (define-instruction mul (segment dst src)
1288   (:printer accum-reg/mem ((op '(#b1111011 #b100))))
1289   (:emitter
1290    (let ((size (matching-operand-size dst src)))
1291      (aver (accumulator-p dst))
1292      (maybe-emit-operand-size-prefix segment size)
1293      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1294      (emit-ea segment src #b100))))
1295
1296 (define-instruction imul (segment dst &optional src1 src2)
1297   (:printer accum-reg/mem ((op '(#b1111011 #b101))))
1298   (:printer ext-reg-reg/mem ((op #b1010111)))
1299   (:printer reg-reg/mem ((op #b0110100) (width 1)
1300                          (imm nil :type 'signed-imm-word))
1301             '(:name :tab reg ", " reg/mem ", " imm))
1302   (:printer reg-reg/mem ((op #b0110101) (width 1)
1303                          (imm nil :type 'signed-imm-byte))
1304             '(:name :tab reg ", " reg/mem ", " imm))
1305   (:emitter
1306    (flet ((r/m-with-immed-to-reg (reg r/m immed)
1307             (let* ((size (matching-operand-size reg r/m))
1308                    (sx (and (not (eq size :byte)) (<= -128 immed 127))))
1309               (maybe-emit-operand-size-prefix segment size)
1310               (emit-byte segment (if sx #b01101011 #b01101001))
1311               (emit-ea segment r/m (reg-tn-encoding reg))
1312               (if sx
1313                   (emit-byte segment immed)
1314                   (emit-sized-immediate segment size immed)))))
1315      (cond (src2
1316             (r/m-with-immed-to-reg dst src1 src2))
1317            (src1
1318             (if (integerp src1)
1319                 (r/m-with-immed-to-reg dst dst src1)
1320                 (let ((size (matching-operand-size dst src1)))
1321                   (maybe-emit-operand-size-prefix segment size)
1322                   (emit-byte segment #b00001111)
1323                   (emit-byte segment #b10101111)
1324                   (emit-ea segment src1 (reg-tn-encoding dst)))))
1325            (t
1326             (let ((size (operand-size dst)))
1327               (maybe-emit-operand-size-prefix segment size)
1328               (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1329               (emit-ea segment dst #b101)))))))
1330
1331 (define-instruction div (segment dst src)
1332   (:printer accum-reg/mem ((op '(#b1111011 #b110))))
1333   (:emitter
1334    (let ((size (matching-operand-size dst src)))
1335      (aver (accumulator-p dst))
1336      (maybe-emit-operand-size-prefix segment size)
1337      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1338      (emit-ea segment src #b110))))
1339
1340 (define-instruction idiv (segment dst src)
1341   (:printer accum-reg/mem ((op '(#b1111011 #b111))))
1342   (:emitter
1343    (let ((size (matching-operand-size dst src)))
1344      (aver (accumulator-p dst))
1345      (maybe-emit-operand-size-prefix segment size)
1346      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1347      (emit-ea segment src #b111))))
1348
1349 (define-instruction aad (segment)
1350   (:printer two-bytes ((op '(#b11010101 #b00001010))))
1351   (:emitter
1352    (emit-byte segment #b11010101)
1353    (emit-byte segment #b00001010)))
1354
1355 (define-instruction aam (segment)
1356   (:printer two-bytes ((op '(#b11010100 #b00001010))))
1357   (:emitter
1358    (emit-byte segment #b11010100)
1359    (emit-byte segment #b00001010)))
1360
1361 ;;; CBW -- Convert Byte to Word. AX <- sign_xtnd(AL)
1362 (define-instruction cbw (segment)
1363   (:emitter
1364    (maybe-emit-operand-size-prefix segment :word)
1365    (emit-byte segment #b10011000)))
1366
1367 ;;; CWDE -- Convert Word To Double Word Extened. EAX <- sign_xtnd(AX)
1368 (define-instruction cwde (segment)
1369   (:emitter
1370    (maybe-emit-operand-size-prefix segment :dword)
1371    (emit-byte segment #b10011000)))
1372
1373 ;;; CWD -- Convert Word to Double Word. DX:AX <- sign_xtnd(AX)
1374 (define-instruction cwd (segment)
1375   (:emitter
1376    (maybe-emit-operand-size-prefix segment :word)
1377    (emit-byte segment #b10011001)))
1378
1379 ;;; CDQ -- Convert Double Word to Quad Word. EDX:EAX <- sign_xtnd(EAX)
1380 (define-instruction cdq (segment)
1381   (:printer byte ((op #b10011001)))
1382   (:emitter
1383    (maybe-emit-operand-size-prefix segment :dword)
1384    (emit-byte segment #b10011001)))
1385
1386 (define-instruction xadd (segment dst src)
1387   ;; Register/Memory with Register.
1388   (:printer ext-reg-reg/mem ((op #b1100000)) '(:name :tab reg/mem ", " reg))
1389   (:emitter
1390    (aver (register-p src))
1391    (let ((size (matching-operand-size src dst)))
1392      (maybe-emit-operand-size-prefix segment size)
1393      (emit-byte segment #b00001111)
1394      (emit-byte segment (if (eq size :byte) #b11000000 #b11000001))
1395      (emit-ea segment dst (reg-tn-encoding src)))))
1396
1397 \f
1398 ;;;; logic
1399
1400 (defun emit-shift-inst (segment dst amount opcode)
1401   (let ((size (operand-size dst)))
1402     (maybe-emit-operand-size-prefix segment size)
1403     (multiple-value-bind (major-opcode immed)
1404         (case amount
1405           (:cl (values #b11010010 nil))
1406           (1 (values #b11010000 nil))
1407           (t (values #b11000000 t)))
1408       (emit-byte segment
1409                  (if (eq size :byte) major-opcode (logior major-opcode 1)))
1410       (emit-ea segment dst opcode)
1411       (when immed
1412         (emit-byte segment amount)))))
1413
1414 (eval-when (:compile-toplevel :execute)
1415   (defun shift-inst-printer-list (subop)
1416     `((reg/mem ((op (#b1101000 ,subop)))
1417                (:name :tab reg/mem ", 1"))
1418       (reg/mem ((op (#b1101001 ,subop)))
1419                (:name :tab reg/mem ", " 'cl))
1420       (reg/mem-imm ((op (#b1100000 ,subop))
1421                     (imm nil :type signed-imm-byte))))))
1422
1423 (define-instruction rol (segment dst amount)
1424   (:printer-list
1425    (shift-inst-printer-list #b000))
1426   (:emitter
1427    (emit-shift-inst segment dst amount #b000)))
1428
1429 (define-instruction ror (segment dst amount)
1430   (:printer-list
1431    (shift-inst-printer-list #b001))
1432   (:emitter
1433    (emit-shift-inst segment dst amount #b001)))
1434
1435 (define-instruction rcl (segment dst amount)
1436   (:printer-list
1437    (shift-inst-printer-list #b010))
1438   (:emitter
1439    (emit-shift-inst segment dst amount #b010)))
1440
1441 (define-instruction rcr (segment dst amount)
1442   (:printer-list
1443    (shift-inst-printer-list #b011))
1444   (:emitter
1445    (emit-shift-inst segment dst amount #b011)))
1446
1447 (define-instruction shl (segment dst amount)
1448   (:printer-list
1449    (shift-inst-printer-list #b100))
1450   (:emitter
1451    (emit-shift-inst segment dst amount #b100)))
1452
1453 (define-instruction shr (segment dst amount)
1454   (:printer-list
1455    (shift-inst-printer-list #b101))
1456   (:emitter
1457    (emit-shift-inst segment dst amount #b101)))
1458
1459 (define-instruction sar (segment dst amount)
1460   (:printer-list
1461    (shift-inst-printer-list #b111))
1462   (:emitter
1463    (emit-shift-inst segment dst amount #b111)))
1464
1465 (defun emit-double-shift (segment opcode dst src amt)
1466   (let ((size (matching-operand-size dst src)))
1467     (when (eq size :byte)
1468       (error "Double shifts can only be used with words."))
1469     (maybe-emit-operand-size-prefix segment size)
1470     (emit-byte segment #b00001111)
1471     (emit-byte segment (dpb opcode (byte 1 3)
1472                             (if (eq amt :cl) #b10100101 #b10100100)))
1473     #+nil
1474     (emit-ea segment dst src)
1475     (emit-ea segment dst (reg-tn-encoding src)) ; pw tries this
1476     (unless (eq amt :cl)
1477       (emit-byte segment amt))))
1478
1479 (eval-when (:compile-toplevel :execute)
1480   (defun double-shift-inst-printer-list (op)
1481     `(#+nil
1482       (ext-reg-reg/mem-imm ((op ,(logior op #b10))
1483                             (imm nil :type signed-imm-byte)))
1484       (ext-reg-reg/mem ((op ,(logior op #b10)))
1485          (:name :tab reg/mem ", " reg ", " 'cl)))))
1486
1487 (define-instruction shld (segment dst src amt)
1488   (:declare (type (or (member :cl) (mod 32)) amt))
1489   (:printer-list (double-shift-inst-printer-list #b1010000))
1490   (:emitter
1491    (emit-double-shift segment #b0 dst src amt)))
1492
1493 (define-instruction shrd (segment dst src amt)
1494   (:declare (type (or (member :cl) (mod 32)) amt))
1495   (:printer-list (double-shift-inst-printer-list #b1010100))
1496   (:emitter
1497    (emit-double-shift segment #b1 dst src amt)))
1498
1499 (define-instruction and (segment dst src)
1500   (:printer-list
1501    (arith-inst-printer-list #b100))
1502   (:emitter
1503    (emit-random-arith-inst "AND" segment dst src #b100)))
1504
1505 (define-instruction test (segment this that)
1506   (:printer accum-imm ((op #b1010100)))
1507   (:printer reg/mem-imm ((op '(#b1111011 #b000))))
1508   (:printer reg-reg/mem ((op #b1000010)))
1509   (:emitter
1510    (let ((size (matching-operand-size this that)))
1511      (maybe-emit-operand-size-prefix segment size)
1512      (flet ((test-immed-and-something (immed something)
1513               (cond ((accumulator-p something)
1514                      (emit-byte segment
1515                                 (if (eq size :byte) #b10101000 #b10101001))
1516                      (emit-sized-immediate segment size immed))
1517                     (t
1518                      (emit-byte segment
1519                                 (if (eq size :byte) #b11110110 #b11110111))
1520                      (emit-ea segment something #b000)
1521                      (emit-sized-immediate segment size immed))))
1522             (test-reg-and-something (reg something)
1523               (emit-byte segment (if (eq size :byte) #b10000100 #b10000101))
1524               (emit-ea segment something (reg-tn-encoding reg))))
1525        (cond ((integerp that)
1526               (test-immed-and-something that this))
1527              ((integerp this)
1528               (test-immed-and-something this that))
1529              ((register-p this)
1530               (test-reg-and-something this that))
1531              ((register-p that)
1532               (test-reg-and-something that this))
1533              (t
1534               (error "bogus operands for TEST: ~S and ~S" this that)))))))
1535
1536 ;;; Emit the most compact form of the test immediate instruction,
1537 ;;; using an 8 bit test when the immediate is only 8 bits and the
1538 ;;; value is one of the four low registers (eax, ebx, ecx, edx) or the
1539 ;;; control stack.
1540 (defun emit-optimized-test-inst (x y)
1541   (typecase y
1542     ((unsigned-byte 7)
1543      (let ((offset (tn-offset x)))
1544        (cond ((and (sc-is x any-reg descriptor-reg)
1545                    (or (= offset eax-offset) (= offset ebx-offset)
1546                        (= offset ecx-offset) (= offset edx-offset)))
1547               (inst test (make-random-tn :kind :normal
1548                                          :sc (sc-or-lose 'byte-reg)
1549                                          :offset offset)
1550                     y))
1551              ((sc-is x control-stack)
1552               (inst test (make-ea :byte :base ebp-tn
1553                                   :disp (- (* (1+ offset) n-word-bytes)))
1554                     y))
1555              (t
1556               (inst test x y)))))
1557     (t
1558      (inst test x y))))
1559
1560 (define-instruction or (segment dst src)
1561   (:printer-list
1562    (arith-inst-printer-list #b001))
1563   (:emitter
1564    (emit-random-arith-inst "OR" segment dst src #b001)))
1565
1566 (define-instruction xor (segment dst src)
1567   (:printer-list
1568    (arith-inst-printer-list #b110))
1569   (:emitter
1570    (emit-random-arith-inst "XOR" segment dst src #b110)))
1571
1572 (define-instruction not (segment dst)
1573   (:printer reg/mem ((op '(#b1111011 #b010))))
1574   (:emitter
1575    (let ((size (operand-size dst)))
1576      (maybe-emit-operand-size-prefix segment size)
1577      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1578      (emit-ea segment dst #b010))))
1579 \f
1580 ;;;; string manipulation
1581
1582 (define-instruction cmps (segment size)
1583   (:printer string-op ((op #b1010011)))
1584   (:emitter
1585    (maybe-emit-operand-size-prefix segment size)
1586    (emit-byte segment (if (eq size :byte) #b10100110 #b10100111))))
1587
1588 (define-instruction ins (segment acc)
1589   (:printer string-op ((op #b0110110)))
1590   (:emitter
1591    (let ((size (operand-size acc)))
1592      (aver (accumulator-p acc))
1593      (maybe-emit-operand-size-prefix segment size)
1594      (emit-byte segment (if (eq size :byte) #b01101100 #b01101101)))))
1595
1596 (define-instruction lods (segment acc)
1597   (:printer string-op ((op #b1010110)))
1598   (:emitter
1599    (let ((size (operand-size acc)))
1600      (aver (accumulator-p acc))
1601      (maybe-emit-operand-size-prefix segment size)
1602      (emit-byte segment (if (eq size :byte) #b10101100 #b10101101)))))
1603
1604 (define-instruction movs (segment size)
1605   (:printer string-op ((op #b1010010)))
1606   (:emitter
1607    (maybe-emit-operand-size-prefix segment size)
1608    (emit-byte segment (if (eq size :byte) #b10100100 #b10100101))))
1609
1610 (define-instruction outs (segment acc)
1611   (:printer string-op ((op #b0110111)))
1612   (:emitter
1613    (let ((size (operand-size acc)))
1614      (aver (accumulator-p acc))
1615      (maybe-emit-operand-size-prefix segment size)
1616      (emit-byte segment (if (eq size :byte) #b01101110 #b01101111)))))
1617
1618 (define-instruction scas (segment acc)
1619   (:printer string-op ((op #b1010111)))
1620   (:emitter
1621    (let ((size (operand-size acc)))
1622      (aver (accumulator-p acc))
1623      (maybe-emit-operand-size-prefix segment size)
1624      (emit-byte segment (if (eq size :byte) #b10101110 #b10101111)))))
1625
1626 (define-instruction stos (segment acc)
1627   (:printer string-op ((op #b1010101)))
1628   (:emitter
1629    (let ((size (operand-size acc)))
1630      (aver (accumulator-p acc))
1631      (maybe-emit-operand-size-prefix segment size)
1632      (emit-byte segment (if (eq size :byte) #b10101010 #b10101011)))))
1633
1634 (define-instruction xlat (segment)
1635   (:printer byte ((op #b11010111)))
1636   (:emitter
1637    (emit-byte segment #b11010111)))
1638
1639 (define-instruction rep (segment)
1640   (:emitter
1641    (emit-byte segment #b11110010)))
1642
1643 (define-instruction repe (segment)
1644   (:printer byte ((op #b11110011)))
1645   (:emitter
1646    (emit-byte segment #b11110011)))
1647
1648 (define-instruction repne (segment)
1649   (:printer byte ((op #b11110010)))
1650   (:emitter
1651    (emit-byte segment #b11110010)))
1652
1653 \f
1654 ;;;; bit manipulation
1655
1656 (define-instruction bsf (segment dst src)
1657   (:printer ext-reg-reg/mem ((op #b1011110) (width 0)))
1658   (:emitter
1659    (let ((size (matching-operand-size dst src)))
1660      (when (eq size :byte)
1661        (error "can't scan bytes: ~S" src))
1662      (maybe-emit-operand-size-prefix segment size)
1663      (emit-byte segment #b00001111)
1664      (emit-byte segment #b10111100)
1665      (emit-ea segment src (reg-tn-encoding dst)))))
1666
1667 (define-instruction bsr (segment dst src)
1668   (:printer ext-reg-reg/mem ((op #b1011110) (width 1)))
1669   (:emitter
1670    (let ((size (matching-operand-size dst src)))
1671      (when (eq size :byte)
1672        (error "can't scan bytes: ~S" src))
1673      (maybe-emit-operand-size-prefix segment size)
1674      (emit-byte segment #b00001111)
1675      (emit-byte segment #b10111101)
1676      (emit-ea segment src (reg-tn-encoding dst)))))
1677
1678 (defun emit-bit-test-and-mumble (segment src index opcode)
1679   (let ((size (operand-size src)))
1680     (when (eq size :byte)
1681       (error "can't scan bytes: ~S" src))
1682     (maybe-emit-operand-size-prefix segment size)
1683     (emit-byte segment #b00001111)
1684     (cond ((integerp index)
1685            (emit-byte segment #b10111010)
1686            (emit-ea segment src opcode)
1687            (emit-byte segment index))
1688           (t
1689            (emit-byte segment (dpb opcode (byte 3 3) #b10000011))
1690            (emit-ea segment src (reg-tn-encoding index))))))
1691
1692 (eval-when (:compile-toplevel :execute)
1693   (defun bit-test-inst-printer-list (subop)
1694     `((ext-reg/mem-imm ((op (#b1011101 ,subop))
1695                         (reg/mem nil :type word-reg/mem)
1696                         (imm nil :type imm-data)
1697                         (width 0)))
1698       (ext-reg-reg/mem ((op ,(dpb subop (byte 3 2) #b1000001))
1699                         (width 1))
1700                        (:name :tab reg/mem ", " reg)))))
1701
1702 (define-instruction bt (segment src index)
1703   (:printer-list (bit-test-inst-printer-list #b100))
1704   (:emitter
1705    (emit-bit-test-and-mumble segment src index #b100)))
1706
1707 (define-instruction btc (segment src index)
1708   (:printer-list (bit-test-inst-printer-list #b111))
1709   (:emitter
1710    (emit-bit-test-and-mumble segment src index #b111)))
1711
1712 (define-instruction btr (segment src index)
1713   (:printer-list (bit-test-inst-printer-list #b110))
1714   (:emitter
1715    (emit-bit-test-and-mumble segment src index #b110)))
1716
1717 (define-instruction bts (segment src index)
1718   (:printer-list (bit-test-inst-printer-list #b101))
1719   (:emitter
1720    (emit-bit-test-and-mumble segment src index #b101)))
1721
1722 \f
1723 ;;;; control transfer
1724
1725 (define-instruction call (segment where)
1726   (:printer near-jump ((op #b11101000)))
1727   (:printer reg/mem ((op '(#b1111111 #b010)) (width 1)))
1728   (:emitter
1729    (typecase where
1730      (label
1731       (emit-byte segment #b11101000)
1732       (emit-back-patch segment
1733                        4
1734                        (lambda (segment posn)
1735                          (emit-dword segment
1736                                      (- (label-position where)
1737                                         (+ posn 4))))))
1738      (fixup
1739       (emit-byte segment #b11101000)
1740       (emit-relative-fixup segment where))
1741      (t
1742       (emit-byte segment #b11111111)
1743       (emit-ea segment where #b010)))))
1744
1745 (defun emit-byte-displacement-backpatch (segment target)
1746   (emit-back-patch segment
1747                    1
1748                    (lambda (segment posn)
1749                      (let ((disp (- (label-position target) (1+ posn))))
1750                        (aver (<= -128 disp 127))
1751                        (emit-byte segment disp)))))
1752
1753 (define-instruction jmp (segment cond &optional where)
1754   ;; conditional jumps
1755   (:printer short-cond-jump ((op #b0111)) '('j cc :tab label))
1756   (:printer near-cond-jump () '('j cc :tab label))
1757   ;; unconditional jumps
1758   (:printer short-jump ((op #b1011)))
1759   (:printer near-jump ((op #b11101001)) )
1760   (:printer reg/mem ((op '(#b1111111 #b100)) (width 1)))
1761   (:emitter
1762    (cond (where
1763           (emit-chooser
1764            segment 6 2
1765            (lambda (segment posn delta-if-after)
1766              (let ((disp (- (label-position where posn delta-if-after)
1767                             (+ posn 2))))
1768                (when (<= -128 disp 127)
1769                  (emit-byte segment
1770                             (dpb (conditional-opcode cond)
1771                                  (byte 4 0)
1772                                  #b01110000))
1773                  (emit-byte-displacement-backpatch segment where)
1774                  t)))
1775            (lambda (segment posn)
1776              (let ((disp (- (label-position where) (+ posn 6))))
1777                (emit-byte segment #b00001111)
1778                (emit-byte segment
1779                           (dpb (conditional-opcode cond)
1780                                (byte 4 0)
1781                                #b10000000))
1782                (emit-dword segment disp)))))
1783          ((label-p (setq where cond))
1784           (emit-chooser
1785            segment 5 0
1786            (lambda (segment posn delta-if-after)
1787              (let ((disp (- (label-position where posn delta-if-after)
1788                             (+ posn 2))))
1789                (when (<= -128 disp 127)
1790                  (emit-byte segment #b11101011)
1791                  (emit-byte-displacement-backpatch segment where)
1792                  t)))
1793            (lambda (segment posn)
1794              (let ((disp (- (label-position where) (+ posn 5))))
1795                (emit-byte segment #b11101001)
1796                (emit-dword segment disp)))))
1797          ((fixup-p where)
1798           (emit-byte segment #b11101001)
1799           (emit-relative-fixup segment where))
1800          (t
1801           (unless (or (ea-p where) (tn-p where))
1802                   (error "don't know what to do with ~A" where))
1803           (emit-byte segment #b11111111)
1804           (emit-ea segment where #b100)))))
1805
1806 (define-instruction jmp-short (segment label)
1807   (:emitter
1808    (emit-byte segment #b11101011)
1809    (emit-byte-displacement-backpatch segment label)))
1810
1811 (define-instruction ret (segment &optional stack-delta)
1812   (:printer byte ((op #b11000011)))
1813   (:printer byte ((op #b11000010) (imm nil :type 'imm-word-16))
1814             '(:name :tab imm))
1815   (:emitter
1816    (cond (stack-delta
1817           (emit-byte segment #b11000010)
1818           (emit-word segment stack-delta))
1819          (t
1820           (emit-byte segment #b11000011)))))
1821
1822 (define-instruction jecxz (segment target)
1823   (:printer short-jump ((op #b0011)))
1824   (:emitter
1825    (emit-byte segment #b11100011)
1826    (emit-byte-displacement-backpatch segment target)))
1827
1828 (define-instruction loop (segment target)
1829   (:printer short-jump ((op #b0010)))
1830   (:emitter
1831    (emit-byte segment #b11100010)       ; pfw this was 11100011, or jecxz!!!!
1832    (emit-byte-displacement-backpatch segment target)))
1833
1834 (define-instruction loopz (segment target)
1835   (:printer short-jump ((op #b0001)))
1836   (:emitter
1837    (emit-byte segment #b11100001)
1838    (emit-byte-displacement-backpatch segment target)))
1839
1840 (define-instruction loopnz (segment target)
1841   (:printer short-jump ((op #b0000)))
1842   (:emitter
1843    (emit-byte segment #b11100000)
1844    (emit-byte-displacement-backpatch segment target)))
1845 \f
1846 ;;;; conditional move
1847 (define-instruction cmov (segment cond dst src)
1848   (:printer cond-move ())
1849   (:emitter
1850    (aver (register-p dst))
1851    (let ((size (matching-operand-size dst src)))
1852      (aver (or (eq size :word) (eq size :dword)))
1853      (maybe-emit-operand-size-prefix segment size))
1854    (emit-byte segment #b00001111)
1855    (emit-byte segment (dpb (conditional-opcode cond) (byte 4 0) #b01000000))
1856    (emit-ea segment src (reg-tn-encoding dst))))
1857
1858 ;;;; conditional byte set
1859
1860 (define-instruction set (segment dst cond)
1861   (:printer cond-set ())
1862   (:emitter
1863    (emit-byte segment #b00001111)
1864    (emit-byte segment (dpb (conditional-opcode cond) (byte 4 0) #b10010000))
1865    (emit-ea segment dst #b000)))
1866 \f
1867 ;;;; enter/leave
1868
1869 (define-instruction enter (segment disp &optional (level 0))
1870   (:declare (type (unsigned-byte 16) disp)
1871             (type (unsigned-byte 8) level))
1872   (:printer enter-format ((op #b11001000)))
1873   (:emitter
1874    (emit-byte segment #b11001000)
1875    (emit-word segment disp)
1876    (emit-byte segment level)))
1877
1878 (define-instruction leave (segment)
1879   (:printer byte ((op #b11001001)))
1880   (:emitter
1881    (emit-byte segment #b11001001)))
1882 \f
1883 ;;;; prefetch
1884 (define-instruction prefetchnta (segment ea)
1885   (:printer prefetch ((op #b00011000) (reg #b000)))
1886   (:emitter
1887    (aver (typep ea 'ea))
1888    (aver (eq :byte (ea-size ea)))
1889    (emit-byte segment #b00001111)
1890    (emit-byte segment #b00011000)
1891    (emit-ea segment ea #b000)))
1892
1893 (define-instruction prefetcht0 (segment ea)
1894   (:printer prefetch ((op #b00011000) (reg #b001)))
1895   (:emitter
1896    (aver (typep ea 'ea))
1897    (aver (eq :byte (ea-size ea)))
1898    (emit-byte segment #b00001111)
1899    (emit-byte segment #b00011000)
1900    (emit-ea segment ea #b001)))
1901
1902 (define-instruction prefetcht1 (segment ea)
1903   (:printer prefetch ((op #b00011000) (reg #b010)))
1904   (:emitter
1905    (aver (typep ea 'ea))
1906    (aver (eq :byte (ea-size ea)))
1907    (emit-byte segment #b00001111)
1908    (emit-byte segment #b00011000)
1909    (emit-ea segment ea #b010)))
1910
1911 (define-instruction prefetcht2 (segment ea)
1912   (:printer prefetch ((op #b00011000) (reg #b011)))
1913   (:emitter
1914    (aver (typep ea 'ea))
1915    (aver (eq :byte (ea-size ea)))
1916    (emit-byte segment #b00001111)
1917    (emit-byte segment #b00011000)
1918    (emit-ea segment ea #b011)))
1919 \f
1920 ;;;; interrupt instructions
1921
1922 (defun snarf-error-junk (sap offset &optional length-only)
1923   (let* ((length (sb!sys:sap-ref-8 sap offset))
1924          (vector (make-array length :element-type '(unsigned-byte 8))))
1925     (declare (type sb!sys:system-area-pointer sap)
1926              (type (unsigned-byte 8) length)
1927              (type (simple-array (unsigned-byte 8) (*)) vector))
1928     (cond (length-only
1929            (values 0 (1+ length) nil nil))
1930           (t
1931            (sb!kernel:copy-ub8-from-system-area sap (1+ offset)
1932                                                 vector 0 length)
1933            (collect ((sc-offsets)
1934                      (lengths))
1935              (lengths 1)                ; the length byte
1936              (let* ((index 0)
1937                     (error-number (sb!c:read-var-integer vector index)))
1938                (lengths index)
1939                (loop
1940                  (when (>= index length)
1941                    (return))
1942                  (let ((old-index index))
1943                    (sc-offsets (sb!c:read-var-integer vector index))
1944                    (lengths (- index old-index))))
1945                (values error-number
1946                        (1+ length)
1947                        (sc-offsets)
1948                        (lengths))))))))
1949
1950 #|
1951 (defmacro break-cases (breaknum &body cases)
1952   (let ((bn-temp (gensym)))
1953     (collect ((clauses))
1954       (dolist (case cases)
1955         (clauses `((= ,bn-temp ,(car case)) ,@(cdr case))))
1956       `(let ((,bn-temp ,breaknum))
1957          (cond ,@(clauses))))))
1958 |#
1959
1960 (defun break-control (chunk inst stream dstate)
1961   (declare (ignore inst))
1962   (flet ((nt (x) (if stream (sb!disassem:note x dstate))))
1963     ;; FIXME: Make sure that BYTE-IMM-CODE is defined. The genesis
1964     ;; map has it undefined; and it should be easier to look in the target
1965     ;; Lisp (with (DESCRIBE 'BYTE-IMM-CODE)) than to definitively deduce
1966     ;; from first principles whether it's defined in some way that genesis
1967     ;; can't grok.
1968     (case #-darwin (byte-imm-code chunk dstate)
1969           #+darwin (word-imm-code chunk dstate)
1970       (#.error-trap
1971        (nt "error trap")
1972        (sb!disassem:handle-break-args #'snarf-error-junk stream dstate))
1973       (#.cerror-trap
1974        (nt "cerror trap")
1975        (sb!disassem:handle-break-args #'snarf-error-junk stream dstate))
1976       (#.breakpoint-trap
1977        (nt "breakpoint trap"))
1978       (#.pending-interrupt-trap
1979        (nt "pending interrupt trap"))
1980       (#.halt-trap
1981        (nt "halt trap"))
1982       (#.fun-end-breakpoint-trap
1983        (nt "function end breakpoint trap")))))
1984
1985 (define-instruction break (segment code)
1986   (:declare (type (unsigned-byte 8) code))
1987   #-darwin (:printer byte-imm ((op #b11001100)) '(:name :tab code)
1988                      :control #'break-control)
1989   #+darwin (:printer word-imm ((op #b0000101100001111)) '(:name :tab code)
1990                      :control #'break-control)
1991   (:emitter
1992    #-darwin (emit-byte segment #b11001100)
1993    ;; On darwin, trap handling via SIGTRAP is unreliable, therefore we
1994    ;; throw a sigill with 0x0b0f instead and check for this in the
1995    ;; SIGILL handler and pass it on to the sigtrap handler if
1996    ;; appropriate
1997    #+darwin (emit-word segment #b0000101100001111)
1998    (emit-byte segment code)))
1999
2000 (define-instruction int (segment number)
2001   (:declare (type (unsigned-byte 8) number))
2002   (:printer byte-imm ((op #b11001101)))
2003   (:emitter
2004    (etypecase number
2005      ((member 3)
2006       (emit-byte segment #b11001100))
2007      ((unsigned-byte 8)
2008       (emit-byte segment #b11001101)
2009       (emit-byte segment number)))))
2010
2011 (define-instruction into (segment)
2012   (:printer byte ((op #b11001110)))
2013   (:emitter
2014    (emit-byte segment #b11001110)))
2015
2016 (define-instruction bound (segment reg bounds)
2017   (:emitter
2018    (let ((size (matching-operand-size reg bounds)))
2019      (when (eq size :byte)
2020        (error "can't bounds-test bytes: ~S" reg))
2021      (maybe-emit-operand-size-prefix segment size)
2022      (emit-byte segment #b01100010)
2023      (emit-ea segment bounds (reg-tn-encoding reg)))))
2024
2025 (define-instruction iret (segment)
2026   (:printer byte ((op #b11001111)))
2027   (:emitter
2028    (emit-byte segment #b11001111)))
2029 \f
2030 ;;;; processor control
2031
2032 (define-instruction hlt (segment)
2033   (:printer byte ((op #b11110100)))
2034   (:emitter
2035    (emit-byte segment #b11110100)))
2036
2037 (define-instruction nop (segment)
2038   (:printer byte ((op #b10010000)))
2039   (:emitter
2040    (emit-byte segment #b10010000)))
2041
2042 (define-instruction wait (segment)
2043   (:printer byte ((op #b10011011)))
2044   (:emitter
2045    (emit-byte segment #b10011011)))
2046
2047 (define-instruction lock (segment)
2048   (:printer byte ((op #b11110000)))
2049   (:emitter
2050    (emit-byte segment #b11110000)))
2051 \f
2052 ;;;; miscellaneous hackery
2053
2054 (define-instruction byte (segment byte)
2055   (:emitter
2056    (emit-byte segment byte)))
2057
2058 (define-instruction word (segment word)
2059   (:emitter
2060    (emit-word segment word)))
2061
2062 (define-instruction dword (segment dword)
2063   (:emitter
2064    (emit-dword segment dword)))
2065
2066 (defun emit-header-data (segment type)
2067   (emit-back-patch segment
2068                    4
2069                    (lambda (segment posn)
2070                      (emit-dword segment
2071                                  (logior type
2072                                          (ash (+ posn
2073                                                  (component-header-length))
2074                                               (- n-widetag-bits
2075                                                  word-shift)))))))
2076
2077 (define-instruction simple-fun-header-word (segment)
2078   (:emitter
2079    (emit-header-data segment simple-fun-header-widetag)))
2080
2081 (define-instruction lra-header-word (segment)
2082   (:emitter
2083    (emit-header-data segment return-pc-header-widetag)))
2084 \f
2085 ;;;; fp instructions
2086 ;;;;
2087 ;;;; FIXME: This section said "added by jrd", which should end up in CREDITS.
2088 ;;;;
2089 ;;;; Note: We treat the single-precision and double-precision variants
2090 ;;;; as separate instructions.
2091
2092 ;;; Load single to st(0).
2093 (define-instruction fld (segment source)
2094   (:printer floating-point ((op '(#b001 #b000))))
2095   (:emitter
2096     (emit-byte segment #b11011001)
2097     (emit-fp-op segment source #b000)))
2098
2099 ;;; Load double to st(0).
2100 (define-instruction fldd (segment source)
2101   (:printer floating-point ((op '(#b101 #b000))))
2102   (:printer floating-point-fp ((op '(#b001 #b000))))
2103   (:emitter
2104    (if (fp-reg-tn-p source)
2105        (emit-byte segment #b11011001)
2106      (emit-byte segment #b11011101))
2107     (emit-fp-op segment source #b000)))
2108
2109 ;;; Load long to st(0).
2110 (define-instruction fldl (segment source)
2111   (:printer floating-point ((op '(#b011 #b101))))
2112   (:emitter
2113     (emit-byte segment #b11011011)
2114     (emit-fp-op segment source #b101)))
2115
2116 ;;; Store single from st(0).
2117 (define-instruction fst (segment dest)
2118   (:printer floating-point ((op '(#b001 #b010))))
2119   (:emitter
2120     (cond ((fp-reg-tn-p dest)
2121            (emit-byte segment #b11011101)
2122            (emit-fp-op segment dest #b010))
2123           (t
2124            (emit-byte segment #b11011001)
2125            (emit-fp-op segment dest #b010)))))
2126
2127 ;;; Store double from st(0).
2128 (define-instruction fstd (segment dest)
2129   (:printer floating-point ((op '(#b101 #b010))))
2130   (:printer floating-point-fp ((op '(#b101 #b010))))
2131   (:emitter
2132    (cond ((fp-reg-tn-p dest)
2133           (emit-byte segment #b11011101)
2134           (emit-fp-op segment dest #b010))
2135          (t
2136           (emit-byte segment #b11011101)
2137           (emit-fp-op segment dest #b010)))))
2138
2139 ;;; Arithmetic ops are all done with at least one operand at top of
2140 ;;; stack. The other operand is is another register or a 32/64 bit
2141 ;;; memory loc.
2142
2143 ;;; dtc: I've tried to follow the Intel ASM386 conventions, but note
2144 ;;; that these conflict with the Gdb conventions for binops. To reduce
2145 ;;; the confusion I've added comments showing the mathamatical
2146 ;;; operation and the two syntaxes. By the ASM386 convention the
2147 ;;; instruction syntax is:
2148 ;;;
2149 ;;;      Fop Source
2150 ;;; or   Fop Destination, Source
2151 ;;;
2152 ;;; If only one operand is given then it is the source and the
2153 ;;; destination is ST(0). There are reversed forms of the fsub and
2154 ;;; fdiv instructions inducated by an 'R' suffix.
2155 ;;;
2156 ;;; The mathematical operation for the non-reverse form is always:
2157 ;;;     destination = destination op source
2158 ;;;
2159 ;;; For the reversed form it is:
2160 ;;;     destination = source op destination
2161 ;;;
2162 ;;; The instructions below only accept one operand at present which is
2163 ;;; usually the source. I've hack in extra instructions to implement
2164 ;;; the fops with a ST(i) destination, these have a -sti suffix and
2165 ;;; the operand is the destination with the source being ST(0).
2166
2167 ;;; Add single:
2168 ;;;   st(0) = st(0) + memory or st(i).
2169 (define-instruction fadd (segment source)
2170   (:printer floating-point ((op '(#b000 #b000))))
2171   (:emitter
2172     (emit-byte segment #b11011000)
2173     (emit-fp-op segment source #b000)))
2174
2175 ;;; Add double:
2176 ;;;   st(0) = st(0) + memory or st(i).
2177 (define-instruction faddd (segment source)
2178   (:printer floating-point ((op '(#b100 #b000))))
2179   (:printer floating-point-fp ((op '(#b000 #b000))))
2180   (:emitter
2181    (if (fp-reg-tn-p source)
2182        (emit-byte segment #b11011000)
2183      (emit-byte segment #b11011100))
2184    (emit-fp-op segment source #b000)))
2185
2186 ;;; Add double destination st(i):
2187 ;;;   st(i) = st(0) + st(i).
2188 (define-instruction fadd-sti (segment destination)
2189   (:printer floating-point-fp ((op '(#b100 #b000))))
2190   (:emitter
2191    (aver (fp-reg-tn-p destination))
2192    (emit-byte segment #b11011100)
2193    (emit-fp-op segment destination #b000)))
2194 ;;; with pop
2195 (define-instruction faddp-sti (segment destination)
2196   (:printer floating-point-fp ((op '(#b110 #b000))))
2197   (:emitter
2198    (aver (fp-reg-tn-p destination))
2199    (emit-byte segment #b11011110)
2200    (emit-fp-op segment destination #b000)))
2201
2202 ;;; Subtract single:
2203 ;;;   st(0) = st(0) - memory or st(i).
2204 (define-instruction fsub (segment source)
2205   (:printer floating-point ((op '(#b000 #b100))))
2206   (:emitter
2207     (emit-byte segment #b11011000)
2208     (emit-fp-op segment source #b100)))
2209
2210 ;;; Subtract single, reverse:
2211 ;;;   st(0) = memory or st(i) - st(0).
2212 (define-instruction fsubr (segment source)
2213   (:printer floating-point ((op '(#b000 #b101))))
2214   (:emitter
2215     (emit-byte segment #b11011000)
2216     (emit-fp-op segment source #b101)))
2217
2218 ;;; Subtract double:
2219 ;;;   st(0) = st(0) - memory or st(i).
2220 (define-instruction fsubd (segment source)
2221   (:printer floating-point ((op '(#b100 #b100))))
2222   (:printer floating-point-fp ((op '(#b000 #b100))))
2223   (:emitter
2224    (if (fp-reg-tn-p source)
2225        (emit-byte segment #b11011000)
2226      (emit-byte segment #b11011100))
2227    (emit-fp-op segment source #b100)))
2228
2229 ;;; Subtract double, reverse:
2230 ;;;   st(0) = memory or st(i) - st(0).
2231 (define-instruction fsubrd (segment source)
2232   (:printer floating-point ((op '(#b100 #b101))))
2233   (:printer floating-point-fp ((op '(#b000 #b101))))
2234   (:emitter
2235    (if (fp-reg-tn-p source)
2236        (emit-byte segment #b11011000)
2237      (emit-byte segment #b11011100))
2238    (emit-fp-op segment source #b101)))
2239
2240 ;;; Subtract double, destination st(i):
2241 ;;;   st(i) = st(i) - st(0).
2242 ;;;
2243 ;;; ASM386 syntax: FSUB ST(i), ST
2244 ;;; Gdb    syntax: fsubr %st,%st(i)
2245 (define-instruction fsub-sti (segment destination)
2246   (:printer floating-point-fp ((op '(#b100 #b101))))
2247   (:emitter
2248    (aver (fp-reg-tn-p destination))
2249    (emit-byte segment #b11011100)
2250    (emit-fp-op segment destination #b101)))
2251 ;;; with a pop
2252 (define-instruction fsubp-sti (segment destination)
2253   (:printer floating-point-fp ((op '(#b110 #b101))))
2254   (:emitter
2255    (aver (fp-reg-tn-p destination))
2256    (emit-byte segment #b11011110)
2257    (emit-fp-op segment destination #b101)))
2258
2259 ;;; Subtract double, reverse, destination st(i):
2260 ;;;   st(i) = st(0) - st(i).
2261 ;;;
2262 ;;; ASM386 syntax: FSUBR ST(i), ST
2263 ;;; Gdb    syntax: fsub %st,%st(i)
2264 (define-instruction fsubr-sti (segment destination)
2265   (:printer floating-point-fp ((op '(#b100 #b100))))
2266   (:emitter
2267    (aver (fp-reg-tn-p destination))
2268    (emit-byte segment #b11011100)
2269    (emit-fp-op segment destination #b100)))
2270 ;;; with a pop
2271 (define-instruction fsubrp-sti (segment destination)
2272   (:printer floating-point-fp ((op '(#b110 #b100))))
2273   (:emitter
2274    (aver (fp-reg-tn-p destination))
2275    (emit-byte segment #b11011110)
2276    (emit-fp-op segment destination #b100)))
2277
2278 ;;; Multiply single:
2279 ;;;   st(0) = st(0) * memory or st(i).
2280 (define-instruction fmul (segment source)
2281   (:printer floating-point ((op '(#b000 #b001))))
2282   (:emitter
2283     (emit-byte segment #b11011000)
2284     (emit-fp-op segment source #b001)))
2285
2286 ;;; Multiply double:
2287 ;;;   st(0) = st(0) * memory or st(i).
2288 (define-instruction fmuld (segment source)
2289   (:printer floating-point ((op '(#b100 #b001))))
2290   (:printer floating-point-fp ((op '(#b000 #b001))))
2291   (:emitter
2292    (if (fp-reg-tn-p source)
2293        (emit-byte segment #b11011000)
2294      (emit-byte segment #b11011100))
2295    (emit-fp-op segment source #b001)))
2296
2297 ;;; Multiply double, destination st(i):
2298 ;;;   st(i) = st(i) * st(0).
2299 (define-instruction fmul-sti (segment destination)
2300   (:printer floating-point-fp ((op '(#b100 #b001))))
2301   (:emitter
2302    (aver (fp-reg-tn-p destination))
2303    (emit-byte segment #b11011100)
2304    (emit-fp-op segment destination #b001)))
2305
2306 ;;; Divide single:
2307 ;;;   st(0) = st(0) / memory or st(i).
2308 (define-instruction fdiv (segment source)
2309   (:printer floating-point ((op '(#b000 #b110))))
2310   (:emitter
2311     (emit-byte segment #b11011000)
2312     (emit-fp-op segment source #b110)))
2313
2314 ;;; Divide single, reverse:
2315 ;;;   st(0) = memory or st(i) / st(0).
2316 (define-instruction fdivr (segment source)
2317   (:printer floating-point ((op '(#b000 #b111))))
2318   (:emitter
2319     (emit-byte segment #b11011000)
2320     (emit-fp-op segment source #b111)))
2321
2322 ;;; Divide double:
2323 ;;;   st(0) = st(0) / memory or st(i).
2324 (define-instruction fdivd (segment source)
2325   (:printer floating-point ((op '(#b100 #b110))))
2326   (:printer floating-point-fp ((op '(#b000 #b110))))
2327   (:emitter
2328    (if (fp-reg-tn-p source)
2329        (emit-byte segment #b11011000)
2330      (emit-byte segment #b11011100))
2331    (emit-fp-op segment source #b110)))
2332
2333 ;;; Divide double, reverse:
2334 ;;;   st(0) = memory or st(i) / st(0).
2335 (define-instruction fdivrd (segment source)
2336   (:printer floating-point ((op '(#b100 #b111))))
2337   (:printer floating-point-fp ((op '(#b000 #b111))))
2338   (:emitter
2339    (if (fp-reg-tn-p source)
2340        (emit-byte segment #b11011000)
2341      (emit-byte segment #b11011100))
2342    (emit-fp-op segment source #b111)))
2343
2344 ;;; Divide double, destination st(i):
2345 ;;;   st(i) = st(i) / st(0).
2346 ;;;
2347 ;;; ASM386 syntax: FDIV ST(i), ST
2348 ;;; Gdb    syntax: fdivr %st,%st(i)
2349 (define-instruction fdiv-sti (segment destination)
2350   (:printer floating-point-fp ((op '(#b100 #b111))))
2351   (:emitter
2352    (aver (fp-reg-tn-p destination))
2353    (emit-byte segment #b11011100)
2354    (emit-fp-op segment destination #b111)))
2355
2356 ;;; Divide double, reverse, destination st(i):
2357 ;;;   st(i) = st(0) / st(i).
2358 ;;;
2359 ;;; ASM386 syntax: FDIVR ST(i), ST
2360 ;;; Gdb    syntax: fdiv %st,%st(i)
2361 (define-instruction fdivr-sti (segment destination)
2362   (:printer floating-point-fp ((op '(#b100 #b110))))
2363   (:emitter
2364    (aver (fp-reg-tn-p destination))
2365    (emit-byte segment #b11011100)
2366    (emit-fp-op segment destination #b110)))
2367
2368 ;;; Exchange fr0 with fr(n). (There is no double precision variant.)
2369 (define-instruction fxch (segment source)
2370   (:printer floating-point-fp ((op '(#b001 #b001))))
2371   (:emitter
2372     (unless (and (tn-p source)
2373                  (eq (sb-name (sc-sb (tn-sc source))) 'float-registers))
2374       (cl:break))
2375     (emit-byte segment #b11011001)
2376     (emit-fp-op segment source #b001)))
2377
2378 ;;; Push 32-bit integer to st0.
2379 (define-instruction fild (segment source)
2380   (:printer floating-point ((op '(#b011 #b000))))
2381   (:emitter
2382    (emit-byte segment #b11011011)
2383    (emit-fp-op segment source #b000)))
2384
2385 ;;; Push 64-bit integer to st0.
2386 (define-instruction fildl (segment source)
2387   (:printer floating-point ((op '(#b111 #b101))))
2388   (:emitter
2389    (emit-byte segment #b11011111)
2390    (emit-fp-op segment source #b101)))
2391
2392 ;;; Store 32-bit integer.
2393 (define-instruction fist (segment dest)
2394   (:printer floating-point ((op '(#b011 #b010))))
2395   (:emitter
2396    (emit-byte segment #b11011011)
2397    (emit-fp-op segment dest #b010)))
2398
2399 ;;; Store and pop 32-bit integer.
2400 (define-instruction fistp (segment dest)
2401   (:printer floating-point ((op '(#b011 #b011))))
2402   (:emitter
2403    (emit-byte segment #b11011011)
2404    (emit-fp-op segment dest #b011)))
2405
2406 ;;; Store and pop 64-bit integer.
2407 (define-instruction fistpl (segment dest)
2408   (:printer floating-point ((op '(#b111 #b111))))
2409   (:emitter
2410    (emit-byte segment #b11011111)
2411    (emit-fp-op segment dest #b111)))
2412
2413 ;;; Store single from st(0) and pop.
2414 (define-instruction fstp (segment dest)
2415   (:printer floating-point ((op '(#b001 #b011))))
2416   (:emitter
2417    (cond ((fp-reg-tn-p dest)
2418           (emit-byte segment #b11011101)
2419           (emit-fp-op segment dest #b011))
2420          (t
2421           (emit-byte segment #b11011001)
2422           (emit-fp-op segment dest #b011)))))
2423
2424 ;;; Store double from st(0) and pop.
2425 (define-instruction fstpd (segment dest)
2426   (:printer floating-point ((op '(#b101 #b011))))
2427   (:printer floating-point-fp ((op '(#b101 #b011))))
2428   (:emitter
2429    (cond ((fp-reg-tn-p dest)
2430           (emit-byte segment #b11011101)
2431           (emit-fp-op segment dest #b011))
2432          (t
2433           (emit-byte segment #b11011101)
2434           (emit-fp-op segment dest #b011)))))
2435
2436 ;;; Store long from st(0) and pop.
2437 (define-instruction fstpl (segment dest)
2438   (:printer floating-point ((op '(#b011 #b111))))
2439   (:emitter
2440     (emit-byte segment #b11011011)
2441     (emit-fp-op segment dest #b111)))
2442
2443 ;;; Decrement stack-top pointer.
2444 (define-instruction fdecstp (segment)
2445   (:printer floating-point-no ((op #b10110)))
2446   (:emitter
2447    (emit-byte segment #b11011001)
2448    (emit-byte segment #b11110110)))
2449
2450 ;;; Increment stack-top pointer.
2451 (define-instruction fincstp (segment)
2452   (:printer floating-point-no ((op #b10111)))
2453   (:emitter
2454    (emit-byte segment #b11011001)
2455    (emit-byte segment #b11110111)))
2456
2457 ;;; Free fp register.
2458 (define-instruction ffree (segment dest)
2459   (:printer floating-point-fp ((op '(#b101 #b000))))
2460   (:emitter
2461    (emit-byte segment #b11011101)
2462    (emit-fp-op segment dest #b000)))
2463
2464 (define-instruction fabs (segment)
2465   (:printer floating-point-no ((op #b00001)))
2466   (:emitter
2467    (emit-byte segment #b11011001)
2468    (emit-byte segment #b11100001)))
2469
2470 (define-instruction fchs (segment)
2471   (:printer floating-point-no ((op #b00000)))
2472   (:emitter
2473    (emit-byte segment #b11011001)
2474    (emit-byte segment #b11100000)))
2475
2476 (define-instruction frndint(segment)
2477   (:printer floating-point-no ((op #b11100)))
2478   (:emitter
2479    (emit-byte segment #b11011001)
2480    (emit-byte segment #b11111100)))
2481
2482 ;;; Initialize NPX.
2483 (define-instruction fninit(segment)
2484   (:printer floating-point-5 ((op #b00011)))
2485   (:emitter
2486    (emit-byte segment #b11011011)
2487    (emit-byte segment #b11100011)))
2488
2489 ;;; Store Status Word to AX.
2490 (define-instruction fnstsw(segment)
2491   (:printer floating-point-st ((op #b00000)))
2492   (:emitter
2493    (emit-byte segment #b11011111)
2494    (emit-byte segment #b11100000)))
2495
2496 ;;; Load Control Word.
2497 ;;;
2498 ;;; src must be a memory location
2499 (define-instruction fldcw(segment src)
2500   (:printer floating-point ((op '(#b001 #b101))))
2501   (:emitter
2502    (emit-byte segment #b11011001)
2503    (emit-fp-op segment src #b101)))
2504
2505 ;;; Store Control Word.
2506 (define-instruction fnstcw(segment dst)
2507   (:printer floating-point ((op '(#b001 #b111))))
2508   (:emitter
2509    (emit-byte segment #b11011001)
2510    (emit-fp-op segment dst #b111)))
2511
2512 ;;; Store FP Environment.
2513 (define-instruction fstenv(segment dst)
2514   (:printer floating-point ((op '(#b001 #b110))))
2515   (:emitter
2516    (emit-byte segment #b11011001)
2517    (emit-fp-op segment dst #b110)))
2518
2519 ;;; Restore FP Environment.
2520 (define-instruction fldenv(segment src)
2521   (:printer floating-point ((op '(#b001 #b100))))
2522   (:emitter
2523    (emit-byte segment #b11011001)
2524    (emit-fp-op segment src #b100)))
2525
2526 ;;; Save FP State.
2527 (define-instruction fsave(segment dst)
2528   (:printer floating-point ((op '(#b101 #b110))))
2529   (:emitter
2530    (emit-byte segment #b11011101)
2531    (emit-fp-op segment dst #b110)))
2532
2533 ;;; Restore FP State.
2534 (define-instruction frstor(segment src)
2535   (:printer floating-point ((op '(#b101 #b100))))
2536   (:emitter
2537    (emit-byte segment #b11011101)
2538    (emit-fp-op segment src #b100)))
2539
2540 ;;; Clear exceptions.
2541 (define-instruction fnclex(segment)
2542   (:printer floating-point-5 ((op #b00010)))
2543   (:emitter
2544    (emit-byte segment #b11011011)
2545    (emit-byte segment #b11100010)))
2546
2547 ;;; comparison
2548 (define-instruction fcom (segment src)
2549   (:printer floating-point ((op '(#b000 #b010))))
2550   (:emitter
2551    (emit-byte segment #b11011000)
2552    (emit-fp-op segment src #b010)))
2553
2554 (define-instruction fcomd (segment src)
2555   (:printer floating-point ((op '(#b100 #b010))))
2556   (:printer floating-point-fp ((op '(#b000 #b010))))
2557   (:emitter
2558    (if (fp-reg-tn-p src)
2559        (emit-byte segment #b11011000)
2560      (emit-byte segment #b11011100))
2561    (emit-fp-op segment src #b010)))
2562
2563 ;;; Compare ST1 to ST0, popping the stack twice.
2564 (define-instruction fcompp (segment)
2565   (:printer floating-point-3 ((op '(#b110 #b011001))))
2566   (:emitter
2567    (emit-byte segment #b11011110)
2568    (emit-byte segment #b11011001)))
2569
2570 ;;; unordered comparison
2571 (define-instruction fucom (segment src)
2572   (:printer floating-point-fp ((op '(#b101 #b100))))
2573   (:emitter
2574    (aver (fp-reg-tn-p src))
2575    (emit-byte segment #b11011101)
2576    (emit-fp-op segment src #b100)))
2577
2578 (define-instruction ftst (segment)
2579   (:printer floating-point-no ((op #b00100)))
2580   (:emitter
2581    (emit-byte segment #b11011001)
2582    (emit-byte segment #b11100100)))
2583
2584 ;;;; 80387 specials
2585
2586 (define-instruction fsqrt(segment)
2587   (:printer floating-point-no ((op #b11010)))
2588   (:emitter
2589    (emit-byte segment #b11011001)
2590    (emit-byte segment #b11111010)))
2591
2592 (define-instruction fscale(segment)
2593   (:printer floating-point-no ((op #b11101)))
2594   (:emitter
2595    (emit-byte segment #b11011001)
2596    (emit-byte segment #b11111101)))
2597
2598 (define-instruction fxtract(segment)
2599   (:printer floating-point-no ((op #b10100)))
2600   (:emitter
2601    (emit-byte segment #b11011001)
2602    (emit-byte segment #b11110100)))
2603
2604 (define-instruction fsin(segment)
2605   (:printer floating-point-no ((op #b11110)))
2606   (:emitter
2607    (emit-byte segment #b11011001)
2608    (emit-byte segment #b11111110)))
2609
2610 (define-instruction fcos(segment)
2611   (:printer floating-point-no ((op #b11111)))
2612   (:emitter
2613    (emit-byte segment #b11011001)
2614    (emit-byte segment #b11111111)))
2615
2616 (define-instruction fprem1(segment)
2617   (:printer floating-point-no ((op #b10101)))
2618   (:emitter
2619    (emit-byte segment #b11011001)
2620    (emit-byte segment #b11110101)))
2621
2622 (define-instruction fprem(segment)
2623   (:printer floating-point-no ((op #b11000)))
2624   (:emitter
2625    (emit-byte segment #b11011001)
2626    (emit-byte segment #b11111000)))
2627
2628 (define-instruction fxam (segment)
2629   (:printer floating-point-no ((op #b00101)))
2630   (:emitter
2631    (emit-byte segment #b11011001)
2632    (emit-byte segment #b11100101)))
2633
2634 ;;; These do push/pop to stack and need special handling
2635 ;;; in any VOPs that use them. See the book.
2636
2637 ;;; st0 <- st1*log2(st0)
2638 (define-instruction fyl2x(segment)      ; pops stack
2639   (:printer floating-point-no ((op #b10001)))
2640   (:emitter
2641    (emit-byte segment #b11011001)
2642    (emit-byte segment #b11110001)))
2643
2644 (define-instruction fyl2xp1(segment)
2645   (:printer floating-point-no ((op #b11001)))
2646   (:emitter
2647    (emit-byte segment #b11011001)
2648    (emit-byte segment #b11111001)))
2649
2650 (define-instruction f2xm1(segment)
2651   (:printer floating-point-no ((op #b10000)))
2652   (:emitter
2653    (emit-byte segment #b11011001)
2654    (emit-byte segment #b11110000)))
2655
2656 (define-instruction fptan(segment)      ; st(0) <- 1; st(1) <- tan
2657   (:printer floating-point-no ((op #b10010)))
2658   (:emitter
2659    (emit-byte segment #b11011001)
2660    (emit-byte segment #b11110010)))
2661
2662 (define-instruction fpatan(segment)     ; POPS STACK
2663   (:printer floating-point-no ((op #b10011)))
2664   (:emitter
2665    (emit-byte segment #b11011001)
2666    (emit-byte segment #b11110011)))
2667
2668 ;;;; loading constants
2669
2670 (define-instruction fldz(segment)
2671   (:printer floating-point-no ((op #b01110)))
2672   (:emitter
2673    (emit-byte segment #b11011001)
2674    (emit-byte segment #b11101110)))
2675
2676 (define-instruction fld1(segment)
2677   (:printer floating-point-no ((op #b01000)))
2678   (:emitter
2679    (emit-byte segment #b11011001)
2680    (emit-byte segment #b11101000)))
2681
2682 (define-instruction fldpi(segment)
2683   (:printer floating-point-no ((op #b01011)))
2684   (:emitter
2685    (emit-byte segment #b11011001)
2686    (emit-byte segment #b11101011)))
2687
2688 (define-instruction fldl2t(segment)
2689   (:printer floating-point-no ((op #b01001)))
2690   (:emitter
2691    (emit-byte segment #b11011001)
2692    (emit-byte segment #b11101001)))
2693
2694 (define-instruction fldl2e(segment)
2695   (:printer floating-point-no ((op #b01010)))
2696   (:emitter
2697    (emit-byte segment #b11011001)
2698    (emit-byte segment #b11101010)))
2699
2700 (define-instruction fldlg2(segment)
2701   (:printer floating-point-no ((op #b01100)))
2702   (:emitter
2703    (emit-byte segment #b11011001)
2704    (emit-byte segment #b11101100)))
2705
2706 (define-instruction fldln2(segment)
2707   (:printer floating-point-no ((op #b01101)))
2708   (:emitter
2709    (emit-byte segment #b11011001)
2710    (emit-byte segment #b11101101)))