src/compiler/x86/insts.lisp

   1 ;;;; that part of the description of the x86 instruction set (for
   2 ;;;; 80386 and above) which can live on the cross-compilation host
   3
   4 ;;;; This software is part of the SBCL system. See the README file for
   5 ;;;; more information.
   6 ;;;;
   7 ;;;; This software is derived from the CMU CL system, which was
   8 ;;;; written at Carnegie Mellon University and released into the
   9 ;;;; public domain. The software is in the public domain and is
  10 ;;;; provided with absolutely no warranty. See the COPYING and CREDITS
  11 ;;;; files for more information.
  12
  13 (in-package "SB!VM")
  14 ;;; FIXME: SB!DISASSEM: prefixes are used so widely in this file that
  15 ;;; I wonder whether the separation of the disassembler from the
  16 ;;; virtual machine is valid or adds value.
  17
  18 ;;; Note: In CMU CL, this used to be a call to SET-DISASSEM-PARAMS.
  19 (setf sb!disassem:*disassem-inst-alignment-bytes* 1)
  20
  21 (deftype reg () '(unsigned-byte 3))
  22
  23 (def!constant +default-operand-size+ :dword)
  24 \f
  25 (eval-when (#-sb-xc :compile-toplevel :load-toplevel :execute)
  26
  27 (defun offset-next (value dstate)
  28   (declare (type integer value)
  29            (type sb!disassem:disassem-state dstate))
  30   (+ (sb!disassem:dstate-next-addr dstate) value))
  31
  32 (defparameter *default-address-size*
  33   ;; Actually, :DWORD is the only one really supported.
  34   :dword)
  35
  36 (defparameter *byte-reg-names*
  37   #(al cl dl bl ah ch dh bh))
  38 (defparameter *word-reg-names*
  39   #(ax cx dx bx sp bp si di))
  40 (defparameter *dword-reg-names*
  41   #(eax ecx edx ebx esp ebp esi edi))
  42
  43 (defun print-reg-with-width (value width stream dstate)
  44   (declare (ignore dstate))
  45   (princ (aref (ecase width
  46                  (:byte *byte-reg-names*)
  47                  (:word *word-reg-names*)
  48                  (:dword *dword-reg-names*))
  49                value)
  50          stream)
  51   ;; XXX plus should do some source-var notes
  52   )
  53
  54 (defun print-reg (value stream dstate)
  55   (declare (type reg value)
  56            (type stream stream)
  57            (type sb!disassem:disassem-state dstate))
  58   (print-reg-with-width value
  59                         (sb!disassem:dstate-get-prop dstate 'width)
  60                         stream
  61                         dstate))
  62
  63 (defun print-word-reg (value stream dstate)
  64   (declare (type reg value)
  65            (type stream stream)
  66            (type sb!disassem:disassem-state dstate))
  67   (print-reg-with-width value
  68                         (or (sb!disassem:dstate-get-prop dstate 'word-width)
  69                             +default-operand-size+)
  70                         stream
  71                         dstate))
  72
  73 (defun print-byte-reg (value stream dstate)
  74   (declare (type reg value)
  75            (type stream stream)
  76            (type sb!disassem:disassem-state dstate))
  77   (print-reg-with-width value :byte stream dstate))
  78
  79 (defun print-addr-reg (value stream dstate)
  80   (declare (type reg value)
  81            (type stream stream)
  82            (type sb!disassem:disassem-state dstate))
  83   (print-reg-with-width value *default-address-size* stream dstate))
  84
  85 (defun print-reg/mem (value stream dstate)
  86   (declare (type (or list reg) value)
  87            (type stream stream)
  88            (type sb!disassem:disassem-state dstate))
  89   (if (typep value 'reg)
  90       (print-reg value stream dstate)
  91       (print-mem-access value stream nil dstate)))
  92
  93 ;; Same as print-reg/mem, but prints an explicit size indicator for
  94 ;; memory references.
  95 (defun print-sized-reg/mem (value stream dstate)
  96   (declare (type (or list reg) value)
  97            (type stream stream)
  98            (type sb!disassem:disassem-state dstate))
  99   (if (typep value 'reg)
 100       (print-reg value stream dstate)
 101       (print-mem-access value stream t dstate)))
 102
 103 (defun print-byte-reg/mem (value stream dstate)
 104   (declare (type (or list reg) value)
 105            (type stream stream)
 106            (type sb!disassem:disassem-state dstate))
 107   (if (typep value 'reg)
 108       (print-byte-reg value stream dstate)
 109       (print-mem-access value stream t dstate)))
 110
 111 (defun print-word-reg/mem (value stream dstate)
 112   (declare (type (or list reg) value)
 113            (type stream stream)
 114            (type sb!disassem:disassem-state dstate))
 115   (if (typep value 'reg)
 116       (print-word-reg value stream dstate)
 117       (print-mem-access value stream nil dstate)))
 118
 119 (defun print-label (value stream dstate)
 120   (declare (ignore dstate))
 121   (sb!disassem:princ16 value stream))
 122
 123 ;;; Returns either an integer, meaning a register, or a list of
 124 ;;; (BASE-REG OFFSET INDEX-REG INDEX-SCALE), where any component
 125 ;;; may be missing or nil to indicate that it's not used or has the
 126 ;;; obvious default value (e.g., 1 for the index-scale).
 127 (defun prefilter-reg/mem (value dstate)
 128   (declare (type list value)
 129            (type sb!disassem:disassem-state dstate))
 130   (let ((mod (car value))
 131         (r/m (cadr value)))
 132     (declare (type (unsigned-byte 2) mod)
 133              (type (unsigned-byte 3) r/m))
 134     (cond ((= mod #b11)
 135            ;; registers
 136            r/m)
 137           ((= r/m #b100)
 138            ;; sib byte
 139            (let ((sib (sb!disassem:read-suffix 8 dstate)))
 140              (declare (type (unsigned-byte 8) sib))
 141              (let ((base-reg (ldb (byte 3 0) sib))
 142                    (index-reg (ldb (byte 3 3) sib))
 143                    (index-scale (ldb (byte 2 6) sib)))
 144                (declare (type (unsigned-byte 3) base-reg index-reg)
 145                         (type (unsigned-byte 2) index-scale))
 146                (let* ((offset
 147                        (case mod
 148                          (#b00
 149                           (if (= base-reg #b101)
 150                               (sb!disassem:read-signed-suffix 32 dstate)
 151                               nil))
 152                          (#b01
 153                           (sb!disassem:read-signed-suffix 8 dstate))
 154                          (#b10
 155                           (sb!disassem:read-signed-suffix 32 dstate)))))
 156                  (list (if (and (= mod #b00) (= base-reg #b101)) nil base-reg)
 157                        offset
 158                        (if (= index-reg #b100) nil index-reg)
 159                        (ash 1 index-scale))))))
 160           ((and (= mod #b00) (= r/m #b101))
 161            (list nil (sb!disassem:read-signed-suffix 32 dstate)) )
 162           ((= mod #b00)
 163            (list r/m))
 164           ((= mod #b01)
 165            (list r/m (sb!disassem:read-signed-suffix 8 dstate)))
 166           (t                            ; (= mod #b10)
 167            (list r/m (sb!disassem:read-signed-suffix 32 dstate))))))
 168
 169
 170 ;;; This is a sort of bogus prefilter that just stores the info globally for
 171 ;;; other people to use; it probably never gets printed.
 172 (defun prefilter-width (value dstate)
 173   (setf (sb!disassem:dstate-get-prop dstate 'width)
 174         (if (zerop value)
 175             :byte
 176             (let ((word-width
 177                    ;; set by a prefix instruction
 178                    (or (sb!disassem:dstate-get-prop dstate 'word-width)
 179                        +default-operand-size+)))
 180               (when (not (eql word-width +default-operand-size+))
 181                 ;; Reset it.
 182                 (setf (sb!disassem:dstate-get-prop dstate 'word-width)
 183                       +default-operand-size+))
 184               word-width))))
 185
 186 (defun read-address (value dstate)
 187   (declare (ignore value))              ; always nil anyway
 188   (sb!disassem:read-suffix (width-bits *default-address-size*) dstate))
 189
 190 (defun width-bits (width)
 191   (ecase width
 192     (:byte 8)
 193     (:word 16)
 194     (:dword 32)
 195     (:float 32)
 196     (:double 64)))
 197
 198 ) ; EVAL-WHEN
 199 \f
 200 ;;;; disassembler argument types
 201
 202 (sb!disassem:define-arg-type displacement
 203   :sign-extend t
 204   :use-label #'offset-next
 205   :printer (lambda (value stream dstate)
 206              (sb!disassem:maybe-note-assembler-routine value nil dstate)
 207              (print-label value stream dstate)))
 208
 209 (sb!disassem:define-arg-type accum
 210   :printer (lambda (value stream dstate)
 211              (declare (ignore value)
 212                       (type stream stream)
 213                       (type sb!disassem:disassem-state dstate))
 214              (print-reg 0 stream dstate)))
 215
 216 (sb!disassem:define-arg-type word-accum
 217   :printer (lambda (value stream dstate)
 218              (declare (ignore value)
 219                       (type stream stream)
 220                       (type sb!disassem:disassem-state dstate))
 221              (print-word-reg 0 stream dstate)))
 222
 223 (sb!disassem:define-arg-type reg
 224   :printer #'print-reg)
 225
 226 (sb!disassem:define-arg-type addr-reg
 227   :printer #'print-addr-reg)
 228
 229 (sb!disassem:define-arg-type word-reg
 230   :printer #'print-word-reg)
 231
 232 (sb!disassem:define-arg-type imm-addr
 233   :prefilter #'read-address
 234   :printer #'print-label)
 235
 236 (sb!disassem:define-arg-type imm-data
 237   :prefilter (lambda (value dstate)
 238                (declare (ignore value)) ; always nil anyway
 239                (sb!disassem:read-suffix
 240                 (width-bits (sb!disassem:dstate-get-prop dstate 'width))
 241                 dstate)))
 242
 243 (sb!disassem:define-arg-type signed-imm-data
 244   :prefilter (lambda (value dstate)
 245                (declare (ignore value)) ; always nil anyway
 246                (let ((width (sb!disassem:dstate-get-prop dstate 'width)))
 247                  (sb!disassem:read-signed-suffix (width-bits width) dstate))))
 248
 249 (sb!disassem:define-arg-type signed-imm-byte
 250   :prefilter (lambda (value dstate)
 251                (declare (ignore value)) ; always nil anyway
 252                (sb!disassem:read-signed-suffix 8 dstate)))
 253
 254 (sb!disassem:define-arg-type signed-imm-dword
 255   :prefilter (lambda (value dstate)
 256                (declare (ignore value)) ; always nil anyway
 257                (sb!disassem:read-signed-suffix 32 dstate)))
 258
 259 (sb!disassem:define-arg-type imm-word
 260   :prefilter (lambda (value dstate)
 261                (declare (ignore value)) ; always nil anyway
 262                (let ((width
 263                       (or (sb!disassem:dstate-get-prop dstate 'word-width)
 264                           +default-operand-size+)))
 265                  (sb!disassem:read-suffix (width-bits width) dstate))))
 266
 267 (sb!disassem:define-arg-type signed-imm-word
 268   :prefilter (lambda (value dstate)
 269                (declare (ignore value)) ; always nil anyway
 270                (let ((width
 271                       (or (sb!disassem:dstate-get-prop dstate 'word-width)
 272                           +default-operand-size+)))
 273                  (sb!disassem:read-signed-suffix (width-bits width) dstate))))
 274
 275 ;;; needed for the ret imm16 instruction
 276 (sb!disassem:define-arg-type imm-word-16
 277   :prefilter (lambda (value dstate)
 278                (declare (ignore value)) ; always nil anyway
 279                (sb!disassem:read-suffix 16 dstate)))
 280
 281 (sb!disassem:define-arg-type reg/mem
 282   :prefilter #'prefilter-reg/mem
 283   :printer #'print-reg/mem)
 284 (sb!disassem:define-arg-type sized-reg/mem
 285   ;; Same as reg/mem, but prints an explicit size indicator for
 286   ;; memory references.
 287   :prefilter #'prefilter-reg/mem
 288   :printer #'print-sized-reg/mem)
 289 (sb!disassem:define-arg-type byte-reg/mem
 290   :prefilter #'prefilter-reg/mem
 291   :printer #'print-byte-reg/mem)
 292 (sb!disassem:define-arg-type word-reg/mem
 293   :prefilter #'prefilter-reg/mem
 294   :printer #'print-word-reg/mem)
 295
 296 ;;; added by jrd
 297 (eval-when (#-sb-xc :compile-toplevel :load-toplevel :execute)
 298 (defun print-fp-reg (value stream dstate)
 299   (declare (ignore dstate))
 300   (format stream "FR~D" value))
 301 (defun prefilter-fp-reg (value dstate)
 302   ;; just return it
 303   (declare (ignore dstate))
 304   value)
 305 ) ; EVAL-WHEN
 306 (sb!disassem:define-arg-type fp-reg
 307                              :prefilter #'prefilter-fp-reg
 308                              :printer #'print-fp-reg)
 309
 310 (sb!disassem:define-arg-type width
 311   :prefilter #'prefilter-width
 312   :printer (lambda (value stream dstate)
 313              (if;; (zerop value)
 314                  (or (null value)
 315                      (and (numberp value) (zerop value))) ; zzz jrd
 316                  (princ 'b stream)
 317                  (let ((word-width
 318                         ;; set by a prefix instruction
 319                         (or (sb!disassem:dstate-get-prop dstate 'word-width)
 320                             +default-operand-size+)))
 321                    (princ (schar (symbol-name word-width) 0) stream)))))
 322
 323 (eval-when (:compile-toplevel :load-toplevel :execute)
 324 (defparameter *conditions*
 325   '((:o . 0)
 326     (:no . 1)
 327     (:b . 2) (:nae . 2) (:c . 2)
 328     (:nb . 3) (:ae . 3) (:nc . 3)
 329     (:eq . 4) (:e . 4) (:z . 4)
 330     (:ne . 5) (:nz . 5)
 331     (:be . 6) (:na . 6)
 332     (:nbe . 7) (:a . 7)
 333     (:s . 8)
 334     (:ns . 9)
 335     (:p . 10) (:pe . 10)
 336     (:np . 11) (:po . 11)
 337     (:l . 12) (:nge . 12)
 338     (:nl . 13) (:ge . 13)
 339     (:le . 14) (:ng . 14)
 340     (:nle . 15) (:g . 15)))
 341 (defparameter *condition-name-vec*
 342   (let ((vec (make-array 16 :initial-element nil)))
 343     (dolist (cond *conditions*)
 344       (when (null (aref vec (cdr cond)))
 345         (setf (aref vec (cdr cond)) (car cond))))
 346     vec))
 347 ) ; EVAL-WHEN
 348
 349 ;;; Set assembler parameters. (In CMU CL, this was done with
 350 ;;; a call to a macro DEF-ASSEMBLER-PARAMS.)
 351 (eval-when (:compile-toplevel :load-toplevel :execute)
 352   (setf sb!assem:*assem-scheduler-p* nil))
 353
 354 (sb!disassem:define-arg-type condition-code
 355   :printer *condition-name-vec*)
 356
 357 (defun conditional-opcode (condition)
 358   (cdr (assoc condition *conditions* :test #'eq)))
 359 \f
 360 ;;;; disassembler instruction formats
 361
 362 (eval-when (:compile-toplevel :execute)
 363   (defun swap-if (direction field1 separator field2)
 364     `(:if (,direction :constant 0)
 365           (,field1 ,separator ,field2)
 366           (,field2 ,separator ,field1))))
 367
 368 (sb!disassem:define-instruction-format (byte 8 :default-printer '(:name))
 369   (op    :field (byte 8 0))
 370   ;; optional fields
 371   (accum :type 'accum)
 372   (imm))
 373
 374 (sb!disassem:define-instruction-format (simple 8)
 375   (op    :field (byte 7 1))
 376   (width :field (byte 1 0) :type 'width)
 377   ;; optional fields
 378   (accum :type 'accum)
 379   (imm))
 380
 381 ;;; Same as simple, but with direction bit
 382 (sb!disassem:define-instruction-format (simple-dir 8 :include 'simple)
 383   (op :field (byte 6 2))
 384   (dir :field (byte 1 1)))
 385
 386 ;;; Same as simple, but with the immediate value occurring by default,
 387 ;;; and with an appropiate printer.
 388 (sb!disassem:define-instruction-format (accum-imm 8
 389                                      :include 'simple
 390                                      :default-printer '(:name
 391                                                         :tab accum ", " imm))
 392   (imm :type 'imm-data))
 393
 394 (sb!disassem:define-instruction-format (reg-no-width 8
 395                                      :default-printer '(:name :tab reg))
 396   (op    :field (byte 5 3))
 397   (reg   :field (byte 3 0) :type 'word-reg)
 398   ;; optional fields
 399   (accum :type 'word-accum)
 400   (imm))
 401
 402 ;;; adds a width field to reg-no-width
 403 (sb!disassem:define-instruction-format (reg 8
 404                                         :default-printer '(:name :tab reg))
 405   (op    :field (byte 4 4))
 406   (width :field (byte 1 3) :type 'width)
 407   (reg   :field (byte 3 0) :type 'reg)
 408   ;; optional fields
 409   (accum :type 'accum)
 410   (imm)
 411   )
 412
 413 ;;; Same as reg, but with direction bit
 414 (sb!disassem:define-instruction-format (reg-dir 8 :include 'reg)
 415   (op  :field (byte 3 5))
 416   (dir :field (byte 1 4)))
 417
 418 (sb!disassem:define-instruction-format (two-bytes 16
 419                                         :default-printer '(:name))
 420   (op :fields (list (byte 8 0) (byte 8 8))))
 421
 422 (sb!disassem:define-instruction-format (reg-reg/mem 16
 423                                         :default-printer
 424                                         `(:name :tab reg ", " reg/mem))
 425   (op      :field (byte 7 1))
 426   (width   :field (byte 1 0)    :type 'width)
 427   (reg/mem :fields (list (byte 2 14) (byte 3 8))
 428                                 :type 'reg/mem)
 429   (reg     :field (byte 3 11)   :type 'reg)
 430   ;; optional fields
 431   (imm))
 432
 433 ;;; same as reg-reg/mem, but with direction bit
 434 (sb!disassem:define-instruction-format (reg-reg/mem-dir 16
 435                                         :include 'reg-reg/mem
 436                                         :default-printer
 437                                         `(:name
 438                                           :tab
 439                                           ,(swap-if 'dir 'reg/mem ", " 'reg)))
 440   (op  :field (byte 6 2))
 441   (dir :field (byte 1 1)))
 442
 443 ;;; Same as reg-rem/mem, but uses the reg field as a second op code.
 444 (sb!disassem:define-instruction-format (reg/mem 16
 445                                         :default-printer '(:name :tab reg/mem))
 446   (op      :fields (list (byte 7 1) (byte 3 11)))
 447   (width   :field (byte 1 0)    :type 'width)
 448   (reg/mem :fields (list (byte 2 14) (byte 3 8))
 449                                 :type 'sized-reg/mem)
 450   ;; optional fields
 451   (imm))
 452
 453 ;;; Same as reg/mem, but with the immediate value occurring by default,
 454 ;;; and with an appropiate printer.
 455 (sb!disassem:define-instruction-format (reg/mem-imm 16
 456                                         :include 'reg/mem
 457                                         :default-printer
 458                                         '(:name :tab reg/mem ", " imm))
 459   (reg/mem :type 'sized-reg/mem)
 460   (imm     :type 'imm-data))
 461
 462 ;;; Same as reg/mem, but with using the accumulator in the default printer
 463 (sb!disassem:define-instruction-format
 464     (accum-reg/mem 16
 465      :include 'reg/mem :default-printer '(:name :tab accum ", " reg/mem))
 466   (reg/mem :type 'reg/mem)              ; don't need a size
 467   (accum :type 'accum))
 468
 469 ;;; Same as reg-reg/mem, but with a prefix of #b00001111
 470 (sb!disassem:define-instruction-format (ext-reg-reg/mem 24
 471                                         :default-printer
 472                                         `(:name :tab reg ", " reg/mem))
 473   (prefix  :field (byte 8 0)    :value #b00001111)
 474   (op      :field (byte 7 9))
 475   (width   :field (byte 1 8)    :type 'width)
 476   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 477                                 :type 'reg/mem)
 478   (reg     :field (byte 3 19)   :type 'reg)
 479   ;; optional fields
 480   (imm))
 481
 482 ;;; Same as reg/mem, but with a prefix of #b00001111
 483 (sb!disassem:define-instruction-format (ext-reg/mem 24
 484                                         :default-printer '(:name :tab reg/mem))
 485   (prefix  :field (byte 8 0)    :value #b00001111)
 486   (op      :fields (list (byte 7 9) (byte 3 19)))
 487   (width   :field (byte 1 8)    :type 'width)
 488   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 489                                 :type 'sized-reg/mem)
 490   ;; optional fields
 491   (imm))
 492
 493 (sb!disassem:define-instruction-format (ext-reg/mem-imm 24
 494                                         :include 'ext-reg/mem
 495                                         :default-printer
 496                                         '(:name :tab reg/mem ", " imm))
 497   (imm :type 'imm-data))
 498 \f
 499 ;;;; This section was added by jrd, for fp instructions.
 500
 501 ;;; regular fp inst to/from registers/memory
 502 (sb!disassem:define-instruction-format (floating-point 16
 503                                         :default-printer
 504                                         `(:name :tab reg/mem))
 505   (prefix :field (byte 5 3) :value #b11011)
 506   (op     :fields (list (byte 3 0) (byte 3 11)))
 507   (reg/mem :fields (list (byte 2 14) (byte 3 8)) :type 'reg/mem))
 508
 509 ;;; fp insn to/from fp reg
 510 (sb!disassem:define-instruction-format (floating-point-fp 16
 511                                         :default-printer `(:name :tab fp-reg))
 512   (prefix :field (byte 5 3) :value #b11011)
 513   (suffix :field (byte 2 14) :value #b11)
 514   (op     :fields (list (byte 3 0) (byte 3 11)))
 515   (fp-reg :field (byte 3 8) :type 'fp-reg))
 516
 517 ;;; fp insn to/from fp reg, with the reversed source/destination flag.
 518 (sb!disassem:define-instruction-format
 519  (floating-point-fp-d 16
 520    :default-printer `(:name :tab ,(swap-if 'd "ST0" ", " 'fp-reg)))
 521   (prefix :field (byte 5 3) :value #b11011)
 522   (suffix :field (byte 2 14) :value #b11)
 523   (op     :fields (list (byte 2 0) (byte 3 11)))
 524   (d      :field (byte 1 2))
 525   (fp-reg :field (byte 3 8) :type 'fp-reg))
 526
 527
 528 ;;; (added by (?) pfw)
 529 ;;; fp no operand isns
 530 (sb!disassem:define-instruction-format (floating-point-no 16
 531                                       :default-printer '(:name))
 532   (prefix :field (byte 8  0) :value #b11011001)
 533   (suffix :field (byte 3 13) :value #b111)
 534   (op     :field (byte 5  8)))
 535
 536 (sb!disassem:define-instruction-format (floating-point-3 16
 537                                       :default-printer '(:name))
 538   (prefix :field (byte 5 3) :value #b11011)
 539   (suffix :field (byte 2 14) :value #b11)
 540   (op     :fields (list (byte 3 0) (byte 6 8))))
 541
 542 (sb!disassem:define-instruction-format (floating-point-5 16
 543                                       :default-printer '(:name))
 544   (prefix :field (byte 8  0) :value #b11011011)
 545   (suffix :field (byte 3 13) :value #b111)
 546   (op     :field (byte 5  8)))
 547
 548 (sb!disassem:define-instruction-format (floating-point-st 16
 549                                       :default-printer '(:name))
 550   (prefix :field (byte 8  0) :value #b11011111)
 551   (suffix :field (byte 3 13) :value #b111)
 552   (op     :field (byte 5  8)))
 553
 554 (sb!disassem:define-instruction-format (string-op 8
 555                                      :include 'simple
 556                                      :default-printer '(:name width)))
 557
 558 (sb!disassem:define-instruction-format (short-cond-jump 16)
 559   (op    :field (byte 4 4))
 560   (cc    :field (byte 4 0) :type 'condition-code)
 561   (label :field (byte 8 8) :type 'displacement))
 562
 563 (sb!disassem:define-instruction-format (short-jump 16
 564                                      :default-printer '(:name :tab label))
 565   (const :field (byte 4 4) :value #b1110)
 566   (op    :field (byte 4 0))
 567   (label :field (byte 8 8) :type 'displacement))
 568
 569 (sb!disassem:define-instruction-format (near-cond-jump 16)
 570   (op    :fields (list (byte 8 0) (byte 4 12)) :value '(#b00001111 #b1000))
 571   (cc    :field (byte 4 8) :type 'condition-code)
 572   ;; The disassembler currently doesn't let you have an instruction > 32 bits
 573   ;; long, so we fake it by using a prefilter to read the offset.
 574   (label :type 'displacement
 575          :prefilter (lambda (value dstate)
 576                       (declare (ignore value)) ; always nil anyway
 577                       (sb!disassem:read-signed-suffix 32 dstate))))
 578
 579 (sb!disassem:define-instruction-format (near-jump 8
 580                                      :default-printer '(:name :tab label))
 581   (op    :field (byte 8 0))
 582   ;; The disassembler currently doesn't let you have an instruction > 32 bits
 583   ;; long, so we fake it by using a prefilter to read the address.
 584   (label :type 'displacement
 585          :prefilter (lambda (value dstate)
 586                       (declare (ignore value)) ; always nil anyway
 587                       (sb!disassem:read-signed-suffix 32 dstate))))
 588
 589
 590 (sb!disassem:define-instruction-format (cond-set 24
 591                                      :default-printer '('set cc :tab reg/mem))
 592   (prefix :field (byte 8 0) :value #b00001111)
 593   (op    :field (byte 4 12) :value #b1001)
 594   (cc    :field (byte 4 8) :type 'condition-code)
 595   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 596            :type 'byte-reg/mem)
 597   (reg     :field (byte 3 19)   :value #b000))
 598
 599 (sb!disassem:define-instruction-format (cond-move 24
 600                                      :default-printer
 601                                         '('cmov cc :tab reg ", " reg/mem))
 602   (prefix  :field (byte 8 0)    :value #b00001111)
 603   (op      :field (byte 4 12)   :value #b0100)
 604   (cc      :field (byte 4 8)    :type 'condition-code)
 605   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 606                                 :type 'reg/mem)
 607   (reg     :field (byte 3 19)   :type 'reg))
 608
 609 (sb!disassem:define-instruction-format (enter-format 32
 610                                      :default-printer '(:name
 611                                                         :tab disp
 612                                                         (:unless (:constant 0)
 613                                                           ", " level)))
 614   (op :field (byte 8 0))
 615   (disp :field (byte 16 8))
 616   (level :field (byte 8 24)))
 617
 618 (sb!disassem:define-instruction-format (prefetch 24
 619                                                  :default-printer
 620                                                  '(:name ", " reg/mem))
 621   (prefix :field (byte 8 0) :value #b00001111)
 622   (op :field (byte 8 8) :value #b00011000)
 623   (reg/mem :fields (list (byte 2 22) (byte 3 16)) :type 'byte-reg/mem)
 624   (reg :field (byte 3 19) :type 'reg))
 625
 626 ;;; Single byte instruction with an immediate byte argument.
 627 (sb!disassem:define-instruction-format (byte-imm 16
 628                                      :default-printer '(:name :tab code))
 629  (op :field (byte 8 0))
 630  (code :field (byte 8 8)))
 631
 632 ;;; Two byte instruction with an immediate byte argument.
 633 ;;;
 634 (sb!disassem:define-instruction-format (word-imm 24
 635                                                  :default-printer '(:name :tab code))
 636     (op :field (byte 16 0))
 637   (code :field (byte 8 16)))
 638
 639 \f
 640 ;;;; primitive emitters
 641
 642 (define-bitfield-emitter emit-word 16
 643   (byte 16 0))
 644
 645 (define-bitfield-emitter emit-dword 32
 646   (byte 32 0))
 647
 648 (define-bitfield-emitter emit-byte-with-reg 8
 649   (byte 5 3) (byte 3 0))
 650
 651 (define-bitfield-emitter emit-mod-reg-r/m-byte 8
 652   (byte 2 6) (byte 3 3) (byte 3 0))
 653
 654 (define-bitfield-emitter emit-sib-byte 8
 655   (byte 2 6) (byte 3 3) (byte 3 0))
 656 \f
 657 ;;;; fixup emitters
 658
 659 (defun emit-absolute-fixup (segment fixup)
 660   (note-fixup segment :absolute fixup)
 661   (let ((offset (fixup-offset fixup)))
 662     (if (label-p offset)
 663         (emit-back-patch segment
 664                          4 ; FIXME: n-word-bytes
 665                          (lambda (segment posn)
 666                            (declare (ignore posn))
 667                            (emit-dword segment
 668                                        (- (+ (component-header-length)
 669                                              (or (label-position offset)
 670                                                  0))
 671                                           other-pointer-lowtag))))
 672         (emit-dword segment (or offset 0)))))
 673
 674 (defun emit-relative-fixup (segment fixup)
 675   (note-fixup segment :relative fixup)
 676   (emit-dword segment (or (fixup-offset fixup) 0)))
 677 \f
 678 ;;;; the effective-address (ea) structure
 679
 680 (defun reg-tn-encoding (tn)
 681   (declare (type tn tn))
 682   (aver (eq (sb-name (sc-sb (tn-sc tn))) 'registers))
 683   (let ((offset (tn-offset tn)))
 684     (logior (ash (logand offset 1) 2)
 685             (ash offset -1))))
 686
 687 (defstruct (ea (:constructor make-ea (size &key base index scale disp))
 688                (:copier nil))
 689   (size nil :type (member :byte :word :dword))
 690   (base nil :type (or tn null))
 691   (index nil :type (or tn null))
 692   (scale 1 :type (member 1 2 4 8))
 693   (disp 0 :type (or (unsigned-byte 32) (signed-byte 32) fixup)))
 694 (def!method print-object ((ea ea) stream)
 695   (cond ((or *print-escape* *print-readably*)
 696          (print-unreadable-object (ea stream :type t)
 697            (format stream
 698                    "~S~@[ base=~S~]~@[ index=~S~]~@[ scale=~S~]~@[ disp=~S~]"
 699                    (ea-size ea)
 700                    (ea-base ea)
 701                    (ea-index ea)
 702                    (let ((scale (ea-scale ea)))
 703                      (if (= scale 1) nil scale))
 704                    (ea-disp ea))))
 705         (t
 706          (format stream "~A PTR [" (symbol-name (ea-size ea)))
 707          (when (ea-base ea)
 708            (write-string (sb!c::location-print-name (ea-base ea)) stream)
 709            (when (ea-index ea)
 710              (write-string "+" stream)))
 711          (when (ea-index ea)
 712            (write-string (sb!c::location-print-name (ea-index ea)) stream))
 713          (unless (= (ea-scale ea) 1)
 714            (format stream "*~A" (ea-scale ea)))
 715          (typecase (ea-disp ea)
 716            (null)
 717            (integer
 718             (format stream "~@D" (ea-disp ea)))
 719            (t
 720             (format stream "+~A" (ea-disp ea))))
 721          (write-char #\] stream))))
 722
 723 (defun emit-ea (segment thing reg &optional allow-constants)
 724   (etypecase thing
 725     (tn
 726      (ecase (sb-name (sc-sb (tn-sc thing)))
 727        (registers
 728         (emit-mod-reg-r/m-byte segment #b11 reg (reg-tn-encoding thing)))
 729        (stack
 730         ;; Convert stack tns into an index off of EBP.
 731         (let ((disp (- (* (1+ (tn-offset thing)) n-word-bytes))))
 732           (cond ((< -128 disp 127)
 733                  (emit-mod-reg-r/m-byte segment #b01 reg #b101)
 734                  (emit-byte segment disp))
 735                 (t
 736                  (emit-mod-reg-r/m-byte segment #b10 reg #b101)
 737                  (emit-dword segment disp)))))
 738        (constant
 739         (unless allow-constants
 740           (error
 741            "Constant TNs can only be directly used in MOV, PUSH, and CMP."))
 742         (emit-mod-reg-r/m-byte segment #b00 reg #b101)
 743         (emit-absolute-fixup segment
 744                              (make-fixup nil
 745                                          :code-object
 746                                          (- (* (tn-offset thing) n-word-bytes)
 747                                             other-pointer-lowtag))))))
 748     (ea
 749      (let* ((base (ea-base thing))
 750             (index (ea-index thing))
 751             (scale (ea-scale thing))
 752             (disp (ea-disp thing))
 753             (mod (cond ((or (null base)
 754                             (and (eql disp 0)
 755                                  (not (= (reg-tn-encoding base) #b101))))
 756                         #b00)
 757                        ((and (fixnump disp) (<= -128 disp 127))
 758                         #b01)
 759                        (t
 760                         #b10)))
 761             (r/m (cond (index #b100)
 762                        ((null base) #b101)
 763                        (t (reg-tn-encoding base)))))
 764        (emit-mod-reg-r/m-byte segment mod reg r/m)
 765        (when (= r/m #b100)
 766          (let ((ss (1- (integer-length scale)))
 767                (index (if (null index)
 768                           #b100
 769                           (let ((index (reg-tn-encoding index)))
 770                             (if (= index #b100)
 771                                 (error "can't index off of ESP")
 772                                 index))))
 773                (base (if (null base)
 774                          #b101
 775                          (reg-tn-encoding base))))
 776            (emit-sib-byte segment ss index base)))
 777        (cond ((= mod #b01)
 778               (emit-byte segment disp))
 779              ((or (= mod #b10) (null base))
 780               (if (fixup-p disp)
 781                   (emit-absolute-fixup segment disp)
 782                   (emit-dword segment disp))))))
 783     (fixup
 784      (emit-mod-reg-r/m-byte segment #b00 reg #b101)
 785      (emit-absolute-fixup segment thing))))
 786
 787 (defun fp-reg-tn-p (thing)
 788   (and (tn-p thing)
 789        (eq (sb-name (sc-sb (tn-sc thing))) 'float-registers)))
 790
 791 ;;; like the above, but for fp-instructions--jrd
 792 (defun emit-fp-op (segment thing op)
 793   (if (fp-reg-tn-p thing)
 794       (emit-byte segment (dpb op (byte 3 3) (dpb (tn-offset thing)
 795                                                  (byte 3 0)
 796                                                  #b11000000)))
 797     (emit-ea segment thing op)))
 798
 799 (defun byte-reg-p (thing)
 800   (and (tn-p thing)
 801        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 802        (member (sc-name (tn-sc thing)) *byte-sc-names*)
 803        t))
 804
 805 (defun byte-ea-p (thing)
 806   (typecase thing
 807     (ea (eq (ea-size thing) :byte))
 808     (tn
 809      (and (member (sc-name (tn-sc thing)) *byte-sc-names*) t))
 810     (t nil)))
 811
 812 (defun word-reg-p (thing)
 813   (and (tn-p thing)
 814        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 815        (member (sc-name (tn-sc thing)) *word-sc-names*)
 816        t))
 817
 818 (defun word-ea-p (thing)
 819   (typecase thing
 820     (ea (eq (ea-size thing) :word))
 821     (tn (and (member (sc-name (tn-sc thing)) *word-sc-names*) t))
 822     (t nil)))
 823
 824 (defun dword-reg-p (thing)
 825   (and (tn-p thing)
 826        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 827        (member (sc-name (tn-sc thing)) *dword-sc-names*)
 828        t))
 829
 830 (defun dword-ea-p (thing)
 831   (typecase thing
 832     (ea (eq (ea-size thing) :dword))
 833     (tn
 834      (and (member (sc-name (tn-sc thing)) *dword-sc-names*) t))
 835     (t nil)))
 836
 837 (defun register-p (thing)
 838   (and (tn-p thing)
 839        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)))
 840
 841 (defun accumulator-p (thing)
 842   (and (register-p thing)
 843        (= (tn-offset thing) 0)))
 844 \f
 845 ;;;; utilities
 846
 847 (def!constant +operand-size-prefix-byte+ #b01100110)
 848
 849 (defun maybe-emit-operand-size-prefix (segment size)
 850   (unless (or (eq size :byte) (eq size +default-operand-size+))
 851     (emit-byte segment +operand-size-prefix-byte+)))
 852
 853 (defun operand-size (thing)
 854   (typecase thing
 855     (tn
 856      ;; FIXME: might as well be COND instead of having to use #. readmacro
 857      ;; to hack up the code
 858      (case (sc-name (tn-sc thing))
 859        (#.*dword-sc-names*
 860         :dword)
 861        (#.*word-sc-names*
 862         :word)
 863        (#.*byte-sc-names*
 864         :byte)
 865        ;; added by jrd: float-registers is a separate size (?)
 866        (#.*float-sc-names*
 867         :float)
 868        (#.*double-sc-names*
 869         :double)
 870        (t
 871         (error "can't tell the size of ~S ~S" thing (sc-name (tn-sc thing))))))
 872     (ea
 873      (ea-size thing))
 874     (t
 875      nil)))
 876
 877 (defun matching-operand-size (dst src)
 878   (let ((dst-size (operand-size dst))
 879         (src-size (operand-size src)))
 880     (if dst-size
 881         (if src-size
 882             (if (eq dst-size src-size)
 883                 dst-size
 884                 (error "size mismatch: ~S is a ~S and ~S is a ~S."
 885                        dst dst-size src src-size))
 886             dst-size)
 887         (if src-size
 888             src-size
 889             (error "can't tell the size of either ~S or ~S" dst src)))))
 890
 891 (defun emit-sized-immediate (segment size value)
 892   (ecase size
 893     (:byte
 894      (emit-byte segment value))
 895     (:word
 896      (emit-word segment value))
 897     (:dword
 898      (emit-dword segment value))))
 899 \f
 900 ;;;; general data transfer
 901
 902 (define-instruction mov (segment dst src)
 903   ;; immediate to register
 904   (:printer reg ((op #b1011) (imm nil :type 'imm-data))
 905             '(:name :tab reg ", " imm))
 906   ;; absolute mem to/from accumulator
 907   (:printer simple-dir ((op #b101000) (imm nil :type 'imm-addr))
 908             `(:name :tab ,(swap-if 'dir 'accum ", " '("[" imm "]"))))
 909   ;; register to/from register/memory
 910   (:printer reg-reg/mem-dir ((op #b100010)))
 911   ;; immediate to register/memory
 912   (:printer reg/mem-imm ((op '(#b1100011 #b000))))
 913
 914   (:emitter
 915    (let ((size (matching-operand-size dst src)))
 916      (maybe-emit-operand-size-prefix segment size)
 917      (cond ((register-p dst)
 918             (cond ((integerp src)
 919                    (emit-byte-with-reg segment
 920                                        (if (eq size :byte)
 921                                            #b10110
 922                                            #b10111)
 923                                        (reg-tn-encoding dst))
 924                    (emit-sized-immediate segment size src))
 925                   ((and (fixup-p src) (accumulator-p dst))
 926                    (emit-byte segment
 927                               (if (eq size :byte)
 928                                   #b10100000
 929                                   #b10100001))
 930                    (emit-absolute-fixup segment src))
 931                   (t
 932                    (emit-byte segment
 933                               (if (eq size :byte)
 934                                   #b10001010
 935                                   #b10001011))
 936                    (emit-ea segment src (reg-tn-encoding dst) t))))
 937            ((and (fixup-p dst) (accumulator-p src))
 938             (emit-byte segment (if (eq size :byte) #b10100010 #b10100011))
 939             (emit-absolute-fixup segment dst))
 940            ((integerp src)
 941             (emit-byte segment (if (eq size :byte) #b11000110 #b11000111))
 942             (emit-ea segment dst #b000)
 943             (emit-sized-immediate segment size src))
 944            ((register-p src)
 945             (emit-byte segment (if (eq size :byte) #b10001000 #b10001001))
 946             (emit-ea segment dst (reg-tn-encoding src)))
 947            ((fixup-p src)
 948             (aver (eq size :dword))
 949             (emit-byte segment #b11000111)
 950             (emit-ea segment dst #b000)
 951             (emit-absolute-fixup segment src))
 952            (t
 953             (error "bogus arguments to MOV: ~S ~S" dst src))))))
 954
 955 (defun emit-move-with-extension (segment dst src opcode)
 956   (aver (register-p dst))
 957   (let ((dst-size (operand-size dst))
 958         (src-size (operand-size src)))
 959     (ecase dst-size
 960       (:word
 961        (aver (eq src-size :byte))
 962        (maybe-emit-operand-size-prefix segment :word)
 963        (emit-byte segment #b00001111)
 964        (emit-byte segment opcode)
 965        (emit-ea segment src (reg-tn-encoding dst)))
 966       (:dword
 967        (ecase src-size
 968          (:byte
 969           (maybe-emit-operand-size-prefix segment :dword)
 970           (emit-byte segment #b00001111)
 971           (emit-byte segment opcode)
 972           (emit-ea segment src (reg-tn-encoding dst)))
 973          (:word
 974           (emit-byte segment #b00001111)
 975           (emit-byte segment (logior opcode 1))
 976           (emit-ea segment src (reg-tn-encoding dst))))))))
 977
 978 (define-instruction movsx (segment dst src)
 979   (:printer ext-reg-reg/mem ((op #b1011111) (reg nil :type 'word-reg)))
 980   (:emitter (emit-move-with-extension segment dst src #b10111110)))
 981
 982 (define-instruction movzx (segment dst src)
 983   (:printer ext-reg-reg/mem ((op #b1011011) (reg nil :type 'word-reg)))
 984   (:emitter (emit-move-with-extension segment dst src #b10110110)))
 985
 986 (define-instruction push (segment src)
 987   ;; register
 988   (:printer reg-no-width ((op #b01010)))
 989   ;; register/memory
 990   (:printer reg/mem ((op '(#b1111111 #b110)) (width 1)))
 991   ;; immediate
 992   (:printer byte ((op #b01101010) (imm nil :type 'signed-imm-byte))
 993             '(:name :tab imm))
 994   (:printer byte ((op #b01101000) (imm nil :type 'imm-word))
 995             '(:name :tab imm))
 996   ;; ### segment registers?
 997
 998   (:emitter
 999    (cond ((integerp src)
1000           (cond ((<= -128 src 127)
1001                  (emit-byte segment #b01101010)
1002                  (emit-byte segment src))
1003                 (t
1004                  (emit-byte segment #b01101000)
1005                  (emit-dword segment src))))
1006          ((fixup-p src)
1007           ;; Interpret the fixup as an immediate dword to push.
1008           (emit-byte segment #b01101000)
1009           (emit-absolute-fixup segment src))
1010          (t
1011           (let ((size (operand-size src)))
1012             (aver (not (eq size :byte)))
1013             (maybe-emit-operand-size-prefix segment size)
1014             (cond ((register-p src)
1015                    (emit-byte-with-reg segment #b01010 (reg-tn-encoding src)))
1016                   (t
1017                    (emit-byte segment #b11111111)
1018                    (emit-ea segment src #b110 t))))))))
1019
1020 (define-instruction pusha (segment)
1021   (:printer byte ((op #b01100000)))
1022   (:emitter
1023    (emit-byte segment #b01100000)))
1024
1025 (define-instruction pop (segment dst)
1026   (:printer reg-no-width ((op #b01011)))
1027   (:printer reg/mem ((op '(#b1000111 #b000)) (width 1)))
1028   (:emitter
1029    (let ((size (operand-size dst)))
1030      (aver (not (eq size :byte)))
1031      (maybe-emit-operand-size-prefix segment size)
1032      (cond ((register-p dst)
1033             (emit-byte-with-reg segment #b01011 (reg-tn-encoding dst)))
1034            (t
1035             (emit-byte segment #b10001111)
1036             (emit-ea segment dst #b000))))))
1037
1038 (define-instruction popa (segment)
1039   (:printer byte ((op #b01100001)))
1040   (:emitter
1041    (emit-byte segment #b01100001)))
1042
1043 (define-instruction xchg (segment operand1 operand2)
1044   ;; Register with accumulator.
1045   (:printer reg-no-width ((op #b10010)) '(:name :tab accum ", " reg))
1046   ;; Register/Memory with Register.
1047   (:printer reg-reg/mem ((op #b1000011)))
1048   (:emitter
1049    (let ((size (matching-operand-size operand1 operand2)))
1050      (maybe-emit-operand-size-prefix segment size)
1051      (labels ((xchg-acc-with-something (acc something)
1052                 (if (and (not (eq size :byte)) (register-p something))
1053                     (emit-byte-with-reg segment
1054                                         #b10010
1055                                         (reg-tn-encoding something))
1056                     (xchg-reg-with-something acc something)))
1057               (xchg-reg-with-something (reg something)
1058                 (emit-byte segment (if (eq size :byte) #b10000110 #b10000111))
1059                 (emit-ea segment something (reg-tn-encoding reg))))
1060        (cond ((accumulator-p operand1)
1061               (xchg-acc-with-something operand1 operand2))
1062              ((accumulator-p operand2)
1063               (xchg-acc-with-something operand2 operand1))
1064              ((register-p operand1)
1065               (xchg-reg-with-something operand1 operand2))
1066              ((register-p operand2)
1067               (xchg-reg-with-something operand2 operand1))
1068              (t
1069               (error "bogus args to XCHG: ~S ~S" operand1 operand2)))))))
1070
1071 (define-instruction lea (segment dst src)
1072   (:printer reg-reg/mem ((op #b1000110) (width 1)))
1073   (:emitter
1074    (aver (dword-reg-p dst))
1075    (emit-byte segment #b10001101)
1076    (emit-ea segment src (reg-tn-encoding dst))))
1077
1078 (define-instruction cmpxchg (segment dst src)
1079   ;; Register/Memory with Register.
1080   (:printer ext-reg-reg/mem ((op #b1011000)) '(:name :tab reg/mem ", " reg))
1081   (:emitter
1082    (aver (register-p src))
1083    (let ((size (matching-operand-size src dst)))
1084      (maybe-emit-operand-size-prefix segment size)
1085      (emit-byte segment #b00001111)
1086      (emit-byte segment (if (eq size :byte) #b10110000 #b10110001))
1087      (emit-ea segment dst (reg-tn-encoding src)))))
1088
1089 \f
1090
1091 (define-instruction fs-segment-prefix (segment)
1092   (:emitter
1093    (emit-byte segment #x64)))
1094
1095 ;;;; flag control instructions
1096
1097 ;;; CLC -- Clear Carry Flag.
1098 (define-instruction clc (segment)
1099   (:printer byte ((op #b11111000)))
1100   (:emitter
1101    (emit-byte segment #b11111000)))
1102
1103 ;;; CLD -- Clear Direction Flag.
1104 (define-instruction cld (segment)
1105   (:printer byte ((op #b11111100)))
1106   (:emitter
1107    (emit-byte segment #b11111100)))
1108
1109 ;;; CLI -- Clear Iterrupt Enable Flag.
1110 (define-instruction cli (segment)
1111   (:printer byte ((op #b11111010)))
1112   (:emitter
1113    (emit-byte segment #b11111010)))
1114
1115 ;;; CMC -- Complement Carry Flag.
1116 (define-instruction cmc (segment)
1117   (:printer byte ((op #b11110101)))
1118   (:emitter
1119    (emit-byte segment #b11110101)))
1120
1121 ;;; LAHF -- Load AH into flags.
1122 (define-instruction lahf (segment)
1123   (:printer byte ((op #b10011111)))
1124   (:emitter
1125    (emit-byte segment #b10011111)))
1126
1127 ;;; POPF -- Pop flags.
1128 (define-instruction popf (segment)
1129   (:printer byte ((op #b10011101)))
1130   (:emitter
1131    (emit-byte segment #b10011101)))
1132
1133 ;;; PUSHF -- push flags.
1134 (define-instruction pushf (segment)
1135   (:printer byte ((op #b10011100)))
1136   (:emitter
1137    (emit-byte segment #b10011100)))
1138
1139 ;;; SAHF -- Store AH into flags.
1140 (define-instruction sahf (segment)
1141   (:printer byte ((op #b10011110)))
1142   (:emitter
1143    (emit-byte segment #b10011110)))
1144
1145 ;;; STC -- Set Carry Flag.
1146 (define-instruction stc (segment)
1147   (:printer byte ((op #b11111001)))
1148   (:emitter
1149    (emit-byte segment #b11111001)))
1150
1151 ;;; STD -- Set Direction Flag.
1152 (define-instruction std (segment)
1153   (:printer byte ((op #b11111101)))
1154   (:emitter
1155    (emit-byte segment #b11111101)))
1156
1157 ;;; STI -- Set Interrupt Enable Flag.
1158 (define-instruction sti (segment)
1159   (:printer byte ((op #b11111011)))
1160   (:emitter
1161    (emit-byte segment #b11111011)))
1162 \f
1163 ;;;; arithmetic
1164
1165 (defun emit-random-arith-inst (name segment dst src opcode
1166                                     &optional allow-constants)
1167   (let ((size (matching-operand-size dst src)))
1168     (maybe-emit-operand-size-prefix segment size)
1169     (cond
1170      ((integerp src)
1171       (cond ((and (not (eq size :byte)) (<= -128 src 127))
1172              (emit-byte segment #b10000011)
1173              (emit-ea segment dst opcode allow-constants)
1174              (emit-byte segment src))
1175             ((accumulator-p dst)
1176              (emit-byte segment
1177                         (dpb opcode
1178                              (byte 3 3)
1179                              (if (eq size :byte)
1180                                  #b00000100
1181                                  #b00000101)))
1182              (emit-sized-immediate segment size src))
1183             (t
1184              (emit-byte segment (if (eq size :byte) #b10000000 #b10000001))
1185              (emit-ea segment dst opcode allow-constants)
1186              (emit-sized-immediate segment size src))))
1187      ((register-p src)
1188       (emit-byte segment
1189                  (dpb opcode
1190                       (byte 3 3)
1191                       (if (eq size :byte) #b00000000 #b00000001)))
1192       (emit-ea segment dst (reg-tn-encoding src) allow-constants))
1193      ((register-p dst)
1194       (emit-byte segment
1195                  (dpb opcode
1196                       (byte 3 3)
1197                       (if (eq size :byte) #b00000010 #b00000011)))
1198       (emit-ea segment src (reg-tn-encoding dst) allow-constants))
1199      (t
1200       (error "bogus operands to ~A" name)))))
1201
1202 (eval-when (:compile-toplevel :execute)
1203   (defun arith-inst-printer-list (subop)
1204     `((accum-imm ((op ,(dpb subop (byte 3 2) #b0000010))))
1205       (reg/mem-imm ((op (#b1000000 ,subop))))
1206       (reg/mem-imm ((op (#b1000001 ,subop))
1207                     (imm nil :type signed-imm-byte)))
1208       (reg-reg/mem-dir ((op ,(dpb subop (byte 3 1) #b000000))))))
1209   )
1210
1211 (define-instruction add (segment dst src)
1212   (:printer-list (arith-inst-printer-list #b000))
1213   (:emitter (emit-random-arith-inst "ADD" segment dst src #b000)))
1214
1215 (define-instruction adc (segment dst src)
1216   (:printer-list (arith-inst-printer-list #b010))
1217   (:emitter (emit-random-arith-inst "ADC" segment dst src #b010)))
1218
1219 (define-instruction sub (segment dst src)
1220   (:printer-list (arith-inst-printer-list #b101))
1221   (:emitter (emit-random-arith-inst "SUB" segment dst src #b101)))
1222
1223 (define-instruction sbb (segment dst src)
1224   (:printer-list (arith-inst-printer-list #b011))
1225   (:emitter (emit-random-arith-inst "SBB" segment dst src #b011)))
1226
1227 (define-instruction cmp (segment dst src)
1228   (:printer-list (arith-inst-printer-list #b111))
1229   (:emitter (emit-random-arith-inst "CMP" segment dst src #b111 t)))
1230
1231 (define-instruction inc (segment dst)
1232   ;; Register.
1233   (:printer reg-no-width ((op #b01000)))
1234   ;; Register/Memory
1235   (:printer reg/mem ((op '(#b1111111 #b000))))
1236   (:emitter
1237    (let ((size (operand-size dst)))
1238      (maybe-emit-operand-size-prefix segment size)
1239      (cond ((and (not (eq size :byte)) (register-p dst))
1240             (emit-byte-with-reg segment #b01000 (reg-tn-encoding dst)))
1241            (t
1242             (emit-byte segment (if (eq size :byte) #b11111110 #b11111111))
1243             (emit-ea segment dst #b000))))))
1244
1245 (define-instruction dec (segment dst)
1246   ;; Register.
1247   (:printer reg-no-width ((op #b01001)))
1248   ;; Register/Memory
1249   (:printer reg/mem ((op '(#b1111111 #b001))))
1250   (:emitter
1251    (let ((size (operand-size dst)))
1252      (maybe-emit-operand-size-prefix segment size)
1253      (cond ((and (not (eq size :byte)) (register-p dst))
1254             (emit-byte-with-reg segment #b01001 (reg-tn-encoding dst)))
1255            (t
1256             (emit-byte segment (if (eq size :byte) #b11111110 #b11111111))
1257             (emit-ea segment dst #b001))))))
1258
1259 (define-instruction neg (segment dst)
1260   (:printer reg/mem ((op '(#b1111011 #b011))))
1261   (:emitter
1262    (let ((size (operand-size dst)))
1263      (maybe-emit-operand-size-prefix segment size)
1264      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1265      (emit-ea segment dst #b011))))
1266
1267 (define-instruction aaa (segment)
1268   (:printer byte ((op #b00110111)))
1269   (:emitter
1270    (emit-byte segment #b00110111)))
1271
1272 (define-instruction aas (segment)
1273   (:printer byte ((op #b00111111)))
1274   (:emitter
1275    (emit-byte segment #b00111111)))
1276
1277 (define-instruction daa (segment)
1278   (:printer byte ((op #b00100111)))
1279   (:emitter
1280    (emit-byte segment #b00100111)))
1281
1282 (define-instruction das (segment)
1283   (:printer byte ((op #b00101111)))
1284   (:emitter
1285    (emit-byte segment #b00101111)))
1286
1287 (define-instruction mul (segment dst src)
1288   (:printer accum-reg/mem ((op '(#b1111011 #b100))))
1289   (:emitter
1290    (let ((size (matching-operand-size dst src)))
1291      (aver (accumulator-p dst))
1292      (maybe-emit-operand-size-prefix segment size)
1293      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1294      (emit-ea segment src #b100))))
1295
1296 (define-instruction imul (segment dst &optional src1 src2)
1297   (:printer accum-reg/mem ((op '(#b1111011 #b101))))
1298   (:printer ext-reg-reg/mem ((op #b1010111)))
1299   (:printer reg-reg/mem ((op #b0110100) (width 1)
1300                          (imm nil :type 'signed-imm-word))
1301             '(:name :tab reg ", " reg/mem ", " imm))
1302   (:printer reg-reg/mem ((op #b0110101) (width 1)
1303                          (imm nil :type 'signed-imm-byte))
1304             '(:name :tab reg ", " reg/mem ", " imm))
1305   (:emitter
1306    (flet ((r/m-with-immed-to-reg (reg r/m immed)
1307             (let* ((size (matching-operand-size reg r/m))
1308                    (sx (and (not (eq size :byte)) (<= -128 immed 127))))
1309               (maybe-emit-operand-size-prefix segment size)
1310               (emit-byte segment (if sx #b01101011 #b01101001))
1311               (emit-ea segment r/m (reg-tn-encoding reg))
1312               (if sx
1313                   (emit-byte segment immed)
1314                   (emit-sized-immediate segment size immed)))))
1315      (cond (src2
1316             (r/m-with-immed-to-reg dst src1 src2))
1317            (src1
1318             (if (integerp src1)
1319                 (r/m-with-immed-to-reg dst dst src1)
1320                 (let ((size (matching-operand-size dst src1)))
1321                   (maybe-emit-operand-size-prefix segment size)
1322                   (emit-byte segment #b00001111)
1323                   (emit-byte segment #b10101111)
1324                   (emit-ea segment src1 (reg-tn-encoding dst)))))
1325            (t
1326             (let ((size (operand-size dst)))
1327               (maybe-emit-operand-size-prefix segment size)
1328               (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1329               (emit-ea segment dst #b101)))))))
1330
1331 (define-instruction div (segment dst src)
1332   (:printer accum-reg/mem ((op '(#b1111011 #b110))))
1333   (:emitter
1334    (let ((size (matching-operand-size dst src)))
1335      (aver (accumulator-p dst))
1336      (maybe-emit-operand-size-prefix segment size)
1337      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1338      (emit-ea segment src #b110))))
1339
1340 (define-instruction idiv (segment dst src)
1341   (:printer accum-reg/mem ((op '(#b1111011 #b111))))
1342   (:emitter
1343    (let ((size (matching-operand-size dst src)))
1344      (aver (accumulator-p dst))
1345      (maybe-emit-operand-size-prefix segment size)
1346      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1347      (emit-ea segment src #b111))))
1348
1349 (define-instruction aad (segment)
1350   (:printer two-bytes ((op '(#b11010101 #b00001010))))
1351   (:emitter
1352    (emit-byte segment #b11010101)
1353    (emit-byte segment #b00001010)))
1354
1355 (define-instruction aam (segment)
1356   (:printer two-bytes ((op '(#b11010100 #b00001010))))
1357   (:emitter
1358    (emit-byte segment #b11010100)
1359    (emit-byte segment #b00001010)))
1360
1361 ;;; CBW -- Convert Byte to Word. AX <- sign_xtnd(AL)
1362 (define-instruction cbw (segment)
1363   (:emitter
1364    (maybe-emit-operand-size-prefix segment :word)
1365    (emit-byte segment #b10011000)))
1366
1367 ;;; CWDE -- Convert Word To Double Word Extened. EAX <- sign_xtnd(AX)
1368 (define-instruction cwde (segment)
1369   (:emitter
1370    (maybe-emit-operand-size-prefix segment :dword)
1371    (emit-byte segment #b10011000)))
1372
1373 ;;; CWD -- Convert Word to Double Word. DX:AX <- sign_xtnd(AX)
1374 (define-instruction cwd (segment)
1375   (:emitter
1376    (maybe-emit-operand-size-prefix segment :word)
1377    (emit-byte segment #b10011001)))
1378
1379 ;;; CDQ -- Convert Double Word to Quad Word. EDX:EAX <- sign_xtnd(EAX)
1380 (define-instruction cdq (segment)
1381   (:printer byte ((op #b10011001)))
1382   (:emitter
1383    (maybe-emit-operand-size-prefix segment :dword)
1384    (emit-byte segment #b10011001)))
1385
1386 (define-instruction xadd (segment dst src)
1387   ;; Register/Memory with Register.
1388   (:printer ext-reg-reg/mem ((op #b1100000)) '(:name :tab reg/mem ", " reg))
1389   (:emitter
1390    (aver (register-p src))
1391    (let ((size (matching-operand-size src dst)))
1392      (maybe-emit-operand-size-prefix segment size)
1393      (emit-byte segment #b00001111)
1394      (emit-byte segment (if (eq size :byte) #b11000000 #b11000001))
1395      (emit-ea segment dst (reg-tn-encoding src)))))
1396
1397 \f
1398 ;;;; logic
1399
1400 (defun emit-shift-inst (segment dst amount opcode)
1401   (let ((size (operand-size dst)))
1402     (maybe-emit-operand-size-prefix segment size)
1403     (multiple-value-bind (major-opcode immed)
1404         (case amount
1405           (:cl (values #b11010010 nil))
1406           (1 (values #b11010000 nil))
1407           (t (values #b11000000 t)))
1408       (emit-byte segment
1409                  (if (eq size :byte) major-opcode (logior major-opcode 1)))
1410       (emit-ea segment dst opcode)
1411       (when immed
1412         (emit-byte segment amount)))))
1413
1414 (eval-when (:compile-toplevel :execute)
1415   (defun shift-inst-printer-list (subop)
1416     `((reg/mem ((op (#b1101000 ,subop)))
1417                (:name :tab reg/mem ", 1"))
1418       (reg/mem ((op (#b1101001 ,subop)))
1419                (:name :tab reg/mem ", " 'cl))
1420       (reg/mem-imm ((op (#b1100000 ,subop))
1421                     (imm nil :type signed-imm-byte))))))
1422
1423 (define-instruction rol (segment dst amount)
1424   (:printer-list
1425    (shift-inst-printer-list #b000))
1426   (:emitter
1427    (emit-shift-inst segment dst amount #b000)))
1428
1429 (define-instruction ror (segment dst amount)
1430   (:printer-list
1431    (shift-inst-printer-list #b001))
1432   (:emitter
1433    (emit-shift-inst segment dst amount #b001)))
1434
1435 (define-instruction rcl (segment dst amount)
1436   (:printer-list
1437    (shift-inst-printer-list #b010))
1438   (:emitter
1439    (emit-shift-inst segment dst amount #b010)))
1440
1441 (define-instruction rcr (segment dst amount)
1442   (:printer-list
1443    (shift-inst-printer-list #b011))
1444   (:emitter
1445    (emit-shift-inst segment dst amount #b011)))
1446
1447 (define-instruction shl (segment dst amount)
1448   (:printer-list
1449    (shift-inst-printer-list #b100))
1450   (:emitter
1451    (emit-shift-inst segment dst amount #b100)))
1452
1453 (define-instruction shr (segment dst amount)
1454   (:printer-list
1455    (shift-inst-printer-list #b101))
1456   (:emitter
1457    (emit-shift-inst segment dst amount #b101)))
1458
1459 (define-instruction sar (segment dst amount)
1460   (:printer-list
1461    (shift-inst-printer-list #b111))
1462   (:emitter
1463    (emit-shift-inst segment dst amount #b111)))
1464
1465 (defun emit-double-shift (segment opcode dst src amt)
1466   (let ((size (matching-operand-size dst src)))
1467     (when (eq size :byte)
1468       (error "Double shifts can only be used with words."))
1469     (maybe-emit-operand-size-prefix segment size)
1470     (emit-byte segment #b00001111)
1471     (emit-byte segment (dpb opcode (byte 1 3)
1472                             (if (eq amt :cl) #b10100101 #b10100100)))
1473     #+nil
1474     (emit-ea segment dst src)
1475     (emit-ea segment dst (reg-tn-encoding src)) ; pw tries this
1476     (unless (eq amt :cl)
1477       (emit-byte segment amt))))
1478
1479 (eval-when (:compile-toplevel :execute)
1480   (defun double-shift-inst-printer-list (op)
1481     `(#+nil
1482       (ext-reg-reg/mem-imm ((op ,(logior op #b10))
1483                             (imm nil :type signed-imm-byte)))
1484       (ext-reg-reg/mem ((op ,(logior op #b10)))
1485          (:name :tab reg/mem ", " reg ", " 'cl)))))
1486
1487 (define-instruction shld (segment dst src amt)
1488   (:declare (type (or (member :cl) (mod 32)) amt))
1489   (:printer-list (double-shift-inst-printer-list #b1010000))
1490   (:emitter
1491    (emit-double-shift segment #b0 dst src amt)))
1492
1493 (define-instruction shrd (segment dst src amt)
1494   (:declare (type (or (member :cl) (mod 32)) amt))
1495   (:printer-list (double-shift-inst-printer-list #b1010100))
1496   (:emitter
1497    (emit-double-shift segment #b1 dst src amt)))
1498
1499 (define-instruction and (segment dst src)
1500   (:printer-list
1501    (arith-inst-printer-list #b100))
1502   (:emitter
1503    (emit-random-arith-inst "AND" segment dst src #b100)))
1504
1505 (define-instruction test (segment this that)
1506   (:printer accum-imm ((op #b1010100)))
1507   (:printer reg/mem-imm ((op '(#b1111011 #b000))))
1508   (:printer reg-reg/mem ((op #b1000010)))
1509   (:emitter
1510    (let ((size (matching-operand-size this that)))
1511      (maybe-emit-operand-size-prefix segment size)
1512      (flet ((test-immed-and-something (immed something)
1513               (cond ((accumulator-p something)
1514                      (emit-byte segment
1515                                 (if (eq size :byte) #b10101000 #b10101001))
1516                      (emit-sized-immediate segment size immed))
1517                     (t
1518                      (emit-byte segment
1519                                 (if (eq size :byte) #b11110110 #b11110111))
1520                      (emit-ea segment something #b000)
1521                      (emit-sized-immediate segment size immed))))
1522             (test-reg-and-something (reg something)
1523               (emit-byte segment (if (eq size :byte) #b10000100 #b10000101))
1524               (emit-ea segment something (reg-tn-encoding reg))))
1525        (cond ((integerp that)
1526               (test-immed-and-something that this))
1527              ((integerp this)
1528               (test-immed-and-something this that))
1529              ((register-p this)
1530               (test-reg-and-something this that))
1531              ((register-p that)
1532               (test-reg-and-something that this))
1533              (t
1534               (error "bogus operands for TEST: ~S and ~S" this that)))))))
1535
1536 (define-instruction or (segment dst src)
1537   (:printer-list
1538    (arith-inst-printer-list #b001))
1539   (:emitter
1540    (emit-random-arith-inst "OR" segment dst src #b001)))
1541
1542 (define-instruction xor (segment dst src)
1543   (:printer-list
1544    (arith-inst-printer-list #b110))
1545   (:emitter
1546    (emit-random-arith-inst "XOR" segment dst src #b110)))
1547
1548 (define-instruction not (segment dst)
1549   (:printer reg/mem ((op '(#b1111011 #b010))))
1550   (:emitter
1551    (let ((size (operand-size dst)))
1552      (maybe-emit-operand-size-prefix segment size)
1553      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1554      (emit-ea segment dst #b010))))
1555 \f
1556 ;;;; string manipulation
1557
1558 (define-instruction cmps (segment size)
1559   (:printer string-op ((op #b1010011)))
1560   (:emitter
1561    (maybe-emit-operand-size-prefix segment size)
1562    (emit-byte segment (if (eq size :byte) #b10100110 #b10100111))))
1563
1564 (define-instruction ins (segment acc)
1565   (:printer string-op ((op #b0110110)))
1566   (:emitter
1567    (let ((size (operand-size acc)))
1568      (aver (accumulator-p acc))
1569      (maybe-emit-operand-size-prefix segment size)
1570      (emit-byte segment (if (eq size :byte) #b01101100 #b01101101)))))
1571
1572 (define-instruction lods (segment acc)
1573   (:printer string-op ((op #b1010110)))
1574   (:emitter
1575    (let ((size (operand-size acc)))
1576      (aver (accumulator-p acc))
1577      (maybe-emit-operand-size-prefix segment size)
1578      (emit-byte segment (if (eq size :byte) #b10101100 #b10101101)))))
1579
1580 (define-instruction movs (segment size)
1581   (:printer string-op ((op #b1010010)))
1582   (:emitter
1583    (maybe-emit-operand-size-prefix segment size)
1584    (emit-byte segment (if (eq size :byte) #b10100100 #b10100101))))
1585
1586 (define-instruction outs (segment acc)
1587   (:printer string-op ((op #b0110111)))
1588   (:emitter
1589    (let ((size (operand-size acc)))
1590      (aver (accumulator-p acc))
1591      (maybe-emit-operand-size-prefix segment size)
1592      (emit-byte segment (if (eq size :byte) #b01101110 #b01101111)))))
1593
1594 (define-instruction scas (segment acc)
1595   (:printer string-op ((op #b1010111)))
1596   (:emitter
1597    (let ((size (operand-size acc)))
1598      (aver (accumulator-p acc))
1599      (maybe-emit-operand-size-prefix segment size)
1600      (emit-byte segment (if (eq size :byte) #b10101110 #b10101111)))))
1601
1602 (define-instruction stos (segment acc)
1603   (:printer string-op ((op #b1010101)))
1604   (:emitter
1605    (let ((size (operand-size acc)))
1606      (aver (accumulator-p acc))
1607      (maybe-emit-operand-size-prefix segment size)
1608      (emit-byte segment (if (eq size :byte) #b10101010 #b10101011)))))
1609
1610 (define-instruction xlat (segment)
1611   (:printer byte ((op #b11010111)))
1612   (:emitter
1613    (emit-byte segment #b11010111)))
1614
1615 (define-instruction rep (segment)
1616   (:emitter
1617    (emit-byte segment #b11110010)))
1618
1619 (define-instruction repe (segment)
1620   (:printer byte ((op #b11110011)))
1621   (:emitter
1622    (emit-byte segment #b11110011)))
1623
1624 (define-instruction repne (segment)
1625   (:printer byte ((op #b11110010)))
1626   (:emitter
1627    (emit-byte segment #b11110010)))
1628
1629 \f
1630 ;;;; bit manipulation
1631
1632 (define-instruction bsf (segment dst src)
1633   (:printer ext-reg-reg/mem ((op #b1011110) (width 0)))
1634   (:emitter
1635    (let ((size (matching-operand-size dst src)))
1636      (when (eq size :byte)
1637        (error "can't scan bytes: ~S" src))
1638      (maybe-emit-operand-size-prefix segment size)
1639      (emit-byte segment #b00001111)
1640      (emit-byte segment #b10111100)
1641      (emit-ea segment src (reg-tn-encoding dst)))))
1642
1643 (define-instruction bsr (segment dst src)
1644   (:printer ext-reg-reg/mem ((op #b1011110) (width 1)))
1645   (:emitter
1646    (let ((size (matching-operand-size dst src)))
1647      (when (eq size :byte)
1648        (error "can't scan bytes: ~S" src))
1649      (maybe-emit-operand-size-prefix segment size)
1650      (emit-byte segment #b00001111)
1651      (emit-byte segment #b10111101)
1652      (emit-ea segment src (reg-tn-encoding dst)))))
1653
1654 (defun emit-bit-test-and-mumble (segment src index opcode)
1655   (let ((size (operand-size src)))
1656     (when (eq size :byte)
1657       (error "can't scan bytes: ~S" src))
1658     (maybe-emit-operand-size-prefix segment size)
1659     (emit-byte segment #b00001111)
1660     (cond ((integerp index)
1661            (emit-byte segment #b10111010)
1662            (emit-ea segment src opcode)
1663            (emit-byte segment index))
1664           (t
1665            (emit-byte segment (dpb opcode (byte 3 3) #b10000011))
1666            (emit-ea segment src (reg-tn-encoding index))))))
1667
1668 (eval-when (:compile-toplevel :execute)
1669   (defun bit-test-inst-printer-list (subop)
1670     `((ext-reg/mem-imm ((op (#b1011101 ,subop))
1671                         (reg/mem nil :type word-reg/mem)
1672                         (imm nil :type imm-data)
1673                         (width 0)))
1674       (ext-reg-reg/mem ((op ,(dpb subop (byte 3 2) #b1000001))
1675                         (width 1))
1676                        (:name :tab reg/mem ", " reg)))))
1677
1678 (define-instruction bt (segment src index)
1679   (:printer-list (bit-test-inst-printer-list #b100))
1680   (:emitter
1681    (emit-bit-test-and-mumble segment src index #b100)))
1682
1683 (define-instruction btc (segment src index)
1684   (:printer-list (bit-test-inst-printer-list #b111))
1685   (:emitter
1686    (emit-bit-test-and-mumble segment src index #b111)))
1687
1688 (define-instruction btr (segment src index)
1689   (:printer-list (bit-test-inst-printer-list #b110))
1690   (:emitter
1691    (emit-bit-test-and-mumble segment src index #b110)))
1692
1693 (define-instruction bts (segment src index)
1694   (:printer-list (bit-test-inst-printer-list #b101))
1695   (:emitter
1696    (emit-bit-test-and-mumble segment src index #b101)))
1697
1698 \f
1699 ;;;; control transfer
1700
1701 (define-instruction call (segment where)
1702   (:printer near-jump ((op #b11101000)))
1703   (:printer reg/mem ((op '(#b1111111 #b010)) (width 1)))
1704   (:emitter
1705    (typecase where
1706      (label
1707       (emit-byte segment #b11101000)
1708       (emit-back-patch segment
1709                        4
1710                        (lambda (segment posn)
1711                          (emit-dword segment
1712                                      (- (label-position where)
1713                                         (+ posn 4))))))
1714      (fixup
1715       (emit-byte segment #b11101000)
1716       (emit-relative-fixup segment where))
1717      (t
1718       (emit-byte segment #b11111111)
1719       (emit-ea segment where #b010)))))
1720
1721 (defun emit-byte-displacement-backpatch (segment target)
1722   (emit-back-patch segment
1723                    1
1724                    (lambda (segment posn)
1725                      (let ((disp (- (label-position target) (1+ posn))))
1726                        (aver (<= -128 disp 127))
1727                        (emit-byte segment disp)))))
1728
1729 (define-instruction jmp (segment cond &optional where)
1730   ;; conditional jumps
1731   (:printer short-cond-jump ((op #b0111)) '('j cc :tab label))
1732   (:printer near-cond-jump () '('j cc :tab label))
1733   ;; unconditional jumps
1734   (:printer short-jump ((op #b1011)))
1735   (:printer near-jump ((op #b11101001)) )
1736   (:printer reg/mem ((op '(#b1111111 #b100)) (width 1)))
1737   (:emitter
1738    (cond (where
1739           (emit-chooser
1740            segment 6 2
1741            (lambda (segment posn delta-if-after)
1742              (let ((disp (- (label-position where posn delta-if-after)
1743                             (+ posn 2))))
1744                (when (<= -128 disp 127)
1745                  (emit-byte segment
1746                             (dpb (conditional-opcode cond)
1747                                  (byte 4 0)
1748                                  #b01110000))
1749                  (emit-byte-displacement-backpatch segment where)
1750                  t)))
1751            (lambda (segment posn)
1752              (let ((disp (- (label-position where) (+ posn 6))))
1753                (emit-byte segment #b00001111)
1754                (emit-byte segment
1755                           (dpb (conditional-opcode cond)
1756                                (byte 4 0)
1757                                #b10000000))
1758                (emit-dword segment disp)))))
1759          ((label-p (setq where cond))
1760           (emit-chooser
1761            segment 5 0
1762            (lambda (segment posn delta-if-after)
1763              (let ((disp (- (label-position where posn delta-if-after)
1764                             (+ posn 2))))
1765                (when (<= -128 disp 127)
1766                  (emit-byte segment #b11101011)
1767                  (emit-byte-displacement-backpatch segment where)
1768                  t)))
1769            (lambda (segment posn)
1770              (let ((disp (- (label-position where) (+ posn 5))))
1771                (emit-byte segment #b11101001)
1772                (emit-dword segment disp)))))
1773          ((fixup-p where)
1774           (emit-byte segment #b11101001)
1775           (emit-relative-fixup segment where))
1776          (t
1777           (unless (or (ea-p where) (tn-p where))
1778                   (error "don't know what to do with ~A" where))
1779           (emit-byte segment #b11111111)
1780           (emit-ea segment where #b100)))))
1781
1782 (define-instruction jmp-short (segment label)
1783   (:emitter
1784    (emit-byte segment #b11101011)
1785    (emit-byte-displacement-backpatch segment label)))
1786
1787 (define-instruction ret (segment &optional stack-delta)
1788   (:printer byte ((op #b11000011)))
1789   (:printer byte ((op #b11000010) (imm nil :type 'imm-word-16))
1790             '(:name :tab imm))
1791   (:emitter
1792    (cond (stack-delta
1793           (emit-byte segment #b11000010)
1794           (emit-word segment stack-delta))
1795          (t
1796           (emit-byte segment #b11000011)))))
1797
1798 (define-instruction jecxz (segment target)
1799   (:printer short-jump ((op #b0011)))
1800   (:emitter
1801    (emit-byte segment #b11100011)
1802    (emit-byte-displacement-backpatch segment target)))
1803
1804 (define-instruction loop (segment target)
1805   (:printer short-jump ((op #b0010)))
1806   (:emitter
1807    (emit-byte segment #b11100010)       ; pfw this was 11100011, or jecxz!!!!
1808    (emit-byte-displacement-backpatch segment target)))
1809
1810 (define-instruction loopz (segment target)
1811   (:printer short-jump ((op #b0001)))
1812   (:emitter
1813    (emit-byte segment #b11100001)
1814    (emit-byte-displacement-backpatch segment target)))
1815
1816 (define-instruction loopnz (segment target)
1817   (:printer short-jump ((op #b0000)))
1818   (:emitter
1819    (emit-byte segment #b11100000)
1820    (emit-byte-displacement-backpatch segment target)))
1821 \f
1822 ;;;; conditional move
1823 (define-instruction cmov (segment cond dst src)
1824   (:printer cond-move ())
1825   (:emitter
1826    (aver (register-p dst))
1827    (let ((size (matching-operand-size dst src)))
1828      (aver (or (eq size :word) (eq size :dword)))
1829      (maybe-emit-operand-size-prefix segment size))
1830    (emit-byte segment #b00001111)
1831    (emit-byte segment (dpb (conditional-opcode cond) (byte 4 0) #b01000000))
1832    (emit-ea segment src (reg-tn-encoding dst))))
1833
1834 ;;;; conditional byte set
1835
1836 (define-instruction set (segment dst cond)
1837   (:printer cond-set ())
1838   (:emitter
1839    (emit-byte segment #b00001111)
1840    (emit-byte segment (dpb (conditional-opcode cond) (byte 4 0) #b10010000))
1841    (emit-ea segment dst #b000)))
1842 \f
1843 ;;;; enter/leave
1844
1845 (define-instruction enter (segment disp &optional (level 0))
1846   (:declare (type (unsigned-byte 16) disp)
1847             (type (unsigned-byte 8) level))
1848   (:printer enter-format ((op #b11001000)))
1849   (:emitter
1850    (emit-byte segment #b11001000)
1851    (emit-word segment disp)
1852    (emit-byte segment level)))
1853
1854 (define-instruction leave (segment)
1855   (:printer byte ((op #b11001001)))
1856   (:emitter
1857    (emit-byte segment #b11001001)))
1858 \f
1859 ;;;; prefetch
1860 (define-instruction prefetchnta (segment ea)
1861   (:printer prefetch ((op #b00011000) (reg #b000)))
1862   (:emitter
1863    (aver (typep ea 'ea))
1864    (aver (eq :byte (ea-size ea)))
1865    (emit-byte segment #b00001111)
1866    (emit-byte segment #b00011000)
1867    (emit-ea segment ea #b000)))
1868
1869 (define-instruction prefetcht0 (segment ea)
1870   (:printer prefetch ((op #b00011000) (reg #b001)))
1871   (:emitter
1872    (aver (typep ea 'ea))
1873    (aver (eq :byte (ea-size ea)))
1874    (emit-byte segment #b00001111)
1875    (emit-byte segment #b00011000)
1876    (emit-ea segment ea #b001)))
1877
1878 (define-instruction prefetcht1 (segment ea)
1879   (:printer prefetch ((op #b00011000) (reg #b010)))
1880   (:emitter
1881    (aver (typep ea 'ea))
1882    (aver (eq :byte (ea-size ea)))
1883    (emit-byte segment #b00001111)
1884    (emit-byte segment #b00011000)
1885    (emit-ea segment ea #b010)))
1886
1887 (define-instruction prefetcht2 (segment ea)
1888   (:printer prefetch ((op #b00011000) (reg #b011)))
1889   (:emitter
1890    (aver (typep ea 'ea))
1891    (aver (eq :byte (ea-size ea)))
1892    (emit-byte segment #b00001111)
1893    (emit-byte segment #b00011000)
1894    (emit-ea segment ea #b011)))
1895 \f
1896 ;;;; interrupt instructions
1897
1898 (defun snarf-error-junk (sap offset &optional length-only)
1899   (let* ((length (sb!sys:sap-ref-8 sap offset))
1900          (vector (make-array length :element-type '(unsigned-byte 8))))
1901     (declare (type sb!sys:system-area-pointer sap)
1902              (type (unsigned-byte 8) length)
1903              (type (simple-array (unsigned-byte 8) (*)) vector))
1904     (cond (length-only
1905            (values 0 (1+ length) nil nil))
1906           (t
1907            (sb!kernel:copy-ub8-from-system-area sap (1+ offset)
1908                                                 vector 0 length)
1909            (collect ((sc-offsets)
1910                      (lengths))
1911              (lengths 1)                ; the length byte
1912              (let* ((index 0)
1913                     (error-number (sb!c:read-var-integer vector index)))
1914                (lengths index)
1915                (loop
1916                  (when (>= index length)
1917                    (return))
1918                  (let ((old-index index))
1919                    (sc-offsets (sb!c:read-var-integer vector index))
1920                    (lengths (- index old-index))))
1921                (values error-number
1922                        (1+ length)
1923                        (sc-offsets)
1924                        (lengths))))))))
1925
1926 #|
1927 (defmacro break-cases (breaknum &body cases)
1928   (let ((bn-temp (gensym)))
1929     (collect ((clauses))
1930       (dolist (case cases)
1931         (clauses `((= ,bn-temp ,(car case)) ,@(cdr case))))
1932       `(let ((,bn-temp ,breaknum))
1933          (cond ,@(clauses))))))
1934 |#
1935
1936 (defun break-control (chunk inst stream dstate)
1937   (declare (ignore inst))
1938   (flet ((nt (x) (if stream (sb!disassem:note x dstate))))
1939     ;; FIXME: Make sure that BYTE-IMM-CODE is defined. The genesis
1940     ;; map has it undefined; and it should be easier to look in the target
1941     ;; Lisp (with (DESCRIBE 'BYTE-IMM-CODE)) than to definitively deduce
1942     ;; from first principles whether it's defined in some way that genesis
1943     ;; can't grok.
1944     (case (byte-imm-code chunk dstate)
1945       (#.error-trap
1946        (nt "error trap")
1947        (sb!disassem:handle-break-args #'snarf-error-junk stream dstate))
1948       (#.cerror-trap
1949        (nt "cerror trap")
1950        (sb!disassem:handle-break-args #'snarf-error-junk stream dstate))
1951       (#.breakpoint-trap
1952        (nt "breakpoint trap"))
1953       (#.pending-interrupt-trap
1954        (nt "pending interrupt trap"))
1955       (#.halt-trap
1956        (nt "halt trap"))
1957       (#.fun-end-breakpoint-trap
1958        (nt "function end breakpoint trap")))))
1959
1960 (define-instruction break (segment code)
1961   (:declare (type (unsigned-byte 8) code))
1962   #-darwin (:printer byte-imm ((op #b11001100)) '(:name :tab code)
1963                      :control #'break-control)
1964   #+darwin (:printer word-imm ((op #b0000101100001111)) '(:name :tab code)
1965                      :control #'break-control)
1966   (:emitter
1967    #-darwin (emit-byte segment #b11001100)
1968    ;; On darwin, trap handling via SIGTRAP is unreliable, therefore we
1969    ;; throw a sigill with 0x0b0f instead and check for this in the
1970    ;; SIGILL handler and pass it on to the sigtrap handler if
1971    ;; appropriate
1972    #+darwin (emit-word segment #b0000101100001111)
1973    (emit-byte segment code)))
1974
1975 (define-instruction int (segment number)
1976   (:declare (type (unsigned-byte 8) number))
1977   (:printer byte-imm ((op #b11001101)))
1978   (:emitter
1979    (etypecase number
1980      ((member 3)
1981       (emit-byte segment #b11001100))
1982      ((unsigned-byte 8)
1983       (emit-byte segment #b11001101)
1984       (emit-byte segment number)))))
1985
1986 (define-instruction into (segment)
1987   (:printer byte ((op #b11001110)))
1988   (:emitter
1989    (emit-byte segment #b11001110)))
1990
1991 (define-instruction bound (segment reg bounds)
1992   (:emitter
1993    (let ((size (matching-operand-size reg bounds)))
1994      (when (eq size :byte)
1995        (error "can't bounds-test bytes: ~S" reg))
1996      (maybe-emit-operand-size-prefix segment size)
1997      (emit-byte segment #b01100010)
1998      (emit-ea segment bounds (reg-tn-encoding reg)))))
1999
2000 (define-instruction iret (segment)
2001   (:printer byte ((op #b11001111)))
2002   (:emitter
2003    (emit-byte segment #b11001111)))
2004 \f
2005 ;;;; processor control
2006
2007 (define-instruction hlt (segment)
2008   (:printer byte ((op #b11110100)))
2009   (:emitter
2010    (emit-byte segment #b11110100)))
2011
2012 (define-instruction nop (segment)
2013   (:printer byte ((op #b10010000)))
2014   (:emitter
2015    (emit-byte segment #b10010000)))
2016
2017 (define-instruction wait (segment)
2018   (:printer byte ((op #b10011011)))
2019   (:emitter
2020    (emit-byte segment #b10011011)))
2021
2022 (define-instruction lock (segment)
2023   (:printer byte ((op #b11110000)))
2024   (:emitter
2025    (emit-byte segment #b11110000)))
2026 \f
2027 ;;;; miscellaneous hackery
2028
2029 (define-instruction byte (segment byte)
2030   (:emitter
2031    (emit-byte segment byte)))
2032
2033 (define-instruction word (segment word)
2034   (:emitter
2035    (emit-word segment word)))
2036
2037 (define-instruction dword (segment dword)
2038   (:emitter
2039    (emit-dword segment dword)))
2040
2041 (defun emit-header-data (segment type)
2042   (emit-back-patch segment
2043                    4
2044                    (lambda (segment posn)
2045                      (emit-dword segment
2046                                  (logior type
2047                                          (ash (+ posn
2048                                                  (component-header-length))
2049                                               (- n-widetag-bits
2050                                                  word-shift)))))))
2051
2052 (define-instruction simple-fun-header-word (segment)
2053   (:emitter
2054    (emit-header-data segment simple-fun-header-widetag)))
2055
2056 (define-instruction lra-header-word (segment)
2057   (:emitter
2058    (emit-header-data segment return-pc-header-widetag)))
2059 \f
2060 ;;;; fp instructions
2061 ;;;;
2062 ;;;; FIXME: This section said "added by jrd", which should end up in CREDITS.
2063 ;;;;
2064 ;;;; Note: We treat the single-precision and double-precision variants
2065 ;;;; as separate instructions.
2066
2067 ;;; Load single to st(0).
2068 (define-instruction fld (segment source)
2069   (:printer floating-point ((op '(#b001 #b000))))
2070   (:emitter
2071     (emit-byte segment #b11011001)
2072     (emit-fp-op segment source #b000)))
2073
2074 ;;; Load double to st(0).
2075 (define-instruction fldd (segment source)
2076   (:printer floating-point ((op '(#b101 #b000))))
2077   (:printer floating-point-fp ((op '(#b001 #b000))))
2078   (:emitter
2079    (if (fp-reg-tn-p source)
2080        (emit-byte segment #b11011001)
2081      (emit-byte segment #b11011101))
2082     (emit-fp-op segment source #b000)))
2083
2084 ;;; Load long to st(0).
2085 (define-instruction fldl (segment source)
2086   (:printer floating-point ((op '(#b011 #b101))))
2087   (:emitter
2088     (emit-byte segment #b11011011)
2089     (emit-fp-op segment source #b101)))
2090
2091 ;;; Store single from st(0).
2092 (define-instruction fst (segment dest)
2093   (:printer floating-point ((op '(#b001 #b010))))
2094   (:emitter
2095     (cond ((fp-reg-tn-p dest)
2096            (emit-byte segment #b11011101)
2097            (emit-fp-op segment dest #b010))
2098           (t
2099            (emit-byte segment #b11011001)
2100            (emit-fp-op segment dest #b010)))))
2101
2102 ;;; Store double from st(0).
2103 (define-instruction fstd (segment dest)
2104   (:printer floating-point ((op '(#b101 #b010))))
2105   (:printer floating-point-fp ((op '(#b101 #b010))))
2106   (:emitter
2107    (cond ((fp-reg-tn-p dest)
2108           (emit-byte segment #b11011101)
2109           (emit-fp-op segment dest #b010))
2110          (t
2111           (emit-byte segment #b11011101)
2112           (emit-fp-op segment dest #b010)))))
2113
2114 ;;; Arithmetic ops are all done with at least one operand at top of
2115 ;;; stack. The other operand is is another register or a 32/64 bit
2116 ;;; memory loc.
2117
2118 ;;; dtc: I've tried to follow the Intel ASM386 conventions, but note
2119 ;;; that these conflict with the Gdb conventions for binops. To reduce
2120 ;;; the confusion I've added comments showing the mathamatical
2121 ;;; operation and the two syntaxes. By the ASM386 convention the
2122 ;;; instruction syntax is:
2123 ;;;
2124 ;;;      Fop Source
2125 ;;; or   Fop Destination, Source
2126 ;;;
2127 ;;; If only one operand is given then it is the source and the
2128 ;;; destination is ST(0). There are reversed forms of the fsub and
2129 ;;; fdiv instructions inducated by an 'R' suffix.
2130 ;;;
2131 ;;; The mathematical operation for the non-reverse form is always:
2132 ;;;     destination = destination op source
2133 ;;;
2134 ;;; For the reversed form it is:
2135 ;;;     destination = source op destination
2136 ;;;
2137 ;;; The instructions below only accept one operand at present which is
2138 ;;; usually the source. I've hack in extra instructions to implement
2139 ;;; the fops with a ST(i) destination, these have a -sti suffix and
2140 ;;; the operand is the destination with the source being ST(0).
2141
2142 ;;; Add single:
2143 ;;;   st(0) = st(0) + memory or st(i).
2144 (define-instruction fadd (segment source)
2145   (:printer floating-point ((op '(#b000 #b000))))
2146   (:emitter
2147     (emit-byte segment #b11011000)
2148     (emit-fp-op segment source #b000)))
2149
2150 ;;; Add double:
2151 ;;;   st(0) = st(0) + memory or st(i).
2152 (define-instruction faddd (segment source)
2153   (:printer floating-point ((op '(#b100 #b000))))
2154   (:printer floating-point-fp ((op '(#b000 #b000))))
2155   (:emitter
2156    (if (fp-reg-tn-p source)
2157        (emit-byte segment #b11011000)
2158      (emit-byte segment #b11011100))
2159    (emit-fp-op segment source #b000)))
2160
2161 ;;; Add double destination st(i):
2162 ;;;   st(i) = st(0) + st(i).
2163 (define-instruction fadd-sti (segment destination)
2164   (:printer floating-point-fp ((op '(#b100 #b000))))
2165   (:emitter
2166    (aver (fp-reg-tn-p destination))
2167    (emit-byte segment #b11011100)
2168    (emit-fp-op segment destination #b000)))
2169 ;;; with pop
2170 (define-instruction faddp-sti (segment destination)
2171   (:printer floating-point-fp ((op '(#b110 #b000))))
2172   (:emitter
2173    (aver (fp-reg-tn-p destination))
2174    (emit-byte segment #b11011110)
2175    (emit-fp-op segment destination #b000)))
2176
2177 ;;; Subtract single:
2178 ;;;   st(0) = st(0) - memory or st(i).
2179 (define-instruction fsub (segment source)
2180   (:printer floating-point ((op '(#b000 #b100))))
2181   (:emitter
2182     (emit-byte segment #b11011000)
2183     (emit-fp-op segment source #b100)))
2184
2185 ;;; Subtract single, reverse:
2186 ;;;   st(0) = memory or st(i) - st(0).
2187 (define-instruction fsubr (segment source)
2188   (:printer floating-point ((op '(#b000 #b101))))
2189   (:emitter
2190     (emit-byte segment #b11011000)
2191     (emit-fp-op segment source #b101)))
2192
2193 ;;; Subtract double:
2194 ;;;   st(0) = st(0) - memory or st(i).
2195 (define-instruction fsubd (segment source)
2196   (:printer floating-point ((op '(#b100 #b100))))
2197   (:printer floating-point-fp ((op '(#b000 #b100))))
2198   (:emitter
2199    (if (fp-reg-tn-p source)
2200        (emit-byte segment #b11011000)
2201      (emit-byte segment #b11011100))
2202    (emit-fp-op segment source #b100)))
2203
2204 ;;; Subtract double, reverse:
2205 ;;;   st(0) = memory or st(i) - st(0).
2206 (define-instruction fsubrd (segment source)
2207   (:printer floating-point ((op '(#b100 #b101))))
2208   (:printer floating-point-fp ((op '(#b000 #b101))))
2209   (:emitter
2210    (if (fp-reg-tn-p source)
2211        (emit-byte segment #b11011000)
2212      (emit-byte segment #b11011100))
2213    (emit-fp-op segment source #b101)))
2214
2215 ;;; Subtract double, destination st(i):
2216 ;;;   st(i) = st(i) - st(0).
2217 ;;;
2218 ;;; ASM386 syntax: FSUB ST(i), ST
2219 ;;; Gdb    syntax: fsubr %st,%st(i)
2220 (define-instruction fsub-sti (segment destination)
2221   (:printer floating-point-fp ((op '(#b100 #b101))))
2222   (:emitter
2223    (aver (fp-reg-tn-p destination))
2224    (emit-byte segment #b11011100)
2225    (emit-fp-op segment destination #b101)))
2226 ;;; with a pop
2227 (define-instruction fsubp-sti (segment destination)
2228   (:printer floating-point-fp ((op '(#b110 #b101))))
2229   (:emitter
2230    (aver (fp-reg-tn-p destination))
2231    (emit-byte segment #b11011110)
2232    (emit-fp-op segment destination #b101)))
2233
2234 ;;; Subtract double, reverse, destination st(i):
2235 ;;;   st(i) = st(0) - st(i).
2236 ;;;
2237 ;;; ASM386 syntax: FSUBR ST(i), ST
2238 ;;; Gdb    syntax: fsub %st,%st(i)
2239 (define-instruction fsubr-sti (segment destination)
2240   (:printer floating-point-fp ((op '(#b100 #b100))))
2241   (:emitter
2242    (aver (fp-reg-tn-p destination))
2243    (emit-byte segment #b11011100)
2244    (emit-fp-op segment destination #b100)))
2245 ;;; with a pop
2246 (define-instruction fsubrp-sti (segment destination)
2247   (:printer floating-point-fp ((op '(#b110 #b100))))
2248   (:emitter
2249    (aver (fp-reg-tn-p destination))
2250    (emit-byte segment #b11011110)
2251    (emit-fp-op segment destination #b100)))
2252
2253 ;;; Multiply single:
2254 ;;;   st(0) = st(0) * memory or st(i).
2255 (define-instruction fmul (segment source)
2256   (:printer floating-point ((op '(#b000 #b001))))
2257   (:emitter
2258     (emit-byte segment #b11011000)
2259     (emit-fp-op segment source #b001)))
2260
2261 ;;; Multiply double:
2262 ;;;   st(0) = st(0) * memory or st(i).
2263 (define-instruction fmuld (segment source)
2264   (:printer floating-point ((op '(#b100 #b001))))
2265   (:printer floating-point-fp ((op '(#b000 #b001))))
2266   (:emitter
2267    (if (fp-reg-tn-p source)
2268        (emit-byte segment #b11011000)
2269      (emit-byte segment #b11011100))
2270    (emit-fp-op segment source #b001)))
2271
2272 ;;; Multiply double, destination st(i):
2273 ;;;   st(i) = st(i) * st(0).
2274 (define-instruction fmul-sti (segment destination)
2275   (:printer floating-point-fp ((op '(#b100 #b001))))
2276   (:emitter
2277    (aver (fp-reg-tn-p destination))
2278    (emit-byte segment #b11011100)
2279    (emit-fp-op segment destination #b001)))
2280
2281 ;;; Divide single:
2282 ;;;   st(0) = st(0) / memory or st(i).
2283 (define-instruction fdiv (segment source)
2284   (:printer floating-point ((op '(#b000 #b110))))
2285   (:emitter
2286     (emit-byte segment #b11011000)
2287     (emit-fp-op segment source #b110)))
2288
2289 ;;; Divide single, reverse:
2290 ;;;   st(0) = memory or st(i) / st(0).
2291 (define-instruction fdivr (segment source)
2292   (:printer floating-point ((op '(#b000 #b111))))
2293   (:emitter
2294     (emit-byte segment #b11011000)
2295     (emit-fp-op segment source #b111)))
2296
2297 ;;; Divide double:
2298 ;;;   st(0) = st(0) / memory or st(i).
2299 (define-instruction fdivd (segment source)
2300   (:printer floating-point ((op '(#b100 #b110))))
2301   (:printer floating-point-fp ((op '(#b000 #b110))))
2302   (:emitter
2303    (if (fp-reg-tn-p source)
2304        (emit-byte segment #b11011000)
2305      (emit-byte segment #b11011100))
2306    (emit-fp-op segment source #b110)))
2307
2308 ;;; Divide double, reverse:
2309 ;;;   st(0) = memory or st(i) / st(0).
2310 (define-instruction fdivrd (segment source)
2311   (:printer floating-point ((op '(#b100 #b111))))
2312   (:printer floating-point-fp ((op '(#b000 #b111))))
2313   (:emitter
2314    (if (fp-reg-tn-p source)
2315        (emit-byte segment #b11011000)
2316      (emit-byte segment #b11011100))
2317    (emit-fp-op segment source #b111)))
2318
2319 ;;; Divide double, destination st(i):
2320 ;;;   st(i) = st(i) / st(0).
2321 ;;;
2322 ;;; ASM386 syntax: FDIV ST(i), ST
2323 ;;; Gdb    syntax: fdivr %st,%st(i)
2324 (define-instruction fdiv-sti (segment destination)
2325   (:printer floating-point-fp ((op '(#b100 #b111))))
2326   (:emitter
2327    (aver (fp-reg-tn-p destination))
2328    (emit-byte segment #b11011100)
2329    (emit-fp-op segment destination #b111)))
2330
2331 ;;; Divide double, reverse, destination st(i):
2332 ;;;   st(i) = st(0) / st(i).
2333 ;;;
2334 ;;; ASM386 syntax: FDIVR ST(i), ST
2335 ;;; Gdb    syntax: fdiv %st,%st(i)
2336 (define-instruction fdivr-sti (segment destination)
2337   (:printer floating-point-fp ((op '(#b100 #b110))))
2338   (:emitter
2339    (aver (fp-reg-tn-p destination))
2340    (emit-byte segment #b11011100)
2341    (emit-fp-op segment destination #b110)))
2342
2343 ;;; Exchange fr0 with fr(n). (There is no double precision variant.)
2344 (define-instruction fxch (segment source)
2345   (:printer floating-point-fp ((op '(#b001 #b001))))
2346   (:emitter
2347     (unless (and (tn-p source)
2348                  (eq (sb-name (sc-sb (tn-sc source))) 'float-registers))
2349       (cl:break))
2350     (emit-byte segment #b11011001)
2351     (emit-fp-op segment source #b001)))
2352
2353 ;;; Push 32-bit integer to st0.
2354 (define-instruction fild (segment source)
2355   (:printer floating-point ((op '(#b011 #b000))))
2356   (:emitter
2357    (emit-byte segment #b11011011)
2358    (emit-fp-op segment source #b000)))
2359
2360 ;;; Push 64-bit integer to st0.
2361 (define-instruction fildl (segment source)
2362   (:printer floating-point ((op '(#b111 #b101))))
2363   (:emitter
2364    (emit-byte segment #b11011111)
2365    (emit-fp-op segment source #b101)))
2366
2367 ;;; Store 32-bit integer.
2368 (define-instruction fist (segment dest)
2369   (:printer floating-point ((op '(#b011 #b010))))
2370   (:emitter
2371    (emit-byte segment #b11011011)
2372    (emit-fp-op segment dest #b010)))
2373
2374 ;;; Store and pop 32-bit integer.
2375 (define-instruction fistp (segment dest)
2376   (:printer floating-point ((op '(#b011 #b011))))
2377   (:emitter
2378    (emit-byte segment #b11011011)
2379    (emit-fp-op segment dest #b011)))
2380
2381 ;;; Store and pop 64-bit integer.
2382 (define-instruction fistpl (segment dest)
2383   (:printer floating-point ((op '(#b111 #b111))))
2384   (:emitter
2385    (emit-byte segment #b11011111)
2386    (emit-fp-op segment dest #b111)))
2387
2388 ;;; Store single from st(0) and pop.
2389 (define-instruction fstp (segment dest)
2390   (:printer floating-point ((op '(#b001 #b011))))
2391   (:emitter
2392    (cond ((fp-reg-tn-p dest)
2393           (emit-byte segment #b11011101)
2394           (emit-fp-op segment dest #b011))
2395          (t
2396           (emit-byte segment #b11011001)
2397           (emit-fp-op segment dest #b011)))))
2398
2399 ;;; Store double from st(0) and pop.
2400 (define-instruction fstpd (segment dest)
2401   (:printer floating-point ((op '(#b101 #b011))))
2402   (:printer floating-point-fp ((op '(#b101 #b011))))
2403   (:emitter
2404    (cond ((fp-reg-tn-p dest)
2405           (emit-byte segment #b11011101)
2406           (emit-fp-op segment dest #b011))
2407          (t
2408           (emit-byte segment #b11011101)
2409           (emit-fp-op segment dest #b011)))))
2410
2411 ;;; Store long from st(0) and pop.
2412 (define-instruction fstpl (segment dest)
2413   (:printer floating-point ((op '(#b011 #b111))))
2414   (:emitter
2415     (emit-byte segment #b11011011)
2416     (emit-fp-op segment dest #b111)))
2417
2418 ;;; Decrement stack-top pointer.
2419 (define-instruction fdecstp (segment)
2420   (:printer floating-point-no ((op #b10110)))
2421   (:emitter
2422    (emit-byte segment #b11011001)
2423    (emit-byte segment #b11110110)))
2424
2425 ;;; Increment stack-top pointer.
2426 (define-instruction fincstp (segment)
2427   (:printer floating-point-no ((op #b10111)))
2428   (:emitter
2429    (emit-byte segment #b11011001)
2430    (emit-byte segment #b11110111)))
2431
2432 ;;; Free fp register.
2433 (define-instruction ffree (segment dest)
2434   (:printer floating-point-fp ((op '(#b101 #b000))))
2435   (:emitter
2436    (emit-byte segment #b11011101)
2437    (emit-fp-op segment dest #b000)))
2438
2439 (define-instruction fabs (segment)
2440   (:printer floating-point-no ((op #b00001)))
2441   (:emitter
2442    (emit-byte segment #b11011001)
2443    (emit-byte segment #b11100001)))
2444
2445 (define-instruction fchs (segment)
2446   (:printer floating-point-no ((op #b00000)))
2447   (:emitter
2448    (emit-byte segment #b11011001)
2449    (emit-byte segment #b11100000)))
2450
2451 (define-instruction frndint(segment)
2452   (:printer floating-point-no ((op #b11100)))
2453   (:emitter
2454    (emit-byte segment #b11011001)
2455    (emit-byte segment #b11111100)))
2456
2457 ;;; Initialize NPX.
2458 (define-instruction fninit(segment)
2459   (:printer floating-point-5 ((op #b00011)))
2460   (:emitter
2461    (emit-byte segment #b11011011)
2462    (emit-byte segment #b11100011)))
2463
2464 ;;; Store Status Word to AX.
2465 (define-instruction fnstsw(segment)
2466   (:printer floating-point-st ((op #b00000)))
2467   (:emitter
2468    (emit-byte segment #b11011111)
2469    (emit-byte segment #b11100000)))
2470
2471 ;;; Load Control Word.
2472 ;;;
2473 ;;; src must be a memory location
2474 (define-instruction fldcw(segment src)
2475   (:printer floating-point ((op '(#b001 #b101))))
2476   (:emitter
2477    (emit-byte segment #b11011001)
2478    (emit-fp-op segment src #b101)))
2479
2480 ;;; Store Control Word.
2481 (define-instruction fnstcw(segment dst)
2482   (:printer floating-point ((op '(#b001 #b111))))
2483   (:emitter
2484    (emit-byte segment #b11011001)
2485    (emit-fp-op segment dst #b111)))
2486
2487 ;;; Store FP Environment.
2488 (define-instruction fstenv(segment dst)
2489   (:printer floating-point ((op '(#b001 #b110))))
2490   (:emitter
2491    (emit-byte segment #b11011001)
2492    (emit-fp-op segment dst #b110)))
2493
2494 ;;; Restore FP Environment.
2495 (define-instruction fldenv(segment src)
2496   (:printer floating-point ((op '(#b001 #b100))))
2497   (:emitter
2498    (emit-byte segment #b11011001)
2499    (emit-fp-op segment src #b100)))
2500
2501 ;;; Save FP State.
2502 (define-instruction fsave(segment dst)
2503   (:printer floating-point ((op '(#b101 #b110))))
2504   (:emitter
2505    (emit-byte segment #b11011101)
2506    (emit-fp-op segment dst #b110)))
2507
2508 ;;; Restore FP State.
2509 (define-instruction frstor(segment src)
2510   (:printer floating-point ((op '(#b101 #b100))))
2511   (:emitter
2512    (emit-byte segment #b11011101)
2513    (emit-fp-op segment src #b100)))
2514
2515 ;;; Clear exceptions.
2516 (define-instruction fnclex(segment)
2517   (:printer floating-point-5 ((op #b00010)))
2518   (:emitter
2519    (emit-byte segment #b11011011)
2520    (emit-byte segment #b11100010)))
2521
2522 ;;; comparison
2523 (define-instruction fcom (segment src)
2524   (:printer floating-point ((op '(#b000 #b010))))
2525   (:emitter
2526    (emit-byte segment #b11011000)
2527    (emit-fp-op segment src #b010)))
2528
2529 (define-instruction fcomd (segment src)
2530   (:printer floating-point ((op '(#b100 #b010))))
2531   (:printer floating-point-fp ((op '(#b000 #b010))))
2532   (:emitter
2533    (if (fp-reg-tn-p src)
2534        (emit-byte segment #b11011000)
2535      (emit-byte segment #b11011100))
2536    (emit-fp-op segment src #b010)))
2537
2538 ;;; Compare ST1 to ST0, popping the stack twice.
2539 (define-instruction fcompp (segment)
2540   (:printer floating-point-3 ((op '(#b110 #b011001))))
2541   (:emitter
2542    (emit-byte segment #b11011110)
2543    (emit-byte segment #b11011001)))
2544
2545 ;;; unordered comparison
2546 (define-instruction fucom (segment src)
2547   (:printer floating-point-fp ((op '(#b101 #b100))))
2548   (:emitter
2549    (aver (fp-reg-tn-p src))
2550    (emit-byte segment #b11011101)
2551    (emit-fp-op segment src #b100)))
2552
2553 (define-instruction ftst (segment)
2554   (:printer floating-point-no ((op #b00100)))
2555   (:emitter
2556    (emit-byte segment #b11011001)
2557    (emit-byte segment #b11100100)))
2558
2559 ;;;; 80387 specials
2560
2561 (define-instruction fsqrt(segment)
2562   (:printer floating-point-no ((op #b11010)))
2563   (:emitter
2564    (emit-byte segment #b11011001)
2565    (emit-byte segment #b11111010)))
2566
2567 (define-instruction fscale(segment)
2568   (:printer floating-point-no ((op #b11101)))
2569   (:emitter
2570    (emit-byte segment #b11011001)
2571    (emit-byte segment #b11111101)))
2572
2573 (define-instruction fxtract(segment)
2574   (:printer floating-point-no ((op #b10100)))
2575   (:emitter
2576    (emit-byte segment #b11011001)
2577    (emit-byte segment #b11110100)))
2578
2579 (define-instruction fsin(segment)
2580   (:printer floating-point-no ((op #b11110)))
2581   (:emitter
2582    (emit-byte segment #b11011001)
2583    (emit-byte segment #b11111110)))
2584
2585 (define-instruction fcos(segment)
2586   (:printer floating-point-no ((op #b11111)))
2587   (:emitter
2588    (emit-byte segment #b11011001)
2589    (emit-byte segment #b11111111)))
2590
2591 (define-instruction fprem1(segment)
2592   (:printer floating-point-no ((op #b10101)))
2593   (:emitter
2594    (emit-byte segment #b11011001)
2595    (emit-byte segment #b11110101)))
2596
2597 (define-instruction fprem(segment)
2598   (:printer floating-point-no ((op #b11000)))
2599   (:emitter
2600    (emit-byte segment #b11011001)
2601    (emit-byte segment #b11111000)))
2602
2603 (define-instruction fxam (segment)
2604   (:printer floating-point-no ((op #b00101)))
2605   (:emitter
2606    (emit-byte segment #b11011001)
2607    (emit-byte segment #b11100101)))
2608
2609 ;;; These do push/pop to stack and need special handling
2610 ;;; in any VOPs that use them. See the book.
2611
2612 ;;; st0 <- st1*log2(st0)
2613 (define-instruction fyl2x(segment)      ; pops stack
2614   (:printer floating-point-no ((op #b10001)))
2615   (:emitter
2616    (emit-byte segment #b11011001)
2617    (emit-byte segment #b11110001)))
2618
2619 (define-instruction fyl2xp1(segment)
2620   (:printer floating-point-no ((op #b11001)))
2621   (:emitter
2622    (emit-byte segment #b11011001)
2623    (emit-byte segment #b11111001)))
2624
2625 (define-instruction f2xm1(segment)
2626   (:printer floating-point-no ((op #b10000)))
2627   (:emitter
2628    (emit-byte segment #b11011001)
2629    (emit-byte segment #b11110000)))
2630
2631 (define-instruction fptan(segment)      ; st(0) <- 1; st(1) <- tan
2632   (:printer floating-point-no ((op #b10010)))
2633   (:emitter
2634    (emit-byte segment #b11011001)
2635    (emit-byte segment #b11110010)))
2636
2637 (define-instruction fpatan(segment)     ; POPS STACK
2638   (:printer floating-point-no ((op #b10011)))
2639   (:emitter
2640    (emit-byte segment #b11011001)
2641    (emit-byte segment #b11110011)))
2642
2643 ;;;; loading constants
2644
2645 (define-instruction fldz(segment)
2646   (:printer floating-point-no ((op #b01110)))
2647   (:emitter
2648    (emit-byte segment #b11011001)
2649    (emit-byte segment #b11101110)))
2650
2651 (define-instruction fld1(segment)
2652   (:printer floating-point-no ((op #b01000)))
2653   (:emitter
2654    (emit-byte segment #b11011001)
2655    (emit-byte segment #b11101000)))
2656
2657 (define-instruction fldpi(segment)
2658   (:printer floating-point-no ((op #b01011)))
2659   (:emitter
2660    (emit-byte segment #b11011001)
2661    (emit-byte segment #b11101011)))
2662
2663 (define-instruction fldl2t(segment)
2664   (:printer floating-point-no ((op #b01001)))
2665   (:emitter
2666    (emit-byte segment #b11011001)
2667    (emit-byte segment #b11101001)))
2668
2669 (define-instruction fldl2e(segment)
2670   (:printer floating-point-no ((op #b01010)))
2671   (:emitter
2672    (emit-byte segment #b11011001)
2673    (emit-byte segment #b11101010)))
2674
2675 (define-instruction fldlg2(segment)
2676   (:printer floating-point-no ((op #b01100)))
2677   (:emitter
2678    (emit-byte segment #b11011001)
2679    (emit-byte segment #b11101100)))
2680
2681 (define-instruction fldln2(segment)
2682   (:printer floating-point-no ((op #b01101)))
2683   (:emitter
2684    (emit-byte segment #b11011001)
2685    (emit-byte segment #b11101101)))