src/compiler/x86/insts.lisp

   1 ;;;; that part of the description of the x86 instruction set (for
   2 ;;;; 80386 and above) which can live on the cross-compilation host
   3
   4 ;;;; This software is part of the SBCL system. See the README file for
   5 ;;;; more information.
   6 ;;;;
   7 ;;;; This software is derived from the CMU CL system, which was
   8 ;;;; written at Carnegie Mellon University and released into the
   9 ;;;; public domain. The software is in the public domain and is
  10 ;;;; provided with absolutely no warranty. See the COPYING and CREDITS
  11 ;;;; files for more information.
  12
  13 (in-package "SB!VM")
  14 ;;; FIXME: SB!DISASSEM: prefixes are used so widely in this file that
  15 ;;; I wonder whether the separation of the disassembler from the
  16 ;;; virtual machine is valid or adds value.
  17
  18 ;;; Note: In CMU CL, this used to be a call to SET-DISASSEM-PARAMS.
  19 (setf sb!disassem:*disassem-inst-alignment-bytes* 1)
  20
  21 (deftype reg () '(unsigned-byte 3))
  22
  23 (def!constant +default-operand-size+ :dword)
  24 \f
  25 (eval-when (#-sb-xc :compile-toplevel :load-toplevel :execute)
  26
  27 (defun offset-next (value dstate)
  28   (declare (type integer value)
  29            (type sb!disassem:disassem-state dstate))
  30   (+ (sb!disassem:dstate-next-addr dstate) value))
  31
  32 (defparameter *default-address-size*
  33   ;; Actually, :DWORD is the only one really supported.
  34   :dword)
  35
  36 (defparameter *byte-reg-names*
  37   #(al cl dl bl ah ch dh bh))
  38 (defparameter *word-reg-names*
  39   #(ax cx dx bx sp bp si di))
  40 (defparameter *dword-reg-names*
  41   #(eax ecx edx ebx esp ebp esi edi))
  42
  43 (defun print-reg-with-width (value width stream dstate)
  44   (declare (ignore dstate))
  45   (princ (aref (ecase width
  46                  (:byte *byte-reg-names*)
  47                  (:word *word-reg-names*)
  48                  (:dword *dword-reg-names*))
  49                value)
  50          stream)
  51   ;; XXX plus should do some source-var notes
  52   )
  53
  54 (defun print-reg (value stream dstate)
  55   (declare (type reg value)
  56            (type stream stream)
  57            (type sb!disassem:disassem-state dstate))
  58   (print-reg-with-width value
  59                         (sb!disassem:dstate-get-prop dstate 'width)
  60                         stream
  61                         dstate))
  62
  63 (defun print-word-reg (value stream dstate)
  64   (declare (type reg value)
  65            (type stream stream)
  66            (type sb!disassem:disassem-state dstate))
  67   (print-reg-with-width value
  68                         (or (sb!disassem:dstate-get-prop dstate 'word-width)
  69                             +default-operand-size+)
  70                         stream
  71                         dstate))
  72
  73 (defun print-byte-reg (value stream dstate)
  74   (declare (type reg value)
  75            (type stream stream)
  76            (type sb!disassem:disassem-state dstate))
  77   (print-reg-with-width value :byte stream dstate))
  78
  79 (defun print-addr-reg (value stream dstate)
  80   (declare (type reg value)
  81            (type stream stream)
  82            (type sb!disassem:disassem-state dstate))
  83   (print-reg-with-width value *default-address-size* stream dstate))
  84
  85 (defun print-reg/mem (value stream dstate)
  86   (declare (type (or list reg) value)
  87            (type stream stream)
  88            (type sb!disassem:disassem-state dstate))
  89   (if (typep value 'reg)
  90       (print-reg value stream dstate)
  91       (print-mem-access value stream nil dstate)))
  92
  93 ;; Same as print-reg/mem, but prints an explicit size indicator for
  94 ;; memory references.
  95 (defun print-sized-reg/mem (value stream dstate)
  96   (declare (type (or list reg) value)
  97            (type stream stream)
  98            (type sb!disassem:disassem-state dstate))
  99   (if (typep value 'reg)
 100       (print-reg value stream dstate)
 101       (print-mem-access value stream t dstate)))
 102
 103 (defun print-byte-reg/mem (value stream dstate)
 104   (declare (type (or list reg) value)
 105            (type stream stream)
 106            (type sb!disassem:disassem-state dstate))
 107   (if (typep value 'reg)
 108       (print-byte-reg value stream dstate)
 109       (print-mem-access value stream t dstate)))
 110
 111 (defun print-word-reg/mem (value stream dstate)
 112   (declare (type (or list reg) value)
 113            (type stream stream)
 114            (type sb!disassem:disassem-state dstate))
 115   (if (typep value 'reg)
 116       (print-word-reg value stream dstate)
 117       (print-mem-access value stream nil dstate)))
 118
 119 (defun print-label (value stream dstate)
 120   (declare (ignore dstate))
 121   (sb!disassem:princ16 value stream))
 122
 123 ;;; Returns either an integer, meaning a register, or a list of
 124 ;;; (BASE-REG OFFSET INDEX-REG INDEX-SCALE), where any component
 125 ;;; may be missing or nil to indicate that it's not used or has the
 126 ;;; obvious default value (e.g., 1 for the index-scale).
 127 (defun prefilter-reg/mem (value dstate)
 128   (declare (type list value)
 129            (type sb!disassem:disassem-state dstate))
 130   (let ((mod (car value))
 131         (r/m (cadr value)))
 132     (declare (type (unsigned-byte 2) mod)
 133              (type (unsigned-byte 3) r/m))
 134     (cond ((= mod #b11)
 135            ;; registers
 136            r/m)
 137           ((= r/m #b100)
 138            ;; sib byte
 139            (let ((sib (sb!disassem:read-suffix 8 dstate)))
 140              (declare (type (unsigned-byte 8) sib))
 141              (let ((base-reg (ldb (byte 3 0) sib))
 142                    (index-reg (ldb (byte 3 3) sib))
 143                    (index-scale (ldb (byte 2 6) sib)))
 144                (declare (type (unsigned-byte 3) base-reg index-reg)
 145                         (type (unsigned-byte 2) index-scale))
 146                (let* ((offset
 147                        (case mod
 148                          (#b00
 149                           (if (= base-reg #b101)
 150                               (sb!disassem:read-signed-suffix 32 dstate)
 151                               nil))
 152                          (#b01
 153                           (sb!disassem:read-signed-suffix 8 dstate))
 154                          (#b10
 155                           (sb!disassem:read-signed-suffix 32 dstate)))))
 156                  (list (if (and (= mod #b00) (= base-reg #b101)) nil base-reg)
 157                        offset
 158                        (if (= index-reg #b100) nil index-reg)
 159                        (ash 1 index-scale))))))
 160           ((and (= mod #b00) (= r/m #b101))
 161            (list nil (sb!disassem:read-signed-suffix 32 dstate)) )
 162           ((= mod #b00)
 163            (list r/m))
 164           ((= mod #b01)
 165            (list r/m (sb!disassem:read-signed-suffix 8 dstate)))
 166           (t                            ; (= mod #b10)
 167            (list r/m (sb!disassem:read-signed-suffix 32 dstate))))))
 168
 169
 170 ;;; This is a sort of bogus prefilter that just stores the info globally for
 171 ;;; other people to use; it probably never gets printed.
 172 (defun prefilter-width (value dstate)
 173   (setf (sb!disassem:dstate-get-prop dstate 'width)
 174         (if (zerop value)
 175             :byte
 176             (let ((word-width
 177                    ;; set by a prefix instruction
 178                    (or (sb!disassem:dstate-get-prop dstate 'word-width)
 179                        +default-operand-size+)))
 180               (when (not (eql word-width +default-operand-size+))
 181                 ;; Reset it.
 182                 (setf (sb!disassem:dstate-get-prop dstate 'word-width)
 183                       +default-operand-size+))
 184               word-width))))
 185
 186 (defun read-address (value dstate)
 187   (declare (ignore value))              ; always nil anyway
 188   (sb!disassem:read-suffix (width-bits *default-address-size*) dstate))
 189
 190 (defun width-bits (width)
 191   (ecase width
 192     (:byte 8)
 193     (:word 16)
 194     (:dword 32)
 195     (:float 32)
 196     (:double 64)))
 197
 198 ) ; EVAL-WHEN
 199 \f
 200 ;;;; disassembler argument types
 201
 202 (sb!disassem:define-arg-type displacement
 203   :sign-extend t
 204   :use-label #'offset-next
 205   :printer (lambda (value stream dstate)
 206              (sb!disassem:maybe-note-assembler-routine value nil dstate)
 207              (print-label value stream dstate)))
 208
 209 (sb!disassem:define-arg-type accum
 210   :printer (lambda (value stream dstate)
 211              (declare (ignore value)
 212                       (type stream stream)
 213                       (type sb!disassem:disassem-state dstate))
 214              (print-reg 0 stream dstate)))
 215
 216 (sb!disassem:define-arg-type word-accum
 217   :printer (lambda (value stream dstate)
 218              (declare (ignore value)
 219                       (type stream stream)
 220                       (type sb!disassem:disassem-state dstate))
 221              (print-word-reg 0 stream dstate)))
 222
 223 (sb!disassem:define-arg-type reg
 224   :printer #'print-reg)
 225
 226 (sb!disassem:define-arg-type addr-reg
 227   :printer #'print-addr-reg)
 228
 229 (sb!disassem:define-arg-type word-reg
 230   :printer #'print-word-reg)
 231
 232 (sb!disassem:define-arg-type imm-addr
 233   :prefilter #'read-address
 234   :printer #'print-label)
 235
 236 (sb!disassem:define-arg-type imm-data
 237   :prefilter (lambda (value dstate)
 238                (declare (ignore value)) ; always nil anyway
 239                (sb!disassem:read-suffix
 240                 (width-bits (sb!disassem:dstate-get-prop dstate 'width))
 241                 dstate)))
 242
 243 (sb!disassem:define-arg-type signed-imm-data
 244   :prefilter (lambda (value dstate)
 245                (declare (ignore value)) ; always nil anyway
 246                (let ((width (sb!disassem:dstate-get-prop dstate 'width)))
 247                  (sb!disassem:read-signed-suffix (width-bits width) dstate))))
 248
 249 (sb!disassem:define-arg-type signed-imm-byte
 250   :prefilter (lambda (value dstate)
 251                (declare (ignore value)) ; always nil anyway
 252                (sb!disassem:read-signed-suffix 8 dstate)))
 253
 254 (sb!disassem:define-arg-type signed-imm-dword
 255   :prefilter (lambda (value dstate)
 256                (declare (ignore value)) ; always nil anyway
 257                (sb!disassem:read-signed-suffix 32 dstate)))
 258
 259 (sb!disassem:define-arg-type imm-word
 260   :prefilter (lambda (value dstate)
 261                (declare (ignore value)) ; always nil anyway
 262                (let ((width
 263                       (or (sb!disassem:dstate-get-prop dstate 'word-width)
 264                           +default-operand-size+)))
 265                  (sb!disassem:read-suffix (width-bits width) dstate))))
 266
 267 (sb!disassem:define-arg-type signed-imm-word
 268   :prefilter (lambda (value dstate)
 269                (declare (ignore value)) ; always nil anyway
 270                (let ((width
 271                       (or (sb!disassem:dstate-get-prop dstate 'word-width)
 272                           +default-operand-size+)))
 273                  (sb!disassem:read-signed-suffix (width-bits width) dstate))))
 274
 275 ;;; needed for the ret imm16 instruction
 276 (sb!disassem:define-arg-type imm-word-16
 277   :prefilter (lambda (value dstate)
 278                (declare (ignore value)) ; always nil anyway
 279                (sb!disassem:read-suffix 16 dstate)))
 280
 281 (sb!disassem:define-arg-type reg/mem
 282   :prefilter #'prefilter-reg/mem
 283   :printer #'print-reg/mem)
 284 (sb!disassem:define-arg-type sized-reg/mem
 285   ;; Same as reg/mem, but prints an explicit size indicator for
 286   ;; memory references.
 287   :prefilter #'prefilter-reg/mem
 288   :printer #'print-sized-reg/mem)
 289 (sb!disassem:define-arg-type byte-reg/mem
 290   :prefilter #'prefilter-reg/mem
 291   :printer #'print-byte-reg/mem)
 292 (sb!disassem:define-arg-type word-reg/mem
 293   :prefilter #'prefilter-reg/mem
 294   :printer #'print-word-reg/mem)
 295
 296 ;;; added by jrd
 297 (eval-when (#-sb-xc :compile-toplevel :load-toplevel :execute)
 298 (defun print-fp-reg (value stream dstate)
 299   (declare (ignore dstate))
 300   (format stream "FR~D" value))
 301 (defun prefilter-fp-reg (value dstate)
 302   ;; just return it
 303   (declare (ignore dstate))
 304   value)
 305 ) ; EVAL-WHEN
 306 (sb!disassem:define-arg-type fp-reg
 307                              :prefilter #'prefilter-fp-reg
 308                              :printer #'print-fp-reg)
 309
 310 (sb!disassem:define-arg-type width
 311   :prefilter #'prefilter-width
 312   :printer (lambda (value stream dstate)
 313              (if;; (zerop value)
 314                  (or (null value)
 315                      (and (numberp value) (zerop value))) ; zzz jrd
 316                  (princ 'b stream)
 317                  (let ((word-width
 318                         ;; set by a prefix instruction
 319                         (or (sb!disassem:dstate-get-prop dstate 'word-width)
 320                             +default-operand-size+)))
 321                    (princ (schar (symbol-name word-width) 0) stream)))))
 322
 323 (eval-when (:compile-toplevel :load-toplevel :execute)
 324 (defparameter *conditions*
 325   '((:o . 0)
 326     (:no . 1)
 327     (:b . 2) (:nae . 2) (:c . 2)
 328     (:nb . 3) (:ae . 3) (:nc . 3)
 329     (:eq . 4) (:e . 4) (:z . 4)
 330     (:ne . 5) (:nz . 5)
 331     (:be . 6) (:na . 6)
 332     (:nbe . 7) (:a . 7)
 333     (:s . 8)
 334     (:ns . 9)
 335     (:p . 10) (:pe . 10)
 336     (:np . 11) (:po . 11)
 337     (:l . 12) (:nge . 12)
 338     (:nl . 13) (:ge . 13)
 339     (:le . 14) (:ng . 14)
 340     (:nle . 15) (:g . 15)))
 341 (defparameter *condition-name-vec*
 342   (let ((vec (make-array 16 :initial-element nil)))
 343     (dolist (cond *conditions*)
 344       (when (null (aref vec (cdr cond)))
 345         (setf (aref vec (cdr cond)) (car cond))))
 346     vec))
 347 ) ; EVAL-WHEN
 348
 349 ;;; Set assembler parameters. (In CMU CL, this was done with
 350 ;;; a call to a macro DEF-ASSEMBLER-PARAMS.)
 351 (eval-when (:compile-toplevel :load-toplevel :execute)
 352   (setf sb!assem:*assem-scheduler-p* nil))
 353
 354 (sb!disassem:define-arg-type condition-code
 355   :printer *condition-name-vec*)
 356
 357 (defun conditional-opcode (condition)
 358   (cdr (assoc condition *conditions* :test #'eq)))
 359 \f
 360 ;;;; disassembler instruction formats
 361
 362 (eval-when (:compile-toplevel :execute)
 363   (defun swap-if (direction field1 separator field2)
 364     `(:if (,direction :constant 0)
 365           (,field1 ,separator ,field2)
 366           (,field2 ,separator ,field1))))
 367
 368 (sb!disassem:define-instruction-format (byte 8 :default-printer '(:name))
 369   (op    :field (byte 8 0))
 370   ;; optional fields
 371   (accum :type 'accum)
 372   (imm))
 373
 374 (sb!disassem:define-instruction-format (simple 8)
 375   (op    :field (byte 7 1))
 376   (width :field (byte 1 0) :type 'width)
 377   ;; optional fields
 378   (accum :type 'accum)
 379   (imm))
 380
 381 ;;; Same as simple, but with direction bit
 382 (sb!disassem:define-instruction-format (simple-dir 8 :include 'simple)
 383   (op :field (byte 6 2))
 384   (dir :field (byte 1 1)))
 385
 386 ;;; Same as simple, but with the immediate value occurring by default,
 387 ;;; and with an appropiate printer.
 388 (sb!disassem:define-instruction-format (accum-imm 8
 389                                      :include 'simple
 390                                      :default-printer '(:name
 391                                                         :tab accum ", " imm))
 392   (imm :type 'imm-data))
 393
 394 (sb!disassem:define-instruction-format (reg-no-width 8
 395                                      :default-printer '(:name :tab reg))
 396   (op    :field (byte 5 3))
 397   (reg   :field (byte 3 0) :type 'word-reg)
 398   ;; optional fields
 399   (accum :type 'word-accum)
 400   (imm))
 401
 402 ;;; adds a width field to reg-no-width
 403 (sb!disassem:define-instruction-format (reg 8
 404                                         :default-printer '(:name :tab reg))
 405   (op    :field (byte 4 4))
 406   (width :field (byte 1 3) :type 'width)
 407   (reg   :field (byte 3 0) :type 'reg)
 408   ;; optional fields
 409   (accum :type 'accum)
 410   (imm)
 411   )
 412
 413 ;;; Same as reg, but with direction bit
 414 (sb!disassem:define-instruction-format (reg-dir 8 :include 'reg)
 415   (op  :field (byte 3 5))
 416   (dir :field (byte 1 4)))
 417
 418 (sb!disassem:define-instruction-format (two-bytes 16
 419                                         :default-printer '(:name))
 420   (op :fields (list (byte 8 0) (byte 8 8))))
 421
 422 (sb!disassem:define-instruction-format (reg-reg/mem 16
 423                                         :default-printer
 424                                         `(:name :tab reg ", " reg/mem))
 425   (op      :field (byte 7 1))
 426   (width   :field (byte 1 0)    :type 'width)
 427   (reg/mem :fields (list (byte 2 14) (byte 3 8))
 428                                 :type 'reg/mem)
 429   (reg     :field (byte 3 11)   :type 'reg)
 430   ;; optional fields
 431   (imm))
 432
 433 ;;; same as reg-reg/mem, but with direction bit
 434 (sb!disassem:define-instruction-format (reg-reg/mem-dir 16
 435                                         :include 'reg-reg/mem
 436                                         :default-printer
 437                                         `(:name
 438                                           :tab
 439                                           ,(swap-if 'dir 'reg/mem ", " 'reg)))
 440   (op  :field (byte 6 2))
 441   (dir :field (byte 1 1)))
 442
 443 ;;; Same as reg-rem/mem, but uses the reg field as a second op code.
 444 (sb!disassem:define-instruction-format (reg/mem 16
 445                                         :default-printer '(:name :tab reg/mem))
 446   (op      :fields (list (byte 7 1) (byte 3 11)))
 447   (width   :field (byte 1 0)    :type 'width)
 448   (reg/mem :fields (list (byte 2 14) (byte 3 8))
 449                                 :type 'sized-reg/mem)
 450   ;; optional fields
 451   (imm))
 452
 453 ;;; Same as reg/mem, but with the immediate value occurring by default,
 454 ;;; and with an appropiate printer.
 455 (sb!disassem:define-instruction-format (reg/mem-imm 16
 456                                         :include 'reg/mem
 457                                         :default-printer
 458                                         '(:name :tab reg/mem ", " imm))
 459   (reg/mem :type 'sized-reg/mem)
 460   (imm     :type 'imm-data))
 461
 462 ;;; Same as reg/mem, but with using the accumulator in the default printer
 463 (sb!disassem:define-instruction-format
 464     (accum-reg/mem 16
 465      :include 'reg/mem :default-printer '(:name :tab accum ", " reg/mem))
 466   (reg/mem :type 'reg/mem)              ; don't need a size
 467   (accum :type 'accum))
 468
 469 ;;; Same as reg-reg/mem, but with a prefix of #b00001111
 470 (sb!disassem:define-instruction-format (ext-reg-reg/mem 24
 471                                         :default-printer
 472                                         `(:name :tab reg ", " reg/mem))
 473   (prefix  :field (byte 8 0)    :value #b00001111)
 474   (op      :field (byte 7 9))
 475   (width   :field (byte 1 8)    :type 'width)
 476   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 477                                 :type 'reg/mem)
 478   (reg     :field (byte 3 19)   :type 'reg)
 479   ;; optional fields
 480   (imm))
 481
 482 ;;; Same as reg/mem, but with a prefix of #b00001111
 483 (sb!disassem:define-instruction-format (ext-reg/mem 24
 484                                         :default-printer '(:name :tab reg/mem))
 485   (prefix  :field (byte 8 0)    :value #b00001111)
 486   (op      :fields (list (byte 7 9) (byte 3 19)))
 487   (width   :field (byte 1 8)    :type 'width)
 488   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 489                                 :type 'sized-reg/mem)
 490   ;; optional fields
 491   (imm))
 492
 493 (sb!disassem:define-instruction-format (ext-reg/mem-imm 24
 494                                         :include 'ext-reg/mem
 495                                         :default-printer
 496                                         '(:name :tab reg/mem ", " imm))
 497   (imm :type 'imm-data))
 498 \f
 499 ;;;; This section was added by jrd, for fp instructions.
 500
 501 ;;; regular fp inst to/from registers/memory
 502 (sb!disassem:define-instruction-format (floating-point 16
 503                                         :default-printer
 504                                         `(:name :tab reg/mem))
 505   (prefix :field (byte 5 3) :value #b11011)
 506   (op     :fields (list (byte 3 0) (byte 3 11)))
 507   (reg/mem :fields (list (byte 2 14) (byte 3 8)) :type 'reg/mem))
 508
 509 ;;; fp insn to/from fp reg
 510 (sb!disassem:define-instruction-format (floating-point-fp 16
 511                                         :default-printer `(:name :tab fp-reg))
 512   (prefix :field (byte 5 3) :value #b11011)
 513   (suffix :field (byte 2 14) :value #b11)
 514   (op     :fields (list (byte 3 0) (byte 3 11)))
 515   (fp-reg :field (byte 3 8) :type 'fp-reg))
 516
 517 ;;; fp insn to/from fp reg, with the reversed source/destination flag.
 518 (sb!disassem:define-instruction-format
 519  (floating-point-fp-d 16
 520    :default-printer `(:name :tab ,(swap-if 'd "ST0" ", " 'fp-reg)))
 521   (prefix :field (byte 5 3) :value #b11011)
 522   (suffix :field (byte 2 14) :value #b11)
 523   (op     :fields (list (byte 2 0) (byte 3 11)))
 524   (d      :field (byte 1 2))
 525   (fp-reg :field (byte 3 8) :type 'fp-reg))
 526
 527
 528 ;;; (added by (?) pfw)
 529 ;;; fp no operand isns
 530 (sb!disassem:define-instruction-format (floating-point-no 16
 531                                       :default-printer '(:name))
 532   (prefix :field (byte 8  0) :value #b11011001)
 533   (suffix :field (byte 3 13) :value #b111)
 534   (op     :field (byte 5  8)))
 535
 536 (sb!disassem:define-instruction-format (floating-point-3 16
 537                                       :default-printer '(:name))
 538   (prefix :field (byte 5 3) :value #b11011)
 539   (suffix :field (byte 2 14) :value #b11)
 540   (op     :fields (list (byte 3 0) (byte 6 8))))
 541
 542 (sb!disassem:define-instruction-format (floating-point-5 16
 543                                       :default-printer '(:name))
 544   (prefix :field (byte 8  0) :value #b11011011)
 545   (suffix :field (byte 3 13) :value #b111)
 546   (op     :field (byte 5  8)))
 547
 548 (sb!disassem:define-instruction-format (floating-point-st 16
 549                                       :default-printer '(:name))
 550   (prefix :field (byte 8  0) :value #b11011111)
 551   (suffix :field (byte 3 13) :value #b111)
 552   (op     :field (byte 5  8)))
 553
 554 (sb!disassem:define-instruction-format (string-op 8
 555                                      :include 'simple
 556                                      :default-printer '(:name width)))
 557
 558 (sb!disassem:define-instruction-format (short-cond-jump 16)
 559   (op    :field (byte 4 4))
 560   (cc    :field (byte 4 0) :type 'condition-code)
 561   (label :field (byte 8 8) :type 'displacement))
 562
 563 (sb!disassem:define-instruction-format (short-jump 16
 564                                      :default-printer '(:name :tab label))
 565   (const :field (byte 4 4) :value #b1110)
 566   (op    :field (byte 4 0))
 567   (label :field (byte 8 8) :type 'displacement))
 568
 569 (sb!disassem:define-instruction-format (near-cond-jump 16)
 570   (op    :fields (list (byte 8 0) (byte 4 12)) :value '(#b00001111 #b1000))
 571   (cc    :field (byte 4 8) :type 'condition-code)
 572   ;; The disassembler currently doesn't let you have an instruction > 32 bits
 573   ;; long, so we fake it by using a prefilter to read the offset.
 574   (label :type 'displacement
 575          :prefilter (lambda (value dstate)
 576                       (declare (ignore value)) ; always nil anyway
 577                       (sb!disassem:read-signed-suffix 32 dstate))))
 578
 579 (sb!disassem:define-instruction-format (near-jump 8
 580                                      :default-printer '(:name :tab label))
 581   (op    :field (byte 8 0))
 582   ;; The disassembler currently doesn't let you have an instruction > 32 bits
 583   ;; long, so we fake it by using a prefilter to read the address.
 584   (label :type 'displacement
 585          :prefilter (lambda (value dstate)
 586                       (declare (ignore value)) ; always nil anyway
 587                       (sb!disassem:read-signed-suffix 32 dstate))))
 588
 589
 590 (sb!disassem:define-instruction-format (cond-set 24
 591                                      :default-printer '('set cc :tab reg/mem))
 592   (prefix :field (byte 8 0) :value #b00001111)
 593   (op    :field (byte 4 12) :value #b1001)
 594   (cc    :field (byte 4 8) :type 'condition-code)
 595   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 596            :type 'byte-reg/mem)
 597   (reg     :field (byte 3 19)   :value #b000))
 598
 599 (sb!disassem:define-instruction-format (cond-move 24
 600                                      :default-printer
 601                                         '('cmov cc :tab reg ", " reg/mem))
 602   (prefix  :field (byte 8 0)    :value #b00001111)
 603   (op      :field (byte 4 12)   :value #b0100)
 604   (cc      :field (byte 4 8)    :type 'condition-code)
 605   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 606                                 :type 'reg/mem)
 607   (reg     :field (byte 3 19)   :type 'reg))
 608
 609 (sb!disassem:define-instruction-format (enter-format 32
 610                                      :default-printer '(:name
 611                                                         :tab disp
 612                                                         (:unless (:constant 0)
 613                                                           ", " level)))
 614   (op :field (byte 8 0))
 615   (disp :field (byte 16 8))
 616   (level :field (byte 8 24)))
 617
 618 ;;; Single byte instruction with an immediate byte argument.
 619 (sb!disassem:define-instruction-format (byte-imm 16
 620                                      :default-printer '(:name :tab code))
 621  (op :field (byte 8 0))
 622  (code :field (byte 8 8)))
 623 \f
 624 ;;;; primitive emitters
 625
 626 (define-bitfield-emitter emit-word 16
 627   (byte 16 0))
 628
 629 (define-bitfield-emitter emit-dword 32
 630   (byte 32 0))
 631
 632 (define-bitfield-emitter emit-byte-with-reg 8
 633   (byte 5 3) (byte 3 0))
 634
 635 (define-bitfield-emitter emit-mod-reg-r/m-byte 8
 636   (byte 2 6) (byte 3 3) (byte 3 0))
 637
 638 (define-bitfield-emitter emit-sib-byte 8
 639   (byte 2 6) (byte 3 3) (byte 3 0))
 640 \f
 641 ;;;; fixup emitters
 642
 643 (defun emit-absolute-fixup (segment fixup)
 644   (note-fixup segment :absolute fixup)
 645   (let ((offset (fixup-offset fixup)))
 646     (if (label-p offset)
 647         (emit-back-patch segment
 648                          4 ; FIXME: n-word-bytes
 649                          (lambda (segment posn)
 650                            (declare (ignore posn))
 651                            (emit-dword segment
 652                                        (- (+ (component-header-length)
 653                                              (or (label-position offset)
 654                                                  0))
 655                                           other-pointer-lowtag))))
 656         (emit-dword segment (or offset 0)))))
 657
 658 (defun emit-relative-fixup (segment fixup)
 659   (note-fixup segment :relative fixup)
 660   (emit-dword segment (or (fixup-offset fixup) 0)))
 661 \f
 662 ;;;; the effective-address (ea) structure
 663
 664 (defun reg-tn-encoding (tn)
 665   (declare (type tn tn))
 666   (aver (eq (sb-name (sc-sb (tn-sc tn))) 'registers))
 667   (let ((offset (tn-offset tn)))
 668     (logior (ash (logand offset 1) 2)
 669             (ash offset -1))))
 670
 671 (defstruct (ea (:constructor make-ea (size &key base index scale disp))
 672                (:copier nil))
 673   (size nil :type (member :byte :word :dword))
 674   (base nil :type (or tn null))
 675   (index nil :type (or tn null))
 676   (scale 1 :type (member 1 2 4 8))
 677   (disp 0 :type (or (unsigned-byte 32) (signed-byte 32) fixup)))
 678 (def!method print-object ((ea ea) stream)
 679   (cond ((or *print-escape* *print-readably*)
 680          (print-unreadable-object (ea stream :type t)
 681            (format stream
 682                    "~S~@[ base=~S~]~@[ index=~S~]~@[ scale=~S~]~@[ disp=~S~]"
 683                    (ea-size ea)
 684                    (ea-base ea)
 685                    (ea-index ea)
 686                    (let ((scale (ea-scale ea)))
 687                      (if (= scale 1) nil scale))
 688                    (ea-disp ea))))
 689         (t
 690          (format stream "~A PTR [" (symbol-name (ea-size ea)))
 691          (when (ea-base ea)
 692            (write-string (sb!c::location-print-name (ea-base ea)) stream)
 693            (when (ea-index ea)
 694              (write-string "+" stream)))
 695          (when (ea-index ea)
 696            (write-string (sb!c::location-print-name (ea-index ea)) stream))
 697          (unless (= (ea-scale ea) 1)
 698            (format stream "*~A" (ea-scale ea)))
 699          (typecase (ea-disp ea)
 700            (null)
 701            (integer
 702             (format stream "~@D" (ea-disp ea)))
 703            (t
 704             (format stream "+~A" (ea-disp ea))))
 705          (write-char #\] stream))))
 706
 707 (defun emit-ea (segment thing reg &optional allow-constants)
 708   (etypecase thing
 709     (tn
 710      (ecase (sb-name (sc-sb (tn-sc thing)))
 711        (registers
 712         (emit-mod-reg-r/m-byte segment #b11 reg (reg-tn-encoding thing)))
 713        (stack
 714         ;; Convert stack tns into an index off of EBP.
 715         (let ((disp (- (* (1+ (tn-offset thing)) n-word-bytes))))
 716           (cond ((< -128 disp 127)
 717                  (emit-mod-reg-r/m-byte segment #b01 reg #b101)
 718                  (emit-byte segment disp))
 719                 (t
 720                  (emit-mod-reg-r/m-byte segment #b10 reg #b101)
 721                  (emit-dword segment disp)))))
 722        (constant
 723         (unless allow-constants
 724           (error
 725            "Constant TNs can only be directly used in MOV, PUSH, and CMP."))
 726         (emit-mod-reg-r/m-byte segment #b00 reg #b101)
 727         (emit-absolute-fixup segment
 728                              (make-fixup nil
 729                                          :code-object
 730                                          (- (* (tn-offset thing) n-word-bytes)
 731                                             other-pointer-lowtag))))))
 732     (ea
 733      (let* ((base (ea-base thing))
 734             (index (ea-index thing))
 735             (scale (ea-scale thing))
 736             (disp (ea-disp thing))
 737             (mod (cond ((or (null base)
 738                             (and (eql disp 0)
 739                                  (not (= (reg-tn-encoding base) #b101))))
 740                         #b00)
 741                        ((and (fixnump disp) (<= -128 disp 127))
 742                         #b01)
 743                        (t
 744                         #b10)))
 745             (r/m (cond (index #b100)
 746                        ((null base) #b101)
 747                        (t (reg-tn-encoding base)))))
 748        (emit-mod-reg-r/m-byte segment mod reg r/m)
 749        (when (= r/m #b100)
 750          (let ((ss (1- (integer-length scale)))
 751                (index (if (null index)
 752                           #b100
 753                           (let ((index (reg-tn-encoding index)))
 754                             (if (= index #b100)
 755                                 (error "can't index off of ESP")
 756                                 index))))
 757                (base (if (null base)
 758                          #b101
 759                          (reg-tn-encoding base))))
 760            (emit-sib-byte segment ss index base)))
 761        (cond ((= mod #b01)
 762               (emit-byte segment disp))
 763              ((or (= mod #b10) (null base))
 764               (if (fixup-p disp)
 765                   (emit-absolute-fixup segment disp)
 766                   (emit-dword segment disp))))))
 767     (fixup
 768      (emit-mod-reg-r/m-byte segment #b00 reg #b101)
 769      (emit-absolute-fixup segment thing))))
 770
 771 (defun fp-reg-tn-p (thing)
 772   (and (tn-p thing)
 773        (eq (sb-name (sc-sb (tn-sc thing))) 'float-registers)))
 774
 775 ;;; like the above, but for fp-instructions--jrd
 776 (defun emit-fp-op (segment thing op)
 777   (if (fp-reg-tn-p thing)
 778       (emit-byte segment (dpb op (byte 3 3) (dpb (tn-offset thing)
 779                                                  (byte 3 0)
 780                                                  #b11000000)))
 781     (emit-ea segment thing op)))
 782
 783 (defun byte-reg-p (thing)
 784   (and (tn-p thing)
 785        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 786        (member (sc-name (tn-sc thing)) *byte-sc-names*)
 787        t))
 788
 789 (defun byte-ea-p (thing)
 790   (typecase thing
 791     (ea (eq (ea-size thing) :byte))
 792     (tn
 793      (and (member (sc-name (tn-sc thing)) *byte-sc-names*) t))
 794     (t nil)))
 795
 796 (defun word-reg-p (thing)
 797   (and (tn-p thing)
 798        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 799        (member (sc-name (tn-sc thing)) *word-sc-names*)
 800        t))
 801
 802 (defun word-ea-p (thing)
 803   (typecase thing
 804     (ea (eq (ea-size thing) :word))
 805     (tn (and (member (sc-name (tn-sc thing)) *word-sc-names*) t))
 806     (t nil)))
 807
 808 (defun dword-reg-p (thing)
 809   (and (tn-p thing)
 810        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 811        (member (sc-name (tn-sc thing)) *dword-sc-names*)
 812        t))
 813
 814 (defun dword-ea-p (thing)
 815   (typecase thing
 816     (ea (eq (ea-size thing) :dword))
 817     (tn
 818      (and (member (sc-name (tn-sc thing)) *dword-sc-names*) t))
 819     (t nil)))
 820
 821 (defun register-p (thing)
 822   (and (tn-p thing)
 823        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)))
 824
 825 (defun accumulator-p (thing)
 826   (and (register-p thing)
 827        (= (tn-offset thing) 0)))
 828 \f
 829 ;;;; utilities
 830
 831 (def!constant +operand-size-prefix-byte+ #b01100110)
 832
 833 (defun maybe-emit-operand-size-prefix (segment size)
 834   (unless (or (eq size :byte) (eq size +default-operand-size+))
 835     (emit-byte segment +operand-size-prefix-byte+)))
 836
 837 (defun operand-size (thing)
 838   (typecase thing
 839     (tn
 840      ;; FIXME: might as well be COND instead of having to use #. readmacro
 841      ;; to hack up the code
 842      (case (sc-name (tn-sc thing))
 843        (#.*dword-sc-names*
 844         :dword)
 845        (#.*word-sc-names*
 846         :word)
 847        (#.*byte-sc-names*
 848         :byte)
 849        ;; added by jrd: float-registers is a separate size (?)
 850        (#.*float-sc-names*
 851         :float)
 852        (#.*double-sc-names*
 853         :double)
 854        (t
 855         (error "can't tell the size of ~S ~S" thing (sc-name (tn-sc thing))))))
 856     (ea
 857      (ea-size thing))
 858     (t
 859      nil)))
 860
 861 (defun matching-operand-size (dst src)
 862   (let ((dst-size (operand-size dst))
 863         (src-size (operand-size src)))
 864     (if dst-size
 865         (if src-size
 866             (if (eq dst-size src-size)
 867                 dst-size
 868                 (error "size mismatch: ~S is a ~S and ~S is a ~S."
 869                        dst dst-size src src-size))
 870             dst-size)
 871         (if src-size
 872             src-size
 873             (error "can't tell the size of either ~S or ~S" dst src)))))
 874
 875 (defun emit-sized-immediate (segment size value)
 876   (ecase size
 877     (:byte
 878      (emit-byte segment value))
 879     (:word
 880      (emit-word segment value))
 881     (:dword
 882      (emit-dword segment value))))
 883 \f
 884 ;;;; general data transfer
 885
 886 (define-instruction mov (segment dst src)
 887   ;; immediate to register
 888   (:printer reg ((op #b1011) (imm nil :type 'imm-data))
 889             '(:name :tab reg ", " imm))
 890   ;; absolute mem to/from accumulator
 891   (:printer simple-dir ((op #b101000) (imm nil :type 'imm-addr))
 892             `(:name :tab ,(swap-if 'dir 'accum ", " '("[" imm "]"))))
 893   ;; register to/from register/memory
 894   (:printer reg-reg/mem-dir ((op #b100010)))
 895   ;; immediate to register/memory
 896   (:printer reg/mem-imm ((op '(#b1100011 #b000))))
 897
 898   (:emitter
 899    (let ((size (matching-operand-size dst src)))
 900      (maybe-emit-operand-size-prefix segment size)
 901      (cond ((register-p dst)
 902             (cond ((integerp src)
 903                    (emit-byte-with-reg segment
 904                                        (if (eq size :byte)
 905                                            #b10110
 906                                            #b10111)
 907                                        (reg-tn-encoding dst))
 908                    (emit-sized-immediate segment size src))
 909                   ((and (fixup-p src) (accumulator-p dst))
 910                    (emit-byte segment
 911                               (if (eq size :byte)
 912                                   #b10100000
 913                                   #b10100001))
 914                    (emit-absolute-fixup segment src))
 915                   (t
 916                    (emit-byte segment
 917                               (if (eq size :byte)
 918                                   #b10001010
 919                                   #b10001011))
 920                    (emit-ea segment src (reg-tn-encoding dst) t))))
 921            ((and (fixup-p dst) (accumulator-p src))
 922             (emit-byte segment (if (eq size :byte) #b10100010 #b10100011))
 923             (emit-absolute-fixup segment dst))
 924            ((integerp src)
 925             (emit-byte segment (if (eq size :byte) #b11000110 #b11000111))
 926             (emit-ea segment dst #b000)
 927             (emit-sized-immediate segment size src))
 928            ((register-p src)
 929             (emit-byte segment (if (eq size :byte) #b10001000 #b10001001))
 930             (emit-ea segment dst (reg-tn-encoding src)))
 931            ((fixup-p src)
 932             (aver (eq size :dword))
 933             (emit-byte segment #b11000111)
 934             (emit-ea segment dst #b000)
 935             (emit-absolute-fixup segment src))
 936            (t
 937             (error "bogus arguments to MOV: ~S ~S" dst src))))))
 938
 939 (defun emit-move-with-extension (segment dst src opcode)
 940   (aver (register-p dst))
 941   (let ((dst-size (operand-size dst))
 942         (src-size (operand-size src)))
 943     (ecase dst-size
 944       (:word
 945        (aver (eq src-size :byte))
 946        (maybe-emit-operand-size-prefix segment :word)
 947        (emit-byte segment #b00001111)
 948        (emit-byte segment opcode)
 949        (emit-ea segment src (reg-tn-encoding dst)))
 950       (:dword
 951        (ecase src-size
 952          (:byte
 953           (maybe-emit-operand-size-prefix segment :dword)
 954           (emit-byte segment #b00001111)
 955           (emit-byte segment opcode)
 956           (emit-ea segment src (reg-tn-encoding dst)))
 957          (:word
 958           (emit-byte segment #b00001111)
 959           (emit-byte segment (logior opcode 1))
 960           (emit-ea segment src (reg-tn-encoding dst))))))))
 961
 962 (define-instruction movsx (segment dst src)
 963   (:printer ext-reg-reg/mem ((op #b1011111) (reg nil :type 'word-reg)))
 964   (:emitter (emit-move-with-extension segment dst src #b10111110)))
 965
 966 (define-instruction movzx (segment dst src)
 967   (:printer ext-reg-reg/mem ((op #b1011011) (reg nil :type 'word-reg)))
 968   (:emitter (emit-move-with-extension segment dst src #b10110110)))
 969
 970 (define-instruction push (segment src)
 971   ;; register
 972   (:printer reg-no-width ((op #b01010)))
 973   ;; register/memory
 974   (:printer reg/mem ((op '(#b1111111 #b110)) (width 1)))
 975   ;; immediate
 976   (:printer byte ((op #b01101010) (imm nil :type 'signed-imm-byte))
 977             '(:name :tab imm))
 978   (:printer byte ((op #b01101000) (imm nil :type 'imm-word))
 979             '(:name :tab imm))
 980   ;; ### segment registers?
 981
 982   (:emitter
 983    (cond ((integerp src)
 984           (cond ((<= -128 src 127)
 985                  (emit-byte segment #b01101010)
 986                  (emit-byte segment src))
 987                 (t
 988                  (emit-byte segment #b01101000)
 989                  (emit-dword segment src))))
 990          ((fixup-p src)
 991           ;; Interpret the fixup as an immediate dword to push.
 992           (emit-byte segment #b01101000)
 993           (emit-absolute-fixup segment src))
 994          (t
 995           (let ((size (operand-size src)))
 996             (aver (not (eq size :byte)))
 997             (maybe-emit-operand-size-prefix segment size)
 998             (cond ((register-p src)
 999                    (emit-byte-with-reg segment #b01010 (reg-tn-encoding src)))
1000                   (t
1001                    (emit-byte segment #b11111111)
1002                    (emit-ea segment src #b110 t))))))))
1003
1004 (define-instruction pusha (segment)
1005   (:printer byte ((op #b01100000)))
1006   (:emitter
1007    (emit-byte segment #b01100000)))
1008
1009 (define-instruction pop (segment dst)
1010   (:printer reg-no-width ((op #b01011)))
1011   (:printer reg/mem ((op '(#b1000111 #b000)) (width 1)))
1012   (:emitter
1013    (let ((size (operand-size dst)))
1014      (aver (not (eq size :byte)))
1015      (maybe-emit-operand-size-prefix segment size)
1016      (cond ((register-p dst)
1017             (emit-byte-with-reg segment #b01011 (reg-tn-encoding dst)))
1018            (t
1019             (emit-byte segment #b10001111)
1020             (emit-ea segment dst #b000))))))
1021
1022 (define-instruction popa (segment)
1023   (:printer byte ((op #b01100001)))
1024   (:emitter
1025    (emit-byte segment #b01100001)))
1026
1027 (define-instruction xchg (segment operand1 operand2)
1028   ;; Register with accumulator.
1029   (:printer reg-no-width ((op #b10010)) '(:name :tab accum ", " reg))
1030   ;; Register/Memory with Register.
1031   (:printer reg-reg/mem ((op #b1000011)))
1032   (:emitter
1033    (let ((size (matching-operand-size operand1 operand2)))
1034      (maybe-emit-operand-size-prefix segment size)
1035      (labels ((xchg-acc-with-something (acc something)
1036                 (if (and (not (eq size :byte)) (register-p something))
1037                     (emit-byte-with-reg segment
1038                                         #b10010
1039                                         (reg-tn-encoding something))
1040                     (xchg-reg-with-something acc something)))
1041               (xchg-reg-with-something (reg something)
1042                 (emit-byte segment (if (eq size :byte) #b10000110 #b10000111))
1043                 (emit-ea segment something (reg-tn-encoding reg))))
1044        (cond ((accumulator-p operand1)
1045               (xchg-acc-with-something operand1 operand2))
1046              ((accumulator-p operand2)
1047               (xchg-acc-with-something operand2 operand1))
1048              ((register-p operand1)
1049               (xchg-reg-with-something operand1 operand2))
1050              ((register-p operand2)
1051               (xchg-reg-with-something operand2 operand1))
1052              (t
1053               (error "bogus args to XCHG: ~S ~S" operand1 operand2)))))))
1054
1055 (define-instruction lea (segment dst src)
1056   (:printer reg-reg/mem ((op #b1000110) (width 1)))
1057   (:emitter
1058    (aver (dword-reg-p dst))
1059    (emit-byte segment #b10001101)
1060    (emit-ea segment src (reg-tn-encoding dst))))
1061
1062 (define-instruction cmpxchg (segment dst src)
1063   ;; Register/Memory with Register.
1064   (:printer ext-reg-reg/mem ((op #b1011000)) '(:name :tab reg/mem ", " reg))
1065   (:emitter
1066    (aver (register-p src))
1067    (let ((size (matching-operand-size src dst)))
1068      (maybe-emit-operand-size-prefix segment size)
1069      (emit-byte segment #b00001111)
1070      (emit-byte segment (if (eq size :byte) #b10110000 #b10110001))
1071      (emit-ea segment dst (reg-tn-encoding src)))))
1072
1073 \f
1074
1075 (define-instruction fs-segment-prefix (segment)
1076   (:emitter
1077    (emit-byte segment #x64)))
1078
1079 ;;;; flag control instructions
1080
1081 ;;; CLC -- Clear Carry Flag.
1082 (define-instruction clc (segment)
1083   (:printer byte ((op #b11111000)))
1084   (:emitter
1085    (emit-byte segment #b11111000)))
1086
1087 ;;; CLD -- Clear Direction Flag.
1088 (define-instruction cld (segment)
1089   (:printer byte ((op #b11111100)))
1090   (:emitter
1091    (emit-byte segment #b11111100)))
1092
1093 ;;; CLI -- Clear Iterrupt Enable Flag.
1094 (define-instruction cli (segment)
1095   (:printer byte ((op #b11111010)))
1096   (:emitter
1097    (emit-byte segment #b11111010)))
1098
1099 ;;; CMC -- Complement Carry Flag.
1100 (define-instruction cmc (segment)
1101   (:printer byte ((op #b11110101)))
1102   (:emitter
1103    (emit-byte segment #b11110101)))
1104
1105 ;;; LAHF -- Load AH into flags.
1106 (define-instruction lahf (segment)
1107   (:printer byte ((op #b10011111)))
1108   (:emitter
1109    (emit-byte segment #b10011111)))
1110
1111 ;;; POPF -- Pop flags.
1112 (define-instruction popf (segment)
1113   (:printer byte ((op #b10011101)))
1114   (:emitter
1115    (emit-byte segment #b10011101)))
1116
1117 ;;; PUSHF -- push flags.
1118 (define-instruction pushf (segment)
1119   (:printer byte ((op #b10011100)))
1120   (:emitter
1121    (emit-byte segment #b10011100)))
1122
1123 ;;; SAHF -- Store AH into flags.
1124 (define-instruction sahf (segment)
1125   (:printer byte ((op #b10011110)))
1126   (:emitter
1127    (emit-byte segment #b10011110)))
1128
1129 ;;; STC -- Set Carry Flag.
1130 (define-instruction stc (segment)
1131   (:printer byte ((op #b11111001)))
1132   (:emitter
1133    (emit-byte segment #b11111001)))
1134
1135 ;;; STD -- Set Direction Flag.
1136 (define-instruction std (segment)
1137   (:printer byte ((op #b11111101)))
1138   (:emitter
1139    (emit-byte segment #b11111101)))
1140
1141 ;;; STI -- Set Interrupt Enable Flag.
1142 (define-instruction sti (segment)
1143   (:printer byte ((op #b11111011)))
1144   (:emitter
1145    (emit-byte segment #b11111011)))
1146 \f
1147 ;;;; arithmetic
1148
1149 (defun emit-random-arith-inst (name segment dst src opcode
1150                                     &optional allow-constants)
1151   (let ((size (matching-operand-size dst src)))
1152     (maybe-emit-operand-size-prefix segment size)
1153     (cond
1154      ((integerp src)
1155       (cond ((and (not (eq size :byte)) (<= -128 src 127))
1156              (emit-byte segment #b10000011)
1157              (emit-ea segment dst opcode allow-constants)
1158              (emit-byte segment src))
1159             ((accumulator-p dst)
1160              (emit-byte segment
1161                         (dpb opcode
1162                              (byte 3 3)
1163                              (if (eq size :byte)
1164                                  #b00000100
1165                                  #b00000101)))
1166              (emit-sized-immediate segment size src))
1167             (t
1168              (emit-byte segment (if (eq size :byte) #b10000000 #b10000001))
1169              (emit-ea segment dst opcode allow-constants)
1170              (emit-sized-immediate segment size src))))
1171      ((register-p src)
1172       (emit-byte segment
1173                  (dpb opcode
1174                       (byte 3 3)
1175                       (if (eq size :byte) #b00000000 #b00000001)))
1176       (emit-ea segment dst (reg-tn-encoding src) allow-constants))
1177      ((register-p dst)
1178       (emit-byte segment
1179                  (dpb opcode
1180                       (byte 3 3)
1181                       (if (eq size :byte) #b00000010 #b00000011)))
1182       (emit-ea segment src (reg-tn-encoding dst) allow-constants))
1183      (t
1184       (error "bogus operands to ~A" name)))))
1185
1186 (eval-when (:compile-toplevel :execute)
1187   (defun arith-inst-printer-list (subop)
1188     `((accum-imm ((op ,(dpb subop (byte 3 2) #b0000010))))
1189       (reg/mem-imm ((op (#b1000000 ,subop))))
1190       (reg/mem-imm ((op (#b1000001 ,subop))
1191                     (imm nil :type signed-imm-byte)))
1192       (reg-reg/mem-dir ((op ,(dpb subop (byte 3 1) #b000000))))))
1193   )
1194
1195 (define-instruction add (segment dst src)
1196   (:printer-list (arith-inst-printer-list #b000))
1197   (:emitter (emit-random-arith-inst "ADD" segment dst src #b000)))
1198
1199 (define-instruction adc (segment dst src)
1200   (:printer-list (arith-inst-printer-list #b010))
1201   (:emitter (emit-random-arith-inst "ADC" segment dst src #b010)))
1202
1203 (define-instruction sub (segment dst src)
1204   (:printer-list (arith-inst-printer-list #b101))
1205   (:emitter (emit-random-arith-inst "SUB" segment dst src #b101)))
1206
1207 (define-instruction sbb (segment dst src)
1208   (:printer-list (arith-inst-printer-list #b011))
1209   (:emitter (emit-random-arith-inst "SBB" segment dst src #b011)))
1210
1211 (define-instruction cmp (segment dst src)
1212   (:printer-list (arith-inst-printer-list #b111))
1213   (:emitter (emit-random-arith-inst "CMP" segment dst src #b111 t)))
1214
1215 (define-instruction inc (segment dst)
1216   ;; Register.
1217   (:printer reg-no-width ((op #b01000)))
1218   ;; Register/Memory
1219   (:printer reg/mem ((op '(#b1111111 #b000))))
1220   (:emitter
1221    (let ((size (operand-size dst)))
1222      (maybe-emit-operand-size-prefix segment size)
1223      (cond ((and (not (eq size :byte)) (register-p dst))
1224             (emit-byte-with-reg segment #b01000 (reg-tn-encoding dst)))
1225            (t
1226             (emit-byte segment (if (eq size :byte) #b11111110 #b11111111))
1227             (emit-ea segment dst #b000))))))
1228
1229 (define-instruction dec (segment dst)
1230   ;; Register.
1231   (:printer reg-no-width ((op #b01001)))
1232   ;; Register/Memory
1233   (:printer reg/mem ((op '(#b1111111 #b001))))
1234   (:emitter
1235    (let ((size (operand-size dst)))
1236      (maybe-emit-operand-size-prefix segment size)
1237      (cond ((and (not (eq size :byte)) (register-p dst))
1238             (emit-byte-with-reg segment #b01001 (reg-tn-encoding dst)))
1239            (t
1240             (emit-byte segment (if (eq size :byte) #b11111110 #b11111111))
1241             (emit-ea segment dst #b001))))))
1242
1243 (define-instruction neg (segment dst)
1244   (:printer reg/mem ((op '(#b1111011 #b011))))
1245   (:emitter
1246    (let ((size (operand-size dst)))
1247      (maybe-emit-operand-size-prefix segment size)
1248      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1249      (emit-ea segment dst #b011))))
1250
1251 (define-instruction aaa (segment)
1252   (:printer byte ((op #b00110111)))
1253   (:emitter
1254    (emit-byte segment #b00110111)))
1255
1256 (define-instruction aas (segment)
1257   (:printer byte ((op #b00111111)))
1258   (:emitter
1259    (emit-byte segment #b00111111)))
1260
1261 (define-instruction daa (segment)
1262   (:printer byte ((op #b00100111)))
1263   (:emitter
1264    (emit-byte segment #b00100111)))
1265
1266 (define-instruction das (segment)
1267   (:printer byte ((op #b00101111)))
1268   (:emitter
1269    (emit-byte segment #b00101111)))
1270
1271 (define-instruction mul (segment dst src)
1272   (:printer accum-reg/mem ((op '(#b1111011 #b100))))
1273   (:emitter
1274    (let ((size (matching-operand-size dst src)))
1275      (aver (accumulator-p dst))
1276      (maybe-emit-operand-size-prefix segment size)
1277      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1278      (emit-ea segment src #b100))))
1279
1280 (define-instruction imul (segment dst &optional src1 src2)
1281   (:printer accum-reg/mem ((op '(#b1111011 #b101))))
1282   (:printer ext-reg-reg/mem ((op #b1010111)))
1283   (:printer reg-reg/mem ((op #b0110100) (width 1)
1284                          (imm nil :type 'signed-imm-word))
1285             '(:name :tab reg ", " reg/mem ", " imm))
1286   (:printer reg-reg/mem ((op #b0110101) (width 1)
1287                          (imm nil :type 'signed-imm-byte))
1288             '(:name :tab reg ", " reg/mem ", " imm))
1289   (:emitter
1290    (flet ((r/m-with-immed-to-reg (reg r/m immed)
1291             (let* ((size (matching-operand-size reg r/m))
1292                    (sx (and (not (eq size :byte)) (<= -128 immed 127))))
1293               (maybe-emit-operand-size-prefix segment size)
1294               (emit-byte segment (if sx #b01101011 #b01101001))
1295               (emit-ea segment r/m (reg-tn-encoding reg))
1296               (if sx
1297                   (emit-byte segment immed)
1298                   (emit-sized-immediate segment size immed)))))
1299      (cond (src2
1300             (r/m-with-immed-to-reg dst src1 src2))
1301            (src1
1302             (if (integerp src1)
1303                 (r/m-with-immed-to-reg dst dst src1)
1304                 (let ((size (matching-operand-size dst src1)))
1305                   (maybe-emit-operand-size-prefix segment size)
1306                   (emit-byte segment #b00001111)
1307                   (emit-byte segment #b10101111)
1308                   (emit-ea segment src1 (reg-tn-encoding dst)))))
1309            (t
1310             (let ((size (operand-size dst)))
1311               (maybe-emit-operand-size-prefix segment size)
1312               (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1313               (emit-ea segment dst #b101)))))))
1314
1315 (define-instruction div (segment dst src)
1316   (:printer accum-reg/mem ((op '(#b1111011 #b110))))
1317   (:emitter
1318    (let ((size (matching-operand-size dst src)))
1319      (aver (accumulator-p dst))
1320      (maybe-emit-operand-size-prefix segment size)
1321      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1322      (emit-ea segment src #b110))))
1323
1324 (define-instruction idiv (segment dst src)
1325   (:printer accum-reg/mem ((op '(#b1111011 #b111))))
1326   (:emitter
1327    (let ((size (matching-operand-size dst src)))
1328      (aver (accumulator-p dst))
1329      (maybe-emit-operand-size-prefix segment size)
1330      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1331      (emit-ea segment src #b111))))
1332
1333 (define-instruction aad (segment)
1334   (:printer two-bytes ((op '(#b11010101 #b00001010))))
1335   (:emitter
1336    (emit-byte segment #b11010101)
1337    (emit-byte segment #b00001010)))
1338
1339 (define-instruction aam (segment)
1340   (:printer two-bytes ((op '(#b11010100 #b00001010))))
1341   (:emitter
1342    (emit-byte segment #b11010100)
1343    (emit-byte segment #b00001010)))
1344
1345 ;;; CBW -- Convert Byte to Word. AX <- sign_xtnd(AL)
1346 (define-instruction cbw (segment)
1347   (:emitter
1348    (maybe-emit-operand-size-prefix segment :word)
1349    (emit-byte segment #b10011000)))
1350
1351 ;;; CWDE -- Convert Word To Double Word Extened. EAX <- sign_xtnd(AX)
1352 (define-instruction cwde (segment)
1353   (:emitter
1354    (maybe-emit-operand-size-prefix segment :dword)
1355    (emit-byte segment #b10011000)))
1356
1357 ;;; CWD -- Convert Word to Double Word. DX:AX <- sign_xtnd(AX)
1358 (define-instruction cwd (segment)
1359   (:emitter
1360    (maybe-emit-operand-size-prefix segment :word)
1361    (emit-byte segment #b10011001)))
1362
1363 ;;; CDQ -- Convert Double Word to Quad Word. EDX:EAX <- sign_xtnd(EAX)
1364 (define-instruction cdq (segment)
1365   (:printer byte ((op #b10011001)))
1366   (:emitter
1367    (maybe-emit-operand-size-prefix segment :dword)
1368    (emit-byte segment #b10011001)))
1369
1370 (define-instruction xadd (segment dst src)
1371   ;; Register/Memory with Register.
1372   (:printer ext-reg-reg/mem ((op #b1100000)) '(:name :tab reg/mem ", " reg))
1373   (:emitter
1374    (aver (register-p src))
1375    (let ((size (matching-operand-size src dst)))
1376      (maybe-emit-operand-size-prefix segment size)
1377      (emit-byte segment #b00001111)
1378      (emit-byte segment (if (eq size :byte) #b11000000 #b11000001))
1379      (emit-ea segment dst (reg-tn-encoding src)))))
1380
1381 \f
1382 ;;;; logic
1383
1384 (defun emit-shift-inst (segment dst amount opcode)
1385   (let ((size (operand-size dst)))
1386     (maybe-emit-operand-size-prefix segment size)
1387     (multiple-value-bind (major-opcode immed)
1388         (case amount
1389           (:cl (values #b11010010 nil))
1390           (1 (values #b11010000 nil))
1391           (t (values #b11000000 t)))
1392       (emit-byte segment
1393                  (if (eq size :byte) major-opcode (logior major-opcode 1)))
1394       (emit-ea segment dst opcode)
1395       (when immed
1396         (emit-byte segment amount)))))
1397
1398 (eval-when (:compile-toplevel :execute)
1399   (defun shift-inst-printer-list (subop)
1400     `((reg/mem ((op (#b1101000 ,subop)))
1401                (:name :tab reg/mem ", 1"))
1402       (reg/mem ((op (#b1101001 ,subop)))
1403                (:name :tab reg/mem ", " 'cl))
1404       (reg/mem-imm ((op (#b1100000 ,subop))
1405                     (imm nil :type signed-imm-byte))))))
1406
1407 (define-instruction rol (segment dst amount)
1408   (:printer-list
1409    (shift-inst-printer-list #b000))
1410   (:emitter
1411    (emit-shift-inst segment dst amount #b000)))
1412
1413 (define-instruction ror (segment dst amount)
1414   (:printer-list
1415    (shift-inst-printer-list #b001))
1416   (:emitter
1417    (emit-shift-inst segment dst amount #b001)))
1418
1419 (define-instruction rcl (segment dst amount)
1420   (:printer-list
1421    (shift-inst-printer-list #b010))
1422   (:emitter
1423    (emit-shift-inst segment dst amount #b010)))
1424
1425 (define-instruction rcr (segment dst amount)
1426   (:printer-list
1427    (shift-inst-printer-list #b011))
1428   (:emitter
1429    (emit-shift-inst segment dst amount #b011)))
1430
1431 (define-instruction shl (segment dst amount)
1432   (:printer-list
1433    (shift-inst-printer-list #b100))
1434   (:emitter
1435    (emit-shift-inst segment dst amount #b100)))
1436
1437 (define-instruction shr (segment dst amount)
1438   (:printer-list
1439    (shift-inst-printer-list #b101))
1440   (:emitter
1441    (emit-shift-inst segment dst amount #b101)))
1442
1443 (define-instruction sar (segment dst amount)
1444   (:printer-list
1445    (shift-inst-printer-list #b111))
1446   (:emitter
1447    (emit-shift-inst segment dst amount #b111)))
1448
1449 (defun emit-double-shift (segment opcode dst src amt)
1450   (let ((size (matching-operand-size dst src)))
1451     (when (eq size :byte)
1452       (error "Double shifts can only be used with words."))
1453     (maybe-emit-operand-size-prefix segment size)
1454     (emit-byte segment #b00001111)
1455     (emit-byte segment (dpb opcode (byte 1 3)
1456                             (if (eq amt :cl) #b10100101 #b10100100)))
1457     #+nil
1458     (emit-ea segment dst src)
1459     (emit-ea segment dst (reg-tn-encoding src)) ; pw tries this
1460     (unless (eq amt :cl)
1461       (emit-byte segment amt))))
1462
1463 (eval-when (:compile-toplevel :execute)
1464   (defun double-shift-inst-printer-list (op)
1465     `(#+nil
1466       (ext-reg-reg/mem-imm ((op ,(logior op #b100))
1467                             (imm nil :type signed-imm-byte)))
1468       (ext-reg-reg/mem ((op ,(logior op #b101)))
1469          (:name :tab reg/mem ", " 'cl)))))
1470
1471 (define-instruction shld (segment dst src amt)
1472   (:declare (type (or (member :cl) (mod 32)) amt))
1473   (:printer-list (double-shift-inst-printer-list #b10100000))
1474   (:emitter
1475    (emit-double-shift segment #b0 dst src amt)))
1476
1477 (define-instruction shrd (segment dst src amt)
1478   (:declare (type (or (member :cl) (mod 32)) amt))
1479   (:printer-list (double-shift-inst-printer-list #b10101000))
1480   (:emitter
1481    (emit-double-shift segment #b1 dst src amt)))
1482
1483 (define-instruction and (segment dst src)
1484   (:printer-list
1485    (arith-inst-printer-list #b100))
1486   (:emitter
1487    (emit-random-arith-inst "AND" segment dst src #b100)))
1488
1489 (define-instruction test (segment this that)
1490   (:printer accum-imm ((op #b1010100)))
1491   (:printer reg/mem-imm ((op '(#b1111011 #b000))))
1492   (:printer reg-reg/mem ((op #b1000010)))
1493   (:emitter
1494    (let ((size (matching-operand-size this that)))
1495      (maybe-emit-operand-size-prefix segment size)
1496      (flet ((test-immed-and-something (immed something)
1497               (cond ((accumulator-p something)
1498                      (emit-byte segment
1499                                 (if (eq size :byte) #b10101000 #b10101001))
1500                      (emit-sized-immediate segment size immed))
1501                     (t
1502                      (emit-byte segment
1503                                 (if (eq size :byte) #b11110110 #b11110111))
1504                      (emit-ea segment something #b000)
1505                      (emit-sized-immediate segment size immed))))
1506             (test-reg-and-something (reg something)
1507               (emit-byte segment (if (eq size :byte) #b10000100 #b10000101))
1508               (emit-ea segment something (reg-tn-encoding reg))))
1509        (cond ((integerp that)
1510               (test-immed-and-something that this))
1511              ((integerp this)
1512               (test-immed-and-something this that))
1513              ((register-p this)
1514               (test-reg-and-something this that))
1515              ((register-p that)
1516               (test-reg-and-something that this))
1517              (t
1518               (error "bogus operands for TEST: ~S and ~S" this that)))))))
1519
1520 (define-instruction or (segment dst src)
1521   (:printer-list
1522    (arith-inst-printer-list #b001))
1523   (:emitter
1524    (emit-random-arith-inst "OR" segment dst src #b001)))
1525
1526 (define-instruction xor (segment dst src)
1527   (:printer-list
1528    (arith-inst-printer-list #b110))
1529   (:emitter
1530    (emit-random-arith-inst "XOR" segment dst src #b110)))
1531
1532 (define-instruction not (segment dst)
1533   (:printer reg/mem ((op '(#b1111011 #b010))))
1534   (:emitter
1535    (let ((size (operand-size dst)))
1536      (maybe-emit-operand-size-prefix segment size)
1537      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1538      (emit-ea segment dst #b010))))
1539 \f
1540 ;;;; string manipulation
1541
1542 (define-instruction cmps (segment size)
1543   (:printer string-op ((op #b1010011)))
1544   (:emitter
1545    (maybe-emit-operand-size-prefix segment size)
1546    (emit-byte segment (if (eq size :byte) #b10100110 #b10100111))))
1547
1548 (define-instruction ins (segment acc)
1549   (:printer string-op ((op #b0110110)))
1550   (:emitter
1551    (let ((size (operand-size acc)))
1552      (aver (accumulator-p acc))
1553      (maybe-emit-operand-size-prefix segment size)
1554      (emit-byte segment (if (eq size :byte) #b01101100 #b01101101)))))
1555
1556 (define-instruction lods (segment acc)
1557   (:printer string-op ((op #b1010110)))
1558   (:emitter
1559    (let ((size (operand-size acc)))
1560      (aver (accumulator-p acc))
1561      (maybe-emit-operand-size-prefix segment size)
1562      (emit-byte segment (if (eq size :byte) #b10101100 #b10101101)))))
1563
1564 (define-instruction movs (segment size)
1565   (:printer string-op ((op #b1010010)))
1566   (:emitter
1567    (maybe-emit-operand-size-prefix segment size)
1568    (emit-byte segment (if (eq size :byte) #b10100100 #b10100101))))
1569
1570 (define-instruction outs (segment acc)
1571   (:printer string-op ((op #b0110111)))
1572   (:emitter
1573    (let ((size (operand-size acc)))
1574      (aver (accumulator-p acc))
1575      (maybe-emit-operand-size-prefix segment size)
1576      (emit-byte segment (if (eq size :byte) #b01101110 #b01101111)))))
1577
1578 (define-instruction scas (segment acc)
1579   (:printer string-op ((op #b1010111)))
1580   (:emitter
1581    (let ((size (operand-size acc)))
1582      (aver (accumulator-p acc))
1583      (maybe-emit-operand-size-prefix segment size)
1584      (emit-byte segment (if (eq size :byte) #b10101110 #b10101111)))))
1585
1586 (define-instruction stos (segment acc)
1587   (:printer string-op ((op #b1010101)))
1588   (:emitter
1589    (let ((size (operand-size acc)))
1590      (aver (accumulator-p acc))
1591      (maybe-emit-operand-size-prefix segment size)
1592      (emit-byte segment (if (eq size :byte) #b10101010 #b10101011)))))
1593
1594 (define-instruction xlat (segment)
1595   (:printer byte ((op #b11010111)))
1596   (:emitter
1597    (emit-byte segment #b11010111)))
1598
1599 (define-instruction rep (segment)
1600   (:emitter
1601    (emit-byte segment #b11110010)))
1602
1603 (define-instruction repe (segment)
1604   (:printer byte ((op #b11110011)))
1605   (:emitter
1606    (emit-byte segment #b11110011)))
1607
1608 (define-instruction repne (segment)
1609   (:printer byte ((op #b11110010)))
1610   (:emitter
1611    (emit-byte segment #b11110010)))
1612
1613 \f
1614 ;;;; bit manipulation
1615
1616 (define-instruction bsf (segment dst src)
1617   (:printer ext-reg-reg/mem ((op #b1011110) (width 0)))
1618   (:emitter
1619    (let ((size (matching-operand-size dst src)))
1620      (when (eq size :byte)
1621        (error "can't scan bytes: ~S" src))
1622      (maybe-emit-operand-size-prefix segment size)
1623      (emit-byte segment #b00001111)
1624      (emit-byte segment #b10111100)
1625      (emit-ea segment src (reg-tn-encoding dst)))))
1626
1627 (define-instruction bsr (segment dst src)
1628   (:printer ext-reg-reg/mem ((op #b1011110) (width 1)))
1629   (:emitter
1630    (let ((size (matching-operand-size dst src)))
1631      (when (eq size :byte)
1632        (error "can't scan bytes: ~S" src))
1633      (maybe-emit-operand-size-prefix segment size)
1634      (emit-byte segment #b00001111)
1635      (emit-byte segment #b10111101)
1636      (emit-ea segment src (reg-tn-encoding dst)))))
1637
1638 (defun emit-bit-test-and-mumble (segment src index opcode)
1639   (let ((size (operand-size src)))
1640     (when (eq size :byte)
1641       (error "can't scan bytes: ~S" src))
1642     (maybe-emit-operand-size-prefix segment size)
1643     (emit-byte segment #b00001111)
1644     (cond ((integerp index)
1645            (emit-byte segment #b10111010)
1646            (emit-ea segment src opcode)
1647            (emit-byte segment index))
1648           (t
1649            (emit-byte segment (dpb opcode (byte 3 3) #b10000011))
1650            (emit-ea segment src (reg-tn-encoding index))))))
1651
1652 (eval-when (:compile-toplevel :execute)
1653   (defun bit-test-inst-printer-list (subop)
1654     `((ext-reg/mem-imm ((op (#b1011101 ,subop))
1655                         (reg/mem nil :type word-reg/mem)
1656                         (imm nil :type imm-data)
1657                         (width 0)))
1658       (ext-reg-reg/mem ((op ,(dpb subop (byte 3 2) #b1000001))
1659                         (width 1))
1660                        (:name :tab reg/mem ", " reg)))))
1661
1662 (define-instruction bt (segment src index)
1663   (:printer-list (bit-test-inst-printer-list #b100))
1664   (:emitter
1665    (emit-bit-test-and-mumble segment src index #b100)))
1666
1667 (define-instruction btc (segment src index)
1668   (:printer-list (bit-test-inst-printer-list #b111))
1669   (:emitter
1670    (emit-bit-test-and-mumble segment src index #b111)))
1671
1672 (define-instruction btr (segment src index)
1673   (:printer-list (bit-test-inst-printer-list #b110))
1674   (:emitter
1675    (emit-bit-test-and-mumble segment src index #b110)))
1676
1677 (define-instruction bts (segment src index)
1678   (:printer-list (bit-test-inst-printer-list #b101))
1679   (:emitter
1680    (emit-bit-test-and-mumble segment src index #b101)))
1681
1682 \f
1683 ;;;; control transfer
1684
1685 (define-instruction call (segment where)
1686   (:printer near-jump ((op #b11101000)))
1687   (:printer reg/mem ((op '(#b1111111 #b010)) (width 1)))
1688   (:emitter
1689    (typecase where
1690      (label
1691       (emit-byte segment #b11101000)
1692       (emit-back-patch segment
1693                        4
1694                        (lambda (segment posn)
1695                          (emit-dword segment
1696                                      (- (label-position where)
1697                                         (+ posn 4))))))
1698      (fixup
1699       (emit-byte segment #b11101000)
1700       (emit-relative-fixup segment where))
1701      (t
1702       (emit-byte segment #b11111111)
1703       (emit-ea segment where #b010)))))
1704
1705 (defun emit-byte-displacement-backpatch (segment target)
1706   (emit-back-patch segment
1707                    1
1708                    (lambda (segment posn)
1709                      (let ((disp (- (label-position target) (1+ posn))))
1710                        (aver (<= -128 disp 127))
1711                        (emit-byte segment disp)))))
1712
1713 (define-instruction jmp (segment cond &optional where)
1714   ;; conditional jumps
1715   (:printer short-cond-jump ((op #b0111)) '('j cc :tab label))
1716   (:printer near-cond-jump () '('j cc :tab label))
1717   ;; unconditional jumps
1718   (:printer short-jump ((op #b1011)))
1719   (:printer near-jump ((op #b11101001)) )
1720   (:printer reg/mem ((op '(#b1111111 #b100)) (width 1)))
1721   (:emitter
1722    (cond (where
1723           (emit-chooser
1724            segment 6 2
1725            (lambda (segment posn delta-if-after)
1726              (let ((disp (- (label-position where posn delta-if-after)
1727                             (+ posn 2))))
1728                (when (<= -128 disp 127)
1729                  (emit-byte segment
1730                             (dpb (conditional-opcode cond)
1731                                  (byte 4 0)
1732                                  #b01110000))
1733                  (emit-byte-displacement-backpatch segment where)
1734                  t)))
1735            (lambda (segment posn)
1736              (let ((disp (- (label-position where) (+ posn 6))))
1737                (emit-byte segment #b00001111)
1738                (emit-byte segment
1739                           (dpb (conditional-opcode cond)
1740                                (byte 4 0)
1741                                #b10000000))
1742                (emit-dword segment disp)))))
1743          ((label-p (setq where cond))
1744           (emit-chooser
1745            segment 5 0
1746            (lambda (segment posn delta-if-after)
1747              (let ((disp (- (label-position where posn delta-if-after)
1748                             (+ posn 2))))
1749                (when (<= -128 disp 127)
1750                  (emit-byte segment #b11101011)
1751                  (emit-byte-displacement-backpatch segment where)
1752                  t)))
1753            (lambda (segment posn)
1754              (let ((disp (- (label-position where) (+ posn 5))))
1755                (emit-byte segment #b11101001)
1756                (emit-dword segment disp)))))
1757          ((fixup-p where)
1758           (emit-byte segment #b11101001)
1759           (emit-relative-fixup segment where))
1760          (t
1761           (unless (or (ea-p where) (tn-p where))
1762                   (error "don't know what to do with ~A" where))
1763           (emit-byte segment #b11111111)
1764           (emit-ea segment where #b100)))))
1765
1766 (define-instruction jmp-short (segment label)
1767   (:emitter
1768    (emit-byte segment #b11101011)
1769    (emit-byte-displacement-backpatch segment label)))
1770
1771 (define-instruction ret (segment &optional stack-delta)
1772   (:printer byte ((op #b11000011)))
1773   (:printer byte ((op #b11000010) (imm nil :type 'imm-word-16))
1774             '(:name :tab imm))
1775   (:emitter
1776    (cond (stack-delta
1777           (emit-byte segment #b11000010)
1778           (emit-word segment stack-delta))
1779          (t
1780           (emit-byte segment #b11000011)))))
1781
1782 (define-instruction jecxz (segment target)
1783   (:printer short-jump ((op #b0011)))
1784   (:emitter
1785    (emit-byte segment #b11100011)
1786    (emit-byte-displacement-backpatch segment target)))
1787
1788 (define-instruction loop (segment target)
1789   (:printer short-jump ((op #b0010)))
1790   (:emitter
1791    (emit-byte segment #b11100010)       ; pfw this was 11100011, or jecxz!!!!
1792    (emit-byte-displacement-backpatch segment target)))
1793
1794 (define-instruction loopz (segment target)
1795   (:printer short-jump ((op #b0001)))
1796   (:emitter
1797    (emit-byte segment #b11100001)
1798    (emit-byte-displacement-backpatch segment target)))
1799
1800 (define-instruction loopnz (segment target)
1801   (:printer short-jump ((op #b0000)))
1802   (:emitter
1803    (emit-byte segment #b11100000)
1804    (emit-byte-displacement-backpatch segment target)))
1805 \f
1806 ;;;; conditional move
1807 (define-instruction cmov (segment cond dst src)
1808   (:printer cond-move ())
1809   (:emitter
1810    (aver (register-p dst))
1811    (let ((size (matching-operand-size dst src)))
1812      (aver (or (eq size :word) (eq size :dword)))
1813      (maybe-emit-operand-size-prefix segment size))
1814    (emit-byte segment #b00001111)
1815    (emit-byte segment (dpb (conditional-opcode cond) (byte 4 0) #b01000000))
1816    (emit-ea segment src (reg-tn-encoding dst))))
1817
1818 ;;;; conditional byte set
1819
1820 (define-instruction set (segment dst cond)
1821   (:printer cond-set ())
1822   (:emitter
1823    (emit-byte segment #b00001111)
1824    (emit-byte segment (dpb (conditional-opcode cond) (byte 4 0) #b10010000))
1825    (emit-ea segment dst #b000)))
1826 \f
1827 ;;;; enter/leave
1828
1829 (define-instruction enter (segment disp &optional (level 0))
1830   (:declare (type (unsigned-byte 16) disp)
1831             (type (unsigned-byte 8) level))
1832   (:printer enter-format ((op #b11001000)))
1833   (:emitter
1834    (emit-byte segment #b11001000)
1835    (emit-word segment disp)
1836    (emit-byte segment level)))
1837
1838 (define-instruction leave (segment)
1839   (:printer byte ((op #b11001001)))
1840   (:emitter
1841    (emit-byte segment #b11001001)))
1842 \f
1843 ;;;; interrupt instructions
1844
1845 (defun snarf-error-junk (sap offset &optional length-only)
1846   (let* ((length (sb!sys:sap-ref-8 sap offset))
1847          (vector (make-array length :element-type '(unsigned-byte 8))))
1848     (declare (type sb!sys:system-area-pointer sap)
1849              (type (unsigned-byte 8) length)
1850              (type (simple-array (unsigned-byte 8) (*)) vector))
1851     (cond (length-only
1852            (values 0 (1+ length) nil nil))
1853           (t
1854            (sb!kernel:copy-from-system-area sap (* n-byte-bits (1+ offset))
1855                                             vector (* n-word-bits
1856                                                       vector-data-offset)
1857                                             (* length n-byte-bits))
1858            (collect ((sc-offsets)
1859                      (lengths))
1860              (lengths 1)                ; the length byte
1861              (let* ((index 0)
1862                     (error-number (sb!c:read-var-integer vector index)))
1863                (lengths index)
1864                (loop
1865                  (when (>= index length)
1866                    (return))
1867                  (let ((old-index index))
1868                    (sc-offsets (sb!c:read-var-integer vector index))
1869                    (lengths (- index old-index))))
1870                (values error-number
1871                        (1+ length)
1872                        (sc-offsets)
1873                        (lengths))))))))
1874
1875 #|
1876 (defmacro break-cases (breaknum &body cases)
1877   (let ((bn-temp (gensym)))
1878     (collect ((clauses))
1879       (dolist (case cases)
1880         (clauses `((= ,bn-temp ,(car case)) ,@(cdr case))))
1881       `(let ((,bn-temp ,breaknum))
1882          (cond ,@(clauses))))))
1883 |#
1884
1885 (defun break-control (chunk inst stream dstate)
1886   (declare (ignore inst))
1887   (flet ((nt (x) (if stream (sb!disassem:note x dstate))))
1888     ;; FIXME: Make sure that BYTE-IMM-CODE is defined. The genesis
1889     ;; map has it undefined; and it should be easier to look in the target
1890     ;; Lisp (with (DESCRIBE 'BYTE-IMM-CODE)) than to definitively deduce
1891     ;; from first principles whether it's defined in some way that genesis
1892     ;; can't grok.
1893     (case (byte-imm-code chunk dstate)
1894       (#.error-trap
1895        (nt "error trap")
1896        (sb!disassem:handle-break-args #'snarf-error-junk stream dstate))
1897       (#.cerror-trap
1898        (nt "cerror trap")
1899        (sb!disassem:handle-break-args #'snarf-error-junk stream dstate))
1900       (#.breakpoint-trap
1901        (nt "breakpoint trap"))
1902       (#.pending-interrupt-trap
1903        (nt "pending interrupt trap"))
1904       (#.halt-trap
1905        (nt "halt trap"))
1906       (#.fun-end-breakpoint-trap
1907        (nt "function end breakpoint trap")))))
1908
1909 (define-instruction break (segment code)
1910   (:declare (type (unsigned-byte 8) code))
1911   (:printer byte-imm ((op #b11001100)) '(:name :tab code)
1912             :control #'break-control)
1913   (:emitter
1914    (emit-byte segment #b11001100)
1915    (emit-byte segment code)))
1916
1917 (define-instruction int (segment number)
1918   (:declare (type (unsigned-byte 8) number))
1919   (:printer byte-imm ((op #b11001101)))
1920   (:emitter
1921    (etypecase number
1922      ((member 3)
1923       (emit-byte segment #b11001100))
1924      ((unsigned-byte 8)
1925       (emit-byte segment #b11001101)
1926       (emit-byte segment number)))))
1927
1928 (define-instruction into (segment)
1929   (:printer byte ((op #b11001110)))
1930   (:emitter
1931    (emit-byte segment #b11001110)))
1932
1933 (define-instruction bound (segment reg bounds)
1934   (:emitter
1935    (let ((size (matching-operand-size reg bounds)))
1936      (when (eq size :byte)
1937        (error "can't bounds-test bytes: ~S" reg))
1938      (maybe-emit-operand-size-prefix segment size)
1939      (emit-byte segment #b01100010)
1940      (emit-ea segment bounds (reg-tn-encoding reg)))))
1941
1942 (define-instruction iret (segment)
1943   (:printer byte ((op #b11001111)))
1944   (:emitter
1945    (emit-byte segment #b11001111)))
1946 \f
1947 ;;;; processor control
1948
1949 (define-instruction hlt (segment)
1950   (:printer byte ((op #b11110100)))
1951   (:emitter
1952    (emit-byte segment #b11110100)))
1953
1954 (define-instruction nop (segment)
1955   (:printer byte ((op #b10010000)))
1956   (:emitter
1957    (emit-byte segment #b10010000)))
1958
1959 (define-instruction wait (segment)
1960   (:printer byte ((op #b10011011)))
1961   (:emitter
1962    (emit-byte segment #b10011011)))
1963
1964 (define-instruction lock (segment)
1965   (:printer byte ((op #b11110000)))
1966   (:emitter
1967    (emit-byte segment #b11110000)))
1968 \f
1969 ;;;; miscellaneous hackery
1970
1971 (define-instruction byte (segment byte)
1972   (:emitter
1973    (emit-byte segment byte)))
1974
1975 (define-instruction word (segment word)
1976   (:emitter
1977    (emit-word segment word)))
1978
1979 (define-instruction dword (segment dword)
1980   (:emitter
1981    (emit-dword segment dword)))
1982
1983 (defun emit-header-data (segment type)
1984   (emit-back-patch segment
1985                    4
1986                    (lambda (segment posn)
1987                      (emit-dword segment
1988                                  (logior type
1989                                          (ash (+ posn
1990                                                  (component-header-length))
1991                                               (- n-widetag-bits
1992                                                  word-shift)))))))
1993
1994 (define-instruction simple-fun-header-word (segment)
1995   (:emitter
1996    (emit-header-data segment simple-fun-header-widetag)))
1997
1998 (define-instruction lra-header-word (segment)
1999   (:emitter
2000    (emit-header-data segment return-pc-header-widetag)))
2001 \f
2002 ;;;; fp instructions
2003 ;;;;
2004 ;;;; FIXME: This section said "added by jrd", which should end up in CREDITS.
2005 ;;;;
2006 ;;;; Note: We treat the single-precision and double-precision variants
2007 ;;;; as separate instructions.
2008
2009 ;;; Load single to st(0).
2010 (define-instruction fld (segment source)
2011   (:printer floating-point ((op '(#b001 #b000))))
2012   (:emitter
2013     (emit-byte segment #b11011001)
2014     (emit-fp-op segment source #b000)))
2015
2016 ;;; Load double to st(0).
2017 (define-instruction fldd (segment source)
2018   (:printer floating-point ((op '(#b101 #b000))))
2019   (:printer floating-point-fp ((op '(#b001 #b000))))
2020   (:emitter
2021    (if (fp-reg-tn-p source)
2022        (emit-byte segment #b11011001)
2023      (emit-byte segment #b11011101))
2024     (emit-fp-op segment source #b000)))
2025
2026 ;;; Load long to st(0).
2027 (define-instruction fldl (segment source)
2028   (:printer floating-point ((op '(#b011 #b101))))
2029   (:emitter
2030     (emit-byte segment #b11011011)
2031     (emit-fp-op segment source #b101)))
2032
2033 ;;; Store single from st(0).
2034 (define-instruction fst (segment dest)
2035   (:printer floating-point ((op '(#b001 #b010))))
2036   (:emitter
2037     (cond ((fp-reg-tn-p dest)
2038            (emit-byte segment #b11011101)
2039            (emit-fp-op segment dest #b010))
2040           (t
2041            (emit-byte segment #b11011001)
2042            (emit-fp-op segment dest #b010)))))
2043
2044 ;;; Store double from st(0).
2045 (define-instruction fstd (segment dest)
2046   (:printer floating-point ((op '(#b101 #b010))))
2047   (:printer floating-point-fp ((op '(#b101 #b010))))
2048   (:emitter
2049    (cond ((fp-reg-tn-p dest)
2050           (emit-byte segment #b11011101)
2051           (emit-fp-op segment dest #b010))
2052          (t
2053           (emit-byte segment #b11011101)
2054           (emit-fp-op segment dest #b010)))))
2055
2056 ;;; Arithmetic ops are all done with at least one operand at top of
2057 ;;; stack. The other operand is is another register or a 32/64 bit
2058 ;;; memory loc.
2059
2060 ;;; dtc: I've tried to follow the Intel ASM386 conventions, but note
2061 ;;; that these conflict with the Gdb conventions for binops. To reduce
2062 ;;; the confusion I've added comments showing the mathamatical
2063 ;;; operation and the two syntaxes. By the ASM386 convention the
2064 ;;; instruction syntax is:
2065 ;;;
2066 ;;;      Fop Source
2067 ;;; or   Fop Destination, Source
2068 ;;;
2069 ;;; If only one operand is given then it is the source and the
2070 ;;; destination is ST(0). There are reversed forms of the fsub and
2071 ;;; fdiv instructions inducated by an 'R' suffix.
2072 ;;;
2073 ;;; The mathematical operation for the non-reverse form is always:
2074 ;;;     destination = destination op source
2075 ;;;
2076 ;;; For the reversed form it is:
2077 ;;;     destination = source op destination
2078 ;;;
2079 ;;; The instructions below only accept one operand at present which is
2080 ;;; usually the source. I've hack in extra instructions to implement
2081 ;;; the fops with a ST(i) destination, these have a -sti suffix and
2082 ;;; the operand is the destination with the source being ST(0).
2083
2084 ;;; Add single:
2085 ;;;   st(0) = st(0) + memory or st(i).
2086 (define-instruction fadd (segment source)
2087   (:printer floating-point ((op '(#b000 #b000))))
2088   (:emitter
2089     (emit-byte segment #b11011000)
2090     (emit-fp-op segment source #b000)))
2091
2092 ;;; Add double:
2093 ;;;   st(0) = st(0) + memory or st(i).
2094 (define-instruction faddd (segment source)
2095   (:printer floating-point ((op '(#b100 #b000))))
2096   (:printer floating-point-fp ((op '(#b000 #b000))))
2097   (:emitter
2098    (if (fp-reg-tn-p source)
2099        (emit-byte segment #b11011000)
2100      (emit-byte segment #b11011100))
2101    (emit-fp-op segment source #b000)))
2102
2103 ;;; Add double destination st(i):
2104 ;;;   st(i) = st(0) + st(i).
2105 (define-instruction fadd-sti (segment destination)
2106   (:printer floating-point-fp ((op '(#b100 #b000))))
2107   (:emitter
2108    (aver (fp-reg-tn-p destination))
2109    (emit-byte segment #b11011100)
2110    (emit-fp-op segment destination #b000)))
2111 ;;; with pop
2112 (define-instruction faddp-sti (segment destination)
2113   (:printer floating-point-fp ((op '(#b110 #b000))))
2114   (:emitter
2115    (aver (fp-reg-tn-p destination))
2116    (emit-byte segment #b11011110)
2117    (emit-fp-op segment destination #b000)))
2118
2119 ;;; Subtract single:
2120 ;;;   st(0) = st(0) - memory or st(i).
2121 (define-instruction fsub (segment source)
2122   (:printer floating-point ((op '(#b000 #b100))))
2123   (:emitter
2124     (emit-byte segment #b11011000)
2125     (emit-fp-op segment source #b100)))
2126
2127 ;;; Subtract single, reverse:
2128 ;;;   st(0) = memory or st(i) - st(0).
2129 (define-instruction fsubr (segment source)
2130   (:printer floating-point ((op '(#b000 #b101))))
2131   (:emitter
2132     (emit-byte segment #b11011000)
2133     (emit-fp-op segment source #b101)))
2134
2135 ;;; Subtract double:
2136 ;;;   st(0) = st(0) - memory or st(i).
2137 (define-instruction fsubd (segment source)
2138   (:printer floating-point ((op '(#b100 #b100))))
2139   (:printer floating-point-fp ((op '(#b000 #b100))))
2140   (:emitter
2141    (if (fp-reg-tn-p source)
2142        (emit-byte segment #b11011000)
2143      (emit-byte segment #b11011100))
2144    (emit-fp-op segment source #b100)))
2145
2146 ;;; Subtract double, reverse:
2147 ;;;   st(0) = memory or st(i) - st(0).
2148 (define-instruction fsubrd (segment source)
2149   (:printer floating-point ((op '(#b100 #b101))))
2150   (:printer floating-point-fp ((op '(#b000 #b101))))
2151   (:emitter
2152    (if (fp-reg-tn-p source)
2153        (emit-byte segment #b11011000)
2154      (emit-byte segment #b11011100))
2155    (emit-fp-op segment source #b101)))
2156
2157 ;;; Subtract double, destination st(i):
2158 ;;;   st(i) = st(i) - st(0).
2159 ;;;
2160 ;;; ASM386 syntax: FSUB ST(i), ST
2161 ;;; Gdb    syntax: fsubr %st,%st(i)
2162 (define-instruction fsub-sti (segment destination)
2163   (:printer floating-point-fp ((op '(#b100 #b101))))
2164   (:emitter
2165    (aver (fp-reg-tn-p destination))
2166    (emit-byte segment #b11011100)
2167    (emit-fp-op segment destination #b101)))
2168 ;;; with a pop
2169 (define-instruction fsubp-sti (segment destination)
2170   (:printer floating-point-fp ((op '(#b110 #b101))))
2171   (:emitter
2172    (aver (fp-reg-tn-p destination))
2173    (emit-byte segment #b11011110)
2174    (emit-fp-op segment destination #b101)))
2175
2176 ;;; Subtract double, reverse, destination st(i):
2177 ;;;   st(i) = st(0) - st(i).
2178 ;;;
2179 ;;; ASM386 syntax: FSUBR ST(i), ST
2180 ;;; Gdb    syntax: fsub %st,%st(i)
2181 (define-instruction fsubr-sti (segment destination)
2182   (:printer floating-point-fp ((op '(#b100 #b100))))
2183   (:emitter
2184    (aver (fp-reg-tn-p destination))
2185    (emit-byte segment #b11011100)
2186    (emit-fp-op segment destination #b100)))
2187 ;;; with a pop
2188 (define-instruction fsubrp-sti (segment destination)
2189   (:printer floating-point-fp ((op '(#b110 #b100))))
2190   (:emitter
2191    (aver (fp-reg-tn-p destination))
2192    (emit-byte segment #b11011110)
2193    (emit-fp-op segment destination #b100)))
2194
2195 ;;; Multiply single:
2196 ;;;   st(0) = st(0) * memory or st(i).
2197 (define-instruction fmul (segment source)
2198   (:printer floating-point ((op '(#b000 #b001))))
2199   (:emitter
2200     (emit-byte segment #b11011000)
2201     (emit-fp-op segment source #b001)))
2202
2203 ;;; Multiply double:
2204 ;;;   st(0) = st(0) * memory or st(i).
2205 (define-instruction fmuld (segment source)
2206   (:printer floating-point ((op '(#b100 #b001))))
2207   (:printer floating-point-fp ((op '(#b000 #b001))))
2208   (:emitter
2209    (if (fp-reg-tn-p source)
2210        (emit-byte segment #b11011000)
2211      (emit-byte segment #b11011100))
2212    (emit-fp-op segment source #b001)))
2213
2214 ;;; Multiply double, destination st(i):
2215 ;;;   st(i) = st(i) * st(0).
2216 (define-instruction fmul-sti (segment destination)
2217   (:printer floating-point-fp ((op '(#b100 #b001))))
2218   (:emitter
2219    (aver (fp-reg-tn-p destination))
2220    (emit-byte segment #b11011100)
2221    (emit-fp-op segment destination #b001)))
2222
2223 ;;; Divide single:
2224 ;;;   st(0) = st(0) / memory or st(i).
2225 (define-instruction fdiv (segment source)
2226   (:printer floating-point ((op '(#b000 #b110))))
2227   (:emitter
2228     (emit-byte segment #b11011000)
2229     (emit-fp-op segment source #b110)))
2230
2231 ;;; Divide single, reverse:
2232 ;;;   st(0) = memory or st(i) / st(0).
2233 (define-instruction fdivr (segment source)
2234   (:printer floating-point ((op '(#b000 #b111))))
2235   (:emitter
2236     (emit-byte segment #b11011000)
2237     (emit-fp-op segment source #b111)))
2238
2239 ;;; Divide double:
2240 ;;;   st(0) = st(0) / memory or st(i).
2241 (define-instruction fdivd (segment source)
2242   (:printer floating-point ((op '(#b100 #b110))))
2243   (:printer floating-point-fp ((op '(#b000 #b110))))
2244   (:emitter
2245    (if (fp-reg-tn-p source)
2246        (emit-byte segment #b11011000)
2247      (emit-byte segment #b11011100))
2248    (emit-fp-op segment source #b110)))
2249
2250 ;;; Divide double, reverse:
2251 ;;;   st(0) = memory or st(i) / st(0).
2252 (define-instruction fdivrd (segment source)
2253   (:printer floating-point ((op '(#b100 #b111))))
2254   (:printer floating-point-fp ((op '(#b000 #b111))))
2255   (:emitter
2256    (if (fp-reg-tn-p source)
2257        (emit-byte segment #b11011000)
2258      (emit-byte segment #b11011100))
2259    (emit-fp-op segment source #b111)))
2260
2261 ;;; Divide double, destination st(i):
2262 ;;;   st(i) = st(i) / st(0).
2263 ;;;
2264 ;;; ASM386 syntax: FDIV ST(i), ST
2265 ;;; Gdb    syntax: fdivr %st,%st(i)
2266 (define-instruction fdiv-sti (segment destination)
2267   (:printer floating-point-fp ((op '(#b100 #b111))))
2268   (:emitter
2269    (aver (fp-reg-tn-p destination))
2270    (emit-byte segment #b11011100)
2271    (emit-fp-op segment destination #b111)))
2272
2273 ;;; Divide double, reverse, destination st(i):
2274 ;;;   st(i) = st(0) / st(i).
2275 ;;;
2276 ;;; ASM386 syntax: FDIVR ST(i), ST
2277 ;;; Gdb    syntax: fdiv %st,%st(i)
2278 (define-instruction fdivr-sti (segment destination)
2279   (:printer floating-point-fp ((op '(#b100 #b110))))
2280   (:emitter
2281    (aver (fp-reg-tn-p destination))
2282    (emit-byte segment #b11011100)
2283    (emit-fp-op segment destination #b110)))
2284
2285 ;;; Exchange fr0 with fr(n). (There is no double precision variant.)
2286 (define-instruction fxch (segment source)
2287   (:printer floating-point-fp ((op '(#b001 #b001))))
2288   (:emitter
2289     (unless (and (tn-p source)
2290                  (eq (sb-name (sc-sb (tn-sc source))) 'float-registers))
2291       (cl:break))
2292     (emit-byte segment #b11011001)
2293     (emit-fp-op segment source #b001)))
2294
2295 ;;; Push 32-bit integer to st0.
2296 (define-instruction fild (segment source)
2297   (:printer floating-point ((op '(#b011 #b000))))
2298   (:emitter
2299    (emit-byte segment #b11011011)
2300    (emit-fp-op segment source #b000)))
2301
2302 ;;; Push 64-bit integer to st0.
2303 (define-instruction fildl (segment source)
2304   (:printer floating-point ((op '(#b111 #b101))))
2305   (:emitter
2306    (emit-byte segment #b11011111)
2307    (emit-fp-op segment source #b101)))
2308
2309 ;;; Store 32-bit integer.
2310 (define-instruction fist (segment dest)
2311   (:printer floating-point ((op '(#b011 #b010))))
2312   (:emitter
2313    (emit-byte segment #b11011011)
2314    (emit-fp-op segment dest #b010)))
2315
2316 ;;; Store and pop 32-bit integer.
2317 (define-instruction fistp (segment dest)
2318   (:printer floating-point ((op '(#b011 #b011))))
2319   (:emitter
2320    (emit-byte segment #b11011011)
2321    (emit-fp-op segment dest #b011)))
2322
2323 ;;; Store and pop 64-bit integer.
2324 (define-instruction fistpl (segment dest)
2325   (:printer floating-point ((op '(#b111 #b111))))
2326   (:emitter
2327    (emit-byte segment #b11011111)
2328    (emit-fp-op segment dest #b111)))
2329
2330 ;;; Store single from st(0) and pop.
2331 (define-instruction fstp (segment dest)
2332   (:printer floating-point ((op '(#b001 #b011))))
2333   (:emitter
2334    (cond ((fp-reg-tn-p dest)
2335           (emit-byte segment #b11011101)
2336           (emit-fp-op segment dest #b011))
2337          (t
2338           (emit-byte segment #b11011001)
2339           (emit-fp-op segment dest #b011)))))
2340
2341 ;;; Store double from st(0) and pop.
2342 (define-instruction fstpd (segment dest)
2343   (:printer floating-point ((op '(#b101 #b011))))
2344   (:printer floating-point-fp ((op '(#b101 #b011))))
2345   (:emitter
2346    (cond ((fp-reg-tn-p dest)
2347           (emit-byte segment #b11011101)
2348           (emit-fp-op segment dest #b011))
2349          (t
2350           (emit-byte segment #b11011101)
2351           (emit-fp-op segment dest #b011)))))
2352
2353 ;;; Store long from st(0) and pop.
2354 (define-instruction fstpl (segment dest)
2355   (:printer floating-point ((op '(#b011 #b111))))
2356   (:emitter
2357     (emit-byte segment #b11011011)
2358     (emit-fp-op segment dest #b111)))
2359
2360 ;;; Decrement stack-top pointer.
2361 (define-instruction fdecstp (segment)
2362   (:printer floating-point-no ((op #b10110)))
2363   (:emitter
2364    (emit-byte segment #b11011001)
2365    (emit-byte segment #b11110110)))
2366
2367 ;;; Increment stack-top pointer.
2368 (define-instruction fincstp (segment)
2369   (:printer floating-point-no ((op #b10111)))
2370   (:emitter
2371    (emit-byte segment #b11011001)
2372    (emit-byte segment #b11110111)))
2373
2374 ;;; Free fp register.
2375 (define-instruction ffree (segment dest)
2376   (:printer floating-point-fp ((op '(#b101 #b000))))
2377   (:emitter
2378    (emit-byte segment #b11011101)
2379    (emit-fp-op segment dest #b000)))
2380
2381 (define-instruction fabs (segment)
2382   (:printer floating-point-no ((op #b00001)))
2383   (:emitter
2384    (emit-byte segment #b11011001)
2385    (emit-byte segment #b11100001)))
2386
2387 (define-instruction fchs (segment)
2388   (:printer floating-point-no ((op #b00000)))
2389   (:emitter
2390    (emit-byte segment #b11011001)
2391    (emit-byte segment #b11100000)))
2392
2393 (define-instruction frndint(segment)
2394   (:printer floating-point-no ((op #b11100)))
2395   (:emitter
2396    (emit-byte segment #b11011001)
2397    (emit-byte segment #b11111100)))
2398
2399 ;;; Initialize NPX.
2400 (define-instruction fninit(segment)
2401   (:printer floating-point-5 ((op #b00011)))
2402   (:emitter
2403    (emit-byte segment #b11011011)
2404    (emit-byte segment #b11100011)))
2405
2406 ;;; Store Status Word to AX.
2407 (define-instruction fnstsw(segment)
2408   (:printer floating-point-st ((op #b00000)))
2409   (:emitter
2410    (emit-byte segment #b11011111)
2411    (emit-byte segment #b11100000)))
2412
2413 ;;; Load Control Word.
2414 ;;;
2415 ;;; src must be a memory location
2416 (define-instruction fldcw(segment src)
2417   (:printer floating-point ((op '(#b001 #b101))))
2418   (:emitter
2419    (emit-byte segment #b11011001)
2420    (emit-fp-op segment src #b101)))
2421
2422 ;;; Store Control Word.
2423 (define-instruction fnstcw(segment dst)
2424   (:printer floating-point ((op '(#b001 #b111))))
2425   (:emitter
2426    (emit-byte segment #b11011001)
2427    (emit-fp-op segment dst #b111)))
2428
2429 ;;; Store FP Environment.
2430 (define-instruction fstenv(segment dst)
2431   (:printer floating-point ((op '(#b001 #b110))))
2432   (:emitter
2433    (emit-byte segment #b11011001)
2434    (emit-fp-op segment dst #b110)))
2435
2436 ;;; Restore FP Environment.
2437 (define-instruction fldenv(segment src)
2438   (:printer floating-point ((op '(#b001 #b100))))
2439   (:emitter
2440    (emit-byte segment #b11011001)
2441    (emit-fp-op segment src #b100)))
2442
2443 ;;; Save FP State.
2444 (define-instruction fsave(segment dst)
2445   (:printer floating-point ((op '(#b101 #b110))))
2446   (:emitter
2447    (emit-byte segment #b11011101)
2448    (emit-fp-op segment dst #b110)))
2449
2450 ;;; Restore FP State.
2451 (define-instruction frstor(segment src)
2452   (:printer floating-point ((op '(#b101 #b100))))
2453   (:emitter
2454    (emit-byte segment #b11011101)
2455    (emit-fp-op segment src #b100)))
2456
2457 ;;; Clear exceptions.
2458 (define-instruction fnclex(segment)
2459   (:printer floating-point-5 ((op #b00010)))
2460   (:emitter
2461    (emit-byte segment #b11011011)
2462    (emit-byte segment #b11100010)))
2463
2464 ;;; comparison
2465 (define-instruction fcom (segment src)
2466   (:printer floating-point ((op '(#b000 #b010))))
2467   (:emitter
2468    (emit-byte segment #b11011000)
2469    (emit-fp-op segment src #b010)))
2470
2471 (define-instruction fcomd (segment src)
2472   (:printer floating-point ((op '(#b100 #b010))))
2473   (:printer floating-point-fp ((op '(#b000 #b010))))
2474   (:emitter
2475    (if (fp-reg-tn-p src)
2476        (emit-byte segment #b11011000)
2477      (emit-byte segment #b11011100))
2478    (emit-fp-op segment src #b010)))
2479
2480 ;;; Compare ST1 to ST0, popping the stack twice.
2481 (define-instruction fcompp (segment)
2482   (:printer floating-point-3 ((op '(#b110 #b011001))))
2483   (:emitter
2484    (emit-byte segment #b11011110)
2485    (emit-byte segment #b11011001)))
2486
2487 ;;; unordered comparison
2488 (define-instruction fucom (segment src)
2489   (:printer floating-point-fp ((op '(#b101 #b100))))
2490   (:emitter
2491    (aver (fp-reg-tn-p src))
2492    (emit-byte segment #b11011101)
2493    (emit-fp-op segment src #b100)))
2494
2495 (define-instruction ftst (segment)
2496   (:printer floating-point-no ((op #b00100)))
2497   (:emitter
2498    (emit-byte segment #b11011001)
2499    (emit-byte segment #b11100100)))
2500
2501 ;;;; 80387 specials
2502
2503 (define-instruction fsqrt(segment)
2504   (:printer floating-point-no ((op #b11010)))
2505   (:emitter
2506    (emit-byte segment #b11011001)
2507    (emit-byte segment #b11111010)))
2508
2509 (define-instruction fscale(segment)
2510   (:printer floating-point-no ((op #b11101)))
2511   (:emitter
2512    (emit-byte segment #b11011001)
2513    (emit-byte segment #b11111101)))
2514
2515 (define-instruction fxtract(segment)
2516   (:printer floating-point-no ((op #b10100)))
2517   (:emitter
2518    (emit-byte segment #b11011001)
2519    (emit-byte segment #b11110100)))
2520
2521 (define-instruction fsin(segment)
2522   (:printer floating-point-no ((op #b11110)))
2523   (:emitter
2524    (emit-byte segment #b11011001)
2525    (emit-byte segment #b11111110)))
2526
2527 (define-instruction fcos(segment)
2528   (:printer floating-point-no ((op #b11111)))
2529   (:emitter
2530    (emit-byte segment #b11011001)
2531    (emit-byte segment #b11111111)))
2532
2533 (define-instruction fprem1(segment)
2534   (:printer floating-point-no ((op #b10101)))
2535   (:emitter
2536    (emit-byte segment #b11011001)
2537    (emit-byte segment #b11110101)))
2538
2539 (define-instruction fprem(segment)
2540   (:printer floating-point-no ((op #b11000)))
2541   (:emitter
2542    (emit-byte segment #b11011001)
2543    (emit-byte segment #b11111000)))
2544
2545 (define-instruction fxam (segment)
2546   (:printer floating-point-no ((op #b00101)))
2547   (:emitter
2548    (emit-byte segment #b11011001)
2549    (emit-byte segment #b11100101)))
2550
2551 ;;; These do push/pop to stack and need special handling
2552 ;;; in any VOPs that use them. See the book.
2553
2554 ;;; st0 <- st1*log2(st0)
2555 (define-instruction fyl2x(segment)      ; pops stack
2556   (:printer floating-point-no ((op #b10001)))
2557   (:emitter
2558    (emit-byte segment #b11011001)
2559    (emit-byte segment #b11110001)))
2560
2561 (define-instruction fyl2xp1(segment)
2562   (:printer floating-point-no ((op #b11001)))
2563   (:emitter
2564    (emit-byte segment #b11011001)
2565    (emit-byte segment #b11111001)))
2566
2567 (define-instruction f2xm1(segment)
2568   (:printer floating-point-no ((op #b10000)))
2569   (:emitter
2570    (emit-byte segment #b11011001)
2571    (emit-byte segment #b11110000)))
2572
2573 (define-instruction fptan(segment)      ; st(0) <- 1; st(1) <- tan
2574   (:printer floating-point-no ((op #b10010)))
2575   (:emitter
2576    (emit-byte segment #b11011001)
2577    (emit-byte segment #b11110010)))
2578
2579 (define-instruction fpatan(segment)     ; POPS STACK
2580   (:printer floating-point-no ((op #b10011)))
2581   (:emitter
2582    (emit-byte segment #b11011001)
2583    (emit-byte segment #b11110011)))
2584
2585 ;;;; loading constants
2586
2587 (define-instruction fldz(segment)
2588   (:printer floating-point-no ((op #b01110)))
2589   (:emitter
2590    (emit-byte segment #b11011001)
2591    (emit-byte segment #b11101110)))
2592
2593 (define-instruction fld1(segment)
2594   (:printer floating-point-no ((op #b01000)))
2595   (:emitter
2596    (emit-byte segment #b11011001)
2597    (emit-byte segment #b11101000)))
2598
2599 (define-instruction fldpi(segment)
2600   (:printer floating-point-no ((op #b01011)))
2601   (:emitter
2602    (emit-byte segment #b11011001)
2603    (emit-byte segment #b11101011)))
2604
2605 (define-instruction fldl2t(segment)
2606   (:printer floating-point-no ((op #b01001)))
2607   (:emitter
2608    (emit-byte segment #b11011001)
2609    (emit-byte segment #b11101001)))
2610
2611 (define-instruction fldl2e(segment)
2612   (:printer floating-point-no ((op #b01010)))
2613   (:emitter
2614    (emit-byte segment #b11011001)
2615    (emit-byte segment #b11101010)))
2616
2617 (define-instruction fldlg2(segment)
2618   (:printer floating-point-no ((op #b01100)))
2619   (:emitter
2620    (emit-byte segment #b11011001)
2621    (emit-byte segment #b11101100)))
2622
2623 (define-instruction fldln2(segment)
2624   (:printer floating-point-no ((op #b01101)))
2625   (:emitter
2626    (emit-byte segment #b11011001)
2627    (emit-byte segment #b11101101)))