src/compiler/x86/insts.lisp

   1 ;;;; that part of the description of the x86 instruction set (for
   2 ;;;; 80386 and above) which can live on the cross-compilation host
   3
   4 ;;;; This software is part of the SBCL system. See the README file for
   5 ;;;; more information.
   6 ;;;;
   7 ;;;; This software is derived from the CMU CL system, which was
   8 ;;;; written at Carnegie Mellon University and released into the
   9 ;;;; public domain. The software is in the public domain and is
  10 ;;;; provided with absolutely no warranty. See the COPYING and CREDITS
  11 ;;;; files for more information.
  12
  13 (in-package "SB!VM")
  14 ;;; FIXME: SB!DISASSEM: prefixes are used so widely in this file that
  15 ;;; I wonder whether the separation of the disassembler from the
  16 ;;; virtual machine is valid or adds value.
  17
  18 ;;; Note: In CMU CL, this used to be a call to SET-DISASSEM-PARAMS.
  19 (setf sb!disassem:*disassem-inst-alignment-bytes* 1)
  20
  21 (deftype reg () '(unsigned-byte 3))
  22
  23 (def!constant +default-operand-size+ :dword)
  24 \f
  25 (eval-when (#-sb-xc :compile-toplevel :load-toplevel :execute)
  26
  27 (defun offset-next (value dstate)
  28   (declare (type integer value)
  29            (type sb!disassem:disassem-state dstate))
  30   (+ (sb!disassem:dstate-next-addr dstate) value))
  31
  32 (defparameter *default-address-size*
  33   ;; Actually, :DWORD is the only one really supported.
  34   :dword)
  35
  36 (defparameter *byte-reg-names*
  37   #(al cl dl bl ah ch dh bh))
  38 (defparameter *word-reg-names*
  39   #(ax cx dx bx sp bp si di))
  40 (defparameter *dword-reg-names*
  41   #(eax ecx edx ebx esp ebp esi edi))
  42
  43 (defun print-reg-with-width (value width stream dstate)
  44   (declare (ignore dstate))
  45   (princ (aref (ecase width
  46                  (:byte *byte-reg-names*)
  47                  (:word *word-reg-names*)
  48                  (:dword *dword-reg-names*))
  49                value)
  50          stream)
  51   ;; XXX plus should do some source-var notes
  52   )
  53
  54 (defun print-reg (value stream dstate)
  55   (declare (type reg value)
  56            (type stream stream)
  57            (type sb!disassem:disassem-state dstate))
  58   (print-reg-with-width value
  59                         (sb!disassem:dstate-get-prop dstate 'width)
  60                         stream
  61                         dstate))
  62
  63 (defun print-word-reg (value stream dstate)
  64   (declare (type reg value)
  65            (type stream stream)
  66            (type sb!disassem:disassem-state dstate))
  67   (print-reg-with-width value
  68                         (or (sb!disassem:dstate-get-prop dstate 'word-width)
  69                             +default-operand-size+)
  70                         stream
  71                         dstate))
  72
  73 (defun print-byte-reg (value stream dstate)
  74   (declare (type reg value)
  75            (type stream stream)
  76            (type sb!disassem:disassem-state dstate))
  77   (print-reg-with-width value :byte stream dstate))
  78
  79 (defun print-addr-reg (value stream dstate)
  80   (declare (type reg value)
  81            (type stream stream)
  82            (type sb!disassem:disassem-state dstate))
  83   (print-reg-with-width value *default-address-size* stream dstate))
  84
  85 (defun print-reg/mem (value stream dstate)
  86   (declare (type (or list reg) value)
  87            (type stream stream)
  88            (type sb!disassem:disassem-state dstate))
  89   (if (typep value 'reg)
  90       (print-reg value stream dstate)
  91       (print-mem-access value stream nil dstate)))
  92
  93 ;; Same as print-reg/mem, but prints an explicit size indicator for
  94 ;; memory references.
  95 (defun print-sized-reg/mem (value stream dstate)
  96   (declare (type (or list reg) value)
  97            (type stream stream)
  98            (type sb!disassem:disassem-state dstate))
  99   (if (typep value 'reg)
 100       (print-reg value stream dstate)
 101       (print-mem-access value stream t dstate)))
 102
 103 (defun print-byte-reg/mem (value stream dstate)
 104   (declare (type (or list reg) value)
 105            (type stream stream)
 106            (type sb!disassem:disassem-state dstate))
 107   (if (typep value 'reg)
 108       (print-byte-reg value stream dstate)
 109       (print-mem-access value stream t dstate)))
 110
 111 (defun print-word-reg/mem (value stream dstate)
 112   (declare (type (or list reg) value)
 113            (type stream stream)
 114            (type sb!disassem:disassem-state dstate))
 115   (if (typep value 'reg)
 116       (print-word-reg value stream dstate)
 117       (print-mem-access value stream nil dstate)))
 118
 119 (defun print-label (value stream dstate)
 120   (declare (ignore dstate))
 121   (sb!disassem:princ16 value stream))
 122
 123 ;;; Returns either an integer, meaning a register, or a list of
 124 ;;; (BASE-REG OFFSET INDEX-REG INDEX-SCALE), where any component
 125 ;;; may be missing or nil to indicate that it's not used or has the
 126 ;;; obvious default value (e.g., 1 for the index-scale).
 127 (defun prefilter-reg/mem (value dstate)
 128   (declare (type list value)
 129            (type sb!disassem:disassem-state dstate))
 130   (let ((mod (car value))
 131         (r/m (cadr value)))
 132     (declare (type (unsigned-byte 2) mod)
 133              (type (unsigned-byte 3) r/m))
 134     (cond ((= mod #b11)
 135            ;; registers
 136            r/m)
 137           ((= r/m #b100)
 138            ;; sib byte
 139            (let ((sib (sb!disassem:read-suffix 8 dstate)))
 140              (declare (type (unsigned-byte 8) sib))
 141              (let ((base-reg (ldb (byte 3 0) sib))
 142                    (index-reg (ldb (byte 3 3) sib))
 143                    (index-scale (ldb (byte 2 6) sib)))
 144                (declare (type (unsigned-byte 3) base-reg index-reg)
 145                         (type (unsigned-byte 2) index-scale))
 146                (let* ((offset
 147                        (case mod
 148                          (#b00
 149                           (if (= base-reg #b101)
 150                               (sb!disassem:read-signed-suffix 32 dstate)
 151                               nil))
 152                          (#b01
 153                           (sb!disassem:read-signed-suffix 8 dstate))
 154                          (#b10
 155                           (sb!disassem:read-signed-suffix 32 dstate)))))
 156                  (list (if (and (= mod #b00) (= base-reg #b101)) nil base-reg)
 157                        offset
 158                        (if (= index-reg #b100) nil index-reg)
 159                        (ash 1 index-scale))))))
 160           ((and (= mod #b00) (= r/m #b101))
 161            (list nil (sb!disassem:read-signed-suffix 32 dstate)) )
 162           ((= mod #b00)
 163            (list r/m))
 164           ((= mod #b01)
 165            (list r/m (sb!disassem:read-signed-suffix 8 dstate)))
 166           (t                            ; (= mod #b10)
 167            (list r/m (sb!disassem:read-signed-suffix 32 dstate))))))
 168
 169
 170 ;;; This is a sort of bogus prefilter that just stores the info globally for
 171 ;;; other people to use; it probably never gets printed.
 172 (defun prefilter-width (value dstate)
 173   (setf (sb!disassem:dstate-get-prop dstate 'width)
 174         (if (zerop value)
 175             :byte
 176             (let ((word-width
 177                    ;; set by a prefix instruction
 178                    (or (sb!disassem:dstate-get-prop dstate 'word-width)
 179                        +default-operand-size+)))
 180               (when (not (eql word-width +default-operand-size+))
 181                 ;; Reset it.
 182                 (setf (sb!disassem:dstate-get-prop dstate 'word-width)
 183                       +default-operand-size+))
 184               word-width))))
 185
 186 (defun read-address (value dstate)
 187   (declare (ignore value))              ; always nil anyway
 188   (sb!disassem:read-suffix (width-bits *default-address-size*) dstate))
 189
 190 (defun width-bits (width)
 191   (ecase width
 192     (:byte 8)
 193     (:word 16)
 194     (:dword 32)
 195     (:float 32)
 196     (:double 64)))
 197
 198 ) ; EVAL-WHEN
 199 \f
 200 ;;;; disassembler argument types
 201
 202 (sb!disassem:define-arg-type displacement
 203   :sign-extend t
 204   :use-label #'offset-next
 205   :printer (lambda (value stream dstate)
 206              (sb!disassem:maybe-note-assembler-routine value nil dstate)
 207              (print-label value stream dstate)))
 208
 209 (sb!disassem:define-arg-type accum
 210   :printer (lambda (value stream dstate)
 211              (declare (ignore value)
 212                       (type stream stream)
 213                       (type sb!disassem:disassem-state dstate))
 214              (print-reg 0 stream dstate)))
 215
 216 (sb!disassem:define-arg-type word-accum
 217   :printer (lambda (value stream dstate)
 218              (declare (ignore value)
 219                       (type stream stream)
 220                       (type sb!disassem:disassem-state dstate))
 221              (print-word-reg 0 stream dstate)))
 222
 223 (sb!disassem:define-arg-type reg
 224   :printer #'print-reg)
 225
 226 (sb!disassem:define-arg-type addr-reg
 227   :printer #'print-addr-reg)
 228
 229 (sb!disassem:define-arg-type word-reg
 230   :printer #'print-word-reg)
 231
 232 (sb!disassem:define-arg-type imm-addr
 233   :prefilter #'read-address
 234   :printer #'print-label)
 235
 236 (sb!disassem:define-arg-type imm-data
 237   :prefilter (lambda (value dstate)
 238                (declare (ignore value)) ; always nil anyway
 239                (sb!disassem:read-suffix
 240                 (width-bits (sb!disassem:dstate-get-prop dstate 'width))
 241                 dstate)))
 242
 243 (sb!disassem:define-arg-type signed-imm-data
 244   :prefilter (lambda (value dstate)
 245                (declare (ignore value)) ; always nil anyway
 246                (let ((width (sb!disassem:dstate-get-prop dstate 'width)))
 247                  (sb!disassem:read-signed-suffix (width-bits width) dstate))))
 248
 249 (sb!disassem:define-arg-type signed-imm-byte
 250   :prefilter (lambda (value dstate)
 251                (declare (ignore value)) ; always nil anyway
 252                (sb!disassem:read-signed-suffix 8 dstate)))
 253
 254 (sb!disassem:define-arg-type signed-imm-dword
 255   :prefilter (lambda (value dstate)
 256                (declare (ignore value)) ; always nil anyway
 257                (sb!disassem:read-signed-suffix 32 dstate)))
 258
 259 (sb!disassem:define-arg-type imm-word
 260   :prefilter (lambda (value dstate)
 261                (declare (ignore value)) ; always nil anyway
 262                (let ((width
 263                       (or (sb!disassem:dstate-get-prop dstate 'word-width)
 264                           +default-operand-size+)))
 265                  (sb!disassem:read-suffix (width-bits width) dstate))))
 266
 267 ;;; needed for the ret imm16 instruction
 268 (sb!disassem:define-arg-type imm-word-16
 269   :prefilter (lambda (value dstate)
 270                (declare (ignore value)) ; always nil anyway
 271                (sb!disassem:read-suffix 16 dstate)))
 272
 273 (sb!disassem:define-arg-type reg/mem
 274   :prefilter #'prefilter-reg/mem
 275   :printer #'print-reg/mem)
 276 (sb!disassem:define-arg-type sized-reg/mem
 277   ;; Same as reg/mem, but prints an explicit size indicator for
 278   ;; memory references.
 279   :prefilter #'prefilter-reg/mem
 280   :printer #'print-sized-reg/mem)
 281 (sb!disassem:define-arg-type byte-reg/mem
 282   :prefilter #'prefilter-reg/mem
 283   :printer #'print-byte-reg/mem)
 284 (sb!disassem:define-arg-type word-reg/mem
 285   :prefilter #'prefilter-reg/mem
 286   :printer #'print-word-reg/mem)
 287
 288 ;;; added by jrd
 289 (eval-when (#-sb-xc :compile-toplevel :load-toplevel :execute)
 290 (defun print-fp-reg (value stream dstate)
 291   (declare (ignore dstate))
 292   (format stream "FR~D" value))
 293 (defun prefilter-fp-reg (value dstate)
 294   ;; just return it
 295   (declare (ignore dstate))
 296   value)
 297 ) ; EVAL-WHEN
 298 (sb!disassem:define-arg-type fp-reg
 299                              :prefilter #'prefilter-fp-reg
 300                              :printer #'print-fp-reg)
 301
 302 (sb!disassem:define-arg-type width
 303   :prefilter #'prefilter-width
 304   :printer (lambda (value stream dstate)
 305              (if;; (zerop value)
 306                  (or (null value)
 307                      (and (numberp value) (zerop value))) ; zzz jrd
 308                  (princ 'b stream)
 309                  (let ((word-width
 310                         ;; set by a prefix instruction
 311                         (or (sb!disassem:dstate-get-prop dstate 'word-width)
 312                             +default-operand-size+)))
 313                    (princ (schar (symbol-name word-width) 0) stream)))))
 314
 315 (eval-when (:compile-toplevel :load-toplevel :execute)
 316 (defparameter *conditions*
 317   '((:o . 0)
 318     (:no . 1)
 319     (:b . 2) (:nae . 2) (:c . 2)
 320     (:nb . 3) (:ae . 3) (:nc . 3)
 321     (:eq . 4) (:e . 4) (:z . 4)
 322     (:ne . 5) (:nz . 5)
 323     (:be . 6) (:na . 6)
 324     (:nbe . 7) (:a . 7)
 325     (:s . 8)
 326     (:ns . 9)
 327     (:p . 10) (:pe . 10)
 328     (:np . 11) (:po . 11)
 329     (:l . 12) (:nge . 12)
 330     (:nl . 13) (:ge . 13)
 331     (:le . 14) (:ng . 14)
 332     (:nle . 15) (:g . 15)))
 333 (defparameter *condition-name-vec*
 334   (let ((vec (make-array 16 :initial-element nil)))
 335     (dolist (cond *conditions*)
 336       (when (null (aref vec (cdr cond)))
 337         (setf (aref vec (cdr cond)) (car cond))))
 338     vec))
 339 ) ; EVAL-WHEN
 340
 341 ;;; Set assembler parameters. (In CMU CL, this was done with
 342 ;;; a call to a macro DEF-ASSEMBLER-PARAMS.)
 343 (eval-when (:compile-toplevel :load-toplevel :execute)
 344   (setf sb!assem:*assem-scheduler-p* nil))
 345
 346 (sb!disassem:define-arg-type condition-code
 347   :printer *condition-name-vec*)
 348
 349 (defun conditional-opcode (condition)
 350   (cdr (assoc condition *conditions* :test #'eq)))
 351 \f
 352 ;;;; disassembler instruction formats
 353
 354 (eval-when (:compile-toplevel :execute)
 355   (defun swap-if (direction field1 separator field2)
 356     `(:if (,direction :constant 0)
 357           (,field1 ,separator ,field2)
 358           (,field2 ,separator ,field1))))
 359
 360 (sb!disassem:define-instruction-format (byte 8 :default-printer '(:name))
 361   (op    :field (byte 8 0))
 362   ;; optional fields
 363   (accum :type 'accum)
 364   (imm))
 365
 366 (sb!disassem:define-instruction-format (simple 8)
 367   (op    :field (byte 7 1))
 368   (width :field (byte 1 0) :type 'width)
 369   ;; optional fields
 370   (accum :type 'accum)
 371   (imm))
 372
 373 ;;; Same as simple, but with direction bit
 374 (sb!disassem:define-instruction-format (simple-dir 8 :include 'simple)
 375   (op :field (byte 6 2))
 376   (dir :field (byte 1 1)))
 377
 378 ;;; Same as simple, but with the immediate value occurring by default,
 379 ;;; and with an appropiate printer.
 380 (sb!disassem:define-instruction-format (accum-imm 8
 381                                      :include 'simple
 382                                      :default-printer '(:name
 383                                                         :tab accum ", " imm))
 384   (imm :type 'imm-data))
 385
 386 (sb!disassem:define-instruction-format (reg-no-width 8
 387                                      :default-printer '(:name :tab reg))
 388   (op    :field (byte 5 3))
 389   (reg   :field (byte 3 0) :type 'word-reg)
 390   ;; optional fields
 391   (accum :type 'word-accum)
 392   (imm))
 393
 394 ;;; adds a width field to reg-no-width
 395 (sb!disassem:define-instruction-format (reg 8
 396                                         :default-printer '(:name :tab reg))
 397   (op    :field (byte 4 4))
 398   (width :field (byte 1 3) :type 'width)
 399   (reg   :field (byte 3 0) :type 'reg)
 400   ;; optional fields
 401   (accum :type 'accum)
 402   (imm)
 403   )
 404
 405 ;;; Same as reg, but with direction bit
 406 (sb!disassem:define-instruction-format (reg-dir 8 :include 'reg)
 407   (op  :field (byte 3 5))
 408   (dir :field (byte 1 4)))
 409
 410 (sb!disassem:define-instruction-format (two-bytes 16
 411                                         :default-printer '(:name))
 412   (op :fields (list (byte 8 0) (byte 8 8))))
 413
 414 (sb!disassem:define-instruction-format (reg-reg/mem 16
 415                                         :default-printer
 416                                         `(:name :tab reg ", " reg/mem))
 417   (op      :field (byte 7 1))
 418   (width   :field (byte 1 0)    :type 'width)
 419   (reg/mem :fields (list (byte 2 14) (byte 3 8))
 420                                 :type 'reg/mem)
 421   (reg     :field (byte 3 11)   :type 'reg)
 422   ;; optional fields
 423   (imm))
 424
 425 ;;; same as reg-reg/mem, but with direction bit
 426 (sb!disassem:define-instruction-format (reg-reg/mem-dir 16
 427                                         :include 'reg-reg/mem
 428                                         :default-printer
 429                                         `(:name
 430                                           :tab
 431                                           ,(swap-if 'dir 'reg/mem ", " 'reg)))
 432   (op  :field (byte 6 2))
 433   (dir :field (byte 1 1)))
 434
 435 ;;; Same as reg-rem/mem, but uses the reg field as a second op code.
 436 (sb!disassem:define-instruction-format (reg/mem 16
 437                                         :default-printer '(:name :tab reg/mem))
 438   (op      :fields (list (byte 7 1) (byte 3 11)))
 439   (width   :field (byte 1 0)    :type 'width)
 440   (reg/mem :fields (list (byte 2 14) (byte 3 8))
 441                                 :type 'sized-reg/mem)
 442   ;; optional fields
 443   (imm))
 444
 445 ;;; Same as reg/mem, but with the immediate value occurring by default,
 446 ;;; and with an appropiate printer.
 447 (sb!disassem:define-instruction-format (reg/mem-imm 16
 448                                         :include 'reg/mem
 449                                         :default-printer
 450                                         '(:name :tab reg/mem ", " imm))
 451   (reg/mem :type 'sized-reg/mem)
 452   (imm     :type 'imm-data))
 453
 454 ;;; Same as reg/mem, but with using the accumulator in the default printer
 455 (sb!disassem:define-instruction-format
 456     (accum-reg/mem 16
 457      :include 'reg/mem :default-printer '(:name :tab accum ", " reg/mem))
 458   (reg/mem :type 'reg/mem)              ; don't need a size
 459   (accum :type 'accum))
 460
 461 ;;; Same as reg-reg/mem, but with a prefix of #b00001111
 462 (sb!disassem:define-instruction-format (ext-reg-reg/mem 24
 463                                         :default-printer
 464                                         `(:name :tab reg ", " reg/mem))
 465   (prefix  :field (byte 8 0)    :value #b00001111)
 466   (op      :field (byte 7 9))
 467   (width   :field (byte 1 8)    :type 'width)
 468   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 469                                 :type 'reg/mem)
 470   (reg     :field (byte 3 19)   :type 'reg)
 471   ;; optional fields
 472   (imm))
 473
 474 ;;; Same as reg/mem, but with a prefix of #b00001111
 475 (sb!disassem:define-instruction-format (ext-reg/mem 24
 476                                         :default-printer '(:name :tab reg/mem))
 477   (prefix  :field (byte 8 0)    :value #b00001111)
 478   (op      :fields (list (byte 7 9) (byte 3 19)))
 479   (width   :field (byte 1 8)    :type 'width)
 480   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 481                                 :type 'sized-reg/mem)
 482   ;; optional fields
 483   (imm))
 484
 485 (sb!disassem:define-instruction-format (ext-reg/mem-imm 24
 486                                         :include 'ext-reg/mem
 487                                         :default-printer
 488                                         '(:name :tab reg/mem ", " imm))
 489   (imm :type 'imm-data))
 490 \f
 491 ;;;; This section was added by jrd, for fp instructions.
 492
 493 ;;; regular fp inst to/from registers/memory
 494 (sb!disassem:define-instruction-format (floating-point 16
 495                                         :default-printer
 496                                         `(:name :tab reg/mem))
 497   (prefix :field (byte 5 3) :value #b11011)
 498   (op     :fields (list (byte 3 0) (byte 3 11)))
 499   (reg/mem :fields (list (byte 2 14) (byte 3 8)) :type 'reg/mem))
 500
 501 ;;; fp insn to/from fp reg
 502 (sb!disassem:define-instruction-format (floating-point-fp 16
 503                                         :default-printer `(:name :tab fp-reg))
 504   (prefix :field (byte 5 3) :value #b11011)
 505   (suffix :field (byte 2 14) :value #b11)
 506   (op     :fields (list (byte 3 0) (byte 3 11)))
 507   (fp-reg :field (byte 3 8) :type 'fp-reg))
 508
 509 ;;; fp insn to/from fp reg, with the reversed source/destination flag.
 510 (sb!disassem:define-instruction-format
 511  (floating-point-fp-d 16
 512    :default-printer `(:name :tab ,(swap-if 'd "ST0" ", " 'fp-reg)))
 513   (prefix :field (byte 5 3) :value #b11011)
 514   (suffix :field (byte 2 14) :value #b11)
 515   (op     :fields (list (byte 2 0) (byte 3 11)))
 516   (d      :field (byte 1 2))
 517   (fp-reg :field (byte 3 8) :type 'fp-reg))
 518
 519
 520 ;;; (added by (?) pfw)
 521 ;;; fp no operand isns
 522 (sb!disassem:define-instruction-format (floating-point-no 16
 523                                       :default-printer '(:name))
 524   (prefix :field (byte 8  0) :value #b11011001)
 525   (suffix :field (byte 3 13) :value #b111)
 526   (op     :field (byte 5  8)))
 527
 528 (sb!disassem:define-instruction-format (floating-point-3 16
 529                                       :default-printer '(:name))
 530   (prefix :field (byte 5 3) :value #b11011)
 531   (suffix :field (byte 2 14) :value #b11)
 532   (op     :fields (list (byte 3 0) (byte 6 8))))
 533
 534 (sb!disassem:define-instruction-format (floating-point-5 16
 535                                       :default-printer '(:name))
 536   (prefix :field (byte 8  0) :value #b11011011)
 537   (suffix :field (byte 3 13) :value #b111)
 538   (op     :field (byte 5  8)))
 539
 540 (sb!disassem:define-instruction-format (floating-point-st 16
 541                                       :default-printer '(:name))
 542   (prefix :field (byte 8  0) :value #b11011111)
 543   (suffix :field (byte 3 13) :value #b111)
 544   (op     :field (byte 5  8)))
 545
 546 (sb!disassem:define-instruction-format (string-op 8
 547                                      :include 'simple
 548                                      :default-printer '(:name width)))
 549
 550 (sb!disassem:define-instruction-format (short-cond-jump 16)
 551   (op    :field (byte 4 4))
 552   (cc    :field (byte 4 0) :type 'condition-code)
 553   (label :field (byte 8 8) :type 'displacement))
 554
 555 (sb!disassem:define-instruction-format (short-jump 16
 556                                      :default-printer '(:name :tab label))
 557   (const :field (byte 4 4) :value #b1110)
 558   (op    :field (byte 4 0))
 559   (label :field (byte 8 8) :type 'displacement))
 560
 561 (sb!disassem:define-instruction-format (near-cond-jump 16)
 562   (op    :fields (list (byte 8 0) (byte 4 12)) :value '(#b00001111 #b1000))
 563   (cc    :field (byte 4 8) :type 'condition-code)
 564   ;; The disassembler currently doesn't let you have an instruction > 32 bits
 565   ;; long, so we fake it by using a prefilter to read the offset.
 566   (label :type 'displacement
 567          :prefilter (lambda (value dstate)
 568                       (declare (ignore value)) ; always nil anyway
 569                       (sb!disassem:read-signed-suffix 32 dstate))))
 570
 571 (sb!disassem:define-instruction-format (near-jump 8
 572                                      :default-printer '(:name :tab label))
 573   (op    :field (byte 8 0))
 574   ;; The disassembler currently doesn't let you have an instruction > 32 bits
 575   ;; long, so we fake it by using a prefilter to read the address.
 576   (label :type 'displacement
 577          :prefilter (lambda (value dstate)
 578                       (declare (ignore value)) ; always nil anyway
 579                       (sb!disassem:read-signed-suffix 32 dstate))))
 580
 581
 582 (sb!disassem:define-instruction-format (cond-set 24
 583                                      :default-printer '('set cc :tab reg/mem))
 584   (prefix :field (byte 8 0) :value #b00001111)
 585   (op    :field (byte 4 12) :value #b1001)
 586   (cc    :field (byte 4 8) :type 'condition-code)
 587   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 588            :type 'byte-reg/mem)
 589   (reg     :field (byte 3 19)   :value #b000))
 590
 591 (sb!disassem:define-instruction-format (cond-move 24
 592                                      :default-printer
 593                                         '('cmov cc :tab reg ", " reg/mem))
 594   (prefix  :field (byte 8 0)    :value #b00001111)
 595   (op      :field (byte 4 12)   :value #b0100)
 596   (cc      :field (byte 4 8)    :type 'condition-code)
 597   (reg/mem :fields (list (byte 2 22) (byte 3 16))
 598                                 :type 'reg/mem)
 599   (reg     :field (byte 3 19)   :type 'reg))
 600
 601 (sb!disassem:define-instruction-format (enter-format 32
 602                                      :default-printer '(:name
 603                                                         :tab disp
 604                                                         (:unless (:constant 0)
 605                                                           ", " level)))
 606   (op :field (byte 8 0))
 607   (disp :field (byte 16 8))
 608   (level :field (byte 8 24)))
 609
 610 ;;; Single byte instruction with an immediate byte argument.
 611 (sb!disassem:define-instruction-format (byte-imm 16
 612                                      :default-printer '(:name :tab code))
 613  (op :field (byte 8 0))
 614  (code :field (byte 8 8)))
 615 \f
 616 ;;;; primitive emitters
 617
 618 (define-bitfield-emitter emit-word 16
 619   (byte 16 0))
 620
 621 (define-bitfield-emitter emit-dword 32
 622   (byte 32 0))
 623
 624 (define-bitfield-emitter emit-byte-with-reg 8
 625   (byte 5 3) (byte 3 0))
 626
 627 (define-bitfield-emitter emit-mod-reg-r/m-byte 8
 628   (byte 2 6) (byte 3 3) (byte 3 0))
 629
 630 (define-bitfield-emitter emit-sib-byte 8
 631   (byte 2 6) (byte 3 3) (byte 3 0))
 632 \f
 633 ;;;; fixup emitters
 634
 635 (defun emit-absolute-fixup (segment fixup)
 636   (note-fixup segment :absolute fixup)
 637   (let ((offset (fixup-offset fixup)))
 638     (if (label-p offset)
 639         (emit-back-patch segment
 640                          4 ; FIXME: n-word-bytes
 641                          (lambda (segment posn)
 642                            (declare (ignore posn))
 643                            (emit-dword segment
 644                                        (- (+ (component-header-length)
 645                                              (or (label-position offset)
 646                                                  0))
 647                                           other-pointer-lowtag))))
 648         (emit-dword segment (or offset 0)))))
 649
 650 (defun emit-relative-fixup (segment fixup)
 651   (note-fixup segment :relative fixup)
 652   (emit-dword segment (or (fixup-offset fixup) 0)))
 653 \f
 654 ;;;; the effective-address (ea) structure
 655
 656 (defun reg-tn-encoding (tn)
 657   (declare (type tn tn))
 658   (aver (eq (sb-name (sc-sb (tn-sc tn))) 'registers))
 659   (let ((offset (tn-offset tn)))
 660     (logior (ash (logand offset 1) 2)
 661             (ash offset -1))))
 662
 663 (defstruct (ea (:constructor make-ea (size &key base index scale disp))
 664                (:copier nil))
 665   (size nil :type (member :byte :word :dword))
 666   (base nil :type (or tn null))
 667   (index nil :type (or tn null))
 668   (scale 1 :type (member 1 2 4 8))
 669   (disp 0 :type (or (unsigned-byte 32) (signed-byte 32) fixup)))
 670 (def!method print-object ((ea ea) stream)
 671   (cond ((or *print-escape* *print-readably*)
 672          (print-unreadable-object (ea stream :type t)
 673            (format stream
 674                    "~S~@[ base=~S~]~@[ index=~S~]~@[ scale=~S~]~@[ disp=~S~]"
 675                    (ea-size ea)
 676                    (ea-base ea)
 677                    (ea-index ea)
 678                    (let ((scale (ea-scale ea)))
 679                      (if (= scale 1) nil scale))
 680                    (ea-disp ea))))
 681         (t
 682          (format stream "~A PTR [" (symbol-name (ea-size ea)))
 683          (when (ea-base ea)
 684            (write-string (sb!c::location-print-name (ea-base ea)) stream)
 685            (when (ea-index ea)
 686              (write-string "+" stream)))
 687          (when (ea-index ea)
 688            (write-string (sb!c::location-print-name (ea-index ea)) stream))
 689          (unless (= (ea-scale ea) 1)
 690            (format stream "*~A" (ea-scale ea)))
 691          (typecase (ea-disp ea)
 692            (null)
 693            (integer
 694             (format stream "~@D" (ea-disp ea)))
 695            (t
 696             (format stream "+~A" (ea-disp ea))))
 697          (write-char #\] stream))))
 698
 699 (defun emit-ea (segment thing reg &optional allow-constants)
 700   (etypecase thing
 701     (tn
 702      (ecase (sb-name (sc-sb (tn-sc thing)))
 703        (registers
 704         (emit-mod-reg-r/m-byte segment #b11 reg (reg-tn-encoding thing)))
 705        (stack
 706         ;; Convert stack tns into an index off of EBP.
 707         (let ((disp (- (* (1+ (tn-offset thing)) n-word-bytes))))
 708           (cond ((< -128 disp 127)
 709                  (emit-mod-reg-r/m-byte segment #b01 reg #b101)
 710                  (emit-byte segment disp))
 711                 (t
 712                  (emit-mod-reg-r/m-byte segment #b10 reg #b101)
 713                  (emit-dword segment disp)))))
 714        (constant
 715         (unless allow-constants
 716           (error
 717            "Constant TNs can only be directly used in MOV, PUSH, and CMP."))
 718         (emit-mod-reg-r/m-byte segment #b00 reg #b101)
 719         (emit-absolute-fixup segment
 720                              (make-fixup nil
 721                                          :code-object
 722                                          (- (* (tn-offset thing) n-word-bytes)
 723                                             other-pointer-lowtag))))))
 724     (ea
 725      (let* ((base (ea-base thing))
 726             (index (ea-index thing))
 727             (scale (ea-scale thing))
 728             (disp (ea-disp thing))
 729             (mod (cond ((or (null base)
 730                             (and (eql disp 0)
 731                                  (not (= (reg-tn-encoding base) #b101))))
 732                         #b00)
 733                        ((and (fixnump disp) (<= -128 disp 127))
 734                         #b01)
 735                        (t
 736                         #b10)))
 737             (r/m (cond (index #b100)
 738                        ((null base) #b101)
 739                        (t (reg-tn-encoding base)))))
 740        (emit-mod-reg-r/m-byte segment mod reg r/m)
 741        (when (= r/m #b100)
 742          (let ((ss (1- (integer-length scale)))
 743                (index (if (null index)
 744                           #b100
 745                           (let ((index (reg-tn-encoding index)))
 746                             (if (= index #b100)
 747                                 (error "can't index off of ESP")
 748                                 index))))
 749                (base (if (null base)
 750                          #b101
 751                          (reg-tn-encoding base))))
 752            (emit-sib-byte segment ss index base)))
 753        (cond ((= mod #b01)
 754               (emit-byte segment disp))
 755              ((or (= mod #b10) (null base))
 756               (if (fixup-p disp)
 757                   (emit-absolute-fixup segment disp)
 758                   (emit-dword segment disp))))))
 759     (fixup
 760      (emit-mod-reg-r/m-byte segment #b00 reg #b101)
 761      (emit-absolute-fixup segment thing))))
 762
 763 (defun fp-reg-tn-p (thing)
 764   (and (tn-p thing)
 765        (eq (sb-name (sc-sb (tn-sc thing))) 'float-registers)))
 766
 767 ;;; like the above, but for fp-instructions--jrd
 768 (defun emit-fp-op (segment thing op)
 769   (if (fp-reg-tn-p thing)
 770       (emit-byte segment (dpb op (byte 3 3) (dpb (tn-offset thing)
 771                                                  (byte 3 0)
 772                                                  #b11000000)))
 773     (emit-ea segment thing op)))
 774
 775 (defun byte-reg-p (thing)
 776   (and (tn-p thing)
 777        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 778        (member (sc-name (tn-sc thing)) *byte-sc-names*)
 779        t))
 780
 781 (defun byte-ea-p (thing)
 782   (typecase thing
 783     (ea (eq (ea-size thing) :byte))
 784     (tn
 785      (and (member (sc-name (tn-sc thing)) *byte-sc-names*) t))
 786     (t nil)))
 787
 788 (defun word-reg-p (thing)
 789   (and (tn-p thing)
 790        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 791        (member (sc-name (tn-sc thing)) *word-sc-names*)
 792        t))
 793
 794 (defun word-ea-p (thing)
 795   (typecase thing
 796     (ea (eq (ea-size thing) :word))
 797     (tn (and (member (sc-name (tn-sc thing)) *word-sc-names*) t))
 798     (t nil)))
 799
 800 (defun dword-reg-p (thing)
 801   (and (tn-p thing)
 802        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)
 803        (member (sc-name (tn-sc thing)) *dword-sc-names*)
 804        t))
 805
 806 (defun dword-ea-p (thing)
 807   (typecase thing
 808     (ea (eq (ea-size thing) :dword))
 809     (tn
 810      (and (member (sc-name (tn-sc thing)) *dword-sc-names*) t))
 811     (t nil)))
 812
 813 (defun register-p (thing)
 814   (and (tn-p thing)
 815        (eq (sb-name (sc-sb (tn-sc thing))) 'registers)))
 816
 817 (defun accumulator-p (thing)
 818   (and (register-p thing)
 819        (= (tn-offset thing) 0)))
 820 \f
 821 ;;;; utilities
 822
 823 (def!constant +operand-size-prefix-byte+ #b01100110)
 824
 825 (defun maybe-emit-operand-size-prefix (segment size)
 826   (unless (or (eq size :byte) (eq size +default-operand-size+))
 827     (emit-byte segment +operand-size-prefix-byte+)))
 828
 829 (defun operand-size (thing)
 830   (typecase thing
 831     (tn
 832      ;; FIXME: might as well be COND instead of having to use #. readmacro
 833      ;; to hack up the code
 834      (case (sc-name (tn-sc thing))
 835        (#.*dword-sc-names*
 836         :dword)
 837        (#.*word-sc-names*
 838         :word)
 839        (#.*byte-sc-names*
 840         :byte)
 841        ;; added by jrd: float-registers is a separate size (?)
 842        (#.*float-sc-names*
 843         :float)
 844        (#.*double-sc-names*
 845         :double)
 846        (t
 847         (error "can't tell the size of ~S ~S" thing (sc-name (tn-sc thing))))))
 848     (ea
 849      (ea-size thing))
 850     (t
 851      nil)))
 852
 853 (defun matching-operand-size (dst src)
 854   (let ((dst-size (operand-size dst))
 855         (src-size (operand-size src)))
 856     (if dst-size
 857         (if src-size
 858             (if (eq dst-size src-size)
 859                 dst-size
 860                 (error "size mismatch: ~S is a ~S and ~S is a ~S."
 861                        dst dst-size src src-size))
 862             dst-size)
 863         (if src-size
 864             src-size
 865             (error "can't tell the size of either ~S or ~S" dst src)))))
 866
 867 (defun emit-sized-immediate (segment size value)
 868   (ecase size
 869     (:byte
 870      (emit-byte segment value))
 871     (:word
 872      (emit-word segment value))
 873     (:dword
 874      (emit-dword segment value))))
 875 \f
 876 ;;;; general data transfer
 877
 878 (define-instruction mov (segment dst src)
 879   ;; immediate to register
 880   (:printer reg ((op #b1011) (imm nil :type 'imm-data))
 881             '(:name :tab reg ", " imm))
 882   ;; absolute mem to/from accumulator
 883   (:printer simple-dir ((op #b101000) (imm nil :type 'imm-addr))
 884             `(:name :tab ,(swap-if 'dir 'accum ", " '("[" imm "]"))))
 885   ;; register to/from register/memory
 886   (:printer reg-reg/mem-dir ((op #b100010)))
 887   ;; immediate to register/memory
 888   (:printer reg/mem-imm ((op '(#b1100011 #b000))))
 889
 890   (:emitter
 891    (let ((size (matching-operand-size dst src)))
 892      (maybe-emit-operand-size-prefix segment size)
 893      (cond ((register-p dst)
 894             (cond ((integerp src)
 895                    (emit-byte-with-reg segment
 896                                        (if (eq size :byte)
 897                                            #b10110
 898                                            #b10111)
 899                                        (reg-tn-encoding dst))
 900                    (emit-sized-immediate segment size src))
 901                   ((and (fixup-p src) (accumulator-p dst))
 902                    (emit-byte segment
 903                               (if (eq size :byte)
 904                                   #b10100000
 905                                   #b10100001))
 906                    (emit-absolute-fixup segment src))
 907                   (t
 908                    (emit-byte segment
 909                               (if (eq size :byte)
 910                                   #b10001010
 911                                   #b10001011))
 912                    (emit-ea segment src (reg-tn-encoding dst) t))))
 913            ((and (fixup-p dst) (accumulator-p src))
 914             (emit-byte segment (if (eq size :byte) #b10100010 #b10100011))
 915             (emit-absolute-fixup segment dst))
 916            ((integerp src)
 917             (emit-byte segment (if (eq size :byte) #b11000110 #b11000111))
 918             (emit-ea segment dst #b000)
 919             (emit-sized-immediate segment size src))
 920            ((register-p src)
 921             (emit-byte segment (if (eq size :byte) #b10001000 #b10001001))
 922             (emit-ea segment dst (reg-tn-encoding src)))
 923            ((fixup-p src)
 924             (aver (eq size :dword))
 925             (emit-byte segment #b11000111)
 926             (emit-ea segment dst #b000)
 927             (emit-absolute-fixup segment src))
 928            (t
 929             (error "bogus arguments to MOV: ~S ~S" dst src))))))
 930
 931 (defun emit-move-with-extension (segment dst src opcode)
 932   (aver (register-p dst))
 933   (let ((dst-size (operand-size dst))
 934         (src-size (operand-size src)))
 935     (ecase dst-size
 936       (:word
 937        (aver (eq src-size :byte))
 938        (maybe-emit-operand-size-prefix segment :word)
 939        (emit-byte segment #b00001111)
 940        (emit-byte segment opcode)
 941        (emit-ea segment src (reg-tn-encoding dst)))
 942       (:dword
 943        (ecase src-size
 944          (:byte
 945           (maybe-emit-operand-size-prefix segment :dword)
 946           (emit-byte segment #b00001111)
 947           (emit-byte segment opcode)
 948           (emit-ea segment src (reg-tn-encoding dst)))
 949          (:word
 950           (emit-byte segment #b00001111)
 951           (emit-byte segment (logior opcode 1))
 952           (emit-ea segment src (reg-tn-encoding dst))))))))
 953
 954 (define-instruction movsx (segment dst src)
 955   (:printer ext-reg-reg/mem ((op #b1011111) (reg nil :type 'word-reg)))
 956   (:emitter (emit-move-with-extension segment dst src #b10111110)))
 957
 958 (define-instruction movzx (segment dst src)
 959   (:printer ext-reg-reg/mem ((op #b1011011) (reg nil :type 'word-reg)))
 960   (:emitter (emit-move-with-extension segment dst src #b10110110)))
 961
 962 (define-instruction push (segment src)
 963   ;; register
 964   (:printer reg-no-width ((op #b01010)))
 965   ;; register/memory
 966   (:printer reg/mem ((op '(#b1111111 #b110)) (width 1)))
 967   ;; immediate
 968   (:printer byte ((op #b01101010) (imm nil :type 'signed-imm-byte))
 969             '(:name :tab imm))
 970   (:printer byte ((op #b01101000) (imm nil :type 'imm-word))
 971             '(:name :tab imm))
 972   ;; ### segment registers?
 973
 974   (:emitter
 975    (cond ((integerp src)
 976           (cond ((<= -128 src 127)
 977                  (emit-byte segment #b01101010)
 978                  (emit-byte segment src))
 979                 (t
 980                  (emit-byte segment #b01101000)
 981                  (emit-dword segment src))))
 982          ((fixup-p src)
 983           ;; Interpret the fixup as an immediate dword to push.
 984           (emit-byte segment #b01101000)
 985           (emit-absolute-fixup segment src))
 986          (t
 987           (let ((size (operand-size src)))
 988             (aver (not (eq size :byte)))
 989             (maybe-emit-operand-size-prefix segment size)
 990             (cond ((register-p src)
 991                    (emit-byte-with-reg segment #b01010 (reg-tn-encoding src)))
 992                   (t
 993                    (emit-byte segment #b11111111)
 994                    (emit-ea segment src #b110 t))))))))
 995
 996 (define-instruction pusha (segment)
 997   (:printer byte ((op #b01100000)))
 998   (:emitter
 999    (emit-byte segment #b01100000)))
1000
1001 (define-instruction pop (segment dst)
1002   (:printer reg-no-width ((op #b01011)))
1003   (:printer reg/mem ((op '(#b1000111 #b000)) (width 1)))
1004   (:emitter
1005    (let ((size (operand-size dst)))
1006      (aver (not (eq size :byte)))
1007      (maybe-emit-operand-size-prefix segment size)
1008      (cond ((register-p dst)
1009             (emit-byte-with-reg segment #b01011 (reg-tn-encoding dst)))
1010            (t
1011             (emit-byte segment #b10001111)
1012             (emit-ea segment dst #b000))))))
1013
1014 (define-instruction popa (segment)
1015   (:printer byte ((op #b01100001)))
1016   (:emitter
1017    (emit-byte segment #b01100001)))
1018
1019 (define-instruction xchg (segment operand1 operand2)
1020   ;; Register with accumulator.
1021   (:printer reg-no-width ((op #b10010)) '(:name :tab accum ", " reg))
1022   ;; Register/Memory with Register.
1023   (:printer reg-reg/mem ((op #b1000011)))
1024   (:emitter
1025    (let ((size (matching-operand-size operand1 operand2)))
1026      (maybe-emit-operand-size-prefix segment size)
1027      (labels ((xchg-acc-with-something (acc something)
1028                 (if (and (not (eq size :byte)) (register-p something))
1029                     (emit-byte-with-reg segment
1030                                         #b10010
1031                                         (reg-tn-encoding something))
1032                     (xchg-reg-with-something acc something)))
1033               (xchg-reg-with-something (reg something)
1034                 (emit-byte segment (if (eq size :byte) #b10000110 #b10000111))
1035                 (emit-ea segment something (reg-tn-encoding reg))))
1036        (cond ((accumulator-p operand1)
1037               (xchg-acc-with-something operand1 operand2))
1038              ((accumulator-p operand2)
1039               (xchg-acc-with-something operand2 operand1))
1040              ((register-p operand1)
1041               (xchg-reg-with-something operand1 operand2))
1042              ((register-p operand2)
1043               (xchg-reg-with-something operand2 operand1))
1044              (t
1045               (error "bogus args to XCHG: ~S ~S" operand1 operand2)))))))
1046
1047 (define-instruction lea (segment dst src)
1048   (:printer reg-reg/mem ((op #b1000110) (width 1)))
1049   (:emitter
1050    (aver (dword-reg-p dst))
1051    (emit-byte segment #b10001101)
1052    (emit-ea segment src (reg-tn-encoding dst))))
1053
1054 (define-instruction cmpxchg (segment dst src)
1055   ;; Register/Memory with Register.
1056   (:printer ext-reg-reg/mem ((op #b1011000)) '(:name :tab reg/mem ", " reg))
1057   (:emitter
1058    (aver (register-p src))
1059    (let ((size (matching-operand-size src dst)))
1060      (maybe-emit-operand-size-prefix segment size)
1061      (emit-byte segment #b00001111)
1062      (emit-byte segment (if (eq size :byte) #b10110000 #b10110001))
1063      (emit-ea segment dst (reg-tn-encoding src)))))
1064
1065 \f
1066
1067 (define-instruction fs-segment-prefix (segment)
1068   (:emitter
1069    (emit-byte segment #x64)))
1070
1071 ;;;; flag control instructions
1072
1073 ;;; CLC -- Clear Carry Flag.
1074 (define-instruction clc (segment)
1075   (:printer byte ((op #b11111000)))
1076   (:emitter
1077    (emit-byte segment #b11111000)))
1078
1079 ;;; CLD -- Clear Direction Flag.
1080 (define-instruction cld (segment)
1081   (:printer byte ((op #b11111100)))
1082   (:emitter
1083    (emit-byte segment #b11111100)))
1084
1085 ;;; CLI -- Clear Iterrupt Enable Flag.
1086 (define-instruction cli (segment)
1087   (:printer byte ((op #b11111010)))
1088   (:emitter
1089    (emit-byte segment #b11111010)))
1090
1091 ;;; CMC -- Complement Carry Flag.
1092 (define-instruction cmc (segment)
1093   (:printer byte ((op #b11110101)))
1094   (:emitter
1095    (emit-byte segment #b11110101)))
1096
1097 ;;; LAHF -- Load AH into flags.
1098 (define-instruction lahf (segment)
1099   (:printer byte ((op #b10011111)))
1100   (:emitter
1101    (emit-byte segment #b10011111)))
1102
1103 ;;; POPF -- Pop flags.
1104 (define-instruction popf (segment)
1105   (:printer byte ((op #b10011101)))
1106   (:emitter
1107    (emit-byte segment #b10011101)))
1108
1109 ;;; PUSHF -- push flags.
1110 (define-instruction pushf (segment)
1111   (:printer byte ((op #b10011100)))
1112   (:emitter
1113    (emit-byte segment #b10011100)))
1114
1115 ;;; SAHF -- Store AH into flags.
1116 (define-instruction sahf (segment)
1117   (:printer byte ((op #b10011110)))
1118   (:emitter
1119    (emit-byte segment #b10011110)))
1120
1121 ;;; STC -- Set Carry Flag.
1122 (define-instruction stc (segment)
1123   (:printer byte ((op #b11111001)))
1124   (:emitter
1125    (emit-byte segment #b11111001)))
1126
1127 ;;; STD -- Set Direction Flag.
1128 (define-instruction std (segment)
1129   (:printer byte ((op #b11111101)))
1130   (:emitter
1131    (emit-byte segment #b11111101)))
1132
1133 ;;; STI -- Set Interrupt Enable Flag.
1134 (define-instruction sti (segment)
1135   (:printer byte ((op #b11111011)))
1136   (:emitter
1137    (emit-byte segment #b11111011)))
1138 \f
1139 ;;;; arithmetic
1140
1141 (defun emit-random-arith-inst (name segment dst src opcode
1142                                     &optional allow-constants)
1143   (let ((size (matching-operand-size dst src)))
1144     (maybe-emit-operand-size-prefix segment size)
1145     (cond
1146      ((integerp src)
1147       (cond ((and (not (eq size :byte)) (<= -128 src 127))
1148              (emit-byte segment #b10000011)
1149              (emit-ea segment dst opcode allow-constants)
1150              (emit-byte segment src))
1151             ((accumulator-p dst)
1152              (emit-byte segment
1153                         (dpb opcode
1154                              (byte 3 3)
1155                              (if (eq size :byte)
1156                                  #b00000100
1157                                  #b00000101)))
1158              (emit-sized-immediate segment size src))
1159             (t
1160              (emit-byte segment (if (eq size :byte) #b10000000 #b10000001))
1161              (emit-ea segment dst opcode allow-constants)
1162              (emit-sized-immediate segment size src))))
1163      ((register-p src)
1164       (emit-byte segment
1165                  (dpb opcode
1166                       (byte 3 3)
1167                       (if (eq size :byte) #b00000000 #b00000001)))
1168       (emit-ea segment dst (reg-tn-encoding src) allow-constants))
1169      ((register-p dst)
1170       (emit-byte segment
1171                  (dpb opcode
1172                       (byte 3 3)
1173                       (if (eq size :byte) #b00000010 #b00000011)))
1174       (emit-ea segment src (reg-tn-encoding dst) allow-constants))
1175      (t
1176       (error "bogus operands to ~A" name)))))
1177
1178 (eval-when (:compile-toplevel :execute)
1179   (defun arith-inst-printer-list (subop)
1180     `((accum-imm ((op ,(dpb subop (byte 3 2) #b0000010))))
1181       (reg/mem-imm ((op (#b1000000 ,subop))))
1182       (reg/mem-imm ((op (#b1000001 ,subop))
1183                     (imm nil :type signed-imm-byte)))
1184       (reg-reg/mem-dir ((op ,(dpb subop (byte 3 1) #b000000))))))
1185   )
1186
1187 (define-instruction add (segment dst src)
1188   (:printer-list (arith-inst-printer-list #b000))
1189   (:emitter (emit-random-arith-inst "ADD" segment dst src #b000)))
1190
1191 (define-instruction adc (segment dst src)
1192   (:printer-list (arith-inst-printer-list #b010))
1193   (:emitter (emit-random-arith-inst "ADC" segment dst src #b010)))
1194
1195 (define-instruction sub (segment dst src)
1196   (:printer-list (arith-inst-printer-list #b101))
1197   (:emitter (emit-random-arith-inst "SUB" segment dst src #b101)))
1198
1199 (define-instruction sbb (segment dst src)
1200   (:printer-list (arith-inst-printer-list #b011))
1201   (:emitter (emit-random-arith-inst "SBB" segment dst src #b011)))
1202
1203 (define-instruction cmp (segment dst src)
1204   (:printer-list (arith-inst-printer-list #b111))
1205   (:emitter (emit-random-arith-inst "CMP" segment dst src #b111 t)))
1206
1207 (define-instruction inc (segment dst)
1208   ;; Register.
1209   (:printer reg-no-width ((op #b01000)))
1210   ;; Register/Memory
1211   (:printer reg/mem ((op '(#b1111111 #b000))))
1212   (:emitter
1213    (let ((size (operand-size dst)))
1214      (maybe-emit-operand-size-prefix segment size)
1215      (cond ((and (not (eq size :byte)) (register-p dst))
1216             (emit-byte-with-reg segment #b01000 (reg-tn-encoding dst)))
1217            (t
1218             (emit-byte segment (if (eq size :byte) #b11111110 #b11111111))
1219             (emit-ea segment dst #b000))))))
1220
1221 (define-instruction dec (segment dst)
1222   ;; Register.
1223   (:printer reg-no-width ((op #b01001)))
1224   ;; Register/Memory
1225   (:printer reg/mem ((op '(#b1111111 #b001))))
1226   (:emitter
1227    (let ((size (operand-size dst)))
1228      (maybe-emit-operand-size-prefix segment size)
1229      (cond ((and (not (eq size :byte)) (register-p dst))
1230             (emit-byte-with-reg segment #b01001 (reg-tn-encoding dst)))
1231            (t
1232             (emit-byte segment (if (eq size :byte) #b11111110 #b11111111))
1233             (emit-ea segment dst #b001))))))
1234
1235 (define-instruction neg (segment dst)
1236   (:printer reg/mem ((op '(#b1111011 #b011))))
1237   (:emitter
1238    (let ((size (operand-size dst)))
1239      (maybe-emit-operand-size-prefix segment size)
1240      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1241      (emit-ea segment dst #b011))))
1242
1243 (define-instruction aaa (segment)
1244   (:printer byte ((op #b00110111)))
1245   (:emitter
1246    (emit-byte segment #b00110111)))
1247
1248 (define-instruction aas (segment)
1249   (:printer byte ((op #b00111111)))
1250   (:emitter
1251    (emit-byte segment #b00111111)))
1252
1253 (define-instruction daa (segment)
1254   (:printer byte ((op #b00100111)))
1255   (:emitter
1256    (emit-byte segment #b00100111)))
1257
1258 (define-instruction das (segment)
1259   (:printer byte ((op #b00101111)))
1260   (:emitter
1261    (emit-byte segment #b00101111)))
1262
1263 (define-instruction mul (segment dst src)
1264   (:printer accum-reg/mem ((op '(#b1111011 #b100))))
1265   (:emitter
1266    (let ((size (matching-operand-size dst src)))
1267      (aver (accumulator-p dst))
1268      (maybe-emit-operand-size-prefix segment size)
1269      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1270      (emit-ea segment src #b100))))
1271
1272 (define-instruction imul (segment dst &optional src1 src2)
1273   (:printer accum-reg/mem ((op '(#b1111011 #b101))))
1274   (:printer ext-reg-reg/mem ((op #b1010111)))
1275   (:printer reg-reg/mem ((op #b0110100) (width 1) (imm nil :type 'imm-word))
1276             '(:name :tab reg ", " reg/mem ", " imm))
1277   (:printer reg-reg/mem ((op #b0110101) (width 1)
1278                          (imm nil :type 'signed-imm-byte))
1279             '(:name :tab reg ", " reg/mem ", " imm))
1280   (:emitter
1281    (flet ((r/m-with-immed-to-reg (reg r/m immed)
1282             (let* ((size (matching-operand-size reg r/m))
1283                    (sx (and (not (eq size :byte)) (<= -128 immed 127))))
1284               (maybe-emit-operand-size-prefix segment size)
1285               (emit-byte segment (if sx #b01101011 #b01101001))
1286               (emit-ea segment r/m (reg-tn-encoding reg))
1287               (if sx
1288                   (emit-byte segment immed)
1289                   (emit-sized-immediate segment size immed)))))
1290      (cond (src2
1291             (r/m-with-immed-to-reg dst src1 src2))
1292            (src1
1293             (if (integerp src1)
1294                 (r/m-with-immed-to-reg dst dst src1)
1295                 (let ((size (matching-operand-size dst src1)))
1296                   (maybe-emit-operand-size-prefix segment size)
1297                   (emit-byte segment #b00001111)
1298                   (emit-byte segment #b10101111)
1299                   (emit-ea segment src1 (reg-tn-encoding dst)))))
1300            (t
1301             (let ((size (operand-size dst)))
1302               (maybe-emit-operand-size-prefix segment size)
1303               (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1304               (emit-ea segment dst #b101)))))))
1305
1306 (define-instruction div (segment dst src)
1307   (:printer accum-reg/mem ((op '(#b1111011 #b110))))
1308   (:emitter
1309    (let ((size (matching-operand-size dst src)))
1310      (aver (accumulator-p dst))
1311      (maybe-emit-operand-size-prefix segment size)
1312      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1313      (emit-ea segment src #b110))))
1314
1315 (define-instruction idiv (segment dst src)
1316   (:printer accum-reg/mem ((op '(#b1111011 #b111))))
1317   (:emitter
1318    (let ((size (matching-operand-size dst src)))
1319      (aver (accumulator-p dst))
1320      (maybe-emit-operand-size-prefix segment size)
1321      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1322      (emit-ea segment src #b111))))
1323
1324 (define-instruction aad (segment)
1325   (:printer two-bytes ((op '(#b11010101 #b00001010))))
1326   (:emitter
1327    (emit-byte segment #b11010101)
1328    (emit-byte segment #b00001010)))
1329
1330 (define-instruction aam (segment)
1331   (:printer two-bytes ((op '(#b11010100 #b00001010))))
1332   (:emitter
1333    (emit-byte segment #b11010100)
1334    (emit-byte segment #b00001010)))
1335
1336 ;;; CBW -- Convert Byte to Word. AX <- sign_xtnd(AL)
1337 (define-instruction cbw (segment)
1338   (:emitter
1339    (maybe-emit-operand-size-prefix segment :word)
1340    (emit-byte segment #b10011000)))
1341
1342 ;;; CWDE -- Convert Word To Double Word Extened. EAX <- sign_xtnd(AX)
1343 (define-instruction cwde (segment)
1344   (:emitter
1345    (maybe-emit-operand-size-prefix segment :dword)
1346    (emit-byte segment #b10011000)))
1347
1348 ;;; CWD -- Convert Word to Double Word. DX:AX <- sign_xtnd(AX)
1349 (define-instruction cwd (segment)
1350   (:emitter
1351    (maybe-emit-operand-size-prefix segment :word)
1352    (emit-byte segment #b10011001)))
1353
1354 ;;; CDQ -- Convert Double Word to Quad Word. EDX:EAX <- sign_xtnd(EAX)
1355 (define-instruction cdq (segment)
1356   (:printer byte ((op #b10011001)))
1357   (:emitter
1358    (maybe-emit-operand-size-prefix segment :dword)
1359    (emit-byte segment #b10011001)))
1360
1361 (define-instruction xadd (segment dst src)
1362   ;; Register/Memory with Register.
1363   (:printer ext-reg-reg/mem ((op #b1100000)) '(:name :tab reg/mem ", " reg))
1364   (:emitter
1365    (aver (register-p src))
1366    (let ((size (matching-operand-size src dst)))
1367      (maybe-emit-operand-size-prefix segment size)
1368      (emit-byte segment #b00001111)
1369      (emit-byte segment (if (eq size :byte) #b11000000 #b11000001))
1370      (emit-ea segment dst (reg-tn-encoding src)))))
1371
1372 \f
1373 ;;;; logic
1374
1375 (defun emit-shift-inst (segment dst amount opcode)
1376   (let ((size (operand-size dst)))
1377     (maybe-emit-operand-size-prefix segment size)
1378     (multiple-value-bind (major-opcode immed)
1379         (case amount
1380           (:cl (values #b11010010 nil))
1381           (1 (values #b11010000 nil))
1382           (t (values #b11000000 t)))
1383       (emit-byte segment
1384                  (if (eq size :byte) major-opcode (logior major-opcode 1)))
1385       (emit-ea segment dst opcode)
1386       (when immed
1387         (emit-byte segment amount)))))
1388
1389 (eval-when (:compile-toplevel :execute)
1390   (defun shift-inst-printer-list (subop)
1391     `((reg/mem ((op (#b1101000 ,subop)))
1392                (:name :tab reg/mem ", 1"))
1393       (reg/mem ((op (#b1101001 ,subop)))
1394                (:name :tab reg/mem ", " 'cl))
1395       (reg/mem-imm ((op (#b1100000 ,subop))
1396                     (imm nil :type signed-imm-byte))))))
1397
1398 (define-instruction rol (segment dst amount)
1399   (:printer-list
1400    (shift-inst-printer-list #b000))
1401   (:emitter
1402    (emit-shift-inst segment dst amount #b000)))
1403
1404 (define-instruction ror (segment dst amount)
1405   (:printer-list
1406    (shift-inst-printer-list #b001))
1407   (:emitter
1408    (emit-shift-inst segment dst amount #b001)))
1409
1410 (define-instruction rcl (segment dst amount)
1411   (:printer-list
1412    (shift-inst-printer-list #b010))
1413   (:emitter
1414    (emit-shift-inst segment dst amount #b010)))
1415
1416 (define-instruction rcr (segment dst amount)
1417   (:printer-list
1418    (shift-inst-printer-list #b011))
1419   (:emitter
1420    (emit-shift-inst segment dst amount #b011)))
1421
1422 (define-instruction shl (segment dst amount)
1423   (:printer-list
1424    (shift-inst-printer-list #b100))
1425   (:emitter
1426    (emit-shift-inst segment dst amount #b100)))
1427
1428 (define-instruction shr (segment dst amount)
1429   (:printer-list
1430    (shift-inst-printer-list #b101))
1431   (:emitter
1432    (emit-shift-inst segment dst amount #b101)))
1433
1434 (define-instruction sar (segment dst amount)
1435   (:printer-list
1436    (shift-inst-printer-list #b111))
1437   (:emitter
1438    (emit-shift-inst segment dst amount #b111)))
1439
1440 (defun emit-double-shift (segment opcode dst src amt)
1441   (let ((size (matching-operand-size dst src)))
1442     (when (eq size :byte)
1443       (error "Double shifts can only be used with words."))
1444     (maybe-emit-operand-size-prefix segment size)
1445     (emit-byte segment #b00001111)
1446     (emit-byte segment (dpb opcode (byte 1 3)
1447                             (if (eq amt :cl) #b10100101 #b10100100)))
1448     #+nil
1449     (emit-ea segment dst src)
1450     (emit-ea segment dst (reg-tn-encoding src)) ; pw tries this
1451     (unless (eq amt :cl)
1452       (emit-byte segment amt))))
1453
1454 (eval-when (:compile-toplevel :execute)
1455   (defun double-shift-inst-printer-list (op)
1456     `(#+nil
1457       (ext-reg-reg/mem-imm ((op ,(logior op #b100))
1458                             (imm nil :type signed-imm-byte)))
1459       (ext-reg-reg/mem ((op ,(logior op #b101)))
1460          (:name :tab reg/mem ", " 'cl)))))
1461
1462 (define-instruction shld (segment dst src amt)
1463   (:declare (type (or (member :cl) (mod 32)) amt))
1464   (:printer-list (double-shift-inst-printer-list #b10100000))
1465   (:emitter
1466    (emit-double-shift segment #b0 dst src amt)))
1467
1468 (define-instruction shrd (segment dst src amt)
1469   (:declare (type (or (member :cl) (mod 32)) amt))
1470   (:printer-list (double-shift-inst-printer-list #b10101000))
1471   (:emitter
1472    (emit-double-shift segment #b1 dst src amt)))
1473
1474 (define-instruction and (segment dst src)
1475   (:printer-list
1476    (arith-inst-printer-list #b100))
1477   (:emitter
1478    (emit-random-arith-inst "AND" segment dst src #b100)))
1479
1480 (define-instruction test (segment this that)
1481   (:printer accum-imm ((op #b1010100)))
1482   (:printer reg/mem-imm ((op '(#b1111011 #b000))))
1483   (:printer reg-reg/mem ((op #b1000010)))
1484   (:emitter
1485    (let ((size (matching-operand-size this that)))
1486      (maybe-emit-operand-size-prefix segment size)
1487      (flet ((test-immed-and-something (immed something)
1488               (cond ((accumulator-p something)
1489                      (emit-byte segment
1490                                 (if (eq size :byte) #b10101000 #b10101001))
1491                      (emit-sized-immediate segment size immed))
1492                     (t
1493                      (emit-byte segment
1494                                 (if (eq size :byte) #b11110110 #b11110111))
1495                      (emit-ea segment something #b000)
1496                      (emit-sized-immediate segment size immed))))
1497             (test-reg-and-something (reg something)
1498               (emit-byte segment (if (eq size :byte) #b10000100 #b10000101))
1499               (emit-ea segment something (reg-tn-encoding reg))))
1500        (cond ((integerp that)
1501               (test-immed-and-something that this))
1502              ((integerp this)
1503               (test-immed-and-something this that))
1504              ((register-p this)
1505               (test-reg-and-something this that))
1506              ((register-p that)
1507               (test-reg-and-something that this))
1508              (t
1509               (error "bogus operands for TEST: ~S and ~S" this that)))))))
1510
1511 (define-instruction or (segment dst src)
1512   (:printer-list
1513    (arith-inst-printer-list #b001))
1514   (:emitter
1515    (emit-random-arith-inst "OR" segment dst src #b001)))
1516
1517 (define-instruction xor (segment dst src)
1518   (:printer-list
1519    (arith-inst-printer-list #b110))
1520   (:emitter
1521    (emit-random-arith-inst "XOR" segment dst src #b110)))
1522
1523 (define-instruction not (segment dst)
1524   (:printer reg/mem ((op '(#b1111011 #b010))))
1525   (:emitter
1526    (let ((size (operand-size dst)))
1527      (maybe-emit-operand-size-prefix segment size)
1528      (emit-byte segment (if (eq size :byte) #b11110110 #b11110111))
1529      (emit-ea segment dst #b010))))
1530 \f
1531 ;;;; string manipulation
1532
1533 (define-instruction cmps (segment size)
1534   (:printer string-op ((op #b1010011)))
1535   (:emitter
1536    (maybe-emit-operand-size-prefix segment size)
1537    (emit-byte segment (if (eq size :byte) #b10100110 #b10100111))))
1538
1539 (define-instruction ins (segment acc)
1540   (:printer string-op ((op #b0110110)))
1541   (:emitter
1542    (let ((size (operand-size acc)))
1543      (aver (accumulator-p acc))
1544      (maybe-emit-operand-size-prefix segment size)
1545      (emit-byte segment (if (eq size :byte) #b01101100 #b01101101)))))
1546
1547 (define-instruction lods (segment acc)
1548   (:printer string-op ((op #b1010110)))
1549   (:emitter
1550    (let ((size (operand-size acc)))
1551      (aver (accumulator-p acc))
1552      (maybe-emit-operand-size-prefix segment size)
1553      (emit-byte segment (if (eq size :byte) #b10101100 #b10101101)))))
1554
1555 (define-instruction movs (segment size)
1556   (:printer string-op ((op #b1010010)))
1557   (:emitter
1558    (maybe-emit-operand-size-prefix segment size)
1559    (emit-byte segment (if (eq size :byte) #b10100100 #b10100101))))
1560
1561 (define-instruction outs (segment acc)
1562   (:printer string-op ((op #b0110111)))
1563   (:emitter
1564    (let ((size (operand-size acc)))
1565      (aver (accumulator-p acc))
1566      (maybe-emit-operand-size-prefix segment size)
1567      (emit-byte segment (if (eq size :byte) #b01101110 #b01101111)))))
1568
1569 (define-instruction scas (segment acc)
1570   (:printer string-op ((op #b1010111)))
1571   (:emitter
1572    (let ((size (operand-size acc)))
1573      (aver (accumulator-p acc))
1574      (maybe-emit-operand-size-prefix segment size)
1575      (emit-byte segment (if (eq size :byte) #b10101110 #b10101111)))))
1576
1577 (define-instruction stos (segment acc)
1578   (:printer string-op ((op #b1010101)))
1579   (:emitter
1580    (let ((size (operand-size acc)))
1581      (aver (accumulator-p acc))
1582      (maybe-emit-operand-size-prefix segment size)
1583      (emit-byte segment (if (eq size :byte) #b10101010 #b10101011)))))
1584
1585 (define-instruction xlat (segment)
1586   (:printer byte ((op #b11010111)))
1587   (:emitter
1588    (emit-byte segment #b11010111)))
1589
1590 (define-instruction rep (segment)
1591   (:emitter
1592    (emit-byte segment #b11110010)))
1593
1594 (define-instruction repe (segment)
1595   (:printer byte ((op #b11110011)))
1596   (:emitter
1597    (emit-byte segment #b11110011)))
1598
1599 (define-instruction repne (segment)
1600   (:printer byte ((op #b11110010)))
1601   (:emitter
1602    (emit-byte segment #b11110010)))
1603
1604 \f
1605 ;;;; bit manipulation
1606
1607 (define-instruction bsf (segment dst src)
1608   (:printer ext-reg-reg/mem ((op #b1011110) (width 0)))
1609   (:emitter
1610    (let ((size (matching-operand-size dst src)))
1611      (when (eq size :byte)
1612        (error "can't scan bytes: ~S" src))
1613      (maybe-emit-operand-size-prefix segment size)
1614      (emit-byte segment #b00001111)
1615      (emit-byte segment #b10111100)
1616      (emit-ea segment src (reg-tn-encoding dst)))))
1617
1618 (define-instruction bsr (segment dst src)
1619   (:printer ext-reg-reg/mem ((op #b1011110) (width 1)))
1620   (:emitter
1621    (let ((size (matching-operand-size dst src)))
1622      (when (eq size :byte)
1623        (error "can't scan bytes: ~S" src))
1624      (maybe-emit-operand-size-prefix segment size)
1625      (emit-byte segment #b00001111)
1626      (emit-byte segment #b10111101)
1627      (emit-ea segment src (reg-tn-encoding dst)))))
1628
1629 (defun emit-bit-test-and-mumble (segment src index opcode)
1630   (let ((size (operand-size src)))
1631     (when (eq size :byte)
1632       (error "can't scan bytes: ~S" src))
1633     (maybe-emit-operand-size-prefix segment size)
1634     (emit-byte segment #b00001111)
1635     (cond ((integerp index)
1636            (emit-byte segment #b10111010)
1637            (emit-ea segment src opcode)
1638            (emit-byte segment index))
1639           (t
1640            (emit-byte segment (dpb opcode (byte 3 3) #b10000011))
1641            (emit-ea segment src (reg-tn-encoding index))))))
1642
1643 (eval-when (:compile-toplevel :execute)
1644   (defun bit-test-inst-printer-list (subop)
1645     `((ext-reg/mem-imm ((op (#b1011101 ,subop))
1646                         (reg/mem nil :type word-reg/mem)
1647                         (imm nil :type imm-data)
1648                         (width 0)))
1649       (ext-reg-reg/mem ((op ,(dpb subop (byte 3 2) #b1000001))
1650                         (width 1))
1651                        (:name :tab reg/mem ", " reg)))))
1652
1653 (define-instruction bt (segment src index)
1654   (:printer-list (bit-test-inst-printer-list #b100))
1655   (:emitter
1656    (emit-bit-test-and-mumble segment src index #b100)))
1657
1658 (define-instruction btc (segment src index)
1659   (:printer-list (bit-test-inst-printer-list #b111))
1660   (:emitter
1661    (emit-bit-test-and-mumble segment src index #b111)))
1662
1663 (define-instruction btr (segment src index)
1664   (:printer-list (bit-test-inst-printer-list #b110))
1665   (:emitter
1666    (emit-bit-test-and-mumble segment src index #b110)))
1667
1668 (define-instruction bts (segment src index)
1669   (:printer-list (bit-test-inst-printer-list #b101))
1670   (:emitter
1671    (emit-bit-test-and-mumble segment src index #b101)))
1672
1673 \f
1674 ;;;; control transfer
1675
1676 (define-instruction call (segment where)
1677   (:printer near-jump ((op #b11101000)))
1678   (:printer reg/mem ((op '(#b1111111 #b010)) (width 1)))
1679   (:emitter
1680    (typecase where
1681      (label
1682       (emit-byte segment #b11101000)
1683       (emit-back-patch segment
1684                        4
1685                        (lambda (segment posn)
1686                          (emit-dword segment
1687                                      (- (label-position where)
1688                                         (+ posn 4))))))
1689      (fixup
1690       (emit-byte segment #b11101000)
1691       (emit-relative-fixup segment where))
1692      (t
1693       (emit-byte segment #b11111111)
1694       (emit-ea segment where #b010)))))
1695
1696 (defun emit-byte-displacement-backpatch (segment target)
1697   (emit-back-patch segment
1698                    1
1699                    (lambda (segment posn)
1700                      (let ((disp (- (label-position target) (1+ posn))))
1701                        (aver (<= -128 disp 127))
1702                        (emit-byte segment disp)))))
1703
1704 (define-instruction jmp (segment cond &optional where)
1705   ;; conditional jumps
1706   (:printer short-cond-jump ((op #b0111)) '('j cc :tab label))
1707   (:printer near-cond-jump () '('j cc :tab label))
1708   ;; unconditional jumps
1709   (:printer short-jump ((op #b1011)))
1710   (:printer near-jump ((op #b11101001)) )
1711   (:printer reg/mem ((op '(#b1111111 #b100)) (width 1)))
1712   (:emitter
1713    (cond (where
1714           (emit-chooser
1715            segment 6 2
1716            (lambda (segment posn delta-if-after)
1717              (let ((disp (- (label-position where posn delta-if-after)
1718                             (+ posn 2))))
1719                (when (<= -128 disp 127)
1720                  (emit-byte segment
1721                             (dpb (conditional-opcode cond)
1722                                  (byte 4 0)
1723                                  #b01110000))
1724                  (emit-byte-displacement-backpatch segment where)
1725                  t)))
1726            (lambda (segment posn)
1727              (let ((disp (- (label-position where) (+ posn 6))))
1728                (emit-byte segment #b00001111)
1729                (emit-byte segment
1730                           (dpb (conditional-opcode cond)
1731                                (byte 4 0)
1732                                #b10000000))
1733                (emit-dword segment disp)))))
1734          ((label-p (setq where cond))
1735           (emit-chooser
1736            segment 5 0
1737            (lambda (segment posn delta-if-after)
1738              (let ((disp (- (label-position where posn delta-if-after)
1739                             (+ posn 2))))
1740                (when (<= -128 disp 127)
1741                  (emit-byte segment #b11101011)
1742                  (emit-byte-displacement-backpatch segment where)
1743                  t)))
1744            (lambda (segment posn)
1745              (let ((disp (- (label-position where) (+ posn 5))))
1746                (emit-byte segment #b11101001)
1747                (emit-dword segment disp)))))
1748          ((fixup-p where)
1749           (emit-byte segment #b11101001)
1750           (emit-relative-fixup segment where))
1751          (t
1752           (unless (or (ea-p where) (tn-p where))
1753                   (error "don't know what to do with ~A" where))
1754           (emit-byte segment #b11111111)
1755           (emit-ea segment where #b100)))))
1756
1757 (define-instruction jmp-short (segment label)
1758   (:emitter
1759    (emit-byte segment #b11101011)
1760    (emit-byte-displacement-backpatch segment label)))
1761
1762 (define-instruction ret (segment &optional stack-delta)
1763   (:printer byte ((op #b11000011)))
1764   (:printer byte ((op #b11000010) (imm nil :type 'imm-word-16))
1765             '(:name :tab imm))
1766   (:emitter
1767    (cond (stack-delta
1768           (emit-byte segment #b11000010)
1769           (emit-word segment stack-delta))
1770          (t
1771           (emit-byte segment #b11000011)))))
1772
1773 (define-instruction jecxz (segment target)
1774   (:printer short-jump ((op #b0011)))
1775   (:emitter
1776    (emit-byte segment #b11100011)
1777    (emit-byte-displacement-backpatch segment target)))
1778
1779 (define-instruction loop (segment target)
1780   (:printer short-jump ((op #b0010)))
1781   (:emitter
1782    (emit-byte segment #b11100010)       ; pfw this was 11100011, or jecxz!!!!
1783    (emit-byte-displacement-backpatch segment target)))
1784
1785 (define-instruction loopz (segment target)
1786   (:printer short-jump ((op #b0001)))
1787   (:emitter
1788    (emit-byte segment #b11100001)
1789    (emit-byte-displacement-backpatch segment target)))
1790
1791 (define-instruction loopnz (segment target)
1792   (:printer short-jump ((op #b0000)))
1793   (:emitter
1794    (emit-byte segment #b11100000)
1795    (emit-byte-displacement-backpatch segment target)))
1796 \f
1797 ;;;; conditional move
1798 (define-instruction cmov (segment cond dst src)
1799   (:printer cond-move ())
1800   (:emitter
1801    (aver (register-p dst))
1802    (let ((size (matching-operand-size dst src)))
1803      (aver (or (eq size :word) (eq size :dword)))
1804      (maybe-emit-operand-size-prefix segment size))
1805    (emit-byte segment #b00001111)
1806    (emit-byte segment (dpb (conditional-opcode cond) (byte 4 0) #b01000000))
1807    (emit-ea segment src (reg-tn-encoding dst))))
1808
1809 ;;;; conditional byte set
1810
1811 (define-instruction set (segment dst cond)
1812   (:printer cond-set ())
1813   (:emitter
1814    (emit-byte segment #b00001111)
1815    (emit-byte segment (dpb (conditional-opcode cond) (byte 4 0) #b10010000))
1816    (emit-ea segment dst #b000)))
1817 \f
1818 ;;;; enter/leave
1819
1820 (define-instruction enter (segment disp &optional (level 0))
1821   (:declare (type (unsigned-byte 16) disp)
1822             (type (unsigned-byte 8) level))
1823   (:printer enter-format ((op #b11001000)))
1824   (:emitter
1825    (emit-byte segment #b11001000)
1826    (emit-word segment disp)
1827    (emit-byte segment level)))
1828
1829 (define-instruction leave (segment)
1830   (:printer byte ((op #b11001001)))
1831   (:emitter
1832    (emit-byte segment #b11001001)))
1833 \f
1834 ;;;; interrupt instructions
1835
1836 (defun snarf-error-junk (sap offset &optional length-only)
1837   (let* ((length (sb!sys:sap-ref-8 sap offset))
1838          (vector (make-array length :element-type '(unsigned-byte 8))))
1839     (declare (type sb!sys:system-area-pointer sap)
1840              (type (unsigned-byte 8) length)
1841              (type (simple-array (unsigned-byte 8) (*)) vector))
1842     (cond (length-only
1843            (values 0 (1+ length) nil nil))
1844           (t
1845            (sb!kernel:copy-from-system-area sap (* n-byte-bits (1+ offset))
1846                                             vector (* n-word-bits
1847                                                       vector-data-offset)
1848                                             (* length n-byte-bits))
1849            (collect ((sc-offsets)
1850                      (lengths))
1851              (lengths 1)                ; the length byte
1852              (let* ((index 0)
1853                     (error-number (sb!c:read-var-integer vector index)))
1854                (lengths index)
1855                (loop
1856                  (when (>= index length)
1857                    (return))
1858                  (let ((old-index index))
1859                    (sc-offsets (sb!c:read-var-integer vector index))
1860                    (lengths (- index old-index))))
1861                (values error-number
1862                        (1+ length)
1863                        (sc-offsets)
1864                        (lengths))))))))
1865
1866 #|
1867 (defmacro break-cases (breaknum &body cases)
1868   (let ((bn-temp (gensym)))
1869     (collect ((clauses))
1870       (dolist (case cases)
1871         (clauses `((= ,bn-temp ,(car case)) ,@(cdr case))))
1872       `(let ((,bn-temp ,breaknum))
1873          (cond ,@(clauses))))))
1874 |#
1875
1876 (defun break-control (chunk inst stream dstate)
1877   (declare (ignore inst))
1878   (flet ((nt (x) (if stream (sb!disassem:note x dstate))))
1879     ;; FIXME: Make sure that BYTE-IMM-CODE is defined. The genesis
1880     ;; map has it undefined; and it should be easier to look in the target
1881     ;; Lisp (with (DESCRIBE 'BYTE-IMM-CODE)) than to definitively deduce
1882     ;; from first principles whether it's defined in some way that genesis
1883     ;; can't grok.
1884     (case (byte-imm-code chunk dstate)
1885       (#.error-trap
1886        (nt "error trap")
1887        (sb!disassem:handle-break-args #'snarf-error-junk stream dstate))
1888       (#.cerror-trap
1889        (nt "cerror trap")
1890        (sb!disassem:handle-break-args #'snarf-error-junk stream dstate))
1891       (#.breakpoint-trap
1892        (nt "breakpoint trap"))
1893       (#.pending-interrupt-trap
1894        (nt "pending interrupt trap"))
1895       (#.halt-trap
1896        (nt "halt trap"))
1897       (#.fun-end-breakpoint-trap
1898        (nt "function end breakpoint trap")))))
1899
1900 (define-instruction break (segment code)
1901   (:declare (type (unsigned-byte 8) code))
1902   (:printer byte-imm ((op #b11001100)) '(:name :tab code)
1903             :control #'break-control)
1904   (:emitter
1905    (emit-byte segment #b11001100)
1906    (emit-byte segment code)))
1907
1908 (define-instruction int (segment number)
1909   (:declare (type (unsigned-byte 8) number))
1910   (:printer byte-imm ((op #b11001101)))
1911   (:emitter
1912    (etypecase number
1913      ((member 3)
1914       (emit-byte segment #b11001100))
1915      ((unsigned-byte 8)
1916       (emit-byte segment #b11001101)
1917       (emit-byte segment number)))))
1918
1919 (define-instruction into (segment)
1920   (:printer byte ((op #b11001110)))
1921   (:emitter
1922    (emit-byte segment #b11001110)))
1923
1924 (define-instruction bound (segment reg bounds)
1925   (:emitter
1926    (let ((size (matching-operand-size reg bounds)))
1927      (when (eq size :byte)
1928        (error "can't bounds-test bytes: ~S" reg))
1929      (maybe-emit-operand-size-prefix segment size)
1930      (emit-byte segment #b01100010)
1931      (emit-ea segment bounds (reg-tn-encoding reg)))))
1932
1933 (define-instruction iret (segment)
1934   (:printer byte ((op #b11001111)))
1935   (:emitter
1936    (emit-byte segment #b11001111)))
1937 \f
1938 ;;;; processor control
1939
1940 (define-instruction hlt (segment)
1941   (:printer byte ((op #b11110100)))
1942   (:emitter
1943    (emit-byte segment #b11110100)))
1944
1945 (define-instruction nop (segment)
1946   (:printer byte ((op #b10010000)))
1947   (:emitter
1948    (emit-byte segment #b10010000)))
1949
1950 (define-instruction wait (segment)
1951   (:printer byte ((op #b10011011)))
1952   (:emitter
1953    (emit-byte segment #b10011011)))
1954
1955 (define-instruction lock (segment)
1956   (:printer byte ((op #b11110000)))
1957   (:emitter
1958    (emit-byte segment #b11110000)))
1959 \f
1960 ;;;; miscellaneous hackery
1961
1962 (define-instruction byte (segment byte)
1963   (:emitter
1964    (emit-byte segment byte)))
1965
1966 (define-instruction word (segment word)
1967   (:emitter
1968    (emit-word segment word)))
1969
1970 (define-instruction dword (segment dword)
1971   (:emitter
1972    (emit-dword segment dword)))
1973
1974 (defun emit-header-data (segment type)
1975   (emit-back-patch segment
1976                    4
1977                    (lambda (segment posn)
1978                      (emit-dword segment
1979                                  (logior type
1980                                          (ash (+ posn
1981                                                  (component-header-length))
1982                                               (- n-widetag-bits
1983                                                  word-shift)))))))
1984
1985 (define-instruction simple-fun-header-word (segment)
1986   (:emitter
1987    (emit-header-data segment simple-fun-header-widetag)))
1988
1989 (define-instruction lra-header-word (segment)
1990   (:emitter
1991    (emit-header-data segment return-pc-header-widetag)))
1992 \f
1993 ;;;; fp instructions
1994 ;;;;
1995 ;;;; FIXME: This section said "added by jrd", which should end up in CREDITS.
1996 ;;;;
1997 ;;;; Note: We treat the single-precision and double-precision variants
1998 ;;;; as separate instructions.
1999
2000 ;;; Load single to st(0).
2001 (define-instruction fld (segment source)
2002   (:printer floating-point ((op '(#b001 #b000))))
2003   (:emitter
2004     (emit-byte segment #b11011001)
2005     (emit-fp-op segment source #b000)))
2006
2007 ;;; Load double to st(0).
2008 (define-instruction fldd (segment source)
2009   (:printer floating-point ((op '(#b101 #b000))))
2010   (:printer floating-point-fp ((op '(#b001 #b000))))
2011   (:emitter
2012    (if (fp-reg-tn-p source)
2013        (emit-byte segment #b11011001)
2014      (emit-byte segment #b11011101))
2015     (emit-fp-op segment source #b000)))
2016
2017 ;;; Load long to st(0).
2018 (define-instruction fldl (segment source)
2019   (:printer floating-point ((op '(#b011 #b101))))
2020   (:emitter
2021     (emit-byte segment #b11011011)
2022     (emit-fp-op segment source #b101)))
2023
2024 ;;; Store single from st(0).
2025 (define-instruction fst (segment dest)
2026   (:printer floating-point ((op '(#b001 #b010))))
2027   (:emitter
2028     (cond ((fp-reg-tn-p dest)
2029            (emit-byte segment #b11011101)
2030            (emit-fp-op segment dest #b010))
2031           (t
2032            (emit-byte segment #b11011001)
2033            (emit-fp-op segment dest #b010)))))
2034
2035 ;;; Store double from st(0).
2036 (define-instruction fstd (segment dest)
2037   (:printer floating-point ((op '(#b101 #b010))))
2038   (:printer floating-point-fp ((op '(#b101 #b010))))
2039   (:emitter
2040    (cond ((fp-reg-tn-p dest)
2041           (emit-byte segment #b11011101)
2042           (emit-fp-op segment dest #b010))
2043          (t
2044           (emit-byte segment #b11011101)
2045           (emit-fp-op segment dest #b010)))))
2046
2047 ;;; Arithmetic ops are all done with at least one operand at top of
2048 ;;; stack. The other operand is is another register or a 32/64 bit
2049 ;;; memory loc.
2050
2051 ;;; dtc: I've tried to follow the Intel ASM386 conventions, but note
2052 ;;; that these conflict with the Gdb conventions for binops. To reduce
2053 ;;; the confusion I've added comments showing the mathamatical
2054 ;;; operation and the two syntaxes. By the ASM386 convention the
2055 ;;; instruction syntax is:
2056 ;;;
2057 ;;;      Fop Source
2058 ;;; or   Fop Destination, Source
2059 ;;;
2060 ;;; If only one operand is given then it is the source and the
2061 ;;; destination is ST(0). There are reversed forms of the fsub and
2062 ;;; fdiv instructions inducated by an 'R' suffix.
2063 ;;;
2064 ;;; The mathematical operation for the non-reverse form is always:
2065 ;;;     destination = destination op source
2066 ;;;
2067 ;;; For the reversed form it is:
2068 ;;;     destination = source op destination
2069 ;;;
2070 ;;; The instructions below only accept one operand at present which is
2071 ;;; usually the source. I've hack in extra instructions to implement
2072 ;;; the fops with a ST(i) destination, these have a -sti suffix and
2073 ;;; the operand is the destination with the source being ST(0).
2074
2075 ;;; Add single:
2076 ;;;   st(0) = st(0) + memory or st(i).
2077 (define-instruction fadd (segment source)
2078   (:printer floating-point ((op '(#b000 #b000))))
2079   (:emitter
2080     (emit-byte segment #b11011000)
2081     (emit-fp-op segment source #b000)))
2082
2083 ;;; Add double:
2084 ;;;   st(0) = st(0) + memory or st(i).
2085 (define-instruction faddd (segment source)
2086   (:printer floating-point ((op '(#b100 #b000))))
2087   (:printer floating-point-fp ((op '(#b000 #b000))))
2088   (:emitter
2089    (if (fp-reg-tn-p source)
2090        (emit-byte segment #b11011000)
2091      (emit-byte segment #b11011100))
2092    (emit-fp-op segment source #b000)))
2093
2094 ;;; Add double destination st(i):
2095 ;;;   st(i) = st(0) + st(i).
2096 (define-instruction fadd-sti (segment destination)
2097   (:printer floating-point-fp ((op '(#b100 #b000))))
2098   (:emitter
2099    (aver (fp-reg-tn-p destination))
2100    (emit-byte segment #b11011100)
2101    (emit-fp-op segment destination #b000)))
2102 ;;; with pop
2103 (define-instruction faddp-sti (segment destination)
2104   (:printer floating-point-fp ((op '(#b110 #b000))))
2105   (:emitter
2106    (aver (fp-reg-tn-p destination))
2107    (emit-byte segment #b11011110)
2108    (emit-fp-op segment destination #b000)))
2109
2110 ;;; Subtract single:
2111 ;;;   st(0) = st(0) - memory or st(i).
2112 (define-instruction fsub (segment source)
2113   (:printer floating-point ((op '(#b000 #b100))))
2114   (:emitter
2115     (emit-byte segment #b11011000)
2116     (emit-fp-op segment source #b100)))
2117
2118 ;;; Subtract single, reverse:
2119 ;;;   st(0) = memory or st(i) - st(0).
2120 (define-instruction fsubr (segment source)
2121   (:printer floating-point ((op '(#b000 #b101))))
2122   (:emitter
2123     (emit-byte segment #b11011000)
2124     (emit-fp-op segment source #b101)))
2125
2126 ;;; Subtract double:
2127 ;;;   st(0) = st(0) - memory or st(i).
2128 (define-instruction fsubd (segment source)
2129   (:printer floating-point ((op '(#b100 #b100))))
2130   (:printer floating-point-fp ((op '(#b000 #b100))))
2131   (:emitter
2132    (if (fp-reg-tn-p source)
2133        (emit-byte segment #b11011000)
2134      (emit-byte segment #b11011100))
2135    (emit-fp-op segment source #b100)))
2136
2137 ;;; Subtract double, reverse:
2138 ;;;   st(0) = memory or st(i) - st(0).
2139 (define-instruction fsubrd (segment source)
2140   (:printer floating-point ((op '(#b100 #b101))))
2141   (:printer floating-point-fp ((op '(#b000 #b101))))
2142   (:emitter
2143    (if (fp-reg-tn-p source)
2144        (emit-byte segment #b11011000)
2145      (emit-byte segment #b11011100))
2146    (emit-fp-op segment source #b101)))
2147
2148 ;;; Subtract double, destination st(i):
2149 ;;;   st(i) = st(i) - st(0).
2150 ;;;
2151 ;;; ASM386 syntax: FSUB ST(i), ST
2152 ;;; Gdb    syntax: fsubr %st,%st(i)
2153 (define-instruction fsub-sti (segment destination)
2154   (:printer floating-point-fp ((op '(#b100 #b101))))
2155   (:emitter
2156    (aver (fp-reg-tn-p destination))
2157    (emit-byte segment #b11011100)
2158    (emit-fp-op segment destination #b101)))
2159 ;;; with a pop
2160 (define-instruction fsubp-sti (segment destination)
2161   (:printer floating-point-fp ((op '(#b110 #b101))))
2162   (:emitter
2163    (aver (fp-reg-tn-p destination))
2164    (emit-byte segment #b11011110)
2165    (emit-fp-op segment destination #b101)))
2166
2167 ;;; Subtract double, reverse, destination st(i):
2168 ;;;   st(i) = st(0) - st(i).
2169 ;;;
2170 ;;; ASM386 syntax: FSUBR ST(i), ST
2171 ;;; Gdb    syntax: fsub %st,%st(i)
2172 (define-instruction fsubr-sti (segment destination)
2173   (:printer floating-point-fp ((op '(#b100 #b100))))
2174   (:emitter
2175    (aver (fp-reg-tn-p destination))
2176    (emit-byte segment #b11011100)
2177    (emit-fp-op segment destination #b100)))
2178 ;;; with a pop
2179 (define-instruction fsubrp-sti (segment destination)
2180   (:printer floating-point-fp ((op '(#b110 #b100))))
2181   (:emitter
2182    (aver (fp-reg-tn-p destination))
2183    (emit-byte segment #b11011110)
2184    (emit-fp-op segment destination #b100)))
2185
2186 ;;; Multiply single:
2187 ;;;   st(0) = st(0) * memory or st(i).
2188 (define-instruction fmul (segment source)
2189   (:printer floating-point ((op '(#b000 #b001))))
2190   (:emitter
2191     (emit-byte segment #b11011000)
2192     (emit-fp-op segment source #b001)))
2193
2194 ;;; Multiply double:
2195 ;;;   st(0) = st(0) * memory or st(i).
2196 (define-instruction fmuld (segment source)
2197   (:printer floating-point ((op '(#b100 #b001))))
2198   (:printer floating-point-fp ((op '(#b000 #b001))))
2199   (:emitter
2200    (if (fp-reg-tn-p source)
2201        (emit-byte segment #b11011000)
2202      (emit-byte segment #b11011100))
2203    (emit-fp-op segment source #b001)))
2204
2205 ;;; Multiply double, destination st(i):
2206 ;;;   st(i) = st(i) * st(0).
2207 (define-instruction fmul-sti (segment destination)
2208   (:printer floating-point-fp ((op '(#b100 #b001))))
2209   (:emitter
2210    (aver (fp-reg-tn-p destination))
2211    (emit-byte segment #b11011100)
2212    (emit-fp-op segment destination #b001)))
2213
2214 ;;; Divide single:
2215 ;;;   st(0) = st(0) / memory or st(i).
2216 (define-instruction fdiv (segment source)
2217   (:printer floating-point ((op '(#b000 #b110))))
2218   (:emitter
2219     (emit-byte segment #b11011000)
2220     (emit-fp-op segment source #b110)))
2221
2222 ;;; Divide single, reverse:
2223 ;;;   st(0) = memory or st(i) / st(0).
2224 (define-instruction fdivr (segment source)
2225   (:printer floating-point ((op '(#b000 #b111))))
2226   (:emitter
2227     (emit-byte segment #b11011000)
2228     (emit-fp-op segment source #b111)))
2229
2230 ;;; Divide double:
2231 ;;;   st(0) = st(0) / memory or st(i).
2232 (define-instruction fdivd (segment source)
2233   (:printer floating-point ((op '(#b100 #b110))))
2234   (:printer floating-point-fp ((op '(#b000 #b110))))
2235   (:emitter
2236    (if (fp-reg-tn-p source)
2237        (emit-byte segment #b11011000)
2238      (emit-byte segment #b11011100))
2239    (emit-fp-op segment source #b110)))
2240
2241 ;;; Divide double, reverse:
2242 ;;;   st(0) = memory or st(i) / st(0).
2243 (define-instruction fdivrd (segment source)
2244   (:printer floating-point ((op '(#b100 #b111))))
2245   (:printer floating-point-fp ((op '(#b000 #b111))))
2246   (:emitter
2247    (if (fp-reg-tn-p source)
2248        (emit-byte segment #b11011000)
2249      (emit-byte segment #b11011100))
2250    (emit-fp-op segment source #b111)))
2251
2252 ;;; Divide double, destination st(i):
2253 ;;;   st(i) = st(i) / st(0).
2254 ;;;
2255 ;;; ASM386 syntax: FDIV ST(i), ST
2256 ;;; Gdb    syntax: fdivr %st,%st(i)
2257 (define-instruction fdiv-sti (segment destination)
2258   (:printer floating-point-fp ((op '(#b100 #b111))))
2259   (:emitter
2260    (aver (fp-reg-tn-p destination))
2261    (emit-byte segment #b11011100)
2262    (emit-fp-op segment destination #b111)))
2263
2264 ;;; Divide double, reverse, destination st(i):
2265 ;;;   st(i) = st(0) / st(i).
2266 ;;;
2267 ;;; ASM386 syntax: FDIVR ST(i), ST
2268 ;;; Gdb    syntax: fdiv %st,%st(i)
2269 (define-instruction fdivr-sti (segment destination)
2270   (:printer floating-point-fp ((op '(#b100 #b110))))
2271   (:emitter
2272    (aver (fp-reg-tn-p destination))
2273    (emit-byte segment #b11011100)
2274    (emit-fp-op segment destination #b110)))
2275
2276 ;;; Exchange fr0 with fr(n). (There is no double precision variant.)
2277 (define-instruction fxch (segment source)
2278   (:printer floating-point-fp ((op '(#b001 #b001))))
2279   (:emitter
2280     (unless (and (tn-p source)
2281                  (eq (sb-name (sc-sb (tn-sc source))) 'float-registers))
2282       (cl:break))
2283     (emit-byte segment #b11011001)
2284     (emit-fp-op segment source #b001)))
2285
2286 ;;; Push 32-bit integer to st0.
2287 (define-instruction fild (segment source)
2288   (:printer floating-point ((op '(#b011 #b000))))
2289   (:emitter
2290    (emit-byte segment #b11011011)
2291    (emit-fp-op segment source #b000)))
2292
2293 ;;; Push 64-bit integer to st0.
2294 (define-instruction fildl (segment source)
2295   (:printer floating-point ((op '(#b111 #b101))))
2296   (:emitter
2297    (emit-byte segment #b11011111)
2298    (emit-fp-op segment source #b101)))
2299
2300 ;;; Store 32-bit integer.
2301 (define-instruction fist (segment dest)
2302   (:printer floating-point ((op '(#b011 #b010))))
2303   (:emitter
2304    (emit-byte segment #b11011011)
2305    (emit-fp-op segment dest #b010)))
2306
2307 ;;; Store and pop 32-bit integer.
2308 (define-instruction fistp (segment dest)
2309   (:printer floating-point ((op '(#b011 #b011))))
2310   (:emitter
2311    (emit-byte segment #b11011011)
2312    (emit-fp-op segment dest #b011)))
2313
2314 ;;; Store and pop 64-bit integer.
2315 (define-instruction fistpl (segment dest)
2316   (:printer floating-point ((op '(#b111 #b111))))
2317   (:emitter
2318    (emit-byte segment #b11011111)
2319    (emit-fp-op segment dest #b111)))
2320
2321 ;;; Store single from st(0) and pop.
2322 (define-instruction fstp (segment dest)
2323   (:printer floating-point ((op '(#b001 #b011))))
2324   (:emitter
2325    (cond ((fp-reg-tn-p dest)
2326           (emit-byte segment #b11011101)
2327           (emit-fp-op segment dest #b011))
2328          (t
2329           (emit-byte segment #b11011001)
2330           (emit-fp-op segment dest #b011)))))
2331
2332 ;;; Store double from st(0) and pop.
2333 (define-instruction fstpd (segment dest)
2334   (:printer floating-point ((op '(#b101 #b011))))
2335   (:printer floating-point-fp ((op '(#b101 #b011))))
2336   (:emitter
2337    (cond ((fp-reg-tn-p dest)
2338           (emit-byte segment #b11011101)
2339           (emit-fp-op segment dest #b011))
2340          (t
2341           (emit-byte segment #b11011101)
2342           (emit-fp-op segment dest #b011)))))
2343
2344 ;;; Store long from st(0) and pop.
2345 (define-instruction fstpl (segment dest)
2346   (:printer floating-point ((op '(#b011 #b111))))
2347   (:emitter
2348     (emit-byte segment #b11011011)
2349     (emit-fp-op segment dest #b111)))
2350
2351 ;;; Decrement stack-top pointer.
2352 (define-instruction fdecstp (segment)
2353   (:printer floating-point-no ((op #b10110)))
2354   (:emitter
2355    (emit-byte segment #b11011001)
2356    (emit-byte segment #b11110110)))
2357
2358 ;;; Increment stack-top pointer.
2359 (define-instruction fincstp (segment)
2360   (:printer floating-point-no ((op #b10111)))
2361   (:emitter
2362    (emit-byte segment #b11011001)
2363    (emit-byte segment #b11110111)))
2364
2365 ;;; Free fp register.
2366 (define-instruction ffree (segment dest)
2367   (:printer floating-point-fp ((op '(#b101 #b000))))
2368   (:emitter
2369    (emit-byte segment #b11011101)
2370    (emit-fp-op segment dest #b000)))
2371
2372 (define-instruction fabs (segment)
2373   (:printer floating-point-no ((op #b00001)))
2374   (:emitter
2375    (emit-byte segment #b11011001)
2376    (emit-byte segment #b11100001)))
2377
2378 (define-instruction fchs (segment)
2379   (:printer floating-point-no ((op #b00000)))
2380   (:emitter
2381    (emit-byte segment #b11011001)
2382    (emit-byte segment #b11100000)))
2383
2384 (define-instruction frndint(segment)
2385   (:printer floating-point-no ((op #b11100)))
2386   (:emitter
2387    (emit-byte segment #b11011001)
2388    (emit-byte segment #b11111100)))
2389
2390 ;;; Initialize NPX.
2391 (define-instruction fninit(segment)
2392   (:printer floating-point-5 ((op #b00011)))
2393   (:emitter
2394    (emit-byte segment #b11011011)
2395    (emit-byte segment #b11100011)))
2396
2397 ;;; Store Status Word to AX.
2398 (define-instruction fnstsw(segment)
2399   (:printer floating-point-st ((op #b00000)))
2400   (:emitter
2401    (emit-byte segment #b11011111)
2402    (emit-byte segment #b11100000)))
2403
2404 ;;; Load Control Word.
2405 ;;;
2406 ;;; src must be a memory location
2407 (define-instruction fldcw(segment src)
2408   (:printer floating-point ((op '(#b001 #b101))))
2409   (:emitter
2410    (emit-byte segment #b11011001)
2411    (emit-fp-op segment src #b101)))
2412
2413 ;;; Store Control Word.
2414 (define-instruction fnstcw(segment dst)
2415   (:printer floating-point ((op '(#b001 #b111))))
2416   (:emitter
2417    (emit-byte segment #b11011001)
2418    (emit-fp-op segment dst #b111)))
2419
2420 ;;; Store FP Environment.
2421 (define-instruction fstenv(segment dst)
2422   (:printer floating-point ((op '(#b001 #b110))))
2423   (:emitter
2424    (emit-byte segment #b11011001)
2425    (emit-fp-op segment dst #b110)))
2426
2427 ;;; Restore FP Environment.
2428 (define-instruction fldenv(segment src)
2429   (:printer floating-point ((op '(#b001 #b100))))
2430   (:emitter
2431    (emit-byte segment #b11011001)
2432    (emit-fp-op segment src #b100)))
2433
2434 ;;; Save FP State.
2435 (define-instruction fsave(segment dst)
2436   (:printer floating-point ((op '(#b101 #b110))))
2437   (:emitter
2438    (emit-byte segment #b11011101)
2439    (emit-fp-op segment dst #b110)))
2440
2441 ;;; Restore FP State.
2442 (define-instruction frstor(segment src)
2443   (:printer floating-point ((op '(#b101 #b100))))
2444   (:emitter
2445    (emit-byte segment #b11011101)
2446    (emit-fp-op segment src #b100)))
2447
2448 ;;; Clear exceptions.
2449 (define-instruction fnclex(segment)
2450   (:printer floating-point-5 ((op #b00010)))
2451   (:emitter
2452    (emit-byte segment #b11011011)
2453    (emit-byte segment #b11100010)))
2454
2455 ;;; comparison
2456 (define-instruction fcom (segment src)
2457   (:printer floating-point ((op '(#b000 #b010))))
2458   (:emitter
2459    (emit-byte segment #b11011000)
2460    (emit-fp-op segment src #b010)))
2461
2462 (define-instruction fcomd (segment src)
2463   (:printer floating-point ((op '(#b100 #b010))))
2464   (:printer floating-point-fp ((op '(#b000 #b010))))
2465   (:emitter
2466    (if (fp-reg-tn-p src)
2467        (emit-byte segment #b11011000)
2468      (emit-byte segment #b11011100))
2469    (emit-fp-op segment src #b010)))
2470
2471 ;;; Compare ST1 to ST0, popping the stack twice.
2472 (define-instruction fcompp (segment)
2473   (:printer floating-point-3 ((op '(#b110 #b011001))))
2474   (:emitter
2475    (emit-byte segment #b11011110)
2476    (emit-byte segment #b11011001)))
2477
2478 ;;; unordered comparison
2479 (define-instruction fucom (segment src)
2480   (:printer floating-point-fp ((op '(#b101 #b100))))
2481   (:emitter
2482    (aver (fp-reg-tn-p src))
2483    (emit-byte segment #b11011101)
2484    (emit-fp-op segment src #b100)))
2485
2486 (define-instruction ftst (segment)
2487   (:printer floating-point-no ((op #b00100)))
2488   (:emitter
2489    (emit-byte segment #b11011001)
2490    (emit-byte segment #b11100100)))
2491
2492 ;;;; 80387 specials
2493
2494 (define-instruction fsqrt(segment)
2495   (:printer floating-point-no ((op #b11010)))
2496   (:emitter
2497    (emit-byte segment #b11011001)
2498    (emit-byte segment #b11111010)))
2499
2500 (define-instruction fscale(segment)
2501   (:printer floating-point-no ((op #b11101)))
2502   (:emitter
2503    (emit-byte segment #b11011001)
2504    (emit-byte segment #b11111101)))
2505
2506 (define-instruction fxtract(segment)
2507   (:printer floating-point-no ((op #b10100)))
2508   (:emitter
2509    (emit-byte segment #b11011001)
2510    (emit-byte segment #b11110100)))
2511
2512 (define-instruction fsin(segment)
2513   (:printer floating-point-no ((op #b11110)))
2514   (:emitter
2515    (emit-byte segment #b11011001)
2516    (emit-byte segment #b11111110)))
2517
2518 (define-instruction fcos(segment)
2519   (:printer floating-point-no ((op #b11111)))
2520   (:emitter
2521    (emit-byte segment #b11011001)
2522    (emit-byte segment #b11111111)))
2523
2524 (define-instruction fprem1(segment)
2525   (:printer floating-point-no ((op #b10101)))
2526   (:emitter
2527    (emit-byte segment #b11011001)
2528    (emit-byte segment #b11110101)))
2529
2530 (define-instruction fprem(segment)
2531   (:printer floating-point-no ((op #b11000)))
2532   (:emitter
2533    (emit-byte segment #b11011001)
2534    (emit-byte segment #b11111000)))
2535
2536 (define-instruction fxam (segment)
2537   (:printer floating-point-no ((op #b00101)))
2538   (:emitter
2539    (emit-byte segment #b11011001)
2540    (emit-byte segment #b11100101)))
2541
2542 ;;; These do push/pop to stack and need special handling
2543 ;;; in any VOPs that use them. See the book.
2544
2545 ;;; st0 <- st1*log2(st0)
2546 (define-instruction fyl2x(segment)      ; pops stack
2547   (:printer floating-point-no ((op #b10001)))
2548   (:emitter
2549    (emit-byte segment #b11011001)
2550    (emit-byte segment #b11110001)))
2551
2552 (define-instruction fyl2xp1(segment)
2553   (:printer floating-point-no ((op #b11001)))
2554   (:emitter
2555    (emit-byte segment #b11011001)
2556    (emit-byte segment #b11111001)))
2557
2558 (define-instruction f2xm1(segment)
2559   (:printer floating-point-no ((op #b10000)))
2560   (:emitter
2561    (emit-byte segment #b11011001)
2562    (emit-byte segment #b11110000)))
2563
2564 (define-instruction fptan(segment)      ; st(0) <- 1; st(1) <- tan
2565   (:printer floating-point-no ((op #b10010)))
2566   (:emitter
2567    (emit-byte segment #b11011001)
2568    (emit-byte segment #b11110010)))
2569
2570 (define-instruction fpatan(segment)     ; POPS STACK
2571   (:printer floating-point-no ((op #b10011)))
2572   (:emitter
2573    (emit-byte segment #b11011001)
2574    (emit-byte segment #b11110011)))
2575
2576 ;;;; loading constants
2577
2578 (define-instruction fldz(segment)
2579   (:printer floating-point-no ((op #b01110)))
2580   (:emitter
2581    (emit-byte segment #b11011001)
2582    (emit-byte segment #b11101110)))
2583
2584 (define-instruction fld1(segment)
2585   (:printer floating-point-no ((op #b01000)))
2586   (:emitter
2587    (emit-byte segment #b11011001)
2588    (emit-byte segment #b11101000)))
2589
2590 (define-instruction fldpi(segment)
2591   (:printer floating-point-no ((op #b01011)))
2592   (:emitter
2593    (emit-byte segment #b11011001)
2594    (emit-byte segment #b11101011)))
2595
2596 (define-instruction fldl2t(segment)
2597   (:printer floating-point-no ((op #b01001)))
2598   (:emitter
2599    (emit-byte segment #b11011001)
2600    (emit-byte segment #b11101001)))
2601
2602 (define-instruction fldl2e(segment)
2603   (:printer floating-point-no ((op #b01010)))
2604   (:emitter
2605    (emit-byte segment #b11011001)
2606    (emit-byte segment #b11101010)))
2607
2608 (define-instruction fldlg2(segment)
2609   (:printer floating-point-no ((op #b01100)))
2610   (:emitter
2611    (emit-byte segment #b11011001)
2612    (emit-byte segment #b11101100)))
2613
2614 (define-instruction fldln2(segment)
2615   (:printer floating-point-no ((op #b01101)))
2616   (:emitter
2617    (emit-byte segment #b11011001)
2618    (emit-byte segment #b11101101)))