src/compiler/ppc/cell.lisp

   1 ;;;; the VM definition of various primitive memory access VOPs for the
   2 ;;;; PPC
   3
   4 ;;;; This software is part of the SBCL system. See the README file for
   5 ;;;; more information.
   6 ;;;;
   7 ;;;; This software is derived from the CMU CL system, which was
   8 ;;;; written at Carnegie Mellon University and released into the
   9 ;;;; public domain. The software is in the public domain and is
  10 ;;;; provided with absolutely no warranty. See the COPYING and CREDITS
  11 ;;;; files for more information.
  12
  13 (in-package "SB!VM")
  14 \f
  15 ;;;; Data object ref/set stuff.
  16
  17 (define-vop (slot)
  18   (:args (object :scs (descriptor-reg)))
  19   (:info name offset lowtag)
  20   (:ignore name)
  21   (:results (result :scs (descriptor-reg any-reg)))
  22   (:generator 1
  23     (loadw result object offset lowtag)))
  24
  25 (define-vop (set-slot)
  26   (:args (object :scs (descriptor-reg))
  27          (value :scs (descriptor-reg any-reg)))
  28   (:info name offset lowtag)
  29   (:ignore name)
  30   (:results)
  31   (:generator 1
  32     (storew value object offset lowtag)))
  33
  34 \f
  35 ;;;; Symbol hacking VOPs:
  36
  37 ;;; The compiler likes to be able to directly SET symbols.
  38 (define-vop (set cell-set)
  39   (:variant symbol-value-slot other-pointer-lowtag))
  40
  41 ;;; Do a cell ref with an error check for being unbound.
  42 (define-vop (checked-cell-ref)
  43   (:args (object :scs (descriptor-reg) :target obj-temp))
  44   (:results (value :scs (descriptor-reg any-reg)))
  45   (:policy :fast-safe)
  46   (:vop-var vop)
  47   (:save-p :compute-only)
  48   (:temporary (:scs (descriptor-reg) :from (:argument 0)) obj-temp))
  49
  50 ;;; With SYMBOL-VALUE, we check that the value isn't the trap object.
  51 ;;; So SYMBOL-VALUE of NIL is NIL.
  52 (define-vop (symbol-value checked-cell-ref)
  53   (:translate symbol-value)
  54   (:generator 9
  55     (move obj-temp object)
  56     (loadw value obj-temp symbol-value-slot other-pointer-lowtag)
  57     (let ((err-lab (generate-error-code vop unbound-symbol-error obj-temp)))
  58       (inst cmpwi value unbound-marker-widetag)
  59       (inst beq err-lab))))
  60
  61 ;;; Like CHECKED-CELL-REF, only we are a predicate to see if the cell
  62 ;;; is bound.
  63 (define-vop (boundp-frob)
  64   (:args (object :scs (descriptor-reg)))
  65   (:conditional)
  66   (:info target not-p)
  67   (:policy :fast-safe)
  68   (:temporary (:scs (descriptor-reg)) value))
  69
  70 (define-vop (boundp boundp-frob)
  71   (:translate boundp)
  72   (:generator 9
  73     (loadw value object symbol-value-slot other-pointer-lowtag)
  74     (inst cmpwi value unbound-marker-widetag)
  75     (inst b? (if not-p :eq :ne) target)))
  76
  77 (define-vop (fast-symbol-value cell-ref)
  78   (:variant symbol-value-slot other-pointer-lowtag)
  79   (:policy :fast)
  80   (:translate symbol-value))
  81
  82 (define-vop (symbol-hash)
  83   (:policy :fast-safe)
  84   (:translate symbol-hash)
  85   (:args (symbol :scs (descriptor-reg)))
  86   (:results (res :scs (any-reg)))
  87   (:result-types positive-fixnum)
  88   (:generator 2
  89     ;; The symbol-hash slot of NIL holds NIL because it is also the
  90     ;; cdr slot, so we have to strip off the two low bits to make sure
  91     ;; it is a fixnum.  The lowtag selection magic that is required to
  92     ;; ensure this is explained in the comment in objdef.lisp
  93     (loadw res symbol symbol-hash-slot other-pointer-lowtag)
  94     (inst clrrwi res res n-fixnum-tag-bits)))
  95 \f
  96 ;;;; Fdefinition (fdefn) objects.
  97
  98 (define-vop (fdefn-fun cell-ref)
  99   (:variant fdefn-fun-slot other-pointer-lowtag))
 100
 101 (define-vop (safe-fdefn-fun)
 102   (:args (object :scs (descriptor-reg) :target obj-temp))
 103   (:results (value :scs (descriptor-reg any-reg)))
 104   (:vop-var vop)
 105   (:save-p :compute-only)
 106   (:temporary (:scs (descriptor-reg) :from (:argument 0)) obj-temp)
 107   (:generator 10
 108     (move obj-temp object)
 109     (loadw value obj-temp fdefn-fun-slot other-pointer-lowtag)
 110     (inst cmpw value null-tn)
 111     (let ((err-lab (generate-error-code vop undefined-fun-error obj-temp)))
 112       (inst beq err-lab))))
 113
 114 (define-vop (set-fdefn-fun)
 115   (:policy :fast-safe)
 116   (:translate (setf fdefn-fun))
 117   (:args (function :scs (descriptor-reg) :target result)
 118          (fdefn :scs (descriptor-reg)))
 119   (:temporary (:scs (interior-reg)) lip)
 120   (:temporary (:scs (non-descriptor-reg)) type)
 121   (:results (result :scs (descriptor-reg)))
 122   (:generator 38
 123     (let ((normal-fn (gen-label)))
 124       (load-type type function (- fun-pointer-lowtag))
 125       (inst cmpwi type simple-fun-header-widetag)
 126       ;;(inst mr lip function)
 127       (inst addi lip function
 128             (- (ash simple-fun-code-offset word-shift) fun-pointer-lowtag))
 129       (inst beq normal-fn)
 130       (inst lr lip  (make-fixup "closure_tramp" :foreign))
 131       (emit-label normal-fn)
 132       (storew lip fdefn fdefn-raw-addr-slot other-pointer-lowtag)
 133       (storew function fdefn fdefn-fun-slot other-pointer-lowtag)
 134       (move result function))))
 135
 136 (define-vop (fdefn-makunbound)
 137   (:policy :fast-safe)
 138   (:translate fdefn-makunbound)
 139   (:args (fdefn :scs (descriptor-reg) :target result))
 140   (:temporary (:scs (non-descriptor-reg)) temp)
 141   (:results (result :scs (descriptor-reg)))
 142   (:generator 38
 143     (storew null-tn fdefn fdefn-fun-slot other-pointer-lowtag)
 144     (inst lr temp  (make-fixup "undefined_tramp" :foreign))
 145     (storew temp fdefn fdefn-raw-addr-slot other-pointer-lowtag)
 146     (move result fdefn)))
 147
 148
 149 \f
 150 ;;;; Binding and Unbinding.
 151
 152 ;;; BIND -- Establish VAL as a binding for SYMBOL.  Save the old value and
 153 ;;; the symbol on the binding stack and stuff the new value into the
 154 ;;; symbol.
 155
 156 (define-vop (bind)
 157   (:args (val :scs (any-reg descriptor-reg))
 158          (symbol :scs (descriptor-reg)))
 159   (:temporary (:scs (descriptor-reg)) temp)
 160   (:generator 5
 161     (loadw temp symbol symbol-value-slot other-pointer-lowtag)
 162     (inst addi bsp-tn bsp-tn (* 2 n-word-bytes))
 163     (storew temp bsp-tn (- binding-value-slot binding-size))
 164     (storew symbol bsp-tn (- binding-symbol-slot binding-size))
 165     (storew val symbol symbol-value-slot other-pointer-lowtag)))
 166
 167
 168 (define-vop (unbind)
 169   (:temporary (:scs (descriptor-reg)) symbol value)
 170   (:generator 0
 171     (loadw symbol bsp-tn (- binding-symbol-slot binding-size))
 172     (loadw value bsp-tn (- binding-value-slot binding-size))
 173     (storew value symbol symbol-value-slot other-pointer-lowtag)
 174     (storew zero-tn bsp-tn (- binding-value-slot binding-size))
 175     (storew zero-tn bsp-tn (- binding-symbol-slot binding-size))
 176     (inst subi bsp-tn bsp-tn (* 2 n-word-bytes))))
 177
 178
 179 (define-vop (unbind-to-here)
 180   (:args (arg :scs (descriptor-reg any-reg) :target where))
 181   (:temporary (:scs (any-reg) :from (:argument 0)) where)
 182   (:temporary (:scs (descriptor-reg)) symbol value)
 183   (:generator 0
 184     (let ((loop (gen-label))
 185           (skip (gen-label))
 186           (done (gen-label)))
 187       (move where arg)
 188       (inst cmpw where bsp-tn)
 189       (inst beq done)
 190
 191       (emit-label loop)
 192       (loadw symbol bsp-tn (- binding-symbol-slot binding-size))
 193       (inst cmpwi symbol 0)
 194       (inst beq skip)
 195       (loadw value bsp-tn (- binding-value-slot binding-size))
 196       (storew value symbol symbol-value-slot other-pointer-lowtag)
 197       (storew zero-tn bsp-tn (- binding-value-slot binding-size))
 198       (storew zero-tn bsp-tn (- binding-symbol-slot binding-size))
 199
 200       (emit-label skip)
 201       (inst subi bsp-tn bsp-tn (* 2 n-word-bytes))
 202       (inst cmpw where bsp-tn)
 203       (inst bne loop)
 204
 205       (emit-label done))))
 206
 207
 208 \f
 209 ;;;; Closure indexing.
 210
 211 (define-vop (closure-index-ref word-index-ref)
 212   (:variant closure-info-offset fun-pointer-lowtag)
 213   (:translate %closure-index-ref))
 214
 215 (define-vop (funcallable-instance-info word-index-ref)
 216   (:variant funcallable-instance-info-offset fun-pointer-lowtag)
 217   (:translate %funcallable-instance-info))
 218
 219 (define-vop (set-funcallable-instance-info word-index-set)
 220   (:variant funcallable-instance-info-offset fun-pointer-lowtag)
 221   (:translate %set-funcallable-instance-info))
 222
 223 (define-vop (funcallable-instance-lexenv cell-ref)
 224   (:variant funcallable-instance-lexenv-slot fun-pointer-lowtag))
 225
 226
 227 (define-vop (closure-ref slot-ref)
 228   (:variant closure-info-offset fun-pointer-lowtag))
 229
 230 (define-vop (closure-init slot-set)
 231   (:variant closure-info-offset fun-pointer-lowtag))
 232
 233 \f
 234 ;;;; Value Cell hackery.
 235
 236 (define-vop (value-cell-ref cell-ref)
 237   (:variant value-cell-value-slot other-pointer-lowtag))
 238
 239 (define-vop (value-cell-set cell-set)
 240   (:variant value-cell-value-slot other-pointer-lowtag))
 241
 242
 243 \f
 244 ;;;; Instance hackery:
 245
 246 (define-vop (instance-length)
 247   (:policy :fast-safe)
 248   (:translate %instance-length)
 249   (:args (struct :scs (descriptor-reg)))
 250   (:temporary (:scs (non-descriptor-reg)) temp)
 251   (:results (res :scs (unsigned-reg)))
 252   (:result-types positive-fixnum)
 253   (:generator 4
 254     (loadw temp struct 0 instance-pointer-lowtag)
 255     (inst srwi res temp n-widetag-bits)))
 256
 257 (define-vop (instance-ref slot-ref)
 258   (:variant instance-slots-offset instance-pointer-lowtag)
 259   (:policy :fast-safe)
 260   (:translate %instance-ref)
 261   (:arg-types * (:constant index)))
 262
 263 #+nil
 264 (define-vop (instance-set slot-set)
 265   (:policy :fast-safe)
 266   (:translate %instance-set)
 267   (:variant instance-slots-offset instance-pointer-lowtag)
 268   (:arg-types instance (:constant index) *))
 269
 270 (define-vop (instance-index-ref word-index-ref)
 271   (:policy :fast-safe)
 272   (:translate %instance-ref)
 273   (:variant instance-slots-offset instance-pointer-lowtag)
 274   (:arg-types instance positive-fixnum))
 275
 276 (define-vop (instance-index-set word-index-set)
 277   (:policy :fast-safe)
 278   (:translate %instance-set)
 279   (:variant instance-slots-offset instance-pointer-lowtag)
 280   (:arg-types instance positive-fixnum *))
 281
 282
 283
 284 \f
 285 ;;;; Code object frobbing.
 286
 287 (define-vop (code-header-ref word-index-ref)
 288   (:translate code-header-ref)
 289   (:policy :fast-safe)
 290   (:variant 0 other-pointer-lowtag))
 291
 292 (define-vop (code-header-set word-index-set)
 293   (:translate code-header-set)
 294   (:policy :fast-safe)
 295   (:variant 0 other-pointer-lowtag))
 296
 297
 298 \f
 299 ;;;; raw instance slot accessors
 300
 301 (define-vop (raw-instance-ref/word)
 302   (:translate %raw-instance-ref/word)
 303   (:policy :fast-safe)
 304   (:args (object :scs (descriptor-reg))
 305          (index :scs (any-reg)))
 306   (:arg-types * positive-fixnum)
 307   (:results (value :scs (unsigned-reg)))
 308   (:temporary (:scs (non-descriptor-reg)) offset)
 309   (:result-types unsigned-num)
 310   (:generator 5
 311     (loadw offset object 0 instance-pointer-lowtag)
 312     ;; offset = (offset >> n-widetag-bits) << 2
 313     (inst rlwinm offset offset (- 32 (- n-widetag-bits 2)) (- n-widetag-bits 2) 29)
 314     (inst subf offset index offset)
 315     (inst addi
 316           offset
 317           offset
 318           (- (* (1- instance-slots-offset) n-word-bytes)
 319              instance-pointer-lowtag))
 320     (inst lwzx value object offset)))
 321
 322 (define-vop (raw-instance-set/word)
 323   (:translate %raw-instance-set/word)
 324   (:policy :fast-safe)
 325   (:args (object :scs (descriptor-reg))
 326          (index :scs (any-reg))
 327          (value :scs (unsigned-reg)))
 328   (:arg-types * positive-fixnum unsigned-num)
 329   (:results (result :scs (unsigned-reg)))
 330   (:temporary (:scs (non-descriptor-reg)) offset)
 331   (:result-types unsigned-num)
 332   (:generator 5
 333     (loadw offset object 0 instance-pointer-lowtag)
 334     ;; offset = (offset >> n-widetag-bits) << 2
 335     (inst rlwinm offset offset (- 32 (- n-widetag-bits 2)) (- n-widetag-bits 2) 29)
 336     (inst subf offset index offset)
 337     (inst addi
 338           offset
 339           offset
 340           (- (* (1- instance-slots-offset) n-word-bytes)
 341              instance-pointer-lowtag))
 342     (inst stwx value object offset)
 343     (move result value)))
 344
 345 (define-vop (raw-instance-ref/single)
 346   (:translate %raw-instance-ref/single)
 347   (:policy :fast-safe)
 348   (:args (object :scs (descriptor-reg))
 349          (index :scs (any-reg)))
 350   (:arg-types * positive-fixnum)
 351   (:results (value :scs (single-reg)))
 352   (:temporary (:scs (non-descriptor-reg)) offset)
 353   (:result-types single-float)
 354   (:generator 5
 355     (loadw offset object 0 instance-pointer-lowtag)
 356     ;; offset = (offset >> n-widetag-bits) << 2
 357     (inst rlwinm offset offset (- 32 (- n-widetag-bits 2)) (- n-widetag-bits 2) 29)
 358     (inst subf offset index offset)
 359     (inst addi
 360           offset
 361           offset
 362           (- (* (1- instance-slots-offset) n-word-bytes)
 363              instance-pointer-lowtag))
 364     (inst lfsx value object offset)))
 365
 366 (define-vop (raw-instance-set/single)
 367   (:translate %raw-instance-set/single)
 368   (:policy :fast-safe)
 369   (:args (object :scs (descriptor-reg))
 370          (index :scs (any-reg))
 371          (value :scs (single-reg) :target result))
 372   (:arg-types * positive-fixnum single-float)
 373   (:results (result :scs (single-reg)))
 374   (:result-types single-float)
 375   (:temporary (:scs (non-descriptor-reg)) offset)
 376   (:generator 5
 377     (loadw offset object 0 instance-pointer-lowtag)
 378     ;; offset = (offset >> n-widetag-bits) << 2
 379     (inst rlwinm offset offset (- 32 (- n-widetag-bits 2)) (- n-widetag-bits 2) 29)
 380     (inst subf offset index offset)
 381     (inst addi
 382           offset
 383           offset
 384           (- (* (1- instance-slots-offset) n-word-bytes)
 385              instance-pointer-lowtag))
 386     (inst stfsx value object offset)
 387     (unless (location= result value)
 388       (inst frsp result value))))
 389
 390 (define-vop (raw-instance-ref/double)
 391   (:translate %raw-instance-ref/double)
 392   (:policy :fast-safe)
 393   (:args (object :scs (descriptor-reg))
 394          (index :scs (any-reg)))
 395   (:arg-types * positive-fixnum)
 396   (:results (value :scs (double-reg)))
 397   (:temporary (:scs (non-descriptor-reg)) offset)
 398   (:result-types double-float)
 399   (:generator 5
 400     (loadw offset object 0 instance-pointer-lowtag)
 401     ;; offset = (offset >> n-widetag-bits) << 2
 402     (inst rlwinm offset offset (- 32 (- n-widetag-bits 2)) (- n-widetag-bits 2) 29)
 403     (inst subf offset index offset)
 404     (inst addi
 405           offset
 406           offset
 407           (- (* (- instance-slots-offset 2) n-word-bytes)
 408              instance-pointer-lowtag))
 409     (inst lfdx value object offset)))
 410
 411 (define-vop (raw-instance-set/double)
 412   (:translate %raw-instance-set/double)
 413   (:policy :fast-safe)
 414   (:args (object :scs (descriptor-reg))
 415          (index :scs (any-reg))
 416          (value :scs (double-reg) :target result))
 417   (:arg-types * positive-fixnum double-float)
 418   (:results (result :scs (double-reg)))
 419   (:result-types double-float)
 420   (:temporary (:scs (non-descriptor-reg)) offset)
 421   (:generator 5
 422     (loadw offset object 0 instance-pointer-lowtag)
 423     ;; offset = (offset >> n-widetag-bits) << 2
 424     (inst rlwinm offset offset (- 32 (- n-widetag-bits 2)) (- n-widetag-bits 2) 29)
 425     (inst subf offset index offset)
 426     (inst addi
 427           offset
 428           offset
 429           (- (* (- instance-slots-offset 2) n-word-bytes)
 430              instance-pointer-lowtag))
 431     (inst stfdx value object offset)
 432     (unless (location= result value)
 433       (inst fmr result value))))
 434
 435 (define-vop (raw-instance-ref/complex-single)
 436   (:translate %raw-instance-ref/complex-single)
 437   (:policy :fast-safe)
 438   (:args (object :scs (descriptor-reg))
 439          (index :scs (any-reg)))
 440   (:arg-types * positive-fixnum)
 441   (:results (value :scs (complex-single-reg)))
 442   (:temporary (:scs (non-descriptor-reg)) offset)
 443   (:result-types complex-single-float)
 444   (:generator 5
 445     (loadw offset object 0 instance-pointer-lowtag)
 446     ;; offset = (offset >> n-widetag-bits) << 2
 447     (inst rlwinm offset offset (- 32 (- n-widetag-bits 2)) (- n-widetag-bits 2) 29)
 448     (inst subf offset index offset)
 449     (inst addi
 450           offset
 451           offset
 452           (- (* (- instance-slots-offset 2) n-word-bytes)
 453              instance-pointer-lowtag))
 454     (inst lfsx (complex-single-reg-real-tn value) object offset)
 455     (inst addi offset offset n-word-bytes)
 456     (inst lfsx (complex-single-reg-imag-tn value) object offset)))
 457
 458 (define-vop (raw-instance-set/complex-single)
 459   (:translate %raw-instance-set/complex-single)
 460   (:policy :fast-safe)
 461   (:args (object :scs (descriptor-reg))
 462          (index :scs (any-reg))
 463          (value :scs (complex-single-reg) :target result))
 464   (:arg-types * positive-fixnum complex-single-float)
 465   (:results (result :scs (complex-single-reg)))
 466   (:result-types complex-single-float)
 467   (:temporary (:scs (non-descriptor-reg)) offset)
 468   (:generator 5
 469     (loadw offset object 0 instance-pointer-lowtag)
 470     ;; offset = (offset >> n-widetag-bits) << 2
 471     (inst rlwinm offset offset (- 32 (- n-widetag-bits 2)) (- n-widetag-bits 2) 29)
 472     (inst subf offset index offset)
 473     (inst addi
 474           offset
 475           offset
 476           (- (* (- instance-slots-offset 2) n-word-bytes)
 477              instance-pointer-lowtag))
 478     (let ((value-real (complex-single-reg-real-tn value))
 479           (result-real (complex-single-reg-real-tn result)))
 480       (inst stfsx value-real object offset)
 481       (unless (location= result-real value-real)
 482         (inst frsp result-real value-real)))
 483     (inst addi offset offset n-word-bytes)
 484     (let ((value-imag (complex-single-reg-imag-tn value))
 485           (result-imag (complex-single-reg-imag-tn result)))
 486       (inst stfsx value-imag object offset)
 487       (unless (location= result-imag value-imag)
 488         (inst frsp result-imag value-imag)))))
 489
 490 (define-vop (raw-instance-ref/complex-double)
 491   (:translate %raw-instance-ref/complex-double)
 492   (:policy :fast-safe)
 493   (:args (object :scs (descriptor-reg))
 494          (index :scs (any-reg)))
 495   (:arg-types * positive-fixnum)
 496   (:results (value :scs (complex-double-reg)))
 497   (:temporary (:scs (non-descriptor-reg)) offset)
 498   (:result-types complex-double-float)
 499   (:generator 5
 500     (loadw offset object 0 instance-pointer-lowtag)
 501     ;; offset = (offset >> n-widetag-bits) << 2
 502     (inst rlwinm offset offset (- 32 (- n-widetag-bits 2)) (- n-widetag-bits 2) 29)
 503     (inst subf offset index offset)
 504     (inst addi
 505           offset
 506           offset
 507           (- (* (- instance-slots-offset 4) n-word-bytes)
 508              instance-pointer-lowtag))
 509     (inst lfdx (complex-double-reg-real-tn value) object offset)
 510     (inst addi offset offset (* 2 n-word-bytes))
 511     (inst lfdx (complex-double-reg-imag-tn value) object offset)))
 512
 513 (define-vop (raw-instance-set/complex-double)
 514   (:translate %raw-instance-set/complex-double)
 515   (:policy :fast-safe)
 516   (:args (object :scs (descriptor-reg))
 517          (index :scs (any-reg))
 518          (value :scs (complex-double-reg) :target result))
 519   (:arg-types * positive-fixnum complex-double-float)
 520   (:results (result :scs (complex-double-reg)))
 521   (:result-types complex-double-float)
 522   (:temporary (:scs (non-descriptor-reg)) offset)
 523   (:generator 5
 524     (loadw offset object 0 instance-pointer-lowtag)
 525     ;; offset = (offset >> n-widetag-bits) << 2
 526     (inst rlwinm offset offset (- 32 (- n-widetag-bits 2)) (- n-widetag-bits 2) 29)
 527     (inst subf offset index offset)
 528     (inst addi
 529           offset
 530           offset
 531           (- (* (- instance-slots-offset 4) n-word-bytes)
 532              instance-pointer-lowtag))
 533     (let ((value-real (complex-double-reg-real-tn value))
 534           (result-real (complex-double-reg-real-tn result)))
 535       (inst stfdx value-real object offset)
 536       (unless (location= result-real value-real)
 537         (inst fmr result-real value-real)))
 538     (inst addi offset offset (* 2 n-word-bytes))
 539     (let ((value-imag (complex-double-reg-imag-tn value))
 540           (result-imag (complex-double-reg-imag-tn result)))
 541       (inst stfdx value-imag object offset)
 542       (unless (location= result-imag value-imag)
 543         (inst fmr result-imag value-imag)))))