Changeset 377


Ignore:
Timestamp:
Jan 24, 2004, 3:32:29 PM (21 years ago)
Author:
Gary Byers
Message:

Some of these actually work ...

File:
1 edited

Legend:

Unmodified
Added
Removed
  • trunk/ccl/compiler/PPC/PPC64/ppc64-vinsns.lisp

    r346 r377  
    3434
    3535(define-ppc64-vinsn scale-32bit-misc-index (((dest :u64))
    36                                             ((idx :imm)      ; A fixnum
     36                                            ((idx :imm) ; A fixnum
    3737                                             )
    3838                                            ())
     
    4141
    4242(define-ppc64-vinsn scale-16bit-misc-index (((dest :u32))
    43                                           ((idx :imm)      ; A fixnum
    44                                            )
    45                                           ())
     43                                            ((idx :imm) ; A fixnum
     44                                             )
     45                                            ())
    4646  (srdi dest idx 2)
    4747  (addi dest dest ppc64::misc-data-offset))
    4848
    4949(define-ppc64-vinsn scale-8bit-misc-index (((dest :u32))
    50                                          ((idx :imm)      ; A fixnum
    51                                           )
    52                                          ())
     50                                           ((idx :imm) ; A fixnum
     51                                            )
     52                                           ())
    5353  (srdi dest idx ppc64::word-shift)
    5454  (addi dest dest ppc64::misc-data-offset))
    5555
    5656
    57 (define-ppc64-vinsn scale-64bit-misc-index ((((dest :u64))
    58                                              ((idx :imm)      ; A fixnum
    59                                               )
    60                                              ()))
     57(define-ppc64-vinsn scale-64bit-misc-index (((dest :u64))
     58                                            ((idx :imm) ; A fixnum
     59                                             )
     60                                            ())
    6161  (addi dest idx ppc64::misc-data-offset))
    6262
    6363(define-ppc64-vinsn scale-1bit-misc-index (((word-index :u32)
    64                                           (bitnum :u8))    ; (unsigned-byte 5)
    65                                          ((idx :imm)      ; A fixnum
    66                                           )
    67                                          )
    68   ; Logically, we want to:
    69   ; 1) Unbox the index by shifting it right 2 bits.
    70   ; 2) Shift (1) right 5 bits
    71   ; 3) Scale (2) by shifting it left 2 bits.
    72   ; We get to do all of this with one instruction
     64                                            (bitnum :u8)) ; (unsigned-byte 5)
     65                                           ((idx :imm) ; A fixnum
     66                                            )
     67                                           )
     68                                        ; Logically, we want to:
     69                                        ; 1) Unbox the index by shifting it right 2 bits.
     70                                        ; 2) Shift (1) right 5 bits
     71                                        ; 3) Scale (2) by shifting it left 2 bits.
     72                                        ; We get to do all of this with one instruction
    7373  (rlwinm word-index idx (- ppc64::nbits-in-word 5) 5 (- ppc64::least-significant-bit ppc64::fixnum-shift))
    74   (addi word-index word-index ppc64::misc-data-offset)     ; Hmmm. Also one instruction, but less impressive somehow.
     74  (addi word-index word-index ppc64::misc-data-offset) ; Hmmm. Also one instruction, but less impressive somehow.
    7575  (extrwi bitnum idx 5 (- ppc64::nbits-in-word (+ ppc64::fixnum-shift 5))))
    7676
     
    137137
    138138(define-ppc64-vinsn misc-ref-c-single-float  (((dest :single-float))
    139                                             ((v :lisp)
    140                                              (idx :u32const))
    141                                             ())
     139                                              ((v :lisp)
     140                                               (idx :u32const))
     141                                              ())
    142142  (lfs dest (:apply + ppc64::misc-data-offset (:apply ash idx 2)) v))
    143143
     
    150150
    151151(define-ppc64-vinsn misc-ref-c-double-float  (((dest :double-float))
    152                                             ((v :lisp)
    153                                              (idx :u32const))
    154                                             ())
     152                                              ((v :lisp)
     153                                               (idx :u32const))
     154                                              ())
    155155  (lfd dest (:apply + ppc64::misc-dfloat-offset (:apply ash idx 3)) v))
    156156
    157157(define-ppc64-vinsn misc-set-c-double-float (((val :double-float))
    158                                            ((v :lisp)
    159                                             (idx :u32const)))
     158                                             ((v :lisp)
     159                                              (idx :u32const)))
    160160  (stfd val (:apply + ppc64::misc-dfloat-offset (:apply ash idx 3)) v))
    161161
    162162(define-ppc64-vinsn misc-set-double-float (()
    163                                          ((val :double-float)
    164                                           (v :lisp)
    165                                           (scaled-idx :u32)))
     163                                           ((val :double-float)
     164                                            (v :lisp)
     165                                            (scaled-idx :u32)))
    166166  (stfdx val v scaled-idx))
    167167
    168168(define-ppc64-vinsn misc-set-c-single-float (((val :single-float))
    169                                            ((v :lisp)
    170                                             (idx :u32const)))
     169                                             ((v :lisp)
     170                                              (idx :u32const)))
    171171  (stfs val (:apply + ppc64::misc-data-offset (:apply ash idx 2)) v))
    172172
     
    185185
    186186(define-ppc64-vinsn misc-ref-c-u16  (((dest :u16))
    187                                    ((v :lisp)
    188                                     (idx :u32const))
    189                                    ())
     187                                     ((v :lisp)
     188                                      (idx :u32const))
     189                                     ())
    190190  (lhz dest (:apply + ppc64::misc-data-offset (:apply ash idx 1)) v))
    191191
     
    202202
    203203(define-ppc64-vinsn misc-ref-s16  (((dest :s16))
    204                                  ((v :lisp)
    205                                   (scaled-idx :u32))
    206                                  ())
     204                                   ((v :lisp)
     205                                    (scaled-idx :u32))
     206                                   ())
    207207  (lhax dest v scaled-idx))
    208208
     
    220220
    221221(define-ppc64-vinsn misc-ref-c-u8  (((dest :u8))
    222                                   ((v :lisp)
    223                                    (idx :u32const))
    224                                   ())
     222                                    ((v :lisp)
     223                                     (idx :u32const))
     224                                    ())
    225225  (lbz dest (:apply + ppc64::misc-data-offset idx) v))
    226226
     
    228228                                    ((v :lisp)
    229229                                     (idx :u32const))
    230                                   ())
     230                                    ())
    231231  (stb val (:apply + ppc64::misc-data-offset idx) v))
    232232
     
    247247                                    ((v :lisp)
    248248                                     (idx :u32const))
    249                                   ())
     249                                    ())
    250250  (lbz dest (:apply + ppc64::misc-data-offset idx) v)
    251251  (extsb dest dest))
     
    260260
    261261(define-ppc64-vinsn misc-ref-c-bit-fixnum (((dest :imm))
    262                                             ((v :lisp)
    263                                              (idx :u32const))
    264                                             ((temp :u32)))
     262                                           ((v :lisp)
     263                                            (idx :u32const))
     264                                           ((temp :u32)))
    265265  (lwz temp (:apply + ppc64::misc-data-offset (:apply ash idx -5)) v)
    266266  (rlwinm dest
     
    302302
    303303(define-ppc64-vinsn misc-element-count-fixnum (((dest :imm))
    304                                                 ((v :lisp))
    305                                                 ((temp :u32)))
     304                                               ((v :lisp))
     305                                               ((temp :u32)))
    306306  (ld temp ppc64::misc-header-offset v)
    307307  (rlwinm dest
     
    312312
    313313(define-ppc64-vinsn check-misc-bound (()
    314                                     ((idx :imm)
    315                                      (v :lisp))
    316                                     ((temp :u32)))
    317   (lwz temp ppc64::misc-header-offset v)
    318   (rlwinm temp
    319           temp
    320           (- ppc64::nbits-in-word (- ppc64::num-subtag-bits ppc64::fixnumshift))
    321           (- ppc64::num-subtag-bits ppc64::fixnumshift)
    322           (- ppc64::least-significant-bit ppc64::fixnumshift))
    323   (twlge idx temp))
     314                                      ((idx :imm)
     315                                       (v :lisp))
     316                                      ((temp :u32)))
     317  (ld temp ppc64::misc-header-offset v)
     318  (rldicr temp temp 0 (- 63 8))
     319  (rldicl temp temp (- 64 (- 8 ppc64::fixnumshift)) (- 8 ppc64::fixnumshift))
     320  (tdlge idx temp))
    324321
    325322(define-ppc64-vinsn 2d-unscaled-index (((dest :u32))
    326                                      ((array :lisp)
    327                                       (i :imm)
    328                                       (j :imm)
    329                                       (dim1 :u32)))
     323                                       ((array :lisp)
     324                                        (i :imm)
     325                                        (j :imm)
     326                                        (dim1 :u32)))
    330327  (mullw dest i dim1)
    331328  (add dest dest j))
     
    334331
    335332(define-ppc64-vinsn 2d-32-scaled-index (((dest :u32))
    336                                       ((array :lisp)
    337                                       (i :imm)
    338                                       (j :imm)
    339                                       (dim1 :u32)))
     333                                        ((array :lisp)
     334                                        (i :imm)
     335                                        (j :imm)
     336                                        (dim1 :u32)))
    340337  (mullw dest i dim1)
    341338  (add dest dest j)
     
    343340
    344341(define-ppc64-vinsn 2d-dim1 (((dest :u32))
    345                            ((header :lisp)))
    346   (lwz dest (+ ppc64::misc-data-offset (* 4 (1+ ppc64::arrayH.dim0-cell))) header)
    347   (srawi dest dest ppc64::fixnumshift))
     342                             ((header :lisp)))
     343  (ld dest (+ ppc64::misc-data-offset (* 8 (1+ ppc64::arrayH.dim0-cell))) header)
     344  (sradi dest dest ppc64::fixnumshift))
    348345
    349346;; Return dim1 (unboxed)
    350 (define-ppc64-vinsn check-2d-bound (((dim :u32))
    351                                   ((i :imm)
    352                                    (j :imm)
    353                                    (header :lisp)))
    354   (lwz dim (+ ppc64::misc-data-offset (* 4 ppc64::arrayH.dim0-cell)) header)
    355   (twlge i dim)
    356   (lwz dim (+ ppc64::misc-data-offset (* 4 (1+ ppc64::arrayH.dim0-cell))) header)
    357   (twlge j dim)
    358   (srawi dim dim ppc64::fixnumshift))
     347(define-ppc64-vinsn check-2d-bound (((dim :u64))
     348                                    ((i :imm)
     349                                     (j :imm)
     350                                     (header :lisp)))
     351  (ld dim (+ ppc64::misc-data-offset (* 8 ppc64::arrayH.dim0-cell)) header)
     352  (tdlge i dim)
     353  (ld dim (+ ppc64::misc-data-offset (* 8 (1+ ppc64::arrayH.dim0-cell))) header)
     354  (tdlge j dim)
     355  (sradi dim dim ppc64::fixnumshift))
    359356
    360357(define-ppc64-vinsn array-data-vector-ref (((dest :lisp))
    361                                          ((header :lisp)))
    362   (lwz dest ppc64::arrayH.data-vector header))
     358                                           ((header :lisp)))
     359  (ld dest ppc64::arrayH.data-vector header))
    363360 
    364361
    365362(define-ppc64-vinsn check-arrayH-rank (()
    366                                      ((header :lisp)
    367                                       (expected :u32const))
    368                                      ((rank :imm)))
     363                                       ((header :lisp)
     364                                        (expected :u32const))
     365                                       ((rank :imm)))
    369366  (lwz rank ppc64::arrayH.rank header)
    370   (twi 27 rank (:apply ash expected ppc64::fixnumshift)))
     367  (tdi 27 rank (:apply ash expected ppc64::fixnumshift)))
    371368
    372369(define-ppc64-vinsn check-arrayH-flags (()
    373                                       ((header :lisp)
    374                                       (expected :u16const))
    375                                       ((flags :imm)
    376                                       (xreg :u32)))
     370                                        ((header :lisp)
     371                                        (expected :u16const))
     372                                        ((flags :imm)
     373                                        (xreg :u32)))
    377374  (lis xreg (:apply ldb (byte 16 16) (:apply ash expected ppc64::fixnumshift)))
    378375  (ori xreg xreg (:apply ldb (byte 16 0) (:apply ash expected ppc64::fixnumshift)))
     
    410407
    411408(define-ppc64-vinsn mem-ref-c-u16 (((dest :u16))
    412                                  ((src :address)
    413                                   (index :s16const)))
     409                                   ((src :address)
     410                                    (index :s16const)))
    414411  (lhz dest index src))
    415412
    416413(define-ppc64-vinsn mem-ref-u16 (((dest :u16))
    417                               ((src :address)
    418                                 (index :s32)))
     414                                ((src :address)
     415                                  (index :s32)))
    419416  (lhzx dest src index))
    420417
    421418
    422419(define-ppc64-vinsn mem-ref-c-s16 (((dest :s16))
    423                                  ((src :address)
    424                                   (index :s16const)))
     420                                   ((src :address)
     421                                    (index :s16const)))
    425422  (lha dest src index))
    426423
    427424(define-ppc64-vinsn mem-ref-s16 (((dest :s16))
    428                               ((src :address)
    429                                 (index :s32)))
     425                                ((src :address)
     426                                  (index :s32)))
    430427  (lhax dest src index))
    431428
    432429(define-ppc64-vinsn mem-ref-c-u8 (((dest :u8))
    433                                 ((src :address)
    434                                  (index :s16const)))
     430                                  ((src :address)
     431                                   (index :s16const)))
    435432  (lbz dest index src))
    436433
    437434(define-ppc64-vinsn mem-ref-u8 (((dest :u8))
    438                               ((src :address)
    439                               (index :s32)))
     435                                ((src :address)
     436                                (index :s32)))
    440437  (lbzx dest src index))
    441438
    442439(define-ppc64-vinsn mem-ref-c-s8 (((dest :s8))
    443                                 ((src :address)
    444                                  (index :s16const)))
     440                                  ((src :address)
     441                                   (index :s16const)))
    445442  (lbz dest index src)
    446443  (extsb dest dest))
    447444
    448445(define-ppc64-vinsn mem-ref-s8 (((dest :s8))
    449                               ((src :address)
    450                               (index :s32)))
     446                                ((src :address)
     447                                (index :s32)))
    451448  (lbzx dest src index)
    452449  (extsb dest dest))
    453450
    454451(define-ppc64-vinsn mem-ref-c-bit (((dest :u8))
    455                                  ((src :address)
    456                                   (byte-index :s16const)
    457                                   (bit-shift :u8const)))
     452                                   ((src :address)
     453                                    (byte-index :s16const)
     454                                    (bit-shift :u8const)))
    458455  (lbz dest byte-index src)
    459456  (rlwinm dest dest bit-shift 31 31))
    460457
    461458(define-ppc64-vinsn mem-ref-c-bit-fixnum (((dest :lisp))
    462                                          ((src :address)
    463                                           (byte-index :s16const)
    464                                           (bit-shift :u8const))
    465                                          ((byteval :u8)))
     459                                          ((src :address)
     460                                           (byte-index :s16const)
     461                                           (bit-shift :u8const))
     462                                          ((byteval :u8)))
    466463  (lbz byteval byte-index src)
    467464  (rlwinm dest byteval bit-shift 29 29))
    468465
    469466(define-ppc64-vinsn mem-ref-bit (((dest :u8))
    470                               ((src :address)
    471                                 (bit-index :lisp))
    472                               ((byte-index :s16)
    473                                 (bit-shift :u8)))
     467                                ((src :address)
     468                                  (bit-index :lisp))
     469                                ((byte-index :s16)
     470                                  (bit-shift :u8)))
    474471  (srwi byte-index bit-index (+ ppc64::fixnumshift 3))
    475472  (extrwi bit-shift bit-index 3 27)
     
    480477
    481478(define-ppc64-vinsn mem-ref-bit-fixnum (((dest :lisp))
    482                                        ((src :address)
    483                                         (bit-index :lisp))
    484                                        ((byte-index :s16)
    485                                         (bit-shift :u8)))
     479                                        ((src :address)
     480                                        (bit-index :lisp))
     481                                        ((byte-index :s16)
     482                                        (bit-shift :u8)))
    486483  (srwi byte-index bit-index (+ ppc64::fixnumshift 3))
    487484  (extrwi bit-shift bit-index 3 27)
     
    495492
    496493(define-ppc64-vinsn mem-ref-c-double-float (((dest :double-float))
    497                                           ((src :address)
    498                                            (index :s16const)))
     494                                            ((src :address)
     495                                             (index :s16const)))
    499496  (lfd dest index src))
    500497
    501498(define-ppc64-vinsn mem-ref-double-float (((dest :double-float))
    502                                         ((src :address)
    503                                          (index :s32)))
     499                                          ((src :address)
     500                                           (index :s32)))
    504501  (lfdx dest src index))
    505502
    506503(define-ppc64-vinsn mem-set-c-double-float (()
    507                                           ((val :double-float)
    508                                            (src :address)
    509                                            (index :s16const)))
     504                                            ((val :double-float)
     505                                             (src :address)
     506                                             (index :s16const)))
    510507  (stfd val index src))
    511508
    512509(define-ppc64-vinsn mem-set-double-float (()
    513                                         ((val :double-float)
    514                                          (src :address)
    515                                          (index :s32)))
     510                                          ((val :double-float)
     511                                           (src :address)
     512                                           (index :s32)))
    516513  (stfdx val src index))
    517514
    518515(define-ppc64-vinsn mem-ref-c-single-float (((dest :single-float))
    519                                           ((src :address)
    520                                            (index :s16const)))
     516                                            ((src :address)
     517                                             (index :s16const)))
    521518  (lfs dest index src))
    522519
    523520(define-ppc64-vinsn mem-ref-single-float (((dest :single-float))
    524                                         ((src :address)
    525                                          (index :s32)))
     521                                          ((src :address)
     522                                           (index :s32)))
    526523  (lfsx dest src index))
    527524
    528525(define-ppc64-vinsn mem-set-c-single-float (()
    529                                           ((val :single-float)
    530                                            (src :address)
    531                                            (index :s16const)))
     526                                            ((val :single-float)
     527                                             (src :address)
     528                                             (index :s16const)))
    532529  (stfs val index src))
    533530
    534531(define-ppc64-vinsn mem-set-single-float (()
    535                                         ((val :single-float)
    536                                          (src :address)
    537                                          (index :s32)))
     532                                          ((val :single-float)
     533                                           (src :address)
     534                                           (index :s32)))
    538535  (stfsx val src index))
    539536
    540537                                           
    541538(define-ppc64-vinsn mem-set-c-fullword (()
    542                                       ((val :u32)
    543                                       (src :address)
    544                                       (index :s16const)))
     539                                        ((val :u32)
     540                                        (src :address)
     541                                        (index :s16const)))
    545542  (stw val index src))
    546543
    547544(define-ppc64-vinsn mem-set-fullword (()
    548                                     ((val :u32)
    549                                      (src :address)
    550                                      (index :s32)))
     545                                      ((val :u32)
     546                                       (src :address)
     547                                       (index :s32)))
    551548  (stwx val src index))
    552549
    553550(define-ppc64-vinsn mem-set-c-halfword (()
    554                                       ((val :u16)
    555                                       (src :address)
    556                                       (index :s16const)))
     551                                        ((val :u16)
     552                                        (src :address)
     553                                        (index :s16const)))
    557554  (sth val index src))
    558555
    559556(define-ppc64-vinsn mem-set-halfword (()
    560                                     ((val :u16)
    561                                      (src :address)
    562                                      (index :s32)))
     557                                      ((val :u16)
     558                                       (src :address)
     559                                       (index :s32)))
    563560  (sthx val src index))
    564561
    565562(define-ppc64-vinsn mem-set-c-byte (()
    566                                   ((val :u16)
    567                                    (src :address)
    568                                    (index :s16const)))
     563                                    ((val :u16)
     564                                     (src :address)
     565                                     (index :s16const)))
    569566  (stb val index src))
    570567
    571568(define-ppc64-vinsn mem-set-byte (()
    572                                 ((val :u8)
    573                                  (src :address)
    574                                  (index :s32)))
     569                                  ((val :u8)
     570                                   (src :address)
     571                                   (index :s32)))
    575572  (stbx val src index))
    576573
    577574(define-ppc64-vinsn mem-set-c-bit-0 (()
    578                                    ((src :address)
    579                                     (byte-index :s16const)
    580                                     (mask-begin :u8const)
    581                                     (mask-end :u8const))
    582                                    ((val :u8)))
     575                                     ((src :address)
     576                                      (byte-index :s16const)
     577                                      (mask-begin :u8const)
     578                                      (mask-end :u8const))
     579                                     ((val :u8)))
    583580  (lbz val byte-index src)
    584581  (rlwinm val val 0 mask-begin mask-end)
     
    586583
    587584(define-ppc64-vinsn mem-set-c-bit-1 (()
    588                                    ((src :address)
    589                                     (byte-index :s16const)
    590                                     (mask :u8const))
    591                                    ((val :u8)))
     585                                     ((src :address)
     586                                      (byte-index :s16const)
     587                                      (mask :u8const))
     588                                     ((val :u8)))
    592589  (lbz val byte-index src)
    593590  (ori val val mask)
     
    595592
    596593(define-ppc64-vinsn mem-set-c-bit (()
    597                                  ((src :address)
    598                                   (byte-index :s16const)
    599                                   (bit-index :u8const)
    600                                   (val :imm))
    601                                  ((byteval :u8)))
     594                                   ((src :address)
     595                                    (byte-index :s16const)
     596                                    (bit-index :u8const)
     597                                    (val :imm))
     598                                   ((byteval :u8)))
    602599  (lbz byteval byte-index src)
    603600  (rlwimi byteval val (:apply logand 31 (:apply - 29 bit-index)) bit-index bit-index)
     
    607604;;; long it takes ...
    608605(define-ppc64-vinsn mem-set-bit (()
    609                               ((src :address)
    610                                 (bit-index :lisp)
    611                                 (val :lisp))
    612                               ((bit-shift :u32)
    613                                 (mask :u32)
    614                                 (byte-index :u32)
    615                                 (crf :crf)))
     606                                ((src :address)
     607                                  (bit-index :lisp)
     608                                  (val :lisp))
     609                                ((bit-shift :u32)
     610                                  (mask :u32)
     611                                  (byte-index :u32)
     612                                  (crf :crf)))
    616613  (cmplwi crf val (ash 1 ppc64::fixnumshift))
    617614  (extrwi bit-shift bit-index 3 27)
     
    635632
    636633(define-ppc64-vinsn extract-tag (((tag :u8))
    637                               ((object :lisp))
    638                               ())
     634                                ((object :lisp))
     635                                ())
    639636  (clrlwi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits)))
    640637
    641638(define-ppc64-vinsn extract-tag-fixnum (((tag :imm))
    642                                        ((object :lisp)))
     639                                        ((object :lisp)))
    643640  (rlwinm tag
    644641          object
     
    649646
    650647(define-ppc64-vinsn extract-fulltag (((tag :u8))
    651                                    ((object :lisp))
    652                                    ())
     648                                     ((object :lisp))
     649                                     ())
    653650  (clrlwi tag object (- ppc64::nbits-in-word ppc64::ntagbits)))
    654651
    655652
    656653(define-ppc64-vinsn extract-fulltag-fixnum (((tag :imm))
    657                                            ((object :lisp)))
     654                                            ((object :lisp)))
    658655  (rlwinm tag
    659656          object
     
    664661
    665662(define-ppc64-vinsn extract-typecode (((code :u8))
    666                                     ((object :lisp))
    667                                     ((crf :crf)))
    668   (clrlwi code object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    669   (cmpwi crf code ppc64::tag-misc)
     663                                      ((object :lisp))
     664                                      ((crf :crf)))
     665  (clrldi code object (- ppc64::nbits-in-word ppc64::ntagbits))
     666  (cmpdi crf code ppc64::fulltag-misc)
     667  (clrldi code code (- ppc64::nbits-in-word ppc64::nlisptagbits))
    670668  (bne crf :not-misc)
    671669  (lbz code ppc64::misc-subtag-offset object)
     
    673671
    674672(define-ppc64-vinsn extract-typecode-fixnum (((code :imm))
    675                                             ((object (:lisp (:ne code))))
    676                                             ((crf :crf) (subtag :u8)))
     673                                             ((object (:lisp (:ne code))))
     674                                             ((crf :crf) (subtag :u8)))
    677675  (rlwinm code
    678676          object
     
    681679             (+ ppc64::nlisptagbits ppc64::fixnum-shift))
    682680          (- ppc64::least-significant-bit ppc64::fixnum-shift))
    683   (cmpwi crf code (ash ppc64::tag-misc ppc64::fixnum-shift))
     681  (cmpwi crf code (ash ppc64::fulltag-misc ppc64::fixnum-shift))
    684682  (bne crf :not-misc)
    685683  (lbz subtag ppc64::misc-subtag-offset object)
     
    689687
    690688(define-ppc64-vinsn require-fixnum (()
    691                                   ((object :lisp))
    692                                   ((crf0 (:crf 0))
    693                                    (tag :u8)))
     689                                    ((object :lisp))
     690                                    ((crf0 (:crf 0))
     691                                     (tag :u8)))
    694692  :again
    695   (clrlwi. tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
     693  (clrldi. tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    696694  (beq+ crf0 :got-it)
    697695  (uuo_intcerr arch::error-object-not-fixnum object)
     
    700698
    701699(define-ppc64-vinsn require-integer (()
    702                                    ((object :lisp))
    703                                    ((crf0 (:crf 0))
    704                                     (tag :u8)))
     700                                     ((object :lisp))
     701                                     ((crf0 (:crf 0))
     702                                      (tag :u8)))
    705703  :again
    706   (clrlwi. tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
     704  (clrldi. tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    707705  (beq+ crf0 :got-it)
    708   (cmpwi crf0 tag ppc64::tag-misc)
     706  (cmpwi crf0 tag ppc64::fulltag-misc)
    709707  (bne crf0 :no-got)
    710708  (lbz tag ppc64::misc-subtag-offset object)
     
    717715
    718716(define-ppc64-vinsn require-simple-vector (()
    719                                          ((object :lisp))
    720                                          ((tag :u8)
    721                                           (crf :crf)))
     717                                           ((object :lisp))
     718                                           ((tag :u8)
     719                                            (crf :crf)))
    722720  :again
    723721  (clrlwi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    724   (cmpwi crf tag ppc64::tag-misc)
     722  (cmpwi crf tag ppc64::fulltag-misc)
    725723  (bne crf :no-got)
    726724  (lbz tag ppc64::misc-subtag-offset object)
     
    733731
    734732(define-ppc64-vinsn require-simple-string (()
    735                                          ((object :lisp))
    736                                          ((tag :u8)
    737                                           (crf :crf)
    738                                           (crf2 :crf)))
     733                                           ((object :lisp))
     734                                           ((tag :u8)
     735                                            (crf :crf)
     736                                            (crf2 :crf)))
    739737  :again
    740738  (clrlwi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    741   (cmpwi crf tag ppc64::tag-misc)
     739  (cmpwi crf tag ppc64::fulltag-misc)
    742740  (bne crf :no-got)
    743741  (lbz tag ppc64::misc-subtag-offset object)
    744742  (cmpwi crf tag ppc64::subtag-simple-base-string)
    745   (cmpwi crf2 tag ppc64::subtag-simple-general-string)
    746743  (beq+ crf :got-it)
    747   (beq+ crf2 :got-it)
    748744  :no-got
    749745  (uuo_intcerr arch::error-object-not-simple-string object)
     
    751747  :got-it)
    752748
    753  
     749
     750#+notyet
    754751(define-ppc64-vinsn require-real (()
    755                                 ((object :lisp))
    756                                 ((crf0 (:crf 0))
    757                                  (tag :u8)))
     752                                  ((object :lisp))
     753                                  ((crf0 (:crf 0))
     754                                   (tag :u8)))
    758755  :again
    759756  (clrlwi. tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    760757  (beq+ crf0 :got-it)
    761   (cmpwi crf0 tag ppc64::tag-misc)
     758  (cmpwi crf0 tag ppc64::fulltag-misc)
    762759  (bne crf0 :no-got)
    763760  (lbz tag ppc64::misc-subtag-offset object)
     
    769766  :got-it)
    770767
     768#+notyet
    771769(define-ppc64-vinsn require-number (()
    772                                   ((object :lisp))
    773                                   ((crf0 (:crf 0))
    774                                    (tag :u8)))
     770                                    ((object :lisp))
     771                                    ((crf0 (:crf 0))
     772                                     (tag :u8)))
    775773  :again
    776774  (clrlwi. tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    777775  (beq+ crf0 :got-it)
    778   (cmpwi crf0 tag ppc64::tag-misc)
     776  (cmpwi crf0 tag ppc64::fulltag-misc)
    779777  (bne crf0 :no-got)
    780778  (lbz tag ppc64::misc-subtag-offset object)
     
    788786
    789787(define-ppc64-vinsn require-list (()
    790                                 ((object :lisp))
    791                                 ((tag :u8)
    792                                  (crf :crf)))
     788                                  ((object :lisp))
     789                                  ((tag :u8)
     790                                   (crfx :crf)
     791                                   (crfy :crf)))
    793792  :again
    794   (clrlwi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    795   (cmpwi crf tag ppc64::tag-list)
    796   (beq+ crf :got-it)
     793  (cmpdi crfx object ppc64::nil-value)
     794  (clrldi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
     795  (cmpwi crfy tag ppc64::fulltag-cons)
     796  (beq crfx :got-it)
     797  (beq+ crfy :got-it)
    797798  (uuo_intcerr arch::error-object-not-list object)
    798799  (b :again)
     
    800801
    801802(define-ppc64-vinsn require-symbol (()
    802                                   ((object :lisp))
    803                                   ((tag :u8)
    804                                    (crf :crf)))
     803                                    ((object :lisp))
     804                                    ((tag :u8)
     805                                     (crf :crf)))
    805806  :again
    806807  (cmpwi crf object ppc64::nil-value)
    807808  (clrlwi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    808809  (beq crf :got-it)
    809   (cmpwi crf tag ppc64::tag-misc)
     810  (cmpwi crf tag ppc64::fulltag-misc)
    810811  (bne crf :no-got)
    811812  (lbz tag ppc64::misc-subtag-offset object)
     
    818819
    819820(define-ppc64-vinsn require-character (()
    820                                      ((object :lisp))
    821                                      ((tag :u8)
    822                                       (crf :crf)))
     821                                       ((object :lisp))
     822                                       ((tag :u8)
     823                                        (crf :crf)))
    823824  :again
    824   (clrlwi tag object (- ppc64::nbits-in-word ppc64::num-subtag-bits))
     825  (clrldi tag object (- ppc64::nbits-in-word ppc64::num-subtag-bits))
    825826  (cmpwi crf tag ppc64::subtag-character)
    826827  (beq+ crf :got-it)
     
    831832
    832833(define-ppc64-vinsn require-u8 (()
    833                               ((object :lisp))
    834                               ((crf0 (:crf 0))
    835                               (tag :u32)))
     834                                ((object :lisp))
     835                                ((crf0 (:crf 0))
     836                                (tag :u32)))
    836837  :again
    837   ; The bottom ppc64::fixnumshift bits and the top (- 32 (+ ppc64::fixnumshift 8)) must all be zero.
     838                                        ; The bottom ppc64::fixnumshift bits and the top (- 32 (+ ppc64::fixnumshift 8)) must all be zero.
    838839  (rlwinm. tag object 0 (- ppc64::nbits-in-word ppc64::fixnumshift) (- ppc64::least-significant-bit (+ ppc64::fixnumshift 8)))
    839840  (beq+ crf0 :got-it)
     
    843844
    844845(define-ppc64-vinsn box-fixnum (((dest :imm))
    845                               ((src :s32)))
     846                                ((src :s32)))
    846847  (slwi dest src ppc64::fixnumshift))
    847848
    848849(define-ppc64-vinsn fixnum->s32 (((dest :s32))
    849                               ((src :imm)))
     850                                ((src :imm)))
    850851  (srawi dest src ppc64::fixnumshift))
    851852
    852853(define-ppc64-vinsn fixnum->u32 (((dest :u32))
    853                               ((src :imm)))
     854                                ((src :imm)))
    854855  (srwi dest src ppc64::fixnumshift))
    855856
     
    860861
    861862(define-ppc64-vinsn unbox-u32 (((dest :u32))
    862                              ((src :lisp))
    863                              ((crf0 (:crf 0))
    864                               (crf1 :crf)))
     863                               ((src :lisp))
     864                               ((crf0 (:crf 0))
     865                                (crf1 :crf)))
    865866  (rlwinm. dest src 0 (- ppc64::nbits-in-word ppc64::fixnumshift) 0)
    866867  (srwi dest src ppc64::fixnumshift)
    867868  (beq+ crf0 :got-it)
    868869  (clrlwi dest src (- ppc64::nbits-in-word ppc64::nlisptagbits))
    869   (cmpwi crf0 dest ppc64::tag-misc)
     870  (cmpwi crf0 dest ppc64::fulltag-misc)
    870871  (bne- crf0 :bad)
    871872  (lwz dest ppc64::misc-header-offset src)
     
    891892
    892893(define-ppc64-vinsn unbox-s32 (((dest :s32))
    893                              ((src :lisp))
    894                              ((crfx :crf)
    895                               (crfy :crf)
    896                               (tag :u32)))
     894                               ((src :lisp))
     895                               ((crfx :crf)
     896                                (crfy :crf)
     897                                (tag :u32)))
    897898  (clrlwi tag src (- ppc64::nbits-in-word ppc64::nlisptagbits))
    898899  (cmpwi crfx tag ppc64::tag-fixnum)
    899   (cmpwi crfy tag ppc64::tag-misc)
     900  (cmpwi crfy tag ppc64::fulltag-misc)
    900901  (srawi dest src ppc64::fixnumshift)
    901902  (beq+ crfx :got-it)
     
    913914; Say that it's not (signed-byte 32) if neither.
    914915(define-ppc64-vinsn unbox-x32 (((dest :u32))
    915                              ((src :lisp))
    916                              ((crfx :crf)
    917                               (crfy :crf)
    918                               (tag :u32)))
     916                               ((src :lisp))
     917                               ((crfx :crf)
     918                                (crfy :crf)
     919                                (tag :u32)))
    919920  (clrlwi tag src (- ppc64::nbits-in-word ppc64::nlisptagbits))
    920921  (cmpwi crfx tag ppc64::tag-fixnum)
    921   (cmpwi crfy tag ppc64::tag-misc)
     922  (cmpwi crfy tag ppc64::fulltag-misc)
    922923  (srawi dest src ppc64::fixnumshift)
    923924  (beq+ crfx :got-it)
     
    937938
    938939(define-ppc64-vinsn unbox-u16 (((dest :u16))
    939                              ((src :lisp))
    940                              ((crf0 (:crf 0))))
    941   ; The bottom ppc64::fixnumshift bits and the top (- 31 (+ ppc64::fixnumshift 16)) must all be zero.
     940                               ((src :lisp))
     941                               ((crf0 (:crf 0))))
     942  ;; The bottom ppc64::fixnumshift bits and the top (- 31 (+
     943  ;; ppc64::fixnumshift 16)) must all be zero.
    942944  (rlwinm. dest src 0 (- ppc64::nbits-in-word ppc64::fixnumshift) (- ppc64::least-significant-bit (+ ppc64::fixnumshift 16)))
    943945  (rlwinm dest src (- 32 ppc64::fixnumshift) 16 31)
     
    947949
    948950(define-ppc64-vinsn unbox-s16 (((dest :s16))
    949                              ((src :lisp))
    950                              ((crf :crf)))
     951                               ((src :lisp))
     952                               ((crf :crf)))
    951953  (slwi dest src (- 16 ppc64::fixnumshift))
    952954  (srawi dest dest (- 16 ppc64::fixnumshift))
     
    964966 
    965967(define-ppc64-vinsn unbox-u8 (((dest :u8))
    966                             ((src :lisp))
    967                             ((crf0 (:crf 0))))
    968   ; The bottom ppc64::fixnumshift bits and the top (- 31 (+ ppc64::fixnumshift 8)) must all be zero.
     968                              ((src :lisp))
     969                              ((crf0 (:crf 0))))
     970                                        ; The bottom ppc64::fixnumshift bits and the top (- 31 (+ ppc64::fixnumshift 8)) must all be zero.
    969971  (rlwinm. dest src 0 (- ppc64::nbits-in-word ppc64::fixnumshift) (- ppc64::least-significant-bit (+ ppc64::fixnumshift 8)))
    970972  (rlwinm dest src (- 32 ppc64::fixnumshift) 24 31)
     
    974976
    975977(define-ppc64-vinsn unbox-s8 (((dest :s8))
    976                             ((src :lisp))
    977                             ((crf :crf)))
     978                              ((src :lisp))
     979                              ((crf :crf)))
    978980  (slwi dest src (- ppc64::nbits-in-word (+ 8 ppc64::fixnumshift)))
    979981  (srawi dest dest (- ppc64::nbits-in-word (+ 8 ppc64::fixnumshift)))
     
    989991
    990992(define-ppc64-vinsn unbox-base-char (((dest :u32))
    991                                    ((src :lisp))
    992                                    ((crf :crf)))
     993                                     ((src :lisp))
     994                                     ((crf :crf)))
    993995  (rlwinm dest src 8 16 31)
    994996  (cmpwi crf dest (ash ppc64::subtag-character 8))
     
    9991001
    10001002(define-ppc64-vinsn unbox-character (((dest :u32))
    1001                                    ((src :lisp))
    1002                                    ((crf :crf)))
     1003                                     ((src :lisp))
     1004                                     ((crf :crf)))
    10031005  (clrlwi dest src 24)
    10041006  (cmpwi crf dest ppc64::subtag-character)
     
    10091011
    10101012(define-ppc64-vinsn unbox-bit (((dest :u32))
    1011                              ((src :lisp))
    1012                              ((crf :crf)))
     1013                               ((src :lisp))
     1014                               ((crf :crf)))
    10131015  (cmplwi crf src (ash 1 ppc64::fixnumshift))
    10141016  (srawi dest src ppc64::fixnumshift)
     
    10181020
    10191021(define-ppc64-vinsn unbox-bit-bit0 (((dest :u32))
    1020                                   ((src :lisp))
    1021                                   ((crf :crf)))
     1022                                    ((src :lisp))
     1023                                    ((crf :crf)))
    10221024  (cmplwi crf src (ash 1 ppc64::fixnumshift))
    10231025  (rlwinm dest src (- 32 (1+ ppc64::fixnumshift)) 0 0)
     
    10261028  :got-it)
    10271029
    1028 (define-ppc64-vinsn fixnum->fpr (((dest :double-float))
    1029                                ((src :lisp))
    1030                                ((imm :s32)))
    1031   (stwu ppc::tsp -16 ppc::tsp)
    1032   (stw ppc::tsp 4 ppc::tsp)
    1033   (stfd ppc::fp-s32conv 8 ppc::tsp)
    1034   (srawi imm src ppc64::fixnumshift)
    1035   (xoris imm imm #x8000)
    1036   (stw imm 12 ppc::tsp)
    1037   (lfd dest 8 ppc::tsp)
    1038   (lwz ppc::tsp 0 ppc::tsp)
    1039   (fsub dest dest ppc::fp-s32conv))
    1040 
    1041 
    1042 (define-ppc64-vinsn shift-right-variable-word (((dest :u32))
    1043                                              ((src :u32)
    1044                                               (sh :u32)))
     1030
     1031
     1032
     1033(define-ppc64-vinsn shift-right-variable-word (((dest :u64))
     1034                                               ((src :u64)
     1035                                                (sh :u64)))
    10451036  (srw dest src sh))
    10461037
    1047 (define-ppc64-vinsn u32logandc2 (((dest :u32))
    1048                                ((x :u32)
    1049                                 (y :u32)))
     1038(define-ppc64-vinsn u64logandc2 (((dest :u64))
     1039                                 ((x :u64)
     1040                                  (y :u64)))
    10501041  (andc dest x y))
    10511042
    1052 (define-ppc64-vinsn u32logior (((dest :u32))
    1053                              ((x :u32)
    1054                               (y :u32)))
     1043(define-ppc64-vinsn u64logior (((dest :u64))
     1044                               ((x :u64)
     1045                                (y :u64)))
    10551046  (or dest x y))
    10561047
    1057 (define-ppc64-vinsn rotate-left-variable-word (((dest :u32))
    1058                                              ((src :u32)
    1059                                               (rot :u32)))
    1060   (rlwnm dest src rot 0 31))
    1061 
    1062 (define-ppc64-vinsn complement-shift-count (((dest :u32))
    1063                                           ((src :u32)))
    1064   (subfic dest src 32))
    1065 
    1066 (define-ppc64-vinsn extract-lowbyte (((dest :u32))
    1067                                    ((src :lisp)))
    1068   (clrlwi dest src (- ppc64::nbits-in-word ppc64::num-subtag-bits)))
    1069 
    1070 ; Set DEST to the difference between the low byte of SRC and BYTEVAL.
    1071 (define-ppc64-vinsn extract-compare-lowbyte (((dest :u32))
    1072                                            ((src :lisp)
    1073                                             (byteval :u8const)))
    1074   (clrlwi dest src (- ppc64::nbits-in-word ppc64::num-subtag-bits))
    1075   (subi dest dest byteval))
    1076 
    1077 
    1078 ; Set the "EQ" bit in condition-register field CRF if object is
    1079 ; a fixnum.  Leave the object's tag in TAG.
    1080 ; This is a little easier if CRF is CR0.
    1081 (define-ppc64-vinsn eq-if-fixnum (((crf :crf)
    1082                                  (tag :u8))
    1083                                 ((object :lisp))
    1084                                 ())
    1085   ((:eq crf 0)
    1086    (clrlwi. tag object (- ppc64::nbits-in-word ppc64::nlisptagbits)))
    1087   ((:not (:eq crf 0))
    1088    (clrlwi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    1089    (cmpwi crf tag ppc64::tag-fixnum)))
    1090 
    1091 (define-ppc64-vinsn trap-unless-tag= (()
    1092                                     ((object :lisp)
    1093                                      (tagval :u16const))
    1094                                     ((tag :u8)))
    1095   (clrlwi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
     1048
     1049(define-ppc64-vinsn trap-unless-fixnum (()
     1050                                        ((object :lisp))
     1051                                        ((tag :u8)))
     1052  (clrldi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
     1053  (tdnei tag ppc64::tag-fixnum))
     1054
     1055(define-ppc64-vinsn trap-unless-list (()
     1056                                      ((object :lisp))
     1057                                      ((tag :u8)
     1058                                       (crf :crf)))
     1059  (cmpldi crf object ppc64::nil-value)
     1060  (clrldi tag object (- ppc64::nbits-in-word ppc64::ntagbits))
     1061  (beq crf :ok)
     1062  (tdnei tag ppc64::fulltag-cons)
     1063  :ok)
     1064
     1065(define-ppc64-vinsn trap-unless-uvector (()
     1066                                         ((object :lisp))
     1067                                        ((tag :u8)))
     1068  (clrldi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
     1069  (tdnei tag ppc64::fulltag-misc))
     1070
     1071(define-ppc64-vinsn trap-unless-fulltag= (()
     1072                                          ((object :lisp)
     1073                                           (tagval :u16const))
     1074                                          ((tag :u8)))
     1075  (clrldi tag object (- ppc64::nbits-in-word ppc64::ntagbits))
    10961076  (twnei tag tagval))
    10971077
    1098 (define-ppc64-vinsn trap-unless-fulltag= (()
    1099                                         ((object :lisp)
    1100                                          (tagval :u16const))
    1101                                         ((tag :u8)))
    1102   (clrlwi tag object (- ppc64::nbits-in-word ppc64::ntagbits))
    1103   (twnei tag tagval))
    1104 
    11051078(define-ppc64-vinsn trap-unless-lowbyte= (()
    1106                                         ((object :lisp)
    1107                                          (tagval :u16const))
    1108                                         ((tag :u8)))
     1079                                          ((object :lisp)
     1080                                           (tagval :u16const))
     1081                                          ((tag :u8)))
    11091082  (clrlwi tag object (- ppc64::nbits-in-word 8))
    11101083  (twnei tag tagval))
    11111084
    11121085(define-ppc64-vinsn trap-unless-typecode= (()
    1113                                          ((object :lisp)
    1114                                           (tagval :u16const))
    1115                                          ((tag :u8)
    1116                                           (crf :crf)))
    1117   (clrlwi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    1118   (cmpwi crf tag ppc64::tag-misc)
     1086                                           ((object :lisp)
     1087                                            (tagval :u16const))
     1088                                           ((tag :u8)
     1089                                            (crf :crf)))
     1090  (clrldi tag object (- ppc64::nbits-in-word ppc64::ntagbits))
     1091  (cmpdi crf tag ppc64::fulltag-misc)
     1092  (clrldi tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    11191093  (bne crf :do-trap)
    11201094  (lbz tag ppc64::misc-subtag-offset object)
    11211095  :do-trap
    1122   (twnei tag tagval))
     1096  (tdnei tag tagval))
    11231097 
    11241098(define-ppc64-vinsn subtract-constant (((dest :imm))
    1125                                      ((src :imm)
    1126                                       (const :s16const)))
     1099                                       ((src :imm)
     1100                                        (const :s16const)))
    11271101  (subi dest src const))
    11281102
     1103#+not-yet
    11291104(define-ppc64-vinsn trap-unless-numeric-type (()
    1130                                             ((object :lisp)
    1131                                              (maxtype :u16const))
    1132                                             ((crf0 (:crf 0))
    1133                                              (tag :u8)
    1134                                              (crfX :crf)))
     1105                                              ((object :lisp)
     1106                                               (maxtype :u16const))
     1107                                              ((crf0 (:crf 0))
     1108                                               (tag :u8)
     1109                                               (crfX :crf)))
    11351110  (clrlwi. tag object (- ppc64::nbits-in-word ppc64::nlisptagbits))
    11361111  (cmpwi tag ppc64::tag-misc)
     
    11461121;; Bit-extraction & boolean operations
    11471122
    1148 (eval-when (:compile-toplevel :execute)
    1149   (assert (= ppc64::t-offset #b10001)))         ; PPC-bits 31 and 27 set
    11501123
    11511124;; For some mind-numbing reason, IBM decided to call the most significant
     
    11591132
    11601133(define-ppc64-vinsn extract-variable-bit (((dest :u8))
    1161                                         ((src :u32)
    1162                                          (bitnum :u8))
    1163                                         ())
     1134                                          ((src :u32)
     1135                                           (bitnum :u8))
     1136                                          ())
    11641137  (rotlw dest src bitnum)
    11651138  (extrwi dest dest 1 0))
     
    11671140
    11681141(define-ppc64-vinsn extract-variable-bit-fixnum (((dest :imm))
    1169                                                 ((src :u32)
    1170                                                  (bitnum :u8))
    1171                                                 ((temp :u32)))
     1142                                                ((src :u32)
     1143                                                  (bitnum :u8))
     1144                                                ((temp :u32)))
    11721145  (rotlw temp src bitnum)
    11731146  (rlwinm dest
     
    11851158
    11861159(define-ppc64-vinsn bit31->truth (((dest :lisp)
    1187                                  (bits :u32))
    1188                                 ((bits :u32))
    1189                                 ())
    1190   (rlwimi bits bits (- ppc64::least-significant-bit 27) 27 27)    ; bits = 0000...X000X
     1160                                   (bits :u32))
     1161                                  ((bits :u32))
     1162                                  ())
     1163  (rlwimi bits bits (- ppc64::least-significant-bit 27) 27 27) ; bits = 0000...X000X
    11911164  (addi dest bits ppc64::nil-value))
    11921165
    11931166(define-ppc64-vinsn invert-bit31 (((bits :u32))
    1194                                 ((bits :u32))
    1195                                 ())
     1167                                  ((bits :u32))
     1168                                  ())
    11961169  (xori bits bits 1))
    11971170
     
    12121185
    12131186(define-ppc64-vinsn eq0->bit31 (((bits :u32))
    1214                               ((src (t (:ne bits)))))
     1187                                ((src (t (:ne bits)))))
    12151188  (cntlzw bits src)
    1216   (srwi bits bits 5))                  ; bits = 0000...000X
     1189  (srwi bits bits 5))                   ; bits = 0000...000X
    12171190
    12181191(define-ppc64-vinsn ne0->bit31 (((bits :u32))
    1219                               ((src (t (:ne bits)))))
     1192                                ((src (t (:ne bits)))))
    12201193  (cntlzw bits src)
    12211194  (slw bits src bits)
    1222   (srwi bits bits 31))                ; bits = 0000...000X
     1195  (srwi bits bits 31))                  ; bits = 0000...000X
    12231196
    12241197(define-ppc64-vinsn lt0->bit31 (((bits :u32))
    1225                               ((src (t (:ne bits)))))
     1198                                ((src (t (:ne bits)))))
    12261199  (srwi bits src 31))                   ; bits = 0000...000X
    12271200
    12281201
    12291202(define-ppc64-vinsn ge0->bit31 (((bits :u32))
    1230                               ((src (t (:ne bits)))))
     1203                                ((src (t (:ne bits)))))
    12311204  (srwi bits src 31)       
    12321205  (xori bits bits 1))                   ; bits = 0000...000X
     
    12341207
    12351208(define-ppc64-vinsn le0->bit31 (((bits :u32))
    1236                               ((src (t (:ne bits)))))
     1209                                ((src (t (:ne bits)))))
    12371210  (neg bits src)
    12381211  (orc bits bits src)
     
    12401213
    12411214(define-ppc64-vinsn gt0->bit31 (((bits :u32))
    1242                               ((src (t (:ne bits)))))
     1215                                ((src (t (:ne bits)))))
    12431216  (subi bits src 1)       
    12441217  (nor bits bits src)
     
    12461219
    12471220(define-ppc64-vinsn ne->bit31 (((bits :u32))
    1248                              ((x t)
    1249                               (y t))
    1250                              ((temp :u32)))
     1221                               ((x t)
     1222                                (y t))
     1223                               ((temp :u32)))
    12511224  (subf temp x y)
    12521225  (cntlzw bits temp)
    12531226  (slw bits temp bits)
    1254   (srwi bits bits 31))                ; bits = 0000...000X
     1227  (srwi bits bits 31))                  ; bits = 0000...000X
    12551228
    12561229(define-ppc64-vinsn fulltag->bit31 (((bits :u32))
    1257                                   ((lispobj :lisp)
    1258                                    (tagval :u8const))
    1259                                   ())
     1230                                    ((lispobj :lisp)
     1231                                     (tagval :u8const))
     1232                                    ())
    12601233  (clrlwi bits lispobj (- ppc64::nbits-in-word ppc64::ntagbits))
    12611234  (subi bits bits tagval)
     
    12651238
    12661239(define-ppc64-vinsn eq->bit31 (((bits :u32))
    1267                              ((x t)
    1268                               (y t)))
     1240                               ((x t)
     1241                                (y t)))
    12691242  (subf bits x y)
    12701243  (cntlzw bits bits)
    1271   (srwi bits bits 5))                  ; bits = 0000...000X
     1244  (srwi bits bits 5))                   ; bits = 0000...000X
    12721245
    12731246(define-ppc64-vinsn eqnil->bit31 (((bits :u32))
    1274                                 ((x t)))
     1247                                  ((x t)))
    12751248  (subi bits x ppc64::nil-value)
    12761249  (cntlzw bits bits)
     
    12781251
    12791252(define-ppc64-vinsn ne->bit31 (((bits :u32))
    1280                              ((x t)
    1281                               (y t)))
     1253                               ((x t)
     1254                                (y t)))
    12821255  (subf bits x y)
    12831256  (cntlzw bits bits)
     
    12861259
    12871260(define-ppc64-vinsn nenil->bit31 (((bits :u32))
    1288                                 ((x t)))
     1261                                  ((x t)))
    12891262  (subi bits x ppc64::nil-value)
    12901263  (cntlzw bits bits)
     
    12931266
    12941267(define-ppc64-vinsn lt->bit31 (((bits :u32))
    1295                              ((x (t (:ne bits)))
    1296                               (y (t (:ne bits)))))
     1268                               ((x (t (:ne bits)))
     1269                                (y (t (:ne bits)))))
    12971270
    12981271  (xor bits x y)
     
    13001273  (or bits bits x)
    13011274  (subf bits y bits)
    1302   (srwi bits bits 31))              ; bits = 0000...000X
     1275  (srwi bits bits 31))                  ; bits = 0000...000X
    13031276
    13041277(define-ppc64-vinsn ltu->bit31 (((bits :u32))
    1305                               ((x :u32)
    1306                               (y :u32)))
     1278                                ((x :u32)
     1279                                (y :u32)))
    13071280  (subfc bits y x)
    13081281  (subfe bits bits bits)
     
    13101283
    13111284(define-ppc64-vinsn le->bit31 (((bits :u32))
    1312                              ((x (t (:ne bits)))
    1313                               (y (t (:ne bits)))))
     1285                               ((x (t (:ne bits)))
     1286                                (y (t (:ne bits)))))
    13141287
    13151288  (xor bits x y)
     
    13171290  (nor bits bits y)
    13181291  (add bits bits x)
    1319   (srwi bits bits 31))              ; bits = 0000...000X
     1292  (srwi bits bits 31))                  ; bits = 0000...000X
    13201293
    13211294(define-ppc64-vinsn leu->bit31  (((bits :u32))
    1322                               ((x :u32)
    1323                                 (y :u32)))
     1295                                ((x :u32)
     1296                                  (y :u32)))
    13241297  (subfc bits x y)
    13251298  (addze bits ppc::rzero))
    13261299
    13271300(define-ppc64-vinsn gt->bit31 (((bits :u32))
    1328                              ((x (t (:ne bits)))
    1329                               (y (t (:ne bits)))))
     1301                               ((x (t (:ne bits)))
     1302                                (y (t (:ne bits)))))
    13301303
    13311304  (eqv bits x y)
     
    13331306  (and bits bits x)
    13341307  (subf bits bits y)
    1335   (srwi bits bits 31))              ; bits = 0000...000X
     1308  (srwi bits bits 31))                  ; bits = 0000...000X
    13361309
    13371310(define-ppc64-vinsn gtu->bit31 (((bits :u32))
    1338                                ((x :u32)
    1339                                 (y :u32)))
     1311                                ((x :u32)
     1312                                (y :u32)))
    13401313  (subfc bits x y)
    13411314  (subfe bits bits bits)
     
    13431316
    13441317(define-ppc64-vinsn ge->bit31 (((bits :u32))
    1345                              ((x (t (:ne bits)))
    1346                               (y (t (:ne bits)))))
     1318                               ((x (t (:ne bits)))
     1319                                (y (t (:ne bits)))))
    13471320  (eqv bits x y)
    13481321  (srawi bits bits 31)
    13491322  (andc bits bits x)
    13501323  (add bits bits y)
    1351   (srwi bits bits 31))              ; bits = 0000...000X
     1324  (srwi bits bits 31))                  ; bits = 0000...000X
    13521325
    13531326(define-ppc64-vinsn geu->bit31 (((bits :u32))
    1354                                ((x :u32)
    1355                                 (y :u32)))
     1327                                ((x :u32)
     1328                                (y :u32)))
    13561329  (subfc bits y x)
    13571330  (addze bits ppc::rzero))
     
    13651338; Of course, using a CR field costs us something as well.
    13661339(define-ppc64-vinsn crbit->bit31 (((bits :u32))
    1367                                 ((crf :crf)
    1368                                  (bitnum :crbit))
    1369                                 ())
     1340                                  ((crf :crf)
     1341                                   (bitnum :crbit))
     1342                                  ())
    13701343  (mfcr bits)                           ; Suffer.
    1371   (rlwinm bits bits (:apply + 1  bitnum (:apply ash crf 2)) 31 31))    ; bits = 0000...000X
     1344  (rlwinm bits bits (:apply + 1  bitnum (:apply ash crf 2)) 31 31)) ; bits = 0000...000X
    13721345
    13731346
    13741347(define-ppc64-vinsn compare (((crf :crf))
    1375                            ((arg0 t)
    1376                             (arg1 t))
    1377                            ())
     1348                             ((arg0 t)
     1349                              (arg1 t))
     1350                             ())
    13781351  (cmpw crf arg0 arg1))
    13791352
    13801353(define-ppc64-vinsn compare-to-nil (((crf :crf))
    1381                                   ((arg0 t)))
     1354                                    ((arg0 t)))
    13821355  (cmpwi crf arg0 ppc64::nil-value))
    13831356
    13841357(define-ppc64-vinsn compare-logical (((crf :crf))
    1385                                    ((arg0 t)
    1386                                     (arg1 t))
    1387                                    ())
     1358                                     ((arg0 t)
     1359                                      (arg1 t))
     1360                                     ())
    13881361  (cmplw crf arg0 arg1))
    13891362
    13901363(define-ppc64-vinsn double-float-compare (((crf :crf))
    1391                                         ((arg0 :double-float)
    1392                                          (arg1 :double-float))
    1393                                         ())
     1364                                          ((arg0 :double-float)
     1365                                           (arg1 :double-float))
     1366                                          ())
    13941367  (fcmpo crf arg0 arg1))
    13951368             
    13961369
    13971370(define-ppc64-vinsn double-float+-2 (((result :double-float))
    1398                                    ((x :double-float)
    1399                                     (y :double-float))
    1400                                    ((crf (:crf 4))))
     1371                                     ((x :double-float)
     1372                                      (y :double-float))
     1373                                     ((crf (:crf 4))))
    14011374  (fadd result x y))
    14021375
    14031376(define-ppc64-vinsn double-float--2 (((result :double-float))
    1404                                    ((x :double-float)
    1405                                     (y :double-float))
    1406                                    ((crf (:crf 4))))
     1377                                     ((x :double-float)
     1378                                      (y :double-float))
     1379                                     ((crf (:crf 4))))
    14071380  (fsub result x y))
    14081381
    14091382(define-ppc64-vinsn double-float*-2 (((result :double-float))
    1410                                    ((x :double-float)
    1411                                     (y :double-float))
    1412                                    ((crf (:crf 4))))
     1383                                     ((x :double-float)
     1384                                      (y :double-float))
     1385                                     ((crf (:crf 4))))
    14131386  (fmul result x y))
    14141387
    14151388(define-ppc64-vinsn double-float/-2 (((result :double-float))
    1416                                    ((x :double-float)
    1417                                     (y :double-float))
    1418                                    ((crf (:crf 4))))
     1389                                     ((x :double-float)
     1390                                      (y :double-float))
     1391                                     ((crf (:crf 4))))
    14191392  (fdiv result x y))
    14201393
    14211394(define-ppc64-vinsn single-float+-2 (((result :single-float))
    1422                                    ((x :single-float)
    1423                                     (y :single-float))
    1424                                    ((crf (:crf 4))))
     1395                                     ((x :single-float)
     1396                                      (y :single-float))
     1397                                     ((crf (:crf 4))))
    14251398  (fadds result x y))
    14261399
    14271400(define-ppc64-vinsn single-float--2 (((result :single-float))
    1428                                    ((x :single-float)
    1429                                     (y :single-float))
    1430                                    ((crf (:crf 4))))
     1401                                     ((x :single-float)
     1402                                      (y :single-float))
     1403                                     ((crf (:crf 4))))
    14311404  (fsubs result x y))
    14321405
    14331406(define-ppc64-vinsn single-float*-2 (((result :single-float))
    1434                                    ((x :single-float)
    1435                                     (y :single-float))
    1436                                    ((crf (:crf 4))))
     1407                                     ((x :single-float)
     1408                                      (y :single-float))
     1409                                     ((crf (:crf 4))))
    14371410  (fmuls result x y))
    14381411
    14391412(define-ppc64-vinsn single-float/-2 (((result :single-float))
    1440                                    ((x :single-float)
    1441                                     (y :single-float))
    1442                                    ((crf (:crf 4))))
     1413                                     ((x :single-float)
     1414                                      (y :single-float))
     1415                                     ((crf (:crf 4))))
    14431416  (fdivs result x y))
    14441417
     
    14481421
    14491422(define-ppc64-vinsn compare-unsigned (((crf :crf))
    1450                                     ((arg0 :imm)
    1451                                      (arg1 :imm))
    1452                                     ())
     1423                                      ((arg0 :imm)
     1424                                       (arg1 :imm))
     1425                                      ())
    14531426  (cmplw crf arg0 arg1))
    14541427
    14551428(define-ppc64-vinsn compare-signed-s16const (((crf :crf))
    1456                                            ((arg0 :imm)
    1457                                             (imm :s16const))
    1458                                            ())
     1429                                             ((arg0 :imm)
     1430                                              (imm :s16const))
     1431                                             ())
    14591432  (cmpwi crf arg0 imm))
    14601433
    14611434(define-ppc64-vinsn compare-unsigned-u16const (((crf :crf))
    1462                                              ((arg0 :u32)
    1463                                               (imm :u16const))
    1464                                              ())
     1435                                               ((arg0 :u32)
     1436                                                (imm :u16const))
     1437                                               ())
    14651438  (cmplwi crf arg0 imm))
    14661439
     
    14701443;; Bitnum is treated mod 32.
    14711444(define-ppc64-vinsn extract-constant-ppc-bit (((dest :u32))
    1472                                             ((src :imm)
    1473                                              (bitnum :u16const))
    1474                                             ())
     1445                                              ((src :imm)
     1446                                               (bitnum :u16const))
     1447                                              ())
    14751448  (rlwinm dest src (:apply + 1 bitnum) 31 31))
    14761449
    14771450
    14781451(define-ppc64-vinsn set-constant-ppc-bit-to-variable-value (((dest :u32))
    1479                                                           ((src :u32)
    1480                                                            (bitval :u32) ; 0 or 1
    1481                                                            (bitnum :u8const)))
     1452                                                            ((src :u32)
     1453                                                             (bitval :u32) ; 0 or 1
     1454                                                             (bitnum :u8const)))
    14821455  (rlwimi dest bitval (:apply - 31 bitnum) bitnum bitnum))
    14831456
    14841457(define-ppc64-vinsn set-constant-ppc-bit-to-1 (((dest :u32))
    1485                                              ((src :u32)
    1486                                               (bitnum :u8const)))
     1458                                               ((src :u32)
     1459                                                (bitnum :u8const)))
    14871460  ((:pred < bitnum 16)
    14881461   (oris dest src (:apply ash #x8000 (:apply - bitnum))))
     
    14911464
    14921465(define-ppc64-vinsn set-constant-ppc-bit-to-0 (((dest :u32))
    1493                                              ((src :u32)
    1494                                               (bitnum :u8const)))
     1466                                               ((src :u32)
     1467                                                (bitnum :u8const)))
    14951468  (rlwinm dest src 0 (:apply logand #x1f (:apply 1+ bitnum)) (:apply logand #x1f (:apply 1- bitnum))))
    14961469
    14971470 
    14981471(define-ppc64-vinsn insert-bit-0 (((dest :u32))
    1499                                 ((src :u32)
    1500                                  (val :u32)))
     1472                                  ((src :u32)
     1473                                   (val :u32)))
    15011474  (rlwimi dest val 0 0 0))
    15021475 
     
    15091482; Actually, it'd be "unbox, then subtract from 30".
    15101483(define-ppc64-vinsn extract-variable-non-insane-bit (((dest :u32))
    1511                                                    ((src :imm)
    1512                                                     (bit :imm))
    1513                                                    ((temp :u32)))
     1484                                                     ((src :imm)
     1485                                                      (bit :imm))
     1486                                                     ((temp :u32)))
    15141487  (srwi temp bit ppc64::fixnumshift)
    15151488  (subfic temp temp (- 32 ppc64::fixnumshift))
     
    15191492
    15201493(define-ppc64-vinsn %cdr (((dest :lisp))
    1521                         ((src :lisp)))
    1522   (lwz dest ppc64::cons.cdr src))
     1494                          ((src :lisp)))
     1495  (ld dest ppc64::cons.cdr src))
    15231496
    15241497(define-ppc64-vinsn %car (((dest :lisp))
    1525                         ((src :lisp)))
    1526   (lwz dest ppc64::cons.car src))
     1498                          ((src :lisp)))
     1499  (ld dest ppc64::cons.car src))
    15271500
    15281501(define-ppc64-vinsn %set-car (()
    1529                             ((cell :lisp)
    1530                              (new :lisp)))
    1531   (stw new ppc64::cons.car cell))
     1502                              ((cell :lisp)
     1503                               (new :lisp)))
     1504  (std new ppc64::cons.car cell))
    15321505
    15331506(define-ppc64-vinsn %set-cdr (()
    1534                             ((cell :lisp)
    1535                              (new :lisp)))
    1536   (stw new ppc64::cons.cdr cell))
     1507                              ((cell :lisp)
     1508                               (new :lisp)))
     1509  (std new ppc64::cons.cdr cell))
    15371510
    15381511(define-ppc64-vinsn load-adl (()
    1539                             ((n :u32const)))
     1512                              ((n :u32const)))
    15401513  (lis ppc::nargs (:apply ldb (byte 16 16) n))
    15411514  (ori ppc::nargs ppc::nargs (:apply ldb (byte 16 0) n)))
    15421515                           
    15431516(define-ppc64-vinsn set-nargs (()
    1544                              ((n :s16const)))
     1517                               ((n :s16const)))
    15451518  (li ppc::nargs (:apply ash n ppc64::word-shift)))
    15461519
    15471520(define-ppc64-vinsn scale-nargs (()
    1548                               ((nfixed :s16const)))
     1521                                ((nfixed :s16const)))
    15491522  ((:pred > nfixed 0)
    15501523   (la ppc::nargs (:apply - (:apply ash nfixed ppc64::word-shift)) ppc::nargs)))
     
    15551528    (()
    15561529     ((reg :lisp)))
    1557   (stwu reg -4 ppc::vsp))
     1530  (stdu reg -8 ppc::vsp))
    15581531
    15591532(define-ppc64-vinsn (vpush-register-arg :push :node :vsp :outgoing-argument)
    15601533    (()
    15611534     ((reg :lisp)))
    1562   (stwu reg -4 ppc::vsp))
     1535  (stdu reg -8 ppc::vsp))
    15631536
    15641537(define-ppc64-vinsn (vpop-register :pop :node :vsp)
    15651538    (((dest :lisp))
    15661539     ())
    1567   (lwz dest 0 ppc::vsp)
    1568   (la ppc::vsp 4 ppc::vsp))
     1540  (ld dest 0 ppc::vsp)
     1541  (la ppc::vsp ppc64::word-size-in-bytes ppc::vsp))
    15691542
    15701543
    15711544(define-ppc64-vinsn copy-node-gpr (((dest :lisp))
    1572                                  ((src :lisp)))
     1545                                   ((src :lisp)))
    15731546  ((:not (:pred =
    15741547                (:apply %hard-regspec-value dest)
     
    15771550
    15781551(define-ppc64-vinsn copy-gpr (((dest t))
    1579                             ((src t)))
     1552                              ((src t)))
    15801553  ((:not (:pred =
    15811554                (:apply %hard-regspec-value dest)
     
    15841557
    15851558
    1586 (define-ppc64-vinsn copy-fpr (((dest t))
    1587                             ((src t)))
     1559(define-ppc64-vinsn copy-fpr (((dest :double-float))
     1560                              ((src :double-float)))
    15881561  ((:not (:pred =
    15891562                (:apply %hard-regspec-value dest)
     
    15921565
    15931566(define-ppc64-vinsn vcell-ref (((dest :lisp))
    1594                              ((vcell :lisp)))
    1595   (lwz dest ppc64::misc-data-offset vcell))
     1567                               ((vcell :lisp)))
     1568  (ld dest ppc64::misc-data-offset vcell))
    15961569
    15971570(define-ppc64-vinsn vcell-set (()
    1598                              ((vcell :lisp)
    1599                               (value :lisp)))
    1600   (stw value ppc64::misc-data-offset vcell))
     1571                               ((vcell :lisp)
     1572                                (value :lisp)))
     1573  (std value ppc64::misc-data-offset vcell))
    16011574
    16021575
    16031576(define-ppc64-vinsn make-vcell (((dest :lisp))
    1604                               ((closed (:lisp :ne dest)))
    1605                               ((header :u32)))
     1577                                ((closed (:lisp :ne dest)))
     1578                                ((header :u64)))
    16061579  (li header ppc64::value-cell-header)
    16071580  (la ppc::allocptr (- ppc64::fulltag-misc ppc64::value-cell.size) ppc::allocptr)
    1608   (twllt ppc::allocptr ppc::allocbase)
    1609   (stw header ppc64::misc-header-offset ppc::allocptr)
     1581  (tdllt ppc::allocptr ppc::allocbase)
     1582  (std header ppc64::misc-header-offset ppc::allocptr)
    16101583  (mr dest ppc::allocptr)
    1611   (clrrwi ppc::allocptr ppc::allocptr ppc64::ntagbits)
    1612   (stw closed ppc64::value-cell.value dest))
     1584  (rldicr ppc::allocptr ppc::allocptr 0 (- 63 ppc64::ntagbits))
     1585  (std closed ppc64::value-cell.value dest))
    16131586
    16141587(define-ppc64-vinsn make-tsp-vcell (((dest :lisp))
    1615                                   ((closed :lisp))
    1616                                   ((header :u32)))
     1588                                    ((closed :lisp))
     1589                                    ((header :u64)))
    16171590  (li header ppc64::value-cell-header)
    1618   (stwu ppc::tsp -16 ppc::tsp)
    1619   (stw ppc::tsp 4 ppc::tsp)
    1620   (stfd ppc::fp-zero 8 ppc::tsp)
    1621   (stw ppc::rzero 4 ppc::tsp)
    1622   (stw header (+ 8 ppc64::fulltag-misc ppc64::value-cell.header) ppc::tsp)
    1623   (stw closed (+ 8 ppc64::fulltag-misc ppc64::value-cell.value) ppc::tsp)
    1624   (la dest (+ 8 ppc64::fulltag-misc) ppc::tsp))
     1591  (stdu ppc::tsp -32 ppc::tsp)
     1592  (std ppc::tsp 8 ppc::tsp)
     1593  (stfd ppc::fp-zero 16 ppc::tsp)
     1594  (stfd ppc::fp-zero 24 ppc::tsp)
     1595  (std ppc::rzero 8 ppc::tsp)
     1596  (std header (+ 16 ppc64::fulltag-misc ppc64::value-cell.header) ppc::tsp)
     1597  (std closed (+ 16 ppc64::fulltag-misc ppc64::value-cell.value) ppc::tsp)
     1598  (la dest (+ 16 ppc64::fulltag-misc) ppc::tsp))
    16251599
    16261600(define-ppc64-vinsn make-tsp-cons (((dest :lisp))
    1627                                  ((car :lisp) (cdr :lisp))
    1628                                  ())
    1629   (stwu ppc::tsp -16 ppc::tsp)
    1630   (stw ppc::tsp 4 ppc::tsp)
    1631   (stfd ppc::fp-zero 8 ppc::tsp)
    1632   (stw ppc::rzero 4 ppc::tsp)
    1633   (stw car (+ 8 ppc64::fulltag-cons ppc64::cons.car) ppc::tsp)
    1634   (stw cdr (+ 8 ppc64::fulltag-cons ppc64::cons.cdr) ppc::tsp)
    1635   (la dest (+ 8 ppc64::fulltag-cons) ppc::tsp))
     1601                                   ((car :lisp) (cdr :lisp))
     1602                                   ())
     1603  (stdu ppc::tsp -32 ppc::tsp)
     1604  (std ppc::tsp 8 ppc::tsp)
     1605  (stfd ppc::fp-zero 16 ppc::tsp)
     1606  (stfd ppc::fp-zero 24 ppc::tsp)
     1607  (std ppc::rzero 8 ppc::tsp)
     1608  (std car (+ 16 ppc64::fulltag-cons ppc64::cons.car) ppc::tsp)
     1609  (std cdr (+ 16 ppc64::fulltag-cons ppc64::cons.cdr) ppc::tsp)
     1610  (la dest (+ 16 ppc64::fulltag-cons) ppc::tsp))
    16361611
    16371612
    16381613(define-ppc64-vinsn %closure-code% (((dest :lisp))
    1639                                   ())
     1614                                    ())
    16401615  (lwz dest (+ ppc64::symbol.vcell (ppc64::nrs-offset %closure-code%) ppc64::nil-value) 0))
    16411616
    16421617
    16431618(define-ppc64-vinsn (call-subprim :call :subprim-call) (()
    1644                                                       ((spno :s32const)))
     1619                                                        ((spno :s32const)))
    16451620  (bla spno))
    16461621
    16471622(define-ppc64-vinsn (jump-subprim :jumpLR) (()
    1648                                           ((spno :s32const)))
     1623                                            ((spno :s32const)))
    16491624  (ba spno))
    16501625
     
    16521627; track args, results, etc.
    16531628(define-ppc64-vinsn (call-subprim-0 :call :subprim-call) (((dest t))
    1654                                                         ((spno :s32const)))
     1629                                                          ((spno :s32const)))
    16551630  (bla spno))
    16561631
    16571632(define-ppc64-vinsn (call-subprim-1 :call :subprim-call) (((dest t))
    1658                                                         ((spno :s32const)
    1659                                                          (z t)))
     1633                                                          ((spno :s32const)
     1634                                                           (z t)))
    16601635  (bla spno))
    16611636 
    16621637(define-ppc64-vinsn (call-subprim-2 :call :subprim-call) (((dest t))
    1663                                                         ((spno :s32const)
    1664                                                          (y t)
    1665                                                          (z t)))
     1638                                                          ((spno :s32const)
     1639                                                           (y t)
     1640                                                           (z t)))
    16661641  (bla spno))
    16671642
    16681643(define-ppc64-vinsn (call-subprim-3 :call :subprim-call) (((dest t))
    1669                                                         ((spno :s32const)
    1670                                                          (x t)
    1671                                                          (y t)
    1672                                                          (z t)))
     1644                                                          ((spno :s32const)
     1645                                                           (x t)
     1646                                                           (y t)
     1647                                                           (z t)))
    16731648  (bla spno))
    16741649
    16751650(define-ppc64-vinsn event-poll (()
    1676                               ())
     1651                                ())
    16771652  (lwz ppc::nargs ppc64::tcr.interrupt-level ppc::rcontext)
    16781653  (twgti ppc::nargs 0))
     
    16861661
    16871662(define-ppc64-vinsn (call-label :call) (()
    1688                                       ((label :label)))
     1663                                        ((label :label)))
    16891664  (bl label))
    16901665
     
    16921667; code is somehow reachable.
    16931668(define-ppc64-vinsn (non-barrier-jump :xref) (()
    1694                                             ((label :label)))
     1669                                              ((label :label)))
    16951670  (b label))
    16961671
    16971672
    16981673(define-ppc64-vinsn (cbranch-true :branch) (()
    1699                                           ((label :label)
    1700                                            (crf :crf)
    1701                                            (crbit :u8const)))
     1674                                            ((label :label)
     1675                                             (crf :crf)
     1676                                             (crbit :u8const)))
    17021677  (bt (:apply + crf crbit) label))
    17031678
    17041679(define-ppc64-vinsn (cbranch-false :branch) (()
    1705                                            ((label :label)
    1706                                             (crf :crf)
    1707                                             (crbit :u8const)))
     1680                                             ((label :label)
     1681                                              (crf :crf)
     1682                                              (crbit :u8const)))
    17081683  (bf (:apply + crf crbit) label))
    17091684
    17101685(define-ppc64-vinsn check-trap-error (()
    1711                                     ())
     1686                                      ())
    17121687  (beq+ 0 :no-error)
    17131688  (uuo_interr arch::error-reg-regnum ppc::arg_z)
     
    17161691
    17171692(define-ppc64-vinsn lisp-word-ref (((dest t))
    1718                                  ((base t)
    1719                                   (offset t)))
     1693                                   ((base t)
     1694                                    (offset t)))
    17201695  (lwzx dest base offset))
    17211696
    17221697(define-ppc64-vinsn lisp-word-ref-c (((dest t))
    1723                                    ((base t)
    1724                                     (offset :s16const)))
     1698                                     ((base t)
     1699                                      (offset :s16const)))
    17251700  (lwz dest offset base))
    17261701
     
    17291704;; Load an unsigned, 32-bit constant into a destination register.
    17301705(define-ppc64-vinsn (lwi :constant-ref) (((dest :imm))
    1731                                       ((intval :u32const))
    1732                                       ())
     1706                                        ((intval :u32const))
     1707                                        ())
    17331708  ((:or (:pred = (:apply ash intval -15) #x1ffff)
    17341709        (:pred = (:apply ash intval -15) #x0))
     
    17461721; Exactly the same thing, but take a signed integer value
    17471722(define-ppc64-vinsn lwi-s32 (((dest :imm))
    1748                            ((intval :s32const))
    1749                            ())
     1723                             ((intval :s32const))
     1724                             ())
    17501725  ((:or (:pred = (:apply ash intval -15) -1)
    17511726        (:pred = (:apply ash intval -15) #x0))
     
    17621737
    17631738(define-ppc64-vinsn discard-temp-frame (()
    1764                                       ())
     1739                                        ())
    17651740  (lwz ppc::tsp 0 ppc::tsp))
    17661741
     
    17741749;;; (large chunks of which are unused).
    17751750(define-ppc64-vinsn alloc-c-frame (()
    1776                                  ((n-c-args :u16const)))
     1751                                   ((n-c-args :u16const)))
    17771752  ;; Always reserve space for at least 8 args and space for a lisp
    17781753  ;; frame (for the kernel) underneath it.
     
    18021777
    18031778(define-ppc64-vinsn alloc-eabi-c-frame (()
    1804                                       ((n-c-args :u16const)))
     1779                                        ((n-c-args :u16const)))
    18051780                                        ; Always reserve space for at least 8 args and space for a lisp
    18061781                                        ; frame (for the kernel) underneath it.  Store NIL inthe c-frame's
     
    18271802; of each frame.
    18281803(define-ppc64-vinsn discard-c-frame (()
    1829                                    ())
     1804                                     ())
    18301805  (lwz ppc::sp 0 ppc::sp))
    18311806
     
    18341809
    18351810(define-ppc64-vinsn set-c-arg (()
    1836                              ((argval :u32)
    1837                               (argnum :u16const)))
     1811                               ((argval :u32)
     1812                                (argnum :u16const)))
    18381813  (stw argval (:apply + ppc64::c-frame.param0 (:apply ash argnum ppc64::word-shift)) ppc::sp))
    18391814
    18401815(define-ppc64-vinsn set-single-c-arg (()
    1841                                     ((argval :single-float)
    1842                                      (argnum :u16const)))
     1816                                      ((argval :single-float)
     1817                                       (argnum :u16const)))
    18431818  (stfs argval (:apply + ppc64::c-frame.param0 (:apply ash argnum ppc64::word-shift)) ppc::sp))
    18441819
    18451820(define-ppc64-vinsn set-double-c-arg (()
    1846                                     ((argval :double-float)
    1847                                      (argnum :u16const)))
     1821                                      ((argval :double-float)
     1822                                       (argnum :u16const)))
    18481823  (stfd argval (:apply + ppc64::c-frame.param0 (:apply ash argnum ppc64::word-shift)) ppc::sp))
    18491824
    18501825(define-ppc64-vinsn reload-single-c-arg (((argval :single-float))
    1851                                       ((argnum :u16const)))
     1826                                        ((argnum :u16const)))
    18521827  (lfs argval (:apply + ppc64::c-frame.param0 (:apply ash argnum ppc64::word-shift)) ppc::sp))
    18531828
    18541829(define-ppc64-vinsn reload-double-c-arg (((argval :double-float))
    1855                                       ((argnum :u16const)))
     1830                                        ((argnum :u16const)))
    18561831  (lfd argval (:apply + ppc64::c-frame.param0 (:apply ash argnum ppc64::word-shift)) ppc::sp))
    18571832
    18581833(define-ppc64-vinsn set-eabi-c-arg (()
    1859                                   ((argval :u32)
    1860                                    (argnum :u16const)))
     1834                                    ((argval :u32)
     1835                                     (argnum :u16const)))
    18611836  (stw argval (:apply + ppc64::eabi-c-frame.param0 (:apply ash argnum ppc64::word-shift)) ppc::sp))
    18621837
    18631838(define-ppc64-vinsn set-single-eabi-c-arg (()
    1864                                          ((argval :single-float)
    1865                                           (argnum :u16const)))
     1839                                           ((argval :single-float)
     1840                                            (argnum :u16const)))
    18661841  (stfs argval (:apply + ppc64::eabi-c-frame.param0 (:apply ash argnum ppc64::word-shift)) ppc::sp))
    18671842
    18681843(define-ppc64-vinsn set-double-eabi-c-arg (()
    1869                                          ((argval :double-float)
    1870                                           (argnum :u16const)))
     1844                                           ((argval :double-float)
     1845                                            (argnum :u16const)))
    18711846  (stfd argval (:apply + ppc64::eabi-c-frame.param0 (:apply ash argnum ppc64::word-shift)) ppc::sp))
    18721847
    18731848(define-ppc64-vinsn reload-single-eabi-c-arg (((argval :single-float))
    1874                                             ((argnum :u16const)))
     1849                                              ((argnum :u16const)))
    18751850  (lfs argval (:apply + ppc64::eabi-c-frame.param0 (:apply ash argnum ppc64::word-shift)) ppc::sp))
    18761851
    18771852(define-ppc64-vinsn reload-double-eabi-c-arg (((argval :double-float))
    1878                                             ((argnum :u16const)))
     1853                                              ((argnum :u16const)))
    18791854  (lfd argval (:apply + ppc64::eabi-c-frame.param0 (:apply ash argnum ppc64::word-shift)) ppc::sp))
    18801855
    18811856(define-ppc64-vinsn (load-nil :constant-ref) (((dest t))
    1882                                             ())
     1857                                              ())
    18831858  (li dest ppc64::nil-value))
    18841859
     1860
     1861#+not-yet
    18851862(define-ppc64-vinsn (load-t :constant-ref) (((dest t))
    1886                                           ())
     1863                                            ())
    18871864  (li dest (+ ppc64::t-offset ppc64::nil-value)))
    18881865
    18891866(define-ppc64-vinsn set-eq-bit (((dest :crf))
    1890                               ())
     1867                                ())
    18911868  (creqv (:apply + ppc::ppc-eq-bit dest)
    18921869         (:apply + ppc::ppc-eq-bit dest)
     
    18941871
    18951872(define-ppc64-vinsn (ref-constant :constant-ref) (((dest :lisp))
    1896                                                 ((src :s16const)))
    1897   (lwz dest (:apply + ppc64::misc-data-offset (:apply ash (:apply 1+ src) 2)) ppc::fn))
     1873                                                  ((src :s16const)))
     1874  (ld dest (:apply + ppc64::misc-data-offset (:apply ash (:apply 1+ src) 3)) ppc::fn))
    18981875
    18991876(define-ppc64-vinsn ref-indexed-constant (((dest :lisp))
    1900                                         ((idxreg :s32)))
    1901   (lwzx dest ppc::fn idxreg))
     1877                                          ((idxreg :s32)))
     1878  (ldx dest ppc::fn idxreg))
    19021879
    19031880
    19041881(define-ppc64-vinsn cons (((dest :lisp))
    1905                         ((newcar :lisp)
    1906                          (newcdr :lisp)))
     1882                          ((newcar :lisp)
     1883                           (newcdr :lisp)))
    19071884  (la ppc::allocptr (- ppc64::fulltag-cons ppc64::cons.size) ppc::allocptr)
    1908   (twllt ppc::allocptr ppc::allocbase)
    1909   (stw newcdr ppc64::cons.cdr ppc::allocptr)
    1910   (stw newcar ppc64::cons.car ppc::allocptr)
     1885  (tdllt ppc::allocptr ppc::allocbase)
     1886  (std newcdr ppc64::cons.cdr ppc::allocptr)
     1887  (std newcar ppc64::cons.car ppc::allocptr)
    19111888  (mr dest ppc::allocptr)
    1912   (clrrwi ppc::allocptr ppc::allocptr ppc64::ntagbits))
     1889  (rldicr ppc::allocptr ppc::allocptr 0 (- 63 ppc64::ntagbits)))
    19131890
    19141891
     
    19161893;; subtag had better be a PPC-NODE-SUBTAG of some sort!
    19171894(define-ppc64-vinsn %ppc-gvector (((dest :lisp))
    1918                                 ((Rheader :u32)
    1919                                  (nbytes :u32const))
    1920                                 ((immtemp0 :u32)
    1921                                  (nodetemp :lisp)
    1922                                  (crf :crf)))
     1895                                  ((Rheader :u32)
     1896                                   (nbytes :u32const))
     1897                                  ((immtemp0 :u32)
     1898                                   (nodetemp :lisp)
     1899                                   (crf :crf)))
    19231900  (la ppc::allocptr (:apply - ppc64::fulltag-misc
    19241901                            (:apply logand (lognot 7)
     
    19281905  (stw Rheader ppc64::misc-header-offset ppc::allocptr)
    19291906  (mr dest ppc::allocptr)
    1930   (clrrwi ppc::allocptr ppc::allocptr ppc64::ntagbits)
     1907  (rldicr ppc::allocptr ppc::allocptr 0 (- 63 ppc64::ntagbits))
    19311908  ((:not (:pred = nbytes 0))
    19321909   (li immtemp0 (:apply + ppc64::misc-data-offset nbytes))
     
    19411918;; allocate a small (phys size <= 32K bytes) misc obj of known size/subtag
    19421919(define-ppc64-vinsn %alloc-misc-fixed (((dest :lisp))
    1943                                      ((Rheader :u32)
    1944                                       (nbytes :u32const)))
     1920                                       ((Rheader :u64)
     1921                                        (nbytes :u32const)))
    19451922  (la ppc::allocptr (:apply - ppc64::fulltag-misc
    1946                             (:apply logand (lognot 7)
    1947                                     (:apply + (+ 7 4) nbytes)))
     1923                            (:apply logand (lognot 15)
     1924                                    (:apply + (+ 15 8) nbytes)))
    19481925      ppc::allocptr)
    1949   (twllt ppc::allocptr ppc::allocbase)
    1950   (stw Rheader ppc64::misc-header-offset ppc::allocptr)
     1926  (tdllt ppc::allocptr ppc::allocbase)
     1927  (std Rheader ppc64::misc-header-offset ppc::allocptr)
    19511928  (mr dest ppc::allocptr)
    1952   (clrrwi ppc::allocptr ppc::allocptr ppc64::ntagbits))
     1929  (rldicr ppc::allocptr ppc::allocptr 0 (- 63 ppc64::ntagbits)))
    19531930
    19541931(define-ppc64-vinsn vstack-discard (()
    1955                                   ((nwords :u32const)))
     1932                                    ((nwords :u32const)))
    19561933  ((:not (:pred = nwords 0))
    19571934   (la ppc::vsp (:apply ash nwords ppc64::word-shift) ppc::vsp)))
     
    19591936
    19601937(define-ppc64-vinsn lcell-load (((dest :lisp))
    1961                               ((cell :lcell)
    1962                               (top :lcell)))
    1963   (lwz dest (:apply -
    1964                     (:apply - (:apply calc-lcell-depth top) 4)
    1965                     (:apply calc-lcell-offset cell)) ppc::vsp))
     1938                                ((cell :lcell)
     1939                                (top :lcell)))
     1940  (ld dest (:apply -
     1941                   (:apply - (:apply calc-lcell-depth top) ppc64::word-size-in-bytes)
     1942                   (:apply calc-lcell-offset cell)) ppc::vsp))
    19661943
    19671944(define-ppc64-vinsn vframe-load (((dest :lisp))
    1968                               ((frame-offset :u16const)
    1969                                 (cur-vsp :u16const)))
    1970   (lwz dest (:apply - (:apply - cur-vsp 4) frame-offset) ppc::vsp))
     1945                                ((frame-offset :u16const)
     1946                                  (cur-vsp :u16const)))
     1947  (ld dest (:apply - (:apply - cur-vsp ppc64::word-size-in-bytes) frame-offset) ppc::vsp))
    19711948
    19721949(define-ppc64-vinsn lcell-store (()
    1973                               ((src :lisp)
    1974                                 (cell :lcell)
    1975                                 (top :lcell)))
     1950                                ((src :lisp)
     1951                                  (cell :lcell)
     1952                                  (top :lcell)))
    19761953  (stw src (:apply -
    19771954                   (:apply - (:apply calc-lcell-depth top) 4)
     
    19791956
    19801957(define-ppc64-vinsn vframe-store (()
    1981                                 ((src :lisp)
    1982                                  (frame-offset :u16const)
    1983                                  (cur-vsp :u16const)))
    1984   (stw src (:apply - (:apply - cur-vsp 4) frame-offset) ppc::vsp))
     1958                                  ((src :lisp)
     1959                                   (frame-offset :u16const)
     1960                                   (cur-vsp :u16const)))
     1961  (std src (:apply - (:apply - cur-vsp 8) frame-offset) ppc::vsp))
    19851962
    19861963(define-ppc64-vinsn load-vframe-address (((dest :imm))
    1987                                       ((offset :s16const)))
     1964                                        ((offset :s16const)))
    19881965  (la dest offset ppc::vsp))
    19891966
    19901967(define-ppc64-vinsn copy-lexpr-argument (()
    1991                                       ()
    1992                                       ((temp :lisp)))
    1993   (lwzx temp ppc::vsp ppc::nargs)
    1994   (stwu temp -4 ppc::vsp))
     1968                                        ()
     1969                                        ((temp :lisp)))
     1970  (ldx temp ppc::vsp ppc::nargs)
     1971  (stdu temp -8 ppc::vsp))
    19951972
    19961973; Boxing/unboxing of integers.
     
    19981975; Treat the low 8 bits of VAL as an unsigned integer; set RESULT to the equivalent fixnum.
    19991976(define-ppc64-vinsn u8->fixnum (((result :imm))
    2000                               ((val :u8))
    2001                               ())
     1977                                ((val :u8))
     1978                                ())
    20021979  (rlwinm result val ppc64::fixnumshift (- ppc64::nbits-in-word (+ 8 ppc64::fixnumshift)) (- ppc64::least-significant-bit ppc64::fixnumshift)))
    20031980
    20041981; Treat the low 8 bits of VAL as a signed integer; set RESULT to the equivalent fixnum.
    20051982(define-ppc64-vinsn s8->fixnum (((result :imm))
    2006                               ((val :s8))
    2007                               ())
     1983                                ((val :s8))
     1984                                ())
    20081985  (extlwi result val 8 (- ppc64::nbits-in-word 8))
    20091986  (srawi result result (- (- ppc64::nbits-in-word 8) ppc64::fixnumshift)))
     
    20121989; Treat the low 16 bits of VAL as an unsigned integer; set RESULT to the equivalent fixnum.
    20131990(define-ppc64-vinsn u16->fixnum (((result :imm))
    2014                               ((val :u16))
    2015                               ())
     1991                                ((val :u16))
     1992                                ())
    20161993  (rlwinm result val ppc64::fixnumshift (- ppc64::nbits-in-word (+ 16 ppc64::fixnumshift)) (- ppc64::least-significant-bit ppc64::fixnumshift)))
    20171994
    20181995; Treat the low 16 bits of VAL as a signed integer; set RESULT to the equivalent fixnum.
    20191996(define-ppc64-vinsn s16->fixnum (((result :imm))
    2020                               ((val :s16))
    2021                               ())
     1997                                ((val :s16))
     1998                                ())
    20221999  (extlwi result val 16 (- ppc64::nbits-in-word 16))
    20232000  (srawi result result (- (- ppc64::nbits-in-word 16) ppc64::fixnumshift)))
    20242001
    20252002(define-ppc64-vinsn fixnum->s16 (((result :s16))
    2026                               ((src :imm)))
     2003                                ((src :imm)))
    20272004  (srawi result src ppc64::fixnumshift))
    20282005
    2029 ; A signed 32-bit untagged value can be at worst a 1-digit bignum.
     2006; A signed 64-bit untagged value can be at worst a 1-digit bignum.
    20302007; There should be something very much like this that takes a stack-consed
    20312008; bignum result ...
    2032 (define-ppc64-vinsn s32->integer (((result :lisp))
    2033                                 ((src :s32))
    2034                                 ((crf (:crf 0)) ; a casualty
    2035                                  (temp :s32)))       
     2009(define-ppc64-vinsn s64->integer (((result :lisp))
     2010                                  ((src :s64))
     2011                                  ((crf (:crf 0)) ; a casualty
     2012                                   (temp :s64)))       
    20362013  (addo temp src src)
     2014  (addo temp temp temp)
    20372015  (addo. result temp temp)
    20382016  (bns+ :done)
    20392017  (mtxer ppc::rzero)
    20402018  (li temp ppc64::one-digit-bignum-header)
    2041   (la ppc::allocptr (- ppc64::fulltag-misc 8) ppc::allocptr)
    2042   (twllt ppc::allocptr ppc::allocbase)
    2043   (stw temp ppc64::misc-header-offset ppc::allocptr)
     2019  (la ppc::allocptr (- ppc64::fulltag-misc 16) ppc::allocptr)
     2020  (tdllt ppc::allocptr ppc::allocbase)
     2021  (std temp ppc64::misc-header-offset ppc::allocptr)
    20442022  (mr result ppc::allocptr)
    2045   (clrrwi ppc::allocptr ppc::allocptr ppc64::ntagbits)
    2046   (stw src ppc64::misc-data-offset result)
     2023  (rldicr ppc::allocptr ppc::allocptr 0 (- 63 ppc64::ntagbits))
     2024  (std src ppc64::misc-data-offset result)
    20472025  :done)
    20482026
     
    20502028; An unsigned 32-bit untagged value can be either a 1 or a 2-digit bignum.
    20512029(define-ppc64-vinsn u32->integer (((result :lisp))
    2052                                 ((src :u32))
    2053                                 ((crf (:crf 0)) ; a casualty
    2054                                  (temp :s32)
    2055                                  (size :u32)))
    2056   (clrrwi. temp src (- ppc64::least-significant-bit ppc64::nfixnumtagbits))
    2057   (slwi result src ppc64::fixnumshift)
     2030                                  ((src :u32))
     2031                                  ((crf (:crf 0)) ; a casualty
     2032                                   (temp :s32)
     2033                                   (size :u32)))
     2034  (rldicr. temp src 0 ppc64::nfixnumtagbits)
     2035  (sldi result src ppc64::fixnumshift)
    20582036  (beq+ crf :done)
    2059   (cmpwi src 0)
     2037  (cmpdi src 0)
    20602038  (li temp ppc64::one-digit-bignum-header)
    2061   (li size (- 8 ppc64::fulltag-misc))
     2039  (li size (- 16 ppc64::fulltag-misc))
    20622040  (bgt :common)
    20632041  (li temp ppc64::two-digit-bignum-header)
    2064   (li size (- 16 ppc64::fulltag-misc))
     2042  (li size (- 24 ppc64::fulltag-misc))
    20652043  :common
    20662044  (sub ppc::allocptr ppc::allocptr size)
    2067   (twllt ppc::allocptr ppc::allocbase)
    2068   (stw temp ppc64::misc-header-offset ppc::allocptr)
     2045  (tdllt ppc::allocptr ppc::allocbase)
     2046  (std temp ppc64::misc-header-offset ppc::allocptr)
    20692047  (mr result ppc::allocptr)
    2070   (clrrwi ppc::allocptr ppc::allocptr ppc64::ntagbits)
    2071   (stw src ppc64::misc-data-offset result)
     2048  (rldicr ppc::allocptr ppc::allocptr 0 (- 63 ppc64::ntagbits))
     2049  (std src ppc64::misc-data-offset result)
    20722050  :done)
    20732051
    20742052(define-ppc64-vinsn u16->u32 (((dest :u32))
    2075                             ((src :u16)))
     2053                              ((src :u16)))
    20762054  (clrlwi dest src 16))
    20772055
    20782056(define-ppc64-vinsn u8->u32 (((dest :u32))
    2079                            ((src :u8)))
     2057                             ((src :u8)))
    20802058  (clrlwi dest src 24))
    20812059
    20822060
    20832061(define-ppc64-vinsn s16->s32 (((dest :s32))
    2084                             ((src :s16)))
     2062                              ((src :s16)))
    20852063  (extsh dest src))
    20862064
    20872065(define-ppc64-vinsn s8->s32 (((dest :s32))
    2088                            ((src :s8)))
     2066                             ((src :s8)))
    20892067  (extsb dest src))
    20902068
     
    20952073; this blindly.
    20962074(define-ppc64-vinsn double->heap (((result :lisp)) ; tagged as a double-float
    2097                                 ((fpreg :double-float))
    2098                                 ((header-temp :u32)))
     2075                                  ((fpreg :double-float))
     2076                                  ((header-temp :u32)))
    20992077  (li header-temp (arch::make-vheader ppc64::double-float.element-count ppc64::subtag-double-float))
    21002078  (la ppc::allocptr (- ppc64::fulltag-misc ppc64::double-float.size) ppc::allocptr)
    2101   (twllt ppc::allocptr ppc::allocbase)
    2102   (stw header-temp ppc64::misc-header-offset ppc::allocptr)
     2079  (tdllt ppc::allocptr ppc::allocbase)
     2080  (std header-temp ppc64::misc-header-offset ppc::allocptr)
    21032081  (mr result ppc::allocptr)
    2104   (clrrwi ppc::allocptr ppc::allocptr ppc64::ntagbits)
     2082  (rldicr ppc::allocptr ppc::allocptr 0 (- 63 ppc64::ntagbits))
    21052083  (stfd fpreg ppc64::double-float.value result)  )
    21062084
    21072085
    2108 ; This is about as bad as heap-consing a double-float.  (In terms of verbosity).
    2109 ; Wouldn't kill us to do either/both out-of-line, but need to make visible to
    2110 ; compiler so unnecessary heap-consing can be elided.
    2111 (define-ppc64-vinsn single->heap (((result :lisp)) ; tagged as a single-float
    2112                                 ((fpreg :single-float))
    2113                                 ((header-temp :u32)))
    2114   (li header-temp (arch::make-vheader ppc64::single-float.element-count ppc64::subtag-single-float))
    2115   (la ppc::allocptr (- ppc64::fulltag-misc ppc64::single-float.size) ppc::allocptr)
    2116   (twllt ppc::allocptr ppc::allocbase)
    2117   (stw header-temp ppc64::misc-header-offset ppc::allocptr)
    2118   (mr result ppc::allocptr)
    2119   (clrrwi ppc::allocptr ppc::allocptr ppc64::ntagbits)
    2120   (stfs fpreg ppc64::single-float.value result))
     2086(define-ppc64-vinsn single->node (((result :lisp)) ; tagged as a single-float
     2087                                  ((fpreg :single-float)))
     2088  (stfs fpreg ppc64::tcr.single-float-convert ppc::rcontext)
     2089  (ld result  ppc64::tcr.single-float-convert ppc::rcontext))
    21212090
    21222091
    21232092; "dest" is preallocated, presumably on a stack somewhere.
    21242093(define-ppc64-vinsn store-double (()
    2125                                 ((dest :lisp)
    2126                                  (source :double-float))
    2127                                 ())
     2094                                  ((dest :lisp)
     2095                                   (source :double-float))
     2096                                  ())
    21282097  (stfd source ppc64::double-float.value dest))
    21292098
    21302099(define-ppc64-vinsn get-double (((target :double-float))
    2131                               ((source :lisp))
    2132                               ())
     2100                                ((source :lisp))
     2101                                ())
    21332102  (lfd target ppc64::double-float.value source))
    21342103
     
    21382107
    21392108(define-ppc64-vinsn get-double? (((target :double-float))
    2140                               ((source :lisp))
    2141                               ((tag :u8)
    2142                                 (crf :crf)))
    2143   (clrlwi tag source (- ppc64::nbits-in-word ppc64::nlisptagbits))
    2144   (cmpwi crf tag ppc64::tag-misc)
     2109                                ((source :lisp))
     2110                                ((tag :u8)
     2111                                  (crf :crf)))
     2112  (clrldi tag source (- ppc64::nbits-in-word ppc64::ntagbits))
     2113  (cmpdi crf tag ppc64::fulltag-misc)
    21452114  (bne crf :do-trap)
    21462115  (lbz tag ppc64::misc-subtag-offset source)
    21472116  :do-trap
    2148   (twnei tag ppc64::subtag-double-float)
     2117  (tdnei tag ppc64::subtag-double-float)
    21492118  (lfd target ppc64::double-float.value source))
    21502119 
    21512120
    21522121(define-ppc64-vinsn store-single (()
    2153                                 ((dest :lisp)
    2154                                  (source :single-float))
    2155                                 ())
    2156   (stfs source ppc64::single-float.value dest))
     2122                                  ((dest :lisp)
     2123                                   (source :single-float))
     2124                                  ())
     2125  (stfs source ppc64::tcr.single-float-convert ppc::rcontext)
     2126  (ld dest ppc64::tcr.single-float-convert ppc::rcontext))
    21572127
    21582128(define-ppc64-vinsn get-single (((target :single-float))
    2159                               ((source :lisp))
    2160                               ())
    2161   (lfs target ppc64::single-float.value source))
     2129                                ((source :lisp)))
     2130  (std source ppc64::tcr.single-float-convert ppc::rcontext)
     2131  (lfs target ppc64::tcr.single-float-convert ppc::rcontext))
    21622132
    21632133; ... of characters ...
    21642134(define-ppc64-vinsn charcode->u16 (((dest :u16))
    2165                                  ((src :imm))
    2166                                  ())
     2135                                   ((src :imm))
     2136                                   ())
    21672137  (srwi dest src ppc64::charcode-shift))
    21682138
    21692139(define-ppc64-vinsn character->fixnum (((dest :lisp))
    2170                                      ((src :lisp))
    2171                                      ())
     2140                                       ((src :lisp))
     2141                                       ())
    21722142  (rlwinm dest
    21732143          src
     
    21772147
    21782148(define-ppc64-vinsn character->code (((dest :u32))
    2179                                    ((src :lisp)))
     2149                                     ((src :lisp)))
    21802150  (rlwinm dest src ppc64::charcode-shift ppc64::charcode-shift ppc64::least-significant-bit))
    21812151
    21822152(define-ppc64-vinsn charcode->fixnum (((dest :lisp))
    2183                                     ((src :imm))
    2184                                     ())
     2153                                      ((src :imm))
     2154                                      ())
    21852155  (rlwinm dest
    21862156          src
     
    21902160
    21912161(define-ppc64-vinsn fixnum->char (((dest :lisp))
    2192                                 ((src :imm))
    2193                                 ())
     2162                                  ((src :imm))
     2163                                  ())
    21942164  (rlwinm dest src (- ppc64::charcode-shift ppc64::fixnumshift) 8 (1- ppc64::charcode-shift))
    21952165  (addi dest dest ppc64::subtag-character))
    21962166
    21972167(define-ppc64-vinsn u8->char (((dest :lisp))
    2198                             ((src :u8))
    2199                             ())
     2168                              ((src :u8))
     2169                              ())
    22002170  (rlwinm dest src ppc64::charcode-shift 8 (1- ppc64::charcode-shift))
    22012171  (addi dest dest ppc64::subtag-character))
     
    22042174
    22052175(define-ppc64-vinsn deref-macptr (((addr :address))
    2206                                 ((src :lisp))
    2207                                 ())
    2208   (lwz addr ppc64::macptr.address src))
     2176                                  ((src :lisp))
     2177                                  ())
     2178  (ld addr ppc64::macptr.address src))
    22092179
    22102180(define-ppc64-vinsn set-macptr-address (()
    2211                                       ((addr :address)
    2212                                       (src :lisp))
    2213                                       ())
    2214   (stw addr ppc64::macptr.address src))
     2181                                        ((addr :address)
     2182                                        (src :lisp))
     2183                                        ())
     2184  (std addr ppc64::macptr.address src))
    22152185
    22162186
    22172187(define-ppc64-vinsn macptr->heap (((dest :lisp))
    2218                                 ((address :address))
    2219                                 ((header :u32)))
     2188                                  ((address :address))
     2189                                  ((header :u64)))
    22202190  (li header (logior (ash ppc64::macptr.element-count ppc64::num-subtag-bits) ppc64::subtag-macptr))
    22212191  (la ppc::allocptr (- ppc64::fulltag-misc ppc64::macptr.size) ppc::allocptr)
    2222   (twllt ppc::allocptr ppc::allocbase)
    2223   (stw header ppc64::misc-header-offset ppc::allocptr)
     2192  (tdllt ppc::allocptr ppc::allocbase)
     2193  (std header ppc64::misc-header-offset ppc::allocptr)
    22242194  (mr dest ppc::allocptr)
    2225   (clrrwi ppc::allocptr ppc::allocptr ppc64::ntagbits)
     2195  (rldicr ppc::allocptr ppc::allocptr 0 (- 63 ppc64::ntagbits))
    22262196  ;; It's not necessary to zero out the domain/type fields, since newly
    22272197  ;; heap-allocated memory's guaranteed to be 0-filled.
    2228   (stw address ppc64::macptr.address dest))
     2198  (std address ppc64::macptr.address dest))
    22292199
    22302200(define-ppc64-vinsn macptr->stack (((dest :lisp))
    2231                                  ((address :address))
    2232                                  ((header :u32)))
     2201                                   ((address :address))
     2202                                   ((header :u64)))
    22332203  (li header ppc64::macptr-header)
    2234   (stwu ppc::tsp (- (+ 8 ppc64::macptr.size)) ppc::tsp)
    2235   (stw ppc::tsp 4 ppc::tsp)
    2236   (stw header (+ 8 ppc64::fulltag-misc ppc64::macptr.header) ppc::tsp)
    2237   (stw address (+ 8 ppc64::fulltag-misc ppc64::macptr.address) ppc::tsp)
     2204  (stdu ppc::tsp (- (+ 16 ppc64::macptr.size)) ppc::tsp)
     2205  (std ppc::tsp 8 ppc::tsp)
     2206  (std header (+ 16 ppc64::fulltag-misc ppc64::macptr.header) ppc::tsp)
     2207  (std address (+ 16 ppc64::fulltag-misc ppc64::macptr.address) ppc::tsp)
    22382208  ;; It -is- necessary to zero out the domain/type fields here, since
    22392209  ;; stack-allocated memory isn't guaranteed to be 0-filled.
    2240   (stfd ppc::fp-zero (+ 8 ppc64::fulltag-misc ppc64::macptr.domain) ppc::tsp)
    2241   (la dest (+ 8 ppc64::fulltag-misc) ppc::tsp))
     2210  (std ppc::rzero (+ 16 ppc64::fulltag-misc ppc64::macptr.domain) ppc::tsp)
     2211  (std ppc::rzero (+ 16 ppc64::fulltag-misc ppc64::macptr.type) ppc::tsp)
     2212  (la dest (+ 16 ppc64::fulltag-misc) ppc::tsp))
    22422213
    22432214 
    22442215(define-ppc64-vinsn adjust-stack-register (()
    2245                                          ((reg t)
    2246                                           (amount :s16const)))
     2216                                           ((reg t)
     2217                                            (amount :s16const)))
    22472218  (la reg amount reg))
    22482219
    22492220(define-ppc64-vinsn adjust-vsp (()
    2250                               ((amount :s16const)))
     2221                                ((amount :s16const)))
    22512222  (la ppc::vsp amount ppc::vsp))
    22522223
    22532224;; Arithmetic on fixnums & unboxed numbers
    22542225
    2255 (define-ppc64-vinsn u32-lognot (((dest :u32))
    2256                               ((src :u32))
    2257                               ())
     2226(define-ppc64-vinsn u64-lognot (((dest :u64))
     2227                                ((src :u64))
     2228                                ())
    22582229  (not dest src))
    22592230
    22602231(define-ppc64-vinsn fixnum-lognot (((dest :imm))
    2261                                  ((src :imm))
    2262                                  ((temp :u32)))
     2232                                   ((src :imm))
     2233                                   ((temp :u64)))
    22632234  (not temp src)
    2264   (clrrwi dest temp ppc64::nfixnumtagbits))
     2235  (rldicr dest temp 0 (- 63 ppc64::nfixnumtagbits)))
    22652236
    22662237
    22672238(define-ppc64-vinsn negate-fixnum-overflow-inline (((dest :lisp))
    2268                                                  ((src :imm))
    2269                                                  ((unboxed :s32)
    2270                                                   (header :u32)))
     2239                                                   ((src :imm))
     2240                                                   ((unboxed :s32)
     2241                                                    (header :u32)))
    22712242  (nego. dest src)
    22722243  (bns+ :done)
     
    22842255
    22852256(define-ppc64-vinsn negate-fixnum-overflow-ool (()
    2286                                               ((src :imm))
    2287                                               )
     2257                                                ((src :imm))
     2258                                                )
    22882259  (nego. ppc::arg_z src)
    22892260  (bsola- .SPfix-overflow)
     
    22932264                                       
    22942265(define-ppc64-vinsn negate-fixnum-no-ovf (((dest :lisp))
    2295                                         ((src :imm)))
     2266                                          ((src :imm)))
    22962267 
    22972268  (neg dest src))
     
    22992270
    23002271(define-ppc64-vinsn logior-high (((dest :imm))
    2301                               ((src :imm)
    2302                                 (high :u16const)))
     2272                                ((src :imm)
     2273                                  (high :u16const)))
    23032274  (oris dest src high))
    23042275
    23052276(define-ppc64-vinsn logior-low (((dest :imm))
    2306                               ((src :imm)
    2307                               (low :u16const)))
     2277                                ((src :imm)
     2278                                (low :u16const)))
    23082279  (ori dest src low))
    23092280
     
    23112282                           
    23122283(define-ppc64-vinsn %logior2 (((dest :imm))
    2313                             ((x :imm)
    2314                              (y :imm))
    2315                             ())
     2284                              ((x :imm)
     2285                               (y :imm))
     2286                              ())
    23162287  (or dest x y))
    23172288
    23182289(define-ppc64-vinsn logand-high (((dest :imm))
    2319                               ((src :imm)
    2320                                 (high :u16const))
    2321                               ((crf0 (:crf 0))))
     2290                                ((src :imm)
     2291                                  (high :u16const))
     2292                                ((crf0 (:crf 0))))
    23222293  (andis. dest src high))
    23232294
    23242295(define-ppc64-vinsn logand-low (((dest :imm))
    2325                               ((src :imm)
    2326                               (low :u16const))
    2327                               ((crf0 (:crf 0))))
     2296                                ((src :imm)
     2297                                (low :u16const))
     2298                                ((crf0 (:crf 0))))
    23282299  (andi. dest src low))
    23292300
    23302301
    23312302(define-ppc64-vinsn %logand2 (((dest :imm))
    2332                             ((x :imm)
    2333                              (y :imm))
    2334                             ())
     2303                              ((x :imm)
     2304                               (y :imm))
     2305                              ())
    23352306  (and dest x y))
    23362307
    23372308(define-ppc64-vinsn logxor-high (((dest :imm))
    2338                               ((src :imm)
    2339                                 (high :u16const)))
     2309                                ((src :imm)
     2310                                  (high :u16const)))
    23402311  (xoris dest src high))
    23412312
    23422313(define-ppc64-vinsn logxor-low (((dest :imm))
    2343                               ((src :imm)
    2344                               (low :u16const)))
     2314                                ((src :imm)
     2315                                (low :u16const)))
    23452316  (xori dest src low))
    23462317
     
    23482319
    23492320(define-ppc64-vinsn %logxor2 (((dest :imm))
    2350                             ((x :imm)
    2351                              (y :imm))
    2352                             ())
     2321                              ((x :imm)
     2322                               (y :imm))
     2323                              ())
    23532324  (xor dest x y))
    23542325
    23552326(define-ppc64-vinsn %ilsl (((dest :imm))
    2356                          ((count :imm)
    2357                           (src :imm))
    2358                          ((temp :u32)
    2359                           (crx :crf)))
    2360   (cmpwi crx count (ash 31 ppc64::fixnumshift))
    2361   (srwi temp count ppc64::fixnumshift)
    2362   (slw dest src temp)
     2327                           ((count :imm)
     2328                            (src :imm))
     2329                           ((temp :u32)
     2330                            (crx :crf)))
     2331  (cmpdi crx count (ash 31 ppc64::fixnumshift))
     2332  (srdi temp count ppc64::fixnumshift)
     2333  (sld dest src temp)
    23632334  (ble+ crx :foo)
    23642335  (li dest 0)
     
    23662337
    23672338(define-ppc64-vinsn %ilsl-c (((dest :imm))
    2368                            ((count :u8const)
    2369                             (src :imm)))
    2370                                         ; Hard to use ppcmacroinstructions that expand into expressions involving variables.
    2371   (rlwinm dest src count 0 (:apply - ppc64::least-significant-bit count)))
     2339                             ((count :u8const)
     2340                              (src :imm)))
     2341  ;; Hard to use ppcmacroinstructions that expand into expressions involving variables.
     2342  (rldicr dest src count (:apply - ppc64::least-significant-bit count)))
    23722343
    23732344
    23742345(define-ppc64-vinsn %ilsr-c (((dest :imm))
    2375                            ((count :u8const)
    2376                             (src :imm)))
     2346                             ((count :u8const)
     2347                              (src :imm)))
    23772348  (rlwinm dest src (:apply - ppc64::nbits-in-word count) count (- ppc64::least-significant-bit
    2378                                                                  ppc64::fixnumshift)))
     2349                                                                  ppc64::fixnumshift)))
    23792350
    23802351
     
    23852356
    23862357(define-ppc64-vinsn %iasr (((dest :imm))
    2387                          ((count :imm)
    2388                           (src :imm))
    2389                          ((temp :s32)
    2390                           (crx :crf)))
    2391   (cmpwi crx count (ash 31 ppc64::fixnumshift))
    2392   (srawi temp count ppc64::fixnumshift)
    2393   (sraw temp src temp)
     2358                           ((count :imm)
     2359                            (src :imm))
     2360                           ((temp :s32)
     2361                            (crx :crf)))
     2362  (cmpdi crx count (ash 63 ppc64::fixnumshift))
     2363  (sradi temp count ppc64::fixnumshift)
     2364  (srad temp src temp)
    23942365  (ble+ crx :foo)
    2395   (srawi temp src 31)
     2366  (sradi temp src 63)
    23962367  :foo
    2397   (clrrwi dest temp ppc64::fixnumshift))
     2368  (rldicr dest temp 0 (- 63 ppc64::fixnumshift)))
    23982369
    23992370(define-ppc64-vinsn %iasr-c (((dest :imm))
    2400                            ((count :u8const)
    2401                             (src :imm))
    2402                            ((temp :s32)))
    2403   (srawi temp src count)
    2404   (clrrwi dest temp ppc64::fixnumshift))
     2371                             ((count :u8const)
     2372                              (src :imm))
     2373                             ((temp :s32)))
     2374  (sradi temp src count)
     2375  (rldicr dest temp 0 (- 63 ppc64::fixnumshift)))
    24052376
    24062377(define-ppc64-vinsn %ilsr (((dest :imm))
    2407                          ((count :imm)
    2408                           (src :imm))
    2409                          ((temp :s32)
    2410                           (crx :crf)))
    2411   (cmpwi crx count (ash 31 ppc64::fixnumshift))
    2412   (srwi temp count ppc64::fixnumshift)
    2413   (srw temp src temp)
    2414   (clrrwi dest temp ppc64::fixnumshift)
     2378                           ((count :imm)
     2379                            (src :imm))
     2380                           ((temp :s32)
     2381                            (crx :crf)))
     2382  (cmpdi crx count (ash 63 ppc64::fixnumshift))
     2383  (srdi temp count ppc64::fixnumshift)
     2384  (srd temp src temp)
     2385  (rldicr dest temp 0 (- 63 ppc64::fixnumshift))
    24152386  (ble+ crx :foo)
    24162387  (li dest 0)
     
    24192390
    24202391(define-ppc64-vinsn %ilsr-c (((dest :imm))
    2421                            ((count :u8const)
    2422                             (src :imm))
    2423                            ((temp :s32)))
     2392                             ((count :u8const)
     2393                              (src :imm))
     2394                             ((temp :s32)))
    24242395  (rlwinm temp src (:apply - 32 count) count 31)
    2425   (clrrwi dest temp ppc64::fixnumshift))
     2396  (rldicr dest temp 0 (- 63 ppc64::fixnumshift)))
    24262397
    24272398(define-ppc64-vinsn u32-shift-left (((dest :u32))
    2428                                   ((src :u32)
    2429                                    (count :u8const)))
     2399                                    ((src :u32)
     2400                                     (count :u8const)))
    24302401  (rlwinm dest src count 0 (:apply - 31 count)))
    24312402
    24322403(define-ppc64-vinsn u32-shift-right (((dest :u32))
    2433                                    ((src :u32)
    2434                                     (count :u8const)))
     2404                                     ((src :u32)
     2405                                      (count :u8const)))
    24352406  (rlwinm dest src (:apply - 32 count) count 31))
    24362407
    24372408(define-ppc64-vinsn sign-extend-halfword (((dest :imm))
    2438                                         ((src :imm)))
    2439   (slwi dest src (- 16 ppc64::fixnumshift))
    2440   (srawi dest dest (- 16 ppc64::fixnumshift)))
    2441 
    2442 (define-ppc64-vinsn s32-highword (((dest :imm))
    2443                                 ((src :s32))
    2444                                 ((temp :s32)))
    2445   (srawi temp src 16)
    2446   (slwi dest temp ppc64::fixnumshift))
    2447 
    2448                            
     2409                                          ((src :imm)))
     2410  (sldi dest src (- 48 ppc64::fixnumshift))
     2411  (sradi dest dest (- 48 ppc64::fixnumshift)))
     2412
     2413
    24492414
    24502415(define-ppc64-vinsn fixnum-add (((dest t))
    2451                               ((x t)
    2452                               (y t)))
     2416                                ((x t)
     2417                                (y t)))
    24532418  (add dest x y))
    24542419
    24552420
    24562421(define-ppc64-vinsn fixnum-add-overflow-ool (()
    2457                                            ((x :imm)
    2458                                             (y :imm))
    2459                                            ((cr0 (:crf 0))))
     2422                                             ((x :imm)
     2423                                              (y :imm))
     2424                                             ((cr0 (:crf 0))))
    24602425  (addo. ppc::arg_z x y)
    24612426  (bsola- .SPfix-overflow))
    24622427
    24632428(define-ppc64-vinsn fixnum-add-overflow-inline (((dest :lisp))
    2464                                               ((x :imm)
    2465                                               (y :imm))
    2466                                               ((cr0 (:crf 0))
    2467                                               (unboxed :s32)
    2468                                               (header :u32)))
     2429                                                ((x :imm)
     2430                                                (y :imm))
     2431                                                ((cr0 (:crf 0))
     2432                                                (unboxed :s32)
     2433                                                (header :u32)))
    24692434  (addo. dest x y)
    24702435  (bns+ cr0 :done)
     
    24742439  (xoris unboxed unboxed (logand #xffff (ash #xffff (- 32 16 ppc64::fixnumshift))))
    24752440  (la ppc::allocptr (- ppc64::fulltag-misc 8) ppc::allocptr)
    2476   (twllt ppc::allocptr ppc::allocbase)
    2477   (stw header ppc64::misc-header-offset ppc::allocptr)
     2441  (tdllt ppc::allocptr ppc::allocbase)
     2442  (std header ppc64::misc-header-offset ppc::allocptr)
    24782443  (mr dest ppc::allocptr)
    24792444  (clrrwi ppc::allocptr ppc::allocptr ppc64::ntagbits)
    2480   (stw unboxed ppc64::misc-data-offset dest)
     2445  (std unboxed ppc64::misc-data-offset dest)
    24812446  :done)
    24822447 
     
    24862451;  (setq dest (- x y))
    24872452(define-ppc64-vinsn fixnum-sub (((dest t))
    2488                               ((x t)
    2489                               (y t)))
     2453                                ((x t)
     2454                                (y t)))
    24902455  (subf dest y x))
    24912456
    24922457(define-ppc64-vinsn fixnum-sub-from-constant (((dest :imm))
    2493                                             ((x :s16const)
    2494                                              (y :imm)))
     2458                                              ((x :s16const)
     2459                                               (y :imm)))
    24952460  (subfic dest y (:apply ash x ppc64::fixnumshift)))
    24962461
     
    24992464
    25002465(define-ppc64-vinsn fixnum-sub-overflow-ool (()
    2501                                            ((x :imm)
    2502                                             (y :imm)))
     2466                                             ((x :imm)
     2467                                              (y :imm)))
    25032468  (subo. ppc::arg_z x y)
    25042469  (bsola- .SPfix-overflow))
    25052470
    25062471(define-ppc64-vinsn fixnum-sub-overflow-inline (((dest :lisp))
    2507                                               ((x :imm)
    2508                                               (y :imm))
    2509                                               ((cr0 (:crf 0))
    2510                                               (unboxed :s32)
    2511                                               (header :u32)))
     2472                                                ((x :imm)
     2473                                                (y :imm))
     2474                                                ((cr0 (:crf 0))
     2475                                                (unboxed :s32)
     2476                                                (header :u32)))
    25122477  (subo. dest x y)
    25132478  (bns+ cr0 :done)
     
    25262491; This is, of course, also "subtract-immediate."
    25272492(define-ppc64-vinsn add-immediate (((dest t))
    2528                                  ((src t)
    2529                                   (upper :u32const)
    2530                                   (lower :u32const)))
     2493                                   ((src t)
     2494                                    (upper :u32const)
     2495                                    (lower :u32const)))
    25312496  ((:not (:pred = upper 0))
    25322497   (addis dest src upper)
     
    25392504;(The one with the smaller absolute value might be)
    25402505(define-ppc64-vinsn multiply-fixnums (((dest :imm))
    2541                                     ((a :imm)
    2542                                      (b :imm))
    2543                                     ((unboxed :s32)))
    2544   (srawi unboxed b ppc64::fixnumshift)
    2545   (mullw dest a unboxed))
     2506                                      ((a :imm)
     2507                                       (b :imm))
     2508                                      ((unboxed :s32)))
     2509  (sradi unboxed b ppc64::fixnumshift)
     2510  (mulld dest a unboxed))
    25462511
    25472512(define-ppc64-vinsn multiply-immediate (((dest :imm))
    2548                                       ((boxed :imm)
    2549                                       (const :s16const)))
     2513                                        ((boxed :imm)
     2514                                        (const :s16const)))
    25502515  (mulli dest boxed const))
    25512516
     
    25532518; should be EXACTLY = to subtag-base-char
    25542519(define-ppc64-vinsn mask-base-char (((dest :u32))
    2555                                   ((src :imm)))
     2520                                    ((src :imm)))
    25562521  (rlwinm dest src 0 (1+ (- ppc64::least-significant-bit ppc64::charcode-shift)) (1- (- ppc64::nbits-in-word (+ ppc64::charcode-shift 8)))))
    25572522
     
    25762541
    25772542(define-ppc64-vinsn symbol-function (((val :lisp))
    2578                                    ((sym (:lisp (:ne val))))
    2579                                    ((crf :crf)
    2580                                     (tag :u32)))
    2581   (lwz val ppc64::symbol.fcell sym)
    2582   (clrlwi tag val (- 32 ppc64::nlisptagbits))
    2583   (cmpwi crf tag ppc64::tag-misc)
     2543                                     ((sym (:lisp (:ne val))))
     2544                                     ((crf :crf)
     2545                                      (tag :u32)))
     2546  (ld val ppc64::symbol.fcell sym)
     2547  (clrldi tag val (- 64 ppc64::ntagbits))
     2548  (cmpdi crf tag ppc64::fulltag-misc)
    25842549  (bne- crf :bad)
    25852550  (lbz tag ppc64::misc-subtag-offset val)
    2586   (cmpwi crf tag ppc64::subtag-function)
     2551  (cmpdi crf tag ppc64::subtag-function)
    25872552  (beq+ crf :good)
    25882553  :bad
     
    25922557(define-ppc64-vinsn (temp-push-unboxed-word :push :word :tsp)
    25932558    (()
    2594      ((w :u32)))
    2595   (stwu ppc::tsp -16 ppc::tsp)
    2596   (stw ppc::tsp 4 ppc::tsp)
    2597   (stw w 8 ppc::tsp))
     2559     ((w :u64)))
     2560  (stdu ppc::tsp -32 ppc::tsp)
     2561  (std ppc::tsp 8 ppc::tsp)
     2562  (std w 16 ppc::tsp))
    25982563
    25992564(define-ppc64-vinsn (temp-pop-unboxed-word :pop :word :tsp)
    2600     (((w :u32))
     2565    (((w :u64))
    26012566     ())
    2602   (lwz w 8 ppc::tsp)
    2603   (lwz ppc::tsp 0 ppc::tsp))
     2567  (ld w 16 ppc::tsp)
     2568  (ld ppc::tsp 0 ppc::tsp))
    26042569
    26052570(define-ppc64-vinsn (temp-push-double-float :push :doubleword :tsp)
    26062571    (((d :double-float))
    26072572     ())
    2608   (stwu ppc::tsp -16 ppc::tsp)
    2609   (stw ppc::tsp 4 ppc::tsp)
    2610   (stfd d 8 ppc::tsp))
     2573  (stdu ppc::tsp -32 ppc::tsp)
     2574  (std ppc::tsp 8 ppc::tsp)
     2575  (stfd d 16 ppc::tsp))
    26112576
    26122577(define-ppc64-vinsn (temp-pop-double-float :pop :doubleword :tsp)
    26132578    (()
    26142579     ((d :double-float)))
    2615   (lfd d 8 ppc::tsp)
    2616   (lwz ppc::tsp 0 ppc::tsp))
     2580  (lfd d 16 ppc::tsp)
     2581  (ld ppc::tsp 0 ppc::tsp))
    26172582
    26182583(define-ppc64-vinsn (temp-push-single-float :push :word :tsp)
    26192584    (((s :single-float))
    26202585     ())
    2621   (stwu ppc::tsp -16 ppc::tsp)
    2622   (stw ppc::tsp 4 ppc::tsp)
    2623   (stfs s 8 ppc::tsp))
     2586  (stdu ppc::tsp -32 ppc::tsp)
     2587  (std ppc::tsp 8 ppc::tsp)
     2588  (stfs s 16 ppc::tsp))
    26242589
    26252590(define-ppc64-vinsn (temp-pop-single-float :pop :word :tsp)
    26262591    (()
    26272592     ((s :single-float)))
    2628   (lfs s 8 ppc::tsp)
    2629   (lwz ppc::tsp 0 ppc::tsp))
     2593  (lfs s 16 ppc::tsp)
     2594  (ld ppc::tsp 0 ppc::tsp))
    26302595
    26312596
     
    26332598    (()
    26342599     ((first :u8const)))
    2635   (stwu ppc::save0 -4 ppc::vsp)
     2600  (stdu ppc::save0 -8 ppc::vsp)
    26362601  ((:pred <= first ppc::save1)
    2637    (stwu ppc::save1 -4 ppc::vsp)
     2602   (stdu ppc::save1 -8 ppc::vsp)
    26382603   ((:pred <= first ppc::save2)
    2639     (stwu ppc::save2 -4 ppc::vsp)
     2604    (stdu ppc::save2 -8 ppc::vsp)
    26402605    ((:pred <= first ppc::save3)
    2641      (stwu ppc::save3 -4 ppc::vsp)
    2642     ((:pred <= first ppc::save4)
    2643      (stwu ppc::save4 -4 ppc::vsp)
    2644     ((:pred <= first ppc::save5)
    2645      (stwu ppc::save5 -4 ppc::vsp)
    2646     ((:pred <= first ppc::save6)
    2647      (stwu ppc::save6 -4 ppc::vsp)
    2648      ((:pred = first ppc::save7)
    2649       (stwu ppc::save7 -4 ppc::vsp)))))))))
     2606     (stdu ppc::save3 -8 ppc::vsp)
     2607     ((:pred <= first ppc::save4)
     2608      (stdu ppc::save4 -8 ppc::vsp)
     2609      ((:pred <= first ppc::save5)
     2610       (stdu ppc::save5 -8 ppc::vsp)
     2611       ((:pred <= first ppc::save6)
     2612        (stdu ppc::save6 -8 ppc::vsp)
     2613        ((:pred = first ppc::save7)
     2614         (stdu ppc::save7 -8 ppc::vsp)))))))))
    26502615
    26512616(define-ppc64-vinsn (save-nvrs :push :node :vsp :multiple)
    2652               (()
    2653                ((first :u8const)))
    2654   ((:pred <= first ppc::save3)
    2655    (subi ppc::vsp ppc::vsp (:apply * 4 (:apply - 32 first)))
    2656    (stmw first 0 ppc::vsp))
    2657   ((:pred >= first ppc::save2)
    2658    (stwu ppc::save0 -4 ppc::vsp)
    2659    ((:pred <= first ppc::save1)
    2660     (stwu ppc::save1 -4 ppc::vsp)
    2661     ((:pred = first ppc::save2)
    2662      (stwu ppc::save2 -4 ppc::vsp)))))
     2617    (()
     2618     ((first :u8const)))
     2619  ;; There's no "stmd" instruction.
     2620  (stdu ppc::save0 -8 ppc::vsp)
     2621  ((:pred <= first ppc::save1)
     2622   (stdu ppc::save1 -8 ppc::vsp)
     2623   ((:pred <= first ppc::save2)
     2624    (stdu ppc::save2 -8 ppc::vsp)
     2625    ((:pred <= first ppc::save3)
     2626     (stdu ppc::save3 -8 ppc::vsp)
     2627     ((:pred <= first ppc::save4)
     2628      (stdu ppc::save4 -8 ppc::vsp)
     2629      ((:pred <= first ppc::save5)
     2630       (stdu ppc::save5 -8 ppc::vsp)
     2631       ((:pred <= first ppc::save6)
     2632        (stdu ppc::save6 -8 ppc::vsp)
     2633        ((:pred = first ppc::save7)
     2634         (stdu ppc::save7 -8 ppc::vsp)))))))))
    26632635
    26642636
     
    26682640      (basereg :imm)
    26692641      (offset :s16const)))
    2670   ((:pred <= firstreg ppc::save3)
    2671    (lmw firstreg offset basereg))
     2642  ((:pred = firstreg ppc::save7)
     2643   (ld ppc::save7 offset basereg)
     2644   (ld ppc::save6 (:apply + offset 8) basereg)
     2645   (ld ppc::save5 (:apply + offset 16) basereg)
     2646   (ld ppc::save4 (:apply + offset 24) basereg)
     2647   (ld ppc::save3 (:apply + offset 32) basereg)
     2648   (ld ppc::save2 (:apply + offset 40) basereg)
     2649   (ld ppc::save1 (:apply + offset 48) basereg)
     2650   (ld ppc::save0 (:apply + offset 56) basereg))
     2651  ((:pred = firstreg ppc::save6)
     2652   (ld ppc::save6 offset basereg)
     2653   (ld ppc::save5 (:apply + offset 8) basereg)
     2654   (ld ppc::save4 (:apply + offset 16) basereg)
     2655   (ld ppc::save3 (:apply + offset 24) basereg)
     2656   (ld ppc::save2 (:apply + offset 32) basereg)
     2657   (ld ppc::save1 (:apply + offset 40) basereg)
     2658   (ld ppc::save0 (:apply + offset 48) basereg))
     2659  ((:pred = firstreg ppc::save5)
     2660   (ld ppc::save5 offset basereg)
     2661   (ld ppc::save4 (:apply + offset 8) basereg)
     2662   (ld ppc::save3 (:apply + offset 16) basereg)
     2663   (ld ppc::save2 (:apply + offset 24) basereg)
     2664   (ld ppc::save1 (:apply + offset 32) basereg)
     2665   (ld ppc::save0 (:apply + offset 40) basereg))
     2666  ((:pred = firstreg ppc::save4)
     2667   (ld ppc::save4 offset basereg)
     2668   (ld ppc::save3 (:apply + offset 8) basereg)
     2669   (ld ppc::save2 (:apply + offset 16) basereg)
     2670   (ld ppc::save1 (:apply + offset 24) basereg)
     2671   (ld ppc::save0 (:apply + offset 32) basereg))
     2672  ((:pred = firstreg ppc::save3)
     2673   (ld ppc::save3 offset basereg)
     2674   (ld ppc::save2 (:apply + offset 8) basereg)
     2675   (ld ppc::save1 (:apply + offset 16) basereg)
     2676   (ld ppc::save0 (:apply + offset 24) basereg))
    26722677  ((:pred = firstreg ppc::save2)
    2673    (lwz ppc::save2 offset basereg)
    2674    (lwz ppc::save1 (:apply + offset 4) basereg)
    2675    (lwz ppc::save0 (:apply + offset 8) basereg))
     2678   (ld ppc::save2 offset basereg)
     2679   (ld ppc::save1 (:apply + offset 8) basereg)
     2680   (ld ppc::save0 (:apply + offset 16) basereg))
    26762681  ((:pred = firstreg ppc::save1)
    2677    (lwz ppc::save1 offset basereg)
    2678    (lwz ppc::save0 (:apply + offset 4) basereg))
     2682   (ld ppc::save1 offset basereg)
     2683   (ld ppc::save0 (:apply + offset 8) basereg))
    26792684  ((:pred = firstreg ppc::save0)
    2680    (lwz ppc::save0 offset basereg)))
     2685   (ld ppc::save0 offset basereg)))
    26812686
    26822687(define-ppc64-vinsn %current-frame-ptr (((dest :imm))
    2683                                     ())
     2688                                        ())
    26842689  (mr dest ppc::sp))
    26852690
    26862691(define-ppc64-vinsn %current-tcr (((dest :imm))
    2687                                     ())
     2692                                  ())
    26882693  (mr dest ppc::rcontext))
    26892694
    26902695(define-ppc64-vinsn (svar-dpayback :call :subprim-call) (()
    2691                                                   ((n :s16const))
    2692                                                   ((temp (:u32 #.ppc::imm0))))
     2696                                                        ((n :s16const))
     2697                                                        ((temp (:u32 #.ppc::imm0))))
    26932698  ((:pred > n 1)
    26942699   (li temp n)
     
    27092714(define-ppc64-vinsn load-double-float-constant
    27102715    (((dest :double-float))
    2711      ((high t)
    2712       (low t)))
    2713   (stwu ppc::tsp -16 ppc::tsp)
    2714   (stw ppc::tsp 4 ppc::tsp)
    2715   (stw high 8 ppc::tsp)
    2716   (stw low  12 ppc::tsp)
    2717   (lfd dest 8 ppc::tsp)
    2718   (lwz ppc::tsp 0 ppc::tsp))
     2716     ((val t)))
     2717  (stdu ppc::tsp -32 ppc::tsp)
     2718  (std ppc::tsp 8 ppc::tsp)
     2719  (std val 16 ppc::tsp)
     2720  (lfd dest 16 ppc::tsp)
     2721  (ld ppc::tsp 0 ppc::tsp))
    27192722
    27202723(define-ppc64-vinsn load-single-float-constant
     
    27282731
    27292732(define-ppc64-vinsn load-indexed-node (((node :lisp))
    2730                                      ((base :lisp)
    2731                                       (offset :s16const)))
    2732   (lwz node offset base))
     2733                                       ((base :lisp)
     2734                                        (offset :s16const)))
     2735  (ld node offset base))
    27332736
    27342737(define-ppc64-vinsn recover-saved-vsp (((dest :imm))
    2735                                      ())
    2736   (lwz dest ppc64::lisp-frame.savevsp ppc::sp))
     2738                                       ())
     2739  (ld dest ppc64::lisp-frame.savevsp ppc::sp))
    27372740
    27382741
    27392742(define-ppc64-vinsn check-exact-nargs (()
    2740                                      ((n :u16const)))
    2741   (twnei ppc::nargs (:apply ash n 2)))
     2743                                       ((n :u16const)))
     2744  (tdnei ppc::nargs (:apply ash n ppc64::word-shift)))
    27422745
    27432746(define-ppc64-vinsn check-min-nargs (()
    2744                                    ((min :u16const)))
    2745   (twllti ppc::nargs (:apply ash min 2)))
     2747                                     ((min :u16const)))
     2748  (tdllti ppc::nargs (:apply ash min ppc64::word-shift)))
    27462749
    27472750(define-ppc64-vinsn check-max-nargs (()
    2748                                    ((max :u16const)))
    2749   (twlgti ppc::nargs (:apply ash max 2)))
     2751                                     ((max :u16const)))
     2752  (twlgti ppc::nargs (:apply ash max ppc64::word-shift)))
    27502753
    27512754; Save context and establish FN.  The current VSP is the the
    27522755; same as the caller's, e.g., no arguments were vpushed.
    27532756(define-ppc64-vinsn save-lisp-context-vsp (()
    2754                                          ()
    2755                                          ((imm :u32)))
    2756   (stwu ppc::sp (- ppc64::lisp-frame.size) ppc::sp)
    2757   (stw ppc::fn ppc64::lisp-frame.savefn ppc::sp)
    2758   (stw ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
    2759   (stw ppc::vsp ppc64::lisp-frame.savevsp ppc::sp)
     2757                                           ()
     2758                                           ((imm :u64)))
     2759  (stdu ppc::sp (- ppc64::lisp-frame.size) ppc::sp)
     2760  (std ppc::fn ppc64::lisp-frame.savefn ppc::sp)
     2761  (std ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
     2762  (std ppc::vsp ppc64::lisp-frame.savevsp ppc::sp)
    27602763  (mr ppc::fn ppc::nfn)
    27612764  ;; Do a stack-probe ...
    2762   (lwz imm ppc64::tcr.cs-limit ppc::rcontext)
    2763   (twllt ppc::sp imm))
     2765  (ld imm ppc64::tcr.cs-limit ppc::rcontext)
     2766  (tdllt ppc::sp imm))
    27642767
    27652768; Do the same thing via a subprim call.
     
    27672770    (()
    27682771     ()
    2769      ((imm (:u32 #.ppc::imm0))))
     2772     ((imm (:u64 #.ppc::imm0))))
    27702773  (bla .SPsavecontextvsp))
    27712774
    27722775(define-ppc64-vinsn save-lisp-context-offset (()
    2773                                             ((nbytes-vpushed :u16const))
    2774                                             ((imm :u32)))
     2776                                              ((nbytes-vpushed :u16const))
     2777                                              ((imm :u32)))
    27752778  (la imm nbytes-vpushed ppc::vsp)
    2776   (stwu ppc::sp (- ppc64::lisp-frame.size) ppc::sp)
    2777   (stw ppc::fn ppc64::lisp-frame.savefn ppc::sp)
    2778   (stw ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
    2779   (stw imm ppc64::lisp-frame.savevsp ppc::sp)
     2779  (stdu ppc::sp (- ppc64::lisp-frame.size) ppc::sp)
     2780  (std ppc::fn ppc64::lisp-frame.savefn ppc::sp)
     2781  (std ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
     2782  (std imm ppc64::lisp-frame.savevsp ppc::sp)
    27802783  (mr ppc::fn ppc::nfn)
    27812784  ;; Do a stack-probe ...
    2782   (lwz imm ppc64::tcr.cs-limit ppc::rcontext)
    2783   (twllt ppc::sp imm))
     2785  (ld imm ppc64::tcr.cs-limit ppc::rcontext)
     2786  (tdllt ppc::sp imm))
    27842787
    27852788(define-ppc64-vinsn save-lisp-context-offset-ool (()
    2786                                                 ((nbytes-vpushed :u16const))
    2787                                                 ((imm (:u32 #.ppc::imm0))))
     2789                                                  ((nbytes-vpushed :u16const))
     2790                                                  ((imm (:u64 #.ppc::imm0))))
    27882791  (li imm nbytes-vpushed)
    27892792  (bla .SPsavecontext0))
     
    27912794
    27922795(define-ppc64-vinsn save-lisp-context-lexpr (()
    2793                                            ()
    2794                                            ((imm :u32)))
    2795   (stwu ppc::sp (- ppc64::lisp-frame.size) ppc::sp)
    2796   (stw ppc::rzero ppc64::lisp-frame.savefn ppc::sp)
    2797   (stw ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
    2798   (stw ppc::vsp ppc64::lisp-frame.savevsp ppc::sp)
     2796                                             ()
     2797                                             ((imm :u64)))
     2798  (stdu ppc::sp (- ppc64::lisp-frame.size) ppc::sp)
     2799  (std ppc::rzero ppc64::lisp-frame.savefn ppc::sp)
     2800  (std ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
     2801  (std ppc::vsp ppc64::lisp-frame.savevsp ppc::sp)
    27992802  (mr ppc::fn ppc::nfn)
    28002803  ;; Do a stack-probe ...
    2801   (lwz imm ppc64::tcr.cs-limit ppc::rcontext)
    2802   (twllt ppc::sp imm))
     2804  (ld imm ppc64::tcr.cs-limit ppc::rcontext)
     2805  (tdllt ppc::sp imm))
    28032806 
    28042807(define-ppc64-vinsn save-cleanup-context (()
    2805                                         ())
     2808                                          ())
    28062809  ;; SP was this deep just a second ago, so no need to do a stack-probe.
    28072810  (mflr ppc::loc-pc)
    2808   (stwu ppc::sp (- ppc64::lisp-frame.size) ppc::sp)
    2809   (stw ppc::rzero ppc64::lisp-frame.savefn ppc::sp)
    2810   (stw ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
    2811   (stw ppc::vsp ppc64::lisp-frame.savevsp ppc::sp))
     2811  (stdu ppc::sp (- ppc64::lisp-frame.size) ppc::sp)
     2812  (std ppc::rzero ppc64::lisp-frame.savefn ppc::sp)
     2813  (std ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
     2814  (std ppc::vsp ppc64::lisp-frame.savevsp ppc::sp))
    28122815
    28132816;; Vpush the argument registers.  We got at least "min-fixed" args;
     
    28182821     ((crfx :crf)
    28192822      (crfy :crf)
    2820       (entry-vsp (:u32 #.ppc::imm0))
    2821       (arg-temp :u32)))
     2823      (entry-vsp (:u64 ppc::imm0))
     2824      (arg-temp :u64)))
    28222825  ((:pred >= min-fixed $numppcargregs)
    2823    (stwu ppc::arg_x -4 ppc::vsp)
    2824    (stwu ppc::arg_y -4 ppc::vsp)
    2825    (stwu ppc::arg_z -4 ppc::vsp))
     2826   (stdu ppc::arg_x -8 ppc::vsp)
     2827   (stdu ppc::arg_y -8 ppc::vsp)
     2828   (stdu ppc::arg_z -8 ppc::vsp))
    28262829  ((:pred = min-fixed 2)                ; at least 2 args
    28272830   (cmplwi crfx ppc::nargs (ash 2 ppc64::word-shift))
    28282831   (beq crfx :yz2)                      ; skip arg_x if exactly 2
    2829    (stwu ppc::arg_x -4 ppc::vsp)
     2832   (stdu ppc::arg_x -8 ppc::vsp)
    28302833   :yz2
    2831    (stwu ppc::arg_y -4 ppc::vsp)
    2832    (stwu ppc::arg_z -4 ppc::vsp))
     2834   (stdu ppc::arg_y -8
     2835         ppc::vsp)
     2836   (stdu ppc::arg_z -8 ppc::vsp))
    28332837  ((:pred = min-fixed 1)                ; at least one arg
    2834    (cmplwi crfx ppc::nargs (ash 2 ppc64::word-shift))
     2838   (cmpldi crfx ppc::nargs (ash 2 ppc64::word-shift))
    28352839   (blt crfx :z1)                       ; branch if exactly one
    28362840   (beq crfx :yz1)                      ; branch if exactly two
    2837    (stwu ppc::arg_x -4 ppc::vsp)
     2841   (stdu ppc::arg_x -8 ppc::vsp)
    28382842   :yz1
    2839    (stwu ppc::arg_y -4 ppc::vsp)
     2843   (stdu ppc::arg_y -8 ppc::vsp)
    28402844   :z1
    2841    (stwu ppc::arg_z -4 ppc::vsp))
     2845   (stwu ppc::arg_z -8 ppc::vsp))
    28422846  ((:pred = min-fixed 0)
    2843    (cmplwi crfx ppc::nargs (ash 2 ppc64::word-shift))
    2844    (cmplwi crfy ppc::nargs 0)
     2847   (cmpldi crfx ppc::nargs (ash 2 ppc64::word-shift))
     2848   (cmpldi crfy ppc::nargs 0)
    28452849   (beq crfx :yz0)                      ; exactly two
    28462850   (beq crfy :none)                     ; exactly zero
     
    28722876    (()
    28732877     ())
    2874   (lwz ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
    2875   (lwz ppc::vsp ppc64::lisp-frame.savevsp ppc::sp)
    2876   (lwz ppc::fn ppc64::lisp-frame.savefn ppc::sp)
     2878  (ld ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
     2879  (ld ppc::vsp ppc64::lisp-frame.savevsp ppc::sp)
     2880  (ld ppc::fn ppc64::lisp-frame.savefn ppc::sp)
    28772881  (mtlr ppc::loc-pc)
    28782882  (la ppc::sp ppc64::lisp-frame.size ppc::sp))
     
    28922896; (and a little simpler than) returning from a function.
    28932897(define-ppc64-vinsn restore-cleanup-context (()
    2894                                            ())
    2895   (lwz ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
     2898                                             ())
     2899  (ld ppc::loc-pc ppc64::lisp-frame.savelr ppc::sp)
    28962900  (mtlr ppc::loc-pc)
    28972901  (la ppc::sp ppc64::lisp-frame.size ppc::sp))
     
    29002904
    29012905(define-ppc64-vinsn default-1-arg (()
    2902                                  ((min :u16const))
    2903                                  ((crf :crf)))
    2904   (cmplwi crf ppc::nargs (:apply ash min 2))
     2906                                   ((min :u16const))
     2907                                   ((crf :crf)))
     2908  (cmpldi crf ppc::nargs (:apply ash min ppc64::word-shift))
    29052909  (bne crf :done)
    29062910  ((:pred >= min 3)
    2907    (stwu ppc::arg_x -4 ppc::vsp))
     2911   (stdu ppc::arg_x -8 ppc::vsp))
    29082912  ((:pred >= min 2)
    29092913   (mr ppc::arg_x ppc::arg_y))
     
    29142918
    29152919(define-ppc64-vinsn default-2-args (()
    2916                                   ((min :u16const))
    2917                                   ((crf :crf)))
    2918   (cmplwi crf ppc::nargs (:apply ash (:apply 1+ min) 2))
     2920                                    ((min :u16const))
     2921                                    ((crf :crf)))
     2922  (cmpldi crf ppc::nargs (:apply ash (:apply 1+ min) ppc64::word-shift))
    29192923  (bgt crf :done)
    29202924  (beq crf :one)
    29212925                                        ; We got "min" args; arg_y & arg_z default to nil
    29222926  ((:pred >= min 3)
    2923    (stwu ppc::arg_x -4 ppc::vsp))   
     2927   (stdu ppc::arg_x -8 ppc::vsp))   
    29242928  ((:pred >= min 2)
    2925    (stwu ppc::arg_y -4 ppc::vsp))
     2929   (stdu ppc::arg_y -8 ppc::vsp))
    29262930  ((:pred >= min 1)
    29272931   (mr ppc::arg_x ppc::arg_z))
     
    29312935                                        ; We got min+1 args: arg_y was supplied, arg_z defaults to nil.
    29322936  ((:pred >= min 2)
    2933    (stwu ppc::arg_x -4 ppc::vsp))
     2937   (stdu ppc::arg_x -8 ppc::vsp))
    29342938  ((:pred >= min 1)
    29352939   (mr ppc::arg_x ppc::arg_y))
     
    29402944
    29412945(define-ppc64-vinsn default-3-args (()
    2942                                   ((min :u16const))
    2943                                   ((crfx :crf)
    2944                                    (crfy :crf)))
    2945   (cmplwi crfx ppc::nargs (:apply ash (:apply + 2 min) 2))
    2946   (cmplwi crfy ppc::nargs (:apply ash min 2))
     2946                                    ((min :u16const))
     2947                                    ((crfx :crf)
     2948                                     (crfy :crf)))
     2949  (cmpldi crfx ppc::nargs (:apply ash (:apply + 2 min) ppc64::word-shift))
     2950  (cmpldi crfy ppc::nargs (:apply ash min ppc64::word-shift))
    29472951  (bgt crfx :done)
    29482952  (beq crfx :two)
     
    29502954                                        ; The first (of three) &optional args was supplied.
    29512955  ((:pred >= min 2)
    2952    (stwu ppc::arg_x -4 ppc::vsp))
     2956   (stdu ppc::arg_x -8 ppc::vsp))
    29532957  ((:pred >= min 1)
    2954    (stwu ppc::arg_y -4 ppc::vsp))
     2958   (stdu ppc::arg_y -8 ppc::vsp))
    29552959  (mr ppc::arg_x ppc::arg_z)
    29562960  (b :last-2)
     
    29582962                                        ; The first two (of three) &optional args were supplied.
    29592963  ((:pred >= min 1)
    2960    (stwu ppc::arg_x -4 ppc::vsp))
     2964   (stdu ppc::arg_x -8 ppc::vsp))
    29612965  (mr ppc::arg_x ppc::arg_y)
    29622966  (mr ppc::arg_y ppc::arg_z)
     
    29652969  :none
    29662970  ((:pred >= min 3)
    2967    (stwu ppc::arg_x -4 ppc::vsp))
     2971   (stdu ppc::arg_x -8 ppc::vsp))
    29682972  ((:pred >= min 2)
    2969    (stwu ppc::arg_y -4 ppc::vsp))
     2973   (stdu ppc::arg_y -8 ppc::vsp))
    29702974  ((:pred >= min 1)
    29712975   (stwu ppc::arg_z -4 ppc::vsp))
     
    29782982
    29792983(define-ppc64-vinsn save-lr (()
    2980                            ())
     2984                             ())
    29812985  (mflr ppc::loc-pc))
    29822986
     
    29842988;; the number of &optionals. 
    29852989(define-ppc64-vinsn (default-optionals :call :subprim-call) (()
    2986                                                            ((n :u16const)))
    2987   (li ppc::imm0 (:apply ash n 2))
     2990                                                             ((n :u16const)))
     2991  (li ppc::imm0 (:apply ash n ppc64::word-shift))
    29882992  (bla .SPdefault-optional-args))
    29892993
    29902994; fname contains a known symbol
    29912995(define-ppc64-vinsn (call-known-symbol :call) (((result (:lisp ppc::arg_z)))
    2992                                              ())
    2993   (lwz ppc::nfn ppc64::symbol.fcell ppc::fname)
    2994   (lwz ppc::temp0 ppc64::misc-data-offset ppc::nfn)
     2996                                               ())
     2997  (ld ppc::nfn ppc64::symbol.fcell ppc::fname)
     2998  (ld ppc::temp0 ppc64::misc-data-offset ppc::nfn)
    29952999  (mtctr ppc::temp0)
    29963000  (bctrl))
    29973001
    29983002(define-ppc64-vinsn (jump-known-symbol :jumplr) (()
    2999                                               ())
    3000   (lwz ppc::nfn ppc64::symbol.fcell ppc::fname)
    3001   (lwz ppc::temp0 ppc64::misc-data-offset ppc::nfn)
     3003                                                ())
     3004  (ld ppc::nfn ppc64::symbol.fcell ppc::fname)
     3005  (ld ppc::temp0 ppc64::misc-data-offset ppc::nfn)
    30023006  (mtctr ppc::temp0)
    30033007  (bctr))
    30043008
    30053009(define-ppc64-vinsn (call-known-function :call) (()
    3006                                               ())
    3007   (lwz ppc::temp0 ppc64::misc-data-offset ppc::nfn)
     3010                                                ())
     3011  (ld ppc::temp0 ppc64::misc-data-offset ppc::nfn)
    30083012  (mtctr ppc::temp0)
    30093013  (bctrl))
    30103014
    30113015(define-ppc64-vinsn (jump-known-function :jumplr) (()
    3012                                                  ())
    3013   (lwz ppc::temp0 ppc64::misc-data-offset ppc::nfn)
     3016                                                   ())
     3017  (ld ppc::temp0 ppc64::misc-data-offset ppc::nfn)
    30143018  (mtctr ppc::temp0)
    30153019  (bctr))
    30163020
    30173021(define-ppc64-vinsn %schar (((char :imm))
    3018                           ((str :lisp)
    3019                            (idx :imm))
    3020                           ((imm :u32)
    3021                            (cr0 (:crf 0))))
    3022   (srwi imm idx ppc64::fixnumshift)
     3022                            ((str :lisp)
     3023                             (idx :imm))
     3024                            ((imm :u32)
     3025                             (cr0 (:crf 0))))
     3026  (srdi imm idx ppc64::fixnumshift)
    30233027  (addi imm imm ppc64::misc-data-offset)
    30243028  (lbzx imm str imm)
    3025   (rlwinm imm imm ppc64::charcode-shift 8 (1- ppc64::charcode-shift))
     3029  (rldicr imm imm ppc64::charcode-shift (- 63 ppc64::charcode-shift))
    30263030  (addi char imm ppc64::subtag-character))
    30273031
    30283032(define-ppc64-vinsn %set-schar (()
    3029                               ((str :lisp)
    3030                               (idx :imm)
    3031                               (char :imm))
    3032                               ((imm :u32)
    3033                                (imm1 :u32)
    3034                               (cr0 (:crf 0))))
     3033                                ((str :lisp)
     3034                                (idx :imm)
     3035                                (char :imm))
     3036                                ((imm :u64)
     3037                                 (imm1 :u64)
     3038                                (cr0 (:crf 0))))
    30353039  (srwi imm idx ppc64::fixnumshift)
    30363040  (addi imm imm ppc64::misc-data-offset)
     
    30403044
    30413045(define-ppc64-vinsn %set-scharcode (()
    3042                                   ((str :lisp)
    3043                                    (idx :imm)
    3044                                    (code :imm))
    3045                                   ((imm :u32)
    3046                                    (imm1 :u32)
    3047                                    (cr0 (:crf 0))))
     3046                                    ((str :lisp)
     3047                                     (idx :imm)
     3048                                     (code :imm))
     3049                                    ((imm :u32)
     3050                                     (imm1 :u32)
     3051                                     (cr0 (:crf 0))))
    30483052  (srwi imm idx ppc64::fixnumshift)
    30493053  (addi imm imm ppc64::misc-data-offset)
     
    30543058
    30553059(define-ppc64-vinsn %scharcode (((code :imm))
    3056                               ((str :lisp)
    3057                               (idx :imm))
    3058                               ((imm :u32)
    3059                               (cr0 (:crf 0))))
     3060                                ((str :lisp)
     3061                                (idx :imm))
     3062                                ((imm :u32)
     3063                                (cr0 (:crf 0))))
    30603064  (srwi imm idx ppc64::fixnumshift)
    30613065  (addi imm imm ppc64::misc-data-offset)
     
    30653069; Clobbers LR
    30663070(define-ppc64-vinsn (%debug-trap :call :subprim-call) (()
    3067                                                      ())
     3071                                                       ())
    30683072  (bla .SPbreakpoint)
    30693073  )
     
    30713075
    30723076(define-ppc64-vinsn eep.address (((dest t))
    3073                               ((src (:lisp (:ne dest )))))
     3077                                ((src (:lisp (:ne dest )))))
    30743078  (lwz dest (+ (ash 1 2) ppc64::misc-data-offset) src)
    30753079  (tweqi dest ppc64::nil-value))
    30763080                 
    30773081(define-ppc64-vinsn %u32+ (((dest :u32))
    3078                          ((x :u32) (y :u32)))
     3082                           ((x :u32) (y :u32)))
    30793083  (add dest x y))
    30803084
    30813085(define-ppc64-vinsn %u32+-c (((dest :u32))
    3082                            ((x :u32) (y :u16const)))
     3086                             ((x :u32) (y :u16const)))
    30833087  (addi dest x y))
    30843088
    30853089(define-ppc64-vinsn %u32- (((dest :u32))
    3086                          ((x :u32) (y :u32)))
     3090                           ((x :u32) (y :u32)))
    30873091  (sub dest x y))
    30883092
    30893093(define-ppc64-vinsn %u32--c (((dest :u32))
    3090                            ((x :u32) (y :u16const)))
     3094                             ((x :u32) (y :u16const)))
    30913095  (subi dest x y))
    30923096
    30933097(define-ppc64-vinsn %u32-logior (((dest :u32))
    3094                               ((x :u32) (y :u32)))
     3098                                ((x :u32) (y :u32)))
    30953099  (or dest x y))
    30963100
    30973101(define-ppc64-vinsn %u32-logior-c (((dest :u32))
    3098                                  ((x :u32) (high :u16const) (low :u16const)))
     3102                                   ((x :u32) (high :u16const) (low :u16const)))
    30993103  ((:not (:pred = high 0))
    31003104   (oris dest x high))
     
    31033107
    31043108(define-ppc64-vinsn %u32-logxor (((dest :u32))
    3105                               ((x :u32) (y :u32)))
     3109                                ((x :u32) (y :u32)))
    31063110  (xor dest x y))
    31073111
    31083112(define-ppc64-vinsn %u32-logxor-c (((dest :u32))
    3109                                  ((x :u32) (high :u16const) (low :u16const)))
     3113                                   ((x :u32) (high :u16const) (low :u16const)))
    31103114  ((:not (:pred = high 0))
    31113115   (xoris dest x high))
     
    31143118
    31153119(define-ppc64-vinsn %u32-logand (((dest :u32))
    3116                               ((x :u32) (y :u32)))
     3120                                ((x :u32) (y :u32)))
    31173121  (and dest x y))
    31183122
    31193123(define-ppc64-vinsn %u32-logand-high-c (((dest :u32))
    3120                                       ((x :u32) (high :u16const))
    3121                                       ((cr0 (:crf 0))))
     3124                                        ((x :u32) (high :u16const))
     3125                                        ((cr0 (:crf 0))))
    31223126  (andis. dest x high))
    31233127
    31243128(define-ppc64-vinsn %u32-logand-low-c (((dest :u32))
    3125                                      ((x :u32) (low :u16const))
    3126                                      ((cr0 (:crf 0))))
     3129                                       ((x :u32) (low :u16const))
     3130                                       ((cr0 (:crf 0))))
    31273131  (andi. dest x low))
    31283132
    31293133(define-ppc64-vinsn %u32-logand-mask-c (((dest :u32))
    3130                                       ((x :u32)
    3131                                       (start :u8const)
    3132                                       (end :u8const)))
     3134                                        ((x :u32)
     3135                                        (start :u8const)
     3136                                        (end :u8const)))
    31333137  (rlwinm dest x 0 start end))
    31343138
    31353139(define-ppc64-vinsn disable-interrupts (((dest :lisp))
    3136                                       ()
    3137                                       ((temp :imm)))
     3140                                        ()
     3141                                        ((temp :imm)))
    31383142  (li temp -4)
    31393143  (lwz dest ppc64::tcr.interrupt-level ppc::rcontext)
     
    32603264
    32613265(define-ppc64-vinsn (nth-value :call :subprim-call) (((result :lisp))
    3262                                                    ())
     3266                                                     ())
    32633267  (bla .SPnthvalue))
    32643268
     
    32763280;;; transfer & jump ...)
    32773281(define-ppc64-vinsn (throw :jump :jump-unknown) (()
    3278                                               ())
     3282                                                ())
    32793283  (bla .SPthrow))
    32803284
     
    33163320
    33173321(define-ppc64-vinsn (darwin-syscall :call :subprim-call) (()
    3318                                                         ())
     3322                                                          ())
    33193323  (stw ppc::rzero ppc64::c-frame.crsave ppc::sp)
    33203324  (bla .SPdarwin-syscall))
    33213325
    33223326(define-ppc64-vinsn (darwin-syscall-s64 :call :subprim-call) (()
    3323                                                             ())
     3327                                                              ())
    33243328  (stw ppc::sp ppc64::c-frame.crsave ppc::sp)
    33253329  (bla .SPdarwin-syscall))
Note: See TracChangeset for help on using the changeset viewer.