source: trunk/source/compiler/X86/X8632/x8632-vinsns.lisp @ 13457

Last change on this file since 13457 was 13457, checked in by gb, 11 years ago

Try to tighten up %IASR, %ILSR vinsns: use CMOV instead of branching,
avoid partial register writes.

File size: 148.3 KB
Line 
1;;;-*- Mode: Lisp; Package: (CCL :use CL) -*-
2
3;;; Copyright 2009 Clozure Associates
4;;; This file is part of Clozure CL.
5;;;
6;;; Clozure CL is licensed under the terms of the Lisp Lesser GNU
7;;; Public License , known as the LLGPL and distributed with Clozure
8;;; CL as the file "LICENSE".  The LLGPL consists of a preamble and
9;;; the LGPL, which is distributed with Clozure CL as the file "LGPL".
10;;; Where these conflict, the preamble takes precedence.
11;;;
12;;; Clozure CL is referenced in the preamble as the "LIBRARY."
13;;;
14;;; The LLGPL is also available online at
15;;; http://opensource.franz.com/preamble.html
16
17(in-package "CCL")
18
19
20(eval-when (:compile-toplevel :load-toplevel :execute)
21  (require "VINSN")
22  (require "X8632-BACKEND"))
23
24(eval-when (:compile-toplevel :execute)
25  (require "X8632ENV"))
26
27(defun unsigned-to-signed (u nbits)
28  (if (logbitp (1- nbits) u)
29    (- u (ash 1 nbits))
30    u))
31
32(defmacro define-x8632-vinsn (vinsn-name (results args &optional temps) &body body)
33  (%define-vinsn *x8632-backend* vinsn-name results args temps body))
34
35(define-x8632-vinsn scale-32bit-misc-index (((dest :u32))
36                                            ((idx :imm) ; A fixnum
37                                             )
38                                            ())
39  (movl (:%l idx) (:%l dest)))
40
41(define-x8632-vinsn scale-16bit-misc-index (((dest :u32))
42                                            ((idx :imm))) ; A fixnum
43  (movl (:%l idx) (:%l dest))
44  (shrl (:$ub 1) (:%l dest)))
45
46(define-x8632-vinsn scale-8bit-misc-index (((dest :u32))
47                                            ((idx :imm))) ; A fixnum
48  (movl (:%l idx) (:%l dest))
49  (shrl (:$ub 2) (:%l dest)))
50
51;;; same as above, but looks better in bit vector contexts
52(define-x8632-vinsn scale-1bit-misc-index (((dest :u32))
53                                            ((idx :imm))) ; A fixnum
54  (movl (:%l idx) (:%l dest))
55  (shrl (:$ub 2) (:%l dest)))
56
57(define-x8632-vinsn misc-ref-u32 (((dest :u32))
58                                  ((v :lisp)
59                                   (scaled-idx :u32)))
60  (movl (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx)) (:%l dest)))
61
62(define-x8632-vinsn misc-ref-double-float  (((dest :double-float))
63                                            ((v :lisp)
64                                             (scaled-idx :imm)))
65  (movsd (:@ x8632::misc-dfloat-offset (:%l v) (:%l scaled-idx) 2) (:%xmm dest)))
66
67(define-x8632-vinsn misc-ref-c-double-float  (((dest :double-float))
68                                              ((v :lisp)
69                                               (idx :s32const)))
70  (movsd (:@ (:apply + x8632::misc-dfloat-offset (:apply ash idx 3)) (:%l v)) (:%xmm dest)))
71
72(define-x8632-vinsn misc-ref-node  (((dest :lisp))
73                                    ((v :lisp)
74                                     (scaled-idx :imm)))
75  (movl (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx)) (:%l dest)))
76
77(define-x8632-vinsn (push-misc-ref-node :push :node :vsp) (()
78                                                           ((v :lisp)
79                                                            (scaled-idx :imm)))
80  (pushl (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx))))
81
82(define-x8632-vinsn misc-set-node (()
83                                   ((val :lisp)
84                                    (v :lisp)
85                                    (unscaled-idx :imm))
86                                   ())
87  (movl (:%l val) (:@ x8632::misc-data-offset (:%l v) (:%l unscaled-idx))))
88
89(define-x8632-vinsn misc-set-immediate-node (()
90                                             ((val :s32const)
91                                              (v :lisp)
92                                              (unscaled-idx :imm))
93                                             ())
94  (movl (:$l val) (:@ x8632::misc-data-offset (:%l v) (:%l unscaled-idx))))
95
96(define-x8632-vinsn misc-set-single-float (()
97                                           ((val :single-float)
98                                            (v :lisp)
99                                            (scaled-idx :u32))
100                                           ())
101  (movss (:%xmm val) (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx))))
102
103(define-x8632-vinsn misc-set-double-float (()
104                                   ((val :double-float)
105                                    (v :lisp)
106                                    (unscaled-idx :imm))
107                                   ())
108  (movsd (:%xmm val) (:@ x8632::misc-dfloat-offset (:%l v) (:%l unscaled-idx) 2)))
109
110(define-x8632-vinsn misc-ref-u8 (((dest :u8))
111                                 ((v :lisp)
112                                  (scaled-idx :s32)))
113  (movzbl (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx)) (:%l dest)))
114
115(define-x8632-vinsn misc-ref-s8 (((dest :s8))
116                                 ((v :lisp)
117                                  (scaled-idx :s32)))
118  (movsbl (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx)) (:%l dest)))
119
120(define-x8632-vinsn misc-ref-c-u16 (((dest :u16))
121                                    ((v :lisp)
122                                     (idx :u32const)))
123  (movzwl (:@ (:apply + x8632::misc-data-offset (:apply ash idx 1)) (:%l v)) (:%l dest)))
124
125(define-x8632-vinsn misc-ref-c-s16 (((dest :s16))
126                                    ((v :lisp)
127                                     (idx :u32const)))
128  (movswl (:@ (:apply + x8632::misc-data-offset (:apply ash idx 1)) (:%l v)) (:%l dest)))
129
130(define-x8632-vinsn misc-ref-u16 (((dest :u16))
131                                  ((v :lisp)
132                                   (scaled-idx :s32)))
133  (movzwl (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx)) (:%l dest)))
134
135(define-x8632-vinsn misc-ref-u32 (((dest :u32))
136                                  ((v :lisp)
137                                   (scaled-idx :s32)))
138  (movl (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx)) (:%l dest)))
139
140(define-x8632-vinsn misc-ref-single-float (((dest :single-float))
141                                           ((v :lisp)
142                                            (scaled-idx :s32)))
143  (movss (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx)) (:%xmm dest)))
144
145(define-x8632-vinsn misc-ref-s32 (((dest :s32))
146                                  ((v :lisp)
147                                   (scaled-idx :s32)))
148  (movl (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx)) (:%l dest)))
149
150(define-x8632-vinsn misc-ref-s16 (((dest :s16))
151                                  ((v :lisp)
152                                   (scaled-idx :s32)))
153  (movswl (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx)) (:%l dest)))
154
155(define-x8632-vinsn misc-ref-c-node  (((dest :lisp))
156                                     ((v :lisp)
157                                      (idx :u32const)) ; sic
158                                     ())
159  (movl (:@ (:apply + x8632::misc-data-offset (:apply ash idx x8632::word-shift)) (:%l v)) (:%l dest)))
160
161(define-x8632-vinsn (push-misc-ref-c-node :push :node :vsp)
162    (()
163     ((v :lisp)
164      (idx :u32const)) ; sic
165     ())
166  (pushl (:@ (:apply + x8632::misc-data-offset (:apply ash idx x8632::word-shift)) (:%l v))))
167
168(define-x8632-vinsn misc-ref-c-u32  (((dest :u32))
169                                     ((v :lisp)
170                                      (idx :u32const)) ; sic
171                                     ())
172  ;; xxx - should the 2 be x8632::word-shift?
173  (movl (:@ (:apply + x8632::misc-data-offset (:apply ash idx 2)) (:%l v)) (:%l dest)))
174
175(define-x8632-vinsn misc-ref-c-s32  (((dest :s32))
176                                     ((v :lisp)
177                                      (idx :s32const)) ; sic
178                                     ())
179  (movl (:@ (:apply + x8632::misc-data-offset (:apply ash idx x8632::word-shift)) (:%l v)) (:%l dest)))
180
181(define-x8632-vinsn misc-ref-c-single-float  (((dest :single-float))
182                                              ((v :lisp)
183                                               (idx :s32const)) ; sic
184                                              ())
185  (movss (:@ (:apply + x8632::misc-data-offset (:apply ash idx x8632::word-shift)) (:%l v)) (:%xmm dest)))
186
187(define-x8632-vinsn misc-ref-c-u8  (((dest :u32))
188                                     ((v :lisp)
189                                      (idx :s32const)) ; sic
190                                     ())
191  (movzbl (:@ (:apply + x8632::misc-data-offset idx) (:%l v)) (:%l dest)))
192
193(define-x8632-vinsn misc-ref-c-s8  (((dest :s32))
194                                     ((v :lisp)
195                                      (idx :s32const)) ; sic
196                                     ())
197  (movsbl (:@ (:apply + x8632::misc-data-offset idx) (:%l v)) (:%l dest)))
198
199(define-x8632-vinsn misc-set-c-s8  (((val :s8))
200                                    ((v :lisp)
201                                     (idx :u32const))
202                                    ())
203  (movb (:%b val) (:@ (:apply + x8632::misc-data-offset idx) (:%l v))))
204
205(define-x8632-vinsn misc-set-s8  (((val :s8))
206                                  ((v :lisp)
207                                   (scaled-idx :s32))
208                                  ())
209  (movb (:%b val) (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx))))
210
211(define-x8632-vinsn mem-ref-s8 (((dest :s8))
212                                ((src :address)
213                                 (index :s32)))
214  (movsbl (:@ (:%l src) (:%l index)) (:%l dest)))
215
216(define-x8632-vinsn misc-set-c-node (()
217                                     ((val :lisp)
218                                      (v :lisp)
219                                     (idx :s32const)))
220  (movl (:%l val) (:@ (:apply + x8632::misc-data-offset (:apply ash idx 2)) (:%l v))))
221
222(define-x8632-vinsn misc-set-immediate-c-node (()
223                                               ((val :s32const)
224                                                (v :lisp)
225                                                (idx :s32const)))
226  (movl (:$l val) (:@ (:apply + x8632::misc-data-offset (:apply ash idx 2)) (:%l v))))
227
228;;; xxx don't know if this is right
229(define-x8632-vinsn set-closure-forward-reference (()
230                                                   ((val :lisp)
231                                                    (closure :lisp)
232                                                    (idx :s32const)))
233  (movl (:%l val) (:@ (:apply + x8632::misc-data-offset (:apply ash idx x8632::word-shift)) (:%l closure))))
234
235(define-x8632-vinsn misc-set-c-double-float (()
236                                    ((val :double-float)
237                                     (v :lisp)
238                                     (idx :s32const)))
239  (movsd (:%xmm val) (:@ (:apply + x8632::misc-dfloat-offset (:apply ash idx 3)) (:%l v))))
240
241(define-x8632-vinsn (call-known-symbol :call) (((result (:lisp x8632::arg_z)))
242                                               ()
243                                               ((entry (:label 1))))
244  (:talign x8632::fulltag-tra)
245  (call (:@ x8632::symbol.fcell (:% x8632::fname)))
246  (movl (:$self 0) (:%l x8632::fn)))
247
248(define-x8632-vinsn (jump-known-symbol :jumplr) (()
249                                                 ())
250
251  (jmp (:@ x8632::symbol.fcell (:% x8632::fname))))
252
253(define-x8632-vinsn set-nargs (()
254                               ((n :u16const)))
255  ((:pred = n 0)
256   (xorl (:%l x8632::nargs) (:%l x8632::nargs)))
257  ((:not (:pred = n 0))
258   (movl (:$l (:apply ash n x8632::fixnumshift)) (:%l x8632::nargs))))
259
260(define-x8632-vinsn check-exact-nargs (()
261                                       ((n :u16const)))
262  :resume
263  ((:pred = n 0)
264   (testl (:%l x8632::nargs) (:%l x8632::nargs)))
265  ((:and (:pred > n 0) (:pred < n 32))
266   (cmpl (:$b (:apply ash n x8632::fixnumshift)) (:%l x8632::nargs)))
267  ((:pred >= n 32)
268   (cmpl (:$l (:apply ash n x8632::fixnumshift)) (:%l x8632::nargs)))
269  (jne :bad)
270  (:anchored-uuo-section :resume)
271  :bad
272  (:anchored-uuo (uuo-error-wrong-number-of-args)))
273
274(define-x8632-vinsn check-min-nargs (()
275                                     ((min :u16const)))
276  :resume
277  ((:pred = min 1)
278   (testl (:%l x8632::nargs) (:%l x8632::nargs))
279   (je :toofew))
280  ((:not (:pred = min 1))
281   ((:and (:pred > min 1) (:pred < min 32))
282    (rcmpl (:%l x8632::nargs) (:$b (:apply ash min x8632::fixnumshift))))
283   ((:pred >= min 32)
284    (rcmpl (:%l x8632::nargs) (:$l (:apply ash min x8632::fixnumshift))))
285   (jb :toofew))
286  (:anchored-uuo-section :resume)
287  :toofew
288  (:anchored-uuo (uuo-error-too-few-args)))
289
290(define-x8632-vinsn check-max-nargs (()
291                                     ((n :u16const)))
292  :resume
293  ((:pred < n 32)
294   (rcmpl (:%l x8632::nargs) (:$b (:apply ash n x8632::fixnumshift))))
295  ((:pred >= n 32)
296   (rcmpl (:%l x8632::nargs) (:$l (:apply ash n x8632::fixnumshift))))
297  (ja :bad)
298  (:anchored-uuo-section :resume)
299  :bad
300  (:anchored-uuo (uuo-error-too-many-args)))
301
302(define-x8632-vinsn check-min-max-nargs (()
303                                         ((min :u16const)
304                                          (max :u16)))
305  :resume
306  ((:pred = min 1)
307   (testl (:%l x8632::nargs) (:%l x8632::nargs))
308   (je :toofew))
309  ((:not (:pred = min 1))
310   ((:pred < min 32)
311    (rcmpl (:%l x8632::nargs) (:$b (:apply ash min x8632::word-shift))))
312   ((:pred >= min 32)
313    (rcmpl (:%l x8632::nargs) (:$l (:apply ash min x8632::word-shift))))
314   (jb :toofew))
315  ((:pred < max 32)
316   (rcmpl (:%l x8632::nargs) (:$b (:apply ash max x8632::word-shift))))
317  ((:pred >= max 32)
318   (rcmpl (:%l x8632::nargs) (:$l (:apply ash max x8632::word-shift))))
319  (ja :toomany)
320 
321  (:anchored-uuo-section :resume)
322  :toofew
323  (:anchored-uuo (uuo-error-too-few-args))
324  (:anchored-uuo-section :resume)
325  :toomany
326  (:anchored-uuo (uuo-error-too-many-args)))
327
328(define-x8632-vinsn default-1-arg (()
329                                   ((min :u16const)))
330  ((:pred < min 32)
331   (rcmpl (:%l x8632::nargs) (:$b (:apply ash min x8632::fixnumshift))))
332  ((:pred >= min 32)
333   (rcmpl (:%l x8632::nargs) (:$l (:apply ash min x8632::fixnumshift))))
334  (jne :done)
335  ((:pred >= min 2)
336   (pushl (:%l x8632::arg_y)))
337  ((:pred >= min 1)
338   (movl (:%l x8632::arg_z) (:%l x8632::arg_y)))
339  (movl (:$l (:apply target-nil-value)) (:%l x8632::arg_z))
340  :done)
341
342(define-x8632-vinsn default-2-args (()
343                                    ((min :u16const)))
344  ((:pred < (:apply 1+ min) 32)
345   (rcmpl (:%l x8632::nargs) (:$b (:apply ash (:apply 1+ min) x8632::fixnumshift))))
346  ((:pred >= (:apply 1+ min) 32)
347   (rcmpl (:%l x8632::nargs) (:$l (:apply ash (:apply 1+ min) x8632::fixnumshift))))
348  (ja :done)
349  (je :one)
350  ;; We got "min" args; arg_y & arg_z default to nil
351  ((:pred >= min 2)
352   (pushl (:%l x8632::arg_y)))
353  ((:pred >= min 1)
354   (pushl (:%l x8632::arg_z)))
355  (movl (:$l (:apply target-nil-value)) (:%l x8632::arg_y))
356  (jmp :last)
357  :one
358  ;; We got min+1 args: arg_y was supplied, arg_z defaults to nil.
359  ((:pred >= min 1)
360   (pushl (:%l x8632::arg_y)))
361  (movl (:%l x8632::arg_z) (:%l x8632::arg_y))
362  :last
363  (movl (:$l (:apply target-nil-value)) (:%l x8632::arg_z))
364  :done)
365
366(define-x8632-vinsn default-optionals (()
367                                       ((n :u16const))
368                                       ((temp :u32)
369                                        (nargs (:lisp #.x8632::nargs))))
370  (movl (:%l x8632::nargs) (:%l temp))
371  ((:pred < n 32)
372   (rcmpl (:%l x8632::nargs) (:$b (:apply ash n x8632::fixnumshift))))
373  ((:pred >= n 32)
374   (rcmpl (:%l x8632::nargs) (:$l (:apply ash n x8632::fixnumshift))))
375  (jae :done)
376  :loop
377  (addl (:$b x8632::fixnumone) (:%l temp))
378  (pushl (:$l (:apply target-nil-value)))
379  ((:pred < n 32)
380   (cmpl (:$b (:apply ash n x8632::fixnumshift)) (:%l temp)))
381  ((:pred >= n 32)
382   (cmpl (:$l (:apply ash n x8632::fixnumshift)) (:%l temp)))
383  (jne :loop)
384  :done)
385
386(define-x8632-vinsn save-lisp-context-no-stack-args (()
387                                                     ())
388  (pushl (:%l x8632::ebp))
389  (movl (:%l x8632::esp) (:%l x8632::ebp)))
390
391(define-x8632-vinsn save-lisp-context-offset (()
392                                              ((nbytes-pushed :s32const)))
393  (movl (:%l x8632::ebp) (:@ (:apply + nbytes-pushed x8632::node-size) (:%l x8632::esp)))
394  (leal (:@ (:apply + nbytes-pushed x8632::node-size) (:%l x8632::esp)) (:%l x8632::ebp))
395  (popl  (:@ x8632::node-size (:%l x8632::ebp))))
396
397(define-x8632-vinsn save-lisp-context-variable-arg-count (()
398                                                          ()
399                                                          ((temp :u32)
400                                                           (nargs (:lisp #.x8632::nargs))))
401  (movl (:%l x8632::nargs) (:%l temp))
402  (subl (:$b (* $numx8632argregs x8632::node-size)) (:%l temp))
403  (jle :push)
404  (movl (:%l x8632::ebp) (:@ x8632::node-size (:%l x8632::esp) (:%l temp)))
405  (leal (:@ x8632::node-size (:%l x8632::esp) (:%l temp)) (:%l x8632::ebp))
406  (popl (:@ x8632::node-size (:%l x8632::ebp)))
407  (jmp :done)
408  :push
409  (pushl (:%l x8632::ebp))
410  (movl (:%l x8632::esp) (:%l x8632::ebp))
411  :done)
412
413;;; We know that some args were pushed, but don't know how many were
414;;; passed.
415(define-x8632-vinsn save-lisp-context-in-frame (()
416                                                ()
417                                                ((temp :u32)
418                                                 (nargs (:lisp #.x8632::nargs))))
419  (movl (:%l x8632::nargs) (:%l temp))
420  (subl (:$b (* $numx8632argregs x8632::node-size)) (:%l temp))
421  (movl (:%l x8632::ebp) (:@ x8632::node-size (:%l x8632::esp) (:%l temp)))
422  (leal (:@ x8632::node-size (:%l x8632::esp) (:%l temp)) (:%l x8632::ebp))
423  (popl  (:@ x8632::node-size (:%l x8632::ebp))))
424
425(define-x8632-vinsn (vpush-register :push :node :vsp)
426    (()
427     ((reg :lisp)))
428  (pushl (:% reg)))
429
430(define-x8632-vinsn (vpush-fixnum :push :node :vsp)
431    (()
432     ((const :s32const)))
433  ((:and  (:pred < const 128) (:pred >= const -128))
434   (pushl (:$b const)))
435  ((:not (:and  (:pred < const 128) (:pred >= const -128)))
436   (pushl (:$l const))))
437
438(define-x8632-vinsn vframe-load (((dest :lisp))
439                                 ((frame-offset :u16const)
440                                  (cur-vsp :u16const)))
441  (movl (:@ (:apply - (:apply + frame-offset x8632::word-size-in-bytes)) (:%l x8632::ebp)) (:%l dest)))
442
443(define-x8632-vinsn compare-vframe-offset-to-nil (()
444                                                  ((frame-offset :u16const)
445                                                   (cur-vsp :u16const)))
446  (cmpl (:$l (:apply target-nil-value)) (:@ (:apply - (:apply + frame-offset x8632::word-size-in-bytes)) (:%l x8632::ebp))))
447
448(define-x8632-vinsn compare-value-cell-to-nil (()
449                                               ((vcell :lisp)))
450  (cmpl (:$l (:apply target-nil-value)) (:@ x8632::value-cell.value (:%l vcell))))
451
452(define-x8632-vinsn lcell-load (((dest :lisp))
453                                ((cell :lcell)
454                                 (top :lcell)))
455  (movl (:@ (:apply - (:apply + (:apply calc-lcell-offset cell) x8632::word-size-in-bytes)) (:%l x8632::ebp)) (:%l dest)))
456
457(define-x8632-vinsn (vframe-push :push :node :vsp)
458    (()
459     ((frame-offset :u16const)
460      (cur-vsp :u16const)))
461  (pushl (:@ (:apply - (:apply + frame-offset x8632::word-size-in-bytes)) (:%l x8632::ebp))))
462
463(define-x8632-vinsn vframe-store (()
464                                  ((src :lisp)
465                                   (frame-offset :u16const)
466                                   (cur-vsp :u16const)))
467  (movl (:%l src) (:@ (:apply - (:apply + frame-offset x8632::word-size-in-bytes)) (:%l x8632::ebp))))
468
469(define-x8632-vinsn lcell-store (()
470                                 ((src :lisp)
471                                  (cell :lcell)
472                                  (top :lcell)))
473  (movl (:%l src) (:@ (:apply - (:apply + (:apply calc-lcell-offset cell) x8632::word-size-in-bytes)) (:%l x8632::ebp))))
474       
475(define-x8632-vinsn (popj :lispcontext :pop :csp :lrRestore :jumpLR)
476    (()
477     ())
478  (leave)
479  (ret))
480
481(define-x8632-vinsn (restore-full-lisp-context :lispcontext :pop :vsp )
482    (()
483     ())
484  (leave))
485
486(define-x8632-vinsn compare-to-nil (()
487                                    ((arg0 t)))
488  (cmpl (:$l (:apply target-nil-value)) (:%l arg0)))
489
490(define-x8632-vinsn compare-to-t (()
491                                  ((arg0 t)))
492  (cmpl (:$l (:apply target-t-value)) (:%l arg0)))
493
494(define-x8632-vinsn ref-constant (((dest :lisp))
495                                  ((lab :label)))
496  (movl (:@ (:^ lab) (:%l x8632::fn)) (:%l dest)))
497
498(define-x8632-vinsn compare-constant-to-register (()
499                                                  ((lab :label)
500                                                   (reg :lisp)))
501  (cmpl (:@ (:^ lab) (:%l x8632::fn)) (:%l reg)))
502
503(define-x8632-vinsn (vpush-constant :push :node :vsp) (()
504                                                       ((lab :label)))
505  (pushl (:@ (:^ lab) (:%l x8632::fn))))
506
507(define-x8632-vinsn (jump :jump)
508    (()
509     ((label :label)))
510  (jmp label))
511
512(define-x8632-vinsn (cbranch-true :branch) (()
513                                            ((label :label)
514                                             (crbit :u8const)))
515  (jcc (:$ub crbit) label))
516
517(define-x8632-vinsn (cbranch-false :branch) (()
518                                             ((label :label)
519                                              (crbit :u8const)))
520  (jcc (:$ub (:apply logxor 1 crbit)) label))
521
522(define-x8632-vinsn (lri :constant-ref) (((dest :imm))
523                                         ((intval :s32const))
524                                         ())
525  ((:pred = intval 0)
526   (xorl (:%l dest) (:%l dest)))
527  ((:not (:pred = intval 0))
528   (movl (:$l intval) (:%l dest))))
529
530(define-x8632-vinsn (lriu :constant-ref) (((dest :imm))
531                                         ((intval :u32const))
532                                         ())
533  ((:pred = intval 0)
534   (xorl (:%l dest) (:%l dest)))
535  ((:not (:pred = intval 0))
536   (movl (:$l intval) (:%l dest))))
537
538;;; In the following trap/branch-unless vinsns, it might be worth
539;;; trying to use byte instructions when the args are known to be
540;;; accessible as byte regs.  It also might be possible to
541;;; special-case eax/ax/al.
542
543(define-x8632-vinsn trap-unless-bit (()
544                                     ((value :lisp)))
545  :resume
546  (testl (:$l (lognot x8632::fixnumone)) (:%l value))
547  (jne :bad)
548
549  (:anchored-uuo-section :resume)
550  :bad
551  (:anchored-uuo (uuo-error-reg-not-type (:%l value) (:$ub arch::error-object-not-bit))))
552
553;;; note that NIL is just a distinguished CONS.
554;;; the tag formerly known as fulltag-nil is now
555;;; for tagged return addresses.
556(define-x8632-vinsn trap-unless-list (()
557                                      ((object :lisp))
558                                      ((tag :u8)))
559  :resume
560  (movl (:% object) (:% tag))
561  (andl (:$b x8632::fulltagmask) (:% tag))
562  (cmpl (:$b x8632::fulltag-cons) (:% tag))
563  (jne :bad)
564
565  (:anchored-uuo-section :resume)
566  :bad 
567  (:anchored-uuo (uuo-error-reg-not-list (:%l object))))
568
569(define-x8632-vinsn trap-unless-cons (()
570                                      ((object :lisp))
571                                      ((tag :u8)))
572  ;; special check for NIL (which is a distinguished CONS on x8632)
573  :resume
574  (cmpl (:$l (:apply target-nil-value)) (:%l object))
575  (je :bad)
576  (movl (:%l object) (:%l tag))
577  (andl (:$b x8632::fulltagmask) (:%l tag))
578  (cmpl (:$b x8632::fulltag-cons) (:%l tag))
579  (jne :bad)
580
581  (:anchored-uuo-section :resume)
582  :bad
583  (:anchored-uuo (uuo-error-reg-not-tag (:%l object) (:$ub x8632::fulltag-cons))))
584
585(define-x8632-vinsn set-z-flag-if-consp (()
586                                         ((object :lisp))
587                                         ((tag (:u32 #.x8632::imm0))))
588  (movl (:%l object) (:%accl tag))
589  (andl (:$b x8632::fulltagmask) (:%accl tag))
590  (cmpb (:$b x8632::fulltag-cons) (:%accb tag))
591  (setne (:%b x8632::ah))
592  (cmpl (:$l (:apply target-nil-value)) (:% object))
593  (sete (:%b x8632::al))
594  (orb (:%b x8632::ah) (:%b x8632::al)))
595
596(define-x8632-vinsn trap-unless-uvector (()
597                                         ((object :lisp))
598                                         ((tag :u8)))
599  :resume
600  (movl (:%l object) (:%l tag))
601  (andl (:$b x8632::tagmask) (:%l tag))
602  (cmpl (:$b x8632::tag-misc) (:%l tag))
603  (jne :bad)
604
605  (:anchored-uuo-section :resume)
606  :bad
607  (:anchored-uuo (uuo-error-reg-not-tag (:%l object) (:$ub x8632::tag-misc))))
608
609(define-x8632-vinsn trap-unless-character (()
610                                           ((object :lisp))
611                                           ((tag :u8)))
612  ;; xxx can't be sure that object will be in a byte-accessible register
613  :resume
614  (movl (:%l object) (:%l tag))
615  (cmpb (:$b x8632::subtag-character) (:%b tag))
616  (jne :bad)
617
618  (:anchored-uuo-section :resume)
619  :bad
620  (:anchored-uuo(uuo-error-reg-not-tag (:%l object) (:$ub x8632::subtag-character))))
621
622(define-x8632-vinsn trap-unless-fixnum (()
623                                        ((object :lisp))
624                                        ())
625  :resume
626  (testl (:$l x8632::tagmask) (:%l object))
627  (jne :bad)
628
629  (:anchored-uuo-section :resume)
630  :bad
631  (:anchored-uuo (uuo-error-reg-not-fixnum (:%l object))))
632
633(define-x8632-vinsn set-flags-from-lisptag (()
634                                            ((reg :lisp)))
635  (testl (:$l x8632::tagmask) (:%l reg)))
636
637(define-x8632-vinsn trap-unless-typecode= (()
638                                           ((object :lisp)
639                                            (tagval :u8const))
640                                           ((tag :u8)))
641  :resume
642  (movl (:%l object) (:%l tag))
643  ((:pred = (:apply %hard-regspec-value tag) x8632::eax)
644   ;; accumulator
645   (andl (:$b x8632::tagmask) (:%accl tag))
646   (cmpl (:$b x8632::tag-misc) (:%accl tag)))
647  ((:pred > (:apply %hard-regspec-value tag) x8632::eax)
648   (andl (:$b x8632::tagmask) (:%l tag))
649   (cmpl (:$b x8632::tag-misc) (:%l tag)))
650  (jne :have-tag)
651  ;; This needs to be a sign-extending mov, since the cmpl below
652  ;; will sign-extend the 8-bit constant operand.
653  (movsbl (:@ x8632::misc-subtag-offset (:%l object)) (:%l tag))
654  :have-tag
655  (cmpl (:$b tagval) (:%l tag))
656  (jne :bad)
657
658  (:anchored-uuo-section :resume)
659  :bad
660  (:anchored-uuo (uuo-error-reg-not-tag (:%l object) (:$ub tagval))))
661
662(define-x8632-vinsn trap-unless-single-float (()
663                                              ((object :lisp))
664                                              ((tag :u8)))
665  :resume
666  (movl (:%l object) (:%l tag))
667  (andl (:$b x8632::tagmask) (:%l tag))
668  (cmpl (:$b x8632::tag-misc) (:%l tag))
669  (jne :bad)
670  (movsbl (:@ x8632::misc-subtag-offset (:%l object)) (:%l tag))
671  (cmpl (:$b x8632::subtag-single-float) (:%l tag))
672  (jne :bad)
673
674  (:anchored-uuo-section :resume)
675  :bad
676  (:anchored-uuo (uuo-error-reg-not-tag (:%l object) (:$ub x8632::subtag-single-float))))
677
678(define-x8632-vinsn trap-unless-double-float (()
679                                              ((object :lisp))
680                                              ((tag :u8)))
681  :resume
682  (movl (:%l object) (:%l tag))
683  (andl (:$b x8632::tagmask) (:%l tag))
684  (cmpl (:$b x8632::tag-misc) (:%l tag))
685  (jne :bad)
686  (movsbl (:@ x8632::misc-subtag-offset (:%l object)) (:%l tag))
687  (cmpl (:$b x8632::subtag-double-float) (:%l tag))
688  (jne :bad)
689
690  (:anchored-uuo-section :resume)
691  :bad
692  (:anchored-uuo (uuo-error-reg-not-tag (:%l object) (:$ub x8632::subtag-double-float))))
693
694(define-x8632-vinsn trap-unless-macptr (()
695                                        ((object :lisp))
696                                        ((tag :u8)))
697  :resume
698  (movl (:%l object) (:%l tag))
699  (andl (:$b x8632::tagmask) (:%l tag))
700  (cmpl (:$b x8632::tag-misc) (:%l tag))
701  (jne :have-tag)
702  (movsbl (:@ x8632::misc-subtag-offset (:%l object)) (:%l tag))
703  :have-tag
704  (cmpl (:$b x8632::subtag-macptr) (:%l tag))
705  (jne :bad)
706
707  (:anchored-uuo-section :resume)
708  :bad
709  (:anchored-uuo (uuo-error-reg-not-tag (:%l object) (:$ub x8632::subtag-macptr))))
710
711(define-x8632-vinsn check-misc-bound (()
712                                      ((idx :imm)
713                                       (v :lisp))
714                                      ((temp :u32)))
715  :resume
716  (movl (:@ x8632::misc-header-offset (:%l v)) (:%l temp))
717  ((:and (:pred >= (:apply %hard-regspec-value temp) x8632::eax)
718         (:pred <= (:apply %hard-regspec-value temp) x8632::ebx))
719   (xorb (:%b temp) (:%b temp))
720   (shrl (:$ub (- x8632::num-subtag-bits x8632::fixnumshift)) (:%l temp)))
721  ((:pred > (:apply %hard-regspec-value temp) x8632::ebx)
722   (shrl (:$ub x8632::num-subtag-bits) (:%l temp))
723   (shll (:$ub x8632::fixnumshift) (:%l temp)))
724  (rcmpl (:%l idx) (:%l temp))
725  (jae :bad)
726
727  (:anchored-uuo-section :resume)
728  :bad
729  (:anchored-uuo (uuo-error-vector-bounds (:%l idx) (:%l v))))
730
731(define-x8632-vinsn %cdr (((dest :lisp))
732                          ((src :lisp)))
733  (movl (:@ x8632::cons.cdr (:%l src)) (:%l dest)))
734
735(define-x8632-vinsn (%vpush-cdr :push :node :vsp)
736    (()
737     ((src :lisp)))
738  (pushl (:@ x8632::cons.cdr (:%l src))))
739
740(define-x8632-vinsn %car (((dest :lisp))
741                          ((src :lisp)))
742  (movl (:@ x8632::cons.car (:%l src)) (:%l dest)))
743
744(define-x8632-vinsn (%vpush-car :push :node :vsp)
745    (()
746     ((src :lisp)))
747  (pushl (:@ x8632::cons.car (:%l src))))
748
749(define-x8632-vinsn u32->char (((dest :lisp)
750                               (src :u8))
751                              ((src :u8))
752                              ())
753  (shll (:$ub x8632::charcode-shift) (:%l src))
754  (leal (:@ x8632::subtag-character (:%l src)) (:%l dest)))
755
756(define-x8632-vinsn (load-nil :constant-ref) (((dest t))
757                                              ())
758  (movl (:$l (:apply target-nil-value)) (:%l dest)))
759
760
761(define-x8632-vinsn (load-t :constant-ref) (((dest t))
762                                            ())
763  (movl (:$l (:apply target-t-value)) (:%l dest)))
764
765(define-x8632-vinsn extract-tag (((tag :u8))
766                                 ((object :lisp)))
767  (movl (:%l object) (:%l tag))
768  (andl (:$b x8632::tagmask) (:%l tag)))
769
770(define-x8632-vinsn extract-tag-fixnum (((tag :imm))
771                                        ((object :lisp)))
772  (leal (:@ (:%l object) 4) (:%l tag))
773  (andl (:$b (ash x8632::tagmask x8632::fixnumshift)) (:%l tag)))
774
775(define-x8632-vinsn extract-fulltag (((tag :u8))
776                                 ((object :lisp)))
777  (movl (:%l object) (:%l tag))
778  (andl (:$b x8632::fulltagmask) (:%l tag)))
779
780(define-x8632-vinsn extract-fulltag-fixnum (((tag :imm))
781                                            ((object :lisp)))
782  ((:pred =
783          (:apply %hard-regspec-value tag)
784          (:apply %hard-regspec-value object))
785   (shll (:$ub x8632::fixnumshift) (:%l object)))
786  ((:not (:pred =
787                (:apply %hard-regspec-value tag)
788                (:apply %hard-regspec-value object)))
789   (imull (:$b x8632::fixnumone) (:%l object) (:%l tag)))
790  (andl (:$b (ash x8632::fulltagmask x8632::fixnumshift)) (:%l tag)))
791
792(define-x8632-vinsn extract-typecode (((tag :u32))
793                                      ((object :lisp)))
794  (movl (:%l object) (:%l tag))
795  (andl (:$b x8632::tagmask) (:%l tag))
796  (cmpl (:$b x8632::tag-misc) (:%l tag))
797  (jne :have-tag)
798  (movzbl (:@ x8632::misc-subtag-offset (:%l object)) (:%l tag))
799  :have-tag)
800
801(define-x8632-vinsn extract-typecode-fixnum (((tag :imm))
802                                             ((object :lisp))
803                                             ((temp :u32)))
804  (movl (:%l object) (:%l temp))
805  (andl (:$b x8632::tagmask) (:%l temp))
806  (cmpl (:$b x8632::tag-misc) (:%l temp))
807  (jne :have-tag)
808  (movzbl (:@ x8632::misc-subtag-offset (:%l object)) (:%l temp))
809  :have-tag
810  (leal (:@ (:%l temp) 4) (:%l tag)))
811
812(define-x8632-vinsn compare-reg-to-zero (()
813                                         ((reg :imm)))
814  (testl (:%l reg) (:%l reg)))
815
816;;; life will be sad if reg isn't byte accessible
817(define-x8632-vinsn compare-u8-reg-to-zero (()
818                                            ((reg :u8)))
819  (testb (:%b reg) (:%b reg)))
820
821(define-x8632-vinsn cr-bit->boolean (((dest :lisp))
822                                     ((crbit :u8const))
823                                     ((temp :u32)))
824  (movl (:$l (:apply target-t-value)) (:%l temp))
825  (leal (:@ (- x8632::t-offset) (:%l temp)) (:%l dest))
826  (cmovccl (:$ub crbit) (:%l temp) (:%l dest)))
827
828(define-x8632-vinsn compare-s32-constant (()
829                                            ((val :imm)
830                                             (const :s32const)))
831  ((:or  (:pred < const -128) (:pred > const 127))
832   (rcmpl (:%l val) (:$l const)))
833  ((:not (:or  (:pred < const -128) (:pred > const 127)))
834   (rcmpl (:%l val) (:$b const))))
835
836(define-x8632-vinsn compare-u31-constant (()
837                                          ((val :u32)
838                                           (const :u32const)))
839  ((:pred > const 127)
840   (rcmpl (:%l val) (:$l const)))
841  ((:not (:pred > const 127))
842   (rcmpl (:%l val) (:$b const))))
843
844(define-x8632-vinsn compare-u8-constant (()
845                                         ((val :u8)
846                                          (const :u8const)))
847  ((:pred = (:apply %hard-regspec-value val) x8632::eax)
848   (rcmpb (:%accb val) (:$b const)))
849  ((:and (:pred > (:apply %hard-regspec-value val) x8632::eax)
850         (:pred <= (:apply %hard-regspec-value val) x8632::ebx))
851   (rcmpb (:%b val) (:$b const)))
852  ((:pred > (:apply %hard-regspec-value val) x8632::ebx)
853   (rcmpl (:%l val) (:$l const)))
854  )
855
856(define-x8632-vinsn cons (((dest :lisp))
857                          ((car :lisp)
858                           (cdr :lisp))
859                          ((allocptr (:lisp #.x8632::allocptr))))
860  (subl (:$b (- x8632::cons.size x8632::fulltag-cons)) (:@ (:%seg :rcontext) x8632::tcr.save-allocptr))
861  (movl (:@ (:%seg :rcontext) x8632::tcr.save-allocptr) (:%l x8632::allocptr))
862  (rcmpl (:%l x8632::allocptr) (:@ (:%seg :rcontext) x8632::tcr.save-allocbase))
863  (ja :no-trap)
864  (uuo-alloc)
865  :no-trap
866  (andb (:$b (lognot x8632::fulltagmask)) (:@ (:%seg :rcontext) x8632::tcr.save-allocptr))
867  (movl (:%l car) (:@ x8632::cons.car (:%l x8632::allocptr)))
868  (movl (:%l cdr) (:@ x8632::cons.cdr (:%l x8632::allocptr)))
869  (movl (:%l x8632::allocptr) (:%l dest)))
870
871(define-x8632-vinsn unbox-u8 (((dest :u8))
872                              ((src :lisp)))
873  :resume
874  (movl (:$l (lognot (ash #xff x8632::fixnumshift))) (:%l dest))
875  (andl (:% src) (:% dest))
876  (jne :bad)
877  (movl (:%l src) (:%l dest))
878  (shrl (:$ub x8632::fixnumshift) (:%l dest))
879
880  (:anchored-uuo-section :resume)
881  :bad
882  (:anchored-uuo (uuo-error-reg-not-type (:%l src) (:$ub arch::error-object-not-unsigned-byte-8))))
883
884(define-x8632-vinsn %unbox-u8 (((dest :u8))
885                              ((src :lisp)))
886  (movl (:%l src) (:%l dest))
887  (shrl (:$ub x8632::fixnumshift) (:%l dest))
888  (andl (:$l #xff) (:%l dest)))
889
890(define-x8632-vinsn unbox-s8 (((dest :s8))
891                              ((src :lisp)))
892  :resume
893  (movl (:%l src) (:%l dest))
894  (shll (:$ub (- x8632::nbits-in-word (+ 8 x8632::fixnumshift))) (:%l dest))
895  (sarl (:$ub (- x8632::nbits-in-word (+ 8 x8632::fixnumshift))) (:%l dest))
896  (cmpl (:%l src) (:%l dest))
897  (jne :bad)
898  (testl (:$l x8632::fixnummask) (:%l dest))
899  (jne :bad)
900  (sarl (:$ub x8632::fixnumshift) (:%l dest))
901
902  (:anchored-uuo-section :resume)
903  :bad
904  (:anchored-uuo (uuo-error-reg-not-type (:%l src) (:$ub arch::error-object-not-signed-byte-8))))
905
906(define-x8632-vinsn unbox-u16 (((dest :u16))
907                              ((src :lisp)))
908  :resume
909  (testl (:$l (lognot (ash #xffff x8632::fixnumshift))) (:% src))
910  (movl (:%l src) (:%l dest))
911  (jne :bad)
912  (shrl (:$ub x8632::fixnumshift) (:%l dest))
913  (:anchored-uuo-section :resume)
914  :bad
915  (:anchored-uuo (uuo-error-reg-not-type (:%l src) (:$ub arch::error-object-not-unsigned-byte-16))))
916
917(define-x8632-vinsn %unbox-u16 (((dest :u16))
918                              ((src :lisp)))
919  (movl (:%l src) (:%l dest))
920  (shrl (:$ub x8632::fixnumshift) (:%l dest)))
921
922(define-x8632-vinsn unbox-s16 (((dest :s16))
923                              ((src :lisp)))
924  :resume
925  (movl (:%l src) (:%l dest))
926  (shll (:$ub (- x8632::nbits-in-word (+ 16 x8632::fixnumshift))) (:%l dest))
927  (sarl (:$ub (- x8632::nbits-in-word (+ 16 x8632::fixnumshift))) (:%l dest))
928  (cmpl (:%l src) (:%l dest))
929  (jne :bad)
930  (testl (:$l x8632::fixnummask) (:%l dest))
931  (jne :bad)
932  (sarl (:$ub x8632::fixnumshift) (:%l dest))
933
934  (:anchored-uuo-section :resume)
935  :bad
936  (:anchored-uuo (uuo-error-reg-not-type (:%l src) (:$ub arch::error-object-not-signed-byte-16))))
937
938(define-x8632-vinsn %unbox-s16 (((dest :s16))
939                                ((src :lisp)))
940  (movl (:%l src) (:%l dest))
941  (sarl (:$ub x8632::fixnumshift) (:%l dest)))
942
943;;; An object is of type (UNSIGNED-BYTE 32) iff
944;;;  a) it's of type (UNSIGNED-BYTE 30) (e.g., an unsigned fixnum)
945;;;  b) it's a bignum of length 1 and the 0'th digit is positive
946;;;  c) it's a bignum of length 2 and the sign-digit is 0.
947(define-x8632-vinsn unbox-u32 (((dest :u32))
948                               ((src :lisp)))
949  :resume
950  (movl (:$l (lognot (ash x8632::target-most-positive-fixnum x8632::fixnumshift))) (:%l dest))
951  (testl (:%l dest) (:%l src))
952  (movl (:%l src) (:%l dest))
953  (jnz :maybe-bignum)
954  (sarl (:$ub x8632::fixnumshift) (:%l dest))
955  (jmp :done)
956  :maybe-bignum
957  (andl (:$b x8632::tagmask) (:%l dest))
958  (cmpl (:$b x8632::tag-misc) (:%l dest))
959  (jne :bad)
960  (movl (:@ x8632::misc-header-offset (:%l src)) (:%l dest))
961  (cmpl (:$l x8632::two-digit-bignum-header) (:%l dest))
962  (je :two)
963  (cmpl (:$l x8632::one-digit-bignum-header) (:%l dest))
964  (jne :bad)
965  (movl (:@ x8632::misc-data-offset (:%l src)) (:%l dest))
966  (testl (:%l dest) (:%l dest))
967  (js :bad)
968  (jmp :done)
969  :two
970  (movl (:@ (+ 4 x8632::misc-data-offset) (:%l src)) (:%l dest))
971  (testl (:%l dest) (:%l dest))
972  (jne :bad)
973  (movl (:@ x8632::misc-data-offset (:%l src)) (:%l dest))
974  :done
975 
976  (:anchored-uuo-section :resume)
977  :bad
978  (:anchored-uuo (uuo-error-reg-not-type (:%l src) (:$ub arch::error-object-not-unsigned-byte-32))))
979
980;;; an object is of type (SIGNED-BYTE 32) iff
981;;; a) it's a fixnum
982;;; b) it's a bignum with exactly one digit.
983(define-x8632-vinsn unbox-s32 (((dest :s32))
984                               ((src :lisp)))
985  :resume
986  (movl (:%l src) (:%l dest))
987  (sarl (:$ub x8632::fixnumshift) (:%l dest))
988  ;; Was it a fixnum ?
989  (testl (:$l x8632::fixnummask) (:%l src))
990  (je :done)
991  ;; May be a 1-digit bignum
992  (movl (:%l src) (:%l dest))
993  (andl (:$b x8632::tagmask) (:%l dest))
994  (cmpl (:$b x8632::tag-misc) (:%l dest))
995  (jne :bad)
996  (cmpl (:$l x8632::one-digit-bignum-header) (:@ x8632::misc-header-offset (:%l src)))
997  (movl (:@ x8632::misc-data-offset (:%l src)) (:%l dest))
998  (jne :bad)
999  :done
1000
1001  (:anchored-uuo-section :resume)
1002  :bad
1003  (:anchored-uuo (uuo-error-reg-not-type (:%l src) (:$ub arch::error-object-not-signed-byte-32))))
1004
1005(define-x8632-vinsn sign-extend-s8 (((dest :s32))
1006                                    ((src :s8)))
1007  (movsbl (:%b src) (:%l dest)))
1008
1009(define-x8632-vinsn sign-extend-s16 (((dest :s32))
1010                                     ((src :s16)))
1011  (movswl (:%w src) (:%l dest)))
1012
1013(define-x8632-vinsn zero-extend-u8 (((dest :s32))
1014                                    ((src :u8)))
1015  (movzbl (:%b src) (:%l dest)))
1016
1017(define-x8632-vinsn zero-extend-u16 (((dest :s32))
1018                                     ((src :u16)))
1019  (movzwl (:%w src) (:%l dest)))
1020
1021(define-x8632-vinsn (jump-subprim :jumpLR) (()
1022                                            ((spno :s32const)))
1023  (jmp (:@ spno)))
1024
1025;;; Call a subprimitive using a tail-aligned CALL instruction.
1026(define-x8632-vinsn (call-subprim :call)  (()
1027                                           ((spno :s32const))
1028                                           ((entry (:label 1))))
1029  (:talign x8632::fulltag-tra)
1030  (call (:@ spno))
1031  (movl (:$self 0) (:% x8632::fn)))
1032
1033(define-x8632-vinsn fixnum-subtract-from (((dest t)
1034                                           (y t))
1035                                          ((y t)
1036                                           (x t)))
1037  (subl (:%l y) (:%l x)))
1038
1039(define-x8632-vinsn %logand-c (((dest t)
1040                                (val t))
1041                               ((val t)
1042                                (const :s32const)))
1043  ((:and (:pred >= const -128) (:pred <= const 127))
1044   (andl (:$b const) (:%l val)))
1045  ((:not (:and (:pred >= const -128) (:pred <= const 127)))
1046   (andl (:$l const) (:%l val))))
1047
1048(define-x8632-vinsn %logior-c (((dest t)
1049                                (val t))
1050                               ((val t)
1051                                (const :s32const)))
1052  ((:and (:pred >= const -128) (:pred <= const 127))
1053   (orl (:$b const) (:%l val)))
1054  ((:not (:and (:pred >= const -128) (:pred <= const 127)))
1055   (orl (:$l const) (:%l val))))
1056
1057(define-x8632-vinsn %logxor-c (((dest t)
1058                                (val t))
1059                               ((val t)
1060                                (const :s32const)))
1061  ((:and (:pred >= const -128) (:pred <= const 127))
1062   (xorl (:$b const) (:%l val)))
1063  ((:not (:and (:pred >= const -128) (:pred <= const 127)))
1064   (xorl (:$l const) (:%l val))))
1065
1066(define-x8632-vinsn character->fixnum (((dest :lisp))
1067                                       ((src :lisp))
1068                                       ())
1069  ((:not (:pred =
1070                (:apply %hard-regspec-value dest)
1071                (:apply %hard-regspec-value src)))
1072   (movl (:%l src) (:%l dest)))
1073
1074  ((:pred <= (:apply %hard-regspec-value dest) x8632::ebx)
1075   (xorb (:%b dest) (:%b dest)))
1076  ((:pred > (:apply %hard-regspec-value dest) x8632::ebx)
1077   (andl (:$l -256) (:%l dest)))
1078  (shrl (:$ub (- x8632::charcode-shift x8632::fixnumshift)) (:%l dest)))
1079
1080(define-x8632-vinsn compare (()
1081                             ((x t)
1082                              (y t)))
1083  (rcmpl (:%l x) (:%l y)))
1084
1085(define-x8632-vinsn negate-fixnum (((val :lisp))
1086                                   ((val :imm)))
1087  (negl (:% val)))
1088
1089;;; This handles the 1-bit overflow from addition/subtraction/unary negation
1090(define-x8632-vinsn set-bigits-and-header-for-fixnum-overflow
1091    (()
1092     ((val :lisp)
1093      (no-overflow
1094       :label))
1095     ((imm (:u32 #.x8632::imm0))))
1096  (jno no-overflow)
1097  (movl (:%l val) (:%l imm))
1098  (sarl (:$ub x8632::fixnumshift) (:%l imm))
1099  (xorl (:$l #xc0000000) (:%l imm))
1100  ;; stash bignum digit
1101  (movd (:%l imm) (:%mmx x8632::mm1))
1102  ;; set header
1103  (movl (:$l x8632::one-digit-bignum-header) (:%l imm))
1104  (movd (:%l imm) (:%mmx x8632::mm0))
1105  ;; need 8 bytes of aligned memory for 1 digit bignum
1106  (movl (:$l (- 8 x8632::fulltag-misc)) (:%l imm)))
1107
1108(define-x8632-vinsn handle-fixnum-overflow-inline
1109    (()
1110     ((val :lisp)
1111      (no-overflow
1112       :label))
1113     ((imm (:u32 #.x8632::imm0))
1114      (freeptr (:lisp #.x8632::allocptr))))
1115  (jo :overflow)
1116  (:uuo-section)
1117  :overflow
1118  (movl (:%l val) (:%l imm))
1119  (sarl (:$ub x8632::fixnumshift) (:%l imm))
1120  (xorl (:$l #xc0000000) (:%l imm))
1121  ;; stash bignum digit
1122  (movd (:%l imm) (:%mmx x8632::mm1))
1123  ;; set header
1124  (movl (:$l x8632::one-digit-bignum-header) (:%l imm))
1125  (movd (:%l imm) (:%mmx x8632::mm0))
1126  ;; need 8 bytes of aligned memory for 1 digit bignum
1127  (movl (:$l (- 8 x8632::fulltag-misc)) (:%l imm))
1128  (subl (:%l imm) (:@ (:%seg :rcontext) x8632::tcr.save-allocptr))
1129  (movl (:@ (:%seg :rcontext) x8632::tcr.save-allocptr) (:%l freeptr))
1130  (rcmpl (:%l freeptr) (:@ (:%seg :rcontext) x8632::tcr.save-allocbase))
1131  (ja :no-trap)
1132  (uuo-alloc)
1133  :no-trap
1134  (movd (:%mmx x8632::mm0) (:@ x8632::misc-header-offset (:%l freeptr)))
1135  (andb (:$b (lognot x8632::fulltagmask)) (:@ (:%seg :rcontext) x8632::tcr.save-allocptr))
1136  ((:not (:pred = freeptr
1137                (:apply %hard-regspec-value val)))
1138   (movl (:%l freeptr) (:%l val)))
1139  (movd (:%mmx x8632::mm1) (:@ x8632::misc-data-offset (:%l val)))
1140  (jmp no-overflow))
1141
1142 
1143(define-x8632-vinsn set-bigits-after-fixnum-overflow (()
1144                                                      ((bignum :lisp)))
1145  (movd (:%mmx x8632::mm1) (:@ x8632::misc-data-offset (:%l bignum)))) 
1146
1147
1148(define-x8632-vinsn %set-z-flag-if-s32-fits-in-fixnum (((dest :imm))
1149                                                       ((src :s32))
1150                                                       ((temp :s32)))
1151  (movl (:%l src) (:%l temp))
1152  (shll (:$ub x8632::fixnumshift) (:%l temp))
1153  (movl (:%l temp) (:%l dest))          ; tagged as a fixnum
1154  (sarl (:$ub x8632::fixnumshift) (:%l temp))
1155  (cmpl (:%l src) (:%l temp)))
1156
1157(define-x8632-vinsn %set-z-flag-if-u32-fits-in-fixnum (((dest :imm))
1158                                                       ((src :u32))
1159                                                       ((temp :u32)))
1160  (movl (:%l src) (:%l temp))
1161  (shll (:$ub (1+ x8632::fixnumshift)) (:%l temp))
1162  (movl (:%l temp) (:%l dest))          ; tagged as an even fixnum
1163  (shrl (:$ub (1+ x8632::fixnumshift)) (:%l temp))
1164  (shrl (:%l dest))
1165  (cmpl (:%l src) (:%l temp))
1166  :done)
1167
1168;;; setup-bignum-alloc-for-s32-overflow
1169;;; setup-bignum-alloc-for-u32-overflow
1170
1171(define-x8632-vinsn setup-uvector-allocation (()
1172                                              ((header :imm)))
1173  (movd (:%l header) (:%mmx x8632::mm0)))
1174
1175;;; The code that runs in response to the uuo-alloc
1176;;; expects a header in mm0, and a size in imm0.
1177;;; mm0 is an implicit arg (it contains the uvector header)
1178;;; size is actually an arg, not a temporary,
1179;;; but it appears that there's isn't a way to enforce
1180;;; register usage on vinsn args.
1181(define-x8632-vinsn %allocate-uvector (((dest :lisp))
1182                                       ()
1183                                       ((size (:u32 #.x8632::imm0))
1184                                        (freeptr (:lisp #.x8632::allocptr))))
1185  (subl (:%l size) (:@ (:%seg :rcontext) x8632::tcr.save-allocptr))
1186  (movl (:@ (:%seg :rcontext) x8632::tcr.save-allocptr) (:%l freeptr))
1187  (rcmpl (:%l freeptr) (:@ (:%seg :rcontext) x8632::tcr.save-allocbase))
1188  (ja :no-trap)
1189  (uuo-alloc)
1190  :no-trap
1191  (movd (:%mmx x8632::mm0) (:@ x8632::misc-header-offset (:%l freeptr)))
1192  (andb (:$b (lognot x8632::fulltagmask)) (:@ (:%seg :rcontext) x8632::tcr.save-allocptr))
1193  ((:not (:pred = freeptr
1194                (:apply %hard-regspec-value dest)))
1195   (movl (:%l freeptr) (:%l dest))))
1196
1197(define-x8632-vinsn box-fixnum (((dest :imm))
1198                                ((src :s32)))
1199  ;;(imull (:$b x8632::fixnumone) (:%l src) (:%l dest))
1200  (leal (:@ (:%l src) x8632::fixnumone) (:%l dest)))
1201
1202(define-x8632-vinsn (fix-fixnum-overflow-ool :call)
1203    (((val :lisp))
1204     ((val :lisp))
1205     ((unboxed (:s32 #.x8632::imm0))
1206      ;; we use %mm0 for header in subprim
1207      (entry (:label 1))))
1208  (jno :done)
1209  ((:not (:pred = x8632::arg_z
1210                (:apply %hard-regspec-value val)))
1211   (movl (:%l val) (:%l x8632::arg_z)))
1212  (:talign 5)
1213  (call (:@ .SPfix-overflow))
1214  (movl (:$self 0) (:%l x8632::fn))
1215  ((:not (:pred = x8632::arg_z
1216                (:apply %hard-regspec-value val)))
1217   (movl (:%l x8632::arg_z) (:%l val)))
1218  :done)
1219
1220(define-x8632-vinsn (fix-fixnum-overflow-ool-and-branch :call)
1221    (((val :lisp))
1222     ((val :lisp)
1223      (lab :label))
1224     ((unboxed (:s32 #.x8632::imm0))
1225      ;; we use %mm0 for header in subprim
1226      (entry (:label 1))))
1227  (jno lab)
1228  ((:not (:pred = x8632::arg_z
1229                (:apply %hard-regspec-value val)))
1230   (movl (:%l val) (:%l x8632::arg_z)))
1231  (:talign 5)
1232  (call (:@ .SPfix-overflow))
1233  (movl (:$self 0) (:%l x8632::fn))
1234  ((:not (:pred = x8632::arg_z
1235                (:apply %hard-regspec-value val)))
1236   (movl (:%l x8632::arg_z) (:%l val)))
1237  (jmp lab))
1238
1239
1240(define-x8632-vinsn add-constant (((dest :imm))
1241                                  ((dest :imm)
1242                                   (const :s32const)))
1243  ((:and (:pred >= const -128) (:pred <= const 127))
1244   (addl (:$b const) (:%l dest)))
1245  ((:not (:and (:pred >= const -128) (:pred <= const 127)))
1246   (addl (:$l const) (:%l dest))))
1247
1248(define-x8632-vinsn add-constant3 (((dest :imm))
1249                                   ((src :imm)
1250                                    (const :s32const)))
1251  ((:pred = (:apply %hard-regspec-value dest)
1252          (:apply %hard-regspec-value src))
1253   ((:and (:pred >= const -128) (:pred <= const 127))
1254    (addl (:$b const) (:%l dest)))
1255   ((:not (:and (:pred >= const -128) (:pred <= const 127)))
1256    (addl (:$l const) (:%l dest))))
1257  ((:not (:pred = (:apply %hard-regspec-value dest)
1258                (:apply %hard-regspec-value src)))
1259   (leal (:@ const (:%l src)) (:%l dest))))
1260
1261(define-x8632-vinsn fixnum-add2  (((dest :imm))
1262                                  ((dest :imm)
1263                                   (other :imm)))
1264  (addl (:%l other) (:%l dest)))
1265
1266(define-x8632-vinsn fixnum-sub2  (((dest :imm))
1267                                  ((x :imm)
1268                                   (y :imm))
1269                                  ((temp :imm)))
1270  (movl (:%l x) (:%l temp))
1271  (subl (:%l y) (:%l temp))
1272  (movl (:%l temp) (:%l dest)))
1273
1274(define-x8632-vinsn fixnum-add3 (((dest :imm))
1275                                 ((x :imm)
1276                                  (y :imm)))
1277 
1278  ((:pred =
1279          (:apply %hard-regspec-value x)
1280          (:apply %hard-regspec-value dest))
1281   (addl (:%l y) (:%l dest)))
1282  ((:not (:pred =
1283                (:apply %hard-regspec-value x)
1284                (:apply %hard-regspec-value dest)))
1285   ((:pred =
1286           (:apply %hard-regspec-value y)
1287           (:apply %hard-regspec-value dest))
1288    (addl (:%l x) (:%l dest)))
1289   ((:not (:pred =
1290                 (:apply %hard-regspec-value y)
1291                 (:apply %hard-regspec-value dest)))
1292    (leal (:@ (:%l x) (:%l y)) (:%l dest)))))
1293
1294(define-x8632-vinsn copy-gpr (((dest t))
1295                              ((src t)))
1296  ((:not (:pred =
1297                (:apply %hard-regspec-value dest)
1298                (:apply %hard-regspec-value src)))
1299   (movl (:%l src) (:%l dest))))
1300
1301(define-x8632-vinsn (vpop-register :pop :node :vsp)
1302    (((dest :lisp))
1303     ())
1304  (popl (:%l dest)))
1305
1306(define-x8632-vinsn (push-argregs :push :node :vsp) (()
1307                                                     ())
1308  (rcmpl (:%l x8632::nargs) (:$b (* 1 x8632::node-size)))
1309  (jb :done)
1310  (je :one)
1311  (pushl (:%l x8632::arg_y))
1312  :one
1313  (pushl (:%l x8632::arg_z))
1314  :done)
1315
1316(define-x8632-vinsn (push-max-argregs :push :node :vsp) (()
1317                                                         ((max :u32const)))
1318  ((:pred >= max 2)
1319   (rcmpl (:%l x8632::nargs) (:$b (* 1 x8632::node-size)))
1320   (jb :done)
1321   (je :one)
1322   (pushl (:%l x8632::arg_y))
1323   :one
1324   (pushl (:%l x8632::arg_z))
1325   :done)
1326  ((:pred = max 1)
1327   (testl (:%l x8632::nargs) (:%l x8632::nargs))
1328   (je :done)
1329   (pushl (:%l x8632::arg_z))
1330   :done))
1331
1332(define-x8632-vinsn (call-label :call) (()
1333                                        ((label :label))
1334                                        ((entry (:label 1))))
1335  (:talign 5)
1336  (call label)
1337  (movl (:$self 0) (:%l x8632::fn)))
1338
1339(define-x8632-vinsn double-float-compare (()
1340                                          ((arg0 :double-float)
1341                                           (arg1 :double-float)))
1342  (comisd (:%xmm arg1) (:%xmm arg0)))
1343
1344(define-x8632-vinsn single-float-compare (()
1345                                          ((arg0 :single-float)
1346                                           (arg1 :single-float)))
1347  (comiss (:%xmm arg1) (:%xmm arg0)))
1348
1349(define-x8632-vinsn double-float+-2 (((result :double-float))
1350                                     ((x :double-float)
1351                                      (y :double-float)))
1352  ((:pred =
1353          (:apply %hard-regspec-value result)
1354          (:apply %hard-regspec-value x))
1355   (addsd (:%xmm y) (:%xmm result)))
1356  ((:and (:not (:pred =
1357                      (:apply %hard-regspec-value result)
1358                      (:apply %hard-regspec-value x)))
1359         (:pred =
1360                (:apply %hard-regspec-value result)
1361                (:apply %hard-regspec-value y)))
1362   (addsd (:%xmm x) (:%xmm result)))
1363  ((:and (:not (:pred =
1364                      (:apply %hard-regspec-value result)
1365                      (:apply %hard-regspec-value x)))
1366         (:not (:pred =
1367                      (:apply %hard-regspec-value result)
1368                      (:apply %hard-regspec-value y))))
1369   (movsd (:%xmm x) (:%xmm result))
1370   (addsd (:%xmm y) (:%xmm result))))
1371
1372;;; Caller guarantees (not (eq y result))
1373(define-x8632-vinsn double-float--2 (((result :double-float))
1374                                     ((x :double-float)
1375                                      (y :double-float)))
1376  ((:not (:pred = (:apply %hard-regspec-value result)
1377                (:apply %hard-regspec-value x)))
1378   (movsd (:%xmm x) (:%xmm result)))
1379  (subsd (:%xmm y) (:%xmm result)))
1380
1381(define-x8632-vinsn double-float*-2 (((result :double-float))
1382                                     ((x :double-float)
1383                                      (y :double-float)))
1384  ((:pred =
1385          (:apply %hard-regspec-value result)
1386          (:apply %hard-regspec-value x))
1387   (mulsd (:%xmm y) (:%xmm result)))
1388  ((:and (:not (:pred =
1389                      (:apply %hard-regspec-value result)
1390                      (:apply %hard-regspec-value x)))
1391         (:pred =
1392                (:apply %hard-regspec-value result)
1393                (:apply %hard-regspec-value y)))
1394   (mulsd (:%xmm x) (:%xmm result)))
1395  ((:and (:not (:pred =
1396                      (:apply %hard-regspec-value result)
1397                      (:apply %hard-regspec-value x)))
1398         (:not (:pred =
1399                      (:apply %hard-regspec-value result)
1400                      (:apply %hard-regspec-value y))))
1401   (movsd (:%xmm x) (:%xmm result))
1402   (mulsd (:%xmm y) (:%xmm result))))
1403
1404;;; Caller guarantees (not (eq y result))
1405(define-x8632-vinsn double-float/-2 (((result :double-float))
1406                                     ((x :double-float)
1407                                      (y :double-float)))
1408  ((:not (:pred = (:apply %hard-regspec-value result)
1409                (:apply %hard-regspec-value x)))
1410   (movsd (:%xmm x) (:%xmm result)))
1411  (divsd (:%xmm y) (:%xmm result)))
1412
1413(define-x8632-vinsn single-float+-2 (((result :single-float))
1414                                     ((x :single-float)
1415                                      (y :single-float)))
1416  ((:pred =
1417          (:apply %hard-regspec-value result)
1418          (:apply %hard-regspec-value x))
1419   (addss (:%xmm y) (:%xmm result)))
1420  ((:and (:not (:pred =
1421                      (:apply %hard-regspec-value result)
1422                      (:apply %hard-regspec-value x)))
1423         (:pred =
1424                (:apply %hard-regspec-value result)
1425                (:apply %hard-regspec-value y)))
1426   (addss (:%xmm x) (:%xmm result)))
1427  ((:and (:not (:pred =
1428                      (:apply %hard-regspec-value result)
1429                      (:apply %hard-regspec-value x)))
1430         (:not (:pred =
1431                      (:apply %hard-regspec-value result)
1432                      (:apply %hard-regspec-value y))))
1433   (movss (:%xmm x) (:%xmm result))
1434   (addss (:%xmm y) (:%xmm result))))
1435
1436;;; Caller guarantees (not (eq y result))
1437(define-x8632-vinsn single-float--2 (((result :single-float))
1438                                     ((x :single-float)
1439                                      (y :single-float)))
1440  ((:not (:pred = (:apply %hard-regspec-value result)
1441                (:apply %hard-regspec-value x)))
1442   (movss (:%xmm x) (:%xmm result)))
1443  (subss (:%xmm y) (:%xmm result)))
1444
1445(define-x8632-vinsn single-float*-2 (((result :single-float))
1446                                     ((x :single-float)
1447                                      (y :single-float)))
1448    ((:pred =
1449          (:apply %hard-regspec-value result)
1450          (:apply %hard-regspec-value x))
1451   (mulss (:%xmm y) (:%xmm result)))
1452  ((:and (:not (:pred =
1453                      (:apply %hard-regspec-value result)
1454                      (:apply %hard-regspec-value x)))
1455         (:pred =
1456                (:apply %hard-regspec-value result)
1457                (:apply %hard-regspec-value y)))
1458   (mulss (:%xmm x) (:%xmm result)))
1459  ((:and (:not (:pred =
1460                      (:apply %hard-regspec-value result)
1461                      (:apply %hard-regspec-value x)))
1462         (:not (:pred =
1463                      (:apply %hard-regspec-value result)
1464                      (:apply %hard-regspec-value y))))
1465   (movss (:%xmm x) (:%xmm result))
1466   (mulss (:%xmm y) (:%xmm result))))
1467
1468;;; Caller guarantees (not (eq y result))
1469(define-x8632-vinsn single-float/-2 (((result :single-float))
1470                                     ((x :single-float)
1471                                      (y :single-float)))
1472  ((:not (:pred = (:apply %hard-regspec-value result)
1473                (:apply %hard-regspec-value x)))
1474   (movss (:%xmm x) (:%xmm result)))
1475  (divss (:%xmm y) (:%xmm result)))
1476
1477(define-x8632-vinsn get-single (((result :single-float))
1478                                ((source :lisp)))
1479  (movss (:@ x8632::single-float.value (:%l source)) (:%xmm result)))
1480
1481(define-x8632-vinsn get-double (((result :double-float))
1482                                ((source :lisp)))
1483  (movsd (:@ x8632::double-float.value (:%l source)) (:%xmm result)))
1484
1485;;; Extract a double-float value, typechecking in the process.
1486;;; IWBNI we could simply call the "trap-unless-typecode=" vinsn here,
1487;;; instead of replicating it ..
1488(define-x8632-vinsn get-double? (((target :double-float))
1489                                 ((source :lisp))
1490                                 ((tag :u8)))
1491  :resume
1492  (movl (:%l source) (:%l tag))
1493  ((:pred = (:apply %hard-regspec-value tag) x8632::eax)
1494   (andl (:$b x8632::tagmask) (:%accl tag))
1495   (cmpl (:$b x8632::tag-misc) (:%accl tag)))
1496  ((:pred > (:apply %hard-regspec-value tag) x8632::eax)
1497   (andl (:$b x8632::tagmask) (:%l tag))
1498   (cmpl (:$b x8632::tag-misc) (:%l tag)))
1499  (jne :have-tag)
1500  (movsbl (:@ x8632::misc-subtag-offset (:%l source)) (:%l tag))
1501  :have-tag
1502  (cmpl (:$b x8632::subtag-double-float) (:%l tag))
1503  (jne :bad)
1504  (movsd (:@  x8632::double-float.value (:%l source)) (:%xmm target))
1505
1506  (:anchored-uuo-section :resume)
1507  :bad
1508  (:anchored-uuo (uuo-error-reg-not-tag (:%q source) (:$ub x8632::subtag-double-float))))
1509
1510(define-x8632-vinsn copy-double-float (((dest :double-float))
1511                                       ((src :double-float)))
1512  (movsd (:%xmm src) (:%xmm dest)))
1513
1514(define-x8632-vinsn copy-single-float (((dest :single-float))
1515                                       ((src :single-float)))
1516  (movss (:%xmm src) (:%xmm dest)))
1517
1518(define-x8632-vinsn copy-single-to-double (((dest :double-float))
1519                                           ((src :single-float)))
1520  (cvtss2sd (:%xmm src) (:%xmm dest)))
1521
1522(define-x8632-vinsn copy-double-to-single (((dest :single-float))
1523                                           ((src :double-float)))
1524  (cvtsd2ss (:%xmm src) (:%xmm dest)))
1525
1526;;; these two clobber unboxed0, unboxed1 in tcr
1527;;; (There's no way to move a value from the x87 stack to an xmm register,
1528;;; so we have to go through memory.)
1529(define-x8632-vinsn fp-stack-to-single (((dest :single-float))
1530                                        ())
1531  (fstps (:@ (:%seg :rcontext) x8632::tcr.unboxed0))
1532  (movss (:@ (:%seg :rcontext) x8632::tcr.unboxed0) (:%xmm dest)))
1533
1534(define-x8632-vinsn fp-stack-to-double (((dest :double-float))
1535                                        ())
1536  (fstpl (:@ (:%seg :rcontext) x8632::tcr.unboxed0))
1537  (movsd (:@ (:%seg :rcontext) x8632::tcr.unboxed0) (:%xmm dest)))
1538
1539(define-x8632-vinsn fitvals (()
1540                             ((n :u16const))
1541                             ((imm :u32)))
1542  ((:pred = n 0)
1543   (xorl (:%l imm) (:%l imm)))
1544  ((:not (:pred = n 0))
1545   (movl (:$l (:apply ash n x8632::fixnumshift)) (:%l imm)))
1546  (subl (:%l x8632::nargs) (:%l imm))
1547  (jae :push-more)
1548  (subl (:%l imm) (:%l x8632::esp))
1549  (jmp :done)
1550  :push-loop
1551  (pushl (:$l (:apply target-nil-value)))
1552  (addl (:$b x8632::node-size) (:%l x8632::nargs))
1553  (subl (:$b x8632::node-size) (:%l imm))
1554  :push-more
1555  (jne :push-loop)
1556  :done)
1557
1558(define-x8632-vinsn (nvalret :jumpLR) (()
1559                                       ())
1560  (jmp (:@ .SPnvalret)))
1561
1562(define-x8632-vinsn lisp-word-ref (((dest t))
1563                                   ((base t)
1564                                    (offset t)))
1565  (movl (:@ (:%l base) (:%l offset)) (:%l  dest)))
1566
1567(define-x8632-vinsn lisp-word-ref-c (((dest t))
1568                                     ((base t)
1569                                      (offset :s32const)))
1570  ((:pred = offset 0)
1571   (movl (:@ (:%l base)) (:%l dest)))
1572  ((:not (:pred = offset 0))
1573   (movl (:@ offset (:%l base)) (:%l dest))))
1574
1575;; start-mv-call
1576
1577(define-x8632-vinsn (vpush-label :push :node :vsp) (()
1578                                                    ((label :label))
1579                                                    ((temp :lisp)))
1580  (leal (:@ (:^ label) (:%l x8632::fn)) (:%l temp))
1581  (pushl (:%l temp)))
1582
1583(define-x8632-vinsn emit-aligned-label (()
1584                                        ((label :label)))
1585  ;; We don't care about label.
1586  ;; We just want the label following this stuff to be tra-tagged.
1587  (:align 3)
1588  (nop) (nop) (nop) (nop) (nop))
1589
1590;; pass-multiple-values-symbol
1591;;; %ra0 is pointing into %fn, so no need to copy %fn here.
1592(define-x8632-vinsn pass-multiple-values-symbol (()
1593                                                 ())
1594  (pushl (:@ (:apply + (:apply target-nil-value) (x8632::%kernel-global 'x86::ret1valaddr)))) 
1595  (jmp (:@ x8632::symbol.fcell (:% x8632::fname))))
1596
1597
1598;;; It'd be good to have a variant that deals with a known function
1599;;; as well as this.
1600(define-x8632-vinsn pass-multiple-values (()
1601                                          ()
1602                                          ((tag :u8)))
1603  :resume
1604  (movl (:%l x8632::temp0) (:%l tag))
1605  (andl (:$b x8632::tagmask) (:%l tag))
1606  (cmpl (:$b x8632::tag-misc) (:%l tag))
1607  (jne :bad)
1608  (movsbl (:@ x8632::misc-subtag-offset (:%l x8632::temp0)) (:%l tag))
1609  (cmpl (:$b x8632::subtag-function) (:%l tag))
1610  (cmovel (:%l x8632::temp0) (:%l x8632::fn))
1611  (je :go)
1612  (cmpl (:$b x8632::subtag-symbol) (:%l tag))
1613  (cmovel (:@ x8632::symbol.fcell (:%l x8632::fname)) (:%l x8632::fn))
1614  (jne :bad)
1615  :go
1616  (pushl (:@ (:apply + (:apply target-nil-value) (x8632::%kernel-global 'x86::ret1valaddr))))
1617  (jmp (:%l x8632::fn))
1618  (:anchored-uuo-section :resume)
1619  :bad
1620  (:anchored-uuo (uuo-error-not-callable))
1621)
1622
1623
1624(define-x8632-vinsn reserve-outgoing-frame (()
1625                                            ())
1626  (pushl (:$b x8632::reserved-frame-marker))
1627  (pushl (:$b x8632::reserved-frame-marker)))
1628
1629;; implicit temp0 arg
1630(define-x8632-vinsn (call-known-function :call) (()
1631                                                 ()
1632                                                 ((entry (:label 1))))
1633  (:talign 5)
1634  (call (:%l x8632::temp0))
1635  (movl (:$self 0) (:%l x8632::fn)))
1636
1637(define-x8632-vinsn (jump-known-function :jumplr) (()
1638                                                   ())
1639  (jmp (:%l x8632::temp0)))
1640
1641(define-x8632-vinsn (list :call) (()
1642                                  ()
1643                                  ((entry (:label 1))
1644                                   (temp (:lisp #.x8632::temp0))))
1645  (leal (:@ (:^ :back) (:%l x8632::fn)) (:%l x8632::temp0))
1646  (:talign 5)
1647  (jmp (:@ .SPconslist))
1648  :back
1649  (movl (:$self 0) (:%l x8632::fn)))
1650
1651(define-x8632-vinsn make-fixed-stack-gvector (((dest :lisp))
1652                                              ((aligned-size :u32const)
1653                                               (header :s32const))
1654                                              ((tempa :imm)
1655                                               (tempb :imm)))
1656  ((:and (:pred >= (:apply + aligned-size x8632::dnode-size) -128)
1657         (:pred <= (:apply + aligned-size x8632::dnode-size) 127))
1658   (subl (:$b (:apply + aligned-size x8632::dnode-size))
1659         (:@ (:%seg :rcontext) x8632::tcr.next-tsp)))
1660  ((:not (:and (:pred >= (:apply + aligned-size x8632::dnode-size) -128)
1661               (:pred <= (:apply + aligned-size x8632::dnode-size) 127)))
1662   (subl (:$l (:apply + aligned-size x8632::dnode-size))
1663         (:@ (:%seg :rcontext) x8632::tcr.next-tsp)))
1664  (movl (:@ (:%seg :rcontext) x8632::tcr.save-tsp) (:%l tempb))
1665  (movl (:@ (:%seg :rcontext) x8632::tcr.next-tsp) (:%l tempa))
1666  (movd (:%l tempb) (:%mmx x8632::stack-temp))
1667  :loop
1668  (movsd (:%xmm x8632::fpzero) (:@ -8 (:%l tempb)))
1669  (subl (:$b x8632::dnode-size) (:%l tempb))
1670  (cmpl (:%l tempa) (:%l tempb))
1671  (jnz :loop)
1672  (movd (:%mmx x8632::stack-temp) (:@ (:%l tempa)))
1673  (movl (:%l tempa) (:@ (:%seg :rcontext) x8632::tcr.save-tsp))
1674  (movl (:$l header) (:@ x8632::dnode-size (:%l tempa)))
1675  (leal (:@ (+ x8632::dnode-size x8632::fulltag-misc) (:%l tempa)) (:%l dest)))
1676
1677
1678
1679
1680(define-x8632-vinsn make-tsp-vcell (((dest :lisp))
1681                                    ((closed :lisp))
1682                                    ((temp :imm)))
1683  (subl (:$b (+ x8632::value-cell.size x8632::dnode-size)) (:@ (:%seg :rcontext) x8632::tcr.next-tsp))
1684  (movd (:@ (:%seg :rcontext) x8632::tcr.save-tsp) (:%mmx x8632::stack-temp))
1685  (movl (:@ (:%seg :rcontext) x8632::tcr.next-tsp) (:%l temp))
1686  (movsd (:%xmm x8632::fpzero) (:@ (:%l temp)))
1687  (movsd (:%xmm x8632::fpzero) (:@ x8632::dnode-size (:%l temp)))
1688  (movd (:%mmx x8632::stack-temp) (:@ (:%l temp))) 
1689  (movl (:%l temp) (:@ (:%seg :rcontext) x8632::tcr.save-tsp)) 
1690  (movl (:$l x8632::value-cell-header) (:@ x8632::dnode-size (:%l temp)))
1691  (movl (:%l closed) (:@ (+ x8632::dnode-size x8632::node-size) (:%l temp)))
1692  (leal (:@ (+ x8632::dnode-size x8632::fulltag-misc) (:%l temp)) (:%l dest)))
1693
1694(define-x8632-vinsn make-tsp-cons (((dest :lisp))
1695                                   ((car :lisp) (cdr :lisp))
1696                                   ((temp :imm)))
1697  (subl (:$b (+ x8632::cons.size x8632::dnode-size)) (:@ (:%seg :rcontext) x8632::tcr.next-tsp))
1698  (movl (:@ (:%seg :rcontext) x8632::tcr.next-tsp) (:%l temp))
1699  (movq (:%xmm x8632::fpzero) (:@ (:%l temp)))
1700  (movq (:%xmm x8632::fpzero) (:@ 8 (:%l temp)))
1701  (movd (:@ (:%seg :rcontext) x8632::tcr.save-tsp) (:%mmx x8632::stack-temp))
1702  (movd (:%mmx x8632::stack-temp) (:@ (:%l temp)))
1703  (movl (:%l temp) (:@ (:%seg :rcontext) x8632::tcr.save-tsp))
1704  (leal (:@ (+ x8632::dnode-size x8632::fulltag-cons) (:%l temp)) (:%l temp))
1705  (movl (:%l car) (:@ x8632::cons.car (:%l temp)))
1706  (movl (:%l cdr) (:@ x8632::cons.cdr (:%l temp)))
1707  (movl (:%l temp) (:%l dest)))
1708
1709
1710;; make-fixed-stack-gvector
1711
1712(define-x8632-vinsn (discard-temp-frame :tsp :pop :discard) (()
1713                                                             ()
1714                                                             ((temp :imm)))
1715  (movl (:@ (:%seg :rcontext) x8632::tcr.save-tsp) (:%l temp))
1716  (movl (:@ (:%l temp)) (:%l temp))
1717  (movl (:%l temp) (:@ (:%seg :rcontext) x8632::tcr.save-tsp))
1718  (movl (:%l temp) (:@ (:%seg :rcontext) x8632::tcr.next-tsp))
1719  )
1720
1721(define-x8632-vinsn (discard-c-frame :csp :pop :discard) (()
1722                                                          ()
1723                                                          ((temp :imm)))
1724  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
1725  (movl (:@ (:%l temp)) (:%l temp))
1726  (movl (:%l temp) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp)))
1727
1728 
1729(define-x8632-vinsn (vstack-discard :vsp :pop :discard) (()
1730                                    ((nwords :u32const)))
1731  ((:not (:pred = nwords 0))
1732   ((:pred < nwords 16)
1733    (addl (:$b (:apply ash nwords x8632::word-shift)) (:%l x8632::esp)))
1734   ((:not (:pred < nwords 16))
1735    (addl (:$l (:apply ash nwords x8632::word-shift)) (:%l x8632::esp)))))
1736
1737(defmacro define-x8632-subprim-lea-jmp-vinsn ((name &rest other-attrs) spno)
1738  `(define-x8632-vinsn (,name :call :subprim-call ,@other-attrs) (()
1739                                                                  ()
1740                                                                  ((entry (:label 1))
1741                                                                   (ra (:lisp #.x8632::ra0))))
1742    (leal (:@ (:^ :back) (:%l x8632::fn)) (:%l ra))
1743    (:talign 5)
1744    (jmp (:@ ,spno))
1745    :back
1746    (movl (:$self 0) (:%l x8632::fn))))
1747
1748(defmacro define-x8632-subprim-call-vinsn ((name &rest other-attrs) spno)
1749  `(define-x8632-vinsn (,name :call :subprim-call ,@other-attrs) (() () ((entry (:label 1))))
1750    (:talign 5)
1751    (call (:@ ,spno))
1752    :back
1753    (movl (:$self 0) (:%l x8632::fn))))
1754
1755(defmacro define-x8632-subprim-jump-vinsn ((name &rest other-attrs) spno)
1756  `(define-x8632-vinsn (,name :jumpLR ,@other-attrs) (() ())
1757    (jmp (:@ ,spno))))
1758
1759(define-x8632-vinsn (nthrowvalues :call :subprim-call) (()
1760                                                        ((lab :label))
1761                                                        ((ra (:lisp #.x8632::ra0))))
1762  (leal (:@ (:^ lab) (:%l x8632::fn)) (:%l ra))
1763  (jmp (:@ .SPnthrowvalues)))
1764
1765(define-x8632-vinsn (nthrow1value :call :subprim-call) (()
1766                                                        ((lab :label))
1767                                                        ((ra (:lisp #.x8632::ra0))))
1768  (leal (:@ (:^ lab) (:%l x8632::fn)) (:%l ra))
1769  (jmp (:@ .SPnthrow1value)))
1770
1771(define-x8632-vinsn set-single-c-arg (()
1772                                      ((arg :single-float)
1773                                       (offset :u32const))
1774                                      ((temp :imm)))
1775  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
1776  (movss (:%xmm arg) (:@ (:apply + 8 (:apply ash offset 2)) (:%l temp))))
1777
1778(define-x8632-vinsn reload-single-c-arg (((arg :single-float))
1779                                         ((offset :u32const))
1780                                         ((temp :imm)))
1781  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
1782  (movss (:@ (:apply + 8 (:apply ash offset 2)) (:%l temp)) (:%xmm arg)))
1783
1784(define-x8632-vinsn set-double-c-arg (()
1785                                      ((arg :double-float)
1786                                       (offset :u32const))
1787                                      ((temp :imm)))
1788  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
1789  (movsd (:%xmm arg) (:@ (:apply + 8 (:apply ash offset 2)) (:%l temp))))
1790
1791(define-x8632-vinsn reload-double-c-arg (((arg :double-float))
1792                                         ((offset :u32const))
1793                                         ((temp :imm)))
1794  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
1795  (movsd (:@ (:apply + 8 (:apply ash offset 2)) (:%l temp)) (:%xmm arg)))
1796
1797;;; .SPffcall has stored %edx in tcr.unboxed1.  Load %mm0 with a
1798;;; 64-bit value composed from %edx:%eax.
1799(define-x8632-vinsn get-64-bit-ffcall-result (()
1800                                              ())
1801  (movl (:%l x8632::eax) (:@ (:%seg :rcontext) x8632::tcr.unboxed0))
1802  (movq (:@ (:%seg :rcontext) x8632::tcr.unboxed0) (:%mmx x8632::mm0)))
1803
1804(define-x8632-subprim-call-vinsn (ff-call)  .SPffcall)
1805
1806(define-x8632-subprim-call-vinsn (syscall)  .SPsyscall)
1807
1808(define-x8632-subprim-call-vinsn (syscall2)  .SPsyscall2)
1809
1810(define-x8632-subprim-call-vinsn (setqsym) .SPsetqsym)
1811
1812(define-x8632-subprim-call-vinsn (gets32) .SPgets32)
1813
1814(define-x8632-subprim-call-vinsn (getu32) .SPgetu32)
1815
1816(define-x8632-subprim-call-vinsn (gets64) .SPgets64)
1817
1818(define-x8632-subprim-call-vinsn (getu64) .SPgetu64)
1819
1820(define-x8632-subprim-call-vinsn (makes64) .SPmakes64)
1821
1822(define-x8632-subprim-call-vinsn (makeu64) .SPmakeu64)
1823
1824(define-x8632-subprim-lea-jmp-vinsn (stack-cons-list*)  .SPstkconslist-star)
1825
1826(define-x8632-subprim-lea-jmp-vinsn (list*) .SPconslist-star)
1827
1828(define-x8632-subprim-lea-jmp-vinsn (bind-interrupt-level-0) .SPbind-interrupt-level-0)
1829
1830(define-x8632-vinsn bind-interrupt-level-0-inline (()
1831                                                   ()
1832                                                   ((temp :imm)))
1833  (movl (:@ (:%seg :rcontext) x8632::tcr.tlb-pointer) (:%l temp))
1834  (cmpl (:$b 0) (:@ x8632::interrupt-level-binding-index (:%l temp)))
1835  (pushl (:@ x8632::interrupt-level-binding-index (:%l temp)))
1836  (pushl (:$b x8632::interrupt-level-binding-index))
1837  (pushl (:@ (:%seg :rcontext) x8632::tcr.db-link))
1838  (movl (:$l 0) (:@ x8632::interrupt-level-binding-index (:%l temp)))
1839  (movl (:%l x8632::esp) (:@ (:%seg :rcontext) x8632::tcr.db-link))
1840  (jns :done)
1841  (btrl (:$ub 31) (:@ (:%seg :rcontext) x8632::tcr.interrupt-pending))
1842  (jae :done)
1843  (ud2a)
1844  (:byte 2)
1845  :done)
1846
1847(define-x8632-vinsn bind-interrupt-level-m1-inline (()
1848                                                    ()
1849                                                    ((temp :imm)))
1850  (movl (:@ (:%seg :rcontext) x8632::tcr.tlb-pointer) (:%l temp))
1851  (pushl (:@ x8632::interrupt-level-binding-index (:%l temp)))
1852  (pushl (:$b x8632::interrupt-level-binding-index))
1853  (pushl (:@ (:%seg :rcontext) x8632::tcr.db-link))
1854  (movl (:$l (ash -1 x8632::fixnumshift)) (:@ x8632::interrupt-level-binding-index (:%l temp)))
1855  (movl (:%l x8632::esp) (:@ (:%seg :rcontext) x8632::tcr.db-link)))
1856
1857(define-x8632-subprim-lea-jmp-vinsn (bind-interrupt-level-m1) .SPbind-interrupt-level-m1)
1858
1859(define-x8632-subprim-lea-jmp-vinsn (bind-interrupt-level) .SPbind-interrupt-level)
1860
1861(define-x8632-subprim-call-vinsn (unbind-interrupt-level) .SPunbind-interrupt-level)
1862
1863#||
1864(define-x8632-vinsn unbind-interrupt-level-inline (()
1865                                                   ()
1866                                                   ((link :imm)
1867                                                    (curval :imm)
1868                                                    (oldval :imm)
1869                                                    (tlb :imm)))
1870  (movl (:@ (:%seg :rcontext) x8632::tcr.tlb-pointer) (:%l tlb))
1871  (movl (:@ (:%seg :rcontext) x8632::tcr.db-link) (:%l link))
1872  (movl (:@ x8632::interrupt-level-binding-index (:%l tlb)) (:%l curval))
1873  (testl (:%l curval) (:%l curval))
1874  (movl (:@ 8 #|binding.val|# (:%l link)) (:%l oldval))
1875  (movl (:@ #|binding.link|# (:%l link)) (:%l link))
1876  (movl (:%l oldval) (:@ x8632::interrupt-level-binding-index (:%l tlb)))
1877  (movl (:%l link) (:@ (:%seg :rcontext) x8632::tcr.db-link))
1878  (jns :done)
1879  (testl (:%l oldval) (:%l oldval))
1880  (js :done)
1881  (btrl (:$ub 31) (:@ (:%seg :rcontext) x8632::tcr.interrupt-pending))
1882  (jae :done)
1883  (ud2a)
1884  (:byte 2)
1885  :done)
1886||#
1887
1888(define-x8632-vinsn (jump-return-pc :jumpLR) (()
1889                                              ())
1890  (ret))
1891
1892;;; xxx
1893(define-x8632-vinsn (nmkcatchmv :call :subprim-call) (()
1894                                                      ((lab :label))
1895                                                      ((entry (:label 1))
1896                                                       (xfn (:lisp #.x8632::xfn))))
1897  (leal (:@ (:^ lab)  (:%l x8632::fn)) (:%l xfn))
1898  (:talign 5)
1899  (call (:@ .SPmkcatchmv))
1900  :back
1901  (movl (:$self 0) (:%l x8632::fn)))
1902
1903(define-x8632-vinsn (nmkcatch1v :call :subprim-call) (()
1904                                                     ((lab :label))
1905                                                     ((entry (:label 1))
1906                                                      (xfn (:lisp #.x8632::xfn))))
1907  (leal (:@ (:^ lab)  (:%l x8632::fn)) (:%l x8632::xfn))
1908  (:talign 5)
1909  (call (:@ .SPmkcatch1v))
1910  :back
1911  (movl (:$self 0) (:%l x8632::fn)))
1912
1913
1914(define-x8632-vinsn (make-simple-unwind :call :subprim-call) (()
1915                                                     ((protform-lab :label)
1916                                                      (cleanup-lab :label)))
1917  (leal (:@ (:^ protform-lab) (:%l x8632::fn)) (:%l x8632::ra0))
1918  (leal (:@ (:^ cleanup-lab)  (:%l x8632::fn)) (:%l x8632::xfn))
1919  (jmp (:@ .SPmkunwind)))
1920
1921(define-x8632-vinsn (nmkunwind :call :subprim-call) (()
1922                                                     ((protform-lab :label)
1923                                                      (cleanup-lab :label)))
1924  (leal (:@ (:^ protform-lab) (:%l x8632::fn)) (:%l x8632::ra0))
1925  (leal (:@ (:^ cleanup-lab)  (:%l x8632::fn)) (:%l x8632::xfn))
1926  (jmp (:@ .SPnmkunwind)))
1927
1928(define-x8632-vinsn u16->u32 (((dest :u32))
1929                              ((src :u16)))
1930  (movzwl (:%w src) (:%l dest)))
1931
1932(define-x8632-vinsn u8->u32 (((dest :u32))
1933                             ((src :u8)))
1934  (movzbl (:%b src) (:%l dest)))
1935
1936(define-x8632-vinsn s16->s32 (((dest :s32))
1937                              ((src :s16)))
1938  (movswl (:%w src) (:%l dest)))
1939
1940(define-x8632-vinsn s8->s32 (((dest :s32))
1941                             ((src :s8)))
1942  (movsbl (:%b src) (:%l dest)))
1943
1944(define-x8632-subprim-jump-vinsn (tail-call-fn-gen) .SPtcallnfngen)
1945
1946(define-x8632-subprim-jump-vinsn (tail-call-fn-vsp) .SPtcallnfnvsp)
1947
1948(define-x8632-vinsn set-eq-bit (()
1949                                ())
1950  (testb (:%b x8632::arg_z) (:%b x8632::arg_z)))
1951
1952;;; %schar8
1953;;; %schar32
1954;;; %set-schar8
1955;;; %set-schar32
1956
1957(define-x8632-vinsn misc-set-c-single-float (((val :single-float))
1958                                             ((v :lisp)
1959                                              (idx :u32const)))
1960  (movss (:%xmm val) (:@ (:apply + x8632::misc-data-offset (:apply ash idx 2)) (:%l v))))
1961
1962(define-x8632-vinsn array-data-vector-ref (((dest :lisp))
1963                                           ((header :lisp)))
1964  (movl (:@ x8632::arrayH.data-vector (:%l header)) (:%l dest)))
1965
1966(define-x8632-vinsn set-z-flag-if-istruct-typep (()
1967                                                 ((val :lisp)
1968                                                  (type :lisp))
1969                                                 ((tag :u8)
1970                                                  (valtype :lisp)))
1971  (xorl (:%l valtype) (:%l valtype))
1972  (movl (:%l val) (:%l tag))
1973  (andl (:$b x8632::tagmask) (:%l tag))
1974  (cmpl (:$b x8632::tag-misc) (:%l tag))
1975  (jne :have-tag)
1976  (movsbl (:@ x8632::misc-subtag-offset (:%l val)) (:%l tag))
1977  :have-tag
1978  (cmpl (:$b x8632::subtag-istruct) (:%l tag))
1979  (jne :do-compare)
1980  (movl (:@ x8632::misc-data-offset (:%l val)) (:%l valtype))
1981  :do-compare
1982  (cmpl (:%l valtype) (:%l type)))
1983
1984(define-x8632-subprim-call-vinsn (subtag-misc-ref) .SPsubtag-misc-ref)
1985
1986(define-x8632-subprim-call-vinsn (subtag-misc-set) .SPsubtag-misc-set)
1987
1988(define-x8632-vinsn mem-set-c-constant-fullword (()
1989                                                 ((val :s32const)
1990                                                  (dest :address)
1991                                                  (offset :s32const)))
1992  ((:pred = offset 0)
1993   (movl (:$l val) (:@ (:%l dest))))
1994  ((:not (:pred = offset 0))
1995   (movl (:$l val) (:@ offset (:%l dest)))))
1996
1997(define-x8632-vinsn mem-set-c-halfword (()
1998                                        ((val :u16)
1999                                         (dest :address)
2000                                         (offset :s32const)))
2001  ((:pred = offset 0)
2002   (movw (:%w val) (:@ (:%l dest))))
2003  ((:not (:pred = offset 0))
2004   (movw (:%w val) (:@ offset (:%l dest)))))
2005
2006(define-x8632-vinsn mem-set-c-constant-halfword (()
2007                                                 ((val :s16const)
2008                                                  (dest :address)
2009                                                  (offset :s32const)))
2010  ((:pred = offset 0)
2011   (movw (:$w val) (:@ (:%l dest))))
2012  ((:not (:pred = offset 0))
2013   (movw (:$w val) (:@ offset (:%l dest)))))
2014
2015(define-x8632-vinsn mem-set-c-constant-byte (()
2016                                                 ((val :s8const)
2017                                                  (dest :address)
2018                                                  (offset :s32const)))
2019  ((:pred = offset 0)
2020   (movb (:$b val) (:@ (:%l dest))))
2021  ((:not (:pred = offset 0))
2022   (movb (:$b val) (:@ offset (:%l dest)))))
2023
2024(define-x8632-vinsn mem-set-c-byte (()
2025                                    ((val :u8)
2026                                     (dest :address)
2027                                     (offset :s32const)))
2028  ((:pred = offset 0)
2029   (movb (:%b val) (:@ (:%l dest))))
2030  ((:not (:pred = offset 0))
2031   (movb (:%b val) (:@ offset (:%l dest)))))
2032
2033(define-x8632-vinsn mem-ref-c-absolute-u8 (((dest :u8))
2034                                           ((addr :s32const)))
2035  (movzbl (:@ addr) (:%l dest)))
2036
2037(define-x8632-vinsn mem-ref-c-absolute-s8 (((dest :s8))
2038                                           ((addr :s32const)))
2039  (movsbl (:@ addr) (:%l dest)))
2040
2041(define-x8632-vinsn mem-ref-c-absolute-u16 (((dest :u16))
2042                                           ((addr :s32const)))
2043  (movzwl (:@ addr) (:%l dest)))
2044
2045(define-x8632-vinsn mem-ref-c-absolute-s16 (((dest :s16))
2046                                           ((addr :s32const)))
2047  (movswl (:@ addr) (:%l dest)))
2048
2049(define-x8632-vinsn mem-ref-c-absolute-fullword (((dest :u32))
2050                                                 ((addr :s32const)))
2051  (movl (:@ addr) (:%l dest)))
2052
2053(define-x8632-vinsn mem-ref-c-absolute-signed-fullword (((dest :s32))
2054                                                        ((addr :s32const)))
2055  (movl (:@ addr) (:%l dest)))
2056
2057(define-x8632-vinsn mem-ref-c-absolute-natural (((dest :u32))
2058                                                   ((addr :s32const)))
2059  (movl (:@ addr) (:%l dest)))
2060
2061(define-x8632-vinsn mem-ref-u8 (((dest :u8))
2062                                ((src :address)
2063                                 (index :s32)))
2064  (movzbl (:@ (:%l src) (:%l index)) (:%l dest)))
2065
2066(define-x8632-vinsn mem-ref-c-u16 (((dest :u16))
2067                                   ((src :address)
2068                                    (index :s32const)))
2069  ((:pred = index 0) 
2070   (movzwl (:@ (:%l src)) (:%l dest)))
2071  ((:not (:pred = index 0))
2072   (movzwl (:@ index (:%l src)) (:%l dest))))
2073
2074(define-x8632-vinsn mem-ref-u16 (((dest :u16))
2075                                 ((src :address)
2076                                  (index :s32)))
2077  (movzwl (:@ (:%l src) (:%l index)) (:%l dest)))
2078
2079(define-x8632-vinsn mem-ref-c-s16 (((dest :s16))
2080                                   ((src :address)
2081                                    (index :s32const)))
2082  ((:pred = index 0)
2083   (movswl (:@ (:%l src)) (:%l dest)))
2084  ((:not (:pred = index 0))
2085   (movswl (:@ index (:%l src)) (:%l dest))))
2086
2087(define-x8632-vinsn mem-ref-s16 (((dest :s16))
2088                                 ((src :address)
2089                                  (index :s32)))
2090  (movswl (:@ (:%l src) (:%l index)) (:%l dest)))
2091
2092(define-x8632-vinsn mem-ref-c-u8 (((dest :u8))
2093                                  ((src :address)
2094                                   (index :s16const)))
2095  ((:pred = index 0)
2096   (movzbl (:@  (:%l src)) (:%l dest)))
2097  ((:not (:pred = index 0))
2098   (movzbl (:@ index (:%l src)) (:%l dest))))
2099
2100(define-x8632-vinsn mem-ref-u8 (((dest :u8))
2101                                ((src :address)
2102                                 (index :s32)))
2103  (movzbl (:@ (:%l src) (:%l index)) (:%l dest)))
2104
2105(define-x8632-vinsn mem-ref-c-s8 (((dest :s8))
2106                                  ((src :address)
2107                                   (index :s16const)))
2108  ((:pred = index 0)
2109   (movsbl (:@ (:%l src)) (:%l dest)))
2110  ((:not (:pred = index 0))
2111   (movsbl (:@ index (:%l src)) (:%l dest))))
2112
2113(define-x8632-vinsn misc-set-c-s8  (((val :s8))
2114                                    ((v :lisp)
2115                                     (idx :u32const))
2116                                    ())
2117  (movb (:%b val) (:@ (:apply + x8632::misc-data-offset idx) (:%l v))))
2118
2119(define-x8632-vinsn misc-set-s8  (((val :s8))
2120                                  ((v :lisp)
2121                                   (scaled-idx :s32))
2122                                  ())
2123  (movb (:%b val) (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx))))
2124
2125(define-x8632-vinsn mem-ref-s8 (((dest :s8))
2126                                ((src :address)
2127                                 (index :s32)))
2128  (movsbl (:@ (:%l src) (:%l index)) (:%l dest)))
2129
2130(define-x8632-vinsn mem-set-constant-fullword (()
2131                                               ((val :s32const)
2132                                                (ptr :address)
2133                                                (offset :s32)))
2134  (movl (:$l val) (:@ (:%l ptr) (:%l offset))))
2135
2136
2137(define-x8632-vinsn mem-set-constant-halfword (()
2138                                               ((val :s16const)
2139                                                (ptr :address)
2140                                                (offset :s32)))
2141  (movw (:$w val) (:@ (:%l ptr) (:%l offset))))
2142
2143(define-x8632-vinsn mem-set-constant-byte (()
2144                                           ((val :s8const)
2145                                            (ptr :address)
2146                                            (offset :s32)))
2147  (movb (:$b val) (:@ (:%l ptr) (:%l offset))))
2148
2149(define-x8632-vinsn misc-set-c-u8  (((val :u8))
2150                                    ((v :lisp)
2151                                     (idx :u32const))
2152                                    ())
2153  (movb (:%b val) (:@ (:apply + x8632::misc-data-offset idx) (:%l v))))
2154
2155(define-x8632-vinsn misc-set-u8  (((val :u8))
2156                                  ((v :lisp)
2157                                   (scaled-idx :s32))
2158                                  ())
2159  (movb (:%b val) (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx))))
2160
2161(define-x8632-vinsn misc-set-c-u16  (()
2162                                    ((val :u16)
2163                                     (v :lisp)
2164                                     (idx :s32const))
2165                                    ())
2166  (movw (:%w val) (:@ (:apply + x8632::misc-data-offset (:apply * 2 idx)) (:%l v))))
2167
2168(define-x8632-vinsn misc-set-u16  (()
2169                                   ((val :u16)
2170                                    (v :lisp)
2171                                    (scaled-idx :s32))
2172                                   ())
2173  (movw (:%w val) (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx))))
2174
2175(define-x8632-vinsn misc-set-c-s16  (()
2176                                    ((val :s16)
2177                                     (v :lisp)
2178                                     (idx :s32const))
2179                                    ())
2180  (movw (:%w val) (:@ (:apply + x8632::misc-data-offset (:apply * 2 idx)) (:%l v))))
2181
2182(define-x8632-vinsn misc-set-s16  (()
2183                                   ((val :s16)
2184                                    (v :lisp)
2185                                    (scaled-idx :s32))
2186                                   ())
2187  (movw (:%w val) (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx))))
2188
2189(define-x8632-vinsn misc-set-c-u32  (()
2190                                     ((val :u32)
2191                                      (v :lisp)
2192                                      (idx :u32const)) ; sic
2193                                     ())
2194  (movl (:%l val) (:@ (:apply + x8632::misc-data-offset (:apply ash idx 2)) (:%l v))))
2195
2196(define-x8632-vinsn misc-set-u32  (()
2197                                   ((val :u32)
2198                                    (v :lisp)
2199                                    (scaled-idx :imm))
2200                                   ())
2201  (movl (:%l val) (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx))))
2202
2203(define-x8632-vinsn misc-set-c-s32  (()
2204                                     ((val :s32)
2205                                      (v :lisp)
2206                                      (idx :u32const)) ; sic
2207                                     ())
2208  (movl (:%l val) (:@ (:apply + x8632::misc-data-offset (:apply ash idx 2)) (:%l v))))
2209
2210(define-x8632-vinsn misc-set-s32  (()
2211                                   ((val :s32)
2212                                    (v :lisp)
2213                                    (scaled-idx :imm))
2214                                   ())
2215  (movl (:%l val) (:@ x8632::misc-data-offset (:%l v) (:%l scaled-idx))))
2216
2217(define-x8632-vinsn %iasr (((dest :imm))
2218                           ((count :imm)
2219                            (src :imm))
2220                           ((temp :s32)
2221                            (shiftcount (:s32 #.x8632::ecx))))
2222  (movl (:%l count) (:%l temp))
2223  (sarl (:$ub x8632::fixnumshift) (:%l temp))
2224  (movl (:$l 31) (:%l shiftcount))
2225  (rcmpl (:%l temp) (:%l shiftcount))
2226  (cmovbel (:%l temp) (:%l shiftcount))
2227  (movl (:%l src) (:%l temp))
2228  (sarl (:%shift x8632::cl) (:%l temp))
2229  (andl (:$l (lognot x8632::fixnummask)) (:%l temp))
2230  (movl (:%l temp) (:%l dest)))
2231
2232(define-x8632-vinsn %ilsr (((dest :imm))
2233                           ((count :imm)
2234                            (src :imm))
2235                           ((temp :s32)
2236                            (shiftcount (:s32 #.x8632::ecx))))
2237  (movl (:%l count) (:%l temp))
2238  (sarl (:$ub x8632::fixnumshift) (:%l temp))
2239  (movl (:$l 31) (:%l shiftcount))
2240  (rcmpl (:%l temp) (:%l shiftcount))
2241  (cmovbel (:%l temp) (:%l shiftcount))
2242  (movl (:%l src) (:%l temp))
2243  (shrl (:%shift x8632::cl) (:%l temp))
2244  (andl (:$b (lognot x8632::fixnummask)) (:%l temp))
2245  (movl (:%l temp) (:%l dest)))
2246
2247(define-x8632-vinsn %iasr-c (((dest :imm))
2248                             ((count :u8const)
2249                              (src :imm))
2250                             ((temp :s32)))
2251  (movl (:%l src) (:%l temp))
2252  (sarl (:$ub count) (:%l temp))
2253  (andb (:$b (lognot x8632::fixnummask)) (:%b temp))
2254  (movl (:%l temp) (:%l dest)))
2255
2256(define-x8632-vinsn %ilsr-c (((dest :imm))
2257                             ((count :u8const)
2258                              (src :imm))
2259                             ((temp :s32)))
2260  (movl (:%l src) (:%l temp))
2261  (shrl (:$ub count) (:%l temp))
2262  ;; xxx --- use :%acc
2263  (andb (:$b (lognot x8632::fixnummask)) (:%b temp))
2264  (movl (:%l temp) (:%l dest)))
2265
2266(define-x8632-vinsn %ilsl (((dest :imm))
2267                           ((count :imm)
2268                            (src :imm))
2269                           ((temp (:s32 #.x8632::eax))
2270                            (shiftcount (:s32 #.x8632::ecx))))
2271  (movl (:%l count) (:%l temp))
2272  (sarl (:$ub x8632::fixnumshift) (:%l temp))
2273  (rcmpl (:%l temp) (:$l 31))
2274  (cmovbw (:%w temp) (:%w shiftcount))
2275  (movl (:%l src) (:%l temp))
2276  (jae :shift-max)
2277  (shll (:%shift x8632::cl) (:%l temp))
2278  (jmp :done)
2279  :shift-max
2280  (xorl (:%l temp) (:%l temp))
2281  :done
2282  (movl (:%l temp) (:%l dest)))
2283
2284(define-x8632-vinsn %ilsl-c (((dest :imm))
2285                             ((count :u8const)
2286                              (src :imm)))
2287  ((:not (:pred =
2288                (:apply %hard-regspec-value src)
2289                (:apply %hard-regspec-value dest)))
2290   (movl (:%l src) (:%l dest)))
2291  (shll (:$ub count) (:%l dest)))
2292
2293;;; In safe code, something else has ensured that the value is of type
2294;;; BIT.
2295(define-x8632-vinsn set-variable-bit-to-variable-value (()
2296                                                        ((vec :lisp)
2297                                                         (word-index :s32)
2298                                                         (bitnum :u8)
2299                                                         (value :lisp)))
2300  (testl (:%l value) (:%l value))
2301  (je :clr)
2302  (btsl (:%l bitnum) (:@ x8632::misc-data-offset (:%l vec) (:%l word-index) 4))
2303  (jmp :done)
2304  :clr
2305  (btrl (:%l bitnum) (:@ x8632::misc-data-offset (:%l vec) (:%l word-index) 4))
2306  :done)
2307
2308;;; In safe code, something else has ensured that the value is of type
2309;;; BIT.
2310(define-x8632-vinsn nset-variable-bit-to-variable-value (()
2311                                                         ((vec :lisp)
2312                                                          (index :s32)
2313                                                          (value :lisp)))
2314  (testl (:%l value) (:%l value))
2315  (je :clr)
2316  (btsl (:%l index) (:@ x8632::misc-data-offset (:%l vec)))
2317  (jmp :done)
2318  :clr
2319  (btrl (:%l index) (:@ x8632::misc-data-offset (:%l vec)))
2320  :done)
2321
2322(define-x8632-vinsn nset-variable-bit-to-zero (()
2323                                              ((vec :lisp)
2324                                               (index :s32)))
2325  (btrl (:%l index) (:@ x8632::misc-data-offset (:%l vec))))
2326
2327(define-x8632-vinsn nset-variable-bit-to-one (()
2328                                             ((vec :lisp)
2329                                              (index :s32)))
2330  (btsl (:%l index) (:@ x8632::misc-data-offset (:%l vec))))
2331
2332(define-x8632-vinsn set-variable-bit-to-zero (()
2333                                              ((vec :lisp)
2334                                               (word-index :s32)
2335                                               (bitnum :u8)))
2336  (btrl (:%l bitnum) (:@ x8632::misc-data-offset (:%l vec) (:%l word-index) 4)))
2337
2338(define-x8632-vinsn set-variable-bit-to-one (()
2339                                             ((vec :lisp)
2340                                              (word-index :s32)
2341                                              (bitnum :u8)))
2342  (btsl (:%l bitnum) (:@ x8632::misc-data-offset (:%l vec) (:%l word-index) 4)))
2343
2344(define-x8632-vinsn set-constant-bit-to-zero (()
2345                                              ((src :lisp)
2346                                               (idx :u32const)))
2347  (btrl (:$ub (:apply logand 31 idx))
2348        (:@ (:apply + x8632::misc-data-offset (:apply ash (:apply ash idx -5) x8632::word-shift)) (:%l src))))
2349
2350(define-x8632-vinsn set-constant-bit-to-one (()
2351                                             ((src :lisp)
2352                                              (idx :u32const)))
2353  (btsl (:$ub (:apply logand 31 idx))
2354        (:@ (:apply + x8632::misc-data-offset (:apply ash (:apply ash idx -5) x8632::word-shift)) (:%l src))))
2355
2356(define-x8632-vinsn set-constant-bit-to-variable-value (()
2357                                                        ((src :lisp)
2358                                                         (idx :u32const)
2359                                                         (value :lisp)))
2360  (testl (:%l value) (:%l value))
2361  (je :clr)
2362  (btsl (:$ub (:apply logand 31 idx))
2363        (:@ (:apply + x8632::misc-data-offset (:apply ash (:apply ash idx -5) x8632::word-shift)) (:%l src)))
2364  (jmp :done)
2365  :clr
2366  (btrl (:$ub (:apply logand 31 idx))
2367        (:@ (:apply + x8632::misc-data-offset (:apply ash (:apply ash idx -5) x8632::word-shift)) (:%l src)))
2368  :done)
2369
2370(define-x8632-vinsn require-fixnum (()
2371                                    ((object :lisp)))
2372  :again
2373  ((:and (:pred > (:apply %hard-regspec-value object) x8632::eax)
2374         (:pred <= (:apply %hard-regspec-value object) x8632::ebx))
2375   (testb (:$b x8632::fixnummask) (:%b object)))
2376  ((:pred > (:apply %hard-regspec-value object) x8632::ebx)
2377   (testl (:$l x8632::fixnummask) (:%l object)))
2378  (jne :bad)
2379
2380  (:anchored-uuo-section :again)
2381  :bad
2382  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-fixnum))))
2383
2384(define-x8632-vinsn require-integer (()
2385                                     ((object :lisp))
2386                                     ((tag :u8)))
2387  :again
2388  (movl (:%l object) (:%l tag))
2389  ((:pred = (:apply %hard-regspec-value tag) x8632::eax)
2390   (andb (:$b x8632::fixnummask) (:%accb tag)))
2391  ((:and (:pred > (:apply %hard-regspec-value tag) x8632::eax)
2392         (:pred <= (:apply %hard-regspec-value tag) x8632::ebx))
2393   (andb (:$b x8632::fixnummask) (:%b tag)))
2394  ((:pred > (:apply %hard-regspec-value object) x8632::ebx)
2395   (andl (:$l x8632::fixnummask) (:%l tag)))
2396  (je :got-it)
2397  ((:pred = (:apply %hard-regspec-value tag) x8632::eax)
2398   (cmpb (:$b x8632::tag-misc) (:%accb tag)))
2399  ((:and (:pred > (:apply %hard-regspec-value tag) x8632::eax)
2400         (:pred <= (:apply %hard-regspec-value tag) x8632::ebx))
2401   (cmpb (:$b x8632::tag-misc) (:%b tag)))
2402  ((:pred > (:apply %hard-regspec-value object) x8632::ebx)
2403   (cmpl (:$l x8632::tag-misc) (:%l tag)))
2404  (jne :bad)
2405  (cmpb (:$b x8632::subtag-bignum) (:@ x8632::misc-subtag-offset (:%l object)))
2406  (jne :bad)
2407  :got-it
2408
2409  (:anchored-uuo-section :again)
2410  :bad
2411  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-integer))))
2412
2413(define-x8632-vinsn require-simple-vector (()
2414                                           ((object :lisp))
2415                                           ((tag :u8)))
2416  :again
2417  (movl (:%l object) (:%l tag))
2418  (andl (:$b x8632::fixnummask) (:%l tag))
2419  (cmpl (:$b x8632::tag-misc) (:%l tag))
2420  (jne :bad)
2421  (cmpb (:$b x8632::subtag-simple-vector) (:@ x8632::misc-subtag-offset (:%l object)))
2422  (jne :bad)
2423
2424  (:anchored-uuo-section :again)
2425  :bad
2426  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-simple-vector))))
2427
2428(define-x8632-vinsn require-simple-string (()
2429                                           ((object :lisp))
2430                                           ((tag :u8)))
2431  :again
2432  (movl (:%l object) (:%l tag))
2433  (andl (:$b x8632::fixnummask) (:%l tag))
2434  (cmpl (:$b x8632::tag-misc) (:%l tag))
2435  (jne :bad)
2436  (cmpb (:$b x8632::subtag-simple-base-string) (:@ x8632::misc-subtag-offset (:%l object)))
2437  (jne :bad)
2438
2439  (:anchored-uuo-section :again)
2440  :bad
2441  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-simple-string))))
2442
2443
2444;;; naive
2445(define-x8632-vinsn require-real (()
2446                                    ((object :lisp))
2447                                    ((tag :u8)
2448                                     (mask :lisp)))
2449  :again
2450  (movl (:%l object) (:%l tag))
2451  (andl (:$b x8632::tagmask) (:%l tag))
2452  (cmpl (:$b x8632::tag-misc) (:%l tag))
2453  (jne :have-tag)
2454  (movzbl (:@ x8632::misc-subtag-offset (:%l object)) (:%l tag))
2455  :have-tag
2456  (cmpl (:$b (1- (- x8632::nbits-in-word x8632::fixnumshift))) (:%l tag))
2457  (movl (:$l (ash (logior (ash 1 x8632::tag-fixnum)
2458                          (ash 1 x8632::subtag-single-float)
2459                          (ash 1 x8632::subtag-double-float)
2460                          (ash 1 x8632::subtag-bignum)
2461                          (ash 1 x8632::subtag-ratio))
2462                  x8632::fixnumshift)) (:%l mask))
2463  (ja :bad)
2464  (addl (:$b x8632::fixnumshift) (:%l tag))
2465  (btl (:%l tag) (:%l mask))
2466  (jnc :bad)
2467
2468  (:anchored-uuo-section :again)
2469  :bad
2470  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-real))))
2471
2472;;; naive
2473(define-x8632-vinsn require-number (()
2474                                    ((object :lisp))
2475                                    ((tag :u8)
2476                                     (mask :lisp)))
2477  :again
2478  (movl (:%l object) (:%l tag))
2479  (andl (:$b x8632::tagmask) (:%l tag))
2480  (cmpl (:$b x8632::tag-misc) (:%l tag))
2481  (jne :have-tag)
2482  (movzbl (:@ x8632::misc-subtag-offset (:%l object)) (:%l tag))
2483  :have-tag
2484  (cmpl (:$b (1- (- x8632::nbits-in-word x8632::fixnumshift))) (:%l tag))
2485  (movl (:$l (ash (logior (ash 1 x8632::tag-fixnum)
2486                          (ash 1 x8632::subtag-single-float)
2487                          (ash 1 x8632::subtag-double-float)
2488                          (ash 1 x8632::subtag-bignum)
2489                          (ash 1 x8632::subtag-ratio)
2490                          (ash 1 x8632::subtag-complex))
2491                  x8632::fixnumshift)) (:%l mask))
2492  (ja :bad)
2493  (addl (:$b x8632::fixnumshift) (:%l tag))
2494  (btl (:%l tag) (:%l mask))
2495  (jnc :bad)
2496
2497  (:anchored-uuo-section :again)
2498  :bad
2499  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-number))))
2500
2501(define-x8632-vinsn require-list (()
2502                                  ((object :lisp))
2503                                  ((tag :u8)))
2504  :again
2505  (movl (:%l object) (:%l tag))
2506  (andl (:$b x8632::fulltagmask) (:%l tag))
2507  (cmpl (:$b x8632::fulltag-cons) (:%l tag))
2508  (jne :bad)
2509
2510  (:anchored-uuo-section :again)
2511  :bad
2512  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-list))))
2513
2514(define-x8632-vinsn require-symbol (()
2515                                    ((object :lisp))
2516                                    ((tag :u8)))
2517  :again
2518  (cmpl (:$l (:apply target-nil-value)) (:%l object))
2519  (je :got-it)
2520  (movl (:%l object) (:%l tag))
2521  (andl (:$b x8632::tagmask) (:%l tag))
2522  (cmpl (:$b x8632::tag-misc) (:%l tag))
2523  (jne :bad)
2524  (cmpb (:$b x8632::subtag-symbol) (:@ x8632::misc-subtag-offset (:%l object)))
2525  (jne :bad)
2526  :got-it
2527 
2528  (:anchored-uuo-section :again)
2529  :bad
2530  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-symbol)))
2531)
2532
2533(define-x8632-vinsn require-character (()
2534                                       ((object :lisp)))
2535  :again
2536  (cmpb (:$b x8632::subtag-character) (:%b object))
2537  (jne :bad)
2538
2539  (:anchored-uuo-section :again)
2540  :bad
2541  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-character))))
2542
2543(define-x8632-vinsn require-s8 (()
2544                                ((object :lisp))
2545                                ((tag :u32)))
2546  :again
2547  (movl (:%l object) (:%l tag))
2548  (shll (:$ub (- x8632::nbits-in-word (+ 8 x8632::fixnumshift))) (:%l tag))
2549  (sarl (:$ub (- x8632::nbits-in-word 8)) (:%l tag))
2550  (shll (:$ub x8632::fixnumshift) (:%l tag))
2551  (cmpl (:%l object) (:%l tag))
2552  (jne :bad)
2553
2554  (:anchored-uuo-section :again)
2555  :bad
2556  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-signed-byte-8))))
2557
2558(define-x8632-vinsn require-u8 (()
2559                                ((object :lisp))
2560                                ((tag :u32)))
2561  :again
2562  (movl (:$l (lognot (ash #xff x8632::fixnumshift))) (:%l tag))
2563  (andl (:%l object) (:%l tag))
2564  (jne :bad)
2565
2566  (:anchored-uuo-section :again)
2567  :bad
2568  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-unsigned-byte-8))))
2569
2570(define-x8632-vinsn require-s16 (()
2571                                ((object :lisp))
2572                                ((tag :s32)))
2573  :again
2574  (movl (:%l object) (:%l tag))
2575  (shll (:$ub (- x8632::nbits-in-word (+ 16 x8632::fixnumshift))) (:%l tag))
2576  (sarl (:$ub (- x8632::nbits-in-word 16)) (:%l tag))
2577  (shll (:$ub x8632::fixnumshift) (:%l tag))
2578  (cmpl (:%l object) (:%l tag))
2579  (jne :bad)
2580
2581  (:anchored-uuo-section :again)
2582  :bad
2583  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-signed-byte-16))))
2584
2585(define-x8632-vinsn require-u16 (()
2586                                ((object :lisp))
2587                                ((tag :u32)))
2588  :again
2589  (movl (:$l (lognot (ash #xffff x8632::fixnumshift))) (:%l tag))
2590  (andl (:%l object) (:%l tag))
2591  (jne :bad)
2592
2593  (:anchored-uuo-section :again)
2594  :bad
2595  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-unsigned-byte-16))))
2596
2597(define-x8632-vinsn require-s32 (()
2598                                 ((object :lisp))
2599                                 ((tag :s32)))
2600  :again
2601  (testl (:$l x8632::fixnummask) (:%l object))
2602  (movl (:%l object) (:%l tag))
2603  (je :ok)
2604  (andl (:$l x8632::fulltagmask) (:%l tag))
2605  (cmpl (:$l x8632::fulltag-misc) (:%l tag))
2606  (jne :bad)
2607  (cmpl (:$l x8632::one-digit-bignum-header) (:@ x8632::misc-header-offset (:%l object)))
2608  (jne :bad)
2609  :ok
2610 
2611  (:anchored-uuo-section :again)
2612  :bad
2613  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-signed-byte-32))))
2614
2615(define-x8632-vinsn require-u32 (()
2616                                 ((object :lisp))
2617                                 ((tag :s32)))
2618  :again
2619  (testl (:$l x8632::fixnummask) (:%l object))
2620  (movl (:%l object) (:%l tag))
2621  (je :ok-if-non-negative)
2622  (andl (:$l x8632::fulltagmask) (:%l tag))
2623  (cmpl (:$l x8632::fulltag-misc) (:%l tag))
2624  (jne :bad)
2625  (cmpl (:$l x8632::one-digit-bignum-header) (:@ x8632::misc-header-offset (:%l object)))
2626  (je :one)
2627  (cmpl (:$l x8632::two-digit-bignum-header) (:@ x8632::misc-header-offset (:%l object)))
2628  (jne :bad)
2629  (cmpl (:$b 0) (:@ (+ x8632::misc-data-offset 4) (:%l object)))
2630  (je :ok)
2631  :bad
2632  (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-unsigned-byte-32))
2633  (jmp :again)
2634  :one
2635  (movl (:@ x8632::misc-data-offset (:%l object)) (:%l tag))
2636  :ok-if-non-negative
2637  (testl (:%l tag) (:%l tag))
2638  (js :bad)
2639  :ok)
2640
2641(define-x8632-vinsn require-s64 (()
2642                                 ((object :lisp))
2643                                 ((tag :s32)))
2644  :again
2645  (testl (:$l x8632::fixnummask) (:%l object))
2646  (movl (:%l object) (:%l tag))
2647  (je :ok)
2648  (andl (:$l x8632::fulltagmask) (:%l tag))
2649  (cmpl (:$l x8632::fulltag-misc) (:%l tag))
2650  (jne :bad)
2651  (cmpl (:$l x8632::two-digit-bignum-header) (:@ x8632::misc-header-offset (:%l object)))
2652  (jne :bad)
2653  :ok
2654
2655  (:anchored-uuo-section :again)
2656  :bad
2657  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-signed-byte-64))))
2658
2659(define-x8632-vinsn require-u64 (()
2660                                 ((object :lisp))
2661                                 ((tag :s32)))
2662  :again
2663  (testl (:$l x8632::fixnummask) (:%l object))
2664  (movl (:%l object) (:%l tag))
2665  (je :ok-if-non-negative)
2666  (andl (:$l x8632::fulltagmask) (:%l tag))
2667  (cmpl (:$l x8632::fulltag-misc) (:%l tag))
2668  (jne :bad)
2669  (cmpl (:$l x8632::two-digit-bignum-header) (:@ x8632::misc-header-offset (:%l object)))
2670  (je :two)
2671  (cmpl (:$l x8632::three-digit-bignum-header) (:@ x8632::misc-header-offset (:%l object)))
2672  (jne :bad)
2673  (cmpl (:$b 0) (:@ (+ x8632::misc-data-offset 8) (:%l object)))
2674  (je :ok)
2675  :bad
2676  (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-unsigned-byte-64))
2677  (jmp :again)
2678  :two
2679  (movl (:@ x8632::misc-data-offset (:%l object)) (:%l tag))
2680  :ok-if-non-negative
2681  (testl (:%l tag) (:%l tag))
2682  (js :bad)
2683  :ok)
2684
2685(define-x8632-vinsn require-char-code (()
2686                                       ((object :lisp))
2687                                       ((tag :u32)))
2688  :again
2689  (testb (:$b x8632::fixnummask) (:%b object))
2690  (jne :bad)
2691  (cmpl (:$l (ash #x110000 x8632::fixnumshift)) (:%l object))
2692  (jae :bad)
2693
2694  (:anchored-uuo-section :again)
2695  :bad
2696  (:anchored-uuo (uuo-error-reg-not-type (:%l object) (:$ub arch::error-object-not-mod-char-code-limit))))
2697
2698(define-x8632-vinsn mask-base-char (((dest :u8))
2699                                    ((src :lisp)))
2700  (movzbl (:%b src) (:%l dest)))
2701
2702(define-x8632-vinsn event-poll (()
2703                                ())
2704  (btrl (:$ub 31) (:@ (:%seg :rcontext) x8632::tcr.interrupt-pending))
2705  (jae :no-interrupt)
2706  (ud2a)
2707  (:byte 2)
2708  :no-interrupt)
2709
2710;;; check-2d-bound
2711;;; check-3d-bound
2712
2713(define-x8632-vinsn 2d-dim1 (((dest :u32))
2714                             ((header :lisp)))
2715  (movl (:@ (+ x8632::misc-data-offset (* 4 (1+ x8632::arrayH.dim0-cell)))
2716            (:%l header)) (:%l dest))
2717  (sarl (:$ub x8632::fixnumshift) (:%l dest)))
2718
2719;;; 3d-dims
2720
2721;;; xxx
2722(define-x8632-vinsn 2d-unscaled-index (((dest :imm)
2723                                        (dim1 :u32))
2724                                       ((dim1 :u32)
2725                                        (i :imm)
2726                                        (j :imm)))
2727
2728  (imull (:%l i) (:%l dim1))
2729  (leal (:@ (:%l j) (:%l dim1)) (:%l dest)))
2730
2731;;; 3d-unscaled-index
2732
2733(define-x8632-vinsn branch-unless-both-args-fixnums (()
2734                                                     ((a :lisp)
2735                                                      (b :lisp)
2736                                                      (dest :label))
2737                                                     ((tag :u8)))
2738  (movl (:%l a) (:%l tag))
2739  (orl (:%l b) (:%l tag))
2740  ((:pred = (:apply %hard-regspec-value tag) x8632::eax)
2741   (testb (:$b x8632::fixnummask) (:%accb tag)))
2742  ((:and (:pred > (:apply %hard-regspec-value tag) x8632::eax)
2743         (:pred <= (:apply %hard-regspec-value tag) x8632::ebx))
2744   (testb (:$b x8632::fixnummask) (:%b tag)))
2745  ((:pred > (:apply %hard-regspec-value tag) x8632::ebx)
2746   (testl (:$l x8632::fixnummask) (:%l tag)))
2747  (jne dest))
2748
2749(define-x8632-vinsn branch-unless-arg-fixnum (()
2750                                              ((a :lisp)
2751                                               (dest :label)))
2752  ((:pred <= (:apply %hard-regspec-value a) x8632::ebx)
2753   (testb (:$b x8632::fixnummask) (:%b a)))
2754  ((:pred > (:apply %hard-regspec-value a) x8632::ebx)
2755   (testl (:$l x8632::fixnummask) (:%l a)))
2756  (jne dest))
2757
2758(define-x8632-vinsn fixnum->single-float (((f :single-float))
2759                                          ((arg :lisp))
2760                                          ((unboxed :s32)))
2761  (movl (:%l arg) (:%l unboxed))
2762  (sarl (:$ub x8632::fixnumshift) (:%l unboxed))
2763  (cvtsi2ssl (:%l unboxed) (:%xmm f)))
2764
2765(define-x8632-vinsn fixnum->double-float (((f :double-float))
2766                                          ((arg :lisp))
2767                                          ((unboxed :s32)))
2768  (movl (:%l arg) (:%l unboxed))
2769  (sarl (:$ub x8632::fixnumshift) (:%l unboxed))
2770  (cvtsi2sdl (:%l unboxed) (:%xmm f)))
2771
2772(define-x8632-vinsn xchg-registers (()
2773                                    ((a t)
2774                                     (b t)))
2775  (xchgl (:%l a) (:%l b)))
2776
2777(define-x8632-vinsn establish-fn (()
2778                                  ())
2779  (movl (:$self 0) (:%l x8632::fn)))
2780
2781(define-x8632-vinsn %scharcode32 (((code :imm))
2782                                  ((str :lisp)
2783                                   (idx :imm))
2784                                  ((imm :u32)))
2785  (movl (:@ x8632::misc-data-offset (:%l str) (:%l idx)) (:%l imm))
2786  (imull (:$b x8632::fixnumone) (:%l imm) (:%l code)))
2787
2788(define-x8632-vinsn %set-scharcode32 (()
2789                                      ((str :lisp)
2790                                       (idx :imm)
2791                                       (code :imm))
2792                                      ((imm :u32)))
2793  (movl (:%l code) (:%l imm))
2794  (shrl (:$ub x8632::fixnumshift) (:%l imm))
2795  (movl (:%l imm) (:@ x8632::misc-data-offset (:%l str) (:%l idx))))
2796
2797
2798(define-x8632-subprim-jump-vinsn (tail-call-sym-slide) .SPtcallsymslide)
2799
2800(define-x8632-subprim-jump-vinsn (tail-call-sym-vsp) .SPtcallsymvsp)
2801
2802
2803(define-x8632-vinsn character->code (((dest :u32))
2804                                     ((src :lisp)))
2805  (movl (:%l src) (:%l dest))
2806  (sarl (:$ub x8632::charcode-shift) (:%l dest)))
2807
2808(define-x8632-vinsn adjust-vsp (()
2809                                ((amount :s32const)))
2810  ((:and (:pred >= amount -128) (:pred <= amount 127))
2811   (addl (:$b amount) (:%l x8632::esp)))
2812  ((:not (:and (:pred >= amount -128) (:pred <= amount 127)))
2813   (addl (:$l amount) (:%l x8632::esp))))
2814
2815
2816(define-x8632-vinsn (call-subprim-2 :call :subprim-call) (((dest t))
2817                                                          ((spno :s32const)
2818                                                           (y t)
2819                                                           (z t))
2820                                                          ((entry (:label 1))))
2821  (:talign 5)
2822  (call (:@ spno))
2823  (movl (:$self 0) (:%l x8632::fn)))
2824
2825(define-x8632-vinsn %symbol->symptr (((dest :lisp))
2826                                     ((src :lisp))
2827                                     ((tag :u8)))
2828  :resume
2829  (cmpl (:$l (:apply target-nil-value)) (:%l src))
2830  (je :nilsym)
2831  (movl (:%l src) (:%l tag))
2832  (andl (:$b x8632::tagmask) (:%l tag))
2833  (cmpl (:$b x8632::tag-misc) (:%l tag))
2834  (jne :bad)
2835  (movsbl (:@ x8632::misc-subtag-offset (:%l src)) (:%l tag))
2836  (cmpl (:$b x8632::subtag-symbol) (:%l tag))
2837  (jne :bad)
2838  ((:not (:pred =
2839                (:apply %hard-regspec-value dest)
2840                (:apply %hard-regspec-value src)))
2841   (movl (:% src) (:% dest)))
2842  (jmp :ok)
2843  :nilsym
2844  (movl (:$l (:apply + (:apply target-nil-value) x8632::nilsym-offset)) (:%l dest))
2845  :ok
2846 
2847  (:anchored-uuo-section :resume)
2848  :bad
2849  (:anchored-uuo (uuo-error-reg-not-tag (:%l src) (:$ub x8632::subtag-symbol))))
2850
2851(define-x8632-vinsn single-float-bits (((dest :u32))
2852                                       ((src :lisp)))
2853  (movl (:@ x8632::misc-data-offset (:%l src)) (:%l dest)))
2854
2855(define-x8632-vinsn zero-double-float-register (((dest :double-float))
2856                                                ())
2857  (movsd (:%xmm x8632::fpzero) (:%xmm dest)))
2858
2859(define-x8632-vinsn zero-single-float-register (((dest :single-float))
2860                                                ())
2861  (movss (:%xmm x8632::fpzero) (:%xmm dest)))
2862
2863(define-x8632-subprim-lea-jmp-vinsn (heap-rest-arg) .SPheap-rest-arg)
2864(define-x8632-subprim-lea-jmp-vinsn (stack-rest-arg) .SPstack-rest-arg)
2865(define-x8632-subprim-lea-jmp-vinsn (req-stack-rest-arg) .SPreq-stack-rest-arg)
2866
2867
2868(define-x8632-subprim-call-vinsn (stack-misc-alloc) .SPstack-misc-alloc)
2869
2870(define-x8632-vinsn misc-element-count-fixnum (((dest :imm))
2871                                               ((src :lisp))
2872                                               ((temp :u32)))
2873  (movl (:@ x8632::misc-header-offset (:%l src)) (:%l temp))
2874  (shrl (:$ub x8632::num-subtag-bits) (:%l temp))
2875  (leal (:@ (:%l temp) 4) (:%l dest)))
2876
2877(define-x8632-vinsn %logior2 (((dest :imm))
2878                              ((x :imm)
2879                               (y :imm)))
2880  ((:pred =
2881          (:apply %hard-regspec-value x)
2882          (:apply %hard-regspec-value dest))
2883   (orl (:%l y) (:%l dest)))
2884  ((:not (:pred =
2885                (:apply %hard-regspec-value x)
2886                (:apply %hard-regspec-value dest)))
2887   ((:pred =
2888           (:apply %hard-regspec-value y)
2889           (:apply %hard-regspec-value dest))
2890    (orl (:%l x) (:%l dest)))
2891   ((:not (:pred =
2892                 (:apply %hard-regspec-value y)
2893                 (:apply %hard-regspec-value dest)))
2894    (movl (:%l x) (:%l dest))
2895    (orl (:%l y) (:%l dest)))))
2896
2897(define-x8632-vinsn %logand2 (((dest :imm))
2898                              ((x :imm)
2899                               (y :imm)))
2900  ((:pred =
2901          (:apply %hard-regspec-value x)
2902          (:apply %hard-regspec-value dest))
2903   (andl (:%l y) (:%l dest)))
2904  ((:not (:pred =
2905                (:apply %hard-regspec-value x)
2906                (:apply %hard-regspec-value dest)))
2907   ((:pred =
2908           (:apply %hard-regspec-value y)
2909           (:apply %hard-regspec-value dest))
2910    (andl (:%l x) (:%l dest)))
2911   ((:not (:pred =
2912                 (:apply %hard-regspec-value y)
2913                 (:apply %hard-regspec-value dest)))
2914    (movl (:%l x) (:%l dest))
2915    (andl (:%l y) (:%l dest)))))
2916
2917(define-x8632-vinsn %logxor2 (((dest :imm))
2918                              ((x :imm)
2919                               (y :imm)))
2920  ((:pred =
2921          (:apply %hard-regspec-value x)
2922          (:apply %hard-regspec-value dest))
2923   (xorl (:%l y) (:%l dest)))
2924  ((:not (:pred =
2925                (:apply %hard-regspec-value x)
2926                (:apply %hard-regspec-value dest)))
2927   ((:pred =
2928           (:apply %hard-regspec-value y)
2929           (:apply %hard-regspec-value dest))
2930    (xorl (:%l x) (:%l dest)))
2931   ((:not (:pred =
2932                 (:apply %hard-regspec-value y)
2933                 (:apply %hard-regspec-value dest)))
2934    (movl (:%l x) (:%l dest))
2935    (xorl (:%l y) (:%l dest)))))
2936
2937
2938(define-x8632-subprim-call-vinsn (integer-sign) .SPinteger-sign)
2939
2940(define-x8632-subprim-call-vinsn (misc-ref) .SPmisc-ref)
2941
2942(define-x8632-subprim-call-vinsn (ksignalerr) .SPksignalerr)
2943
2944(define-x8632-subprim-call-vinsn (misc-alloc-init) .SPmisc-alloc-init)
2945
2946(define-x8632-subprim-call-vinsn (misc-alloc) .SPmisc-alloc)
2947
2948(define-x8632-subprim-lea-jmp-vinsn (make-stack-gvector)  .SPstkgvector)
2949
2950(define-x8632-vinsn load-character-constant (((dest :lisp))
2951                                             ((code :u32const))
2952                                             ())
2953  (movl (:$l (:apply logior (:apply ash code 8) x8632::subtag-character))
2954        (:%l dest)))
2955
2956
2957(define-x8632-vinsn setup-single-float-allocation (()
2958                                                   ())
2959  (movl (:$l (arch::make-vheader x8632::single-float.element-count x8632::subtag-single-float)) (:%l x8632::imm0))
2960  (movd (:%l x8632::imm0) (:%mmx x8632::mm0))
2961  (movl (:$l (- x8632::single-float.size x8632::fulltag-misc)) (:%l x8632::imm0)))
2962 
2963(define-x8632-vinsn setup-double-float-allocation (()
2964                                                   ())
2965  (movl (:$l (arch::make-vheader x8632::double-float.element-count x8632::subtag-double-float)) (:%l x8632::imm0))
2966  (movd (:%l x8632::imm0) (:%mmx x8632::mm0))
2967  (movl (:$l (- x8632::double-float.size x8632::fulltag-misc)) (:%l x8632::imm0)))
2968
2969(define-x8632-vinsn set-single-float-value (()
2970                                            ((node :lisp)
2971                                             (val :single-float)))
2972  (movss (:%xmm val) (:@ x8632::single-float.value (:%l node))))
2973
2974(define-x8632-vinsn set-double-float-value (()
2975                                            ((node :lisp)
2976                                             (val :double-float)))
2977  (movsd (:%xmm val) (:@ x8632::double-float.value (:%l node))))
2978
2979(define-x8632-vinsn word-index-and-bitnum-from-index (((word-index :u32)
2980                                                       (bitnum :u8))
2981                                                      ((index :imm)))
2982  (movl (:%l index) (:%l word-index))
2983  (shrl (:$ub x8632::fixnumshift) (:%l word-index))
2984  (movl (:$l 31) (:%l bitnum))
2985  (andl (:%l word-index) (:%l bitnum))
2986  (shrl (:$ub 5) (:%l word-index)))
2987
2988(define-x8632-vinsn ref-bit-vector-fixnum (((dest :imm)
2989                                            (bitnum :u8))
2990                                           ((bitnum :u8)
2991                                            (bitvector :lisp)
2992                                            (word-index :u32)))
2993  (btl (:%l bitnum) (:@ x8632::misc-data-offset (:%l bitvector) (:%l word-index) 4))
2994  (setb (:%b bitnum))
2995  (negb (:%b bitnum))
2996  (andl (:$l x8632::fixnumone) (:%l bitnum))
2997  (movl (:%l bitnum) (:%l dest)))
2998
2999(define-x8632-vinsn nref-bit-vector-fixnum (((dest :imm)
3000                                             (bitnum :s32))
3001                                            ((bitnum :s32)
3002                                             (bitvector :lisp))
3003                                            ())
3004  (btl (:%l bitnum) (:@ x8632::misc-data-offset (:%l bitvector)))
3005  (setc (:%b bitnum))
3006  (movzbl (:%b bitnum) (:%l bitnum))
3007  (imull (:$b x8632::fixnumone) (:%l bitnum) (:%l dest)))
3008
3009(define-x8632-vinsn nref-bit-vector-flags (()
3010                                           ((bitnum :s32)
3011                                            (bitvector :lisp))
3012                                           ())
3013  (btl (:%l bitnum) (:@ x8632::misc-data-offset (:%l bitvector))))
3014
3015(define-x8632-vinsn misc-ref-c-bit-fixnum (((dest :imm))
3016                                           ((src :lisp)
3017                                            (idx :u32const))
3018                                           ((temp :u8)))
3019  (btl (:$ub (:apply logand 31 idx))
3020       (:@ (:apply + x8632::misc-data-offset (:apply ash (:apply ash idx -5) x8632::word-shift)) (:%l src)))
3021  (setc (:%b temp))
3022  (movzbl (:%b temp) (:%l temp))
3023  (imull (:$b x8632::fixnumone) (:%l temp) (:%l dest)))
3024
3025(define-x8632-vinsn misc-ref-c-bit-flags (()
3026                                          ((src :lisp)
3027                                           (idx :u64const)))
3028  (btl (:$ub (:apply logand 31 idx))
3029       (:@ (:apply + x8632::misc-data-offset (:apply ash (:apply ash idx -5) x8632::word-shift)) (:%l src))))
3030
3031(define-x8632-vinsn set-macptr-address (()
3032                                        ((addr :address)
3033                                         (src :lisp))
3034                                        ())
3035  (movl (:%l addr) (:@ x8632::macptr.address (:%l src))))
3036
3037(define-x8632-vinsn deref-macptr (((addr :address))
3038                                  ((src :lisp))
3039                                  ())
3040  (movl (:@ x8632::macptr.address (:%l src)) (:%l addr)))
3041
3042(define-x8632-vinsn setup-macptr-allocation (()
3043                                             ((src :address)))
3044  (movd (:%l src) (:%mmx x8632::mm1))   ;see %set-new-macptr-value, below
3045  (movl (:$l x8632::macptr-header) (:%l x8632::imm0))
3046  (movd (:%l x8632::imm0) (:%mmx x8632::mm0))
3047  (movl (:$l (- x8632::macptr.size x8632::fulltag-misc)) (:%l x8632::imm0)))
3048
3049(define-x8632-vinsn %set-new-macptr-value (()
3050                                           ((ptr :lisp)))
3051  (movd (:%mmx x8632::mm1) (:@ x8632::macptr.address (:%l ptr))))
3052
3053(define-x8632-vinsn mem-ref-natural (((dest :u32))
3054                                     ((src :address)
3055                                      (index :s32)))
3056  (movl (:@ (:%l src) (:%l index)) (:%l dest)))
3057
3058(define-x8632-vinsn mem-ref-c-fullword (((dest :u32))
3059                                        ((src :address)
3060                                         (index :s32const)))
3061  ((:pred = index 0)
3062   (movl (:@ (:%l src)) (:%l dest)))
3063  ((:not (:pred = index 0))
3064   (movl (:@ index (:%l src)) (:%l dest))))
3065
3066(define-x8632-vinsn mem-ref-c-signed-fullword (((dest :s32))
3067                                               ((src :address)
3068                                                (index :s32const)))
3069  ((:pred = index 0)
3070   (movl (:@ (:%l src)) (:%l dest)))
3071  ((:not (:pred = index 0))
3072   (movl (:@ index (:%l src)) (:%l dest))))
3073
3074(define-x8632-vinsn mem-ref-c-single-float (((dest :single-float))
3075                                            ((src :address)
3076                                             (index :s32const)))
3077  ((:pred = index 0)
3078   (movss (:@ (:%l src)) (:%xmm dest)))
3079  ((:not (:pred = index 0))
3080   (movss (:@ index (:%l src)) (:%xmm dest))))
3081
3082(define-x8632-vinsn mem-set-c-single-float (()
3083                                            ((val :single-float)
3084                                             (src :address)
3085                                             (index :s16const)))
3086  ((:pred = index 0)
3087   (movss (:%xmm val) (:@ (:%l src))))
3088  ((:not (:pred = index 0))
3089   (movss (:%xmm val) (:@ index (:%l src)))))
3090
3091(define-x8632-vinsn mem-ref-c-natural (((dest :u32))
3092                                       ((src :address)
3093                                        (index :s32const)))
3094  ((:pred = index 0)
3095   (movl (:@ (:%l src)) (:%l dest)))
3096  ((:not (:pred = index 0))
3097   (movl (:@ index (:%l src)) (:%l dest))))
3098
3099(define-x8632-vinsn mem-ref-c-double-float (((dest :double-float))
3100                                            ((src :address)
3101                                             (index :s32const)))
3102  ((:pred = index 0)
3103   (movsd (:@ (:%l src)) (:%xmm dest)))
3104  ((:not (:pred = index 0))
3105   (movsd (:@ index (:%l src)) (:%xmm dest))))
3106
3107(define-x8632-vinsn mem-set-c-double-float (()
3108                                            ((val :double-float)
3109                                             (src :address)
3110                                             (index :s32const)))
3111  ((:pred = index 0)
3112   (movsd (:%xmm val) (:@ (:%l src))))
3113  ((:not (:pred = index 0))
3114   (movsd (:%xmm val) (:@ index (:%l src)))))
3115
3116(define-x8632-vinsn mem-ref-fullword (((dest :u32))
3117                                      ((src :address)
3118                                       (index :s32)))
3119  (movl (:@ (:%l src) (:%l index)) (:%l dest)))
3120
3121(define-x8632-vinsn mem-ref-signed-fullword (((dest :s32))
3122                                             ((src :address)
3123                                              (index :s32)))
3124  (movl (:@ (:%l src) (:%l index)) (:%l dest)))
3125
3126(define-x8632-vinsn macptr->stack (((dest :lisp))
3127                                   ((ptr :address))
3128                                   ((temp :imm)))
3129  (movd (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%mmx x8632::stack-temp))
3130  (subl (:$b (+ 8 x8632::macptr.size)) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp))
3131  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
3132  (movd (:%mmx x8632::stack-temp) (:@ (:%l temp)))
3133  (movl (:%l x8632::ebp) (:@ 4 (:%l temp)))
3134  (leal (:@ (+ 8 x8632::fulltag-misc) (:%l  temp)) (:%l dest))
3135  (movl (:$l x8632::macptr-header) (:@ x8632::macptr.header (:%l dest)))
3136  (movl (:%l ptr) (:@ x8632::macptr.address (:%l dest)))
3137  (movsd (:%xmm x8632::fpzero)  (:@ x8632::macptr.domain (:%l dest))))
3138
3139(define-x8632-vinsn fixnum->signed-natural (((dest :s32))
3140                                            ((src :imm)))
3141  (movl (:%l src) (:%l dest))
3142  (sarl (:$ub x8632::fixnumshift) (:%l dest)))
3143
3144(define-x8632-vinsn fixnum->unsigned-natural (((dest :u32))
3145                                              ((src :imm)))
3146  (movl (:%l src) (:%l dest))
3147  (shrl (:$ub x8632::fixnumshift) (:%l dest)))
3148
3149(define-x8632-vinsn mem-set-double-float (()
3150                                          ((val :double-float)
3151                                           (src :address)
3152                                           (index :s32)))
3153  (movsd (:%xmm val) (:@ (:%l src) (:%l index))))
3154
3155(define-x8632-vinsn mem-set-single-float (()
3156                                          ((val :single-float)
3157                                           (src :address)
3158                                           (index :s32)))
3159  (movss (:%xmm val) (:@ (:%l src) (:%l index))))
3160
3161(define-x8632-vinsn mem-set-c-fullword (()
3162                                          ((val :u32)
3163                                           (dest :address)
3164                                           (offset :s32const)))
3165  ((:pred = offset 0)
3166   (movl (:%l val) (:@ (:%l dest))))
3167  ((:not (:pred = offset 0))
3168   (movl (:%l val) (:@ offset (:%l dest)))))
3169
3170(define-x8632-vinsn mem-set-bit-variable-value (((src :address))
3171                                                ((src :address)
3172                                                 (offset :lisp)
3173                                                 (value :lisp))
3174                                                ((temp :lisp)))
3175  ;; (mark-as-imm temp)
3176  (btrl (:$ub (:apply %hard-regspec-value temp))
3177        (:@ (:%seg :rcontext) x8632::tcr.node-regs-mask))
3178  (movl (:%l offset) (:%l temp))
3179  (shrl (:$ub (+ 5 x8632::fixnumshift)) (:%l temp))
3180  (leal (:@ (:%l src) (:%l temp) 4) (:%l src))
3181  (movl (:%l offset) (:%l temp))
3182  (shrl (:$ub x8632::fixnumshift) (:%l temp))
3183  (andl (:$l 31) (:%l temp))
3184  (testl (:%l value) (:%l value))
3185  (jne :set)
3186  (btrl (:%l temp) (:@ (:%l src)))
3187  (jmp :done)
3188  :set
3189  (btsl (:%l temp) (:@ (:%l src)))
3190  :done
3191  ;; (mark-as-node temp)
3192  (xorl (:%l temp) (:%l temp))
3193  (btsl (:$ub (:apply %hard-regspec-value temp))
3194        (:@ (:%seg :rcontext) x8632::tcr.node-regs-mask)))
3195
3196
3197(define-x8632-vinsn mem-set-c-bit-variable-value (()
3198                                                  ((src :address)
3199                                                   (offset :s32const)
3200                                                   (value :lisp)))
3201  (testl (:%l value) (:%l value))
3202  (jne :set)
3203  ((:pred = 0 (:apply ash offset -5))
3204   (btrl (:$ub (:apply logand 31 offset))
3205        (:@  (:%l src))))
3206  ((:not (:pred = 0 (:apply ash offset -5)))
3207   (btrl (:$ub (:apply logand 31 offset))
3208         (:@ (:apply ash (:apply ash offset -5) 4) (:%l src))))
3209  (jmp :done)
3210  :set
3211  ((:pred = 0 (:apply ash offset -5))
3212   (btsl (:$ub (:apply logand 31 offset))
3213         (:@  (:%l src))))
3214  ((:not (:pred = 0 (:apply ash offset -5)))
3215   (btsl (:$ub (:apply logand 31 offset))
3216         (:@ (:apply ash (:apply ash offset -5) 2) (:%l src))))
3217  :done)
3218
3219(define-x8632-vinsn %natural+  (((result :u32))
3220                               ((result :u32)
3221                                (other :u32)))
3222  (addl (:%l other) (:%l result)))
3223
3224(define-x8632-vinsn %natural+-c (((result :u32))
3225                                ((result :u32)
3226                                 (constant :u32const)))
3227  (addl (:$l (:apply unsigned-to-signed constant 32)) (:%l result)))
3228
3229(define-x8632-vinsn %natural-  (((result :u32))
3230                                ((result :u32)
3231                                 (other :u32)))
3232  (subl (:%l other) (:%l result)))
3233
3234(define-x8632-vinsn %natural--c (((result :u32))
3235                                ((result :u32)
3236                                 (constant :u32const)))
3237  (subl (:$l (:apply unsigned-to-signed constant 32)) (:%l result)))
3238
3239(define-x8632-vinsn %natural-logior (((result :u32))
3240                                    ((result :u32)
3241                                     (other :u32)))
3242  (orl (:%l other) (:%l result)))
3243
3244(define-x8632-vinsn %natural-logior-c (((result :u32))
3245                                      ((result :u32)
3246                                       (constant :u32const)))
3247  (orl (:$l (:apply unsigned-to-signed constant 32)) (:%l result)))
3248
3249(define-x8632-vinsn %natural-logand (((result :u32))
3250                                    ((result :u32)
3251                                     (other :u32)))
3252  (andl (:%l other) (:%l result)))
3253
3254(define-x8632-vinsn %natural-logand-c (((result :u32))
3255                                      ((result :u32)
3256                                       (constant :u32const)))
3257  (andl (:$l (:apply unsigned-to-signed constant 32)) (:%l result)))
3258
3259(define-x8632-vinsn %natural-logxor (((result :u32))
3260                                    ((result :u32)
3261                                     (other :u32)))
3262  (xorl (:%l other) (:%l result)))
3263
3264(define-x8632-vinsn %natural-logxor-c (((result :u32))
3265                                       ((result :u32)
3266                                        (constant :u32const)))
3267  (xorl (:$l (:apply unsigned-to-signed constant 32)) (:%l result)))
3268
3269(define-x8632-vinsn natural-shift-left (((dest :u32))
3270                                        ((dest :u32)
3271                                         (amt :u8const)))
3272  (shll (:$ub amt) (:%l dest)))
3273
3274(define-x8632-vinsn natural-shift-right (((dest :u32))
3275                                         ((dest :u32)
3276                                          (amt :u8const)))
3277  (shrl (:$ub amt) (:%l dest)))
3278
3279(define-x8632-vinsn recover-fn (()
3280                                ())
3281  (movl (:$self 0) (:%l x8632::fn)))
3282
3283;;; xxx probably wrong
3284(define-x8632-vinsn (call-subprim-3 :call :subprim-call) (((dest t))
3285                                                          ((spno :s32const)
3286                                                           (x t)
3287                                                           (y t)
3288                                                           (z t))
3289                                                          ((entry (:label 1))))
3290  (:talign 5)
3291  (call (:@ spno))
3292  (movl (:$self 0) (:%l x8632::fn)))
3293
3294(define-x8632-vinsn vcell-ref (((dest :lisp))
3295                               ((vcell :lisp)))
3296  (movl (:@ x8632::misc-data-offset (:%l vcell)) (:%l dest)))
3297
3298(define-x8632-vinsn setup-vcell-allocation (()
3299                                            ())
3300  (movl (:$l x8632::value-cell-header) (:%l x8632::imm0))
3301  (movd (:%l x8632::imm0) (:%mmx x8632::mm0))
3302  (movl (:$l (- x8632::value-cell.size x8632::fulltag-misc)) (:%l x8632::imm0)))
3303
3304(define-x8632-vinsn %init-vcell (()
3305                                 ((vcell :lisp)
3306                                  (closed :lisp)))
3307  (movl (:%l closed) (:@ x8632::value-cell.value (:%l vcell))))
3308
3309;;; "old" mkunwind.  Used by PROGV, since the binding of *interrupt-level*
3310;;; on entry to the new mkunwind confuses the issue.
3311
3312(define-x8632-vinsn (mkunwind :call :subprim-call) (()
3313                                                     ((protform-lab :label)
3314                                                      (cleanup-lab :label)))
3315  (leal (:@ (:^ protform-lab) (:%l x8632::fn)) (:%l x8632::ra0))
3316  (leal (:@ (:^ cleanup-lab)  (:%l x8632::fn)) (:%l x8632::xfn))
3317  (jmp (:@ .SPmkunwind)))
3318
3319;;; Funcall the function or symbol in temp0 and obtain the single
3320;;; value that it returns.
3321(define-x8632-subprim-call-vinsn (funcall) .SPfuncall)
3322
3323(define-x8632-vinsn tail-funcall (()
3324                                  ()
3325                                  ((tag :u8)))
3326  :resume
3327  (movl (:%l x8632::temp0) (:%l tag))
3328  ((:pred = (:apply %hard-regspec-value tag) x8632::eax)
3329   (andl (:$b x8632::tagmask) (:%accl tag))
3330   (cmpl (:$b x8632::tag-misc) (:%accl tag)))
3331  ((:pred > (:apply %hard-regspec-value tag) x8632::eax)
3332   (andl (:$b x8632::tagmask) (:%l tag))
3333   (cmpl (:$b x8632::tag-misc) (:%l tag)))
3334  (jne :bad)
3335  (movsbl (:@ x8632::misc-subtag-offset (:%l x8632::temp0)) (:%l tag))
3336  (cmpl (:$b x8632::subtag-function) (:%l tag))
3337  (je :go)
3338  (cmpl (:$b x8632::subtag-symbol) (:%l tag))
3339  (cmovel (:@ x8632::symbol.fcell (:%l x8632::temp0)) (:%l x8632::temp0))
3340  (jne :bad)
3341  :go
3342  (jmp (:%l x8632::temp0))
3343
3344  (:anchored-uuo-section :resume)
3345  :bad
3346  (:anchored-uuo (uuo-error-not-callable)))
3347
3348;;; Magic numbers in here include the address of .SPcall-closure.
3349
3350;;; movl $self, %fn
3351;;; jmp *20660 (.SPcall-closure)
3352(define-x8632-vinsn init-nclosure (()
3353                                   ((closure :lisp)))
3354  (movb (:$b 6) (:@ x8632::misc-data-offset (:%l closure))) ;imm word count
3355  (movb (:$b #xbf) (:@ (+ x8632::misc-data-offset 2) (:%l closure))) ;movl $self, %fn
3356  (movl (:%l closure) (:@ (+ x8632::misc-data-offset 3) (:%l closure)))
3357  (movb (:$b #xff) (:@ (+ x8632::misc-data-offset 7) (:%l closure))) ;jmp
3358  (movl (:$l #x0150b425) (:@ (+ x8632::misc-data-offset 8) (:%l closure))) ;.SPcall-closure
3359  ;; already aligned
3360  ;; (movl ($ 0) (:@ (+ x8632::misc-data-offset 12))) ;"end" of self-references
3361  (movb (:$b 7) (:@ (+ x8632::misc-data-offset 16) (:%l closure))) ;self-reference offset
3362  (movb (:$b x8632::function-boundary-marker) (:@ (+ x8632::misc-data-offset 20) (:%l closure))))
3363
3364(define-x8632-vinsn finalize-closure (((closure :lisp))
3365                                      ((closure :lisp)))
3366  (nop))
3367
3368
3369(define-x8632-vinsn (ref-symbol-value :call :subprim-call)
3370    (((val :lisp))
3371     ((sym (:lisp (:ne val)))))
3372  (:talign 5)
3373  (call (:@ .SPspecrefcheck))
3374  (movl (:$self 0) (:%l x8632::fn)))
3375
3376(define-x8632-vinsn ref-symbol-value-inline (((dest :lisp))
3377                                             ((src (:lisp (:ne dest))))
3378                                             ((table :imm)
3379                                              (idx :imm)))
3380  :resume
3381  (movl (:@ x8632::symbol.binding-index (:%l src)) (:%l idx))
3382  (rcmpl (:%l idx) (:@ (:%seg :rcontext) x8632::tcr.tlb-limit))
3383  (movl (:@ (:%seg :rcontext) x8632::tcr.tlb-pointer) (:%l table))
3384  (jae :symbol)
3385  (movl (:@ (:%l table) (:%l idx)) (:%l dest))
3386  (cmpl (:$l x8632::subtag-no-thread-local-binding) (:%l dest))
3387  (jne :test)
3388  :symbol
3389  (movl (:@ x8632::symbol.vcell (:%l src)) (:%l dest))
3390  :test
3391  (cmpl (:$l x8632::unbound-marker) (:%l dest))
3392  (je :bad)
3393
3394  (:anchored-uuo-section :resume)
3395  :bad
3396  (:anchored-uuo (uuo-error-unbound (:%l src))))
3397
3398(define-x8632-vinsn (%ref-symbol-value :call :subprim-call)
3399    (((val :lisp))
3400     ((sym (:lisp (:ne val)))))
3401  (:talign 5)
3402  (call (:@ .SPspecref))
3403  (movl (:$self 0) (:%l x8632::fn)))
3404
3405(define-x8632-vinsn %ref-symbol-value-inline (((dest :lisp))
3406                                              ((src (:lisp (:ne dest))))
3407                                              ((table :imm)
3408                                               (idx :imm)))
3409  (movl (:@ x8632::symbol.binding-index (:%l src)) (:%l idx))
3410  (rcmpl (:%l idx) (:@ (:%seg :rcontext) x8632::tcr.tlb-limit))
3411  (jae :symbol)
3412  (addl (:@ (:%seg :rcontext) x8632::tcr.tlb-pointer) (:%l idx))
3413  (movl (:@ (:%l idx)) (:%l dest))
3414  (cmpl (:$l x8632::subtag-no-thread-local-binding) (:%l dest))
3415  (jne :done)
3416  :symbol
3417  (movl (:@ x8632::symbol.vcell (:%l src)) (:%l dest))
3418  :done)
3419
3420(define-x8632-vinsn ref-interrupt-level (((dest :imm))
3421                                         ()
3422                                         ((temp :u32)))
3423  (movl (:@ (:%seg :rcontext) x8632::tcr.tlb-pointer) (:%l temp))
3424  (movl (:@ x8632::interrupt-level-binding-index (:%l temp)) (:%l dest)))
3425
3426(define-x8632-subprim-lea-jmp-vinsn (bind-nil)  .SPbind-nil)
3427
3428(define-x8632-subprim-lea-jmp-vinsn (bind-self)  .SPbind-self)
3429
3430(define-x8632-subprim-lea-jmp-vinsn (bind-self-boundp-check)  .SPbind-self-boundp-check)
3431
3432(define-x8632-subprim-lea-jmp-vinsn (bind)  .SPbind)
3433
3434(define-x8632-vinsn (dpayback :call :subprim-call) (()
3435                                                    ((n :s16const))
3436                                                    ((temp (:u32 #.x8632::imm0))
3437                                                     (entry (:label 1))))
3438  ((:pred > n 0)
3439   ((:pred > n 1)
3440    (movl (:$l n) (:%l temp))
3441    (:talign 5)
3442    (call (:@ .SPunbind-n)))
3443   ((:pred = n 1)
3444    (:talign 5)
3445    (call (:@ .SPunbind)))
3446   (movl (:$self 0) (:%l x8632::fn))))
3447
3448(define-x8632-subprim-jump-vinsn (tail-call-sym-gen) .SPtcallsymgen)
3449
3450(define-x8632-subprim-call-vinsn (make-stack-list)  .Spmakestacklist)
3451
3452(define-x8632-vinsn node-slot-ref  (((dest :lisp))
3453                                    ((node :lisp)
3454                                     (cellno :u32const)))
3455  (movl (:@ (:apply + x8632::misc-data-offset (:apply ash cellno 2))
3456            (:%l node)) (:%l dest)))
3457
3458(define-x8632-subprim-lea-jmp-vinsn (stack-cons-list)  .SPstkconslist)
3459
3460(define-x8632-vinsn save-lexpr-argregs (()
3461                                        ((min-fixed :u16const)))
3462  ((:pred >= min-fixed $numx8632argregs)
3463   (pushl (:%l x8632::arg_y))
3464   (pushl (:%l x8632::arg_z)))
3465  ((:pred = min-fixed 1)                ; at least one arg
3466   (rcmpl (:%l x8632::nargs) (:$b (ash 1 x8632::word-shift)))
3467   (je :z1)                             ;skip arg_y if exactly 1
3468   (pushl (:%l x8632::arg_y))
3469   :z1
3470   (pushl (:%l x8632::arg_z)))
3471  ((:pred = min-fixed 0)
3472   (rcmpl (:%l x8632::nargs) (:$b (ash 1 x8632::word-shift)))
3473   (je :z0)                             ;exactly one
3474   (jl :none)                           ;none
3475                                        ;two or more...
3476   (pushl (:%l x8632::arg_y))
3477   :z0
3478   (pushl (:%l x8632::arg_z))
3479   :none
3480   )
3481  ((:not (:pred = min-fixed 0))
3482   (leal (:@ (:apply - (:apply ash min-fixed x8632::word-shift)) (:%l x8632::nargs))
3483         (:%l x8632::nargs)))
3484  (pushl (:%l x8632::nargs))
3485  (movl (:%l x8632::esp) (:%l x8632::arg_z)))
3486
3487;;; The frame that was built (by SAVE-LISP-CONTEXT-VARIABLE-ARG-COUNT
3488;;; and SAVE-LEXPR-ARGREGS) contains an unknown number of arguments
3489;;; followed by the count of non-required arguments; the count is on
3490;;; top of the stack and its address is in %arg_z.  We need to build a
3491;;; frame so that the function can address its arguments (copies of
3492;;; the required arguments and the lexpr) and locals; when the
3493;;; function returns, it should one or more values (depending on how
3494;;; it was called) and discard the hidden lexpr frame.  At this point,
3495;;; %ra0 still contains the "real" return address. If it's not the
3496;;; magic multiple-value address, we can make the function return to
3497;;; something that does a single-value return (.SPpopj); otherwise, we
3498;;; need to make it return multiple values to the real caller. (Unlike
3499;;; the PPC, this case only involves creating one frame here, but that
3500;;; frame has two return addresses.)
3501(define-x8632-vinsn build-lexpr-frame (()
3502                                       ()
3503                                       ((temp :imm)
3504                                        (ra0 (:lisp #.x8632::ra0))))
3505  (movl (:@ (:apply + (:apply target-nil-value) (x8632::%kernel-global 'x86::ret1valaddr)))
3506        (:%l temp))
3507  (cmpl (:%l temp) (:%l ra0))
3508  (je :multiple)
3509  (pushl (:@ (:apply + (:apply target-nil-value) (x8632::%kernel-global 'x86::lexpr-return1v))))
3510  (jmp :finish)
3511  :multiple
3512  (pushl (:@ (:apply + (:apply target-nil-value) (x8632::%kernel-global 'x86::lexpr-return))))
3513  (pushl (:%l temp))
3514  :finish
3515  (pushl (:%l x8632::ebp))
3516  (movl (:%l x8632::esp) (:%l x8632::ebp)))
3517
3518(define-x8632-vinsn copy-lexpr-argument (()
3519                                         ((n :u16const))
3520                                         ((temp :imm)))
3521  (movl (:@ (:%l x8632::arg_z)) (:%l temp))
3522  (pushl (:@ (:apply ash n x8632::word-shift) (:%l x8632::arg_z) (:%l temp))))
3523
3524(define-x8632-vinsn %current-tcr (((dest :lisp))
3525                                 ())
3526  (movl (:@ (:%seg :rcontext) x8632::tcr.linear) (:%l dest)))
3527
3528(define-x8632-vinsn (setq-special :call :subprim-call)
3529    (()
3530     ((sym :lisp)
3531      (val :lisp))
3532     ((entry (:label 1))))
3533  (:talign 5)
3534  (call (:@ .SPspecset))
3535  (movl (:$self 0) (:%l x8632::fn)))
3536
3537(define-x8632-vinsn pop-argument-registers (()
3538                                            ())
3539  (testl (:%l x8632::nargs) (:%l x8632::nargs))
3540  (je :done)
3541  (rcmpl (:%l x8632::nargs) (:$l (ash 1 x8632::word-shift)))
3542  (popl (:%l x8632::arg_z))
3543  (je :done)
3544  (popl (:%l x8632::arg_y))
3545  :done)
3546
3547(define-x8632-vinsn %symptr->symvector (((target :lisp))
3548                                        ((target :lisp)))
3549  (nop))
3550
3551(define-x8632-vinsn %symvector->symptr (((target :lisp))
3552                                        ((target :lisp)))
3553  (nop))
3554
3555(define-x8632-subprim-lea-jmp-vinsn (spread-lexpr)  .SPspread-lexpr-z)
3556
3557(define-x8632-vinsn mem-ref-double-float (((dest :double-float))
3558                                          ((src :address)
3559                                           (index :s32)))
3560  (movsd (:@ (:%l src) (:%l index)) (:%xmm dest)))
3561
3562(define-x8632-vinsn mem-ref-single-float (((dest :single-float))
3563                                          ((src :address)
3564                                           (index :s32)))
3565  (movss (:@ (:%l src) (:%l index)) (:%xmm dest)))
3566
3567;;; This would normally be put in %nargs, but we need an
3568;;; extra node register for passing stuff into
3569;;; SPdestructuring_bind and friends.
3570(define-x8632-vinsn load-adl (()
3571                              ((n :u32const)))
3572  (movl (:$l n) (:%l x8632::imm0)))
3573
3574(define-x8632-subprim-lea-jmp-vinsn (macro-bind) .SPmacro-bind)
3575
3576(define-x8632-subprim-lea-jmp-vinsn (destructuring-bind-inner) .SPdestructuring-bind-inner)
3577
3578(define-x8632-subprim-lea-jmp-vinsn  (destructuring-bind) .SPdestructuring-bind)
3579
3580
3581(define-x8632-vinsn symbol-function (((val :lisp))
3582                                     ((sym (:lisp (:ne val))))
3583                                     ((tag :u8)))
3584  :resume
3585  (movl (:@ x8632::symbol.fcell (:%l sym)) (:%l val))
3586  (movl (:%l val) (:%l tag))
3587  (andl (:$b x8632::tagmask) (:%l tag))
3588  (cmpl (:$b x8632::tag-misc) (:%l tag))
3589  (jne :bad)
3590  (movsbl (:@ x8632::misc-subtag-offset (:%l val)) (:%l tag))
3591  (cmpl (:$b x8632::subtag-function) (:%l tag))
3592  (jne :bad)
3593
3594  (:anchored-uuo-section :resume)
3595  :bad
3596  (:anchored-uuo (uuo-error-udf (:%l sym))))
3597
3598(define-x8632-subprim-jump-vinsn (tail-call-fn-slide) .SPtcallnfnslide)
3599
3600(define-x8632-vinsn load-double-float-constant (((dest :double-float))
3601                                                ((lab :label)))
3602  (movsd (:@ (:^ lab) (:%l x8632::fn)) (:%xmm dest)))
3603
3604(define-x8632-vinsn load-single-float-constant (((dest :single-float))
3605                                                ((lab :label)))
3606  (movss (:@ (:^ lab) (:%l x8632::fn)) (:%xmm dest)))
3607
3608(define-x8632-subprim-call-vinsn (misc-set) .SPmisc-set)
3609
3610(define-x8632-subprim-lea-jmp-vinsn (slide-values) .SPmvslide)
3611
3612(define-x8632-subprim-lea-jmp-vinsn (spread-list)  .SPspreadargz)
3613
3614;;; Even though it's implemented by calling a subprim, THROW is really
3615;;; a JUMP (to a possibly unknown destination).  If the destination's
3616;;; really known, it should probably be inlined (stack-cleanup, value
3617;;; transfer & jump ...)
3618(define-x8632-vinsn (throw :jump-unknown) (()
3619                                                 ()
3620                                                 ((entry (:label 1))
3621                                                  (ra (:lisp #.x8632::ra0))))
3622  (leal (:@ (:^ :back) (:%l x8632::fn)) (:%l ra))
3623  (:talign 5)
3624  (jmp (:@ .SPthrow))
3625  :back
3626  (movl (:$self 0) (:%l x8632::fn))
3627  (uuo-error-reg-not-tag (:%l x8632::temp0) (:$ub x8632::subtag-catch-frame)))
3628
3629(define-x8632-vinsn unbox-base-char (((dest :u32))
3630                                     ((src :lisp)))
3631  (movl (:%l src) (:%l dest))
3632  ((:pred = (:apply %hard-regspec-value dest) x8632::eax)
3633   (cmpb (:$b x8632::subtag-character) (:%accb dest)))
3634  ((:and (:pred > (:apply %hard-regspec-value dest) x8632::eax)
3635         (:pred <= (:apply %hard-regspec-value dest) x8632::ebx))
3636   (cmpb (:$b x8632::subtag-character) (:%b dest)))
3637  ((:pred > (:apply %hard-regspec-value dest) x8632::ebx)
3638   ;; very rare case, if even possible...
3639   (andl (:$l #xff) (:%l dest))
3640   (cmpl (:$b x8632::subtag-character) (:%l dest))
3641   (cmovel (:%l src) (:%l dest)))
3642  (je ::got-it)
3643  (uuo-error-reg-not-tag (:%l src) (:$ub x8632::subtag-character))
3644  :got-it
3645  (shrl (:$ub x8632::charcode-shift) (:%l dest)))
3646
3647(define-x8632-subprim-lea-jmp-vinsn (save-values) .SPsave-values)
3648
3649(define-x8632-subprim-lea-jmp-vinsn (recover-values)  .SPrecover-values)
3650
3651(define-x8632-subprim-lea-jmp-vinsn (recover-values-for-mvcall) .SPrecover-values-for-mvcall)
3652
3653(define-x8632-subprim-lea-jmp-vinsn (add-values) .SPadd-values)
3654
3655(define-x8632-subprim-call-vinsn (make-stack-block)  .SPmakestackblock)
3656
3657(define-x8632-subprim-call-vinsn (make-stack-block0)  .Spmakestackblock0)
3658
3659;;; "dest" is preallocated, presumably on a stack somewhere.
3660(define-x8632-vinsn store-single (()
3661                                  ((dest :lisp)
3662                                   (source :single-float))
3663                                  ())
3664  (movss (:%xmm source) (:@  x8632::single-float.value (:%l dest))))
3665
3666;;; "dest" is preallocated, presumably on a stack somewhere.
3667(define-x8632-vinsn store-double (()
3668                                  ((dest :lisp)
3669                                   (source :double-float))
3670                                  ())
3671  (movsd (:%xmm source) (:@  x8632::double-float.value (:%l dest))))
3672
3673(define-x8632-vinsn fixnum->char (((dest :lisp))
3674                                  ((src :imm))
3675                                  ((temp :u32)))
3676  (movl (:%l src) (:%l temp))
3677  (sarl (:$ub (+ x8632::fixnumshift 1)) (:%l temp))
3678  (cmpl (:$l (ash #xfffe -1)) (:%l temp))
3679  (je :bad-if-eq)
3680  (sarl (:$ub (- 11 1)) (:%l temp))
3681  (cmpl (:$b (ash #xd800 -11))(:%l temp))
3682  :bad-if-eq
3683  (movl (:$l (:apply target-nil-value)) (:%l temp))
3684  (cmovel (:%l temp) (:%l dest))
3685  (je :done)
3686  ((:not (:pred =
3687                (:apply %hard-regspec-value dest)
3688                (:apply %hard-regspec-value src)))
3689   (movl (:%l src) (:%l dest)))
3690  (shll (:$ub (- x8632::charcode-shift x8632::fixnumshift)) (:%l dest))
3691  (addl (:$b x8632::subtag-character) (:%l dest))
3692  :done)
3693
3694;;; src is known to be a code for which CODE-CHAR returns non-nil.
3695(define-x8632-vinsn code-char->char (((dest :lisp))
3696                                     ((src :imm))
3697                                     ())
3698  ((:not (:pred =
3699                (:apply %hard-regspec-value dest)
3700                (:apply %hard-regspec-value src)))
3701   (movl (:%l src) (:%l dest)))
3702  (shll (:$ub (- x8632::charcode-shift x8632::fixnumshift)) (:%l dest))
3703  (addl (:$b x8632::subtag-character) (:%l dest))
3704  :done)
3705
3706(define-x8632-vinsn sign-extend-halfword (((dest :imm))
3707                                          ((src :imm)))
3708  (movl (:%l src ) (:%l dest))
3709  (shll (:$ub (- 16 x8632::fixnumshift)) (:%l dest))
3710  (sarl (:$ub (- 16 x8632::fixnumshift)) (:%l dest)))
3711
3712(define-x8632-subprim-jump-vinsn (tail-funcall-gen) .SPtfuncallgen)
3713
3714(define-x8632-vinsn %init-gvector (()
3715                                   ((v :lisp)
3716                                    (nbytes :u32const))
3717                                   ((count :imm)))
3718  (movl (:$l nbytes) (:%l count))
3719  (jmp :test)
3720  :loop
3721  (popl (:@ x8632::misc-data-offset (:%l v) (:%l count)))
3722  :test
3723  (subl (:$b x8632::node-size) (:%l count))
3724  (jge :loop))
3725
3726(define-x8632-subprim-jump-vinsn (tail-funcall-slide) .SPtfuncallslide)
3727
3728(define-x8632-vinsn nth-value (((result :lisp))
3729                               ()
3730                               ((temp :u32)
3731                                (nargs (:lisp #.x8632::nargs))))
3732  (leal (:@ (:%l x8632::esp) (:%l x8632::nargs)) (:%l temp))
3733  (subl (:@ (:%l temp)) (:%l x8632::nargs))
3734  (movl (:$l (:apply target-nil-value)) (:%l result))
3735  (jle :done)
3736  ;; I -think- that a CMOV would be safe here, assuming that N wasn't
3737  ;; extremely large.  Don't know if we can assume that.
3738  (movl (:@ (- x8632::node-size) (:%l x8632::esp) (:%l x8632::nargs)) (:%l result))
3739  :done
3740  (leal (:@ x8632::node-size (:%l temp)) (:%l x8632::esp)))
3741
3742
3743(define-x8632-subprim-lea-jmp-vinsn (req-heap-rest-arg) .SPreq-heap-rest-arg)
3744
3745(define-x8632-subprim-call-vinsn (stack-misc-alloc-init)  .SPstack-misc-alloc-init)
3746
3747(define-x8632-vinsn %debug-trap (()
3748                                 ())
3749  (uuo-error-debug-trap))
3750
3751(define-x8632-vinsn double-to-single (((result :single-float))
3752                                      ((arg :double-float)))
3753  (cvtsd2ss (:%xmm arg) (:%xmm result)))
3754
3755(define-x8632-vinsn single-to-double (((result :double-float))
3756                                      ((arg :single-float)))
3757  (cvtss2sd (:%xmm arg) (:%xmm result)))
3758
3759(define-x8632-vinsn alloc-c-frame (()
3760                                   ((nwords :u32const))
3761                                   ((temp :imm)))
3762  (movd (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%mmx x8632::stack-temp))
3763  ;; Work around Apple bug number 6386516 (open stub may clobber stack)
3764  ;; by leaving an extra word of space in the parameter area.
3765  (subl (:$l (:apply ash (:apply 1+ nwords) x8632::word-shift))
3766        (:@ (:%seg :rcontext) x8632::tcr.foreign-sp))
3767  ;; align stack to 16-byte boundary
3768  (andb (:$b -16) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp))
3769  (subl (:$b (* 2 x8632::node-size)) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp))
3770  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
3771  (movd (:%mmx x8632::stack-temp) (:@ (:%l temp)))
3772  (movl (:% x8632::ebp) (:@ 4 (:%l temp))))
3773
3774(define-x8632-vinsn alloc-variable-c-frame (()
3775                                            ((nwords :imm))
3776                                            ((temp :imm)))
3777  (movd (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%mmx x8632::stack-temp))
3778  ;; Work around Apple bug number 6386516 (open stub may clobber stack)
3779  ;; by leaving an extra word of space in the parameter area.
3780  ;; Note that nwords is a fixnum.
3781  (leal (:@ 4 (:%l nwords)) (:%l temp))
3782  (subl (:%l temp) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp))
3783  ;; align stack to 16-byte boundary
3784  (andb (:$b -16) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp))
3785  (subl (:$b (* 2 x8632::node-size)) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp))
3786  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
3787  (movd (:%mmx x8632::stack-temp) (:@ (:%l temp)))
3788  (movl (:% x8632::ebp) (:@ 4 (:%l temp))))
3789
3790(define-x8632-vinsn set-c-arg (()
3791                               ((arg :u32)
3792                                (offset :u32const))
3793                               ((temp :imm)))
3794  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
3795  (movl (:%l arg) (:@ (:apply + 8 (:apply ash offset 2)) (:%l temp))))
3796
3797;;; This is a pretty big crock.
3798(define-x8632-vinsn set-c-arg-from-mm0 (()
3799                                        ((offset :u32const))
3800                                        ((temp :imm)))
3801  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
3802  (movq (:%mmx x8632::mm0) (:@ (:apply + 8 (:apply ash offset 2)) (:%l temp))))
3803
3804(define-x8632-vinsn eep.address (((dest t))
3805                                 ((src (:lisp (:ne dest )))))
3806  :resume
3807  (movl (:@ (+ (ash 1 x8632::word-shift) x8632::misc-data-offset) (:%l src))
3808        (:%l dest))
3809  (cmpl (:$l (:apply target-nil-value)) (:%l dest))
3810  (je :bad)
3811
3812  (:anchored-uuo-section :resume)
3813  :bad
3814  (:anchored-uuo (uuo-error-eep-unresolved (:%l src) (:%l dest))))
3815
3816(define-x8632-subprim-lea-jmp-vinsn (heap-cons-rest-arg) .SPheap-cons-rest-arg)
3817
3818(define-x8632-subprim-lea-jmp-vinsn (stack-cons-rest-arg) .SPstack-cons-rest-arg)
3819
3820(define-x8632-subprim-lea-jmp-vinsn (make-stack-vector)  .SPmkstackv)
3821
3822(define-x8632-vinsn %current-frame-ptr (((dest :imm))
3823                                        ())
3824  (movl (:%l x8632::ebp) (:%l dest)))
3825
3826(define-x8632-vinsn %foreign-stack-pointer (((dest :imm))
3827                                            ())
3828  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l dest)))
3829
3830
3831(define-x8632-vinsn  %slot-ref (((dest :lisp))
3832                                ((instance (:lisp (:ne dest)))
3833                                 (index :lisp)))
3834  (movl (:@ x8632::misc-data-offset (:%l instance) (:%l index)) (:%l dest))
3835  (cmpl (:$l x8632::slot-unbound-marker) (:%l dest))
3836  (je :bad)
3837  :resume
3838  (:anchored-uuo-section :resume)
3839  :bad
3840  (:anchored-uuo (uuo-error-slot-unbound (:%l dest) (:%l instance) (:%l index))))
3841
3842
3843
3844(define-x8632-vinsn symbol-ref (((dest :lisp))
3845                                ((src :lisp)
3846                                 (cellno :u32const)))
3847  (movl (:@ (:apply + (- x8632::node-size x8632::fulltag-misc)
3848                    (:apply ash cellno 2))
3849              (:%l src)) (:%l dest)))
3850
3851(define-x8632-vinsn mem-ref-c-bit-fixnum (((dest :lisp))
3852                                          ((src :address)
3853                                           (offset :s32const))
3854                                          ((temp :imm)))
3855  ((:pred = 0 (:apply ash offset -5))
3856   (btl (:$ub (:apply logand 31 offset))
3857        (:@  (:%l src))))
3858  ((:not (:pred = 0 (:apply ash offset -5)))
3859   (btl (:$ub (:apply logand 31 offset))
3860        (:@ (:apply ash (:apply ash offset -5) 2) (:%l src))))
3861  (movl (:$l x8632::fixnumone) (:%l temp))
3862  (movl (:$l 0) (:%l dest))
3863  (cmovbl (:%l temp) (:%l dest)))
3864
3865(define-x8632-vinsn mem-ref-bit-fixnum (((dest :lisp)
3866                                         (src :address))
3867                                        ((src :address)
3868                                         (offset :lisp))
3869                                        ((temp :lisp)))
3870  ;; (mark-as-imm temp)
3871  (btrl (:$ub (:apply %hard-regspec-value temp))
3872        (:@ (:%seg :rcontext) x8632::tcr.node-regs-mask))
3873  (movl (:%l offset) (:%l temp))
3874  (shrl (:$ub (+ 5 x8632::fixnumshift)) (:%l temp))
3875  (leal (:@ (:%l src) (:%l temp) 4) (:%l src))
3876  (movl (:%l offset) (:%l temp))
3877  (shrl (:$ub x8632::fixnumshift) (:%l temp))
3878  (andl (:$l 31) (:%l temp))
3879  (btl (:%l temp) (:@ (:%l src)))
3880  (movl (:$l x8632::fixnumone) (:%l temp))
3881  (leal (:@ (- x8632::fixnumone) (:%l temp)) (:%l dest))
3882  (cmovbl (:%l temp) (:%l dest))
3883  ;; (mark-as-node temp)
3884  (xorl (:%l temp) (:%l temp))
3885  (btsl (:$ub (:apply %hard-regspec-value temp))
3886        (:@ (:%seg :rcontext) x8632::tcr.node-regs-mask)))
3887
3888(define-x8632-subprim-call-vinsn (progvsave) .SPprogvsave)
3889
3890(define-x8632-subprim-jump-vinsn (progvrestore) .SPprogvrestore)
3891
3892(define-x8632-subprim-lea-jmp-vinsn (simple-keywords) .SPsimple-keywords)
3893
3894(define-x8632-subprim-lea-jmp-vinsn (keyword-args) .SPkeyword-args)
3895
3896(define-x8632-subprim-lea-jmp-vinsn (keyword-bind) .SPkeyword-bind)
3897
3898(define-x8632-vinsn set-high-halfword (()
3899                                       ((dest :imm)
3900                                        (n :s16const)))
3901  (orl (:$l (:apply ash n 16)) (:%l dest)))
3902
3903(define-x8632-vinsn scale-nargs (()
3904                                 ((nfixed :s16const)))
3905  ((:pred > nfixed 0)
3906   ((:pred < nfixed 32)
3907    (subl (:$b (:apply ash nfixed x8632::word-shift)) (:%l x8632::nargs)))
3908   ((:pred >= nfixed 32)
3909    (subl (:$l (:apply ash nfixed x8632::word-shift)) (:%l x8632::nargs)))))
3910
3911(define-x8632-vinsn opt-supplied-p (()
3912                                    ((num-opt :u16const))
3913                                    ((nargs (:u32 #.x8632::nargs))
3914                                     (imm :imm)))
3915  (xorl (:%l imm) (:%l imm))
3916  (movl (:$l (:apply target-nil-value)) (:%l x8632::arg_y))
3917  :loop
3918  (rcmpl (:%l imm) (:%l nargs))
3919  (movl (:%l x8632::arg_y) (:%l x8632::arg_z))
3920  (cmovll (:@ (+ x8632::t-offset x8632::symbol.vcell) (:%l x8632::arg_y)) (:%l  x8632::arg_z))
3921  (addl (:$b x8632::node-size) (:%l imm))
3922  (rcmpl (:%l imm) (:$l (:apply ash num-opt x8632::fixnumshift)))
3923  (pushl (:%l x8632::arg_z))
3924  (jne :loop))
3925
3926(define-x8632-vinsn one-opt-supplied-p (()
3927                                        ()
3928                                        ((temp :u32)))
3929  (testl (:%l x8632::nargs) (:%l x8632::nargs))
3930  (setne (:%b temp))
3931  (negb (:%b temp))
3932  (andl (:$b x8632::t-offset) (:%l temp))
3933  (addl (:$l (:apply target-nil-value)) (:%l temp))
3934  (pushl (:%l temp)))
3935
3936;; needs some love
3937(define-x8632-vinsn two-opt-supplied-p (()
3938                                        ())
3939  (rcmpl (:%l x8632::nargs) (:$b (:apply ash 2 x8632::word-shift)))
3940  (jge :two)
3941  (rcmpl (:%l x8632::nargs) (:$b (:apply ash 1 x8632::word-shift)))
3942  (je :one)
3943  ;; none
3944  (pushl (:$l (:apply target-nil-value)))
3945  (pushl (:$l (:apply target-nil-value)))
3946  (jmp :done)
3947  :one
3948  (pushl (:$l (:apply target-t-value)))
3949  (pushl (:$l (:apply target-nil-value)))
3950  (jmp :done)
3951  :two
3952  (pushl (:$l (:apply target-t-value)))
3953  (pushl (:$l (:apply target-t-value)))
3954  :done)
3955
3956(define-x8632-vinsn set-c-flag-if-constant-logbitp (()
3957                                                    ((bit :u8const)
3958                                                     (int :imm)))
3959  (btl (:$ub bit) (:%l int)))
3960
3961(define-x8632-vinsn set-c-flag-if-variable-logbitp (()
3962                                                    ((bit :imm)
3963                                                     (int :imm))
3964                                                    ((temp :u32)))
3965  (movl (:%l bit) (:%l temp))
3966  (sarl (:$ub x8632::fixnumshift) (:%l temp))
3967  (addl (:$b x8632::fixnumshift) (:%l temp))
3968  ;; Would be nice to use a cmov here, but the branch is probably
3969  ;; cheaper than trying to scare up an additional unboxed temporary.
3970  (cmpb (:$ub 31) (:%b temp))
3971  (jbe :test)
3972  (movl (:$l 31) (:%l temp))
3973  :test
3974  (btl (:%l temp) (:%l int)))
3975
3976(define-x8632-vinsn multiply-immediate (((dest :imm))
3977                                        ((src :imm)
3978                                         (const :s32const)))
3979  ((:and (:pred >= const -128) (:pred <= const 127))
3980   (imull (:$b const) (:%l src) (:%l dest)))
3981  ((:not (:and (:pred >= const -128) (:pred <= const 127)))
3982   (imull (:$l const) (:%l src) (:%l dest))))
3983
3984(define-x8632-vinsn multiply-fixnums (((dest :imm))
3985                                      ((x :imm)
3986                                       (y :imm))
3987                                      ((unboxed :s32)))
3988  ((:pred =
3989          (:apply %hard-regspec-value x)
3990          (:apply %hard-regspec-value dest))
3991   (movl (:%l y) (:%l unboxed))
3992   (sarl (:$ub x8632::fixnumshift) (:%l unboxed))
3993   (imull (:%l unboxed) (:%l dest)))
3994  ((:and (:not (:pred =
3995                      (:apply %hard-regspec-value x)
3996                      (:apply %hard-regspec-value dest)))
3997         (:pred =
3998                (:apply %hard-regspec-value y)
3999                (:apply %hard-regspec-value dest)))
4000   (movl (:%l x) (:%l unboxed))
4001   (sarl (:$ub x8632::fixnumshift) (:%l unboxed))
4002   (imull (:%l unboxed) (:%l dest)))
4003  ((:and (:not (:pred =
4004                      (:apply %hard-regspec-value x)
4005                      (:apply %hard-regspec-value dest)))
4006         (:not (:pred =
4007                      (:apply %hard-regspec-value y)
4008                      (:apply %hard-regspec-value dest))))
4009   (movl (:%l y) (:%l dest))
4010   (movl (:%l x) (:%l unboxed))
4011   (sarl (:$ub x8632::fixnumshift) (:%l unboxed))
4012   (imull (:%l unboxed) (:%l dest))))
4013
4014
4015(define-x8632-vinsn mark-as-imm (()
4016                                 ((reg :imm)))
4017  (btrl (:$ub (:apply %hard-regspec-value reg)) (:@ (:%seg :rcontext) x8632::tcr.node-regs-mask)))
4018
4019(define-x8632-vinsn mark-as-node (()
4020                                  ((reg :imm)))
4021  (xorl (:%l reg) (:%l reg))
4022  (btsl (:$ub (:apply %hard-regspec-value reg)) (:@ (:%seg :rcontext) x8632::tcr.node-regs-mask)))
4023
4024(define-x8632-vinsn mark-temp1-as-node-preserving-flags (()
4025                                                        ()
4026                                                        ((reg (:u32 #.x8632::temp1))))
4027  (movl (:$l 0) (:%l reg))              ;not xorl!
4028  (cld))                                ;well, preserving most flags.
4029
4030 
4031
4032 
4033(define-x8632-vinsn (temp-push-unboxed-word :push :word :csp)
4034    (()
4035     ((w :u32))
4036     ((temp :imm)))
4037  (movd (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%mmx x8632::stack-temp))
4038  (subl (:$b 16) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp))
4039  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
4040  (movd (:%mmx x8632::stack-temp) (:@ (:%l temp)))
4041  (movl (:%l x8632::ebp) (:@ 4 (:%l temp)))
4042  (movl (:%l w) (:@ 8 (:%l temp))))
4043
4044(define-x8632-vinsn (temp-pop-unboxed-word :pop :word :csp)
4045    (((w :u32))
4046     ())
4047  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l w))
4048  (movl (:@ 8 (:%l w)) (:%l w))
4049  (addl (:$b 16) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp)))
4050
4051(define-x8632-vinsn (temp-pop-temp1-as-unboxed-word :pop :word :csp)
4052    (()
4053     ()
4054     ((w (:u32 #.x8632::temp1))))
4055  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l w))
4056  (std)
4057  (movl (:@ 8 (:%l w)) (:%l w))
4058  (addl (:$b 16) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp)))
4059
4060(define-x8632-vinsn (temp-push-node :push :word :tsp)
4061    (()
4062     ((w :lisp))
4063     ((temp :imm)))
4064  (subl (:$b (* 2 x8632::dnode-size)) (:@ (:%seg :rcontext) x8632::tcr.next-tsp))
4065  (movd (:@ (:%seg :rcontext) x8632::tcr.save-tsp) (:%mmx x8632::stack-temp))
4066  (movl (:@ (:%seg :rcontext) x8632::tcr.next-tsp) (:%l temp))
4067  (movsd (:%xmm x8632::fpzero) (:@ (:%l temp)))
4068  (movsd (:%xmm x8632::fpzero) (:@ x8632::dnode-size (:%l temp)))
4069  (movd (:%mmx x8632::stack-temp) (:@ (:%l temp)))
4070  (movl (:%l temp) (:@ (:%seg :rcontext) x8632::tcr.save-tsp))
4071  (movl (:%l w) (:@ x8632::dnode-size (:%l temp))))
4072
4073(define-x8632-vinsn (temp-pop-node :pop :word :tsp)
4074    (((w :lisp))
4075     ()
4076     ((temp :imm)))
4077  (movl (:@ (:%seg :rcontext) x8632::tcr.save-tsp) (:%l temp))
4078  (movl (:@ x8632::dnode-size (:%l temp)) (:%l w))
4079  (movl (:@ (:%l temp)) (:%l temp))
4080  (movl (:%l temp) (:@ (:%seg :rcontext) x8632::tcr.save-tsp)) 
4081  (movl (:%l temp) (:@ (:%seg :rcontext) x8632::tcr.next-tsp)))
4082
4083(define-x8632-vinsn (temp-push-single-float :push :word :csp)
4084    (()
4085     ((f :single-float))
4086     ((temp :imm)))
4087  (movd (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%mmx x8632::stack-temp))
4088  (subl (:$b 16) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp))
4089  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
4090  (movd (:%mmx x8632::stack-temp) (:@ (:%l temp)))
4091  (movl (:%l x8632::ebp) (:@ 4 (:%l temp)))
4092  (movss (:%xmm f) (:@ 8 (:%l temp))))
4093
4094(define-x8632-vinsn (temp-pop-single-float :pop :word :csp)
4095    (((f :single-float))
4096     ()
4097     ((temp :imm)))
4098  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
4099  (movss (:@ 8 (:%l temp)) (:%xmm f))
4100  (addl (:$b 16) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp)))
4101
4102(define-x8632-vinsn (temp-push-double-float :push :word :csp)
4103    (()
4104     ((f :double-float))
4105     ((temp :imm)))
4106  (movd (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%mmx x8632::stack-temp))
4107  (subl (:$b 16) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp))
4108  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
4109  (movd (:%mmx x8632::stack-temp) (:@ (:%l temp)))
4110  (movl (:%l x8632::ebp) (:@ 4 (:%l temp)))
4111  (movsd (:%xmm f) (:@ 8 (:%l temp))))
4112
4113(define-x8632-vinsn (temp-pop-double-float :pop :word :csp)
4114    (((f :double-float))
4115     ()
4116     ((temp :imm)))
4117  (movl (:@ (:%seg :rcontext) x8632::tcr.foreign-sp) (:%l temp))
4118  (movsd (:@ 8 (:%l temp)) (:%xmm f))
4119  (addl (:$b 16) (:@ (:%seg :rcontext) x8632::tcr.foreign-sp)))
4120
4121(define-x8632-vinsn load-next-method-context (((dest :lisp))
4122                                              ())
4123  (movl (:@ (:%seg :rcontext) x8632::tcr.next-method-context) (:%l dest))
4124  (movl (:$l 0) (:@ (:%seg :rcontext) x8632::tcr.next-method-context)))
4125
4126(define-x8632-vinsn save-node-register-to-spill-area (()
4127                                         ((src :lisp)))
4128  ;; maybe add constant to index slot 0--3
4129  (movl (:%l src) (:@ (:%seg :rcontext) x8632::tcr.save3)))
4130
4131(define-x8632-vinsn load-node-register-from-spill-area (((dest :lisp))
4132                                                        ())
4133  (movl (:@ (:%seg :rcontext) x8632::tcr.save3) (:%l dest))
4134  (movss (:%xmm x8632::fpzero) (:@ (:%seg :rcontext) x8632::tcr.save3)))
4135
4136(define-x8632-vinsn align-loop-head (()
4137                                     ())
4138)
4139
4140(queue-fixup
4141 (fixup-x86-vinsn-templates
4142  *x8632-vinsn-templates*
4143  x86::*x86-opcode-template-lists* *x8632-backend*))
4144
4145(provide "X8632-VINSNS")
Note: See TracBrowser for help on using the repository browser.