0.9.5.76:
[sbcl.git] / src / runtime / x86-assem.S
index b50fe16..c16b3ef 100644 (file)
  * files for more information.
  */
 \f
-#include "x86-validate.h"
-       
 #define LANGUAGE_ASSEMBLY
 #include "sbcl.h"
-
-/* Minimize conditionalization for different OS naming schemes. */
-#if defined __linux__  || defined __FreeBSD__ /* (but *not* OpenBSD) */
+#include "validate.h"
+#include "genesis/closure.h"
+#include "genesis/fdefn.h"
+#include "genesis/static-symbols.h"
+#include "genesis/symbol.h"
+#include "genesis/thread.h"
+       
+/* Minimize conditionalization for different OS naming schemes. 
+ *
+ * (As of sbcl-0.8.10, this seems no longer to be much of an issue, 
+ * since everyone has converged on ELF. If this generality really 
+ * turns out not to matter, perhaps it's just clutter we could get
+ * rid of? -- WHN 2004-04-18)
+ */
+#if defined __linux__  || defined __FreeBSD__ || defined __NetBSD__ || defined __OpenBSD__ || defined __sun
 #define GNAME(var) var
 #else
 #define GNAME(var) _##var
 #endif
 
-/* Get the right type of alignment. Linux and FreeBSD (but not OpenBSD)
- * want alignment in bytes. */
-#if defined(__linux__) || defined(__FreeBSD__)
+/* Get the right type of alignment. Linux, FreeBSD and NetBSD (but not OpenBSD)
+ * want alignment in bytes. 
+ *
+ * (As in the GNAME() definitions above, as of sbcl-0.8.10, this seems 
+ * no longer to be much of an issue, since everyone has converged on
+ * the same value. If this generality really turns out not to 
+ * matter any more, perhaps it's just clutter we could get
+ * rid of? -- WHN 2004-04-18)
+ */
+#if defined(__linux__) || defined(__FreeBSD__) || defined(__NetBSD__) || defined(__OpenBSD__) || defined(__sun)
 #define align_4byte    4
 #define align_8byte    8
 #define align_16byte   16
@@ -39,7 +56,7 @@
 
        .text
        .global GNAME(foreign_function_call_active)
-       
+       .global GNAME(all_threads)
 \f
 /*
  * A call to call_into_c preserves esi, edi, and ebp.  
@@ -123,27 +140,46 @@ Lfp_rtn_value:
 
 \f
        .text   
+       .global GNAME(call_into_lisp_first_time)
+       .type  GNAME(call_into_lisp_first_time),@function
+               
+/* The *ALIEN-STACK* pointer is set up on the first call_into_lisp when
+ * the stack changes.  We don't worry too much about saving registers 
+ * here, because we never expect to return from the initial call to lisp 
+ * anyway */
+       
+       .align  align_16byte,0x90
+GNAME(call_into_lisp_first_time):
+       pushl   %ebp            # Save old frame pointer.
+       movl    %esp,%ebp       # Establish new frame.
+       movl    %esp,ALIEN_STACK + SYMBOL_VALUE_OFFSET
+       movl    GNAME(all_threads),%eax
+       movl    THREAD_CONTROL_STACK_START_OFFSET(%eax) ,%esp
+       /* don't think too hard about what happens if we get interrupted
+       * here */
+       addl    $THREAD_CONTROL_STACK_SIZE-4,%esp
+       jmp     Lstack
+\f
+       .text   
        .global GNAME(call_into_lisp)
        .type  GNAME(call_into_lisp),@function
                
 /* The C conventions require that ebx, esi, edi, and ebp be preserved
  * across function calls. */
-/* The *ALIEN-STACK* pointer is set up on the first call_into_lisp when
- * the stack changes. */
        
        .align  align_16byte,0x90
 GNAME(call_into_lisp):
        pushl   %ebp            # Save old frame pointer.
        movl    %esp,%ebp       # Establish new frame.
-
+Lstack:
 /* Save the NPX state */
        fwait                   # Catch any pending NPX exceptions.
        subl    $108,%esp       # Make room for the NPX state.
-       fnsave  (%esp)          # resets NPX
+       fnsave  (%esp)          # save and reset NPX
 
        movl    (%esp),%eax     # Load NPX control word.
-       andl    $0xfffff3ff,%eax        # Set rounding mode to nearest.
-       orl     $0x00000300,%eax        # Set precision to 64 bits.
+       andl    $0xfffff2ff,%eax        # Set rounding mode to nearest.
+       orl     $0x00000200,%eax        # Set precision to 64 bits.  (53-bit mantissa)
        pushl   %eax
        fldcw   (%esp)          # Recover modes.
        popl    %eax
@@ -174,15 +210,6 @@ GNAME(call_into_lisp):
        movl    %eax, GNAME(foreign_function_call_active)
 
        movl    %esp,%ebx       # remember current stack
-       cmpl    $CONTROL_STACK_START,%esp
-       jbe     ChangeToLispStack
-       cmpl    $CONTROL_STACK_END,%esp
-       jbe     OnLispStack
-ChangeToLispStack:
-       /* Setup the *alien-stack* pointer */
-       movl    %esp,ALIEN_STACK + SYMBOL_VALUE_OFFSET
-       movl    $CONTROL_STACK_END,%esp         # new stack
-OnLispStack:
        pushl   %ebx            # Save entry stack on (maybe) new stack.
 
        /* Establish Lisp args. */
@@ -208,12 +235,12 @@ Ldone:
        sub     $8,%esp         # Ensure 3 slots are allocated, one above.
        mov     %ebx,%ebp       # Switch to new frame.
 
-       /* Indirect the closure. */
-       call    *CLOSURE_FUNCTION_OFFSET(%eax)
+       call    *CLOSURE_FUN_OFFSET(%eax)
        
-       /* Multi-value return; blow off any extra values. */
+       /* If the function returned multiple values, it will return to
+          this point.  Lose them */
        mov     %ebx, %esp
-       /* single value return */
+       /* A singled value function returns here */
 
 /* Restore the stack, in case there was a stack change. */
        popl    %esp            # c-sp
@@ -259,15 +286,12 @@ GNAME(fpu_restore):
        .align  align_4byte,0x90
        .global GNAME(undefined_tramp)
        .type   GNAME(undefined_tramp),@function
+        .byte   0, 0, 0, SIMPLE_FUN_HEADER_WIDETAG
 GNAME(undefined_tramp):
        int3
        .byte   trap_Error
         .byte   2
-#ifdef type_LongFloat
-        .byte   24
-#else
-        .byte   23
-#endif
+        .byte   UNDEFINED_FUN_ERROR
         .byte   sc_DescriptorReg # eax in the Descriptor-reg SC
        ret
        .size   GNAME(undefined_tramp), .-GNAME(undefined_tramp)
@@ -279,24 +303,25 @@ GNAME(undefined_tramp):
        .align  align_4byte,0x90
        .global GNAME(closure_tramp)
        .type   GNAME(closure_tramp),@function
+        .byte   0, 0, 0, SIMPLE_FUN_HEADER_WIDETAG
 GNAME(closure_tramp):
-       movl    FDEFN_FUNCTION_OFFSET(%eax),%eax
+       movl    FDEFN_FUN_OFFSET(%eax),%eax
        /* FIXME: The '*' after "jmp" in the next line is from PVE's
         * patch posted to the CMU CL mailing list Oct 6, 1999. It looks
         * reasonable, and it certainly seems as though if CMU CL needs it,
         * SBCL needs it too, but I haven't actually verified that it's
         * right. It would be good to find a way to force the flow of
         * control through here to test it. */
-       jmp     *CLOSURE_FUNCTION_OFFSET(%eax)
+       jmp     *CLOSURE_FUN_OFFSET(%eax)
        .size   GNAME(closure_tramp), .-GNAME(closure_tramp)
 
 /*
- * function-end breakpoint magic
+ * fun-end breakpoint magic
  */
        .text
-       .global GNAME(function_end_breakpoint_guts)
+       .global GNAME(fun_end_breakpoint_guts)
        .align  align_4byte
-GNAME(function_end_breakpoint_guts):
+GNAME(fun_end_breakpoint_guts):
        /* Multiple Value return */
        jmp     multiple_value_return
        /* Single value return: The eventual return will now use the
@@ -310,14 +335,14 @@ GNAME(function_end_breakpoint_guts):
                
 multiple_value_return:
        
-       .global GNAME(function_end_breakpoint_trap)
-GNAME(function_end_breakpoint_trap):
+       .global GNAME(fun_end_breakpoint_trap)
+GNAME(fun_end_breakpoint_trap):
        int3
-       .byte   trap_FunctionEndBreakpoint
+       .byte   trap_FunEndBreakpoint
        hlt                     # We should never return here.
 
-       .global GNAME(function_end_breakpoint_end)
-GNAME(function_end_breakpoint_end):
+       .global GNAME(fun_end_breakpoint_end)
+GNAME(fun_end_breakpoint_end):
 
 \f
        .global GNAME(do_pending_interrupt)
@@ -329,85 +354,6 @@ GNAME(do_pending_interrupt):
        ret
        .size   GNAME(do_pending_interrupt),.-GNAME(do_pending_interrupt)
 \f
-#ifdef WANT_CGC
-/* This is a copy function which is optimized for the Pentium and
- * works OK on 486 as well. This assumes (does not check) that the
- * input byte count is a multiple of 8 bytes (one Lisp object).
- * This code takes advantage of pairing in the Pentium as well
- * as the 128-bit cache line.
- */
-       .global GNAME(fastcopy16)
-       .type   GNAME(fastcopy16),@function
-       .align align_4byte,0x90
-GNAME(fastcopy16):
-       pushl   %ebp
-       movl    %esp,%ebp
-       movl    8(%ebp), %edx   # dst
-       movl    12(%ebp),%eax   # src
-       movl    16(%ebp),%ecx   # bytes
-       pushl   %ebx
-       pushl   %esi
-       pushl   %edi
-       movl    %edx,%edi
-       movl    %eax,%esi
-       sarl    $3,%ecx         # number 8-byte units
-       testl   $1,%ecx         # odd?
-       jz      Lquad
-       movl    (%esi),%eax
-       movl    4(%esi),%ebx
-       movl    %eax,(%edi)
-       movl    %ebx,4(%edi)
-       leal    8(%esi),%esi
-       leal    8(%edi),%edi
-Lquad: sarl    $1,%ecx         # count 16-byte units
-       jz      Lend
-       movl    %ecx,%ebp       # use ebp for loop counter
-       .align  align_16byte,0x90
-Ltop:
-       movl      (%edi),%eax   # prefetch! MAJOR Pentium win..
-       movl      (%esi),%eax
-       movl     4(%esi),%ebx
-       movl     8(%esi),%ecx
-       movl    12(%esi),%edx
-       movl    %eax,  (%edi)
-       movl    %ebx, 4(%edi)
-       movl    %ecx, 8(%edi)
-       movl    %edx,12(%edi)
-       leal    16(%esi),%esi
-       leal    16(%edi),%edi
-       decl    %ebp
-       jnz     Ltop            # non-prefixed jump saves cycles
-Lend:
-       popl    %edi
-       popl    %esi
-       popl    %ebx
-       popl    %ebp
-       ret
-       .size   GNAME(fastcopy16),.-GNAME(fastcopy16)
-#endif
-\f
-#ifdef GENCGC
-/* This is a fast bzero using the FPU. The first argument is the start
- * address which needs to be aligned on an 8 byte boundary, the second
- * argument is the number of bytes, which must be a nonzero multiple
- * of 8 bytes. */
-       .text
-       .globl  GNAME(i586_bzero)
-       .type   GNAME(i586_bzero),@function
-       .align  align_4byte,0x90
-GNAME(i586_bzero):
-       movl    4(%esp),%edx    # Load the start address.
-       movl    8(%esp),%eax    # Load the number of bytes.
-       fldz
-l1:    fstl    0(%edx)
-       addl    $8,%edx
-       subl    $8,%eax
-       jnz     l1
-       fstp    %st(0)
-       ret
-       .size   GNAME(i586_bzero),.-GNAME(i586_bzero)
-#endif 
-\f
 
 /*
  * Allocate bytes and return the start of the allocated space
@@ -714,141 +660,153 @@ GNAME(alloc_16_to_edi):
        popl    %eax
        ret
        .size   GNAME(alloc_16_to_edi),.-GNAME(alloc_16_to_edi)
-               
-
-\f
-#ifdef GENCGC
-
-/* These routines are called from Lisp when an inline allocation 
- * overflows. Every register except the result needs to be preserved.
- * We depend on C to preserve ebx, esi, edi, and ebp.
- * But where necessary must save eax, ecx, edx. */
 
+       
+/* Called from lisp when an inline allocation overflows.
+   Every register except the result needs to be preserved.
+   We depend on C to preserve ebx, esi, edi, and ebp.
+   But where necessary must save eax, ecx, edx. */
+
+#ifdef LISP_FEATURE_SB_THREAD
+#define START_REGION %fs:THREAD_ALLOC_REGION_OFFSET
+#define DISPLACEMENT $7
+#else
+#define START_REGION boxed_region
+#define DISPLACEMENT $6
+#endif
+               
 /* This routine handles an overflow with eax=crfp+size. So the
- * size=eax-crfp. */
-       .align  align_4byte
-       .globl  GNAME(alloc_overflow_eax)
-       .type   GNAME(alloc_overflow_eax),@function
+   size=eax-crfp. */
+        .align  align_4byte
+        .globl  GNAME(alloc_overflow_eax)
+        .type   GNAME(alloc_overflow_eax),@function
 GNAME(alloc_overflow_eax):
-       pushl   %ecx            # Save ecx
-       pushl   %edx            # Save edx
-       /* Calculate the size for the allocation. */
-       subl    GNAME(current_region_free_pointer),%eax
-       pushl   %eax            # Push the size
-       call    GNAME(alloc)
-       addl    $4,%esp # pop the size arg.
-       popl    %edx    # Restore edx.
-       popl    %ecx    # Restore ecx.
-       addl    $6,(%esp) # Adjust the return address to skip the next inst.
-       ret
-       .size    GNAME(alloc_overflow_eax),.-GNAME(alloc_overflow_eax)
-
-/* This routine handles an overflow with ecx=crfp+size. So the
- * size=ecx-crfp. */
-       .align  align_4byte
-       .globl  GNAME(alloc_overflow_ecx)
-       .type   GNAME(alloc_overflow_ecx),@function
+        pushl   %ecx            # Save ecx
+        pushl   %edx            # Save edx
+        /* Calculate the size for the allocation. */
+        subl    START_REGION,%eax
+        pushl   %eax            # Push the size
+        call    GNAME(alloc)
+        addl    $4,%esp # pop the size arg.
+        popl    %edx    # Restore edx.
+        popl    %ecx    # Restore ecx.
+       addl    DISPLACEMENT,(%esp) # Adjust the return address to skip the next inst.
+        ret
+        .size    GNAME(alloc_overflow_eax),.-GNAME(alloc_overflow_eax)
+
+        .align  align_4byte
+        .globl  GNAME(alloc_overflow_ecx)
+        .type   GNAME(alloc_overflow_ecx),@function
 GNAME(alloc_overflow_ecx):
-       pushl   %eax            # Save eax
-       pushl   %edx            # Save edx
-       /* Calculate the size for the allocation. */
-       subl    GNAME(current_region_free_pointer),%ecx
-       pushl   %ecx            # Push the size
-       call    GNAME(alloc)
-       addl    $4,%esp # pop the size arg.
-       movl    %eax,%ecx       # setup the destination.
-       popl    %edx    # Restore edx.
-       popl    %eax    # Restore eax.
-       addl    $6,(%esp) # Adjust the return address to skip the next inst.
-       ret
-       .size    GNAME(alloc_overflow_ecx),.-GNAME(alloc_overflow_ecx)
-
-/* This routine handles an overflow with edx=crfp+size. So the
- * size=edx-crfp. */
-       .align  align_4byte
-       .globl  GNAME(alloc_overflow_edx)
-       .type   GNAME(alloc_overflow_edx),@function
+        pushl   %eax            # Save eax
+        pushl   %edx            # Save edx
+        /* Calculate the size for the allocation. */
+        subl    START_REGION,%ecx
+        pushl   %ecx            # Push the size
+        call    GNAME(alloc)
+        addl    $4,%esp # pop the size arg.
+        movl    %eax,%ecx       # setup the destination.
+        popl    %edx    # Restore edx.
+        popl    %eax    # Restore eax.
+       addl    DISPLACEMENT,(%esp) # Adjust the return address to skip the next inst.
+        ret
+        .size    GNAME(alloc_overflow_ecx),.-GNAME(alloc_overflow_ecx)
+
+        .align  align_4byte
+        .globl  GNAME(alloc_overflow_edx)
+        .type   GNAME(alloc_overflow_edx),@function
 GNAME(alloc_overflow_edx):
-       pushl   %eax            # Save eax
-       pushl   %ecx            # Save ecx
-       /* Calculate the size for the allocation. */
-       subl    GNAME(current_region_free_pointer),%edx
-       pushl   %edx            # Push the size
-       call    GNAME(alloc)
-       addl    $4,%esp # pop the size arg.
-       movl    %eax,%edx       # setup the destination.
-       popl    %ecx    # Restore ecx.
-       popl    %eax    # Restore eax.
-       addl    $6,(%esp) # Adjust the return address to skip the next inst.
-       ret
-       .size    GNAME(alloc_overflow_edx),.-GNAME(alloc_overflow_edx)
+        pushl   %eax            # Save eax
+        pushl   %ecx            # Save ecx
+        /* Calculate the size for the allocation. */
+        subl    START_REGION,%edx
+        pushl   %edx            # Push the size
+        call    GNAME(alloc)
+        addl    $4,%esp # pop the size arg.
+        movl    %eax,%edx       # setup the destination.
+        popl    %ecx    # Restore ecx.
+        popl    %eax    # Restore eax.
+       addl    DISPLACEMENT,(%esp) # Adjust the return address to skip the next inst.
+        ret
+        .size    GNAME(alloc_overflow_edx),.-GNAME(alloc_overflow_edx)
 
 /* This routine handles an overflow with ebx=crfp+size. So the
- * size=ebx-crfp. */
-       .align  align_4byte
-       .globl  GNAME(alloc_overflow_ebx)
-       .type   GNAME(alloc_overflow_ebx),@function
+   size=ebx-crfp. */
+        .align  align_4byte
+        .globl  GNAME(alloc_overflow_ebx)
+        .type   GNAME(alloc_overflow_ebx),@function
 GNAME(alloc_overflow_ebx):
-       pushl   %eax            # Save eax
-       pushl   %ecx            # Save ecx
-       pushl   %edx            # Save edx
-       /* Calculate the size for the allocation. */
-       subl    GNAME(current_region_free_pointer),%ebx
-       pushl   %ebx            # Push the size
-       call    GNAME(alloc)
-       addl    $4,%esp # pop the size arg.
-       movl    %eax,%ebx       # setup the destination.
-       popl    %edx    # Restore edx.
-       popl    %ecx    # Restore ecx.
-       popl    %eax    # Restore eax.
-       addl    $6,(%esp) # Adjust the return address to skip the next inst.
-       ret
-       .size    GNAME(alloc_overflow_ebx),.-GNAME(alloc_overflow_ebx)
+        pushl   %eax            # Save eax
+        pushl   %ecx            # Save ecx
+        pushl   %edx            # Save edx
+        /* Calculate the size for the allocation. */
+        subl    START_REGION,%ebx
+        pushl   %ebx            # Push the size
+        call    GNAME(alloc)
+        addl    $4,%esp # pop the size arg.
+        movl    %eax,%ebx       # setup the destination.
+        popl    %edx    # Restore edx.
+        popl    %ecx    # Restore ecx.
+        popl    %eax    # Restore eax.
+       addl    DISPLACEMENT,(%esp) # Adjust the return address to skip the next inst.
+        ret
+        .size    GNAME(alloc_overflow_ebx),.-GNAME(alloc_overflow_ebx)
 
 /* This routine handles an overflow with esi=crfp+size. So the
- * size=esi-crfp. */
-       .align  align_4byte
-       .globl  GNAME(alloc_overflow_esi)
-       .type   GNAME(alloc_overflow_esi),@function
+   size=esi-crfp. */
+        .align  align_4byte
+        .globl  GNAME(alloc_overflow_esi)
+        .type   GNAME(alloc_overflow_esi),@function
 GNAME(alloc_overflow_esi):
-       pushl   %eax            # Save eax
-       pushl   %ecx            # Save ecx
-       pushl   %edx            # Save edx
-       /* Calculate the size for the allocation. */
-       subl    GNAME(current_region_free_pointer),%esi
-       pushl   %esi            # Push the size
-       call    GNAME(alloc)
-       addl    $4,%esp # pop the size arg.
-       movl    %eax,%esi       # setup the destination.
-       popl    %edx    # Restore edx.
-       popl    %ecx    # Restore ecx.
-       popl    %eax    # Restore eax.
-       addl    $6,(%esp) # Adjust the return address to skip the next inst.
-       ret
-       .size    GNAME(alloc_overflow_esi),.-GNAME(alloc_overflow_esi)
-
-/* This routine handles an overflow with edi=crfp+size. So the
- * size=edi-crfp. */
-       .align  align_4byte
-       .globl  GNAME(alloc_overflow_edi)
-       .type   GNAME(alloc_overflow_edi),@function
+        pushl   %eax            # Save eax
+        pushl   %ecx            # Save ecx
+        pushl   %edx            # Save edx
+        /* Calculate the size for the allocation. */
+        subl    START_REGION,%esi
+        pushl   %esi            # Push the size
+        call    GNAME(alloc)
+        addl    $4,%esp # pop the size arg.
+        movl    %eax,%esi       # setup the destination.
+        popl    %edx    # Restore edx.
+        popl    %ecx    # Restore ecx.
+        popl    %eax    # Restore eax.
+       addl    DISPLACEMENT,(%esp) # Adjust the return address to skip the next inst.
+        ret
+        .size    GNAME(alloc_overflow_esi),.-GNAME(alloc_overflow_esi)
+
+        .align  align_4byte
+        .globl  GNAME(alloc_overflow_edi)
+        .type   GNAME(alloc_overflow_edi),@function
 GNAME(alloc_overflow_edi):
-       pushl   %eax            # Save eax
-       pushl   %ecx            # Save ecx
-       pushl   %edx            # Save edx
-       /* Calculate the size for the allocation. */
-       subl    GNAME(current_region_free_pointer),%edi
-       pushl   %edi            # Push the size
-       call    GNAME(alloc)
-       addl    $4,%esp # pop the size arg.
-       movl    %eax,%edi       # setup the destination.
-       popl    %edx    # Restore edx.
-       popl    %ecx    # Restore ecx.
-       popl    %eax    # Restore eax.
-       addl    $6,(%esp) # Adjust the return address to skip the next inst.
-       ret
-       .size    GNAME(alloc_overflow_edi),.-GNAME(alloc_overflow_edi)
+        pushl   %eax            # Save eax
+        pushl   %ecx            # Save ecx
+        pushl   %edx            # Save edx
+        /* Calculate the size for the allocation. */
+        subl    START_REGION,%edi
+        pushl   %edi            # Push the size
+        call    GNAME(alloc)
+        addl    $4,%esp # pop the size arg.
+        movl    %eax,%edi       # setup the destination.
+        popl    %edx    # Restore edx.
+        popl    %ecx    # Restore ecx.
+        popl    %eax    # Restore eax.
+       addl    DISPLACEMENT,(%esp) # Adjust the return address to skip the next inst.
+        ret
+        .size    GNAME(alloc_overflow_edi),.-GNAME(alloc_overflow_edi)
 
-#endif
+       .align  align_4byte,0x90
+       .globl  GNAME(post_signal_tramp)
+       .type   GNAME(post_signal_tramp),@function
+GNAME(post_signal_tramp):
+       /* this is notionally the second half of a function whose first half
+        * doesn't exist.  This is where call_into_lisp returns when called 
+        * using return_to_lisp_function */
+       addl $12,%esp   /* clear call_into_lisp args from stack */
+       popal           /* restore registers */
+        popfl
+       leave
+       ret
+       .size GNAME(post_signal_tramp),.-GNAME(post_signal_tramp)
 
+       
        .end