1.0.10.36: support for Darwin versions that support __DARWIN_UNIX03
[sbcl.git] / src / runtime / x86-64-arch.c
index 323ff39..6a6e53b 100644 (file)
 #include "interrupt.h"
 #include "interr.h"
 #include "breakpoint.h"
-#include "monitor.h"
 #include "thread.h"
 
 #include "genesis/static-symbols.h"
 #include "genesis/symbol.h"
 
-#define BREAKPOINT_INST 0xcc   /* INT3 */
+#define BREAKPOINT_INST 0xcc    /* INT3 */
 
 unsigned long fast_random_state = 1;
 
 void arch_init(void)
 {}
+
+os_vm_address_t
+arch_get_bad_addr(int sig, siginfo_t *code, os_context_t *context)
+{
+    return (os_vm_address_t)code->si_addr;
+}
+
 \f
 /*
  * hacking signal contexts
@@ -44,7 +50,7 @@ void arch_init(void)
  * want to get to, and on OS, which determines how we get to it.)
  */
 
-int *
+os_context_register_t *
 context_eflags_addr(os_context_t *context)
 {
 #if defined __linux__
@@ -55,7 +61,13 @@ context_eflags_addr(os_context_t *context)
      * instead. */
     return &context->uc_mcontext.gregs[17];
 #elif defined __FreeBSD__
-    return &context->uc_mcontext.mc_eflags;
+    return &context->uc_mcontext.mc_rflags;
+#elif defined LISP_FEATURE_DARWIN
+#if defined __DARWIN_UNIX03
+    return &context->uc_mcontext->__ss.__rflags;
+#else
+    return &context->uc_mcontext->ss.rflags;
+#endif
 #elif defined __OpenBSD__
     return &context->sc_eflags;
 #else
@@ -73,38 +85,40 @@ void arch_skip_instruction(os_context_t *context)
     int vlen;
     long code;
 
-    
+
     /* Get and skip the Lisp interrupt code. */
     code = *(char*)(*os_context_pc_addr(context))++;
     switch (code)
-       {
-       case trap_Error:
-       case trap_Cerror:
-           /* Lisp error arg vector length */
-           vlen = *(char*)(*os_context_pc_addr(context))++;
-           /* Skip Lisp error arg data bytes. */
-           while (vlen-- > 0) {
-               ++*os_context_pc_addr(context);
-           }
-           break;
-
-       case trap_Breakpoint:           /* not tested */
-       case trap_FunEndBreakpoint: /* not tested */
-           break;
-
-       case trap_PendingInterrupt:
-       case trap_Halt:
-           /* only needed to skip the Code */
-           break;
-
-       default:
-           fprintf(stderr,"[arch_skip_inst invalid code %d\n]\n",code);
-           break;
-       }
+        {
+        case trap_Error:
+        case trap_Cerror:
+            /* Lisp error arg vector length */
+            vlen = *(char*)(*os_context_pc_addr(context))++;
+            /* Skip Lisp error arg data bytes. */
+            while (vlen-- > 0) {
+                ++*os_context_pc_addr(context);
+            }
+            break;
+
+        case trap_Breakpoint:           /* not tested */
+        case trap_FunEndBreakpoint: /* not tested */
+            break;
+
+        case trap_PendingInterrupt:
+        case trap_Halt:
+        case trap_SingleStepAround:
+        case trap_SingleStepBefore:
+            /* only needed to skip the Code */
+            break;
+
+        default:
+            fprintf(stderr,"[arch_skip_inst invalid code %ld\n]\n",code);
+            break;
+        }
 
     FSHOW((stderr,
-          "/[arch_skip_inst resuming at %x]\n",
-          *os_context_pc_addr(context)));
+           "/[arch_skip_inst resuming at %x]\n",
+           *os_context_pc_addr(context)));
 }
 
 unsigned char *
@@ -116,33 +130,40 @@ arch_internal_error_arguments(os_context_t *context)
 boolean
 arch_pseudo_atomic_atomic(os_context_t *context)
 {
-    return SymbolValue(PSEUDO_ATOMIC_ATOMIC,arch_os_get_current_thread());
+    return get_pseudo_atomic_atomic(arch_os_get_current_thread());
 }
 
 void
 arch_set_pseudo_atomic_interrupted(os_context_t *context)
 {
-    SetSymbolValue(PSEUDO_ATOMIC_INTERRUPTED, make_fixnum(1),
-                  arch_os_get_current_thread());
+    struct thread *thread = arch_os_get_current_thread();
+    set_pseudo_atomic_interrupted(thread);
+}
+
+void
+arch_clear_pseudo_atomic_interrupted(os_context_t *context)
+{
+    struct thread *thread = arch_os_get_current_thread();
+    clear_pseudo_atomic_interrupted(thread);
 }
 \f
 /*
  * This stuff seems to get called for TRACE and debug activity.
  */
 
-unsigned long
+unsigned int
 arch_install_breakpoint(void *pc)
 {
-    unsigned long result = *(unsigned long*)pc;
+    unsigned int result = *(unsigned int*)pc;
 
-    *(char*)pc = BREAKPOINT_INST;              /* x86 INT3       */
-    *((char*)pc+1) = trap_Breakpoint;          /* Lisp trap code */
+    *(char*)pc = BREAKPOINT_INST;               /* x86 INT3       */
+    *((char*)pc+1) = trap_Breakpoint;           /* Lisp trap code */
 
     return result;
 }
 
 void
-arch_remove_breakpoint(void *pc, unsigned long orig_inst)
+arch_remove_breakpoint(void *pc, unsigned int orig_inst)
 {
     *((char *)pc) = orig_inst & 0xff;
     *((char *)pc + 1) = (orig_inst & 0xff00) >> 8;
@@ -150,17 +171,17 @@ arch_remove_breakpoint(void *pc, unsigned long orig_inst)
 \f
 /* When single stepping, single_stepping holds the original instruction
  * PC location. */
-unsigned long *single_stepping = NULL;
+unsigned int *single_stepping = NULL;
 #ifdef CANNOT_GET_TO_SINGLE_STEP_FLAG
-unsigned long  single_step_save1;
-unsigned long  single_step_save2;
-unsigned long  single_step_save3;
+unsigned int  single_step_save1;
+unsigned int  single_step_save2;
+unsigned int  single_step_save3;
 #endif
 
 void
 arch_do_displaced_inst(os_context_t *context, unsigned int orig_inst)
 {
-    unsigned long *pc = (unsigned long*)(*os_context_pc_addr(context));
+    unsigned int *pc = (unsigned int*)(*os_context_pc_addr(context));
 
     /* Put the original instruction back. */
     *((char *)pc) = orig_inst & 0xff;
@@ -179,48 +200,71 @@ arch_do_displaced_inst(os_context_t *context, unsigned int orig_inst)
     *context_eflags_addr(context) |= 0x100;
 #endif
 
-    single_stepping = (unsigned int*)pc;
+    single_stepping = pc;
 
 #ifdef CANNOT_GET_TO_SINGLE_STEP_FLAG
-    *os_context_pc_addr(context) = (char *)pc - 9;
+    *os_context_pc_addr(context) = (os_context_register_t)((char *)pc - 9);
 #endif
 }
+
+void
+arch_handle_breakpoint(os_context_t *context)
+{
+    --*os_context_pc_addr(context);
+    handle_breakpoint(context);
+}
+
+void
+arch_handle_fun_end_breakpoint(os_context_t *context)
+{
+    --*os_context_pc_addr(context);
+    *os_context_pc_addr(context) =
+        (unsigned long)handle_fun_end_breakpoint(context);
+}
+
+void
+arch_handle_single_step_trap(os_context_t *context, int trap)
+{
+    arch_skip_instruction(context);
+    /* On x86-64 the fdefn / function is always in RAX, so we pass
+     * 0 as the register_offset. */
+    handle_single_step_trap(context, trap, 0);
+}
+
 \f
 void
 sigtrap_handler(int signal, siginfo_t *info, void *void_context)
 {
-    int code = info->si_code;
     os_context_t *context = (os_context_t*)void_context;
     unsigned int trap;
 
     if (single_stepping && (signal==SIGTRAP))
     {
-       /* fprintf(stderr,"* single step trap %x\n", single_stepping); */
-
 #ifdef CANNOT_GET_TO_SINGLE_STEP_FLAG
-       /* Un-install single step helper instructions. */
-       *(single_stepping-3) = single_step_save1;
-       *(single_stepping-2) = single_step_save2;
-       *(single_stepping-1) = single_step_save3;
+        /* Un-install single step helper instructions. */
+        *(single_stepping-3) = single_step_save1;
+        *(single_stepping-2) = single_step_save2;
+        *(single_stepping-1) = single_step_save3;
 #else
-       *context_eflags_addr(context) ^= 0x100;
+        *context_eflags_addr(context) ^= 0x100;
 #endif
-       /* Re-install the breakpoint if possible. */
-       if (*os_context_pc_addr(context) == (int)single_stepping + 1) {
-           fprintf(stderr, "warning: couldn't reinstall breakpoint\n");
-       } else {
-           *((char *)single_stepping) = BREAKPOINT_INST;       /* x86 INT3 */
-           *((char *)single_stepping+1) = trap_Breakpoint;
-       }
-
-       single_stepping = NULL;
-       return;
+        /* Re-install the breakpoint if possible. */
+        if ((char *)*os_context_pc_addr(context) ==
+            (char *)single_stepping + 1) {
+            fprintf(stderr, "warning: couldn't reinstall breakpoint\n");
+        } else {
+            *((char *)single_stepping) = BREAKPOINT_INST;       /* x86 INT3 */
+            *((char *)single_stepping+1) = trap_Breakpoint;
+        }
+
+        single_stepping = NULL;
+        return;
     }
 
     /* This is just for info in case the monitor wants to print an
      * approximation. */
     current_control_stack_pointer =
-       (lispobj *)*os_context_sp_addr(context);
+        (lispobj *)*os_context_sp_addr(context);
 
     /* FIXME: CMUCL puts the float control restoration code here.
        Thus, it seems to me that single-stepping won't restore the
@@ -228,7 +272,7 @@ sigtrap_handler(int signal, siginfo_t *info, void *void_context)
        single-stepping (as far as I can tell) this is somewhat moot,
        but it might be worth either moving this code up or deleting
        the single-stepping code entirely.  -- CSR, 2002-07-15 */
-#ifdef LISP_FEATURE_LINUX
+#if defined(LISP_FEATURE_LINUX) || defined(RESTORE_FP_CONTROL_FROM_CONTEXT)
     os_restore_fp_control(context);
 #endif
 
@@ -237,54 +281,78 @@ sigtrap_handler(int signal, siginfo_t *info, void *void_context)
      * number of bytes will follow, the first is the length of the byte
      * arguments to follow. */
     trap = *(unsigned char *)(*os_context_pc_addr(context));
-    switch (trap) {
-
-    case trap_PendingInterrupt:
-       FSHOW((stderr, "/<trap pending interrupt>\n"));
-       arch_skip_instruction(context);
-       interrupt_handle_pending(context);
-       break;
-
-    case trap_Halt:
-       /* Note: the old CMU CL code tried to save FPU state
-        * here, and restore it after we do our thing, but there
-        * seems to be no point in doing that, since we're just
-        * going to lose(..) anyway. */
-       fake_foreign_function_call(context);
-       lose("%%PRIMITIVE HALT called; the party is over.");
-
-    case trap_Error:
-    case trap_Cerror:
-       FSHOW((stderr, "<trap error/cerror %d>\n", code));
-       interrupt_internal_error(signal, info, context, code==trap_Cerror);
-       break;
-
-    case trap_Breakpoint:
-       --*os_context_pc_addr(context);
-       handle_breakpoint(signal, info, context);
-       break;
-
-    case trap_FunEndBreakpoint:
-       --*os_context_pc_addr(context);
-       *os_context_pc_addr(context) =
-           (unsigned long)handle_fun_end_breakpoint(signal, info, context);
-       break;
-
-    default:
-       FSHOW((stderr,"/[C--trap default %d %d %x]\n",
-              signal, code, context));
-       interrupt_handle_now(signal, info, context);
-       break;
-    }
+
+    handle_trap(context, trap);
 }
 
-static void
+void
 sigill_handler(int signal, siginfo_t *siginfo, void *void_context) {
     os_context_t *context = (os_context_t*)void_context;
+
+    /* Triggering SIGTRAP using int3 is unreliable on OS X/x86, so
+     * we need to use illegal instructions for traps.
+     */
+#if defined(LISP_FEATURE_DARWIN) && !defined(LISP_FEATURE_MACH_EXCEPTION_HANDLER)
+    if (*((unsigned short *)*os_context_pc_addr(context)) == 0x0b0f) {
+        *os_context_pc_addr(context) += 2;
+        return sigtrap_handler(signal, siginfo, void_context);
+    }
+#endif
+
     fake_foreign_function_call(context);
-    monitor_or_something();
+    lose("Unhandled SIGILL.");
+}
+
+#ifdef X86_64_SIGFPE_FIXUP
+#define MXCSR_IE (0x01)         /* Invalid Operation */
+#define MXCSR_DE (0x02)         /* Denormal */
+#define MXCSR_ZE (0x04)         /* Devide-by-Zero */
+#define MXCSR_OE (0x08)         /* Overflow */
+#define MXCSR_UE (0x10)         /* Underflow */
+#define MXCSR_PE (0x20)         /* Precision */
+
+static inline int
+mxcsr_to_code(unsigned int mxcsr)
+{
+    /* Extract unmasked exception bits. */
+    mxcsr &= ~(mxcsr >> 7) & 0x3F;
+
+    /* This order is defined at "Intel 64 and IA-32 Architectures
+     * Software Developerfs Manual" Volume 1: "Basic Architecture",
+     * 4.9.2 "Floating-Point Exception Priority". */
+    if (mxcsr & MXCSR_IE)
+        return FPE_FLTINV;
+    else if (mxcsr & MXCSR_ZE)
+        return FPE_FLTDIV;
+    else if (mxcsr & MXCSR_DE)
+        return FPE_FLTUND;
+    else if (mxcsr & MXCSR_OE)
+        return FPE_FLTOVF;
+    else if (mxcsr & MXCSR_UE)
+        return FPE_FLTUND;
+    else if (mxcsr & MXCSR_PE)
+        return FPE_FLTRES;
+
+    return 0;
 }
 
+static void
+sigfpe_handler(int signal, siginfo_t *siginfo, void *void_context)
+{
+    os_context_t *context = arch_os_get_context(&void_context);
+    unsigned int *mxcsr = arch_os_context_mxcsr_addr(context);
+
+    if (siginfo->si_code == 0) { /* XMM exception */
+        siginfo->si_code = mxcsr_to_code(*mxcsr);
+
+        /* Clear sticky exception flag. */
+        *mxcsr &= ~0x3F;
+    }
+
+    interrupt_handle_now(signal, siginfo, context);
+}
+#endif
+
 void
 arch_install_interrupt_handlers()
 {
@@ -300,65 +368,24 @@ arch_install_interrupt_handlers()
      * OS I haven't tested on?) and we have to go back to the old CMU
      * CL way, I hope there will at least be a comment to explain
      * why.. -- WHN 2001-06-07 */
+#if !defined(LISP_FEATURE_MACH_EXCEPTION_HANDLER)
     undoably_install_low_level_interrupt_handler(SIGILL , sigill_handler);
     undoably_install_low_level_interrupt_handler(SIGTRAP, sigtrap_handler);
+#endif
+
+#ifdef X86_64_SIGFPE_FIXUP
+    undoably_install_low_level_interrupt_handler(SIGFPE, sigfpe_handler);
+#endif
 
     SHOW("returning from arch_install_interrupt_handlers()");
 }
 \f
-/* This is implemented in assembly language and called from C: */
-extern lispobj
-call_into_lisp(lispobj fun, lispobj *args, int nargs);
-
-/* These functions are an interface to the Lisp call-in facility.
- * Since this is C we can know nothing about the calling environment.
- * The control stack might be the C stack if called from the monitor
- * or the Lisp stack if called as a result of an interrupt or maybe
- * even a separate stack. The args are most likely on that stack but
- * could be in registers depending on what the compiler likes. So we
- * copy the args into a portable vector and let the assembly language
- * call-in function figure it out. */
-
-lispobj
-funcall0(lispobj function)
-{
-    lispobj *args = NULL;
-
-    FSHOW((stderr, "/entering funcall0(0x%lx)\n", (long)function));
-    return call_into_lisp(function, args, 0);
-}
-lispobj
-funcall1(lispobj function, lispobj arg0)
-{
-    lispobj args[1];
-    args[0] = arg0;
-    return call_into_lisp(function, args, 1);
-}
-lispobj
-funcall2(lispobj function, lispobj arg0, lispobj arg1)
-{
-    lispobj args[2];
-    args[0] = arg0;
-    args[1] = arg1;
-    return call_into_lisp(function, args, 2);
-}
-lispobj
-funcall3(lispobj function, lispobj arg0, lispobj arg1, lispobj arg2)
-{
-    lispobj args[3];
-    args[0] = arg0;
-    args[1] = arg1;
-    args[2] = arg2;
-    return call_into_lisp(function, args, 3);
-}
-
-
 #ifdef LISP_FEATURE_LINKAGE_TABLE
 /* FIXME: It might be cleaner to generate these from the lisp side of
  * things.
  */
 
-void 
+void
 arch_write_linkage_table_jmp(char * reloc, void * fun)
 {
     unsigned long addr = (unsigned long) fun;
@@ -372,8 +399,8 @@ arch_write_linkage_table_jmp(char * reloc, void * fun)
     *reloc++ = 0x00; /* ... */
 
     for (i = 0; i < 8; i++) {
-       *reloc++ = addr & 0xff;
-       addr >>= 8;
+        *reloc++ = addr & 0xff;
+        addr >>= 8;
     }
 
     /* write a nop for good measure. */
@@ -391,13 +418,13 @@ arch_write_linkage_table_ref(void * reloc, void * data)
 /* These setup and check *both* the sse2 and x87 FPUs. While lisp code
    only uses the sse2 FPU, other code (such as libc) may use the x87 FPU.
  */
+
 unsigned int
 arch_get_fp_modes()
 {
     unsigned int temp;
     unsigned int result;
-    /* return the x87 exception flags ored in with the sse2 
+    /* return the x87 exception flags ored in with the sse2
      * control+status flags */
     asm ("fnstsw %0" : "=m" (temp));
     result = temp;
@@ -425,7 +452,7 @@ arch_set_fp_modes(unsigned int mxcsr)
 
     /* turn trap enable bits into exception mask */
     mxcsr ^= 0x3F << 7;
-    
+
     /* set x87 modes */
     asm ("fnstenv %0" : "=m" (f_env));
     /* set control word: always long double precision
@@ -434,9 +461,9 @@ arch_set_fp_modes(unsigned int mxcsr)
     /* set status word: only override exception flags, from mxcsr */
     f_env.sw &= ~0x3F;
     f_env.sw |= (mxcsr & 0x3F);
-    
+
     asm ("fldenv %0" : : "m" (f_env));
-    
+
     /* now, simply, load up the mxcsr register */
     temp = mxcsr;
     asm ("ldmxcsr %0" : : "m" (temp));