1.0.14.1: lisp-side interrupt handling improvements
[sbcl.git] / src / code / target-thread.lisp
index 19f2747..218e355 100644 (file)
@@ -215,38 +215,49 @@ in future versions."
 (setf (fdocumentation 'make-mutex 'function)
       "Create a mutex."
       (fdocumentation 'mutex-name 'function)
-      "The name of the mutex. Setfable."
-      (fdocumentation 'mutex-value 'function)
-      "The value of the mutex. NIL if the mutex is free. Setfable.")
+      "The name of the mutex. Setfable.")
 
 #!+(and sb-thread (not sb-lutex))
-(define-structure-slot-addressor mutex-value-address
+(progn
+  (define-structure-slot-addressor mutex-state-address
       :structure mutex
-      :slot value)
-
-(defun get-mutex (mutex &optional (new-value *current-thread*) (waitp t))
+      :slot state)
+  ;; Important: current code assumes these are fixnums or other
+  ;; lisp objects that don't need pinning.
+  (defconstant +lock-free+ 0)
+  (defconstant +lock-taken+ 1)
+  (defconstant +lock-contested+ 2))
+
+(defun get-mutex (mutex &optional (new-owner *current-thread*) (waitp t))
   #!+sb-doc
-  "Acquire MUTEX, setting it to NEW-VALUE or some suitable default value if
-NIL. If WAITP is non-NIL and the mutex is in use, sleep until it is available."
-  (declare (type mutex mutex) (optimize (speed 3)))
-  (/show0 "Entering GET-MUTEX")
-  (unless new-value
-    (setq new-value *current-thread*))
-  #!-sb-thread
-  (let ((old (mutex-value mutex)))
-    (when (and old waitp)
-      (error "In unithread mode, mutex ~S was requested with WAITP ~S and ~
-              new-value ~S, but has already been acquired (with value ~S)."
-             mutex waitp new-value old))
-    (setf (mutex-value mutex) new-value)
-    t)
+  "Acquire MUTEX for NEW-OWNER, which must be a thread or NIL. If
+NEW-OWNER is NIL, it defaults to the current thread. If WAITP is
+non-NIL and the mutex is in use, sleep until it is available.
+
+Note: using GET-MUTEX to assign a MUTEX to another thread then the
+current one is not recommended, and liable to be deprecated.
+
+GET-MUTEX is not interrupt safe. The correct way to call it is:
+
+ (WITHOUT-INTERRUPTS
+   ...
+   (ALLOW-WITH-INTERRUPTS (GET-MUTEX ...))
+   ...)
+
+WITHOUT-INTERRUPTS is necessary to avoid an interrupt unwinding the
+call while the mutex is in an inconsistent state while
+ALLOW-WITH-INTERRUPTS allows the call to be interrupted from sleep.
+
+It is recommended that you use WITH-MUTEX instead of calling GET-MUTEX
+directly."
+  (declare (type mutex mutex) (optimize (speed 3))
+           #!-sb-thread (ignore waitp))
+  (unless new-owner
+    (setq new-owner *current-thread*))
+  (when (eql new-owner (mutex-%owner mutex))
+    (error "Recursive lock attempt ~S." mutex))
   #!+sb-thread
   (progn
-    (when (eql new-value (mutex-value mutex))
-      (warn "recursive lock attempt ~S~%" mutex)
-      (format *debug-io* "Thread: ~A~%" *current-thread*)
-      (sb!debug:backtrace most-positive-fixnum *debug-io*)
-      (force-output *debug-io*))
     ;; FIXME: Lutexes do not currently support deadlines, as at least
     ;; on Darwin pthread_foo_timedbar functions are not supported:
     ;; this means that we probably need to use the Carbon multiprocessing
@@ -255,42 +266,80 @@ NIL. If WAITP is non-NIL and the mutex is in use, sleep until it is available."
     ;; FIXME: This is definitely not interrupt safe: what happens if
     ;; we get hit (1) during the lutex calls (ok, they may be safe,
     ;; but has that been checked?) (2) after the lutex call, but
-    ;; before setting the mutex value.
+    ;; before setting the mutex owner.
     #!+sb-lutex
     (when (zerop (with-lutex-address (lutex (mutex-lutex mutex))
                    (if waitp
                        (with-interrupts (%lutex-lock lutex))
                        (%lutex-trylock lutex))))
-      (setf (mutex-value mutex) new-value))
+      (setf (mutex-%owner mutex) new-owner)
+      t)
     #!-sb-lutex
-    (let (old)
-      (when (and (setf old (sb!ext:compare-and-swap (mutex-value mutex) nil new-value))
-                 waitp)
-        (loop while old
-              do (multiple-value-bind (to-sec to-usec) (decode-timeout nil)
-                   (when (= 1 (with-pinned-objects (mutex old)
-                                (futex-wait (mutex-value-address mutex)
-                                            (get-lisp-obj-address old)
-                                            (or to-sec -1)
-                                            (or to-usec 0))))
-                     (signal-deadline)))
-              (setf old (sb!ext:compare-and-swap (mutex-value mutex) nil new-value))))
-      (not old))))
+    (let ((old (sb!ext:compare-and-swap (mutex-state mutex)
+                                        +lock-free+
+                                        +lock-taken+)))
+      (unless (or (eql +lock-free+ old) (not waitp))
+        (tagbody
+         :retry
+           (when (or (eql +lock-contested+ old)
+                     (not (eql +lock-free+
+                               (sb!ext:compare-and-swap (mutex-state mutex)
+                                                        +lock-taken+
+                                                        +lock-contested+))))
+             ;; Wait on the contested lock.
+             (multiple-value-bind (to-sec to-usec) (decode-timeout nil)
+               (when (= 1 (with-pinned-objects (mutex)
+                            (futex-wait (mutex-state-address mutex)
+                                        (get-lisp-obj-address +lock-contested+)
+                                        (or to-sec -1)
+                                        (or to-usec 0))))
+                 (signal-deadline))))
+           (setf old (sb!ext:compare-and-swap (mutex-state mutex)
+                                              +lock-free+
+                                              +lock-contested+))
+           ;; Did we get it?
+           (unless (eql +lock-free+ old)
+             (go :retry))))
+      (cond ((eql +lock-free+ old)
+             (let ((prev (sb!ext:compare-and-swap (mutex-%owner mutex)
+                                                  nil new-owner)))
+               (when prev
+                 (bug "Old owner in free mutex: ~S" prev))
+               t))
+            (waitp
+             (bug "Failed to acquire lock with WAITP."))))))
 
 (defun release-mutex (mutex)
   #!+sb-doc
   "Release MUTEX by setting it to NIL. Wake up threads waiting for
-this mutex."
+this mutex.
+
+RELEASE-MUTEX is not interrupt safe: interrupts should be disabled
+around calls to it.
+
+Signals a WARNING is current thread is not the current owner of the
+mutex."
   (declare (type mutex mutex))
-  (/show0 "Entering RELEASE-MUTEX")
-  (setf (mutex-value mutex) nil)
+  ;; Order matters: set owner to NIL before releasing state.
+  (let* ((self *current-thread*)
+         (old-owner (sb!ext:compare-and-swap (mutex-%owner mutex) self nil)))
+    (unless  (eql self old-owner)
+      (warn "Releasing ~S, owned by another thread: ~S" mutex old-owner)
+      (setf (mutex-%owner mutex) nil)))
   #!+sb-thread
   (progn
     #!+sb-lutex
     (with-lutex-address (lutex (mutex-lutex mutex))
       (%lutex-unlock lutex))
     #!-sb-lutex
-    (futex-wake (mutex-value-address mutex) 1)))
+    (let ((old (sb!ext:compare-and-swap (mutex-state mutex)
+                                        +lock-taken+ +lock-free+)))
+      (when (eql old +lock-contested+)
+        (sb!ext:compare-and-swap (mutex-state mutex)
+                                 +lock-contested+ +lock-free+)
+        (with-pinned-objects (mutex)
+          (futex-wake (mutex-state-address mutex) 1))))
+    nil))
 
 ;;;; waitqueues/condition variables
 
@@ -326,16 +375,16 @@ time we reacquire MUTEX and return to the caller."
   (assert mutex)
   #!-sb-thread (error "Not supported in unithread builds.")
   #!+sb-thread
-  (let ((value (mutex-value mutex)))
+  (let ((owner (mutex-%owner mutex)))
     (/show0 "CONDITION-WAITing")
     #!+sb-lutex
     (progn
       ;; FIXME: This doesn't look interrupt safe!
-      (setf (mutex-value mutex) nil)
+      (setf (mutex-%owner mutex) nil)
       (with-lutex-address (queue-lutex-address (waitqueue-lutex queue))
         (with-lutex-address (mutex-lutex-address (mutex-lutex mutex))
           (%lutex-wait queue-lutex-address mutex-lutex-address)))
-      (setf (mutex-value mutex) value))
+      (setf (mutex-%owner mutex) owner))
     #!-sb-lutex
     (unwind-protect
          (let ((me *current-thread*))
@@ -360,7 +409,7 @@ time we reacquire MUTEX and return to the caller."
       ;; before returning.  Ideally, in the case of an unhandled signal,
       ;; we should do them before entering the debugger, but this is
       ;; better than nothing.
-      (get-mutex mutex value))))
+      (get-mutex mutex owner))))
 
 (defun condition-notify (queue &optional (n 1))
   #!+sb-doc
@@ -398,41 +447,48 @@ time we reacquire MUTEX and return to the caller."
 
 ;;;; semaphores
 
-(defstruct (semaphore (:constructor %make-semaphore))
+(defstruct (semaphore (:constructor %make-semaphore (name %count)))
   #!+sb-doc
-  "Semaphore type."
+  "Semaphore type. The fact that a SEMAPHORE is a STRUCTURE-OBJECT
+should be considered an implementation detail, and may change in the
+future."
   (name nil :type (or null simple-string))
-  (count 0 :type (integer 0))
+  (%count 0 :type (integer 0))
   (mutex (make-mutex))
   (queue (make-waitqueue)))
 
+(setf (fdocumentation 'semaphore-name 'function)
+      "The name of the semaphore INSTANCE. Setfable.")
+
+(declaim (inline semaphore-count))
+(defun semaphore-count (instance)
+  "Returns the current count of the semaphore INSTANCE."
+  (semaphore-%count instance))
+
 (defun make-semaphore (&key name (count 0))
   #!+sb-doc
-  "Create a semaphore with the supplied COUNT."
-  (%make-semaphore :name name :count count))
-
-(setf (fdocumentation 'semaphore-name 'function)
-      "The name of the semaphore. Setfable.")
+  "Create a semaphore with the supplied COUNT and NAME."
+  (%make-semaphore name count))
 
-(defun wait-on-semaphore (sem)
+(defun wait-on-semaphore (semaphore)
   #!+sb-doc
-  "Decrement the count of SEM if the count would not be negative. Else
-block until the semaphore can be decremented."
+  "Decrement the count of SEMAPHORE if the count would not be
+negative. Else blocks until the semaphore can be decremented."
   ;; a more direct implementation based directly on futexes should be
   ;; possible
-  (with-mutex ((semaphore-mutex sem))
-    (loop until (> (semaphore-count sem) 0)
-          do (condition-wait (semaphore-queue sem) (semaphore-mutex sem))
-          finally (decf (semaphore-count sem)))))
+  (with-mutex ((semaphore-mutex semaphore))
+    (loop until (> (semaphore-%count semaphore) 0)
+          do (condition-wait (semaphore-queue semaphore) (semaphore-mutex semaphore))
+          finally (decf (semaphore-%count semaphore)))))
 
-(defun signal-semaphore (sem &optional (n 1))
+(defun signal-semaphore (semaphore &optional (n 1))
   #!+sb-doc
-  "Increment the count of SEM by N. If there are threads waiting on
-this semaphore, then N of them is woken up."
-  (declare (type (and fixnum (integer 1)) n))
-  (with-mutex ((semaphore-mutex sem))
-    (when (= n (incf (semaphore-count sem) n))
-      (condition-notify (semaphore-queue sem) n))))
+  "Increment the count of SEMAPHORE by N. If there are threads waiting
+on this semaphore, then N of them is woken up."
+  (declare (type (integer 1) n))
+  (with-mutex ((semaphore-mutex semaphore))
+    (when (= n (incf (semaphore-%count semaphore) n))
+      (condition-notify (semaphore-queue semaphore) n))))
 
 ;;;; job control, independent listeners
 
@@ -627,12 +683,14 @@ around and can be retrieved by JOIN-THREAD."
                   (*restart-clusters* nil)
                   (*handler-clusters* nil)
                   (*condition-restarts* nil)
+                  (sb!impl::*deadline* nil)
                   (sb!impl::*step-out* nil)
                   ;; internal printer variables
                   (sb!impl::*previous-case* nil)
                   (sb!impl::*previous-readtable-case* nil)
-                  (sb!impl::*merge-sort-temp-vector* (vector)) ; keep these small!
-                  (sb!impl::*zap-array-data-temp* (vector))    ;
+                  (empty (vector))
+                  (sb!impl::*merge-sort-temp-vector* empty)
+                  (sb!impl::*zap-array-data-temp* empty)
                   (sb!impl::*internal-symbol-output-fun* nil)
                   (sb!impl::*descriptor-handlers* nil)) ; serve-event
               (setf (thread-os-thread thread) (current-thread-sap-id))
@@ -787,6 +845,12 @@ SB-EXT:QUIT - the usual cleanup forms will be evaluated"
              (sap-ref-sap thread-sap (* sb!vm:n-word-bytes
                                         sb!vm::thread-next-slot)))))))
 
+(define-alien-routine "thread_yield" int)
+
+#!+sb-doc
+(setf (fdocumentation 'thread-yield 'function)
+      "Yield the processor to other threads.")
+
 #!+sb-thread
 (defun symbol-value-in-thread (symbol thread-sap)
   (let* ((index (sb!vm::symbol-tls-index symbol))