ComposableThreads: Rethinking User-level Threads with Composability and Parametricity in C++

Abstract

User-level threading or task-parallel systems have been developed over decades to provide efficient and flexible threading features missing from kernel-level threading for both parallel and concurrent programming. Some of the existing state-of-the-art user-level threading libraries provide interfaces to customize the implementation of thread scheduling to adapt to different workloads from both applications and upper-level systems. However, most of them are typically built as huge sets of monolithic components which achieve customizability with additional costs via concrete C APIs. We have noticed that the zero-overhead abstraction of C++ is beneficial for assembling flexible user-level threading in a clearer manner. To demonstrate our ideas, we have implemented a new user-level threading library ComposableThreads which provides customizability while minimizing the interfacing costs. We show that the users can pick up, insert, or replace the individual classes of ComposableThreads for their own purposes. Com-posableThreads offers several characteristic abstractions to build high-level constructs of user-level threading including suspended threads (one-shot continuations) and lock delegators. We evaluate both the customizability and performance of our runtime system through the microbenchmark and application results.

Creating Multithreaded Ptograms in C++

“…Якщо раніше можна було написати програму і сподіватись, що вона працюватиме швидше із виходом нової, продуктивнішої моделі процесора, то тепер, за висловом Херба Саттера, «безкоштовний обід закінчився» [1]. Оскільки багатоядерні процесори стали домінуючими при виробництві комп'ютерних систем, використання багатопотоковості стає все більш важливим чинником прискорення роботи програм [3]. Багатопотокова технологія дозволяє програмам виконувати різні завдання одночасно, таким чином забезпечуючи повне використання обчислювальних ресурсів [4].…”