Neuro-Symbolic Execution: Augmenting Symbolic Execution with Neural Constraints

Abstract

Symbolic execution is a powerful technique for program analysis. However, it has many limitations in practical applicability: the path explosion problem encumbers scalability, the need for language-specific implementation, the inability to handle complex dependencies, and the limited expressiveness of theories supported by underlying satisfiability checkers. Often, relationships between variables of interest are not expressible directly as purely symbolic constraints. To this end, we present a new approach-neuro-symbolic execution-which learns an approximation of the relationship between program values of interest, as a neural network. We develop a procedure for checking satisfiability of mixed constraints, involving both symbolic expressions and neural representations. We implement our new approach in a tool called NEUEX as an extension of KLEE, a state-of-the-art dynamic symbolic execution engine. NEUEX finds 33 exploits in a benchmark of 7 programs within 12 hours. This is an improvement in the bug finding efficacy of 94% over vanilla KLEE. We show that this new approach drives execution down difficult paths on which KLEE and other DSE extensions get stuck, eliminating limitations of purely SMT-based techniques.

Ієрархічна Модель Систем Автоматизованого Генерування Модульних Тестів

“…Використання декількох типів вхідних даних одночасно є найбільш перспективним. Серед розглянутих засобів [1,3,4,5,6,9,13,14,16,18,15,22] найпопулярнішими вхідними даними є байт-код і граф контролю потоку, згенерований на підставі коду ПЗ.…”

“…У розробках автоматизованих методів генерування модульних тестів досягнуто значного прогресу, зокрема створено методи та засоби символьного виконання [1,7,10,12,16,17,20,21,22], які генерують тести для коду, написаного на С, С++, Java та інших мовах програмування [2,4,5,8,13,14,15,18]. Наявні засоби використову-ють оптимізаційні алгоритми [2,6,9], штучні нейронні мереж та інші засоби [10,18]. Обчислювальну ефективність покращено завдяки паралелізації алгоритмів [3,19,20].…”

“…Для вдосконалення символьного аналізу пропонується використовувати нейронні мережі [18], які дають змогу краще справлятися з експоненційним зростаням кількості шляхів та недоліками SMT-вирішувачів, обмеженнями аналізу коду. За допомогою нейронної мережі будується апроксимована репрезентація логіки програми.…”

“…За допомогою нейронної мережі будується апроксимована репрезентація логіки програми. Така апроксимація виконується для кожного фрагмента програми окремо [10,18], що дає змогу враховувати логічні зв'язки між сутностями, які були виявлені при апроксимації ділянок коду. Для об'єднання результатів роботи нейромережі та методів символьного виконання створюються та вирішуються комбіновані обмеження.…”