Вимоги до інформаційної безпеки диктують неохідність розвитку нових методів криптоаналізу. Сучасний криптоаналіз спирається на математику, зокрема на теорію та методи оптимізації. Враховучи загальновизнані вимоги до зламостійкості шифрів, задача розшифрування мусить розглядатися, як задача комбінаторної оптимізації.
В роботі обґрунтовується необхідність розвитку нових методів криптоаналізу із застосуванням метаевристик, міститься ретрспективний огляд публікацій за останній період в даній області. Кількість публікацій свідчить про актуальність напрямку досліджень.
Розглядаються особливості застосування алгоритму АСО (Ant Colony Optimization) до задач криптоаналізу, зокрема, задачі факторизації. Описується структура і загальні принципи роботи алгоритму АСО, адаптація даного алгоритму до розв’язання конкретної задачі комбінаторної оптимізації. Розглянуто різні варіанти фітнес-функції, особливості їх застосування, способи звуження простору пошуку, правила вибору напрямку руху на графі, модифікація локального пошуку. Як один із варіантів модифікації розглядається додавання генетичних операторів кросоверу, мутації, селекції. Описано умови припинення роботи алгоритму.
Обґрунтовано доцільність застосування метаевристик для розв’зання задач комбінаторної оптимізації що виникають у різних предметних областях, зокрема, у криптоаналізі. Підкреслюється, що так як теоретичні дослідження алгоритмів комбінаторної оптимізації рідко дозволяють отримувати результати, які можуть бути застосовані на практиці, то основним інструментом аналізу їх ефективності є обчислювальний експеримент.