Исследована модель Изинга с фрустрированным обменным взаимодействием для ультратонкой сильно анизотропной антиферромагнитной пленки в среднеполевом приближении при низкой температуре. Показано, что при определенном соотношении величин материальных констант в системе может реализоваться пространственно-неоднородное состояние наряду с однородными состояниями: ферромагнитной, квадрупольной или сверхтвердой магнитной фазой. На основе анализа линий устойчивости построена фазовая диаграмма системы. Ф.Н. Клевец и А.Г. Мелешко благодарят фонд Дмитрия Зимина Династия" за финансовую поддержку. Работа выполнена при финансовой поддержке РФФИ (проекты N 16-02-00069 а, 15-42-01007 р\_юг\_а, 16-42-910441 р\_a и 16-32-00098). DOI: 10.21883/FTT.2017.09.44842.040