Algorithms for Sparse k-Monotone Regression

Sidorov, Sergei; Faizliev, Alexey; Gudkov, Alexander A.; Mironov, Sergei V.

doi:10.1007/978-3-319-93031-2_39

Cited by 1 publication

(3 citation statements)

References 38 publications

Supporting

Mentioning

Contrasting

Order By: Relevance

“…coordinate descent or proximal gradient descent) only possess sublinear convergence in general or linear convergence under certain conditions [27]. On the other hand, -FWA and -PAVA examined in [17] are not optimal.…”

Section: Discussionmentioning

confidence: 99%

“…-monotone regression is the extension of monotone regression to the general case of -monotonicity [17]. Both isotone and -monotone regression have applications in many fields, including the non-parametric mathematical statistics [3,18], the empirical data smoothing [19][20][21], the shape-preserving dynamic programming [22], the shape-preserving approximation [23][24][25].…”

mentioning

confidence: 99%

“…(b) The case 1, 3 ∈ , i.e. Δ 2 1 < 0, Δ 2 3 < 0, and 2, 4, 5 / ∈ , 's are the solutions to the problem(17)…”

mentioning

confidence: 99%

See 2 more Smart Citations

A dual active set algorithm for optimal sparse convex regression

Aleksandrovich

Mironov

Sidorov

et al. 2019

Vestn. Samar. Gos. Tekhn. Univ., Ser. Fiz.-Mat. Nauki

View full text Add to dashboard Cite

В последнее время задачи статистики с ограничениями на форму данных привлекают повышенное внимание. Одной из таких задач является задача поиска оптимальной монотонной регрессии. Проблема построения монотонной регрессии (которая также называется изотонной регрессией) состоит в том, чтобы для данного вектора (не обязательно монотонного) найти неубывающий вектор с наименьшей ошибкой приближения к данному. Выпуклая регрессия есть развитие понятия монотонной регрессии для случая $2$-монотонности (т.е. выпуклости). Как изотонная, так и выпуклая регрессия находят применение во многих областях, включая непараметрическую математическую статистику и сглаживание эмпирических данных. В данной статье предлагается итерационный алгоритм построения разреженной выпуклой регрессии, т.е. для нахождения выпуклого вектора $z\in \mathbb{R}^n$ с наименьшей квадратичной ошибкой приближения к данному вектору $y\in \mathbb{R}^n$ (не обязательно являющемуся выпуклым). Задача может быть представлена в виде задачи выпуклого программирования с линейными ограничениями. Используя условия оптимальности Каруша-Куна-Таккера, доказано, что оптимальные точки должны лежать на кусочно-линейной функции. Доказано, что предложенный двойственный алгоритм на основе активного множества для построения оптимальной разреженной выпуклой регрессии имеет полиномиальную сложность и позволяет найти оптимальное решение (для которого выполнены условия Каруша-Куна-Таккера).

show abstract

Section: Discussionmentioning

confidence: 99%