Towards Regulatory-Compliant MLOps: Oravizio’s Journey from a Machine Learning Experiment to a Deployed Certified Medical Product

Abstract

Agile software development embraces change and manifests working software over comprehensive documentation and responding to change over following a plan. The ability to continuously release software has enabled a development approach where experimental features are put to use, and, if they stand the test of real use, they remain in production. Examples of such features include machine learning (ML) models, which are usually pre-trained, but can still evolve in production. However, many domains require more plan-driven approach to avoid hazard to environment and humans, and to mitigate risks in the process. In this paper, we start by presenting continuous software engineering practices in a regulated context, and then apply the results to the emerging practice of MLOps, or continuous delivery of ML features. Furthermore, as a practical contribution, we present a case study regarding Oravizio, first CE-certified medical software for assessing the risks of joint replacement surgeries. Towards the end of the paper, we also reflect the Oravizio experiences to MLOps in regulatory context.

Applying DevOps to Machine Learning Processes: A Systematic Mapping

“…A7, de [García et al 2020], foca nas práticas de CI/CD, relatando como alterac ¸ões no código-fonte são automaticamente validadas com CI, e como a nova versão do modelo é disponibilizada também de forma automática por meio de CD. Em A8, os autores [Granlund et al 2021] descrevem conceitualmente práticas de entrega contínua em software e o ciclo de vida de MLOps; também apresentam um estudo de caso sobre uma aplicac ¸ão médica voltada para a avaliac ¸ão de riscos de cirurgia de substituic ¸ão de articulac ¸ões, que poderia se beneficiar das práticas de MLOps em seu desenvolvimento (incluindo requisitos e implicac ¸ões regulatórias). O artigo A9, de [Karamitsos et al 2020], apresenta práticas, princípios e ferramentas de CI/CD para o desenvolvimento e implantac ¸ão de modelos de ML, com o objetivo de suportar ciclos de feedback rápidos, descobrir dívida técnica oculta, aperfeic ¸oar func ¸ões operacionais e a entrega de valor.…”

“…A maioria dos desafios mencionados em relac ¸ão à adoc ¸ão de DevOps no contexto de machine learning se refere sobretudo às próprias características inerentes ao sistemas e modelos de ML -os quais, diferentemente dos sistemas tradicionais de engenharia de software, possuem a necessidade de serem constantemente treinados e testados, em um processo de iterac ¸ão contínuo [Lwakatare et al 2020]. Tais desafios são mencionados no estudo A8, que aborda a questão das etapas necessárias para implantar modelos de machine learning, considerando treino, teste e validac ¸ão, e a importância do monitoramento, que deve considerar vieses e desvios que podem surgir ao longo do processo de treinamento [Granlund et al 2021].…”

“…No artigo A9, de [Karamitsos et al 2020], a mudanc ¸a de cultura é apontada como um dos principais desafios no processo de adoc ¸ão de práticas de Dev-Ops para ML, bem como o trabalho isolado e a falta de entendimento do valor que tais práticas podem agregar ao negócio. [Granlund et al 2021] em A8 também ressaltam as dificuldades relacionadas à integrac ¸ão dos agentes envolvidos no contexto de ML, que geralmente possuem atribuic ¸ões separadas (por exemplo: desenvolvedores responsáveis somente pelo código e liberac ¸ão do sistema para produc ¸ão; engenheiros e cientistas de dados dedicados exclusivamente à coleta de dados e gerac ¸ão do modelo), o que leva à desarmonia dos processos, atrasos na entrega e conflitos.…”

Absolute Two-Tracked Optical Rotary Encoders Based on Vernier Method

“…It is clear that ML may offer notable advantages compared to traditional methods. However, the algorithms based on ML can be too obscure for safety-critical applications because of the lack of a clearly predictable relationship between the inputs and outputs of the system, especially when the algorithm is forced to operate in a region that exceeds the training domain [13], [14]. This also suggests the importance of collecting meaningful datasets to be exploited during the training stage, which can be very demanding, time-consuming and costly.…”

Development of medical applications based on AI models and register data – regulatory considerations

“…Also, the use of agile and continuous development approaches causes the need for frequent software updates challenging the conventional "waterfalltype" development process [5]. The challenges caused by frequent software changes in the context of medical devices have been addressed in several earlier studies and reports [6][7][8]. Only a few earlier papers address the challenges related to the need to use sensitive healthcare register data in the development of medical device software [8].…”