Éthique collective dans les systèmes multi-agents

Abstract

International audienceL’utilisation croissante des technologies multi-agents pour le développement de systèmes socio-techniques révèle de nombreux verrous, dont ceux liés à l’éthique des décisions autonomes que de tels systèmes peuvent être amenés à prendre. Ces verrous sont souvent considérés comme un problème de conception selon une perspective centrée sur l’agent. Ici, nous élargissons cette perspective au collectif, introduisant ainsi les questions éthiques découlant de la participation des agents autonomes à des interactions entre agents, à des coalitions ou à des structures plus pérennes telles que des organisations. Cet article propose un panorama de ces différentes questions et des travaux actuels ou récents s’y intéressant

Apprentissage de comportements éthiques multi-valeurs par combinaison d’agents juges symboliques et d’agents apprenants

“…De nombreux travaux considèrent un unique agent isolé dans son environnement [32], tel que GenEth [3]. D'autres, tels que Ethicaa [15], utilisent de multiples agents dans un environnement commun.…”

“…Dans Ethicaa [15], des agents Beliefs Desires Intentions (BDI) raisonnent sur plusieurs principes éthiques pour décider de leur comportement et juger les actions des autres agents. Les agents disposent également d'une relation de préférence sur les différents principes, ce qui leur permet de trancher les situations de conflit.…”

“…Le projet Ethicaa propose un système multi-agent dans lequel les agents juges déterminent un jugement sur les actions d'autres agents, en utilisant des croyances sur une situation donnée [15]. À notre connaissance, l'intégration d'un jugement symbolique pour donner une récompense numérique aux agents apprenants n'a pas été étudié dans le domaine des Machine Ethics, mais nous pouvons appliquer les travaux d'Ethicaa au jugement d'agents utilisant de l'apprentissage numérique.…”

“…Ces agents juges sont basés sur les agents Ethicaa [15], manipulant un ensemble de règles morales pour raisonner et juger les actions des autres agents dans l'environnement. Les juges utilisent ces règles pour déterminer un jugement (e.g., « moral », « immoral »), qui sont transformés en récompenses pour les apprenants.…”

The Concept of Autonomous Systems in Industry 4.0

“…Ought to this explicit communication the agents can realize different advantageous strategies. Meanwhile they alternate the active and passive roles and communicate with messages according to the common strategies introduced by the following definitions [18,19]:…”