No abstract

Zusammenfassung Künstlich intelligente (KI) Systeme erfreuen sich immer größerer Beliebtheit. Insbesondere smarte persönliche Assistenten (SPAs) von Amazon, Google und vielen weiteren verzeichnen ein stetiges Marktwachstum. Den vielfältigen Potenzialen dieser KI-Systeme stehen jedoch auch zahlreiche Risiken gegenüber. Berichte von Datenpannen und-lecks häufen sich und haben bei Nutzern eine zunehmende Skepsis zur Folge, was zu einem gespaltenen Bild von KI in der Gesellschaft beiträgt. Diesem Problem stellt sich das Forschungsprojekt AnEkA mit einem interdisziplinären Gestaltungsansatz. Auf Basis von Rechts-und Qualitätszielen werden Anforderungen an rechtsverträgliche und qualitativ hochwertige SPAs abgeleitet. Zusätzlich werden Gestaltungsalternativen identifiziert, die diese Anforderungen unter Berücksichtigung möglicher Zielkonflikte umsetzen. Ergebnis des Projekts sind Entwurfsmuster, die Entwicklern von SPAs dabei helfen sollen, rechtsverträgliche und qualitativ hochwertige SPAs und KI-Systeme im Allgemeinen zu entwickeln. Dadurch soll das Alleinstellungsmerkmal einer "KI made in Germany" entstehen, welche sowohl die Bedürfnisse von Nutzern berücksichtigt und sie ebenfalls bestmöglich vor Risiken der Systemnutzung schützt. Dieser Beitrag erläutert das interdisziplinäre Vorgehen anhand eines Szenarios zur Nutzung von SPAs.

In der Entwicklung datenschutzgerechter Systeme fehlt es Entwicklern häufig an rechtlichem Wissen und dem notwendigen Verständnis, die rechtlichen Anforderungen zufriedenstellend umzusetzen. Das führt dazu, dass rechtlichen Aspekten häufig erst zum Ende der Entwicklung Beachtung geschenkt wird. Und meist auch nur so weit, dass diese gerade so den Mindestanforderungen-damit das System ohne Sanktionsrisiko auf den Markt gebracht werden darf-entsprechen. Neben mangelndem Rechtswissen sind Konflikte mit anderen Gestaltungskriterien, wie der Dienstleistungsqualität, eine Herausforderung. So ist etwa die Personalisierung von Systemen, insbesondere von Smarten Persönlichen Assistenten (SPA), ein entscheidendes Merkmal für die Benutzerfreundlichkeit und damit der Dienstleistungsqualität. Dagegen fordert das Datenschutzrecht, so wenig personenbezogene Daten wie möglich zu verarbeiten. Solche Konflikte sollen durch Systemgestaltung gelöst werden. Um die Gestaltungsvorschläge in die Systementwicklung einzuführen, sind Entwurfsmuster ein geeignetes Instrument. Um den Anforderungen von Recht und Dienstleistungsqualität gerecht zu werden, erläutert der Beitrag die Unterschiede in der Kodifizierung von Rechts-und Dienstleistungswissen und stellt einen interdisziplinären Ansatz vor, der beide Disziplinen vereint. Dabei werden die beiden unterschiedlichen Arten der Wissenskodifizierung im Recht und in der Technik in gemeinsamen Entwurfsmustern verknüpft.

No abstract

No abstract