Rechtsverträgliche und qualitätszentrierte Gestaltung für „KI made in Germany“

Künstlich intelligente (KI) Systeme erfreuen sich immer größerer Beliebtheit. Insbesondere smarte persönliche Assistenten (SPAs) von Amazon, Google und vielen weiteren verzeichnen ein stetiges Marktwachstum. Den vielfältigen Potenzialen dieser KI-Systeme stehen jedoch auch zahlreiche Risiken gegenüber. Berichte von Datenpannen und -lecks häufen sich und haben bei Nutzern eine zunehmende Skepsis zur Folge, was zu einem gespaltenen Bild von KI in der Gesellschaft beiträgt. Diesem Problem stellt sich das Forschungsprojekt AnEkA mit einem interdisziplinären Gestaltungsansatz. Auf Basis von Rechts- und Qualitätszielen werden Anforderungen an rechtsverträgliche und qualitativ hochwertige SPAs abgeleitet. Zusätzlich werden Gestaltungsalternativen identifiziert, die diese Anforderungen unter Berücksichtigung möglicher Zielkonflikte umsetzen. Ergebnis des Projekts sind Entwurfsmuster, die Entwicklern von SPAs dabei helfen sollen, rechtsverträgliche und qualitativ hochwertige SPAs und KI-Systeme im Allgemeinen zu entwickeln. Dadurch soll das Alleinstellungsmerkmal einer „KI made in Germany“ entstehen, welche sowohl die Bedürfnisse von Nutzern berücksichtigt und sie ebenfalls bestmöglich vor Risiken der Systemnutzung schützt. Dieser Beitrag erläutert das interdisziplinäre Vorgehen anhand eines Szenarios zur Nutzung von SPAs.