Reinventing Quality

ERROR: Content Element with uid "6778" and type "dce_dceuid16" has no rendering definition!

Qualitätsmerkmal Ethik - Wie testet man richtig die (richtige) Ethik?

Künstliche Intelligenz, Big Data oder auch autonomes Fahren werden auch im ethischen Kontext immer häufiger diskutiert. Ist es ethisch korrekt, wenn mir eine Software bestimmte Bücher vorschlägt, weil ich dies und jenes gekauft habe, oder wenn mir der Abschluss einer Lebensversicherung durch ein automatisches Risikomanagementsystem verwehrt wird, weil ich bestimmte Gene habe?
Über ethische Entscheidungsregeln für Softwaresysteme muss noch viel geredet werden. Doch wie wollen wir eigentlich in der Qualitätssicherung solche Entscheidungen, wenn es sie denn gibt oder geben wird, überprüfen? Wie sieht ein richtiger Ethik-Test aus?

Die zunehmende Leistungsfähigkeit von Hard- und Software sowie neue, komplexe Anwendungsfälle für softwareintensive und vernetzte Systeme führen zu einem steigenden Grad der Autonomie, mit der z.B. ein Risikomanagementsystem agiert und entscheidet. Damit delegiert der Mensch mehr und mehr Entscheidungen an Software – und künftig auch immer mehr ethische Entscheidungen, die vom Menschen selbst auf Basis seines Erfahrungsschatzes, seiner Erziehung und vor allem seiner ethischen Prinzipien getroffen werden. Autonome Software braucht also eine Art von künstlicher Ethik, um ähnlich leistungsfähig wie ein Mensch Entscheidungen treffen zu können.
Als Tester sehen wir uns also bereits heute – und in Zukunft in immer größerem Maß – damit konfrontiert, mit einem neuen Qualitätsmerkmal von Software – nämlich der Maschinen-Ethik – umgehen zu können.

Der Vortrag gliedert sich in die folgenden Bereiche:

  1. Grundlagen für die folgenden Betrachtungen von Lösungsansätzen: Was ist eigentlich Ethik? Wie kann man sie in Software abbilden?
  2. Kleiner historischer Rückblick: Wie hat sich Software in den letzten 70 Jahren hinsichtlich des Grades der von der Software übernommenen Verantwortung, der Fähigkeit zu autonomen Entscheidungen und der Nachvollziehbarkeit solcher Entscheidungen durch den Menschen entwickelt?
  3. Extrapolation dieses Rückblicks: Wo entstehen bereits heute und in naher Zukunft autonom entscheidende Softwaresysteme und welche Probleme bringt das mit sich?
  4. Ansätze für den Tester: Testziele und Grundlagen für ein Ethik-Testkonzept
  5. Ausblick: Interdisziplinäre Zusammenarbeit zwischen Informatik, Psychologie und Philosophie kann die Ansätze weiterbringen

Der Vortrag soll dem Zuhörer das Problembewusstsein für ein zukünftiges Thema, erstes Hintergrundwissen zur Beschäftigung mit Lösungsansätzen und Anregungen für Diskussionen vermitteln.

Nils Röttger, imbus AG

Nils Röttger hat an der Universität in Göttingen Informatik studiert. Bereits während des Master-Studiums lag sein Schwerpunkt im Themengebiet Softwaretest. Seit 2008 arbeitet er am Hauptsitz der imbus AG in Möhrendorf als Berater, Projektleiter und Speaker. Seit 2013 ist er bei imbus für den Bereich Mobile Testing verantwortlich.