NÜRTINGEN (hfwu). Ein Algorithmus entscheidet, dass eine Bewerberin den Job nicht bekommt, weil sie schwanger werden könnte. Wer kann juristisch für diese Diskriminierung belangt werden: der Programmierer, das Unternehmen, niemand, wenn es ein selbstlernender Algorithmus war? Ein Vortrag an der Hochschule für Wirtschaft und Umwelt (HfWU) befasste sich mit dem Wandel des Rechts in Zeiten von künstlicher Intelligenz.
Das Recht und die Rechtsprechung bleiben von der allgegenwärtigen Digitalisierung nicht unberührt. Die Frage ist, so Prof. Dr. Katja Gabius, Referentin des Vortrags an der HfWU in Nürtingen, genügen die bestehenden Gesetze oder brauchen wir eine neue Rechtsordnung? Brauchen wir irgendwann gar keine Juristen mehr, weil die Algorithmen sich im Gestrüpp der Gesetze besser zurechtfinden als der Mensch?
Für Gabius bleiben Algorithmen grundsätzlich Handlanger des Menschen. Denn natürliche oder juristische Person haben sie geschaffen und sie sind deren Eigentum. Die Aufgabe in der aktuellen Situation bestehe darin, einen Spagat zu schaffen. Einerseits gehe es darum, eine innovationshemmende Überregulierung zu vermeiden. Zum anderen muss eine Konformität der neuen Technologien mit dem bestehenden Rechtssystem gewährleistet sein. Gabius konkretisierte die juristischen Herausforderungen anhand der Themenfelder Datenschutz, Vertragsrecht und Haftung.
Der Datenschutz ist eng verknüpft mit der Einwilligung des Kunden. Jeder hat schon einmal im Internet nach zwei Sekunden Lektüre zwanzigseitige AGBs abgesegnet. Kann hier von einer rechtlich bindenden Einwilligung gesprochen werden? Gabius wies darauf hin, dass eine Einwilligung ohne Zwang, selbstbestimmt, informiert und bewusst getroffen werden muss. Juristisch knifflig mit Blick auf die virtuelle Welt wird es, wenn es darum geht, ob eine angemessene und transparente Aufklärung des Kunden stattgefunden hat und ob es tatsächlich eine Wahlfreiheit gab.
Beim Vertragsrecht lautet der Schlüsselbegriff Willenserklärung. Der setzt einen „subjektiven Tatbestand“ und menschliches Bewusstsein voraus. So gesehen haben Computersysteme keine eigene Rechtspersönlichkeit und sind nicht zu einer eigenen Willenserklärung im Stande. Daher gilt: Auch wenn mancher Nutzer gewisse Sympathien für seine Cyberassistentin Alexa hegen mag, Vertragspartner sind die hinter der künstlichen Intelligenz stehende Akteure.
Beim Datenschutz und im Vertragsrecht bewegen wir uns noch einigermaßen auf sicherem Terrain, so die Einschätzung von Gabius. Größten Handlungsbedarf sieht die HfWU-Professorin beim Haftungsrecht. Kann theoretisch der Algorithmus vor den Kadi gezogen werden, wenn der, nur weil eine Frau schwanger werden kann, diese bei den Bewerbungen aussortiert? Juristisch ist dies gar nicht so einfach zu klären. Gewöhnlich haftet, wer vorsätzlich oder fahrlässig handelt, sich also ein Verschulden zu Schulden kommen lässt. Es gibt aber auch eine verschuldensunabhängige Haftung, etwa die KfZ-Halter-Haftung und die Produkthaftung. Ob diese Art der Haftung auch für den Schöpfer einer künstlichen Intelligenz angewendet werden kann ist fraglich, da die Beweisführung schwierig ist. Lösungen könnten hier Pflichtversicherungen oder von vornherein bereits bei der Programmierung berücksichtige Ethik-Codes sein.
Bei der abschließenden Diskussion der Veranstaltung im Rahmen des Studium generale an der HfWU ging es unter anderem um die Haftung bei autonomen Fahrzeugen, die Gefahr von Hackerangriffen und die grundsätzliche Nichtvorhersagbarkeit auf welche Seite sich der digitale Handlanger im Zweifelsfall schlägt, nicht nur bei potenziell Schwangeren. Einigkeit bestand bei den Besuchern darüber, dass es angesichts der Vielschichtigkeit einen weiteren Vortrag zu diesem Themenfeld geben sollte.