Top-Thema | Oktober 2021

Alles kann, nicht alles darf

Künstliche Intelligenz (KI) wird die Unternehmenswelt verändern. Doch gibt es dafür verbindliche ethische und rechtliche Rahmen? 
Von Nils Bremann
KI fasziniert die Menschen. Allerdings scheiterte die Realisierung theoretischer Ansätze und utopischer Szenarien bislang an den dafür notwendigen Mitteln. Bislang. Denn heute ist ausreichend Rechenleistung verfügbar, um Künstliche Intelligenz Realität werden zu lassen. Größere Unternehmen waren dabei Vorreiter, mittlerweile aber sind Lösungen für nahezu jedermann verfügbar und oft schon im Einsatz.

Deep Learning mit neuronalen Netzwerken

So ist der KI-Ansatz Machine Learning längst Wirklichkeit. Er macht möglich, dass Programme Muster in großen Datenbeständen erkennen und daraus eigene Schlussfolgerungen ziehen. Beispiele sind das Dokumenten-Management, Übersetzungsprogramme, Fahrassistenten oder Produktionslösungen. Maschinelles Lernen fokussiert sich auf konkrete Anwendungsprobleme. Indem die Rechner mithilfe von Daten und mathematischen Algorithmen eigenständig Wissen generieren, können sie das Gelernte in neuen Situationen nutzen. Letztlich werden aber lediglich Mechanismen zur Unterstützung menschlichen Denkens konstruiert. Anders beim Deep Learning. Dieser Ansatz nutzt Strukturen, die dem menschlichen Gehirn nachgebildet sind. Sogenannte neuronale Netze, mit denen sich auch komplexe, nicht lineare Probleme lösen lassen. Programme treffen Entscheidungen in menschenähnlicher Weise und können sogar höherwertige intellektuelle Fertigkeiten entwickeln.

Eine Verselbstständigung wäre möglich

Beim maschinellen Lernen ist der Mensch noch in die Analyse der Daten und den Entscheidungsprozess eingebunden und steuert diesen. Beim Deep Learning steuert der Mensch nicht mehr. Das Programm analysiert Daten, leitet Prognosen ab und bestimmt das Ergebnis selbst. Die Entscheidung ist tief im neuronalen Netz verankert und zugrundeliegende Muster können zumeist nicht zurückverfolgt werden. Das bedeutet: Hat ein Programm unbeschränkten Zugriff auf einen unendlichen Pool an Daten, beispielsweise das Internet, wäre eine Verselbstständigung möglich. Forscher prognostizieren, dass KI in etwa 50 Jahren das Niveau menschlicher Intelligenz erreicht. KI-Programme können dann emotionale, intellektuelle und kognitive Fähigkeiten und sogar ein Bewusstsein entwickeln. Damit sind sie nicht mehr weit entfernt von der sogenannten Singularität der KI. Gemeint ist damit eine so rasante Vermehrung und Verbesserung von KI, dass deren Fortschritt vom Menschen nicht mehr nachvollzogen werden kann.

Der ethische Rahmen

Die Auffassungen über Künstliche Intelligenz gehen weit auseinander. Kein Wunder, denn spätestens bei der Entwicklung konkreter Anwendungsfälle kommen ethische und moralische Aspekte ins Spiel. Und ethische Wertevorstellungen können stark variieren. Man denke an China, wo ein vom Staat initiiertes auf KI basierendes soziales Bewertungssystem existiert. Dieses ermittelt, wer sich bestimmten Grundsätzen gegenüber konform verhält und wer nicht. Ein solches Social-Scoring-System ist aus Sicht der westlichen Welt nicht akzeptabel. Doch wer zieht die Grenzen?
Ein übergreifender ethischer und rechtlicher Rahmen ist für eine effektive Weiterentwicklung von KI und den bewussten Umgang damit notwendig. Mit derartigen Themen befasst sich etwa der Deutsche Ethikrat. Er nähert sich ethischen Grundsätzen, indem er gesellschaftspolitische, soziale oder rechtliche Fragen aufwirft. Initiativen aus dem privatwirtschaftlichen Bereich mit namhaften Mitgliedsunternehmen wie Facebook, IBM, Microsoft oder Google existieren ebenfalls. Zu nennen sind etwa „Partnership AI“ oder „OpenAI“. Diese möchten Ethiknormen identifizieren, die im Rahmen einer Selbstverpflichtung bei der Entwicklung von KI-Innovationen zu beachten sind. Gleichzeitig soll dadurch die internationale Debatte angeregt werden. Die Initiativen wollen Best-Practices etablieren, um KI-Innovationen verständlicher und zugänglicher zu machen. Insbesondere „Partnership AI“ verfolgt dabei die Mission, KI-basierte Systeme sicher, fair, transparent und sozial­orientiert zu gestalten.

KI in der Praxis

Ansätze für die ethische Regulierung von KI gibt es viele. Aktuell haben sie allerdings keinen allgemeinen Gesetzescharakter. Daher gelten sie nur innerhalb bestimmter Interessengruppen oder haben lediglich regionale Bedeutung. In konkreten Anwendungsszenarien, etwa beim Dokumenten-Management, ist man bezüglich eines rechtlichen Rahmens deutlich weiter. Mithilfe von KI lassen sich Textbausteine teil- oder vollautomatisch auslesen, Daten analysieren und Dokumente klassifizieren. So kann beispielsweise ermittelt werden, mit welcher Wahrscheinlichkeit es sich bei einem digitalen Dokument um eine Rechnung oder eine Auftragsbestätigung handelt. Oder es lassen sich gezielt personenbezogene Daten chiffrieren. Durch die europäische NIS-Richtlinie (Richtlinie zur Gewährleistung einer hohen Netzwerk- und Informationssicherheit) oder die DSGVO existieren genaue juristische Rahmenbedingungen zur Sicherheit und zum Umgang mit personenbezogenen Daten. Dies reguliert zugleich den rechtskonformen Einsatz von KI in diesem Umfeld. Der ECM-Anbieter D.velop etwa verfügt auf diesem Gebiet mittlerweile über mehr als 15 Jahre Erfahrung.

Verlässliche Rahmenbedingungen

Soll bei den vielen Einsatzmöglichkeiten von KI gelten „Alles kann, nicht alles darf“, sind allgemeine ethische und rechtliche Grenzlinien unverzichtbar – auf Unternehmensseite kombiniert mit einer intrinsischen Motivation. Denn jedes Unternehmen ist Teil des globalen Wirtschaftskreislaufs und im Sinne der Corporate Social Responsibility verpflichtet, verantwortungsvoll zu handeln. Hier führt die kontinuierlich zunehmende Verbreitung von KI daher zu immer neuen Anforderungen. Werden sie erfüllt, sorgt dies für Akzeptanz. Es sind Compliance-Richtlinien anzupassen, Services und Produkte von externen Anbietern auf KI-Rechtskonformität zu überprüfen oder auch Stellen mit KI-Verantwortlichkeit zu schaffen. Hier zeigt sich auch deutlich: Nur auf Basis verlässlicher Rahmenbedingungen kann das enorme Potenzial von KI für den technologischen Fortschritt sicher genutzt werden.

Der Autor

Nils Bremann ist IT & Startup Anwalt. (Anm. d. Red.: Dieser Artikel wurde bereits in der Zeitschrift IT Zoom Ausgabe 03/2020 veröffentlicht.) 

Kontakt

Matthias Marquart
Matthias Marquart
Redakteur | Pressearbeit