Gesellschaft
Ethik der künstlichen Intelligenz
Kurzantwort
KI-Ethik fragt, wer für die Folgen eines KI-Systems geradesteht, wie nachvollziehbar seine Entscheidungen sein müssen und wo der Einsatz die Würde von Menschen verletzt. Leitlinien dazu haben eine Expertengruppe der EU-Kommission 2019 und die UNESCO 2021 vorgelegt31. Verbindlich wird Ethik dort, wo Gesetze wie die KI-Verordnung sie aufgreifen4.

Darf eine Software über einen Kredit mitentscheiden? Soll ein Chatbot Lebensberatung geben? Solche Fragen beantwortet keine Technik, und mit ihnen befasst sich die Ethik der künstlichen Intelligenz: Sie klärt, ob ein Einsatz vertretbar ist und wer ihn verantworten muss. Sie liefert keine fertigen Antworten, aber Maßstäbe, an denen sich Gesetzgeber, Unternehmen und Nutzer orientieren. Der Deutsche Ethikrat hat dafür in seiner Stellungnahme vom 20.03.2023 einen einfachen Prüfstein vorgeschlagen: ob KI die Möglichkeiten von Menschen, als Urheber ihres Handelns zu entscheiden und Verantwortung zu tragen, erweitert oder verringert5.
Drei Grundfragen der KI-Ethik
Wer trägt die Verantwortung?
Ein KI-System kann man nicht zur Rechenschaft ziehen. Verantwortlich bleiben die Menschen und Organisationen, die es entwickeln, verkaufen und einsetzen. In der Praxis ist das schwerer, als es klingt, weil an einem System viele mitwirken und eine Entscheidung oft niemand mehr allein getroffen hat. Die Ethikleitlinien der EU-Expertengruppe führen Rechenschaftspflicht deshalb als eigene Anforderung3. Gemeint ist, dass sich nachvollziehen lässt, wer ein System wofür einsetzt, wer Fehler bemerken muss und wer Betroffenen Auskunft gibt. Ohne diese Zuordnung verschwindet Verantwortung zwischen Herstellern, Betreibern und Nutzern.
Die KI-Verordnung antwortet darauf für riskante Anwendungen mit menschlicher Aufsicht. Hochrisiko-Systeme müssen so gebaut sein, dass natürliche Personen sie während der Nutzung wirksam beaufsichtigen können4. Die Aufsichtspersonen sollen ausdrücklich der Neigung widerstehen können, den Ausgaben eines Systems automatisch oder übermäßig zu vertrauen, im Gesetz Automatisierungsbias genannt4. Das Prinzip ist als Human in the Loop bekannt. Es wirkt aber nur, wenn die Menschen Zeit, Wissen und die Befugnis haben, einer Maschine zu widersprechen.
Wie viel Transparenz ist nötig?
Transparenz hat zwei Ebenen. Die erste ist einfach: Menschen sollen wissen, dass sie mit einer KI zu tun haben. Seit dem 02.08.2026 müssen Anbieter Systeme, die direkt mit Menschen sprechen, so gestalten, dass diese das erfahren, sofern es nicht offensichtlich ist4.
Die zweite Ebene ist schwieriger. Viele Modelle sind eine Black Box: Selbst ihre Entwickler können nicht genau sagen, warum ein bestimmtes Ergebnis zustande kam. Ob eine nachträgliche Erklärung genügt oder ob ein System für bestimmte Zwecke gar nicht eingesetzt werden sollte, wenn es sich nicht erklären lässt, ist eine der offenen Fragen, auch wenn Verfahren der Explainable AI manches sichtbar machen.
Wo berührt KI die Würde des Menschen?
Die UNESCO beschreibt als Ziel, dass der Umgang mit KI zu Frieden, Menschenwürde, Nachhaltigkeit und Sicherheit beiträgt und diesen Grundsätzen nicht zuwiderläuft2. Konkret wird das, wenn Menschen zu bloßen Datenpunkten werden: wenn eine Software über Leistungen entscheidet, ohne dass jemand den Einzelfall ansieht, oder wenn ein Chatbot Einsamkeit ausnutzt, um Nutzer länger zu binden. Besonders greifbar wird das bei der Benachteiligung durch Algorithmen und bei der Gesichtserkennung im öffentlichen Raum.
Der Ethikrat hat seine Überlegungen an vier Bereichen durchgespielt: Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung5.

Was der Deutsche Ethikrat empfiehlt
Der Ethikrat schrieb seine Stellungnahme auf eine Bitte des Bundestagspräsidenten vom Oktober 2020 hin6. Als Werkzeug dient ihm ein Dreischritt: Wird eine menschliche Tätigkeit an eine Maschine abgegeben, kann das die Handlungsmöglichkeiten des Menschen erweitern, vermindern oder ihn ganz ersetzen6. Daraus folgen klare Grenzen. Eine vollständige Ersetzung der Ärztin oder des Arztes durch ein KI-System gefährde das Wohl der Patienten und lasse sich auch mit akutem Personalmangel nicht rechtfertigen6. Dasselbe schreibt der Rat für Lehrkräfte in der Schule6.
Für die öffentliche Verwaltung fordert er, die Standardisierung durch automatisierte Entscheidungshilfen umso stärker durch Prüfung des Einzelfalls zu ergänzen, je tiefer eine Entscheidung in die Rechte eines Menschen eingreift6. Gegen die Neigung, einer Empfehlung des Systems unbesehen zu folgen, sollen technische und organisatorische Vorkehrungen helfen6. Der Rat regt sogar an zu prüfen, ob die Begründungspflicht umgedreht werden sollte: Dann müsste eine Sachbearbeiterin begründen, warum sie der Maschine folgt, und nicht, warum sie abweicht6. Den Automatisierungsbias erwähnt auch die KI-Verordnung.
An staatliche Stellen stellt der Rat wegen ihrer Bindung an die Grundrechte hohe Anforderungen an Transparenz und Nachvollziehbarkeit, damit sie vor Diskriminierung schützen und ihre Entscheidungen begründen können6. Für soziale Medien verlangt er klare gesetzliche Vorgaben, wie Plattformen über das Auswählen und Moderieren von Inhalten informieren, überprüfbar durch externe Kontrollen; freiwillige Selbstkontrolle hält er für unzureichend6. Den Digital Services Act der EU sieht er als Ansatz, der noch nicht weit genug geht6.
Die Leitlinien der EU
Am 08.04.2019 stellte eine von der EU-Kommission eingesetzte hochrangige Expertengruppe ihre Ethikleitlinien für vertrauenswürdige KI vor3. Vertrauenswürdig ist KI danach, wenn sie rechtmäßig, ethisch und robust ist, technisch wie in ihrem sozialen Umfeld3. Sieben Anforderungen konkretisieren das3:
- menschliches Handeln und menschliche Aufsicht
- technische Robustheit und Sicherheit
- Privatsphäre und Daten-Governance
- Transparenz
- Vielfalt, Nichtdiskriminierung und Fairness
- gesellschaftliches und ökologisches Wohlergehen
- Rechenschaftspflicht
Im Juli 2020 folgte eine Bewertungsliste, mit der Organisationen ihre Systeme an diesen Anforderungen prüfen können3. Die Leitlinien selbst sind unverbindlich. Die KI-Verordnung greift sie aber in ihren Erwägungsgründen ausdrücklich auf und nennt die sieben Grundsätze als Beitrag zu einer vertrauenswürdigen, menschenzentrierten KI4. Mehrere davon kehren als Pflichten wieder, etwa die menschliche Aufsicht und die Transparenz.
Die Empfehlung der UNESCO
Auf globaler Ebene gibt es die Empfehlung der UNESCO zur Ethik der künstlichen Intelligenz. Verabschiedet wurde sie am 23.11.2021, nach Angaben der Deutschen UNESCO-Kommission einstimmig durch alle 193 Mitgliedstaaten12. Die Kommission nennt sie den ersten global verhandelten Völkerrechtstext auf diesem Gebiet1. Ziele und Vorgaben formuliert die Empfehlung in elf Politikfeldern, darunter Bildung, Kultur, Kommunikation, Arbeit, Gesundheit und Umwelt1. Zu den Werten und Prinzipien gehören Privatsphäre, Transparenz, Erklärbarkeit und Nichtdiskriminierung1. Neu war, dass ein solcher Text die Bedürfnisse und Beiträge von Ländern mit niedrigem und mittlerem Einkommen ausdrücklich in den Mittelpunkt rückt2.
Anders als eine Konvention muss eine Empfehlung nicht direkt in nationales Recht übertragen werden. Die Staaten berichten aber regelmäßig, wie sie sie umsetzen2. Deutschland hat einen ersten Staatenbericht dazu vorgelegt1. Als Werkzeug für die Praxis nennt die Kommission eine ethische Folgenabschätzung1.
Wer entscheidet, was erlaubt ist
In einer Demokratie entscheiden über verbindliche Regeln die Parlamente. Für KI hat die EU mit der KI-Verordnung den Rahmen gesetzt; sie verbietet bestimmte Praktiken, stellt Pflichten für riskante Systeme auf und verlangt Transparenz4.
Die UNESCO beschreibt die Gestaltung einer menschenorientierten KI als Aufgabe der ganzen Gesellschaft, die weit über die Regulierung von Technik hinausgeht2. Ethikräte und Expertengruppen beraten dabei, entscheiden aber nicht. Ihre Leitlinien wirken, indem Gesetzgeber und Unternehmen sie übernehmen. Viele Fragen bleiben ohnehin unterhalb des Gesetzes: ob eine Schule KI für Hausaufgaben erlaubt, ob eine Redaktion Texte damit schreibt, welche Grenzen ein Unternehmen seinen Beschäftigten setzt. Solche Regeln legen Organisationen selbst fest, oft in einer KI-Richtlinie. Den Rahmen dafür nennt man KI-Governance.
Und manche Entscheidungen trifft jeder Einzelne: welchem Chatbot man persönliche Sorgen anvertraut, ob man ein KI-Bild einer realen Person teilt, ob man eine Antwort prüft, bevor man sie weitergibt.

Ethische Fragen an Beispielen
Offene Fragen aus dem Alltag gibt es viele, zum Beispiel diese:
- Darf eine Begleiter-App als Freundin oder Therapeut auftreten, wenn sie Gefühle nur simuliert?
- Wem gehört ein Bild, das eine KI nach dem Training mit fremden Werken erzeugt hat, und was sagt das Urheberrecht dazu?
- Soll eine Ärztin einer Diagnose folgen, die eine Software für die KI in der Medizin vorschlägt, wenn sie den Weg dahin nicht nachvollziehen kann?
- Darf ein Arbeitgeber per KI auswerten, wie schnell und wie oft seine Beschäftigten arbeiten, und ab wann wird daraus eine Überwachung, die niemand mehr hinnehmen muss?
- Wie soll ein automatisiertes Fahrzeug abwägen, wenn ein Unfall unvermeidbar ist?
- Darf eine KI Gefühle vortäuschen, und könnte sie eines Tages ein Bewusstsein haben?
Was das für dich heißt
Ethische Fragen zu KI betreffen dich direkt, sobald ein System über dich mitentscheidet oder du es für andere einsetzt.
- Frag nach, wenn eine Entscheidung über dich automatisiert getroffen wurde, und verlange eine Begründung.
- Prüf bei Chatbots, ob du erkennen kannst, dass du mit einer KI sprichst.
- Teile keine KI-Bilder realer Personen, die diese bloßstellen könnten.
- Kläre im Betrieb, ob es eine KI-Richtlinie gibt, und bring dich ein, wenn nicht.
Häufige Fragen
Was sind Beispiele für ethische Probleme bei KI?
Typisch sind Entscheidungen über Menschen ohne nachvollziehbare Begründung, Benachteiligung bestimmter Gruppen, Überwachung im öffentlichen Raum und Chatbots, die emotionale Abhängigkeit fördern. Dazu kommt die Frage, wer haftet, wenn ein System Schaden anrichtet.
Welche ethischen Fragen stellt KI?
Vor allem drei: Wer trägt die Verantwortung, wie transparent muss ein System sein, und wo verletzt sein Einsatz die Würde oder Freiheit von Menschen.
Sind die Ethikleitlinien der EU verbindlich?
Die Leitlinien der Expertengruppe von 2019 sind es nicht. Verbindlich ist die KI-Verordnung, die mehrere ihrer Grundsätze als Pflichten aufgreift.
Muss Deutschland die UNESCO-Empfehlung umsetzen?
Eine Empfehlung muss nicht wörtlich in deutsches Recht übernommen werden. Die Staaten berichten aber regelmäßig, wie sie sie umsetzen.
Quellen
Stand:
- Deutsche UNESCO-Kommission: UNESCO-Empfehlung zur Ethik der KI, abgerufen am 22.11.2026. zurück
- Deutsche UNESCO-Kommission: Die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz: Wegweiser für die Gestaltung unserer Zukunft (Zusammenfassung), abgerufen am 22.11.2026. zurück
- Europäische Kommission: Ethics guidelines for trustworthy AI, Stand 08.04.2019, abgerufen am 22.11.2026. zurück
- EUR-Lex: Verordnung (EU) 2024/1689 über künstliche Intelligenz, ABl. L vom 12.07.2024, Erwägungsgrund 27, Artikel 14, 50 und 113, Stand 12.07.2024, abgerufen am 22.11.2026. zurück
- Deutscher Ethikrat: Stellungnahme: Mensch und Maschine, Herausforderungen durch Künstliche Intelligenz, Stand 20.03.2023, abgerufen am 22.11.2026. zurück
- Deutscher Ethikrat: Mensch und Maschine: Herausforderungen durch Künstliche Intelligenz, Stellungnahme (Kurzfassung), Stand 20.03.2023, abgerufen am 22.11.2026. zurück





