Was kann KI nicht? Diese Aufgaben solltest du nicht an ChatGPT delegieren
Mihaela Nompleggio20.10.2026
Was Studien über die Grenzen von KI zeigen und wie du souverän mit ihr arbeitest
Inhalt
- Was kann KI nicht und warum ist das wichtig?
- Wo ist KI dem Menschen klar überlegen?
- Warum erfindet ChatGPT manchmal Fakten?
- Welche Aufgaben solltest du nicht an KI delegieren?
- Welche Daten gehören nicht in ChatGPT?
- Warum braucht es bei Entscheidungen den Menschen?
- Was kann KI nicht ersetzen?
- Wie arbeitest du sinnvoll mit ChatGPT zusammen?
Das Wichtigste in Kürze
- KI bietet enorme Vorteile bei der Verarbeitung großer Datenmengen, kann jedoch Fakten erfinden und keine Verantwortung für ihre generierten Ergebnisse übernehmen.
- Weitreichende Entscheidungen, sensible zwischenmenschliche Interaktionen und eigene Lernprozesse sollten niemals vollständig an eine KI delegiert werden.
- Vertrauliche und personenbezogene Informationen dürfen aus Datenschutzgründen nicht ungeprüft in KI-Systeme eingegeben werden.
- Eine erfolgreiche Zusammenarbeit erfordert stets einen kritischen Menschen, der KI-Ergebnisse gewissenhaft überprüft und die endgültige Urteilskompetenz behält.
Wissen von den Besten: Mihaela Nompleggio verbindet HR-Expertise mit KI-Wissen. Auf OMR Reviews zeigt sie seit einigen Jahren, wie Unternehmen Künstliche Intelligenz einsetzen können, um Prozesse zu optimieren, Recruiting smarter zu gestalten und Mitarbeiterpotenziale gezielt zu fördern.
„Es liegt eine Gefahr darin, mit KI zu arbeiten. Nicht allein die Gefahr, dass wir uns selbst überflüssig machen, sondern auch die, dass wir der KI zu stark vertrauen.“
Diesen Gedanken formuliert Ethan Mollick in seinem Buch „Co-Intelligence“ (eigene Übersetzung). Damit spricht er eine Frage an, die in der KI-Debatte oft untergeht.
Ich nutze ChatGPT und andere KI-Tools täglich, für Recherche, Texte, Problemlösungen und Entscheidungsvorlagen. Ein Leben ohne KI kann ich mir kaum noch vorstellen. Gleichzeitig bin ich überzeugt, dass wir uns viel intensiver damit beschäftigen müssen, wie wir mit KI zusammenarbeiten, welche Aufgaben wir ihr überlassen und wo wir selbst denken, hinterfragen und entscheiden sollten. Denn nicht jeder Prozess, den wir automatisieren können, sollte auch automatisiert werden. Manche Bereiche sind gerade deshalb wertvoll, weil wir an ihnen lernen und wachsen.
Was KI nicht kann, verschiebt sich mit jedem neuen Modell. Deshalb gebe ich hier keine feste Verbotsliste vor, sondern zeige, an welchen Merkmalen sich erkennen lässt, welche Aufgaben du besser selbst behältst, weil KI dort leicht überzeugend danebenliegt oder weil du an ihnen lernst. Dazu gehören die Grenzen von ChatGPT, die Erkenntnisse aus der Forschung und praktische Beispiele. Am Ende steht eine Zusammenarbeit mit KI, bei der du produktiver wirst und deine eigenen Fähigkeiten weiterentwickelst.
Was kann KI nicht und warum ist das wichtig?
KI kann weder die Richtigkeit ihrer Antworten garantieren noch die Verantwortung für deren Folgen übernehmen. Sie kann Informationen analysieren, Texte erstellen und als KI-Agent auch komplexe Prozesse weitgehend eigenständig ausführen, doch ihre Ergebnisse und Handlungen können fehlerhaft sein oder unerwünschte Folgen haben. Besonders problematisch wird das, wenn du diese Grenzen nicht erkennst und überzeugend formulierte Antworten mit verlässlichem Wissen verwechselst.
Wie unterschiedlich die Leistungsfähigkeit von KI je nach Aufgabe ausfallen kann, zeigt eine Studie von Fabrizio Dell’Acqua und seinem Forschungsteam, an der auch Ethan Mollick beteiligt war. Das Team untersuchte 758 Beraterinnen der Boston Consulting Group. Bei Aufgaben innerhalb der Fähigkeiten von GPT-4 erzielten die Teilnehmenden mit KI-Unterstützung deutlich bessere Ergebnisse. Bei einer Aufgabe außerhalb dieser Fähigkeiten lagen sie dagegen um 19 Prozentpunkte seltener richtig als die Vergleichsgruppe ohne KI. Die Forschenden sprechen deshalb von einer Jagged Technological Frontier, einer ungleichmäßigen technologischen Grenze, die für Nutzerinnen nicht immer leicht zu erkennen ist.
Das halte ich für eine der größten Herausforderungen unserer Zusammenarbeit mit KI. Du musst verstehen, was ein System leisten kann und wie zuverlässig seine Ergebnisse sind. Und du musst entscheiden, welche Aufgaben du ihm überlassen willst.
Die Grenzen heutiger KI-Systeme werden sich weiter verschieben. Statt auf feste Grenzen zu setzen, lohnt es sich deshalb, ihre Fähigkeiten im jeweiligen Kontext immer wieder neu einzuschätzen und bewusst zu entscheiden, wann du KI arbeiten lässt, wann du gemeinsam mit ihr arbeitest und wann du selbst die Verantwortung für den gesamten Prozess übernimmst.
Wo ist KI dem Menschen klar überlegen?
Klar überlegen ist KI dem Menschen vor allem bei Tempo, Menge und Ausdauer. Sie kann innerhalb kürzester Zeit umfangreiche Dokumente auswerten, Informationen strukturieren, Muster in großen Datenbeständen erkennen, Texte übersetzen und unterschiedliche Lösungsansätze entwickeln. Mit KI-Agenten lassen sich inzwischen auch mehrstufige Arbeitsabläufe teilweise automatisieren, am ehesten dort, wo Prozess, Datenlage und Risiko klar umrissen sind.
Wie groß der praktische Nutzen sein kann, zeigt eine Studie von Erik Brynjolfsson, Danielle Li und Lindsey Raymond. Die Forschenden untersuchten den Einsatz generativer KI bei mehr als 5.000 Beschäftigten im Kundenservice eines Softwareunternehmens. Die KI machte Antwortvorschläge, über deren Übernahme die Beschäftigten selbst entschieden. Mit dieser Unterstützung lösten sie durchschnittlich rund 15 Prozent mehr Kundenanfragen pro Stunde. Besonders stark profitierten weniger erfahrene Mitarbeitende, während die erfahrensten nur geringe Geschwindigkeitsgewinne und eine leicht sinkende Qualität verzeichneten.
Allerdings belegen solche Studien nicht die Überlegenheit einer eigenständig arbeitenden KI, sondern den Leistungsgewinn von Menschen, die KI als Unterstützung nutzen. Darin liegt das Potenzial der Zusammenarbeit.
Warum erfindet ChatGPT manchmal Fakten?
ChatGPT kann Informationen erfinden, weil ein Sprachmodell nicht wie eine klassische Suchmaschine arbeitet. Ein Large Language Model (LLM) erzeugt Antworten, indem es auf Grundlage gelernter Muster und des jeweiligen Kontextes wahrscheinliche sprachliche Fortsetzungen berechnet. Dabei kann ein Text entstehen, der in sich schlüssig und überzeugend klingt, obwohl einzelne Aussagen nicht stimmen.
Solche Fehler heißen KI-Halluzinationen. Das amerikanische National Institute of Standards and Technology (NIST) verwendet stattdessen den Begriff Konfabulation für sicher formulierte, aber falsche Inhalte und führt sie in seinem Leitfaden für generative KI (NIST AI 600-1) als eigenes Risiko auf. ChatGPT kann beispielsweise Studien nennen, die nicht existieren, Quellen falsch zuordnen oder vermeintliche Fakten präsentieren, für die es keine belastbaren Belege gibt.
Nach einer Analyse eines Forschungsteams mit Beteiligung von OpenAI liegt ein weiterer Grund in den Trainings- und Bewertungsverfahren. Diese belohnen häufig richtige Antworten, ohne angemessen zwischen begründeten Antworten und bloßem Raten zu unterscheiden. Dadurch kann es für Sprachmodelle vorteilhafter sein, eine Antwort zu geben, statt Unsicherheit einzugestehen. Das trägt dazu bei, dass Halluzinationen auch bei aktuellen Modellen nicht verschwunden sind.
Für die Praxis bedeutet das, KI-Antworten nicht danach zu beurteilen, wie plausibel sie klingen, und einzelne Aussagen zu prüfen statt den Text als Ganzes. Gerade bei Zahlen, wissenschaftlichen Quellen, rechtlichen Informationen oder geschäftskritischen Entscheidungen solltest du die zugrunde liegenden Belege kontrollieren. Auch ein Text mit Quellenangaben ist noch kein Wahrheitsnachweis.
Welche Aufgaben solltest du nicht an KI delegieren?
Nicht vollständig delegieren solltest du vor allem Entscheidungen mit weitreichenden Folgen, sensible zwischenmenschliche Situationen und Aufgaben, an denen du deine eigenen Fähigkeiten entwickelst. Dort sollte KI unterstützen, ohne dein Denken und Urteilen zu ersetzen. Es kommt darauf an, wie zuverlässig ein System die Aufgabe erfüllt, welche Folgen Fehler haben könnten und welchen Wert es für dich hat, die Arbeit selbst zu erledigen.
Sinnvoll ist es deshalb, Aufgaben zunächst zu kategorisieren und erst danach zu entscheiden, welche Rolle KI übernehmen soll. Dabei geht es um mehr als die Frage, ob du eine Aufgabe automatisieren kannst. Du entscheidest auch, ob du sie vollständig delegierst, gemeinsam mit KI bearbeitest oder bewusst selbst übernimmst.
| Art der Aufgabe | Sinnvolle Zusammenarbeit | Beispiele |
|---|---|---|
| Standardisierte, risikoarme Aufgaben | Weitgehend an KI delegieren, mit angemessener Kontrolle | Informationen sortieren, Protokolle strukturieren (ohne vertrauliche Daten), wiederkehrende administrative Abläufe |
| Komplexe Wissensarbeit | Gemeinsam mit KI bearbeiten, Ergebnisse bei komplexem Kontext gegenprüfen | Strategien entwickeln, Probleme analysieren, Konzepte ausarbeiten |
| Entscheidungen mit weitreichenden Folgen | KI zur Vorbereitung nutzen, Entscheidung und Verantwortung beim Menschen belassen | Personalentscheidungen, Investitionen, strategische Weichenstellungen |
| Zwischenmenschliche und sensible Aufgaben | KI zur Reflexion oder Vorbereitung nutzen, persönliche Interaktion selbst übernehmen | Schwierige Mitarbeitergespräche, Konflikte, persönliche Rückmeldungen |
| Lern- und Entwicklungsaufgaben | KI als Tutor oder Sparringspartner einsetzen, eigene Denkleistung erhalten | Neue Fähigkeiten erlernen, Argumentationen entwickeln, kritisches Denken trainieren |
Wie sehr es auf die Art der Nutzung ankommt, zeigt ein Feldexperiment mit knapp 1.000 Schüler*innen im Mathematikunterricht. Mit einem Standard-Chat-Interface verbesserten sie ihre Ergebnisse in der Übungsphase um 48 Prozent, lagen im späteren Test ohne KI jedoch 17 Prozent unter der Kontrollgruppe. Eine Variante, die Hinweise statt fertiger Lösungen gab, zeigte diesen Nachteil weitgehend nicht (Bastani et al., 2025). Die Studie betrifft die Schule und nicht die betriebliche Wissensarbeit, sie zeigt aber, dass sich Tutor und Abkürzung im Ergebnis unterscheiden.
Ein weiteres Beispiel ist das Schreiben von Texten mit KI, etwa bei der Entstehung dieses Artikels. Ich nutze KI-Schreibassistenten für die Recherche, um Gedanken zu strukturieren, Argumente zu hinterfragen und unterschiedliche Perspektiven zu entwickeln. Der eigentliche Schreibprozess bleibt jedoch ein Dialog, in dem ich meine eigenen Gedanken weiterentwickle, Formulierungen verwerfe und meine Position schärfe. Würde ich den gesamten Artikel von einer KI schreiben lassen, könnte ich möglicherweise Zeit sparen, würde mir aber einen Teil dieses Denk- und Lernprozesses nehmen.
Mit KI-Agenten, die mehrstufige Aufgaben innerhalb festgelegter Berechtigungen selbstständig ausführen, wird diese Einteilung noch wichtiger, weil ihr Handlungsspielraum größer ist. Erst wenn du die Aufgabe eingeordnet und festgelegt hast, wie viel du abgeben willst, wählst du das passende KI-Modell oder Tool.
Welche Daten gehören nicht in ChatGPT?
Personenbezogene Daten und vertrauliche Unternehmensinformationen solltest du nicht ungeprüft in ChatGPT oder andere KI-Dienste eingeben. Es kommt darauf an, ob dein Unternehmen das System für diese Daten freigegeben hat, welche Sicherheitsmaßnahmen bestehen und wie der Anbieter die Eingaben verwendet. Dazu zählen beispielsweise Kundendaten, Personalakten, Gesundheitsinformationen, interne Finanzzahlen, Geschäftsstrategien, unveröffentlichte Verträge oder Passwörter. Auch scheinbar harmlose Dokumente können sensible Informationen enthalten, wenn sich daraus Rückschlüsse auf einzelne Personen oder Geschäftsprozesse ziehen lassen.
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) nennt als Risiko generativer KI unter anderem eine zum Teil fehlende Vertraulichkeit der eingegebenen Daten, etwa wenn Anbieter die Eingaben nutzen, um ihre Modelle weiterzutrainieren. Die Datenschutz-Grundverordnung (DSGVO) verlangt für personenbezogene Daten unter anderem Rechtmäßigkeit, Zweckbindung, Datenminimierung sowie Integrität und Vertraulichkeit, und für besondere Kategorien wie Gesundheitsdaten gelten erhöhte Anforderungen.
Für den Alltag heißt das, vorab zu klären, ob Eingaben zum Training genutzt werden und ob sich das abschalten lässt, ob ein Vertrag zur Auftragsverarbeitung besteht und wer im Unternehmen das System freigegeben hat. Unternehmen sollten dafür klare Regeln festlegen und das Datenschutzteam einbeziehen. Wo sensible Informationen für eine Aufgabe nötig sind, helfen Anonymisieren oder fiktive Angaben.
Warum braucht es bei Entscheidungen den Menschen?
KI kann Entscheidungen vorbereiten, Informationen auswerten, mögliche Szenarien durchspielen und Empfehlungen formulieren. Was sie dir jedoch nicht abnehmen kann, ist die Verantwortung dafür, welche Konsequenzen du aus diesen Empfehlungen ziehst. Gerade bei Entscheidungen, die Menschen betreffen oder weitreichende wirtschaftliche Folgen haben, reicht es nicht aus, sich auf die vermeintlich beste Antwort eines Systems zu verlassen.
Ein zentrales Prinzip ist deshalb Human in the Loop. Menschliche Beteiligung und Aufsicht sollten nicht bedeuten, ein fertiges Ergebnis lediglich abzunicken, sondern je nach Aufgabe Ziele festzulegen, Annahmen zu hinterfragen, Zwischenschritte zu überprüfen und bei Bedarf einzugreifen. Denn auch die menschliche Kontrolle verliert ihren Wert, wenn du nicht mehr in der Lage bist, die Empfehlungen einer KI kritisch einzuordnen.
Wie groß diese Gefahr ist, zeigt die Forschung zum Übervertrauen in KI, dem sogenannten Automation Bias. In einem Verhaltensexperiment reichte allein das Wissen, dass ein Rat von einer KI stammt, damit Menschen ihm auch dann folgten, wenn er verfügbaren Kontextinformationen und ihrer eigenen Einschätzung widersprach (Klingbeil et al., 2024).
Auch der EU AI Act berücksichtigt die Bedeutung menschlicher Aufsicht und legt in Artikel 14 entsprechende Anforderungen für Hochrisiko-KI-Systeme fest.
Praktisch heißt das, vorab festzulegen, wer eine Empfehlung prüft, woran sie geprüft wird und wer sie überstimmen darf. Für mich liegt hier die eigentliche Aufgabe, denn wir bauen immer leistungsfähigere Systeme und müssen zugleich unsere eigene Urteilskompetenz erhalten und weiterentwickeln. Je mehr Entscheidungen wir vorbereiten lassen, desto wichtiger wird unsere Fähigkeit, Zusammenhänge selbst zu verstehen, unterschiedliche Perspektiven abzuwägen und im entscheidenden Moment auch gegen eine KI-Empfehlung zu entscheiden.
Was kann KI nicht ersetzen?
Ersetzen kann KI weder die Beziehung hinter einer empathischen Antwort noch den eigenen Denk- und Lernprozess, und die Verantwortung für Entscheidungen kann sie nicht tragen. Eine feste Liste menschlicher Fähigkeiten, die KI niemals beherrschen wird, wäre dennoch zu einfach, denn KI kann heute kreativ wirkende Ideen entwickeln, empathisch formulierte Antworten geben und uns bei komplexen Problemen unterstützen. Entscheidend ist, was und wer hinter diesen Fähigkeiten steht und welche Bedeutung sie für unser Leben und unsere Arbeit haben.
Ein konkretes Beispiel ist Empathie. In neun Experimenten mit mehr als 6.000 Personen bewerteten Teilnehmende identische KI-generierte Antworten als empathischer und unterstützender, wenn sie glaubten, diese stammten von einem Menschen, und für emotionalen Austausch wählten sie konsistent ein menschliches Gegenüber. Schon die Annahme, dass eine KI bei einer menschlichen Antwort mitgeholfen hatte, senkte die wahrgenommene Empathie (Rubin et al., 2025). Die Ergebnisse zeigen, dass bei der Wahrnehmung von Empathie nicht nur die Formulierung einer Antwort zählt, sondern auch, von wem sie unserer Vorstellung nach stammt.
Ähnlich sehe ich es beim Denken und Lernen. KI kann dir helfen, neue Perspektiven zu entwickeln, Argumente zu hinterfragen und Probleme schneller zu lösen. Doch wenn du ihr den gesamten Denkprozess überlässt, nimmst du dir möglicherweise auch die Gelegenheit, deine eigenen Fähigkeiten weiterzuentwickeln. Das eigenständige Ringen um eine Lösung und manchmal auch das Scheitern gehören zu den Erfahrungen, durch die wir lernen.
Wie arbeitest du sinnvoll mit ChatGPT zusammen?
Sinnvoll arbeitest du mit ChatGPT zusammen, wenn du vorher entscheidest, welche Rolle die KI übernehmen soll und ihre Antworten als Entwurf behandelst, den du prüfst und verantwortest. Eine gute Zusammenarbeit beginnt deshalb nicht mit dem perfekten Prompt, sondern mit der Frage, was du erreichen möchtest. Bevor du eine Aufgabe übergibst, solltest du überlegen, ob du ein fertiges Ergebnis brauchst, Unterstützung bei einem Denkprozess suchst oder eine Fähigkeit selbst entwickeln möchtest.
Im Alltag helfen dabei vier Gewohnheiten.
- Eigene Position zuerst. Halte Hypothese, Entscheidung oder Entwurf in Stichpunkten fest, bevor du die KI einbeziehst, und nutze sie danach für Gegenargumente, Lücken und Alternativen.
- Kriterien vor dem Ergebnis. Lege fest, was ein gutes Ergebnis ausmacht, bevor die KI Vorschläge erzeugt. In einem Feldexperiment bei Procter & Gamble verbesserte KI die Qualität entwickelter Produktideen. Bei der Auswahl der jeweils besten Idee schnitten Teams ohne KI allerdings besser ab als die Gruppen mit KI-Unterstützung (Dell’Acqua et al., 2026).
- Hinweise statt fertiger Lösungen, wenn du etwas lernen willst. Bitte die KI um Rückfragen und Gegenbeispiele und erst danach um eine Lösung.
- Prüfen als eigener Arbeitsschritt. Kontrolliere Zahlen, Zitate und Quellen einzeln, bevor du etwas übernimmst.
Dazu gehört, die Stärken und Grenzen des jeweiligen Systems zu kennen. Nicht jede Aufgabe erfordert dieselbe Form der Zusammenarbeit und nicht jedes Modell eignet sich für jede Aufgabe. Wechselst du zu einem neuen System, nimmst du deine Erfahrung mit. Dein Vertrauen musst du dir dort aber erst erarbeiten.
Gute Zusammenarbeit heißt für mich deshalb nicht, möglichst viel abzugeben, sondern bewusst zu entscheiden, was ich abgebe, was ich gemeinsam mit KI erarbeite und was ich selbst tue, damit ich durch sie nicht nur schneller, sondern besser werde. Das verstehe ich unter einem souveränen Umgang mit KI.
Werde Gastautor*in: Du hast in einem bestimmten Bereich richtig Ahnung und möchtest dein Wissen teilen? Dann schreibe uns einfach an reviews-experten@omr.com und bring deine Expertise ein. Wir freuen uns auf spannende Einblicke direkt aus der Praxis.
Autor*In
Mihaela Nompleggio
Mihaela Nompleggio ist Mentorin und Gründerin von Future Presence Consulting, einem hybriden Unternehmen für digitale Unternehmensentwicklung an der Schnittstelle von Human + AI Development. Als AI Business Spezialistin mit über 15 Jahren Erfahrung in digitaler Kommunikation, AI-generated Personal Branding und nachhaltigem Markenaufbau unterstützt sie Organisationen dabei, echte Augmented Companies zu werden. Unternehmen, in denen Menschen und künstliche Intelligenz als Team zusammenwirken, um messbaren Fortschritt und langfristige Wettbewerbsfähigkeit zu sichern.
