Trotz der Begeisterung für KI-basierte Tools müssen deren Einsatzmöglichkeiten realistisch eingeschätzt werden. Aktuell sind die Fähigkeiten dieser Tools noch begrenzt, weshalb es wichtig ist, die Ergebnisse stets kritisch zu hinterfragen. Im Zweifelsfall sollten Aussagen, die durch KI generiert wurden, durch eine eigene, fundierte Recherche überprüft werden.
Anwendungsbeispiele für einen sinnvollen Einsatz von KI-Tools
- Suchbegriffe finden: KI-Tools unterstützen dabei, passende Suchbegriffe für Recherchen zu identifizieren, indem sie relevante Synonyme oder verwandte Begriffe vorschlagen.
- Schreibblockaden überwinden: KI-gestützte Textgeneratoren können erste Formulierungen oder Ideen liefern, um Schreibprozesse in Gang zu setzen und Blockaden zu lösen.
- Umformulierungen: KI kann bei der Umformulierung von Texten helfen, um Verständlichkeit und Ausdruck zu verbessern oder einen bestimmten Stil zu treffen.
- Inspiration finden: KI-Tools bieten Inspiration, beispielsweise für Forschungsthemen oder die Erstellung eines Inhaltsverzeichnisses, indem sie neue Ansätze oder Strukturvorschläge liefern.
- Diskussion verschiedener Sichtweisen: Durch den Einsatz von KI-Tools können unterschiedliche Perspektiven zu einem Thema simuliert werden, was dabei hilft, ein Thema aus verschiedenen Blickwinkeln zu betrachten.
- Zusammenfassungen erstellen: Mithilfe von KI können Artikel oder lange Texte prägnant zusammengefasst werden, um schnell einen Überblick über die wesentlichen Inhalte zu erhalten.
Aber Vorsicht, im Umgang mit KI-Tools sollten zudem folgende Hinweise beachtet werden:
- KI-generierte Texte kritisch bewerten: KI-generierte Inhalte wirken oft überzeugend, können aber ungenau oder oberflächlich sein. Prüfe und überarbeite diese Inhalte daher immer auf Relevanz und Korrektheit. Verlasse dich keinesfalls darauf, ganze Abschnitte oder Arbeiten von KI schreiben zu lassen.
- Quellen immer selbst überprüfen: KI-generierte Quellenangaben solltest du immer selbst verifizieren, da sie zwar echt wirken können, aber möglicherweise gar nicht existieren.
- Begrenzten Zugang zu wissenschaftlichen Quellen beachten: Selbst wenn internetfähige KI-Tools (bspw. Bing oder ChatGPT ab Model GPT 4) echte Quellen finden und angeben können, durchsuchen diese oft nur frei zugängliche Inhalte. Wissenschaftliche Artikel hinter Paywalls sind meist nicht einbezogen.
Darüber hinaus ist es im Sinne der wissenschaftlichen Integrität und Fairness unerlässlich, transparent offenzulegen, an welchen Stellen KI-Tools verwendet wurden und in welcher Form diese Unterstützung erfolgt ist. Weitere Informationen zu diesem Thema findest du unter KI anwenden im Studium.
Risiken der KI-Nutzung: Welche Nebenwirkungen hat der KI-Einsatz – und darüber hinaus?
Verpasste Lernchancen
Gerade Studierende nutzen oft KI-Systeme, um Hausarbeiten, Zusammenfassungen oder Lösungen für Übungsaufgaben erstellen zu lassen. Dadurch können Lernchancen verloren gehen, weil der eigentliche Lernprozess teilweise von der KI übernommen wird. Besonders problematisch ist dies, wenn Studierende zwar gute Ergebnisse abgeben, die Inhalte aber nicht wirklich verstehen oder später ohne KI-Unterstützung nicht anwenden können (UNESCO, 2023).
Beispiel: Teilnehmende, die Zugang zu einem KI-Tool hatten, schrieben einen deutlich weniger sicheren Code als diejenigen ohne Zugang zu einem KI-Tool. Erstere neigten zudem eher dazu zu glauben, sie hätten sicheren Code geschrieben. Dies kann daruaf hindeuten, dass der Einsatz solcher Werkzeuge zu einer Überschätzung der eigenen Fähigkeit führen kann, Sicherheitslücken im Code zu erkennen und zu vermeiden. (Perry et al., 2023)
Deskilling (Fähigkeitenrückgang)
Durch das Abgeben von Denkprozessen oder Routinewissen an die KI, können Berufsgruppen oder einzelne Personen das Ergebnis oder den Vorgang ohne KI nicht mehr erbringen.
Beispiel: In einigen Krankenhäusern nutzen Radiologinnen und Radiologen KI-Systeme, die Röntgenbilder analysieren und bereits fertige Diagnosevorschläge liefern. Dadurch arbeiten Ärztinnen und Ärzte schneller. Die Fachkräfte könnten sich aber zukünftig zu stark auf die KI verlassen und wichtige diagnostische Fähigkeiten mit der Zeit weniger selbst trainieren (Dratsch et al., 2023).
Datensicherheit / Kontrollverlust
Die Nutzung von frei verfügbaren und nicht kostenpflichtigen KI-Tools kann dazu führen, dass vertrauliche Daten auf unsicheren Plattformen gespeichert werden, die Daten fürs Training der Modelle genutzt werden oder unautorisierte Personen Zugang zu den Daten erhalten.
Beispiel: Mitarbeitende von Samsung Electronics gaben vertrauliche Unternehmensdaten in ein KI-System, ähnlich wie ChatGPT, ein, um ihre Arbeit zu erleichtern. Dadurch wurden sensible Informationen auf externe Server übertragen. Die Datensicherheit ist gefährdet, weil das Unternehmen nicht mehr vollständig kontrollieren konnte, wo die eingegebenen Daten gespeichert oder weiterverarbeitet wurden (vgl. Ray, 2023, Samsung Bans ChatGPT Among Employees After Sensitive Code Leak).
Diskriminierung
Wenn in den Daten, mit welchen die KI trainiert wurde, Vorurteile, Ungleichheiten oder stereotype Darstellungen enthalten sind, übernimmt die KI diese Muster häufig und generiert somit keine neutralen Antworten (vgl. KI-Campus, 2022).
Beispiel: Das Unternehmen Amazon entwickelte eine KI, die Bewerbungen automatisch bewerten sollte. Die Trainingsdaten stammten aus früheren Bewerbungen und Einstellungen – und da in technischen Berufen zuvor überwiegend Männer eingestellt worden waren, lernte die KI unbewusst, männliche Bewerber zu bevorzugen (vgl. Dastin, 2018, Insight – Amazon scraps secret AI recruiting tool that showed bias against women | Reuters)
Kontrollverlust/Abhängigkeit
GenAI nutzt grosse Datenmengen und enorme Rechenleistung, welche meist nur den größten internationalen Technologieunternehmen und einigen wenigen Volkswirtschaften (vor allem den Vereinigten Staaten, der Volksrepublik China und in geringerem Masse Europa) zur Verfügung stehen. Das bedeutet, dass die Möglichkeit, GenAI zu entwickeln und zu kontrollieren für die meisten Unternehmen und Länder, insbesondere im Globalen Süden, unerreichbar ist. Viele Menschen nutzen diese Systeme zudem täglich zum Suchen von Informationen, Schreiben von Nachrichten oder Planen von Terminen. Nutzende haben jedoch meist kaum Einfluss darauf, welche Daten gesammelt werden, wie die KI Entscheidungen trifft oder welche Funktionen verändert werden (vgl. UNCTAD, 2025)
Beispiel: ChatGPT fiel im Jahr 2023 zeitweise aus und zahlreiche Nutzende konnten nicht mehr arbeiten, programmieren oder Texte erstellen, weil sie ihre Arbeitsabläufe auf dieses KI-System ausgerichtet hatten.
Ressourcenverbrauch
Für das Training von KI-Modellen werden riesige Rechenzentren mit tausenden Hochleistungsprozessoren benötigt. Diese verbrauchen enorme Mengen an Strom und Kühlwasser. Forschende der University of Massachusetts Amherst berechneten, dass das Training großer KI-Modelle einen sehr hohen CO₂-Ausstoss verursachen kann – vergleichbar mit den Emissionen mehrerer Autos über ihre gesamte Lebensdauer (vgl. Greenpeace, 2025).
Beispiel: Beim Training des Sprachmodells GPT-3 in den hochmodernen US-Rechenzentren von Microsoft dass direkt 700.000 Liter sauberes Süsswasser verdunstet wurde. Der weltweite KI-Bedarf im Jahr 2027 wird voraussichtlich 4,2 bis 6,6 Milliarden Kubikmeter Wasserentnahme ausmachen – das ist mehr als die gesamte jährliche Wasserentnahme, von der Hälfte des Vereinigten Königreichs. (vgl. Yang et al., 2025, Making AI less‘ thirsty‘.)