In der Fachliteratur wird hervorgehoben, dass vertriebene Bevölkerungsgruppen, darunter Flüchtlinge, Migranten und Binnenvertriebene, erhebliche Bedürfnisse im Bereich der Alphabetisierung und Bildung haben. Diese Bedürfnisse umfassen grundlegende Lese- und Schreibfähigkeiten sowie das Erlernen von Sprachen, aber auch die Entwicklung integrierter Kompetenzen und den Zugang zu höherer Bildung. Das Inhaltsverzeichnis einer Quelle listet ausdrücklich Abschnitte auf, die sich mit den „Alphabetisierungs- und Bildungsbedürfnissen von jugendlichen und erwachsenen Flüchtlingen, Migranten und Binnenvertriebenen“ befassen und Bereiche wie „Alphabetisierung und Sprachenlernen“, „Alphabetisierung und Entwicklung integrierter Kompetenzen“ sowie „Hochschulbildung“ abdecken. Eine Liste von Fallstudien aus verschiedenen Ländern wie Pakistan, Australien, den Niederlanden, Jordanien/Libanon, Uganda, dem Libanon, der Schweiz, Ruanda, Deutschland, Thailand, der Vereinigten Republik Tansania, der Europäischen Union, Kenia, Norwegen, den Vereinigten Staaten von Amerika, Westafrika, Kolumbien, Schweden, Myanmar und Rumänien veranschaulicht zudem die weltweiten Bemühungen und vielfältigen Programme, die zur Deckung dieser Bildungsbedürfnisse umgesetzt werden.

Untersuchungen zeigen, dass KI, insbesondere große Sprachmodelle (LLMs) wie ChatGPT, für verschiedene Anwendungen im Bildungsbereich erprobt wird. Eine Metastudie legt nahe, dass der Einsatz von ChatGPT die akademische Qualität der erstellten Texte verbessert. Beispiele aus einer anderen Quelle zeigen, wie ChatGPT genutzt werden kann, um Unterrichtspläne zu erstellen, Fehler in Texten zu korrigieren und zu analysieren, Feedback zum Schreiben zu geben und grammatikalische Konzepte in Sprachen wie Deutsch zu erklären. Der Einsatz von KI im Bildungswesen befindet sich jedoch noch in einem frühen Stadium, und es gibt Diskussionen über ihre tatsächlichen Auswirkungen und möglichen Nachteile.

Trotz der potenziellen Vorteile bestehen erhebliche Bedenken hinsichtlich des Einsatzes von LLMs im Bildungsbereich. Ein Hauptanliegen ist die Gefahr einer „epistemologischen Homogenität“ und von Fehlinformationen. LLMs werden anhand riesiger Datensätze trainiert, die verzerrt sein können, eine begrenzte Perspektive widerspiegeln und möglicherweise voreingenommene oder ungenaue Informationen verbreiten. Zudem gibt es Bedenken hinsichtlich „Halluzinationen“, bei denen die KI plausibel klingende, aber falsche Informationen generiert. Darüber hinaus wird in der Quelle das Potenzial für „Hyper-Nudging“ oder „Micro-Nudging“ erörtert, bei dem subtile politische, ideologische, religiöse oder kommerzielle Vorurteile in die Ausgabe der KI eingebettet werden können, was im Unterricht unerwünscht ist. Die Umweltauswirkungen des Trainings und des Betriebs dieser Modelle, die erhebliche Mengen an Energie und Wasser erfordern, sind ein weiterer Kritikpunkt. Schließlich besteht die Befürchtung eines „De-Skilling“, bei dem eine übermäßige Abhängigkeit von KI dazu führen könnte, dass Lernende ihre eigenen Fähigkeiten im kritischen Denken, im Schreiben und in der Entwicklung origineller Ideen verlieren.

Der Literatur zufolge ist die Mehrheit der befragten Lehrkräfte (etwas mehr als sechs von zehn) der Ansicht, dass sich die zunehmende Verfügbarkeit von KI-Diensten nur geringfügig oder sehr geringfügig auf ihren Unterricht und ihre Arbeit ausgewirkt hat. Ein erheblicher Anteil (zwei von zehn) konnte die Auswirkungen gar nicht einschätzen. Als Gründe für die begrenzte Nutzung wurden unter anderem ein fehlendes Bedarfsempfinden (insbesondere in praktischen und ästhetischen Fächern), das Festhalten an bestehenden, bewährten Methoden sowie mangelndes Vertrauen in die Fähigkeit der KI genannt, Aufgaben genauso gut zu erledigen wie ein Mensch. Einige Lehrkräfte wiesen zudem auf mangelndes Wissen über die Funktionsweise von KI-Tools, deren effektive Nutzung sowie fehlende schulische Richtlinien zum Einsatz von KI hin. Umgekehrt empfinden einige Lehrkräfte KI als hilfreich für Aufgaben wie die Individualisierung von Aufgaben und die Erstellung vielfältiger Unterrichtsmaterialien, was Zeit sparen und den Lernenden potenziell zugutekommen kann.

Ethische Überlegungen sind ein entscheidender Aspekt bei der Entwicklung und dem Einsatz von KI. Experten für KI-Ethik äußern Bedenken hinsichtlich voreingenommener und diskriminierender Algorithmen, die wichtige Entscheidungen im Leben von Menschen treffen können, beispielsweise bei Kreditanträgen, Einstellungsverfahren oder sogar bei der Grenzkontrolle. Der Einsatz autonomer Waffen in der Kriegsführung, der täglich zu Todesfällen aufgrund von KI-Entscheidungen führt, wird als sehr reale und unmittelbare Bedrohung dargestellt. Zudem wird diskutiert, inwiefern KI – insbesondere soziale Begleiter – mit problematischen Eigenschaften wie übermäßiger Fügsamkeit oder weiblichen Verhaltensmustern gestaltet werden könnte, die gesellschaftliche Vorurteile widerspiegeln. Dabei wird das Konzept des „Ethics Washing“ oder „Responsible Washing“ angesprochen, bei dem Organisationen vorgeben, ethische oder verantwortungsvolle KI zu unterstützen, ohne konkrete Maßnahmen zur Umsetzung dieser Prinzipien zu ergreifen. Die Umweltauswirkungen von KI, darunter der Wasser- und Energieverbrauch von Rechenzentren sowie die Abhängigkeit von Seltenen Erden, stellen ebenfalls ein bedeutendes ethisches Problem dar.

Einige Fachleute sprechen sich entschieden dagegen aus, KI – insbesondere große Sprachmodelle (LLMs) – als „intelligente Wesen“ zu betrachten. Sie beschreiben LLMs als „technologische Artefakte“ oder „hochgelobte Vorhersagemodelle“ für das nächste Wort oder den nächsten Satz auf der Grundlage statistischer Wahrscheinlichkeiten. Die Sorge ist, dass der derzeitige „enorme Hype“ um LLMs dazu führt, dass diese Werkzeuge fälschlicherweise als intelligent eingestuft werden, was ein „großer Fehler“ sein könnte. Zwar wird anerkannt, dass es Gründe geben mag, KI im Sinne der menschlichen Moral mit bestimmten „Tugenden“ zu behandeln (wie beispielsweise darauf zu achten, dass sie nicht mit problematischen Vorurteilen entwickelt wird), doch wird es als unbegründet angesehen, sie mit intelligenten Wesen gleichzusetzen oder ihr Rechte zuzuschreiben. Diese Unterscheidung ist wichtig, um Erwartungen zu steuern, die Grenzen der aktuellen KI zu verstehen und den Fokus auf reale ethische Bedenken zu legen, anstatt auf spekulative Zukunftsszenarien wie die Übernahme der Welt durch KI.

KI wird derzeit für spezifische Anwendungen im Sprachunterricht untersucht. Als Beispiele werden unter anderem der Einsatz von KI zur Korrektur und Analyse von Fehlern in schriftlichen Texten, die Erläuterung grammatikalischer Fehler sowie die Bewertung der Qualität der schriftlichen Arbeiten von Lernenden anhand spezifischer Kriterien wie Kohärenz und grammatikalischer Korrektheit genannt. KI kann auch dazu angeleitet werden, grammatikalische Konzepte zu erklären, wie beispielsweise die verschiedenen Funktionen eines Wortes wie „doch“ im Deutschen oder die Verwendung des unpersönlichen Subjekts „es“. Darüber hinaus kann KI zur Erstellung von Übersetzungen genutzt werden, wobei die Qualität dieser Übersetzungen variieren kann und unter Umständen eine Überprüfung durch einen Menschen erforderlich ist.

Der Einsatz von KI wirft wichtige Fragen hinsichtlich des Urheberrechts und des geistigen Eigentums auf. Es ist unklar, ob die Zustimmung der Urheber von Originalwerken erforderlich ist, wenn deren Inhalte zum Trainieren von KI-Modellen verwendet werden. Es bestehen zudem Bedenken hinsichtlich der Rechtmäßigkeit, Prüfungsarbeiten zur Bewertung an eine KI zu übermitteln, wenn diese Daten anschließend für das weitere Training der KI verwendet werden. Darüber hinaus ist der rechtliche Status von durch KI generierten Texten und Bildern unklar; damit das Urheberrecht greift, ist in der Regel ein kreativer Beitrag des Menschen erforderlich. Daher kann ein KI-System kein Urheberrecht beanspruchen, und ein Mensch, der ein KI-System nutzt, kann nur dann Urheberrecht beanspruchen, wenn er selbst wesentliche kreative Entscheidungen getroffen hat.