Ethische und Datenschutzprobleme bei der Verwendung von KI-Tools
Der Einsatz von KI in der Bildung führt zu verschiedenen ethischen Herausforderungen. Ethik in der KI untersucht die moralischen Implikationen und Verantwortlichkeiten der Entwicklung, des Einsatzes und der Nutzung von Systemen der künstlichen Intelligenz. Diese Seite bietet einen Überblick über die wichtigsten ethischen Herausforderungen beim Einsatz von KI in der Bildung und zeigt auch Handlungsempfehlungen zur Bewältigung dieser Herausforderungen .
Risiko einer Voreingenommenheit
Künstliche Intelligenz kann mit voreingenommenen Daten trainiert werden, was zu voreingenommenen, fehlerhaften und/oder unfairen Ergebnissen führen kann. Es ist notwendig, dass pädagogische Intuitionen und Pädagogen Maßnahmen ergreifen, um diese Probleme im System zu identifizieren. Außerdem muss es eine Person geben, die für die kontinuierliche Überwachung der von der KI präsentierten Ergebnisse verantwortlich ist.
Wie soll man reagieren? Schülerinnen und Schüler sowie Pädagoginnen und Pädagogen sollten für die Gefahr der Voreingenommenheit und Diskriminierung von KI-Systemen sensibilisiert und für das Thema des kritischen Hinterfragens von KI-generierten Inhalten sensibilisiert werden. Zu diesem Zweck können beispielsweise Aus- und Weiterbildungsmaßnahmen angeboten werden. Insbesondere Bildungseinrichtungen und Lehrkräfte sollten Maßnahmen ergreifen, um Probleme wie Diskriminierung in Bewertungssystemen zu erkennen. Es kann hilfreich sein, zusätzliche Personen einzusetzen, die für die Kontrolle der KI-generierten Ergebnisse verantwortlich sind.
Mangel an Transparenz
KI-Systeme können komplex und schwer zu verstehen sein, was es für Lehrer und Schüler schwierig machen kann, zu verstehen, wie Entscheidungen getroffen werden. Darüber hinaus ist die Entscheidung bei einigen Tools von Natur aus undurchsichtig, wie beispielsweise beim Deep Learning oder beim Convolutional Neural Network. Folglich ist es schwieriger, den von künstlicher Intelligenz präsentierten Daten und Meinungen zu vertrauen.
Wie soll man reagieren? Wenn möglich, ist es hilfreich zu wissen, wie die Daten erhoben wurden, woher sie stammen und wie die Schlussfolgerungen zu einem bestimmten Thema gezogen wurden.
Datenschutz- und Datenbedenken
KI sammelt große Datenmengen von Lehrern und Dozenten, was zu Datenschutzbedenken führen kann. Nutzer von KI-Tools müssen dieser Datenerhebung aktiv zustimmen, allerdings wird diese Einwilligung mehr oder weniger erzwungen, wenn Bildungseinrichtungen den Einsatz von KI-Tools verlangen. In diesem Fall bleibt sowohl den Lehrkräften als auch den Schülern und Eltern nichts anderes übrig, als zuzustimmen.
Wie soll man reagieren? Es ist wichtig, die allgemeine Datenschutzverordnung (GDPR) einzuhalten und sicherzustellen, dass geeignete Sicherheitsmaßnahmen zum Schutz der Daten und der Privatsphäre der Studierenden ergriffen werden.
Übermäßige Abhängigkeit von Technologie
Wenn künstliche Intelligenzsysteme unsachgemäß eingesetzt werden, besteht die Gefahr, dass Lehrer und Schüler zu sehr von diesen technologischen Werkzeugen abhängig werden, was das Lehren und Lernen behindern und wichtige Fähigkeiten und Kenntnisse verlieren kann.
Wie soll man reagieren? Sowohl Schüler als auch Lehrer sollten bedenken, dass KI-Tools ihre eigene Arbeit nur unterstützen und ihre eigene Kreativität und Fähigkeiten nicht vollständig ersetzen können. Eigene Recherchen sind zum Beispiel eine Schlüsselqualifikation. KI-generierte Inhalte können als Ausgangspunkt verwendet werden, sollten aber durch eigene Recherchen ergänzt werden.
Arbeitsplatzverluste
Der Einsatz von KI gefährdet möglicherweise die Arbeitsplätze von Lehrern und anderen im Bildungsbereich Tätigen. Daher kann es zu Arbeitsplatzverlusten kommen, da die Tools auf lange Sicht Kosten sparen.
Wie soll man reagieren? Anstatt Stellen abzubauen, sollten die Aufgaben neu verteilt werden. KI kann dazu beitragen, bestimmte Aufgaben effizienter zu gestalten, so dass die Lehrkräfte mehr Zeit für andere Tätigkeiten haben, z. B. für individuelle Betreuung oder kreative Unterrichtsgestaltung. Umschulungs- und Weiterbildungsprogramme können sie auch in die Lage versetzen, neue Aufgaben zu übernehmen, die KI nicht ersetzen kann, wie etwa die individuelle Betreuung und Unterstützung von Lernenden. KI kann auch neue Arbeitsbereiche schaffen, wie etwa die Erstellung von digitalen Lerninhalten.
Sources
Akgun, S. & Greenhow, C. (2022). Artificial intelligence in education: Addressing ethical
challenges in K-12 settings, AI Ethics, 2(3), 431-440. https://doi.org/10.1007/s43681- 021-00096-7
Borenstein, J. & Howard, A. (2021). Emerging challenges in AI and the need for AI ethics
education, AI Ethics, 1(2), 61-65. https://doi.org/10.1007/s43681-020-00002-7
Iyer, R., Li, Y., Li, H., Lewis, M., Sundar, R. & Sycara, K. (Februar, 2018).
Transparency and Explanation in Deep Reinforcement Learning Neural Networks [Conference paper]. AIES '18: Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society, New York, USA. https://doi.org/10.1145/3278721.327877
European Union (2022). Use of artificial intelligence (AI) and data in teaching and learning. https://www.internetsegura.pt/sites/default/files/2022-11/ethical-guidelines-on- the-use-of-artificial-intelligence-nc0722649enn.pdf
UNESCO (2022). Recommendation on the Ethics of Artificial Intelligence. https://apee.pt/wp-content/uploads/2023/03/381137eng.pdf
.
University of Adelaide (o.D.) How to work with Artificial Intelligence - the University of Adelaide. https://www.adelaide.edu.au/student/academic-
skills/ua/media/234/artificial-intelligence-student-slides-v0.1.pdf
Zawacki-Richter, O., Marín, V., Bond, M. & Gouverneur, F. (2019). Systematic
review of research on artificial intelligence applications in higher education - where are the educators, International Journal of Educational Technology in Higher Education, 16(39), 1-27. http://dx.doi.org/10.1186/s41239-019-0171-0