Allgemeine Informationen
| Information | |
|---|---|
| Informationen | |
| Betriebssystem | Alle |
| Service | Software |
| Interessant für | Angestellte und Studierende |
| HilfeWiki des ZIM der Uni Paderborn | |
Der Einsatz von Künstlicher Intelligenz (KI) in Hochrisiko-Anwendungen ist ein zunehmend diskutiertes Thema, insbesondere im Hochschulkontext. Diese Anwendungen bringen sowohl Chancen als auch Herausforderungen mit sich, vor allem in den Bereichen Forschung und der Bewertung von Studierenden. Hochrisiko-Anwendungen von KI sind solche, die aufgrund ihrer potenziellen Auswirkungen besondere Aufmerksamkeit und Vorsicht erfordern. In der Hochschulumgebung können diese Anwendungen sowohl die Art und Weise, wie Forschung betrieben wird, als auch die Verfahren zur Bewertung von Studierenden betreffen.
KI in der Forschung[Bearbeiten | Quelltext bearbeiten]
Im Forschungsbereich eröffnet KI neue Möglichkeiten der Datenanalyse und -interpretation, was zu bahnbrechenden Entdeckungen führen kann. KI-gestützte Tools können große Datenmengen effizient verarbeiten und Muster erkennen, die für den Menschen schwer zu identifizieren sind. Diese Automatisierung kann jedoch auch Risiken bergen, beispielsweise bei der Verzerrung von Ergebnissen durch fehlerhafte Algorithmen oder unsachgemäße Dateninterpretation. Es ist von entscheidender Bedeutung, dass Forschende die Datenqualität sicherstellen und die Ergebnisse kritisch hinterfragen. Zugleich müssen sie darauf achten, welche Daten für die KI-Analyse eingegeben werden, um den Datenschutz zu gewährleisten. Bei der Verarbeitung personenbezogener Daten ist die Einhaltung der Datenschutz-Grundverordnung (DSGVO) unabdingbar.
KI bei der Bewertung von Studierenden[Bearbeiten | Quelltext bearbeiten]
Ein besonders sensibler Anwendungsbereich von KI im Hochschulkontext ist die Bewertung von Studierenden. Automatisierte Bewertungssysteme versprechen eine objektive Bewertung, von Prüfungen oder Essays bergen jedoch auch Risiken, insbesondere hinsichtlich Fairness und Bias. KI zeigt zudem oft eine bemerkenswerte Variabilität in ihren Ergebnissen, was die Reproduzierbarkeit der Resultate erschwert.
Die Frage, ob Prüfungsleistungen mithilfe von KI-basierten Schreibtools bewertet werden dürfen, ist von besonderer Bedeutung. Prüfungsleistungen, die über stark vorstrukturierte Formate wie beispielsweise Multiple-Choice-Klausuren hinausgehen, etwa Hausarbeiten, unterliegen dem Urheberrechtsschutz. Im Falle einer Speicherung und Weiterverwendung der eingegebenen Daten, wie es bei der Nutzung von KI-basierten Schreibtools geschehen könnte, stellt die Eingabe einer solchen Prüfungsleistung eine unzulässige Vervielfältigung und damit eine Verletzung des Urheberrechts dar. Zudem dürfen Prüfungsleistungen aus prüfungsrechtlicher Sicht ausschließlich durch die Prüferinnen und Prüfer selbst bewertet werden; eine Bewertung durch Software ist nicht zulässig.
Ethische, rechtliche und datenschutzrechtliche Rahmenbedingungen[Bearbeiten | Quelltext bearbeiten]
Der Einsatz von KI in Hochrisiko-Anwendungen erfordert nicht nur technische, sondern auch ethische, rechtliche und datenschutzrechtliche Überlegungen. Dies umfasst die Einhaltung von Datenschutzgesetzen, die Definition der Art und des Umfangs der zulässigen Datenverarbeitung, sowie die Sicherstellung der Transparenz und Rechenschaftspflicht bei KI-gestützten Entscheidungen.