Zentrum für interdisziplinäre Forschung

English text below

Unabhängigkeit im Nachdenken, Arbeiten und Unterrichten: An kaum einem Ort ist das so wichtig wie im Bereich der Hochschulbildung. Studierende sollen hier das eigenständige wissenschaftliche Arbeiten erlernen und erproben – zunächst mit geeigneter Hilfestellung durch die Lehrenden, aber mittelfristig mit dem Ziel, dafür nicht mehr auf externe Unterstützung angewiesen zu sein. Mit der Allgegenwart von Künstlicher Intelligenz (KI) gerät dieses Bildungsideal zunehmend unter Druck: Studierende und Lehrende verstricken sich durch ihre Nutzung von KI-Tools (hier vor allem Large Language Modells, kurz: LLMs) in vielfältige Abhängigkeiten – etwa, weil sie bestimmte Tätigkeiten nicht (mehr) ohne KI-Einsatz vollziehen können oder wollen, weil sie auf die Tech-Konzerne angewiesen sind, die spezielle Werkzeuge bereitstellen, oder weil sie das Gefühl haben, nicht mithalten zu können, wenn sie auf die Nutzung von KI-Anwendungen verzichten. Die Frage, wie digitale Autonomie in der Hochschulbildung diesen Herausforderungen zum Trotz bewahrt und gestärkt werden kann, stand im Zentrum des Workshops „Rearticulating Autonomy. Artificial Intelligence and Digital Autonomy in Higher Education“, der, geleitet von Benjamin Paaßen (Bielefeld), Amrei Bahr (Stuttgart) und Maximilian Mayer (Bonn), vom 7. bis zum 9. Mai am ZiF stattfand.

Foto: P. Ottendörfer/Universität Bielefeld

Einen Ausgangspunkt für die Diskussion bildete dabei die Frage, wie digitale Autonomie im Zusammenhang von Forschung und Lehre überhaupt zu verstehen ist: Für individuelle Lehrende und Lernende bezeichnet digitale Autonomie die selbstbestimmte und begründete Entscheidung über die (Nicht-)Nutzung digitaler Angebote, aber auch die Bewahrung individueller Verantwortlichkeit und Selbstbestimmung in der Interaktion mit digitalen Werkzeugen. Auf institutioneller Ebene lag in der begrifflichen Diskussion vor allem ein Fokus auf der Unabhängigkeit von den Monopolen großer Tech-Konzerne bei der Nutzung digitaler Angebote im Bildungsbereich sowie der Bedeutungszunahme entsprechender Kompetenzen und spezieller Expertise.

Über die Begriffsbestimmung hinaus wurde im Workshop eine Assessment-Methode erarbeitet, um das Ausmaß digitaler Autonomie für einzelne Akteur_innen und Institutionen zu analysieren sowie eine Übersicht von Herausforderungen und Empfehlungen in den Bereichen Lehre, Forschung und Infrastruktur an den Hochschulen bereitzustellen. In der Lehre ist es nötig, die wesentlichen Kompetenzen eines Fachs erst zu erwerben, bevor sich KI-Werkzeuge autonom einsetzen lassen. In der Forschung müssen Forschende zum Einsatz kommende Methoden – inklusive KI-Anwendung – weiterhin ausreichend verstehen, um letztverantwortlich für die wissenschaftlichen Ergebnisse bleiben zu können, die sie publizieren. Hinsichtlich der Infrastruktur sollten Hochschulen entlang der ganzen Nutzungskette – von KI-Werkzeugen über die Bereitstellung und das Training von Sprachmodellen bis hin zur Erhebung der Trainingsdaten – Alternativen erarbeiten, um ihre Unabhängigkeit von Monopolen kommerzieller Anbieter zu erhalten. Neben der Notwendigkeit, die Herausforderungen durch LLMs an Hochschulen nicht auf ihre Auswirkungen bezüglich der Bewertung von Abschlussarbeiten zu verengen, stellten die Teilnehmenden trotz unterschiedlicher Fortschritte bei der autonomen Nutzung von LLMs (s. etwa das GWDG-Portal) insgesamt einen dringenden Handlungsbedarf fest. Um dem zu begegnen, werden Ergebnisse des Workshops durch das dort neu gegründete Netzwerk AIDARE im Laufe des Jahres auf einer eigenen Website zugänglich gemacht.

Im Rahmen des Workshops fand auch die öffentliche Podiumdiskussion "KI und Autonomie in der Hochschullehre" mit Amrei Bahr (Stuttgart), Wiebke Esdar (Berlin/Bielefeld), Anne K. Krüger (Berlin) und Katharina Zweig (Kaiserslautern) statt. Die Aufzeichnung der Veranstaltung findet sich hier.

Nach der Podiumsdiskussion: Maximilian Mayer, Benjamin Paaßen, Amrei Bahr, Wiebke Esdar, Katharina Zwieg, Anne Krüger. Foto: Universität Bielefeld

----------------

Autonomy in thinking, working and teaching: There are few places where this is as important as in higher education. Students should learn and practise independent academic work here - initially with appropriate support from teachers, but in the medium term with the aim of no longer being dependent on external support. With the omnipresence of artificial intelligence (AI), this educational ideal is increasingly coming under pressure: students and teachers are becoming entangled in a variety of dependencies through their use of AI tools (here, above all, large language models, or LLMs for short) - for example, because they cannot or no longer want to carry out certain activities without the use of AI, because they are dependent on the tech companies that provide special tools, or because they feel that they cannot keep up if they do without the use of AI applications. The question of how digital autonomy in higher education can be preserved and strengthened despite these challenges was the focus of the workshop ‘Rearticulating Autonomy. Artificial Intelligence and Digital Autonomy in Higher Education’, which was led by Benjamin Paaßen (Bielefeld), Amrei Bahr (Stuttgart) and Maximilian Mayer (Bonn) and took place at the ZiF from 7 to 9 May.

In addition to defining the term, the workshop developed an assessment method to analyse the extent of digital autonomy for individual stakeholders and institutions and to provide an overview of challenges and recommendations in the areas of teaching, research and infrastructure at universities. In teaching, it is necessary to first acquire the essential competences of a subject before AI tools can be used autonomously. In research, researchers must continue to sufficiently understand the methods used - including AI applications - in order to remain ultimately responsible for the scientific results they publish. With regard to infrastructure, universities should develop alternatives along the entire utilisation chain - from AI tools to the provision and training of language models to the collection of training data - in order to maintain their independence from monopolies of commercial providers.

In addition to the need not to limit the challenges posed by LLMs at universities to their impact on the assessment of theses, the participants identified an urgent need for action overall, despite varying degrees of progress in the autonomous use of LLMs (see the GWDG portal, for example). To address this, the results of the workshop will be made available on a dedicated website later this year by the newly founded AIDARE network.

The workshop also included the public panel discussion "KI und Autonomie in der Hochschullehre" (in German). You can find the recording here.