Zentrum für interdisziplinäre Forschung

Deutscher Text unten. 

Artificial intelligence, especially in the form of large language models, offers tempting tools that promise to speed up academic work and enable new insights. Their repertoire ranges from research to text production to the autonomous execution of research tasks; in studying, teaching, and research, their use has become part of everyday life. But how does using these tools affect researchers and students? And what impact does the use of these models have on the autonomy of universities?
Benjamin Paaßen is a junior professor of Knowledge Representation and Machine Learning at Bielefeld University. Together with philosopher Amrei Bahr (Stuttgart) and political scientist Maximilian Mayer (Bonn), they convened the ZiF workshop “Rearticulating Autonomy. Artificial Intelligence and Digital Autonomy in Higher Education” last year. At this workshop, AIDARE was founded - the academic network “Artificial Intelligence and Digital Autonomy in Research and Education.” 
The workshop also gave rise to the study “Does Generative AI Endanger Digital Autonomy in Studying?”, by Stefan Münzer, Stefanie Go, and Benjamin Paaßen, which has just been published (in German) as a discussion paper in the Hochschulforum Digitalisierung. It addresses the question of whether AI supports autonomous learning or instead jeopardizes the acquisition of basic competencies. The authors also formulate calls to action for disciplines, teachers, and students.
Three questions for Benjamin Paaßen, who has significantly forstered the discussion of autonomy and AI in higher education.

The capabilities of large language models are impressive. So, should all researchers now work with AI as much as possible?

Benjamin Paaßen: Not as much as possible—rather, as much as makes sense. The point is to develop new, valid methods within and across disciplines in which AI systems are integrated for individual, well-defined steps.
One example: We annotated a large number of German Bundestag speeches to determine whether they express solidarity with migrants. That would not have been possible at this scale without language models. They thus make something like qualitative research on a quantitative scale possible. But we did not simply trust the models’ outputs; instead, we calibrated the language models to match human reference annotations on a statistical sample. That required years of data collection and methodological development with clear, discipline-specific quality standards.

There is great concern that the use of AI systems will cause people to lose skills or not develop them in the first place. Can this be prevented?

Benjamin Paaßen: In my view, it depends on first acquiring both subject-specific and and cross-disciplinary competencies, knowledge, and attitudes (perhaps even with AI support), and then integrating AI systems into one’s own work on the basis of this disciplinary background. Every query to an AI system and every review of an AI system’s output is an opportunity to bring one’s own skills to bear. Research now also shows quite clearly that this works: those who merely ask AI systems for solutions and adopt results without checking them learn very little. Those who work something out themselves and then ask for feedback, or make very specific queries and check the results, learn significantly more.
Put even more generally, the goal is to preserve one’s own digital autonomy when dealing with AI systems, rather than undermining one’s autonomy through excessive or uncritical use of AI.

Why did you set up AIDARE?

Benjamin Paaßen: Because we believed that scientific observation and commentary to the rapid introduction of AI systems into university education was needed - from the perspective of researchers and with a focus on digital autonomy. Unreflective use of AI threatens digital autonomy. Responsible use of AI can even support it.
The foundation of AIDARE was the interdisciplinary work at ZiF. There we were we able to bring together the many cross-disciplinary, overarching aspects under the heading of digital autonomy. The insights from this workshop are still feeding into our current publications and into how we contribute as experts.
Fortunately, our work has already had an impact. Our recommendations have been incorporated into publications by the Hochschulforum Digitalisierung and the German Council of Science and Humanities (Wissenschaftsrat). I also think the extensive debate about critical AI competencies is in line with our intentions. From a computer science perspective, I was especially pleased to see how many universities have now taken steps to use more open language models instead of making themselves dependent on the offerings of the major US corporations.

  
Participants of the workshop „Rearticulating Autonomy”, (c) Universität Bielefeld/P. Ottendörfer

--------------------

Zwischen Autonomie und Kompetenzverlust 
Drei Fragen an Benjamin Paaßen über Künstliche Intelligenz und Autonomie in der Hochschullehre

Künstliche Intelligenz, allem in Form der Großen Sprachmodelle, liefert verlockende Werkzeuge, die versprechen wissenschaftliches Arbeiten zu beschleunigen und neue Erkenntnisse zu ermöglichen. Ihr Repertoire reicht von der Recherche über die Textproduktion bis zur Ausführung von Forschungsaufträgen, in Studium, Lehre und Forschung gehört ihr Einsatz längst zum Alltag. Doch wie verändert die Nutzung dieser Werkzeuge die Forschenden und die, dies es erst noch werden wollen, die Studierenden? Und welche Auswirkungen hat die Nutzung dieser Modelle auf die Autonomie der Hochschulen?
Benjamin Paaßen ist Juniorprofessur Wissensrepräsentation und Maschinelles Lernen an der Technischen Fakultät der Universität Bielefeld. Zusammen mit der Philosophin Amrei Bahr (Stuttgart) und dem Politikwissenschaftler Maximilian Mayer (Bonn) leitete er im letzten Jahr den ZiF-Workshop „Rearticulating Autonomy. Artificial Intelligence and Digital Autonomy in Higher Education”. Auf diesem Workshop wurde AIDARE gegründet, das akademische Netzwerk „Artificial Intelligence and Digital Autonomy in Research and Education“.
Aus diesem Workshop geht auch die Studie „Gefährdet generative KI die digitale Autonomie im Studium?“, von Stefan Münzer, Stefanie Go und Benjamin Paaßen hervor, die gerade als Diskussionspapier im Hochschulforum Digitalisierung erschienen ist. Darin geht es um die Frage, ob KI selbstbestimmtes Lernen unterstützt oder den Erwerb grundlegender Kompetenzen eher gefährdet. Zudem formulieren die Autor*innen Handlungsaufträge für Fächer, Lehrende und Studierende.
Drei Fragen an Benjamin Paaßen, der die Diskussion um das Thema Autonomie und KI in der Hochschule maßgeblich mitgeprägt hat.

Die Fähigkeiten der Großen Sprachmodelle sind beeindruckend. Sollten jetzt also alle Forschenden so viel wie möglich mit KI arbeiten?

Benjamin Paaßen: Nicht so viel wie möglich, so viel wie sinnvoll. Es geht darum, in und zwischen den Fächern neue, valide Methoden zu entwickeln, bei denen KI-Systeme für einzelne, wohldefinierte Schritte eingebunden sind.
Ein Beispiel: Wir haben im großen Stil Bundestagsreden daraufhin annotiert, ob darin Solidarität gegenüber Migrant*innen geäußert wird. Das wäre in diesem Maßstab ohne Sprachmodelle nicht möglich gewesen. Sie ermöglichen also so etwas wie qualitative Forschung auf quantitativem Maßstab. Aber wir haben den Ausgaben der Modelle nicht einfach so vertraut, sondern sie stichprobenhaft mit menschlichen Annotationen verglichen und gemäß der menschlichen Annotationen kalibriert. Das brauchte jahrelange Datensammlung und Methodenentwicklung mit klaren, fachlichen Qualitätsstandards.

Die Befürchtung ist groß, dass durch die Verwendung von KI-Systemen Menschen Fähigkeiten einbüßen oder gar nicht erst ausbilden. Lässt sich das verhindern?

Benjamin Paaßen: Es kommt aus meiner Sicht darauf an, zuerst selbst fachliche und überfachliche Kompetenzen, Wissen und Haltungen zu erwerben (vielleicht sogar mit KI-Unterstützung) und KI-Systeme dann auf Basis dieses fachlichen Hintergrundes in die eigene Arbeit einzubinden. Jede Anfrage an ein KI-System und die Prüfung jeder Ausgabe eines KI-Systems ist eine Chance, seine eigenen Fähigkeiten einzubringen.
Die Forschung zeigt auch inzwischen ziemlich klar, dass das funktioniert: Wer KI-Systeme bloß nach Lösungen fragt und Ergebnisse ungeprüft übernimmt, lernt nichts. Wer selbst etwas erarbeitet und dann um Feedback bittet oder sehr spezifische Anfragen stellt und die Ergebnisse prüft, lernt wesentlich mehr.
Noch allgemeiner formuliert geht es darum, die eigene digitale Autonomie im Umgang mit KI-Systemen zu bewahren statt durch übermäßige oder unkritische KI-Nutzung die eigene Autonomie zu unterlaufen.

Warum haben Sie AIDARE ins Leben gerufen?

Benjamin Paaßen: Weil es uns wichtig erschien, die rasante Einführung von KI-Systemen in der universitären Bildung und Forschung auch über einen einzelnen ZiF-Workshop hinaus weiter zu begleiten – aus der Sicht von Wissenschaflter*innen und unter dem Aspekt der digitalen Autonomie. Denn eine unreflektierte KI-Nutzung bedroht die (wohlverstandene) digitale Autonomie. Verantwortungsvolle KI-Nutzung kann die digitale Autonomie sogar unterstützen. Die Grundlage von AIDARE war aber die interdisziplinäre Arbeit am ZiF. Nur so konnten wir die vielen überfachlichen Querschnittsaspekte unter dem Aspekt der digitalen Autonomie zusammenführen. Die Erkenntnisse aus diesem Workshop fließen immer noch in unsere aktuellen Publikationen ein und wie wir uns als Sachverständige einbringen.
Erfreulicherweise hat unsere Arbeit bereits Wirkung gezeigt. Unsere Empfehlungen sind in Publikationen des Hochschulforums Digitalisierung und des Wissenschaftsrat eingeflossen. Auch die ausführliche Debatte um kritische KI-Kompetenzen ist in unserem Sinne, denke ich. Besonders hat mich aus informatischer Sicht gefreut, wie viele Universitäten inzwischen Schritte ergriffen haben, um offenere Sprachmodelle zu nutzen, statt sich von den Angeboten der US-Großunternehmen abhängig zu machen.