Künstliche Intelligenz (KI) verändert verschiedene Sektoren rasant, darunter das Bildungswesen, das Gesundheitswesen und die Wirtschaft. Mit dem wachsenden Einfluss der KI tauchen jedoch Fragen zum Vertrauen und zu ethischen Aspekten auf.
Am 11. Juni fand eine interessante Veranstaltung zum Thema Künstliche Intelligenz mit dem Titel „Science and Education in the Age of AI“statt, die vom Science Cafe Nijmegen organisiert wurde. Prof. Dr. Sascha Caron (Radboud-Universität), Prof. Dr. Suzan Verberne (Universität Leiden), Prof. Dr. Henk de Regt und Prof. Dr. Luca Consoli (Radboud-Universität) hielten kurze Vorträge über KI in der Wissenschaft (Physik und Sprachmodelle) sowie über die ethischen und gesellschaftlichen Auswirkungen der wachsenden Rolle der KI bei der Schaffung und Verbreitung von Wissen.
Wir sprachen mit Dr. Consoli, außerordentlicher Professor für Wissenschaftsethik an der Radboud-Universität Nijmegen und am Institute for Science in Society, über die Entwicklungen im Bereich der KI, ethische Fragen zu deren Einsatz im Bildungswesen und die Komplexität des Humankapitals auf dem Arbeitsmarkt. 
Prof. Dr. Luca Consoli
KI verstehen
Was genau ist KI und wer entwickelt sie? Consoli erklärt, dass KI ein breites Spektrum an Technologien umfasst, von Empfehlungssystemen im Internet, im Fernsehen oder in sozialen Medien bis hin zu generativer KI wie ChatGPT und Microsoft Copilot.
„Der gemeinsame Nenner ist, dass sich diese Systeme auf eine Weise verhalten, die intelligent erscheint, und damit oft menschliche Interaktion imitieren.“ Vom Gespräch mit dem Kundenservice (oft zunächst mit einem Chatbot) über die Automatisierung in Unternehmen bis hin zur Korrektur einer Hausarbeit – wir alle haben heutzutage mit KI zu tun, ob wir wollen oder nicht.
Generative KI in der Bildung: eine Antwort auf einen schnell wachsenden Trend
Generative KI, wie sie in großen Sprachmodellen zum Einsatz kommt, hat spürbare Auswirkungen auf das Bildungswesen gehabt. Consoli betont, dass KI im Bildungswesen nicht von den Bildungseinrichtungen selbst, sondern vielmehr von den Studierenden ausgegangen ist, die KI-Programme nutzen, um ihre Arbeiten zu erstellen oder als Suchmaschinen einzusetzen. „Die Studierenden haben diese Tools schnell angenommen, was die Bildungseinrichtungen dazu gezwungen hat, zu reagieren.“ Die Herausforderung im Bildungswesen liegt darin, KI verantwortungsvoll zu integrieren und dennoch unabhängig von den großen Technologiekonzernen zu bleiben, wobei häufig Probleme hinsichtlich des Datenschutzes sowie gesetzlicher Vorschriften und Regelungen auftreten. Dies hat dazu geführt, dass Hochschulen nun ihre eigenen KI-Systeme entwickeln.
Consoli ist nicht gegen den Einsatz von KI im Bildungswesen, plädiert jedoch für einen verantwortungsvollen Umgang damit und deren verantwortungsvollen Einsatz. Darüber hinaus muss das Bildungswesen eine wichtige Aufgabe erfüllen: den Studierenden kritische Fähigkeiten zu vermitteln. Wie lässt sich das in einer Zeit umsetzen, in der Studierende glauben, allem vertrauen zu können, was KI generiert? Für Consoli liegt der Schlüssel im Erlernen von Kernkompetenzen wie kritischem Denken, damit sie die Ergebnisse der KI kritisch auf ihre Richtigkeit hin bewerten können. Consoli: „Aus diesem Grund werden an den Universitäten immer mehr Kurse zum Thema digitale Kompetenz sowohl für Studierende als auch für Lehrende angeboten.“ Damit wird die Hoffnung verbunden, dass ein größeres Bewusstsein geschaffen wird.
Verantwortungsvoller Umgang mit KI
Auf die Frage, wer in den Niederlanden bei der Entwicklung von KI führend ist, lautet Consolis Antwort: „Jeder und niemand. Die Big-Tech-Unternehmen (Google, Microsoft, OpenAI) haben derzeit die größten Marktanteile in diesem Bereich.“
Kleinere Unternehmen mit deutlich geringeren Budgets können noch nicht mit dem Angebot der Big-Tech-Unternehmen konkurrieren. „Bildungseinrichtungen, Unternehmen, Gesundheitseinrichtungen und so weiter stehen vor schwierigen Entscheidungen: die Integration von KI der Big-Tech-Unternehmen in ihre sensiblen Systeme, wobei sie zwischen ‚günstigen‘ Optionen, die möglicherweise die DSGVO-Vorschriften kaum berücksichtigen, und sehr teuren Optionen, bei denen der Datenschutz gewährleistet ist, wählen müssen. Oder sie entscheiden sich für kleinere KI-Systeme, die vielleicht noch in den Kinderschuhen stecken.“
Das Nationale Bildungslabor für KI (NOLAI) für die Grund-, Sekundar- und Sonderpädagogik in den Niederlanden, finanziert durch den Nationalen Wachstumsfonds, entwickelt und erforscht verantwortungsvolle KI im Bildungsbereich. Dabei steht die Zusammenarbeit zwischen Bildungseinrichtungen, Wirtschaft und Wissenschaft im Mittelpunkt. Consoli sagt: „Bildungseinrichtungen fühlen sich ethisch verpflichtet, verantwortungsvoll mit KI im Bildungswesen umzugehen, indem sie gründlich untersuchen, welche KI-Systeme eingesetzt werden und nach welchen Richtlinien.“
Vertrauen und Erklärbarkeit
Vertrauen in KI ist vielschichtig. Es umfasst Zuverlässigkeit – also sicherzustellen, dass KI Aufgaben wie erwartet ausführt – und Erklärbarkeit – also zu verstehen, wie KI zu ihren Schlussfolgerungen gelangt. Consoli merkt an, dass der „Black-Box“-Charakter vieler KI-Systeme es schwierig macht, ihnen voll und ganz zu vertrauen. Transparenz und die Fähigkeit, KI-Entscheidungen zu erklären, sind entscheidend für den Aufbau von Vertrauen.
Ethische Überlegungen: Kann KI den Menschen vollständig ersetzen?
Die gesellschaftlichen Auswirkungen von KI reichen über den Bildungsbereich hinaus. Consoli erörtert die Möglichkeit, dass KI bestimmte Arbeitsplätze ersetzt, insbesondere solche, die repetitive Aufgaben umfassen. „Bestimmte Arbeitsplätze gehen verloren. Nehmen wir zum Beispiel den Kundenservice, der größtenteils durch Chatbots ersetzt wird. Aber KI kann den Menschen nicht vollständig ersetzen.“ Seine ideale Lösung besteht darin, KI einzusetzen, um Menschen von monotoner Arbeit zu befreien, damit sie sich auf kreativere und sinnvollere Tätigkeiten konzentrieren können.
Die ethischen Implikationen von KI, insbesondere von generativer KI, sind jedoch erheblich. Consoli betont die Bedeutung ethischer Überlegungen bei der Entwicklung und dem Einsatz von KI. Themen wie Datenschutz, Nachhaltigkeit und Voreingenommenheit sind von entscheidender Bedeutung. Auf dem Arbeitsmarkt besteht nun die Herausforderung, dass Arbeitnehmer neue Kompetenzen entwickeln müssen, um den Verlust von Arbeitsplätzen zu verhindern. „Es werden neue Berufe entstehen, damit Mensch und KI zusammenarbeiten können“, so Consoli.
Eine wichtige Rolle
Bei der Weiterentwicklung der künstlichen Intelligenz sind ethische Erwägungen und Vertrauen nach wie vor von größter Bedeutung. Consoli ist der Ansicht, dass Universitäten, Wissenseinrichtungen, Unternehmen und andere Parteien eine entscheidende Rolle bei der Förderung des Bewusstseins und der Anleitung zum verantwortungsvollen Einsatz von KI spielen könnten. Er sagt: "Indem wir ethische Herausforderungen angehen und Transparenz fördern, können wir das Potenzial der KI nutzen und gleichzeitig die Risiken mindern."
