gefahren Archive - Schülerzeitung Gymnasium Horn

Immer mehr Menschen reden von Gefahren Künstlicher Intelligenz. Über Schüler:innen, die nichts mehr lernen, über Arbeitsplätze, die wegfallen oder gar die Übernahme der Menschheit. Doch kann dies wirklich passieren? Und wie würde das genau aussehen?

Künstliche Intelligenzen gab es bereits vor ChatGPT. Siri, Google Home und auch E-Mail Spamfilter nutzen alle Künstliche Intelligenz. Der Boom um das Ganze begann erst mit der Veröffentlichung von ChatGPT im November 2022. Anschließend wurden im Eiltempo viele verschiedene Künstliche Intelligenzen programmier und für jeden zugänglich gemacht. Darunter weitere textbasierte Programme wie Google Bard oder Perplexity. Auch bild- sowie videobasierte KIs wie D-ID, Midjourney und noch vieles mehr wurden veröffentlicht

Funktionsweise von Künstlichen Intelligenzen

Künstliche Intelligenzen werden zuerst mit riesigen Mengen von Daten trainiert. Daraus lernen sie, diese menschengemachten Eigenschaften zu übernehmen, mit denen sie trainiert wurden. Am Beispiel ChatGPT: Unmengen an Büchern, Artikeln und Websites geben dem Programm einerseits Informationen, andererseits die Fähigkeit, die Schreibweisen von Menschen zu übernehmen und zu lernen, Texte ähnlich wie ein Mensch zu verfassen. Dabei werden auch Verbindungen gelegt, die man mit den Neuronen in einem Gehirn vergleichen kann. Der Durchschnitt dieser Trainingstexte ist sozusagen das, was ChatGPT von sich gibt.

Wenn nun ein Nutzer eine Frage oder eine Aufgabe stellt, berechnet das Programm auf der Grundlage seiner Trainingstexte, welches Wort es als nächstes “ausspucken” soll. Hierbei gibt es allerdings einige Probleme: es kommen viele inhaltliche Fehler vor. Wenn ChatGPT zu einem bestimmten Thema keine genaue Antwort hat, kann es sein, dass es die wahrscheinlichste Antwort ausspuckt. Diese Antwort ist jedoch häufig nicht richtig. Auch erfindet es durch genau dieses Problem Zitate oder Quellen, die ihm helfen, den Text zu vervollständigen. Du solltest Informationen, die du von Künstlichen Intelligenzen bekommst, also immer mit Vorsicht genießen.

Ein weiteres Problem ist die Diskriminierung durch Künstlichen Intelligenzen. Da der Durchschnitt der Trainingstexte widergespiegelt wird, ist die Wahrscheinlichkeit hoch, dass sich darunter diskriminierendes Gedankengut befindet. Nachdem einige Nutzer auf diese Probleme aufmerksam machten, wurden den Programmen Sperren auferlegt, die es ihnen unmöglich machen sollen, diskriminierende Inhalte von sich zu geben. Oft finden Nutzer:innen Wege, auch diese Sperren zu umgehen

All diese Informationen kann man natürlich auch auf andere Künstlichen Intelligenzen übertragen, die beispielsweise Bild-, Video- oder Audiomaterial generieren können. Wenn man Bild-KIs beispielsweise nach einem Bild von Pflegepersonal fragt, werden in den allermeisten Fällen Frauen generiert. Auch das sind genau die Stereotypen aus unserer Gesellschaft, die Künstliche Intelligenzen übernehmen. [Q1]

Gefahren für den Arbeitsmarkt

Zur Gefährdung der verschiedenen Berufsgruppen hat der Schweizer Wissenschaftler Dario Floreano mit seinem Team zusammen den “Automatisierungs-Risiko-Index” erstellt. Dieser Index gibt an, inwiefern Roboter bzw. Künstliche Intelligenz die Berufsausübenden in bestimmten Berufen ersetzen können. Bei dieser Untersuchung stellte sich heraus, dass Metzger:innen die größte Gefahr laufen, irgendwann vollständig durch eine Künstliche Intelligenz abgelöst zu werden. Andere gefährdete Berufe sind Taxifahrer:innen und Kassierer:innen. Auf der anderen Seite dieser Skala stehen Physiker, Chirurgen und Ärzte sowie Piloten und Fluglotsen. Diese laufen demnach kaum Gefahr, abgelöst zu werden.

Eine andere Studie kam zu dem Schluss, dass sich vor allem Programmierer, Mathematiker, Buchhalter, Dolmetscher sowie Schriftsteller und Journalisten auf eine große Umstellung gefasst machen müssen. Hierbei geht es jedoch nicht darum, dass diese Berufe wegfallen könnten. Vielmehr geht es um die Umstellung beziehungsweise die Veränderung innerhalb dieser Berufsgruppen.

Der Rechtsanwalt ist beispielsweise ein solcher Beruf. Der Ökonom Jens Südekum machte das an einem Beispiel fest: wenn eine Künstliche Intelligenz einige Aufgaben von einem Rechtsanwalt übernehmen würde, könnte dieser sich mehr auf die Arbeit mit seinen Mandanten konzentrieren. Der Beruf würde sich also stark wandeln, jedoch eher in das Positive als in das Negative. Ähnlich ist das bei vielen anderen Berufen. Es kann also gut sein, dass die Künstliche Intelligenz die Produkte, an denen sie mitarbeitet, perfektioniert. [Q2] [Q3]

Auswirkungen auf den Schulalltag

Auch die Institution Schule wird sich durch die Einsetzung von Künstlicher Intelligenz stark wandeln. Jetzt bereits sieht man die ersten Veränderungen: Projektarbeiten werden teilweise durch andere Projekte ersetzt aus wahrscheinlich berechtigter Angst, Schüler:innen könnten ihre Projektarbeiten mit Künstlichen Intelligenzen schreiben. Denn dies ist bereits passiert. 32,3% der Befragten einer itslearning-Umfrage im Kurs Schülerschaft Gymnasium Horn gaben an, Künstliche Intelligenzen generell mittel viel zu benutzen. Der Vorteil von Künstlichen Intelligenzen ist ja mitunter, dass sie nicht nur reine Informationen liefert, sondern fertige Ergebnisse, die man in einigen Fällen ohne Veränderung abgeben kann.

Auf die Frage, wie Künstliche Intelligenz unseren Schulalltag verändern wird, gibt es leider keine eindeutige Antwort. Wissenschaftler prognostizieren jedoch, dass sie vor allem den Teil der Wissensvermittlung übernehmen wird. Die Lehrpläne würden gekürzt, was den Vorteil bietet, dass man sich mehr auf andere Dinge konzentrieren könnte. Klar ist auch hier: die Künstliche Intelligenz wird niemanden ersetzen, die Berufe jedoch stark verändern. Und zwar auch hier in die positive wie auch in die negative Richtung. Positiv ist, dass sie den Lehrkräften ihren Job vereinfachen können. Diese können sich dann auf die einzelnen Bedürfnisse ihrer Schüler:innen konzentrieren. Nachteile könnten sein, dass Schüler:innen weniger lernen und viele der Schulaufgaben an die Künstliche Intelligenzen abgeben. Dabei geht auch ein großer Bildungsfaktor verloren.

Wichtig ist es, gute Regeln, Richtlinien und Fortbildungen für die Nutzung von Künstlichen Intelligenzen zu schaffen. Es sollte beispielsweise für Schüler:innen nicht möglich sein, ihre Schulaufgaben vollständig durch Künstliche Intelligenzen erledigen zu lassen. Für die Recherche sowie Inspiration oder Hilfe bei Formulierungen etc. müsste es jedoch legitim sein, sie einzusetzen. [Q4] [Q5]

Gefahren für die Menschheit

Weitere Gefahren beziehen sich auf die gesamte Menschheit. Dies sehen auch bekannte Menschen und Experten. In einem offenen Brief forderten mehr als 1000 Menschen aus dem IT Bereich – unter ihnen auch Elon Musk – eine Entwicklungspause für Künstliche Intelligenzen. Diese Entwicklungspause soll dazu genutzt werden, Richtlinien und Regeln für Künstliche Intelligenzen zu schaffen, sodass diese sich nicht unreguliert weiterentwickeln und irreversible Schäden anrichten können. Die Verfasser des offenen Briefs sprachen von „tiefgreifenden Risiken für die Gesellschaft und die Menschheit”. Genau genommen forderten sie eine sechsmonatige Pause aller Künstlichen Intelligenzen, die leistungsfähiger als ChatGPT-4 und ChatGPT-5 sind.

Aber was ist denn genau die Angst dieser Menschen? Und ist diese berechtigt? Wie bereits erklärt, probieren Künstliche Intelligenzen, wie ein Mensch zu handeln und zu wirken. Wenn sie dies einmal perfekt schaffen sollte, würde dies sehr schlimme Folgen haben. Fake News könnten in unaufhaltsamer Geschwindigkeit verbreitet werden, durch Deepfake-Videos können nicht nur unter Privatpersonen Probleme entstehen, auch diplomatische Verhältnisse könnten darunter leiden.

Vor ein paar Wochen erst verbreitete die politische Gruppierung Zentrum für politische Schönheit, welche ein Verbot der rechten Partei AfD fordert, ein Video, in welchem der deutsche Bundeskanzler Olaf Scholz zum Volk zu sprechen scheint. Er redet von einer Bedrohung für unser Land: die AfD. Mit spannender Musik und dem Kanzleramt im Hintergrund wirkt es auf den ersten Blick wie ein echtes Video. Auf den zweiten Blick erkennt man jedoch schon einige Unstimmigkeiten: die Mundbewegungen stimmen nicht ganz mit dem Text überein. Auch zucken die Mundwinkel das ein oder andere Mal, was ein wenig unnatürlich wirkt. Es ist also leicht zu enttarnen. Die Technologie ist jedoch auch erst an seinem Anfang. Bei der rasanten Geschwindigkeit der Entwicklung ist die Angst darüber, wo uns das Ganze hinführen wird, womöglich berechtigt. Künstliche Intelligenzen sind also nicht nur eine Gefahr für den Schulalltag, für unseren Arbeitsmarkt, sondern auch für unsere Demokratie.

Auch die Aufrüstung ist ein wichtiges Thema auf diesem Gebiet. Viele Experten schätzen die Gefahren der Künstlichen Intelligenz etwa so hoch ein wie die einer Pandemie oder sogar eines Atomkrieges. Jetzt bereits wird bei dieser neuartigen Technologie zur Aufrüstung geforscht. Das zum Beispiel im Luftkampf. Es wird ein Wettrüsten befürchtet, ähnlich wie bei Atomwaffen.

Künstliche Intelligenzen können ab einem bestimmten Punkt unkontrollierbar werden. Wenn sie zu viele unserer Aufgaben übernehmen, nehmen sie auch zu viel Einfluss auf unser System. Sowohl auf das staatliche, als auch auf das wirtschaftliche. Das kann auch unter gewissen Umständen Schäden anrichten, die nicht mehr umkehrbar sind. [Q6][Q7]

Allgemeine Künstliche Intelligenz

Und nun zum meist gefürchtetsten Punkt unter den Gefahren der Künstlichen Intelligenzen: die Allgemeine Künstliche Intelligenz, welche es so noch nicht gibt. Sie könnte alle Aufgaben eines Menschen übernehmen, sozusagen alle Künstlichen Intelligenzen gebündelt. Sie ist also eine ultimative Künstliche Intelligenz, die vollständig wie ein Mensch handelt und agiert. Die Angst, die viele Menschen haben, besteht daraus, dass sie sich, auch wenn sie bereits so ist wie ein Mensch, immer weiterentwickelt und somit besser wird als der Mensch. Wenn dies Überhand annimmt, könnte es in einem sehr theoretischen Fall zu einer Übernahme der Menschheit kommen. Doch zuerst war auch die Definition eines solchen Programms gar nicht eindeutig. Das Google DeepMind-Team publizierte, um ein wenig Klarheit zu schaffen eine genaue Definition zu dem Thema. Die folgenden fünf Punkte müssen (kurz zusammengefasst) in ihren Augen zutreffen, um etwas eine Allgemeine Künstliche Intelligenz nennen zu können.

Entstehend (etwa hochmoderne Chatbots wie ChatGPT und Bard)
Kompetent
Fachkundig
Virtuos
Übermenschlich (die eine breite Palette von Aufgaben besser als alle Menschen erledigen, einschließlich Aufgaben, die Menschen überhaupt nicht erledigen können, wie das Dekodieren der Gedanken anderer Menschen, die Vorhersage zukünftiger Ereignisse und das Sprechen mit Tieren).

Wirkliche Maßstäbe und Definitionen für diese Form von Künstlicher Intelligenz gibt es jedoch nicht. Einige Fragen sind noch ungeklärt. Zudem ist es auch möglich, solche superintelligenten Maschinen zu bauen, die trotzdem vollkommen vom Menschen gesteuert werden. [Q8]

Disclaimer

Wichtig ist jedoch auch, sich vor Augen zu halten, dass dies alles nur theoretische Szenarien sind, die nicht unbedingt so auftreten werden. Wenn genug Regulierungen für die Künstlichen Intelligenzen geschaffen werden, ist es gut möglich, dass sie uns im Alltag schlicht und einfach unterstützen und keine bis wenig negative Einflüsse auf unser Leben nehmen wird.

[Q9]