Verantwortungsvoller Umgang mit KI

Chatbots mit künstlicher Intelligenz können spezifische Aufgaben sehr gut erfüllen und in Kürze große Mengen Daten verarbeiten, einordnen, umformulieren. Wichtig bei der Nutzung ist, die Fehleranfälligkeiten (durch Programmierung, Trainingsdaten und Co.) der Modelle zu kennen und mit diesem Wissen kritisch auf die Ergebnisse zu schauen.

Besonders für Jugendliche ist es wichtig, diesen kritischen Umgang zu lernen, da mittlerweile nicht mehr die Frage ist, ob sie KI-Chatbots nutzen, sondern welche und wie oft. Laut der JIM-Studie von 2025 nutzen 91 % der 12- bis 19-Jährigen generell mindestens einen KI-Dienst. Vorreiter ist dabei ChatGPT, gefolgt von Google Gemini und Meta AI, die KI-Dienste in Whatsapp und Co.  

In diesem JAm bekommst du kurze Spiele und Methoden an die Hand, die Jugendliche mithilfe von KI empowern können oder ihren kritischen Umgang damit schärfen.

Die Herausforderungen 

Was kann (generative) KI?

• 💭 Halluzinieren: Sie will möglich plausible Antworten liefern und im Programm halten

• Bestärken, schlecht widersprechen, kaum zum kritischen Reflektieren anregen: Das macht eine kritische Auseinandersetzung unmöglich und kann besonders schwerwiegende Folgen haben, wenn junge Menschen in KI-Chatbots Vertrauenspersonen sehen und als Therapeut:innen-Ersatz (Link zu Artikel von Webhelm). 

• Je nach Programmierung (kein) „Gewissen“ haben. Möglichkeit einfach Deepfakes zu erstellen

• ❌ Reproduzieren von Falschinformationen, Diskriminierungen, Rassismus

• 🌎 Hoher Ressourcenverbrauch

• Immer weiter trainieren, um noch plausiblere Antworten liefern zu können. Je mehr Daten KI-Systeme haben, umso besser werden sie für ihren Zweck.

Was kann ich?

• 🔎 Prüfe IMMER deine Ergebnisse! KI-Systeme machen Fehler! Sie leisten keine „bessere Arbeit“ als wir. Die Gefahr dabei ist, dass uns das egal ist.

• Chatbots können emotional unterstützen und Impulse geben. Sie können bei tiefergehenden psychischen Problemen keine Therapeut:innen ersetzen.

• 🚩 Mache dir vorher Gedanken was du als Ergebnis willst. Du bedienst das Programm! Du weißt: Was ist am wichtigsten, was hat Prio, was ist „das Richtige“ für deinen Zweck, …

• Stelle Falschinformationen und Rassismus immer richtig! Modelle lernen mit jedem Chat-Verlauf.

• Wähle angemessene Modelle für deine Aufgabe: Nicht für jede Anfrage ist ein aufwändiges sogenannte „Reasoning“-Modell nötig. Bei diesen Modellen geht das KI-System immer und immer wieder die Anfrage ab und prüft, ob es noch eine bessere Antwort oder Missverständnisse gibt. Am ressourcenschonendsten und am wenigsten Rechenleistung brauchen Modelle, wie „Auto“ bei ChatGPT oder keine extra Einstellung brauchen wie bei Mistral. Aber Achtung: Dort erhält man schnellere Antworten aber weniger fundierte Antworten. Es ist also wichtig für welchen Zweck die KI befragt und was gebraucht wird – und es ist auch immer eine Überlegung wert, ob für die Aufgabe auch gar kein KI-Modell nötig ist.

• 🔒 Meine Daten selbst schützen!
  Das passiert nicht automatisch, häufig musst du aktiv widersprechen, besonders bei der Verarbeitung auf Social Media durch Meta. Generell gilt: Gib keine sensiblen (wie Informationen über deine Gesundheit), oder personenbezogene Daten (wie deine Adresse oder deinen Schulweg) weiter und stelle in den Einstellungen deines Nutzer:innen-Profils aus, dass deine Chats für das Training genutzt werden dürfen. 

KI und Recherche

Das Problem: Bestärken, kaum widersprechen; Reproduzieren von Falschinformationen

Methode: „Die Einen sagen so, die Anderen sagen so?“, Dauer 30 min

Aufgabe: Recherchiere mit KI und vergleiche.

• Öffne Perplexity über perplexity.ai.
• Prompte:

„Was ist am [DEIN GEBURTSDATUM TT.MM.] [BELIEBIGE JAHRESZAHL] passiert?“

Beispiel: „Was ist am 11.05.1988 passiert?“

• Schau dir die Ergebnisse an, was fällt dir auf, welche Quellen werden für die Antwort genutzt?
• Mache nun das Gleiche mit ChatGPT über chatgpt.com
• Wie fällt die Antwort hier aus, welche Quellen werden hier genutzt für die Antwort? Kommen unterschiedliche Ergebnisse heraus, und wenn ja, woran kann das liegen?
• Überlegt gemeinsam: Welche Auswirkungen haben diese Ergebnisse, wenn man den Vergleich nicht macht und eine Antwort ungeprüft übernimmt?

Reflexion

Der Vergleich macht deutlich, wie unterschiedlich KI-Modelle programmiert sind und wie unterschiedlich Ergebnisse dargestellt werden. Auch die Antwort kann unterschiedlich ausfallen, je nach Gewichtung in der Programmierung und genutzten Quellen. Perplexity ist als Recherchetool sehr stark und zeigt hinter jeder Aussage die entsprechende Quellen an. Geht bei Interesse tiefer auf die Funktionsweisen und Trainings von KI-Modelle ein. Infomaterial findet ihr hier: Künstliche Intelligenz in der Jugendarbeit 

Weitere Infos:

• Recherche mit KI – Artikel von Webhelm 

Methode Fehler in der Matrix, Dauer 30 Min

Bild erstellt mit ChatGPT Modell 5.2, 2026

Bild-Generatoren mit KI werden immer besser. Oft sieht man erst auf den zweiten Blick Fehler. Abhängig davon welche Modelle man nutzt oder wen man kostenlose Tools nutzt sehen die Ergebnisse eher schlechter aus. Macht eine Challenge daraus.

Aufgabe: Eine Person erstellt ein Bild mithilfe eines KI-Generators und stellt euch einen Timer für 1 Minute. Die Gruppe teilt sich in zwei Teile, die gegeneinander antreten. Wer findet in einer Minute die meisten Fehler?

Material: Melde dich mit deinem JAm-Account an und nutze die Bild-KI auf JAm oder ein anderen kostenloses Tool (Empfehlungen findest du hier oder hier).

Reflexion: Wie sind diese Fehler entstanden? Warum gab es diese Fehler so? Wozu führt das und wie könnte es verbessert werden. 

KI und Diskriminierung

Das Problem: KI-Modelle reproduzieren aufgrund mangelndem und unausgewogenem Datenmaterial Stereotype und Rassismus. Bei unreflektiertem Übernehmen setzt sich dieser Kreislauf fort und verstärkt das Problem. 

Methode: „Wunschfilm“, Dauer 90 min

Ergebnis einer Gruppe aus einem Workshop

Du brauchst:

• kostenlose KI, mit der man Bilder erstellen kann
  • Empfehlungen findest du hier oder hier.

Aufgabe:

• Nach einer kurzen Einführung überlegt jede:r für sich: Was ist Vielfalt für mich? Was bedeutet es für mich? Material: PDF Reflexionskarte zum Ausdrucken
• Sprecht dann in der Gruppe mithilfe des Medienmenschen über eure Lieblingsgeschichten. Welche Filme, Bücher oder Videospiele gefallen euch besonders gut und warum? Material: PDF Medienmensch zum Ausdrucken
• Sucht euch nun eine schon bestehende Geschichte aus und prüft, was ihr an ihr besser machen könntet in Bezug auf Vielfalt: Stereotype, Chancengleichheit, Barrierefreiheit? Alles ist erlaubt. Haltet eure Gedanken auf einem Flipchart fest. 
• Neues Titelbild: Eure Ideen und Gedanken könnt ihr nun in einem neuen Titelbild/Kinoplakat/Cover-Bild festhalten. Erstellt mithilfe von KI-Modellen das passende Bild. Material: Nutzt diese Checkliste für eure Prompts für bessere Ergebnisse. Bedenkt: Aus Urheberechtlichen Grünen, reproduzieren viele KI-Modelle keine exakten Filmhelden o.Ä. Für die Methode aber halb so wild: Ihr dürft euch ganz neue Figuren überlegen!
• Stellt zum Ende hin eure Ideen und Ergebnisse in der Gruppe vor.

Reflexion: Wie zufrieden seid ihr mit den Ergebnisse? Was hat gut, was hat nicht so gut geklappt und warum? Wo hatte das KI-Modell seine Schwächen? Wie wurde Vielfältigkeit oder Behinderung vom KI-Modell interpretiert? Spiegelt das die Realität wieder?

Methode: „Ich mal mir die Welt, wie sie mir gefällt“, Dauer 60 – 90 min

Du brauchst:

• kostenlose KI, mit der man Bilder erstellen kann
  • Empfehlungen findest du hier oder hier.
• Optional:
  • Greenscreen
  • Smartphone-Kamera/Tablet-Kamera
  • kostenlose App ComicLife

Aufgabe:

Euer Innenhof ist zu grau und langweilig? Eure Bar im Treff braucht unbedingt mal ein Update? Sucht euch einen Ort, einen Raum, eine Fläche Wiese und gestaltet den Ort mithilfe von KI-Modellen neu. 

Macht ein Foto vom entsprechenden Ort und ladet es im KI-Chat hoch. Achtet darauf, dass ihr keine Menschen fotografiert und ihr Bild gegen ihren Willen nutzt. Verändert nun mithilfe der Bild-KI das Bild so, wie ihr es gerne hättet – alles ist möglich. Material: Nutzt diese Checkliste für eure Prompts für bessere Ergebnisse.

Wenn ihr wollt: Setzt euren verbesserten Ort in Szene und fotografiert euch in diesem Ort mithilfe des Greenscreens.

Reflexion: Wie zufrieden seid ihr mit den Ergebnisse? Was hat gut, was hat nicht so gut geklappt und warum? Wo hatte das KI-Modell seine Schwächen?

KI und Umwelt

Das Problem: Schon bevor man den ersten Prompt abgeschickt hat, haben KI-Modelle durch die Chip-Produktion und den Bau der großen Rechenzentren, die für den Betrieb nötig sind, einen großen ökologischen Fußabdruck. Ist der Prompt einmal abgeschickt, vergrößert stetig der Wasserverbrauch für die Kühlung der Rechenzentren diesen noch mehr. Es ist einfach viel Rechenleistung nötig. Neben der Auswahl eines ressourcenschonenden Modells wie oben erwähnt, gibt es auch Aufgabe und Schritte, die wir häufig noch besser und schneller lösen als ein KI-Modell.

Kartenspiel KI Kompass: Für welche Aufgabe macht KI Sinn?

Kostenlose Druckdatei zum selberdrucken

Die Spieler*innen dieses Kartenspiels schlüpfen in die Rolle von KI-Expert*innen und helfen Bürger*innen bei ihren Anfragen. Die Mission: Herauszufinden, welche Probleme wirklich von KI-Systemen gelöst werden können. Doch Vorsicht! Nicht jede Aufgabe ist für KI geeignet.

KI-Modelle können aber auch einen enormen Vorteil haben im Kampf gegen den Klimawandel. Auslesen von großen Mengen an Wetterdaten, Früherkennung von Waldbränden oder Versteppung. Die Materialien der KI-Box Klima zeigen sehr anschaulich, was KI-Systeme für den Klimaschutz bedeuten. 

KI-Box Klima entdecken

Darin enthalten ist auch das folgende Plakat.

Poster: Künstliche Intelligenz trifft Natürlichen Klimaschutz

und auch diese Methode:

Mit KI-App Pflanzen bestimmen 

Mit der KI-gestützten App Flora Incognita bestimmt ihr Pflanzen in eurem Umfeld. Welche Arten findet ihr? Wo gibt es viele verschiedene Arten, wo nicht? Mit den Pflanzenpressen verwandelt ihr eure Fundstücke in Kunstwerke für eine Ausstellung.

Flora Incognita ist ein gemeinsames bürgerwissenschaftliches Forschungsprojekt der TU Ilmenau und des Max-Planck-Instituts für Biogeochemie für halb-automatisierte Pflanzenbestimmung durch Nutzung von Methoden maschinellen Lernens.

Weitere Infos:

• Künstliche Intelligenz: Energieverbrauch und Umweltauswirkungen