Datenschutz

Schabi versucht bei allen KI-Diensten den technisch maximal möglichen Datenschutz zu gewährleisten. Weder Lehrpersonen noch Schüler:innen brauchen einen zusätzlichen Account. Alles läuft über den Schabi-Account.

Eine Anfrage wird wie folgt verarbeitet:

1. Die Lehrperson oder Schüler:in schickt eine Anfrage.
2. Auf dem Schabi-Server werden alle personenbezogenen Metadaten gelöscht.
3. Die Anfrage wird vom Schabi-Server aus an den entsprechenden Dienst weitergeleitet.
4. Die Frage und Antwort wird auf dem Schabi-Server gespeichert ¹...
5. ... und dem/der Anfragenden zurückgeschickt.
6. Wichtig: Der ChatGPT Audiomodus läuft nicht über den Schabi-Server. Der Schabi-Server stellt eine Verbindung zwischen User und Dienst her und speichert das Transkript der Unterhaltung. Die Audio-Daten werden aber direkt zwischen User und Dienst hin- und her geschickt. Der Ort der Datenverarbeitung ist nicht klar, dieser kann irgendwo auf der Welt sein. Der Audio-Modus von ChatGPT nutzt weltweit verteilte Server, diese sind nicht nur in der EU. Ansonsten gelten die gleichen Punkte, wie weiter unten beschrieben.

Weil alles über den Schabi-Server läuft, kann der externe Dienst absolut keine Rückschlüsse auf den/die Anfragende machen.

¹ Wenn die Lehrperson eine Abfrage unter "Meine Abfragen" löscht, werden sämtliche Daten sofort und unwiderruflich gelöscht.

Bei der Verwendung der ChatGPT-Dienste (und somit auch allen Prompts aus der Prompt-Bibliothek) über Schabi werden die eingegebenen Daten viel stärker geschützt, als wenn man ChatGPT direkt von OpenAI nutzt. Die bei Schabi eingegebenen Daten:

• werden nur auf Servern in der EU übertragen und verarbeitet
• sind NICHT für andere Kunden verfügbar.
• sind NICHT für OpenAI verfügbar.
• werden NICHT verwendet, um OpenAI-Modelle zu verbessern.
• werden NICHT zur Verbesserung von Produkten oder Diensten von Microsoft oder Drittanbietern verwendet.

Der Service wird vollständig von Microsoft kontrolliert; Microsoft hostet die OpenAI-Modelle in Microsofts Azure-Umgebung und der Service interagiert NICHT mit den von OpenAI betriebenen Diensten (z.B. ChatGPT oder die OpenAI API).

Deepl Write: Schabi nutzt die DeepL Pro API für maximale Datensicherheit. Die Daten werden bei DeepL "in-memory" verarbeitet und nach der Rückgabe sofort wieder gelöscht.

Empfehlungen

Wir haben auf der Seite "Empfehlungen zum Einsatz der KI-Dienste in der Schule" einige Sicherheits-Hinweise zusammengetragen, auf die trotz hohem Datenschutz und starken Filtern geachtet werden sollte.

Starke Filter

Die Schüler:innen können die KI-Dienste nur nutzen, wenn eine Lehrperson diese freischaltet. Anfragen, die Gewalt, sexuelle Inhalte, Hass, Hetze oder Selbstverletzung beinhalten werden gefiltert und nicht beantwortet (Filter sind in allen Diensten eingebaut). Die Lehrperson hat immer Zugriff auf alle Chatverläufe der Schüler:innen.

Datenschutzfilter: Namen und persönliche Angaben werden ersetzt (neu seit September 26)

Wenn du im KI-Chat oder in einem Bot eine Nachricht abschickst, prüft Schabi sie zuerst auf persönliche Angaben. Das passiert auf unseren Servern in der Schweiz, bevor der Text an das KI-Modell geht. Erkannte Angaben werden durch Platzhalter ersetzt. Das KI-Modell bekommt also nie den echten Namen zu sehen, sondern nur den Platzhalter.

Was ersetzt wird:

• Namen von Personen
• Telefonnummern und E-Mail-Adressen
• Adressen und Geburtsdaten
• AHV-Nummern, IBAN, Karten- und Ausweisnummern

Was nicht ersetzt wird: Inhalte bleiben stehen. Wenn du eine Frage zu einem Kind mit einer Diagnose, einer schwierigen Familiensituation oder einem Lernproblem stellst, bleibt dieser Teil der Frage erhalten. Sonst könnte die KI dir nicht helfen. Entscheidend ist, dass die Information nicht mehr mit einer bestimmten Person verknüpft werden kann.

Ein Beispiel:
Du schreibst: Kevin hat ADHS und stört im Unterricht oft die anderen. Wie kann ich ihm helfen, ruhiger zu arbeiten?

Das KI-Modell erhält: [Person 1] hat ADHS und stört im Unterricht oft die anderen. Wie kann ich ihm helfen, ruhiger zu arbeiten?

Die Antwort der KI enthält ebenfalls den Platzhalter. In deinem Chat siehst du aber weiterhin «Kevin», weil Schabi die Platzhalter für dich wieder in Namen zurückübersetzt. Mit «Wie das Modell es sieht» kannst du jederzeit umschalten und den Text so anzeigen, wie er an die KI ging. Schreibst du in einer späteren Nachricht wieder «Kevin», wird derselbe Platzhalter verwendet. Die KI kann also dem Gespräch folgen, ohne den Namen zu kennen.

Was du im Chat siehst
Unter jeder Nachricht, in der etwas ersetzt wurde, erscheint ein orange hinterlegter Hinweis. Er zeigt, wie viele Angaben ersetzt wurden, und erklärt kurz, warum. Bei einem Vornamen ist das ein sachlicher Hinweis. Bei Telefonnummern, AHV-Nummern oder Adressen fällt er deutlicher aus, denn solche Angaben gehören grundsätzlich nicht in einen KI-Chat, auch nicht ersetzt. Schüler:innen sehen denselben Hinweis, in einfacherer Sprache. Der Filter ist damit auch ein Lernmoment: Wer einen Namen eingibt, erfährt sofort, warum das keine gute Idee ist.

Wo der Filter nicht greift
Der Filter prüft nur den Text, den du ins Eingabefeld schreibst. Er gilt nicht für Anhänge. Ein hochgeladenes Foto, ein PDF, ein Word-Dokument oder ein Zeugnis geht unverändert an das KI-Modell. Wenn du Dokumente hochlädst, achte selbst darauf, dass keine Namen oder persönlichen Angaben darin stehen, oder schwärze sie vorher. Ebenfalls nicht gefiltert werden der Audiomodus, bei dem du direkt mit der KI sprichst, sowie Inhalte von Websites und YouTube-Videos, die du in den Chat einbindest.

Was der Filter nicht kann
Der Filter erkennt Namen sehr zuverlässig, aber nicht lückenlos. Ungewöhnliche Schreibweisen oder Umschreibungen wie «der Junge mit den roten Haaren in der 5b» erkennt er nicht. Er ist ein Sicherheitsnetz, kein Ersatz für Zurückhaltung. Die beste Regel bleibt: Formuliere Fragen ohne Namen, zum Beispiel «ein Schüler» statt «Kevin». Dann gibt es nichts zu ersetzen.

Wo die Namen gespeichert sind
In der Schabi-Datenbank werden deine Chats mit Platzhaltern gespeichert. Die Zuordnung zwischen Platzhalter und Name liegt verschlüsselt beim Chat und wird gelöscht, sobald du den Chat löschst. Beim Export als PDF oder Word und beim Vorlesen werden die Namen wieder eingesetzt.

Dienste im Detail

Auf der oberen Infografik findest du die Buchstaben A - F. Hier werden alle Dienste mit ihrem genauen Namen aufgelistet, um zu zeigen, welcher Dienst in welche Kategorie fällt:

1. "Chat mit ChatGPT 5,1", "Chat mit ChatGPT 4o-mini", "Chat mit ... (ohne Audiomodus)"
2. "DeepL Write: Schreibassistent", falls bei Übersetzungsdienst "DeepL Pro" ausgewählt:  "Übersetzer: Deutsch nach ...", "Übersetzer: ... nach Deutsch"
3. "Perplexity: Internet-Recherche"
4. "Bild aus Text erstellen", "Bild bearbeiten", "Bild-Struktur beibehalten", "Bild im gleichen Stil erstellen", "Bild aus Skizze erstellen", "Hintergrund entfernen", "Suchen und ersetzen", "Bild vergrössern", "Musik aus Text erstellen", "Song erstellen"
5. "Texterkennung (OCR)", "Diktieren", "Text zu Sprache", "Sprache zu Text"
6. "Sprich mit ChatGPT", "Chat mit... (falls Modell "Audiomodus" oder "Audiomodus Pro" ausgewählt wurde)"