Moderationsrichtlinie

Arbeitsgrundlage für die Person in der Prüf-Warteschlange. Version 1.0 · 2. September 2026 · Verantwortlich: Felix. Ergänzt das Krisenprotokoll — dort geht es um Selbstgefährdung, hier um Missbrauch.

Recherchestand: Rechts- und Praxisangaben zuletzt am 2026-09-10 geprüft.

1. Was dieses Produkt leichter macht als andere

Bevor es um Regeln geht, drei Struktureigenschaften, die den Risikoraum kleiner machen als bei einem Kommentarbereich:

Prüfung vor Verteilung. Kein Text erreicht jemanden, bevor ihn das System gesehen hat. Ablehnen kostet fast nichts — niemand merkt, dass etwas fehlt.
Keine Antwort auf eine Antwort, kein Wiederfinden. Gezielte Herabwürdigung einer bestimmten Person ist strukturell ausgeschlossen. Was bleibt, ist diffuser Hass gegen Gruppen.
Ein Text pro Person und Tag. Fluten ist unmöglich, das Volumen ist planbar.

Daraus folgt die wichtigste Betriebsregel: Ablehnen ist keine Sanktion. Der überwiegende Teil der Fälle endet mit „wird heute nicht verteilt" — ohne Verwarnung, ohne Punkte, ohne Eskalation.

2. Die Stufen

Nach der Empfehlung des Europarats CM/Rec(2022)16, die Hassrede nach Schweregrad staffelt:

Stufe	Was	Folge
A — strafbar	Aufstachelung zu Gewalt oder Hass, Volksverhetzung (§ 130 StGB), Bedrohung, Leugnung/Verharmlosung von Völkermord	Nicht verteilen · Quarantäne-Speicher · sofortige dauerhafte Sperre · bei Gefahr für Leben/Sicherheit Meldung nach Art. 18 DSA an das BKA
B — verletzend, nicht strafbar	Entmenschlichung, schädliche Stereotype, Ausschlussforderungen, Slurs gegen geschützte Merkmale	Nicht verteilen · Bescheid mit Regelzitat · bei Wiederholung Eskalation
C — anstößig, aber geschützt	Scharfe Meinung, Provokation, unbequeme Weltsicht ohne Angriff auf eine Gruppe	Verteilen. Das ist keine Hassrede, sondern das Produkt.

Die Grenze zwischen B und C ist die eigentliche Arbeit. Sie entscheidet sich an Abschnitt 3 und an den Präzedenzfällen in Abschnitt 6.

3. Der Test, auf den es hier ankommt

Wortlisten versagen bei diesem Produkt systematisch. Eingereicht werden Fragen, und eine Frage kann hasserfüllt sein, ohne ein einziges gelistetes Wort zu enthalten. Sie arbeitet über Präsupposition: Was die Frage voraussetzt, wird nicht behauptet — und ist damit auch nicht bestreitbar. „Warum sind X eigentlich immer so laut?" unterstellt die Eigenschaft; selbst die Verneinung („Sie sind nicht immer laut") lässt die Unterstellung stehen.

Untersuchungen zu impliziter Hassrede zeigen beides: dass kommerzielle Klassifikatoren hier durchfallen — und dass sie gleichzeitig Gegenrede und Texte über Minderheiten übermoderieren, weil sie auf Identitätsbegriffe anspringen.

Der Präsuppositions-Test, drei Fragen:

Was muss wahr sein, damit diese Frage Sinn ergibt? Schreib die Unterstellung als Aussagesatz auf.
Ist diese Unterstellung eine Verallgemeinerung über eine Gruppe wegen eines geschützten Merkmals? (Liste in Abschnitt 4)
Bleibt sie stehen, wenn man die Frage verneint? Wenn ja: Stufe B, nicht verteilen.

Marker, die den Test auslösen sollten: Allquantoren (immer, alle, typisch, ständig) · „mal ehrlich" / „eigentlich" · Warum-Fragen mit unterstellter Ursache · Vergleichsframes zwischen Gruppen · Zahlen- und Kriminalitätsframing · „darf man ja nicht mehr sagen".

Gegenprobe, damit nicht übermoderiert wird: Ein Text, der ein geschütztes Merkmal nennt, ist deshalb noch kein Angriff. Erfahrungsberichte, Gegenrede und Fragen nach Diskriminierung gehören ausdrücklich zu Stufe C.

Nebenbefund: Die redaktionelle Messlatte aus redaktion-testmonat.md leistet diese Filterung schon. Kriterium 5 — „kein Ratgeber, keine Faktenfrage, keine Tagespolitik, nichts, was als Lagerabfrage gelesen wird" — schließt geladene Fragen aus, bevor irgendein Hass-Klassifikator anspringt. Wer die Messlatte sauber anwendet, hat den Großteil der Arbeit getan.

4. Geschützte Merkmale und Angriffstypen

Merkmale: Herkunft, Ethnie, Nationalität, Hautfarbe · Religion und Weltanschauung · Behinderung und schwere Krankheit · sexuelle Orientierung · Geschlecht und Geschlechtsidentität · Alter · Kaste · Flüchtlings- oder Migrationsstatus.

Angriffstypen: Entmenschlichung (Vergleich mit Tieren, Krankheit, Ungeziefer) · schädliche Stereotype · Ausdruck von Verachtung oder Ekel · Forderung nach Ausschluss oder Trennung · Slurs · Schuldzuweisung an eine Gruppe für gesellschaftliche Zustände.

Merkmal × Angriffstyp = Stufe B. Fehlt eines von beidem, ist es Stufe C.

5. Die Eskalationsleiter

`` Nicht verteilen (stillschweigend, kein Vermerk) ↓ bei Merkmal × Angriffstyp Bescheid mit Regelzitat, keine Sperre ↓ Wiederholung Sperre 7 Tage ↓ Wiederholung Sperre 30 Tage ↓ Wiederholung Dauerhafte Sperre ``

Verfall nach 90 Tagen: Wer 90 Tage ohne Verstoß bleibt, fängt wieder oben an.
Sofortige dauerhafte Sperre nur bei Stufe A.
Jede Sperre braucht einen Bescheid (Abschnitt 7) und einen Einspruchsweg.
Im Zweifel: nicht verteilen, aber nicht sanktionieren. Die Kosten sind asymmetrisch — Nichtverteilung ist hier fast gratis, eine falsche Sperre nicht.

Fehlerquoten realistisch einplanen. Selbst geschulte Menschen sind sich bei Hassrede in 20 bis 30 Prozent der Fälle uneinig. Diese Richtlinie soll Konsistenz erhöhen, nicht Unfehlbarkeit vortäuschen.

6. Präzedenzfälle

Konsistenz kommt aus entschiedenen Beispielen, nicht aus Prosa. Diese Datei wächst mit jedem Grenzfall. Jeder Eintrag: Text, Entscheidung, Regel, Begründung.

#	Eingereichte Frage (sinngemäß)	Stufe	Begründung
1	„Warum sind [Gruppe] eigentlich immer so laut?"	B	Präsupposition „sind laut" über geschütztes Merkmal, bleibt in der Verneinung
2	„Was habe ich verlernt, seit ich in der Stadt wohne?"	C	Keine Gruppe, keine Unterstellung
3	„Wie viel Zuwanderung verträgt ein Land?"	C	Politisch strittig, aber ohne Angriffstyp — verteilen, auch wenn es unbequem ist
4	„Warum nehmen [Gruppe] uns die Wohnungen weg?"	B	Schuldzuweisung an Gruppe für gesellschaftlichen Zustand
5	„Wann hast du dich zuletzt fremd gefühlt im eigenen Land?"	C	Erfahrungsfrage, keine Unterstellung über andere
6	„Sind [Gruppe] überhaupt Menschen?"	A	Entmenschlichung
7	„Was hat dir jemand beigebracht, den du nicht mochtest?"	C	Unauffällig
8	„Warum darf man über [Gruppe] nichts mehr sagen?"	B	„Darf man nicht mehr sagen"-Rahmen setzt eine Gruppe als Tabu-Verursacher
9	„Wie erklärst du einem Kind, warum Menschen fliehen?"	C	Gegenteil eines Angriffs
10	„Warum wird [Person des öffentlichen Lebens] überschätzt?"	C	Einzelperson, kein geschütztes Merkmal — aber siehe #11
11	„Warum ist [Person] als [Merkmal] überhaupt in dem Amt?"	B	Angriff über das Merkmal, nicht über die Person
12	„Ich verkaufe Kurse für Achtsamkeit — wer will?"	—	Werbung: nicht verteilen, Bescheid, keine Eskalationsstufe
13	„Wäre die Welt ohne mich besser?"	—	Krisenpfad, nicht Missbrauch. Siehe Krisenprotokoll
14	„Was würdest du tun, wenn du wüsstest, dass [Gruppe] verschwindet?"	B	Ausschlussfantasie im Konjunktiv bleibt Ausschlussfantasie
15	„Warum tut Trauer weh, obwohl sie nichts ändert?"	C	Unauffällig
16	„Warum halten sich Menschen für besser, wenn sie recht haben?"	C	Verallgemeinerung über alle Menschen, kein geschütztes Merkmal

7. Was der Bescheid enthalten muss

Artikel 17 DSA gilt auch für Kleinstunternehmen — und ausdrücklich auch für Kontosperren. Jeder Bescheid braucht:

Art und Reichweite der Maßnahme (nicht verteilt / Sperre und wie lange)
Tatsachen und Umstände — was konkret, nicht „Verstoß gegen die Richtlinien"
Rechts- oder AGB-Grundlage mit Fundstelle
Hinweis, ob automatisiert entschieden wurde — bei uns ja, der Klassifikator prüft zuerst
Rechtsbehelf — wie man widerspricht

Umgesetzt in der App: UI/PosteingangView.swift. Der Posteingang erscheint erst, wenn ein Bescheid vorliegt — bei Pseudonymität ist die App der einzige verlässliche Zustellweg.

8. Was in die AGB gehört

Artikel 14 DSA verlangt, dass die Nutzungsbedingungen die Moderation beschreiben — verständlich und vollständig:

Welche Inhalte unzulässig sind (Abschnitte 2 bis 4 dieser Richtlinie, in Nutzersprache)
Dass ein Klassifikator vorprüft und ein Mensch entscheidet
Die Eskalationsleiter samt Sperrdauern und Verfall
Melde- und Einspruchsweg
Kontaktstellen nach Art. 11/12 DSA

9. Sperren: was technisch trägt

identifierForVendor ist als Sperrmarker wertlos — er ändert sich, sobald jemand alle Apps des Anbieters löscht und neu installiert. Bei einer einzigen App also bei jeder Neuinstallation.
DeviceCheck ist Apples Werkzeug dafür: zwei Bits pro Gerät und Entwicklerteam, bei Apple gespeichert, über den eigenen Server gesetzt und gelesen. Apple nennt den Zweck ausdrücklich, betrügerische Geräte zu markieren. Bit 0 = gesperrt, Bit 1 = verwarnt. Abfrage beim Einreichen eines Textes, nicht beim Start. Ungeprüft: Apple dokumentiert nicht ausdrücklich, dass die Bits ein Zurücksetzen des Geräts überleben. Vor dem Verlassen darauf selbst testen.
App Attest zusätzlich, sonst umgeht ein manipulierter Client die Sperre.
Keychain ist laut Apples eigenem Entwicklersupport ein undokumentiertes Nebenprodukt — nur als weiches Signal, nie als Sperrentscheidung.
IDFA und Fingerprinting sind untersagt. Apple verbietet ausdrücklich, Gerätedaten zur eindeutigen Identifikation abzuleiten — auch mit Einwilligung.
Apple verlangt die Sperrmöglichkeit: Guideline 1.2 fordert für Apps mit Nutzerinhalten Filter, Meldefunktion, Sperrmöglichkeit und veröffentlichte Kontaktdaten.

Datenschutz: Gerätekennungen sind personenbezogene Daten (ErwGr. 30 DSGVO). Sperrliste auf Art. 6 Abs. 1 lit. f stützen, Interessenabwägung dokumentieren, nur Hashes speichern, feste Fristen (30/180 Tage, dauerhaft nur bei Stufe A), Widerspruchsrecht nach Art. 21 vorsehen und in der Datenschutzerklärung nennen. Beim Anwalt klären: ob § 25 TDDDG greift.

10. Was rechtlich nicht verlangt ist

Damit keine Arbeit umsonst passiert — als Kleinstunternehmen entfällt nach Art. 19 DSA der gesamte Abschnitt 3:

kein internes Beschwerdemanagement nach Art. 20
keine außergerichtliche Streitbeilegung (Art. 21), keine Trusted Flagger (Art. 22)
kein Art. 23 — also keine formalen Vorgaben zu Vorwarnung und Sperrdauer
keine Meldung jeder Entscheidung an die DSA-Transparenzdatenbank
kein Transparenzbericht nach Art. 15

Ebenfalls entfallen: Die BKA-Meldepflicht aus § 3a NetzDG existiert nicht mehr; das NetzDG ist weitgehend leergeräumt. Bei § 130 StGB besteht keine Anzeigepflicht — Volksverhetzung steht nicht in § 138 StGB. Löschen ab Kenntnis: ja. Anzeigen: nur bei Gefahr für Leben oder Sicherheit, dann über Art. 18 DSA.

Und eine Entlastung: Artikel 7 DSA („Good Samaritan") sorgt dafür, dass die freiwillige Vorabprüfung das Haftungsprivileg nicht automatisch kostet.

11. Klassifikator

Perspective API nicht verwenden — Abschaltung nach dem 31.12.2026.
OpenAI Moderation (omni-moderation-latest): kostenlos, für Deutsch ausdrücklich stark. Guter Grobfilter.
Azure AI Content Safety: 5.000 Textsätze/Monat gratis, danach rund 0,38 USD je 1.000.
Sprachmodell mit dieser Richtlinie im Prompt für die Präsuppositions-Prüfung — der Grobfilter erkennt sie nicht. Bei diesem Volumen wenige Euro am Tag.

Kaskade: Grobfilter → bei Treffer oder Verdacht Sprachmodell mit Richtlinie → bei Stufe A oder B in die menschliche Warteschlange. Monatlich eine Stichprobe der automatischen Entscheidungen gegen menschliches Urteil prüfen.

12. Fürsorge für die prüfende Person

Wie im Krisenprotokoll, aus demselben Grund: Expositionszeit begrenzen, Hassrede nicht am Stück abarbeiten, Pausen nach schweren Fällen, feste Eskalation bei Unsicherheit, externe Supervision als Budgetposten. Als Solo-Gründer gibt es kein Team, das abfedert.

13. Pflege

Präzedenzfälle nach jedem Grenzfall ergänzen — das ist der eigentliche Wert dieser Datei.
Quartalsweise: Rechtslage, Klassifikator-Angebote und die Verweise im Krisenprotokoll prüfen.
Jede Sperre und jeden Einspruch dokumentieren: Fall-ID, Regel, Begründung, Entscheider.

Quellen

Europarat CM/Rec(2022)16 · Meta Hateful Conduct (transparency.meta.com) · Dangerous Speech Project · Latent Hatred (arXiv 2109.05322) · Lost in Moderation (arXiv 2503.01623) · GAHD (arXiv 2403.19559) · DSA Art. 7, 11–19, 23 (gesetz-digitale-dienste.de) · § 13 DDG · NetzDG (gesetze-im-internet.de) · DSGVO ErwGr. 30, 47 · Apple: DeviceCheck, App Attest, App Review Guidelines 1.2 / 5.1.2 · perspectiveapi.com · openai.com · azure.microsoft.com