Was macht WhatsSafe? Wie erkennt es Gefahren?

WhatsSafe erhält durch das Lesen des QR-Codes einen Schlüssel zu deinen WhatsApp Nachrichten, kann sie also entschlüsseln und “mitlesen”. In regelmäßigen Abständen rufen wir die neusten Chats ab und lassen sie durch unsere Algorithmen überprüfen. Wenn etwas verdächtig erscheint erhältst du automatisch eine Warnung per E-Mail. WhatsSafe liest Nachrichten nur ab dem Verbindungszeitpunkt aus. Vorherige Nachrichten liest es nicht. Desweiteren schaut es sich keine Fotos oder Videos an, und hört auch keine Sprachnachrichten mit.

Unsere Algorithmen basieren auf neuester künstlicher Intelligenz, dem sogenannten Deep Learning, welches seit einigen Jahren viele Bereiche revolutioniert. Durch unsere langjährige Expertise und fleißiges Datensammeln aus verschiedenen Quellen konnten wir das erste automatisierte KI-System zur Entdeckung von sexueller Belästigung aufbauen.

Im Moment sind wir auf die Erkennung von Cyber-Grooming (sexueller Belästigung von Kindern in Chats) spezialisiert. Dies kann in vielen verschiedenen Mustern vorkommen. Unsere Algorithmen halten z.B. Ausschau nach

  • Harte und direkte sexuelle Kommunikation
  • Vortäuschen einer falschen Identität
  • Versuch, an Fotos oder Videos heran zu kommen
  • Langwierige Manipulation

Dies ist ein komplexes Problem, und nicht immer perfekt von gesunder Kommunikation zu unterscheiden. Unser System wird deshalb manchmal auch in harmlosen Fällen Alarm schlagen. Wir arbeiten aber beständig an Verbesserungen, damit das so selten wie möglich passiert.

Seit Neuestem erkennen wir auch direkte Beleidigungen und Mobbing und teilen dir mit, wieviele dein Kind davon erhält. Natürlich sind Beleidigungen bis zu einem gewissen Grad ein ganz natürlicher Teil des Kindseins. Ein starker Anstieg hier könnte dennoch ein erstes Signal für echtes Mobbing sein.

In der Zukunft wollen wir auch andere Fälle erkennen, z.B. komplexeres Mobbing oder Radikalisierung. Abonniere unseren Newsletter, wenn du dazu auf dem Laufenden gehalten werden möchtest.