Privalino und WhatsSafe

Ein Post-Mortem

Leider mussten wir im September 2019 unsere Operationen vollständig einstellen ☹️

WhatsSafe
Privalino
Kitext

Fast drei Jahre haben wir versucht, das Internet für Kinder sicherer zu machen. Letztendlich konnten wir aber nicht genügend Eltern für unsere Idee begeistern.

Auf dieser Webseite wollen wir in einem Post-Mortem festhalten, wie unser Privalino-Abenteuer verlaufen ist, und woran es gescheitert ist.

Herausforderung

Mit der fortschreitenden Digitalisierung hat sich auch die Lebenswelt von Kindern verändert. Sie bewegen sich ganz selbstverständlich im Netz, spielen Videospiele und kommunizieren. Leider treffen sie bei ihren Ausflügen ins Netz nicht nur Freunde. Pädokriminelle Cyber-Groomer versuchen über Online-Chats mit Kindern in Kontakt zu kommen und sich ihr Vertrauen zu erschleichen. Auf diese Weise wollen sie intime Gespräche führen oder sogar Bildmaterial austauschen. Das große Problem daran ist, dass Eltern es nicht mitbekommen, wenn ihre Kinder Opfer von Cyber-Grooming werden.

Idee

Wir wollten mit Privalino und WhatsSafe den digitalen Kinderschutz in Deutschland voranbringen. Dazu haben wir künstliche Intelligenz (KI) genutzt, um Chat-Sprache zu analysieren und bei Belästigung oder Mobbing die Eltern der Kinder alarmieren zu können.

Doch welche Chats analysieren wir? Woher kriegen wir Zugriff darauf?

Im Endeffekt war das Herzstück unsere KI. Idealerweise wäre sie in jedem Mobilegame und in jeder Instant Messaging App von WhatsApp bis Snapchat aktiv. Doch bevor wir von den Entwicklern ernst genommen werden können, mussten wir erstmal zeigen, dass wir halten, was wir versprechen. Ein Proof-of-Concept musste her.

Idee 1: Die Privalino Messenger App

Zu Beginn bauten wir unseren eigenen Messenger, der auf Telegram beruhte und speziell für Kinder ausgerichtet war. Dieser war im Google Play Store zu finden und wurde über die Jahre von über tausend Usern benutzt.

Idee 2: WhatsSafe

Die vermeintlich unkomplizierte Ankopplung an Telegram erwies sich als trügerisch: Bald kamen wir mit der Wartung nicht mehr hinterher. Stattdessen fanden wir einen eleganten Weg, uns bei WhatsApp einzuklinken. Für diese Lösung bauten wir ein Eltern-Dashboard auf. WhatsSafe war geboren.

Idee 3: Anbindung an andere Chats

Unsere KI lässt sich einfach per Schnittstelle in Produkte Dritter einbinden. Deshalb waren wir stets auf der Suche nach Unternehmen, die Kinderschutz bei sich zum Standard machen wollten.

Was gut lief

  • Viel Begeisterung und positives Feedback einzelner Lehrer, Rektoren, Eltern, Kinderschützer und App-Entwickler
  • KI ist sicher im Erkennen von auffälligem Verhalten und Mobbing
  • Viele Eltern testeten Groomingfälle und diese wurden immer sofort erkannt
  • Hohe mediale Aufmerksamkeit

Probleme und Kritik

  • Datenschutz und DSGVO
  • Nicht genügend Investment für Marketingoffensive / Skalierung
  • Wartung des eigenen Messengers unterschätzt
  • Kinder wollten nicht auf Privalino umsteigen, lieber bestehende Messenger benutzen
  • Nicht genügend zahlende Kunden für WhatsSafe
  • Keine B2B Deals kamen zustande trotz anfänglichem Interesse
  • User Experience nicht immer sehr intuitiv (worauf die KI reagiert und worauf nicht wurde oft missverstanden)

Unsere Meinung

  • DSGVO gut, um große Konzerne in die Schranken zu weisen. Für Firmen, die Daten nicht nur für Werbezwecke benötigen, sondern um Gutes zu tun, eine schreckliche Innovationsbremse.
  • Wir wollten langsam und organisch wachsen. Keine großen Investoren. Hat in unserem Fall nicht geklappt. Skalieren und Marketingoffensiven sind sehr teuer.
  • B2B: Beschränkung auf deutsche Sprache Fluch und Segen... Die meisten Mobile Games etc. haben Chaträume, in denen 100 Sprachen gesprochen werden. Da bringt unsere KI nicht viel.
  • Wie Marketing machen: Den meisten Menschen ist die Gefahr nicht bewusst. Die Linie zwischen Aufklärung, Marketing und Panikmache ist manchmal sehr schmal.
  • Das Problem ist für Eltern sehr abstrakt und sie denken nur ungern über das Thema nach.
  • Generelles Misstrauen gegenüber Datensammlung und KI in der deutschen Gesellschaft. Das ist einerseits löblich, für ein Startup aber ein Riesenproblem. Wir denken, z.B. in den USA, hätten wir weit mehr Rückenwind erhalten.

Was wir gelernt haben

  • Digitaler Kinderschutz könnte funktionieren, wenn Wille und Gelder da wären
  • B2C benötigt großes Marketingbudget
  • Für B2B muss man skalieren können
  • Startups können auch verteilt und remote funktionieren
  • Team Meetings nur mit 🍣🍜🎤

Danksagungen

Vielen Dank an:

Yvonnne Gehbauer, Chiara Stickelbrock, Tim Steininger, Dieter Falzmann, Anja Reul, Stefanie Schmidt, Anneliesa Greisbach, Liane Peters, Stefanie Nuñez, Liane Peters, Julian Nalenz, HIGHEST, Sabine Remmert, Bartosz Kajdas, Kultur- und Kreativpiloten, alle Nutzer*innen, Innocence in Danger, TU Darmstadt, SRH Heidelberg, Jess Hollmeier, HEAG, Promotion Nordhessen, INFOMOTION, Mark Zimmermann, Andrée Schäfer, Familie auf Weltreise, Angel Alava-Pons und Daniela Stelzmann.

Timeline

  • Oktober 2015

    Nicolai Erbs, Mirco Zeiß und Stefan Harnisch erreichen beim Ideenwettbewerb der TU Darmstadt mit Privalino den dritten Platz.

  • März 2016

    Patrick Schneider und Nicolai Erbs treffen sich in einem Büro im Frankfurter Westend und besprechen die Gründung.

  • Mai 2016

    EXIST-Antrag wird eingereicht. Chiara Stickelbrock und Yvonne Gehbauer stoßen zum Team.

  • Oktober 2016

    Der erste Privalino Bot geht in Betrieb.

  • November 2016

    EXIST-Antrag wurde genehmigt und das Stipendium beginnt.

  • Februar 2017

    Anmeldung der Wort-Bild-Marke "Privalino".

  • März 2017

    Das Team gewinnt den zweiten Platz beim Businessplanwettbewerb promotion Nordhessen. Privalino wird bei FAZ, CeBIT und KidzTest vorgestellt.

  • April 2017

    Gründung der Kitext GmbH.

  • Mai 2017

    Stefanie Nuñez und Anneliesa Gresibach stoßen zum Team.

  • Oktober 2017

    EXIST-Stipendium endet. Max Schumacher stößt zum Team.

  • Dezember 2017

    Das Team wird mit dem Preis Kultur- und Kreativpiloten geehrt.

  • Januar 2018

    INFOMOTION GmbH steigt als Investor bei der Kitext GmbH ein.

  • März 2018

    Liane Peters stößt zum Team.

  • Mai 2018

    Kitext wird ausgezeichnet als Ausgezeichnerter Ort im Land der Ideen und erscheint bei Spiegel TV im ARD.

  • Juni 2018

    Julian Nalenz stößt zum Team.

  • August 2018

    Privalino erreicht 1000 Likes bei Facebook und schafft es im Segment "Sicherheit" unter die Top 25 bei den Accenture Innovation Awards.

  • September 2018

    Privalino mit dabei beim Preisträgerempfang von Deutschland - Land der Ideen.

  • Oktober 2018

    Moritz Kaiser stößt zum Team. Der Privalino-Messenger wird bei Die Höhle der Löwen vorgestellt. Pitch bei Creative Business Cup.

  • Dezember 2018

    Gizem-Cennet Özer stößt zum Team. WhatsSafe geht in die Beta-Phase und wird zusammen mit Privalino auf der Lokolino Messe vorgestellt. In der ARD-Doku Kinderfotos im Netz stellen Patrick und Nicolai Privalino vor.

  • Januar 2019

    Privalino wird in der FAZ vorgestellt.

  • Januar 2019

    Privalino Messenger App wird eingestellt. WhatsSafe geht live und erhält erste zahlende Kunden.

  • April 2019

    WhatsSafe wird im HR1, der FAZ und bei Chip vorgestellt.

  • Mai 2019

    Vortrag bei der DGfPI.

  • September 2019

    WhatsSafe und Privalino werden eingestellt.

Team

Patrick Schneider

Als Gründer hat Patrick Schneider nach seinem Masterabschluss in Kognitions- und Medienwissenschaften das Projekt seit 2016 vorangetrieben. Zu seinen Aufgaben als Geschäftsführer gehörten Marketing, Produktmanagement, Finanzen und Strategie. Neben der Führung des remote operierenden Teams konnte Patrick die Marke Privalino durch Auftritte in TV, Radio, Print und auf Podiumsdiskussionen in der Kinderschutzszene etablieren.

Max Schumacher

Max hat seine Expertise im maschinellen Lernen für die Privalino KI genutzt. Er untersuchte, entwickelte und integrierte Deep-Learning-Modelle zur Erkennung von Cybergrooming und Cybermobbing. Außerdem hat er von Webdesign bis Full Stack Entwicklung alles technische geleitet und unterstützte das Projekt rundherum mit seiner internationalen Startup-Erfahrung.

Gizem-Cennet Özer

Gizem hat neben ihrem Bachelorstudium an der Universität Duisburg-Essen als Werkstudentin die Social Media-Seiten von Privalino und WhatsSafe geführt. Neben Social Media- und Influencer-Marketing war sie auch für die Kundenakquise zuständig. Sie war außerdem für die Entwicklung des WhatsSafe-Werbevideos verantwortlich und hat an Blog-Artikeln für die WhatsSafe-Webseite gearbeitet.

Moritz Kaiser

Moritz hat während seinem Masterstudium an der Universität Duisburg-Essen mit seinem Fachwissen in der JavaScript-Programmierung am WhatsSafe Dashboard gearbeitet. Zu seinen Aufgaben gehörte das Redesign des Dashboards und die Entwicklung und Implementierung des Whitelist Features. Seine Schwerpunkte liegen in der Webentwicklung und der künstlichen Intelligenz.

Nicolai Erbs

Nicolai Erbs war der Ideengeber für Privalino. Nach seiner Promotion an der TU Darmstadt hat er zusammen mit Patrick Schneider das Unternehmen gegründet und war in den Jahren 2016 und 2017 mit der technischen Leitung betraut. Zur Zeit ist er bei der INFOMOTION GmbH beschäftigt.

Kolja Lubitz

Kolja hat Telegram für Android und iOS mit der Privalino KI verbunden. Für das sichere Chatten wurde neben dem Schutz für die Kinder durch Privalinos Textanalyse auch das Senden und Empfangen von Bildern, Videos und Sprachnachrichten unterbunden. Des Weiteren hat Kolja der Geschäftsführung beratend zur Seite gestanden.

Liane Peters

Neben ihrem Bachelorstudium an der Universität Duisburg-Essen war Liane in Privalinos Marketing-Abteilung als Werkstudentin tätig. Ihre Hauptaufgaben bei Privalino siedelten sich im Social Media Management und der Kundenakquise an. Zu ihren Aufgaben gehörten unter anderem die eigenverantwortliche Betreuung unseres TV-Auftritts bei ‘Höhle der Löwen’ auf unseren Social Media-Kanälen.

Anneliesa "Emma" Greisbach

Emma hat 2017 neben ihrem Studium an der Hochschule Düsseldorf an der Anfertigung des Whitepapers und der Erstellung einer Checklist für ein Privalino-Sicherheitszertifikat gearbeitet. Zudem hat sie Blogbeiträge für die Privalino-Webseite verfasst.

Stefanie Nuñez

Stefanie hat durch ihr betriebswirtschaftliches Studium mit Schwerpunkt Marketing und Vertrieb Privalino bei der Akquise von neuen Kooperationspartnern unterstützt. Sie war außerdem für Recherchetätigkeiten zuständig und untertzützte Privalino im Bereich Social Media Marketing.

Yvonne Gehbauer

Yvonne Gehbauer ist 22 Jahre alt und hat 2019 ihren Bachelor an der Universität Duisburg Essen in angewandten Kognitions- und Medienwissenschaften abgeschlossen. 2017 war sie bei Privalino für die Datensammlung zuständig, welche für die Entwicklung des Algorithmus benötigt wurde. Derzeit studiert sie im Master des gleichen Faches und arbeitet als Werkstudentin bei der ECKD Kigst GmbH als Softwaretesterin.

Chiara Stickelbrock

Chiara Stickelbrock hat 2017 bei Privalino an der Datensammlung für den Algorithmus gearbeitet. Sie studierte an der Universität Duisburg-Essen Kognitions- und Medienwissenschaft.

Julian Nalenz

Julian Nalenz legte den Grundstein für das WhatsSafe Backend und half beim Aufbau des Elterndashboards.

Kontakt

Für Fragen, Feedback oder Anfragen könnt ihr uns jederzeit erreichen unter:

team@whatssafe.de