Die Sicherheitssoftware gleicht die Konversation mit einem Archiv von Chatprotokollen ab, bei denen es im Anschluss zu sexuellen Übergriffen gekommen sei. Dabei wird insbesondere nach Schlüsselbegriffen, die auf kriminelle Absichten hindeuten, gesucht. Stellt die Software fest, dass sich aktuell ein ähnliches Gespräch entwickelt, wird ein Facebook Mitarbeiter hierüber informiert.
Doch auch andere Kriterien spielen eine Rolle: das Alter der Chatteilnehmer und ihre virtuelle Verbindung. Besonders Chatgespräche zwischen Personen, die erst seit kurzem befreundet sind und keine gemeinsamen Freunde haben, können betroffen sein. Facebook vermutet dann, dass diese Personen sich in Realität nicht kennen.
Kommt der Algorithmus zu dem Ergebnis, dass eine Sexualstraftat bevorstehen könnte, entscheidet ein Facebook Mitarbeiter, ob die Hinweise an die zuständigen Strafverfolgungsbehörden weitergegeben werden. Dieses Vorgehen scheint bereits erste Erfolge zu zeigen. So konnte in Florida in einem Fall verhindert werden, dass sich ein Mann mit einem 13-jährigen Mädchen verabredet, mit dem er vorher auf Facebook über Sex gechattet hatte. Der Mann wurde daraufhin verhaftet und sein PC beschlagnahmt.
Auf Anfrage der Süddeutschen Zeitung teilte Facebook mit, dass auch in Deutschland Chats überwacht werden. Es ist natürlich sinnvoll und wichtig, dass bevorstehende Sexualstraftaten verhindert werden. Dennoch zweifeln viele Nutzer daran, dass Facebook die private Kommunikation wirklich nur zu diesem Zweck überwacht. Ob und in welchem Umfang Facebook tatsächlich private Nachrichten zwischen den Nutzern überwacht kann niemand nachvollziehen.
