Die Herausforderung
Yubo musste die Sicherheit seiner Nutzer durch die Moderation von Inhalten – hauptsächlich Texte, Bilder und Live-Streams (auch als „Lives“ bezeichnet) – sicherstellen. „Unsere Mission ist es, Menschen miteinander zu verbinden und ihnen zu ermöglichen, mit Menschen, die sie nicht kennen, in Echtzeit zu interagieren“, erklärt Arthur Patora, Yubo-Mitbegründer und CTO. „Um diese Aufgabe zu erfüllen, müssen wir die App so sicher wie möglich gestalten. Alles, was wir tun, ist darauf ausgerichtet, unsere Nutzer zu unterstützen.“
Zu diesem Zweck hat Yubo unzählig viele In-App-Funktionen entwickelt, die es den Nutzern ermöglichen, ihre eigenen Profile und „Lives“ zu moderieren. Für alles andere setzte das Team auf KI.
Yubo nutzt KI vor allem für die Gesichtserkennung, die ID-Überprüfung und die Textanalyse. Als die App wuchs, entwickelte sich auch die Sprache der Nutzer – und begann, ein Eigenleben zu entwickeln. „Am Anfang haben wir eine API eines Drittanbieters verwendet, die aber nicht alle unsere Anforderungen erfüllte“, erläutert Patora. „Wir hatten zu viele Algorithmus-Änderungsanfragen pro Iteration, und die meisten unserer Inhalte sind kurz – etwas, das die Textmoderations-Tools nicht erkennen können, da sie hauptsächlich auf Artikel trainiert sind.“