Wenn es um soziale Medien geht, wissen wir alle, dass es zusätzlich zu den vielen Vorteilen, die es beim Knüpfen von Verbindungen bietet einfacher, es können auch gewisse Risiken und Gefahren bestehen, die mit der Online-Interaktion verbunden sind, insbesondere für junge Menschen. Glücklicherweise gibt es da draußen Apps, die proaktiv sind und versuchen, diese Schäden, die jungen Leuten entstehen können, durch die Implementierung geeigneter Moderationstechnologien zu begrenzen.
Yubo, die von Gen Z am häufigsten verwendete Live-Social-Discovery-App, hat ihre Live-Stream-Audiomoderation angekündigt Die Technologie expandiert in ihre größten Märkte, nämlich die Vereinigten Staaten, das Vereinigte Königreich, Australien und Kanada.
Dies geschieht nach mehreren Monaten des Testens der Funktion in einigen Gebieten der Vereinigten Staaten, als das Unternehmen lernte, wie man die Probleme angeht, die mit der Analyse von Audio in Echtzeit einhergehen.
Die Bedeutung der Moderation von Inhalten
Online-Inhalte zu moderieren ist eine schwierige Aufgabe. Wir haben das bei Facebook und Twitter und Instagram und so weiter gesehen. Zwischen Beleidigungen, hasserfüllten Kommentaren oder sogar manchmal Gewalt oder Selbstverletzung ist Moderation enorm wichtig, um diese Plattformen sicher und ihre Benutzer zu schützen. Sich hinter der vermeintlichen Anonymität zu verstecken, die das Internet bietet, hat etwas, das bei manchen Menschen das Schlimmste zum Vorschein bringen kann.
Nun, Yubo zeigt weiterhin, dass es alles tut, um dies zu verhindern, zumal seine Benutzerbasis viel jünger ist. Laut Yubo sind 99 % ihrer Nutzerbasis Gen Z im Alter von 13 bis 25 Jahren. Während Online-Belästigung für niemanden angenehm ist, kann sie für Jugendliche besonders schädlich sein.
Bild- und Videomoderationstechnologie gibt es schon seit einiger Zeit und wurde mit verschiedenen Erfolgsstadien implementiert. Audiomoderationist jedoch insbesondere bei Live-Streams eine große Herausforderung geblieben. Ob es sich um einen Live-Stream handelt, der aufgenommen wird, während man die Straße entlang geht, oder einer, in dem jemand ein Videospiel spielt, es spielt keine Rolle.
Wie die Audiomoderation von Yubo funktioniert
Ab Mai 2022 startete Yubo eine Testphase für seine Audiomoderationstechnologie in verschiedenen Gebieten in den Vereinigten Staaten. Die nächste Phase umfasst nun die meisten englischsprachigen Regionen, in denen Yubo über eine große Benutzerbasis verfügt, damit das Unternehmen einen besseren Einblick in sein neues Sicherheitstool gewinnen kann.
Obwohl noch neu, ist dies eine Technologie, die in Zukunft weit verbreitet sein könnte, um Gewalt oder Selbstverletzung zu erkennen.
Yubo tut dies nicht alleine, sondern in Partnerschaft mit Hive. Hive, falls Sie noch nichts davon gehört haben, ist ein Unternehmen, das APIs zur Inhaltsmoderation erstellt und bereitstellt, um Bilder und Videos nahezu in Echtzeit zu verarbeiten.
Die von Yubo implementierte Technologie funktioniert durch Aufnehmen und Transkribieren von 10-Sekunden-Audioschnipseln in Livestreams mit 10 oder mehr Personen. Der Text wird sofort von künstlicher Intelligenz analysiert, um Wörter oder Sätze zu erkennen, die gegen die App verstoßen Community-Richtlinien.
Warten Sie, es hört hier nicht auf. Obwohl künstliche Intelligenz bei der Erkennung solcher Dinge großartig sein kann, ist sie noch weit von dem Punkt entfernt, an dem sie zwischen tatsächlichen problematischen Verwendungen und falschen Flaggen unterscheiden kann.
False Flags können zum Beispiel im Hintergrund spielende Songs oder eine nicht böswillige spielerische Sprache sein.
Hier kommen also die Sicherheitsspezialisten von Yubo ins Spiel, die hinzugezogen werden, um die gemeldeten Vorfälle zu untersuchen. Menschen sind diejenigen, die bestimmen können, ob eine Situation eskaliert werden muss oder nicht, wenn es Maßnahmen gibt die gegen die Leute vorgegangen werden sollte, die Schimpfwörter verwenden, oder sogar wenn die Strafverfolgung eingeleitet werden muss In.
Wenn der Livestream vollkommen in Ordnung ist, werden keine Transkripte überprüft oder über ein 24-Stunden-Limit hinaus aufbewahrt, sodass alles privat bleibt; oder so privat wie ein Livestream mit über 10 Personen sein kann.
Erkennen die Algorithmen jedoch beispielsweise Gewaltdrohungen, Hassreden oder Selbstverletzungen, werden die Transkripte bis zu einem Jahr gespeichert. Dies ist natürlich eine Sicherheitsmaßnahme für das Unternehmen, falls die Strafverfolgungsbehörden die Informationen benötigen oder das Unternehmen selbst die Details für weitere interne Untersuchungen benötigt.
Yubos Chief Operating Officer, Marc-Antoine Durand, sieht die Expansion von Audio-Moderation Technologie als Schlüsselelement in der Entwicklung der Online-Sicherheit in der gesamten Branche.
„Im Bereich der Spracherkennung gibt es noch viel zu tun, aber wir sind stolz darauf, einen Weg für unsere Kollegen zu ebnen Er war der Erste, der die Audiomoderation mit Hive einführte, und trug dazu bei, dieses Tool durch diesen Test zuverlässiger und effektiver zu machen“, sagte Durand genannt.
Offensichtlich wollen soziale Plattformen kein zügelloses Mobbing, Hassreden und zu Gewalt aufstachelnde Kommentare, da dies andere Benutzer verdrängen würde. Die Implementierung einer solchen Moderationstechnologie ist ein großartiges Werkzeug, um die Sicherheit der Benutzer zu gewährleisten und auch dazu beizutragen, das Wachstum und den Erfolg von Yubo langfristig zu gewährleisten.
