OpenAI plant, seinen GPT-4 LLM zur Inhaltsmoderation zu testen, um digitale Plattformen zu unterstützen, die häufig mit benutzergenerierten Inhalten arbeiten.
OpenAI sagt, dass jeder mit einem GPT-4-Plugin damit beginnen kann, es zur Inhaltsmoderation zu testen, da es skalierbar, konsistent und leicht anpassbar ist. Das Modell kann schnell an die neuen Richtlinien der Regierungen angepasst und sogar an plattformspezifische Regeln angepasst werden.
Unterstützung für Social-Media-Plattformen
Lange Zeit war die Inhaltsmoderation der störendste Aspekt des Internets, da manche benutzergenerierten Inhalte für die Öffentlichkeit anstößig sind. Obwohl die jeweiligen Plattformen – vor allem soziale Medien – ihr Bestes tun, um sie zu entfernen, reicht dies nicht aus.
Und das Schlimmste, Sie erniedrigt ständig das Leben der von ihnen ernannten menschlichen Moderatoren, die unter Traumata und Depressionen leiden. Ein Beispiel: Meta zahlte im Jahr 2020 11.000 menschlichen Moderatoren jeweils 1.000 US-Dollar als Entschädigung für psychische Probleme, die durch die Moderation von Inhalten auf Facebook entstanden waren.
Und das gilt nicht nur für Meta, sondern auch für andere Social-Media-Plattformen. Obwohl einige Plattformen KI-Tools zur Moderation von Inhalten verwenden, sind diese bei weitem nicht perfekt. Daher OpenAI wirbt nun mit seinem GPT-4 LLM für eine lohnende Möglichkeit, Inhalte mit KI-Funktionen zu moderieren.
In einem Blogbeitrag sagte OpenAI, dass sein großes multimodales GPT-4-Modell verwendet werden kann. „Darüber hinaus kann das LLM verwendet werden, um Verfahren effektiv zu entwickeln und zu optimieren.“
Das Unternehmen behauptet sogar, dass GPT-4 verschiedene Vorschriften und Inhaltsrichtlinien verstehen kann, um sich anzupassen und sofort entsprechend zu handelnsagen Lilian Weng, Vik Goel und Andrea Vallone von OpenAI.
Jeder mit GPT-4 API-Zugriff kann es verwenden, um sein KI-gestütztes Moderationssystem zu erstellen. sagt OpenAI, das außerdem behauptet, den Arbeitsaufwand der Unternehmen in diesem Bereich von sechs Monaten auf nur einen Tag zu reduzieren! Obwohl OpenAI mit seiner KI-Kompetenz prahlt, möchte das Unternehmen dennoch, dass Menschen beteiligt sind.
Da KI immer noch unvorhersehbar ist, sind alle Urteile, die diese Werkzeuge fällen, anfällig für unerwünschte Verzerrungen. Daher müssen Menschen Überwachen Sie die Technologie sorgfältig, validieren Sie sie und basteln Sie bei Bedarf daran herum.
