הטרדה והתעללות בצ׳אט הבריחו שחקנים חדשים ומשלמים, והמסננים הישנים רק החמירו את זה: הם חסמו מילים רגילות ופספסו את הרעילות האמיתית. במקביל רגולטורים באירופה ובארה״ב איימו בקנסות על הגנת ילדים. הפלטפורמה הייתה חשופה משני הכיוונים.
במשחק, רעילות אינה מטרד, היא נטישה. תוקפנות, גזענות ובריונות בחדרי הצ׳אט הבריחו בדיוק את השחקנים החדשים והמשלמים שהפלטפורמה הייתה צריכה, כי הם לא הרגישו בטוחים מספיק כדי להישאר.
הכלים שנועדו לעצור את זה היו קהים. הם חסמו לפי מילות מפתח, אז פספסו התעללות מוסווית ואת הסלנג המהיר של תרבות הגיימרים, בזמן שסימנו ביטויים רגילים לחלוטין כהפרות. שחקנים הגונים הושתקו על לא עוול בכפם, וזה הכעיס אותם בדיוק כמו הרעילות עצמה.
והלחץ המשפטי היה אמיתי. רגולציה של הגנת ילדים ובטיחות מקוונת התהדקה ברחבי אירופה וארה״ב, ודרשה אכיפה קפדנית ודיווח מהיר, והחברה התקשתה לעמוד בכללים שהשתנו ממדינה למדינה. הרישיונות שלה היו בסיכון.
מנוע שפה שקורא הקשר ותרבות, אכיפה שמתאימה לעבירה, וכללים שהולכים לפי החוק.
בנינו מנוע שפה שאומן על סלנג קהילתי ודיבור גיימרים על פני יותר מ-30 שפות ודיאלקטים. הוא קורא את המשפט כולו ואת ההקשר שלו, כך שהוא יכול להבחין בין קללות תחרותיות של המשחק לבין הטרדה אמיתית.
האכיפה מסלימה בזמן אמת: אזהרה אוטומטית, השתקה זמנית, או סימון לסקירה אנושית מהירה, כך שמעידה ראשונה מטופלת אחרת מהתעללות מתמשכת, ושאר החדר בכלל לא מרגיש בזה.
מכיוון שהמודל מבין כוונה, הוא הפסיק להעניש דיבור לגיטימי וביטויים מקומיים שמסנני מילות המפתח הישנים חסמו בטעות, מה ששמר על הזרימה והחופש ששחקנים הוגנים מצפים להם.
כללי הסינון משתנים דינמית עם האזור של השחקן, כך שהפלטפורמה עומדת בחוק הגנת הילדים והבטיחות המקוונת של כל מדינה במדויק, במקום להחיל מדיניות גלובלית אחת קהה.
המנוע מכסה גם צ׳אט קולי וגם טקסטואלי, כך שההתעללות לא יכולה פשוט לעבור לערוץ שאינו מנוטר.
מקרים מורכבים או גבוליים מנותבים למודרטור אנושי כשהרגע הפוגע מסומן, כך שההכרעות הקשות נשארות בידי אדם, ומתקבלות מהר.
השחקנים הרעילים עזבו, וההגונים נשארו.
דיווחים על שפה רעילה והטרדה בחדרי הצ׳אט ירדו ב-45%, ושימור שחקנים חדשים עלה ב-20%, כי האנשים שהפלטפורמה הכי רצתה לשמור סוף סוף הרגישו בטוחים מספיק כדי להישאר.
חסימות שגויות והתראות סרק ירדו ב-75%, ושמרו על הזרימה והחופש ששחקנים הוגנים מצפים להם, והפלטפורמה הגיעה לציות מלא לרגולציית הגנת הילדים והבטיחות המקוונת המקומית, והסירה את איום הקנסות וההשבתות.
החלק הקשה בבטיחות קהילה הוא לא לתפוס גידופים, אלא להבחין בין התלוצצות להתעללות, על פני שפות ותרבויות, בלי להשתיק את האנשים שאתם מנסים להגן עליהם. זה דורש מודל שקורא הקשר, אכיפה שמתאימה לעבירה, וכללים שהולכים לפי החוק המקומי. זו אותה משמעת של אמון ובטיחות שמאחורי העבודה שלנו על אמינות המרקטפלייס, מכווננת לצ׳אט חי במקום לביקורות.
אישור אשראי חקלאי דרש לשלוח סוקר למשך שבועות. ראייה ממוחשבת על תצלומי לוויין דירגה בריאות יבול ובטחונות, והביאה את החברה מעשרות בקשות בשבוע ל-25,000 חוות ביום וחתכה את עלות החיתום ביותר מ-70%.
לפרויקט המלא ← אמון ובטיחות · מסחר אלקטרוניבוטים ושחקנים בתשלום הציפו מרקטפלייס בביקורות מזויפות ותוכן מזיק. מנוע אנומליות בתוספת סקירה אנושית חסם 95%+ לפני שהקונים ראו, חתך את עלות המודרציה בחדות, ובנה מחדש אמון.
לפרויקט המלא ←
Reef TRH