בזירת מסחר, האמון הוא המוצר. אצלם הוא יוצר בפס ייצור: בוטים וכותבים בשכר הציפו את האתר בביקורות מזויפות, בדירוגים שתולים, בתמונות גנובות מפריטים ובתוכן שלעולם לא היה צריך להגיע לקונה. המסננים הישנים פספסו את זה, וצוות אנושי לא הצליח לעמוד בקצב.
זירת מסחר רצה על הביקורות והדירוגים שהלקוחות משאירים. אצלם הם היו תחת מתקפה: גורמים מתואמים ובוטים פרסמו ביקורות חמישה כוכבים מזויפות כדי לתמוך במוכרים גרועים, וביקורות כוכב אחד מזויפות כדי לקבור מתחרים ישרים. האות שהקונים הסתמכו עליו הפך בשקט לרעש.
תוכן מזיק ומטעה החמיר את המצב. תמונות גנובות של נכסים, תמונות פוגעניות או מפרות זכויות, וקישורי פישינג שהתחפשו לביקורות הגיעו לציבור עוד לפני שהמסננים הבסיסיים תפסו אותם, משכו לקוחות אל מחוץ לפלטפורמה וסיכנו את המותג בכל פעם. בדיקת מוכר או מארח חדש נמשכה ימים, מה שחנק את הצמיחה שהעסק רדף אחריה. והצוות לא הצליח לעמוד בקצב: קבוצת האמון והבטיחות שפכה את התקציב שלה על בקרה ידנית של מיליוני עסקאות ותגובות, ועדיין פיגרה אחרי צמיחת האתר.
הבדיקות האוטומטיות הישנות היו חסרות סיכוי מול מניפולציה מתוחכמת. הן תפסו את הניסיונות המגושמים ופספסו את המתואמים, שהם בדיוק אלה שעושים את הנזק.
מנוע שקורא דפוסים שאדם לא מסוגל לראות, וההכרעות החשובות נשארות אצל אנשים.
חיברנו מנוע ששוקל אלפי אותות בבת אחת, טביעת האצבע של הרשת והמכשיר, הניסוח, קצב הפרסום, ההיסטוריה של המבקר, ומסמן ביקורת מזויפת או פריט חריג בשבריר שנייה.
זיופים ותוכן מזיק בביטחון גבוה מסוננים ומוסרים אוטומטית, בערך 90% מהנפח, לפני שקונה בכלל רואה אותם. הניצול לרעה הברור כבר לא ממתין בתור אנושי.
פריטים מורכבים ומוכרים חשודים מנותבים לצוות בקרה מיומן להכרעה סופית, כך שאדם מקבל את ההחלטה הגבולית, במקום שמודל ינחש אותה תחת לחץ.
כל הכרעה אנושית נשמרת במאגר נתונים נקי ומאומת, ואנחנו משתמשים בו כדי לאמן מחדש את המנוע כך שיזהה דפוסי הונאה חדשים בעצמו בפעם הבאה שהם מופיעים.
תוכן פוגעני ומפר זכויות נבדק לפני הפרסום במקום להיות מוסר בעקבות תלונות, כך שהנזק נמנע מראש, בלי לנקות אותו בדיעבד.
מכיוון שהמנוע סופג את העומס השגרתי, המודרציה מפסיקה לגדול ביחד עם גודל האתר, והצוות האנושי מתמקד במקומות שבהם שיקול הדעת באמת חשוב.
זיופים נעצרים בכניסה, ועלות העצירה שלהם ירדה.
יותר מ-95% מהביקורות המזויפות, התמונות הגנובות ותוכן הפישינג הוסרו או נחסמו לפני שהגיעו ללקוחות, מה שהגן על המוניטין של הפלטפורמה והעלה את ציוני האמון שהקונים מסתמכים עליהם. כשהאמון התאושש, ההמרות מול מוכרים מאומתים ומדורגים כראוי עלו ב-15%.
אוטומציה של סינון התוכן ובדיקת המוכרים קיצצה את עומס הבקרה הידנית של צוות האמון והבטיחות ב-65% וחסכה נתח גדול וחוזר מתקציב האכיפה והתמיכה, מה שאפשר לצוות לעמוד בקצב של אתר צומח בלי לגדול באותו קצב לצדו.
מודרציה בדיעבד פירושה שהנזק כבר קרה. הערך כאן הוא לתפוס את הניצול לרעה לפני הפרסום, למתוח קו קשיח במקרים שבהם הביטחון גבוה, ולשלוח לאדם רק את הספק האמיתי, וההחלטה שלו חוזרת ומלמדת את המודל. זה אותו עיקרון של אדם-על-המקרים-הקשים שעומד מאחורי עבודת זיהוי ההונאה שלנו, רק שכאן הוא מכוון לתוכן ולמוניטין ולא לעסקאות.
צ'אט רעיל הבריח שחקנים מפלטפורמת גיימינג בזמן שהרגולטורים חגו מסביב. מודרציה מודעת-הקשר ביותר מ-30 שפות הבחינה בין קנטור להתעללות, קיצצה רעילות 45%, העלתה שימור שחקנים חדשים 20%, והורידה חסימות שווא 75%.
לפרויקט המלא ← דירוג אשראי · חקלאותאישור אשראי חקלאי חייב שליחת סוקר לשבועות. ראייה ממוחשבת על תצלומי לוויין דירגה בריאות יבול וביטחונות, והביאה את החברה מעשרות בקשות בשבוע ל-25,000 חוות ביום וקיצצה עלות חיתום בלמעלה מ-70%.
לפרויקט המלא ←
Reef TRH