הדימוי הישן על פורנוגרפיה הוא שאתה יודע את זה כשאתה רואה את זה. פייסבוק (FB) מהמר כי לא רק שזה יודע את זה, אבל זה ברשת החברתית יוכל לאמן את המחשבים שלה לעשות את אותו הדבר.

ביום שישי הודיעה החברה על מדיניות פרסום חדשה לדפים שעלולים להיות שנויים במחלוקת, אומרת שזה יהיה לאסור את המודעות מדפים או קבוצות המכילים תכנים אלימים, גרפיקה, או מיניים. החברה מגיבה לדש בחודש שעבר שבו התחילו למשוך מותגי פרסום כשגילו שהוא מופיע בסמוך לדפים עם תוכן גס, סקסיסטי. בצעד שאינו קשור, גוגל  אמרה שבקרוב תהיה לאסור משתמשים בשירות Blogger שלה מביצוע מודעות לעסקים מבוגרים.

נושאים אלו הפכו מגרים רגילים לחברות אינטרנט שאתריהם מלאה של תוכן גולש. שופט משחק הוא לא תפקיד נוח. לא רק חברות שעומדות בפני הבחירה של להיות או להופיע חסוד או אינה רגיש מספיק לצדדים פגועים, זה פשוט קשה לפקח מיליוני חתיכות של תוכן כדי לקבוע אם כל אחד מהם פוגע קצת שיקול דעת זה או אחר. פסק הדין של פייסבוק כבר בסימן השאלה בעבר, עם חברת מחיקת תמונות של גברים הומוסקסואלים מתנשקים בעת נותן עמודים מלאים של בדיחות אונס להישאר באתר. והתפקיד של בדיקת תוכן שעלול להיות פוגעני על מדיה החברתית הוא עבודה בשכר נמוכה וצלם אנוש.

הפעם, פייסבוק הוא מקווה להשתמש בתקופה קצרה של ביקורת מבוססת אדם לפני העברת העבודה למחשבים, החברה הסבירה בתיאור המדיניות החדש שלה:

כדי להיות יסודי, תהליך בדיקה זה יהיה ידני בהתחלה, אבל בשבועות הקרובים אנחנו נבנה את דרך להרחבה יותר, אוטומטית כדי למנוע ו / או להסיר מודעות המופיעות לצד תוכן שנוי במחלוקת. כל זה ישפר את זיהוי של מה נחשב תוכן שנוי במחלוקת, מה שאומר שאנחנו נעשה את עבודה טובה יותר מה שהופך את המסרים פרסומיים בטוחים מופיעים עמודים וקבוצות הבאים למותג מתאים.

הרעיון של תוכניות מחשב שיכול לזהות תמונות פורנוגרפיות באמצעות ניתוח אלגוריתמי שמזהה, למשל, הרבה עור חשוף, אינו חדש. אבל האתגר של פייסבוק הולך מעבר לכך: הוא חייב לקבוע איזה תוכן ראוי במסגרתו. אפילו אנשים היו בעיות בביצוע שיחות אלה. זה יהיה מעניין לראות איך גם המחשבים של פייסבוק יכולים לעשות את זה.