Секретні документи: Facebook, здається, ставить функції та прибуток вище безпеки користувачів

Facebook, 13-річний бегемот з 1,23 мільярда активних користувачів, приносить понад 8 мільярдів доларів на квартал доходу - 3 мільярди доларів - це чистий прибуток (наприклад, прибуток).

Але, маючи стільки користувачів, Facebook, здається, перевів безпеку користувачів на другорядне місце. До початку цього року у Facebook працювало лише 4500 людей для перегляду вмісту. Що звучить як багато людей, поки ви не зрозумієте, що ці 1,23 мільярда активних користувачів мають спільний доступ мільярди штук вмісту щодня, кожен день подаються мільйони скарг користувачів на вміст Facebook.

Чи є у Facebook серйозна проблема безпеки користувачів? Щойно опублікований Опікун Перегляд секретних внутрішніх документів свідчить про те, що проблема вийшла з-під контролю.

Facebook визнав, що має певні проблеми, коли на початку цього року він погодився майже вдвічі збільшити кількість своїх оглядачів - до 7500 - на тлі заяв про те, що компанія просто не робить (або, можливо, турбується?), Коли через її платформу здійснюється торгівля потенційно шкідливим вмістом . Ви не подвоюєте свого модеруючого персоналу, якщо все химерно.

Зараз, Опікун (Великобританія) опублікував вражаючі подробиці керівних принципів модерації вмісту Facebook, вибраних із понад 100 секретних, внутрішніх навчальних посібників та документації. Трохи заважає, що все це важливе не є в жодному посібнику, наданому модераторам Facebook, коли їх наймають.Натомість, це дуже схоже на поодинокий підхід до політики, що призводить до того, що видається суперечливою інформацією, нерівномірною модерацією та дуже малою надійністю того, як її політика модерації насправді працює в реальному світі.

"Facebook не може контролювати свій вміст", - заявило одне джерело. "Він виріс занадто великий, занадто швидко".

Кажуть, що багато модератори стурбовані непослідовністю та особливим характером деяких політик. Наприклад, особи, що стосуються сексуального змісту, є найбільш складними та заплутаними.

Як лише один крихітний приклад того, скільки вмісту Facebook модерує, зазначається в статтях: "В одному документі говориться, що Facebook щотижня переглядає понад 6,5 мільйона звітів, що стосуються потенційно підроблених акаунтів - відомих як FNRP (фейкові, а не реальні особи)". І це лише для підроблених акаунтів. Уявіть, скільки ще мільйонів звітів для фактичного вмісту.

Особливості до думки

Перш ніж замислюватися про те, як люди можуть використовувати (і зловживати) новою функцією, Facebook, схоже, віддає перевагу розгортанню матеріалів і з'ясуванню, як модерувати це як додаткову думку. Подивіться на Facebook Live, послугу потокового відео, яка дозволяє людям робити відеозаписи того, що відбувається в їхньому житті на даний момент. Для чого вони думали, що люди врешті використають це?

"Одночасно функція трансляції в прямому ефірі Facebook використовувалася для трансляції вбивств та самогубств, і компанія, мабуть, не могла попереджено закрити потоки". Дух! Більшість компаній, напевно, подумають, перш ніж запускати щось подібне: "Гей, нам потрібен спосіб негайно повідомити про такі проблемні відео та перервати їх". Мабуть, не Facebook.

Це свідчить про постійну відсутність продумування проблем та активного вирішення їх до їх виникнення. Або помилившись на стороні: "Гей, давайте поговоримо з цим і подивимось, який резонанс це викликає, перш ніж ми з цим щось зробимо". (Звичайно, все в ім’я „свободи слова“, ігноруючи той факт, що Facebook є глобальною платформою.) 1

Куди я знову поклав цю інструкцію щодо модерації?

Захист вашої спільноти починається з найму достатньої кількості модераторів, щоб зробити їх роботу приємною та не переважною. Очевидно, Facebook не змогла цього зробити, насолоджуючись своїм рекордним зростанням користувачів, доходами та прибутками. Але це також включає в себе уповноважене керівництво громади, яке забезпечує все, що їм потрібно, щоб робити свою роботу, в одному місці. Facebook, лише зараз, очевидно, глибше замислюється над необхідністю вдосконалення інструментів, за словами їхнього представника: "Окрім того, що ми інвестуємо в більшу кількість людей, ми також створюємо кращі інструменти для захисту нашої спільноти", - сказала вона The Guardian. "Ми зробимо простішим повідомлення нам про проблеми, швидше для наших рецензентів визначити, які публікації порушують наші стандарти, і простіше їм зв’язатися з правоохоронними органами, якщо комусь потрібна допомога".

А може, покласти їх усіх в єдиний посібник? Тож модератори знають, де шукати, і щоб усі рекомендації були послідовними?

Відео, присвячене самопошкодженню, є прекрасним у світі Facebook, оскільки людина "переживає лихо". Так само як і жорстоке поводження з тваринами (може, тому, що тварина переживає лихо?). «Помста-порно» - це теж нормально, якщо модератор не може підтвердити відсутність згоди обох сторін (що, на мою думку, може бути досить складно зробити своєчасно).

"Деякі фотографії несексуального фізичного насильства та знущань над дітьми не потрібно видаляти або" вживати заходів ", якщо немає садистичного або святкового елемента". Поки ви тримаєте садизм та святкування поза своїми жорстокими образами та відео, очевидно, Facebook дозволить їх.

Згідно з документами, «Відео насильницької смерті викликає занепокоєння, але може допомогти підвищити обізнаність. Що стосується відео, ми вважаємо, що неповнолітні потребують захисту, а дорослі - вибір. Ми позначаємо як "тривожні" відео насильницької смерті людей ". Незрозуміло, куди суїцидальний вміст - наприклад, відео в реальному часі чи загрози - потрапляє в політику модерації Facebook, але, схоже, це дозволено.

Facebook повинен визначити пріоритет безпеки користувачів

Деякі закликають до жорсткішого регулювання Facebook, оскільки він є воротарем усього цього контенту (подібно до того, як телевізійний мовник є воротарем контенту у своїй мережі):

У звіті британських депутатів, опублікованому 1 травня, зазначається, що "найбільші та найбагатші компанії в соціальних мережах ганебно далекі від того, щоб вжити достатніх заходів для боротьби з незаконним або небезпечним контентом, впровадити належні стандарти спільноти або захистити своїх користувачів".

Помилка на стороні “свободи слова” може здатися гарною ідеєю, особливо для американської компанії. Але соціальні мережі - це в першу чергу інтернет-спільноти - вони не дуже схожі на газети. Основна мета Facebook - зв’язати людей між собою. Звідси випливає, що їхні керівні принципи будуть більше відображати цю різноманітність і розроблені для безпеки цієї спільноти, а не якихось мантр, що публікують новини, або порожньої ідеології.

Ми хотіли б, щоб Facebook був більш прозорим щодо способів модерування мільйонів людей та вмісту щодня. Пролиття більшого світла на ці проблеми допомагає вказувати на проблеми та надає Facebook можливість покращити безпеку своєї спільноти. І ми хотіли б бачити, як Facebook залучає набагато більше свого доходу, щоб забезпечити достатній персонал для захисту своєї платформи. Для всіх користувачів.

Для подальшої інформації

Виноски:

1. О, і зауважте, що якщо у вас на 100 000 більше підписників у Facebook, це на їх погляд робить вас «публічною особою» - і не підпадає під конфіденційність чи інші заходи захисту звичайних людей. [↩]