Як бризка етика Facebook потрапила до них у біду

Ми демонструємо масовий (N = 689 003) експеримент на Facebook…

Експеримент маніпулював мірою, якою люди (N = 689 003) зазнавали емоційних проявів у своїх стрічках новин. […] Були проведені два паралельних експерименти щодо позитивних та негативних емоцій: той, в якому зменшився вплив позитивного емоційного вмісту друзів у їхній стрічці новин, і один, в якому вплив негативного емоційного вмісту в їхній стрічці новин був
зменшено.

У цих умовах, коли людина завантажувала свою стрічку новин, дописи, що містили емоційний вміст відповідної емоційної валентності, кожен емоційний допис мав від 10% до
90% шансів (на основі їх ідентифікатора користувача) бути пропущеним у їхній стрічці новин для цього конкретного перегляду.

Якщо ви брали участь у експерименті, дописи з емоційним змістом містять до 90 відсотків шансів бути пропущеними з вашої стрічки новин. У моїх і книгах більшості людей це досить маніпулятивний.

А тепер подивіться, як Крамер (він же Danger Maffin) мінімізує вплив експерименту у своєму поясненні, розміщеному на Facebook:

Що стосується методології, наше дослідження намагалось дослідити вищезазначену заяву шляхом мінімальної деприоритизації невеликого відсотка вмісту у стрічці новин (залежно від того, чи було в повідомленні емоційне слово) для групи людей (близько 0,04% користувачів, або 1 у 2500) ...

Ах, ми переходимо від "шансу до 90 відсотків" до "мінімального зменшення пріоритету невеликого відсотка вмісту". Хіба не дивно, наскільки креативно можна охарактеризувати одне і те ж дослідження двома практично суперечливими способами?

Це було суттєво чи ні?

Саме дослідження робить кілька тверджень і висновків щодо значущості та впливу їхніх знахідок (незважаючи на їх смішно малі розміри ефекту). Якось усі ці неприємні, надмірні претензії минули рецензентів журналу PNAS (які, мабуть, уже спали, коли на них наклали штампи), і їм дозволили стояти без кваліфікації.

У роз’ясненні Крамера, опублікованому в неділю, він припускає, що їхні дані і так не знайшли нічого, що мало б турбувати людей:

І наприкінці дня фактичний вплив на людей в експерименті становив мінімальну кількість для статистичного виявлення його ... 3

Що прямо суперечить твердженням, висловленим у самому дослідженні:

Ці результати свідчать про те, що емоції, висловлені друзями через соціальні мережі в Інтернеті, впливають на наші власні настрої, складаючи, наскільки нам відомо, перше експериментальне підтвердження масового емоційного зараження через соціальні мережі [...]

Повідомлення в Інтернеті впливають на наш досвід емоцій, що може вплинути на різноманітну поведінку в режимі офлайн.

Подивіться там - жодних кваліфікацій на ці заяви. Не кажучи: "О, але це насправді не вплине на емоції людини". Ні, на мій погляд, повне протиріччя з тим, що зараз стверджує один із дослідників.

Але чи було це етично?

Багато суперечок навколо цього додаткові маніпуляції з вашими стрічками новин у Facebook є етичними, і чи правильно вбудовувати глобальну форму згоди на дослідження в угоду про надання послуг веб-сайту. (Facebook вже керує тим, що ви бачите у своїй стрічці новин, за допомогою свого алгоритму.)

По-перше, давайте відкинемо аргумент «червоного оселедця», що це дослідження не є таким, як внутрішні дослідницькі компанії для юзабіліті або тестування дизайну. Таке дослідження ніколи не публікується і не робиться для вивчення наукових гіпотез про емоційну поведінку людини. Це все одно, що порівнювати яблука з апельсинами, щоб припустити, що це одне і те ж.

Як правило, дослідження, пов’язане з людьми, має бути підтверджено незалежною стороною, яка називається інституційна комісія з огляду (IRB). Вони, як правило, розміщуються в університетах і оглядають всі дослідження, що проводяться власними дослідниками університету, щоб переконатися, що вони не порушують такі речі, як закон, права людини чи людська гідність. Комерційні компанії, такі як Facebook, як правило, не мають точного еквівалента IRB. Якщо дослідження, присвячене людям, не було розглянуте IRB, чи було воно етичним чи моральним, залишається відкритим питанням.

Ось «захисник даних 4», який Крамер захищав проект дослідження, як зазначено у дослідженні:

[Дані оброблялись таким чином], що дослідники не бачили жодного тексту. Таким чином, це відповідало Політиці щодо використання даних Facebook, з якою всі користувачі погоджуються до створення облікового запису на Facebook, що є інформованою згодою на це дослідження.

Однак Кашмір Хілл припускає, що Політика використання даних Facebook була змінена через 4 місяці після проведення дослідження, щоб чітко дозволити використання даних Facebook у «дослідженнях».

Вони також, здавалося, хитрували в отриманні університетського дозволу IRB на дослідження. Раніше Хілл повідомляв, що IRB Корнелла не переглядав дослідження.5. Жоден з дослідників не виступав, щоб пояснити, чому вони, очевидно, сказали редактору PNAS, що керували ним в університетському IRB.

Кріс Чемберс, британський гуадіан, пропонує короткий виклад сумної ситуації:

Така ситуація, відверто кажучи, смішна. У якій версії 2014 року для журналів, університетів та науковців прийнятно пропонувати ласкаві слова та затуманювати текст у відповідь на прості запитання щодо етики досліджень? Як прийнятно, щоб комітет з етики вирішив, що ті самі автори, які допомагали Facebook у розробці інтервенційного дослідження з метою зміни емоційного стану понад 600 000 людей, якимось чином "не брали безпосередньої участі в людських дослідженнях"?

Холод на торті: Невибачення

Крамер не вибачився за те, що проводив дослідження без інформованої згоди користувача. Натомість він вибачився за те, як він писав дослідження:

Я розумію, чому деякі люди з цього приводу занепокоєні, і ми з моїми співавторами дуже шкодуємо за те, як у статті описано дослідження, і за будь-яке занепокоєння, яке воно викликало.

Люди засмучені тим, що ви проводили дослідження, вони засмучені тим, що ви проводили дослідження на них без їх відома чи згоди. І вибачте, Facebook, але поховання “згоди” у тисячах слів легального мамбо-джамбо може захистити вас законно, але не захистить від здорового глузду. Або реакції людей, коли вони дізнаються, що ви використовуєте їх, як морських свинок.

Люди просто хочуть вагомого способу відмовитись від проведення ваших експериментів над ними та їхніх стрічок новин без їх відома чи згоди.

Facebook сьогодні цього не пропонує. Але я підозрюю, що якщо Facebook хоче продовжувати проводити подібні дослідження, вони незабаром запропонують цю опцію своїм користувачам.

Тематичне дослідження етики на всі часи

Ця ситуація є прекрасним прикладом того, як не проводити дослідження даних ваших користувачів без явної згоди з боку них. Її будуть викладати на уроках етики впродовж багатьох років, а можливо, і десятиліть.

Він також буде виступати як приклад того, чого не можна робити як соціальну мережу, якщо ви хочете, щоб ваші користувачі залишались довіреними.

Facebook повинен висловити всім користувачам щирі вибачення за проведення такого роду досліджень на них без їхнього явного відома та дозволу. Вони також повинні змінити свої вимоги до внутрішніх досліджень, щоб усі дослідження, проведені на їхніх користувачах, проходили через зовнішню, університетську IRB.

Подальше читання

Фіаско Facebook: чи було дослідження Корнелла щодо "емоційного зараження" порушенням етики?

Facebook додав «Дослідження» до угоди користувача через 4 місяці після дослідження маніпуляції емоціями

Довідково

Крамер, ADI, Гіллорі, JE, Хенкок, JT. (2014). Експериментальні докази масового емоційного зараження через соціальні мережі. PNAS. www.pnas.org/cgi/doi/10.1073/pnas.1320040111

Виноски:

1. Що вони вже сказали нам у дослідженні: "Перевірка того, чи є публікації з емоційним змістом більш привабливими". [↩]
2. Facebook, здається, менш пов’язаний з моїм реальним життям, оскільки, здається, мій власний канал новин здебільшого перейшов від дописів про життя людей до „посилань, які мені здаються цікавими”, хоча я ніколи не натискаю на ці посилання! [↩]
3. Який спосіб дослідницько-білок говорить: «Наш експеримент насправді не знайшов жодного примітного ефекту. Але ми збираємось розтрубити результати так, ніби ми це зробили (оскільки насправді ми знайшли журнал PNAS, достатньо для виходу!) ". [↩]
4. Я використовую цитати навколо цього заголовку, тому що всі дослідники та вчені є вченими даних - ось що відрізняє дослідника від казкаря. [↩]
5. Насправді вони зазначають, що Хенкок, названий автором статті, мав доступ лише до результатів - навіть не до фактичних даних! [↩]