Навіть Facebook не розуміє алгоритмів Facebook
Після всього віджимання рук, яке відбулося завдяки видовищу «фейкові новини», завдяки люб’язній стрічці новин Facebook - вмісту, який ви бачите, коли входите у Facebook зі свого телефону чи ноутбука - одне стало надзвичайно зрозумілим. Навіть Facebook не розуміє Facebook.
І в цьому проблема покладання на алгоритмічний штучний інтелект (ШІ), який протягом багатьох років будували (або, точніше, складали), сотні різних розробників та програмістів.
Це все стало мені зрозуміло за останні кілька днів, коли я розмірковував про те, що дізнався на останній конференції HealtheVoices 2017, і після прочитання чудової статті про Facebook від Фархада Манджу в Журнал New York Times.
На конференції представник Facebook зіткнувся з дещо розчарованим (а часом і майже ворожим) запитанням щодо того, чому матеріали, які вони писали як медичні активісти та адвокати, здавалося, рідко з’являються на стрічках новин інших людей у Facebook. Єдиний спосіб, як здавалося, отримати заручини, зауважили люди в аудиторії того дня, - придбати його через Facebook (за допомогою платного механізму, відомого як "підсилення" публікації).
Представник Facebook не міг дати відповіді на ці запитання про те, чому, здавалося б, якісний якісний вміст не демонструється в їхній стрічці новин. Проте кожен учасник, з яким я розмовляв - пристрасний, заангажований захисник охорони здоров’я - розглядав це як проблему з Facebook. Але навіть Facebook не міг пояснити, як це виправити.
Це не дивно. Стаття журналу Times пролила світло на те, чому. Алгоритм подачі новин Facebook сортує, хоча, в середньому, 2000 частин можливого вмісту кожного разу, коли людина завантажує Facebook вперше та під час кожного оновлення.
Існує стільки змінних, які потрапляють у цей складний, темний і запатентований алгоритм сортування, що навіть Facebook не може відповісти, чому щось буде чи ні відображатиметься в чиїсь стрічці новин. Це майже однаковий біль, який веб-майстри давно відчувають у спілкуванні з Google та їх алгоритмом індексації пошуку.
Той факт, що алгоритм можна легко обійти, просто придбавши доступ до стрічки новин людей, не є несподіванкою. Це велика частина причини, через яку Facebook заробляє стільки грошей з року в рік. Навіть найніжча якість вмісту може придбати шлях до вашої нібито персоналізованої стрічки новин.
Стрічка новин: робота ще триває
Можна подумати, що через стільки років напруженої роботи, уваги, робочого часу розробників та досліджень цього алгоритму це мало б зрозуміти деякі основні речі. Але два нещодавні анекдоти показують мені, наскільки ще потрібно прославленому ШІ від Facebook.
Перший - це концертний мем, який взяв стрічку новин Facebook наприкінці квітня 2017 року. У цьому конкретному мемі учасники перелічують 10 концертів, які вони відвідували за життя, але один з них є фальшивим. Друзі людини мають визначити фальшивий концерт, який вони не відвідували, і прокоментувати його.
Моя початкова думка, коли я вперше побачив це спливаюче вікно, була: "Хто дбає?" бо, чесно кажучи, мені все одно, на яких концертах були мої друзі. Якби я займався фактичною розмовою зі своїми друзями на тему "концерти, які ми бачили", це могло б бути круто. Але як засіб для бесіди, я знайшов це нечутливим, оскільки він не зовсім синій - соціально пов’язаний з нічого. Тож я натиснув «Сховати цю публікацію» з першої, яку побачив у своїй стрічці новин.
Чи допомогло це зупинити надходження цього вмісту на мою стрічку новин протягом наступних кількох днів? Жодної йоти. Я побачив не менше десятка таких запитань протягом наступних двох днів, які заповнювали мою стрічку (навіть після натискання кнопки "Сховати цю публікацію" ще принаймні ще на двох). Все це для мене мало що цікавило. Стільки про роботу ШІ у Facebook.
Другий - округ Блум. Я великий шанувальник і зрадів, коли Берклі Дихав знову почав малювати. Я з нетерпінням чекаю кожного дня, коли в його стрічці з’явиться новий його комікс. Тим не менш загадково, Facebook не знає про це. Це перестало показувати мені його комікси кілька тижнів тому, хоча я старанно натискав на більшість із них, щоб легше читати їх у збільшеному вигляді.
Як може стільки кліків призвести до тегу "не зацікавлений, перестань показувати це цьому користувачеві"? Facebook не міг відповісти на це запитання, якщо хотів, оскільки він не уявляє, як насправді працює його алгоритм подачі новин - або не працює - для окремих користувачів. Це було б смішно, якби це не була така велика справа. За даними дослідницького центру Pew, більше половини американців отримують свої новини з Facebook.
Форми зворотного зв’язку, які дають мало відгуків користувачам
Facebook заявляє, що може оцінити (і працювати над виправленням) багатьох проблем, якщо користувачі просто частіше використовували їх форми зворотного зв’язку. Але є причина, за якою користувачі ненавидять надавати зворотний зв’язок із Facebook - просто їх система зворотного зв’язку смокче.
Форми зворотного зв’язку Facebook дають користувачам дуже мало власних відгуків, а натомість цінують тих, хто веде користувачів набір запитань: "Ось як це виправити самостійно, ідіот", які, очевидно, завжди говорять про те, що більшість проблем, з якими ви стикаєтесь, належать саме вам. виправлення - не Facebook. У кінці цих форм немає людини, і жодної людської відповіді, яку ви коли-небудь отримаєте. Це саме визначення нелюдського. Іронічно для компанії, яка вважає себе "побудовою глобальної спільноти", що з'єднує всіх більш соціально. Як компанія може це зробити, уникаючи будь-яких людських контактів зі своїми користувачами? 1
ШІ настільки складний, людям потрібно допомагати
Багато розробників кажуть собі, що ШІ може в значній мірі вирішити будь-яку людську проблему, якщо йому буде надано достатньо змінних, наборів даних та налаштувань. Але те, що Facebook чітко продемонструвало, полягає в тому, що що б він не робив, щоб допомогти вирішити проблему з подачею новин, його ШІ не працює добре для багатьох, багатьох людей.
Ніхто не відчуває, що Facebook навіть слухає. Як я вже зазначав, адвокати та активісти охорони здоров'я, з якими я спілкувався на конференції, сказали, що їх не слухають. Компанії соціальних мереж, такі як Facebook, схоже, не хвилюються. І в закритій групі Facebook для видавців новин я щодня чую розчарування з приводу того, як багато поважних інформаційних організацій ставлять свої поглиблені статті про журналістські розслідування в Facebook, не платячи за підвищення. Тим часом статтєва стаття "5 дивовижних, швидких і простих способів до літнього загару" отримує більше звернень, ніж пошукові запити "Як мені виправити ..." у Google.
Прощальні кадри на сьогоднішньому ШІ
Похвальна Siri від Apple часто вважається корисним прикладом штучного інтелекту, який працює в сучасному світі. Але коли я писав цю статтю, я сказав: "Гей, Сірі, скажи Ненсі, що я її люблю".
Сірі, завдяки своїй нескінченній мудрості, правильно одержала повідомлення (на щастя, оскільки я знаю лише одну Ненсі). Але текст, який вона надіслала, був: "Я люблю її". Сірі, очевидно, не розуміла справжнього значення мого речення, і замість цього використовувала елементарні фільтри, щоб зрозуміти, що я хочу надіслати текст людині в моїх контактах із буквальним повідомленням: «Я люблю її».
Це рівень ШІ, з яким ми сьогодні працюємо у таких великих технологічних компаніях, як Facebook, Google та Apple - дещо корисний, але неприємно нерівномірний у його якості та реалізації.
Я дуже сподіваюся, що Facebook це зрозуміє, тому що з кожним днем я все менше використовую це, оскільки воно все менше стає менш актуальним для мого фактичні інтереси і щоденне життя. Я, можливо, сьогодні в меншості, але я підозрюю, що це зміниться, якщо Facebook незабаром не вирішить ці проблеми актуальності та інтересу.
Виноски:
- Це одна з причин, чому доповідачів Facebook на конференціях часто кидає стільки питань - це єдиний людський контакт, який більшість із нас коли-небудь мали з цим технологічним гігантом. [↩]
