Суспільство 2019-10-06 10:56 Баловсяк Надія
  ▪  

«Гомо рейтингус»

Як цифрові сліди знищують рівність у Всесвітній павутині

Цифрова активність користувачів інтернету дає змогу сформувати для кожного так званий соціальний рейтинг. На основі його можна не лише рекомендувати товари й показувати рекламу, а й установлювати персоналізовані обмеження.
У серпні стало відомо, що студента Гарварду Ісмаїла Аджаві депортували зі США. Причиною такого рішення американських служб стали записи його друзів. Вони «висловлювали погляди, які не підтримують політику США». По прибутті хлопця до Штатів його попросили розблокувати ноутбук і телефон, ретельно вивчили його вміст та акаунти в соцмережах, після чого ухвалили рішення про депортацію. Аналогічна історія мала місце й щодо іншого студента, причиною депортації для якого стали коментарі друзів у груповому чаті в WhatsApp. 


Ці історії не лише про те, як американські митники використовують своє право переглядати діяльність у соціальних мережах осіб, які перетинають кордон. А й про те, як цифрові сліди — сукупність даних, пов’язаних із активністю користувача в інтернеті — впливають на наше з вами життя. Навіть більше: усе частіше й бізнеси, й офіційні структури послуговуються цими даними для ухвалення своїх рішень. Нагадує один із епізодів «Чорного дзеркала», чи не так? Проте утопія про масове оцінювання, показана в епізоді «Nosedive» цього відомого серіалу, поступово стає реальністю нашого повсякденного життя. Звичайно, нам іще далеко до обмежень громадянських прав та свобод на основі таких оцінювань, однак обмеження щодо використан­ня сервісів уже застосовуються, а загальні тенденції стосовно поширен­ня такої практики не радують.

 

Читайте також: Проривна технологія


Останні два роки в Китаї тестується так звана система соціального рейтингу. Очікується, що вона буде масово запущена 2020-го. Влада країни планує стандартизувати оцінку економічної та соціальної репутації громадян і компаній. Це означає, що кожна людина або фірма отримає соціальний рейтинг — число, яке показує його активність: як позитивну, так і негативну. Людина може примножувати початкову, рівну для всіх, кількість балів за соціально позитивну діяльність: наприклад, участь у благодійних чи волонтерських проектах. А зменшити цей показник можна, якщо невчасно заплатиш податки чи отри­маєш штраф за порушення правил дорожнього руху. Рейтинг формується також і на основі онлайн-активності користувачів.

Навіть якщо ваша активність у соціальних мережах є більш ніж помірною, сучасні інструменти аналізу можуть послуговуватися непрямими критеріями для ухвалення тих чи інших рішень


У межах експерименту, який триває в Піднебесній, громадяни з низьким рейтингом уже не можуть бронювати дорогі готелі, навчати дітей у приватних школах чи навіть купувати авіаквитки. Окрім того, можлива заборона на роботу в державних структурах, а то й на отримання соціальної допомоги. Нині вже відомо про 24 млн випадків застосування таких обмежень, принаймні, щодо купівлі квитків на літаки та швидкісні потяги (дані за 2018-й).


Хоча спроби запровадити в КНР соціальний рейтинг наразі поодинокі й система оцінювання лише тестується, автори більшості публікацій про неї підкреслюють, що експеримент жахливий. Хоча ми маємо розуміти, що йдеться про тоталітарне суспільство, в якому порушення прав людини не є чимсь надзвичайним.


Насправді подібні рейтинги та оцінювання вже давно й масштабно присутні в інтернеті. Ми до них звикли й активно використовуємо. Донедавна рейтингування стосувалося компаній чи послуг (як то оцінювання готелів на Booking чи цікавих туристичних місць на TripAdvisor), фільмів (оцінки IMDB чи Rotten Tomatoes) або товарів в інтернет-магазинах. Але останнім часом використання рейтингу поширилося й на користувачів всесвітньої павутини, а онлайн-сервіси стали обмежувати (або й відключати) тих, у кого низький рейтинг. Проблема в тому, що часто нам невідомі ні критерії, використовувані в оцінюваннях, ні загальні принципи побудови рейтингів, ні критичні значення, на яких базуються рішення онлайн-сервісів.

 

Читайте також: Соціальні мережі вбивають приватність


Нині в інтернеті формується такий собі аналог китайської системи со­ціальних кредитів. Створити його в онлайн значно простіше, адже цифрові сліди користувачів містять усе більше й більше даних, однак контролювати передачу інформації користувачів між ними практично неможливо. На основі таких рейтингів деякі онлайн-сервіси можуть обмежувати доступ користувачів чи навіть відключати їх.


Приміром, компанії Uber та AirBnb не приховують, що вони блокують не лише водіїв та власників житла з низькими рейтингами, а й тих клієнтів, які користуються послугами цих надавачів із не дуже високими оцінками. AirBnb може відключити акаунт користувача або без будь-яких пояснень, або з мінімальними коментарями. Такі випадки активно обговорюються на Reddit та Quora, учасники яких цитують лист від AirBnb про те, що рішення про блокування акаунта є безапеляційним і впливає на всі нові акаунти, тобто зареєструвати новий у цьому разі якщо й можливо, то доволі складно. Компанія не приховує, що вона не зобов’язана пояснювати своїх дій. Якщо врахувати, що AirBnb є світовим монополістом оренди житла у власників на короткий термін, таке блокування означає обмеження користувача в праві повноцінно використовувати ці послуги.


Аналогічне правило є і в Uber: у травні цього року компанія заявила, що блокуватиме замовників послуг із низьким рейтингом. Оцінювання пасажира є обов’язковим для водія, щоб завершити поїздку — на відміну від оцінки водієві, яку можна й не робити. Але ж причиною низького рейтингу можуть бути найрізноманітніші дії — від зауваження щодо швидкості пересування до безготівкового розрахунку. Однак Uber теж не пояснює критеріїв блокування, використовуючи лише поняття «рейтинг нижчий за середній». 


А в The New York Times розповідаються історії користувачів Facebook, чиї акаунти були відключені, а спроба повторної реєстрації призводила то такого самого результату. Facebook пояснює причини блокування, проте четвертий пункт щодо «систематичного порушення норм спільноти» чи п’ятий — про «здійснення заборонених дій» — є доволі нечіткими критеріями. Мова про рейтинги користувачів Facebook явно ніде не фігурує, проте згадки про «систематичність» наштовхують на висновок про умовні бали за порушення правил соцмережі, тобто знову ж таки про умовний соціальний рейтинг. 


Ще один сервіс, який належить Facebook — месенджер WhatsApp, — може заблокувати користувача, якщо певна критична доля інших учасників заблокувала його або хтось поскаржився на нього за розсилання спаму. 

 

Читайте також: Україна у Twitter. Бійці 140 символів


Затребуваність інструментів створення та використання рейтингів спричинила й появу спеціального сервісу PatronScan. Ця служба формує списки осіб, яким заборонено відвідувати бари. PatronScan отримує скан-копії документів відвідувачів разом із оцінкою їх працівниками розважальних закладів, створює списки тих, хто «відзначився» — наприклад, непристойною (на думку працівників) поведінкою, крадіжками чи бійками, — та передає ці дані всім своїм клієнтам. Це означає, що відвідувач, який став учасником інциденту в одному барі, може зіткнутися із ситуацією, що його не впустять в інший подібний заклад навіть в іншому штаті, а то й у деяких містах Канади чи Великої Британії!
Давно експериментують із аналогами соціальних рейтингів банки та страхові компанії. Перші — для ухвалення рішень щодо кредитування, й використовують для цього методику соціального скорингу, тобто аналізу дій позичальника в соцмережах. Такі самі скорингові моделі задіюють і страхові компанії для визначення вартості своїх послуг, яка може зростати, наприклад, для любителів екстремальних видів спорту чи тих, хто веде нездоровий спосіб життя.


Соціальні рейтинги на основі онлайн-даних — це історія останніх двох-трьох років. Причини їх появи та використання не лише в значній кількості онлайн-інформації про користувачів (цифрові сліди), а й у доступності інструментів її аналізу. Вони можуть агрегувати дані з різних сервісів і створювати доволі детальні портрети користувачів. А далі можуть продавати їх, у кращому випадку, рекламодавцям чи кредитним компаніям, а в гіршому — авіаперевізникам (як це відбувається в Китаї).


Такий розвиток подій лише справа часу. Адже сьогодні нікого не дивують роботодавці, які переглядають соціальні мережі та «гуглять» потенційного співробітника. За років п’ять можуть з’явитись інструменти, які спрощуватимуть такий аналіз, тобто формуватимуть аналог соціального рейтингу на основі наших з вами дій.


На жаль, захистити себе повністю від таких інструментів практично неможливо. І це довела історія, описана на початку статті. Навіть якщо ваша активність у соціальних мережах є більш ніж помірною, сучасні інструменти аналізу можуть послуговуватися непрямими критеріями для ухвалення тих чи інших рішень. Серед них — дії ваших друзів, ваші маршрути, звички, які сучасні ІТ-інструменти вже уміють ідентифікувати за непрямими підказками. Приміром, якщо двічі на тиждень ви виходите з дому о 19-й, рухаєтеся певним маршрутом і дві години перебуваєте в будинку, з одного боку якого паб, а з другого — спортзал, то які висновки зробить штучний інтелект? До якої категорії вас зарахує — любителів пива чи прихильників здорового способу життя?


Очевидний вихід — перестати користуватися соцмережами та відмовитися від смартфонів — не є панацеєю, і навіть не через гіпотетичну «державу в смартфоні», а через те, що до людини без профайлу в соцмережах деякі роботодавці поставляться з пересторогою.


Єдина порада в такій ситуації — забороняти мобільним додаткам відстежувати дані (ці заборони, хоча б часткові, можна встановити в налаштуваннях смартфонів) та уважно переглядати власні соціальні мережі щодо вподобаних сторінок і налаштувань приватності. Ситуацію може врятувати умовний GDPR-аналог, запроваджений як обов’язковий інструмент для всіх ІТ-компаній. Але зважаючи на те, що Big Tech зароб­ляє на продажі наших даних і нашої уваги, зробити це реальністю дуже складно.