Як TikTok читає наші думки? NYT дістав доступ до алгоритмів соціальної мережі
Видання New York Times дістало доступ до алгоритмів соціальної мережі TikTok, зокрема до внутрішнього документа «TikTok Algo 100».
Редакція bit.ua переказує статтю NYT. Оригінал можна прочитати за посиланням.
Що таке «TikTok Algo 100»?
Внутрішній документ «TikTok Algo 100» – це пояснення для співробітників не технічних відділів, роботи алгоритму соціальної мережі. Документ підготували інженери сервісу. Він базується на двох важливих принципах сервісу, які потрібно збільшити:
- time spent – проведений час на платформі;
- retention – показник утримання користувача в застосунку.
Алгоритми TikTok непокоять користувачів платформи. Деякі з них стверджують, що соціальна мережа читає їхні думки й може передбачити про їхнє життя щось, чого вони самі ще не знають.
У документі це чудово пояснюють. Інженери виклали там базовий математичний код та пояснення того, як компанія розуміє людську природу: нудьгу, чутливість до культурних орієнтирів, почуття.
Також тут йдеться і про те, що TikTok тісно пов’язаний зі своєю компанією власником ByteDance.
Про які алгоритми йдеться?
Насправді алгоритми TikTok дуже прості. Ось головні з них:
Час перегляду – не єдиний фактор
Оцінюючи відео, алгоритми TikTok опираються не лише на передбачення, чи воно буде цікаве користувачам, але й на поведінку людей щодо цього відео, слідуючи такому рівнянню: скільки часу дивилися відео + чи є лайки або коментарі + чи відтворили взагалі відео у стрічці.
«Система рекомендацій дає оцінки всім відео на основі цього рівняння і повертає користувачам відео з найвищими балами. Для стислості рівняння, показане в цьому документі, дуже спрощене. Фактичне рівняння, яке використовується, набагато складніше, але логіка та сама», – пояснюють у документі.
Важливі попередні відео автора
Інколи, щоб зрозуміти про що ролик, потрібно бути в курсі контенту, який публікував конкретний автор раніше. Для такої серії відео алгоритм додає фільтр same_author_seen. У такий спосіб загальна цінність, коли користувач переглядає всі ці відео, вища, ніж підсумкові значення перегляду кожного окремого відео.
Тому користувачам потрапляють наступні відео автора, якщо вони зацікавилися першим.
Привернення уваги заново
Коли алгоритми TikTok бачать, що користувачу стає нудно на платформі, вони змінюють або видаляють деякі фільтри, щоб знову привернути увагу. Наприклад, прикріплюють фільтр однотипного контенту, як-от same_tag_today. Або навпаки, відключають однаковий контент, щоб знову залучити користувача.
Також проблему нудьги на платформі розв’язують за допомогою розсіювання уваги. Наприклад, користувачу пропонують контент із фільтром «вимушений інтерес» – for u feed and dispersion etc. Те, що зовсім не схоже на контент, який щойно переглядала людина.
Точність таких рекомендацій TikTok заснована на постійному залученні користувачів у контент, величезному наборі даних та налаштуваннях, де користувачі споживають алгоритмічно рекомендований контент.
«Це не якась магія алгоритмів», – заявляє професор Каліфорнійського університету в Сан-Дієго.
Безпека
У TikTok відсутні алгоритми наскрізного шифрування, як у WhatsApp, Telegram або Signal, які захищають дані користувачів. Натомість будь-яка інформація людей є під загрозою витоку або купівлі брокерами даних.
Модератори контенту мають доступу до всіх відео, не лише до тих, які користувачі опублікували у вільному доступі, а ще й до того, який адресували друзям особисто або до неопублікованого контенту.
Співробітники компанії теж не звільнені від стеження. Вони користуються різними продуктами компанії ByteDance, наприклад корпоративною системою для внутрішніх комунікацій на зразок Slack, – Lark. Цей застосунок характерний агресивним контролем за співробітниками, наприклад графіком, де вказано, чи один співробітник відкривав повідомлення частіше, ніж його колеги.
У США занепокоєнні безпекою даних та загрозою Китаю. Розслідування про TikTok починали ще за правління Трампа. Згодом Байден скасував його, але оголосив про власне розслідування щодо загроз безпеці, створених TikTok. Анонімний високопосадовець адміністрації заявив NYT, що Китай «працює над використанням цифрових технологій та американських даних так, що створює неприйнятні ризики для національної безпеки».
Замість висновків
Щодо політики TikTok аналітики й користувачі розділилися на умовні два табори. Деякі вбачають у TikTok серйозну загрозу, а інші розглядають це як безглузду паніку.
«Навіть якби TikTok належав американцям, немає жодного закону чи постанови, які б забороняли Пекіну купувати його дані на ринку відкритих брокерів даних», – заявив співробітник із кібербезпеки в дослідницькій організації New America Семм Сакс.
Тут ще й варто нагадати, що існує безліч інших продуктів, від соціальних мереж до банків і кредитних карток, які збирають точніші дані про своїх користувачів. Якби іноземні служби безпеки хотіли ці дані, вони, ймовірно, могли б купити їх у брокерів даних.
