Австралійський уряд готує новий етап регулювання соціальних мереж і розглядає можливість зробити алгоритмічні рекомендації вимкненими за замовчуванням. За такої моделі користувач сам має погодитися на персоналізовану стрічку, а не отримувати її автоматично після створення акаунта.
Ідею публічно підтримала міністерка соціальних служб Таня Пліберсек. Вона заявила, що уряд серйозно розглядає підхід, за якого платформи повинні довести, що користувач свідомо обрав алгоритмічну персоналізацію, особливо якщо йдеться про неповнолітніх.
Поштовхом стали дослідження про швидке просування агресивного контенту
У центрі дискусії опинилися рекомендаційні системи, які аналізують поведінку користувача й автоматично підбирають нові відео, дописи та акаунти. Дослідники виявили, що новим профілям хлопців агресивний, мізогінний або екстремальний контент може почати активно пропонуватися вже протягом десятків хвилин.
Проблема полягає в тому, що користувач не завжди усвідомлює, наскільки сильно алгоритм змінює інформаційне середовище. Кілька кліків або переглядів можуть швидко перевести стрічку в набагато радикальніший сегмент, після чого система починає підсилювати цей інтерес.
Модель opt-in, яку обговорює уряд, змінює логіку сервісу. Соцмережа повинна була б показувати звичайну хронологічну або нейтральну стрічку, доки користувач сам не погодиться на персоналізовані рекомендації.
Для платформ це може стати серйозним викликом, оскільки алгоритмічні системи напряму впливають на час, який люди проводять у застосунку, а отже — на рекламні доходи. Саме тому будь-яке обмеження персоналізації майже напевно викличе спротив технологічної галузі.
Австралія готує ширший digital duty of care для платформ
Дискусія не обмежується рекомендаційними алгоритмами. Уряд також працює над законодавством про digital duty of care — цифровий обов’язок турботи, який має покласти на платформи більше відповідальності за передбачувану шкоду користувачам.
Такий підхід означає перехід від реакції на окремі скарги до обов’язку заздалегідь оцінювати ризики дизайну сервісу. Якщо компанія знає, що певний механізм може системно підсилювати небезпечний контент, вона повинна буде змінити його до того, як шкода стане масовою.
Окремо уряд розглядає британський підхід до обмеження окремих категорій порнографічного контенту та нові правила для smart glasses, які можуть непомітно вести відеозапис. Усі ці питання об’єднує одна логіка — технологічна платформа не повинна перекладати всю відповідальність на користувача.
Австралія вже належить до країн, які найактивніше експериментують із цифровим регулюванням. Якщо алгоритмічні рекомендації справді зроблять добровільною функцією, це може стати одним із найрадикальніших втручань держави у дизайн соцмереж і створити модель, яку згодом почнуть обговорювати й інші країни.
