О нас в СМИ
Рекомендации без манипуляции // RSpectr
Рекомендации без манипуляции // RSpectr
18 августа 2022 года
Как регуляторы разных стран добиваются прозрачности алгоритмов интернет-площадок.
Китай первым раскрыл нюансы функционирования инструментов удержания пользователей на онлайн-платформах. Законодательство о степени прозрачности принципов действия алгоритмов в соцсетях и различных сервисах разрабатывают многие государства. При публичном доступе к механизмам модерации важно соблюсти цифровые права граждан и учитывать интересы бизнеса, не навредив конкурентному рынку, говорят собеседники RSpectr.
Китай первым раскрыл нюансы функционирования инструментов удержания пользователей на онлайн-платформах. Законодательство о степени прозрачности принципов действия алгоритмов в соцсетях и различных сервисах разрабатывают многие государства. При публичном доступе к механизмам модерации важно соблюсти цифровые права граждан и учитывать интересы бизнеса, не навредив конкурентному рынку, говорят собеседники RSpectr.
Согласно поднебесному регламенту
Согласно поднебесному регламенту
Желания пользователей все больше зависят от механик сложных алгоритмов интернет-площадок. Так, персонализированные рекомендации онлайн-магазинов оказывают влияние на покупки 84% потребителей в Сети, выяснили аналитики в августе. Компании используют тренд и наращивают влияние. Apple планирует начать и уже протестировала показ рекламы в Apple Maps. Ранее картографический сервис для iPhone был свободен от коммерческого контента.
Регулирование многих стран направлено на прозрачность работы систем модерации в Сети. Но первыми в августе 2022 года детали работы рекомендательных алгоритмов китайских платформ опубликовала Администрация киберпространства Китая. В списке значатся 30 приложений, среди них 6 сервисов от Alibaba, 1 от ByteDance, 2 от Tencent и 3 от Baidu. Игроки рынка сделали это согласно принятому в марте регламенту, который предписывает разработчикам программ позволять потребителям отклонять персонализированные рекомендации, генерируемые сервисами.
Заместитель председателя Комитета ГД по информполитике Антон Горелкин сообщил RSpectr, что расценивает законодательный опыт Китая как положительный. «Крупные IT-компании согласились с требованием раскрытия своих алгоритмов, хотя, на мой взгляд, это чрезмерное требование», — сказал он.
В треугольнике «государство — потребитель — оператор цифровой платформы» у каждой стороны есть свои законные интересы, объяснила RSpectr управляющий директор практики Applied Intelligence «АксТим» (экс-Accenture) Лариса Малькова. Поэтому регулирование этой сфере однозначно необходимо, отметила эксперт.
Регулирование многих стран направлено на прозрачность работы систем модерации в Сети. Но первыми в августе 2022 года детали работы рекомендательных алгоритмов китайских платформ опубликовала Администрация киберпространства Китая. В списке значатся 30 приложений, среди них 6 сервисов от Alibaba, 1 от ByteDance, 2 от Tencent и 3 от Baidu. Игроки рынка сделали это согласно принятому в марте регламенту, который предписывает разработчикам программ позволять потребителям отклонять персонализированные рекомендации, генерируемые сервисами.
Заместитель председателя Комитета ГД по информполитике Антон Горелкин сообщил RSpectr, что расценивает законодательный опыт Китая как положительный. «Крупные IT-компании согласились с требованием раскрытия своих алгоритмов, хотя, на мой взгляд, это чрезмерное требование», — сказал он.
В треугольнике «государство — потребитель — оператор цифровой платформы» у каждой стороны есть свои законные интересы, объяснила RSpectr управляющий директор практики Applied Intelligence «АксТим» (экс-Accenture) Лариса Малькова. Поэтому регулирование этой сфере однозначно необходимо, отметила эксперт.
“
«Сейчас перевес в целом на стороне операторов платформ. Найти и удержать баланс очень сложно. Это пытается сделать Китай. Если чиновники из КНР избегут смещения в крайности, то это позитивная новость.» — Лариса Малькова, «АксТим»
По мере автоматизации нам становится все менее понятно, каким образом принимается решение, затрагивающее права потребителей, отметил в разговоре с RSpectr профессор Санкт-Петербургского государственного университета (СПбГУ) Владислав Архипов. По его словам, компании не всегда способны дать точный ответ в каждом случае.
“
«Насколько удовлетворительным будет такой подход, зависит от того, в каких именно форме и объеме будут раскрываться алгоритмы и насколько данная информация будет соответствовать действительности.» — Владислав Архипов, СПбГУ
Профессор подчеркнул, что от правоприменительной практики зависит вопрос общего доверия к сервисам.
Осенний марафон в Госдуме
Осенний марафон в Госдуме
В России также обсуждается нормативный акт о регулировании интернет-площадок, предлагающих информацию или рекламу на основе запросов и личных данных.
“
«Мой законопроект не предполагает полного раскрытия механизмов работы рекомендаций в том или ином сервисе, но оставляет за их пользователями право знать, как они работают в целом, какие данные собирают — и при желании отказаться от их применения.» — Антон Горелкин, Госдума.
Антон Горелкин заключил, что прошло несколько этапов обсуждения документа с отраслью. «Многие предложения были учтены и найдут свое отражение в финальном варианте, который планируется внести на рассмотрение Госдумы в осеннюю сессию», — уточнил депутат.
Защитить интересы компаний можно, включая их представителей в согласительные комиссии, обсуждая все нововведения с органами, принимающими решения, отметила Лариса Малькова.
Стоит отметить, что первым в России механизмы работы своих рекомендательных сервисов раскрыл в апреле OZON.
Основой алгоритмов в онлайн-магазине является машинное обучение, система создавалась более десяти лет, над ней работали несколько тысяч специалистов, заявляли в компании.
Законопроекты о регулировании интернет-сервисов должны предлагать продуманную систему сдержек и противовесов, говорит футуролог, управляющий партнер компании MINDSMITH Руслан Юсуфов. Чтобы, с одной стороны, защитить права пользователей, а с другой — не навредить конкуренции, объяснил он RSpectr. Штрафы, по словам эксперта, — не самый эффективный способ наказания интернет-гигантов, а ужесточение нормативных требований неизбежно приведет к удорожанию услуг интернет-сервисов.
Защитить интересы компаний можно, включая их представителей в согласительные комиссии, обсуждая все нововведения с органами, принимающими решения, отметила Лариса Малькова.
Стоит отметить, что первым в России механизмы работы своих рекомендательных сервисов раскрыл в апреле OZON.
Основой алгоритмов в онлайн-магазине является машинное обучение, система создавалась более десяти лет, над ней работали несколько тысяч специалистов, заявляли в компании.
Законопроекты о регулировании интернет-сервисов должны предлагать продуманную систему сдержек и противовесов, говорит футуролог, управляющий партнер компании MINDSMITH Руслан Юсуфов. Чтобы, с одной стороны, защитить права пользователей, а с другой — не навредить конкуренции, объяснил он RSpectr. Штрафы, по словам эксперта, — не самый эффективный способ наказания интернет-гигантов, а ужесточение нормативных требований неизбежно приведет к удорожанию услуг интернет-сервисов.
Законодательное ассорти
Законодательное ассорти
Попытки снятия завесы с алгоритмов на интернет-площадках предпринимаются сегодня во многих юрисдикциях. Европейский парламент одобрил закон о цифровых услугах (Digital Services Act, DSA) в мае 2022 года.
Документ предусматривает новые обязательства. Во-первых, DSA потребует, чтобы онлайн-платформы раз в год проходили аудит, дабы оценит степень риска их алгоритмов для граждан.
Во-вторых, игрокам придется предоставлять более четкую информацию о модерации контента или использовании инструментов для его рекомендации. Могут быть запрещены определенные виды таргетированной рекламы — например, адресованной детям или основанной на конфиденциальных данных.
В свою очередь, правительство Великобритании в июле объявило, что будет придерживаться более гибких подходов в сфере регулирования ИИ и рекомендательных алгоритмов, чем те, что обсуждаются в Европарламенте. «Если европейские чиновники планируют классифицировать технологии ИИ по степени риска: чем она выше, тем жестче будет контроль — вплоть до запрета, то британцы хотят уйти от общего подхода в сторону индивидуального и дать компаниям возможность доказать регулятору безопасность того или иного решения», — пояснил Антон Горелкин.
А вот регулирующие органы в США пытаются влиять на политику платформ. Расследование о возможном применении Amazon темных паттернов — сбивающих с толку интерфейсов в рекламных акциях сервиса Prime — в августе возобновила Федеральная торговая комиссия США. За предполагаемое использование Google темных паттернов в 2022 году был подан иск в американский суд. И вместе с тем в августе законодатели Калифорнии отклонили законопроект, который позволил бы правительству подавать в суд на соцсети и взимать штрафы, например, за рекомендательные механизмы, которые наносят вред детям.
Заставить японские крупные интернет-платформы раскрывать информацию о работе алгоритмов может решение суда Токио, вынесенное по антимонопольному иску против платформы для размещения отзывов Kakaku.com. Сеть ресторанов Hanryumura обвинила площадку в нанесении ущерба продажам путем изменения способа подсчета оценок пользователей.
У большинства соцсетей есть механизм тонкой настройки предпочтений: алгоритмы автоматически подстраиваются под желания, которые, в свою очередь, зависят от поведения пользователей, объясняет Руслан Юсуфов. Он считает, что взаимодействие с умными рекомендательными системами, которые закрывают нас в «информационных пузырях», — это отдельный навык, который нужно развивать с детства.
Документ предусматривает новые обязательства. Во-первых, DSA потребует, чтобы онлайн-платформы раз в год проходили аудит, дабы оценит степень риска их алгоритмов для граждан.
Во-вторых, игрокам придется предоставлять более четкую информацию о модерации контента или использовании инструментов для его рекомендации. Могут быть запрещены определенные виды таргетированной рекламы — например, адресованной детям или основанной на конфиденциальных данных.
В свою очередь, правительство Великобритании в июле объявило, что будет придерживаться более гибких подходов в сфере регулирования ИИ и рекомендательных алгоритмов, чем те, что обсуждаются в Европарламенте. «Если европейские чиновники планируют классифицировать технологии ИИ по степени риска: чем она выше, тем жестче будет контроль — вплоть до запрета, то британцы хотят уйти от общего подхода в сторону индивидуального и дать компаниям возможность доказать регулятору безопасность того или иного решения», — пояснил Антон Горелкин.
А вот регулирующие органы в США пытаются влиять на политику платформ. Расследование о возможном применении Amazon темных паттернов — сбивающих с толку интерфейсов в рекламных акциях сервиса Prime — в августе возобновила Федеральная торговая комиссия США. За предполагаемое использование Google темных паттернов в 2022 году был подан иск в американский суд. И вместе с тем в августе законодатели Калифорнии отклонили законопроект, который позволил бы правительству подавать в суд на соцсети и взимать штрафы, например, за рекомендательные механизмы, которые наносят вред детям.
Заставить японские крупные интернет-платформы раскрывать информацию о работе алгоритмов может решение суда Токио, вынесенное по антимонопольному иску против платформы для размещения отзывов Kakaku.com. Сеть ресторанов Hanryumura обвинила площадку в нанесении ущерба продажам путем изменения способа подсчета оценок пользователей.
У большинства соцсетей есть механизм тонкой настройки предпочтений: алгоритмы автоматически подстраиваются под желания, которые, в свою очередь, зависят от поведения пользователей, объясняет Руслан Юсуфов. Он считает, что взаимодействие с умными рекомендательными системами, которые закрывают нас в «информационных пузырях», — это отдельный навык, который нужно развивать с детства.
“
«Вполне вероятно, что в ближайшем будущем появятся специалисты по работе с потоками информации и тонкой настройке информационного поля, по аналогии со специалистами по правильному питанию, ментальному здоровью и образу жизни.» — Руслан Юсуфов, MINDSMITH.
Лариса Малькова уверена, что обычному пользователю с точки зрения элементарной безопасности необходимо понимать, по какому принципу работают рекомендации. Причем это должно быть понятно и продвинутым юзерам, и людям с низкой цифровой грамотностью, согласен Руслан Юсуфов.
Источник: RSpectr
Telegram-канал RSpectr
Источник: RSpectr
Telegram-канал RSpectr
О нас в СМИ