4
3
3.75
0
В обществе обострились вопросы модерации контента соцсетей и влияния их на психическое здоровье. То, как TikTok и другие социальные платформы будут справляться с этими вызовами, определит их дальнейшую судьбу.
10-летняя Найла Андерсон из Пенсильвании в США умерла после использования Тик Ток. 7 декабря Найла попыталась участвовать в вирусном челлендже в Тик Токе под названием Blackout Challenge. Как позднее установило следствие, в челлендже детей призывали «душить себя до потери сознания».
Найла увидела приглашение на своей странице «Для вас» в Тик Ток. Это опасное видео распространялось через алгоритм социальной сети. Тогда девочка забралась в шкаф, в спальне своей матери. Вскоре мать нашла дочку в шкафу без признаков жизни.
«Найла перенесла адские страдания, она медленно задыхалась, пока не оказалась почти на грани смерти», — рассказала мать.
Девочку доставили в больницу, где врачи боролись за ее жизнь в течение нескольких дней. Но 12 декабря Найла скончалась.
Знакомые описали девочку как «активного, счастливого, здорового и невероятно умного ребенка», говорящую на трех языках. В результате прокуратура обвинила Тик Ток за «воздействие на детей дефектным и опасным алгоритмом. Девочка погибла, поскольку алгоритм определил, что Blackout Challenge специально разработан и вероятно представляет интерес для ребенка».
«Эта тревожная проблема возникла задолго до появления нашей платформы и никогда не была трендом Тик Тока», – ответили менеджеры социальной сети.
Удивительно, но окружной суд отклонил иск прокуратуры, заявив, что Тик Ток имеет иммунитет в соответствии с разделом 230 Закона о приличии в сфере коммуникаций.
Однако в августе 2024 года апелляционный суд отменил это решение, заявив, что, хотя Тик Ток не может нести ответственности за контент, соцсеть все равно обязана нести ответственность за «сознательное распространение и целевую рекомендацию опасных видеороликов». На этом примере, я проанализировал критическое положение всех социальных сетей.
Влияние на психику пользователей соцсети
Сегодня следствие по делу о гибели юной пользовательницы Тик Тока возобновлено и этот факт назвали прецедентом в судебной практике. То есть приговор против Тик Ток отразится на работе всех социальных сетей в мире. Они будут задавлены новым отношением правоохранителей к опасному контенту, за который ранее соцсети вроде бы не отвечали.
Я думаю, теперь публичным платформам придется модерировать каждый ролик, каждую публикацию в сети, чтобы избежать блокировки в какой-нибудь стране или даже ареста владельца социальной сети.
В августе этого года по обвинению в соучастии в распространении видео о сексуальном насилии над детьми был арестован гендиректор Telegram Павел Дуров. Во Франции ему предъявили обвинение и грозят тюремным заключением сроком до 10 лет.
Вся эта слабая фильтрация контента подняла волну обсуждения, связанного с возможными последствиями для онлайн-индустрии. Это касается Facebook и Instagram (запрещенные в РФ за экстремистские материалы), YouTube и Snapchat, RuTube и VK Video.
Происхождение опасных челленджей в TikTok
Идея создания Тик Тока родилась в Китае, когда стартап ByteDance, основанный Чжаном Имином в 2012 году, начал разрабатывать платформы для распространения коротких роликов. Первоначально компания запустила новостное приложение Toutiao, которое стало невероятно популярным благодаря использованию алгоритмов машинного обучения для персонализации новостей.
Для успешного выхода на западные рынки ByteDance решила пойти на стратегическое приобретение. В ноябре 2017 года компания поглотила популярное приложение для обмена видео Musical.ly, которое уже имело значительную базу пользователей в США и Европе. Это позволило ByteDance не только усилить свои позиции на международной арене, но и объединить технологии и аудиторию двух приложений.
В августе 2018 года TikTok и Musical.ly объединились в одно приложение под брендом TikTok. Это слияние дало огромный толчок развитию платформы на глобальном уровне, привлекая миллионы новых пользователей и превращая Тик Ток в одну из самых скачиваемых приложений в мире.
Тик Ток предоставляет пользователям уникальную возможность легко создавать и распространять контент, что стало основой для возникновения огромного количества вирусных трендов и челленджей. Их еще называют «вызовы», которые призывают к выполнению определенных действий. Затем это записывается на видео и публикуется на платформе. Хотя многие челленджи носят безобидный характер и направлены на развлечение, некоторые из них представляют реальную угрозу для жизни и здоровья участников.
Стремительная популярность Тик Ток
По моим оценкам, Тик Ток очень популярен благодаря простоте использования и увлекательному формату коротких видеороликов, длительностью от 15 до 60 секунд. Платформа предлагает множество инструментов для создания контента, включая фильтры, эффекты, музыкальные треки и возможность проведения дуэтов и челленджей.
Алгоритмы Тик Тока, которые обучаются на поведении пользователей, способствовали вирусному распространению контента. Даже пользователи с небольшим количеством подписчиков могли получить миллионы просмотров, если их видео попадало в рекомендации.
Еще одним примером опасного челленджа я считаю «Skull Breaker Challenge», в котором два участника прыгают, а третий бьет их по ногам. В итоге человек резко падает на спину. Это часто приводит к сотрясению мозга и переломам.
Подобные челленджи распространяются с пугающей скоростью благодаря алгоритмам Тик Тока, которые активно продвигают любой популярный контент.
Влияние опасных челленджей на молодежь
Влияние рискованных челленджей на молодежь может быть разрушительным. Молодые люди часто стремятся быть частью группы, следовать за модой и получать признание со стороны сверстников, что делает их уязвимыми перед опасными трендами. Психологи указывают на то, что подростки склонны к безрассудному дерзкому поведению, так как их мозг еще не полностью развит в плане оценки последствий своих действий.
Мой анализ ситуации показывает, что популярность в интернете, выраженная в лайках, подписках и просмотрах, становится для многих молодых людей важным показателем успеха и социального статуса. Это подталкивает их к риску, несмотря на осознание смертельной опасности.
Скандалы Тик Ток
Растущее давление со стороны регуляторов в разных странах может привести к изменению правил игры для Тик Ток. Усиление регулирования, связанного с защитой данных и модерацией контента, может затруднить работу платформы и снизить ее привлекательность для пользователей и рекламодателей.
Еще один пример опасного использования Тик Тока произошел во Флориде, в апреле 2024 года. Там женщина отправляла угрожающие сообщения однокласснице своей дочери из-за конфликта в школе.
Согласно сообщению полиции о вероятной причине происходящего, 28-летняя мать в Уэст-Палм-Бич грозила шестикласснице убийством. Она издевалась над девочкой и обзывала ее. Среди десятков сообщений были такие фразы: «Беги, мы готовы, у меня есть машина», «Выходи, детка, если не боишься».
В конце концов девочка заблокировала аккаунт и показала сообщения полицейским, что побудило их арестовать женщину.
Ее арест совпал с законопроектом, подписанным губернатором Флориды Роном Де Сантисом, который может запретить детям до 14 лет иметь аккаунты в социальных сетях. Но ожидается, что закон столкнется с юридическими разборками в защиту соцсетей и свободы их использования детьми.
Власти против соцсети
Один из самых громких скандалов, связанных с Тик Током, касается вопросов конфиденциальности и безопасности данных. Поскольку компания ByteDance базируется в Китае, многие страны, включая США, Австралию и Индию, выразили обеспокоенность по поводу того, что данные пользователей могут быть переданы китайскому правительству.
В 2020 году администрация президента США Дональда Трампа инициировала расследование в отношении Тик Тока, заявив, что приложение представляет угрозу национальной безопасности. Были предприняты попытки запретить Тик Ток на территории США или заставить компанию продать свои американские операции. Это привело к затяжным юридическим баталиям и обсуждениям возможных сделок с американскими компаниями, такими как Microsoft и Oracle. Хотя запрет так и не был полностью реализован, этот случай показал уязвимость Тик Тока к политическим давлениям.
Контроверсии Тик Тока
Коммунистическая партия Китая имеет влияние на компанию, заявляют чиновники из Белого дома, опасаясь влияния социальной сети на мировоззрение американцев. Генеральный директор Тик Ток шоу Цзы Чу дал показания во время слушаний в Комитете по энергетике и торговле Палаты представителей по вопросам конфиденциальности и безопасности данных потребителей США.
В Вашингтоне подготовили закон об ограничениях, внесенный сенатором-демократом Марком Уорнером из Вирджинии, призванный облегчить правительственный запрет Тик Тока. Согласно резюме законопроекта, министр торговли США будет иметь полномочия «выявлять, сдерживать, пресекать, предотвращать, запрещать, расследовать и смягчать последствия транзакций» с использованием технологических продуктов и услуг, включая приложения социальных сетей, в которых «какой-либо иностранный противник (например, Китай) имеет какой-либо интерес.
В день своего внесения законопроект получил общественную поддержку администрации Джо Байдена, которая ясно дала понять, что недовольна вопросами безопасности Тик Тока.
Модерация контента или цензура
Вопросы модерации контента также вызвали множество споров. Тик Ток неоднократно обвиняли в цензуре контента, связанного с политикой и правами человека. В 2019 году платформа оказалась в центре скандала, когда выяснилось, что она скрывала или удаляла видео, связанные с протестами в Гонконге и критикой китайского правительства.
Кроме того, Тик Ток сталкивался с критикой за недостаточные меры по модерации вредоносного контента, включая случаи буллинга, пропаганды насилия и распространения дезинформации. Несмотря на то, что компания заявляет о значительных усилиях по улучшению модерации, эти проблемы остаются актуальными и по сей день.
Культурная апроприация
Тик Ток также оказался в центре дебатов о культурной апроприации и несправедливом распределении кредитов за созданный контент. Черные создатели контента неоднократно обвиняли платформу в том, что их идеи и тренды присваиваются более популярными белыми пользователями без должного признания их авторства. В 2021 году этот вопрос достиг пика, когда несколько чернокожих создателей объявили бойкот Тик Току, требуя справедливости и признания их вклада.
Руководство платформы пытается реагировать на эту критику, вводя новые функции для защиты авторских прав.
Меры по защите пользователей TikTok и Telegram
Реакция властей на негативные челленджи в Тик Токе и других социальных сетях становится разнообразной, но в целом нарастает стремление к более строгому контролю. В ряде стран начались расследования в отношении Тик Тока и Телеграм на предмет того, каким образом платформа модерирует контент и обеспечивает безопасность пользователей.
Например, в Италии власти временно заблокировали доступ к Тик Току для пользователей, которые не могли подтвердить свой возраст, после трагического случая смерти 10-летней Найлой, участвовавшей в Blackout Challenge.
Telegram блокировали в Китае, Испании, России и Иране. Причины были в том числе политические, либо объяснялись борьбой с экстремистами и наркоторговцами. Спецслужбы требуют ключи для чтения зашифрованных сообщений в Телеграм.
В США и Европе обсуждаются законопроекты, направленные на усиление регулирования цифровых платформ, чтобы защитить детей от вредного видео. В частности, Европейский Союз активно продвигает инициативы по введению более строгих правил для социальных сетей в рамках Директивы о цифровых услугах. Она предусматривает обязанности для платформ по контролю и удалению недопустимого контента.
Этика и алгоритмы соцсетей: технология опасного контента
Одной из ключевых проблем, с которыми сталкиваются регуляторы, является понимание того, как алгоритмы социальных сетей используются для персонализации контента и удержания пользователей. Алгоритмы специально нацелены на максимизацию вовлеченности, вызов сильных эмоций, в том числе страха и шока.
Эксперты по цифровой этике подчеркивают, что технологические компании должны нести ответственность за то, как их продукты влияют на общество.
Что ждет пользователей соцсетей в ближайшем будущем
Повышенное внимание со стороны властей к проблемам, связанным с Тик Током и Телеграм, неизбежно сказывается на всей индустрии соцсетей. Ожидается, что введение более строгих правил и требований к контролю контента в этих двух платформах приведет к аналогичным мерам в отношении других популярных сервисов, таких как YouTube, Рутуб, «ВКонтакте», «Одноклассники» и других.
Такие изменения могут включать более жесткие требования к верификации возраста пользователей, усиление мер по модерации контента, увеличение штрафов за нарушение правил безопасности, а также внедрение новых инструментов для родителей, позволяющих контролировать доступ детей к контенту. В долгосрочной перспективе это может привести к значительным изменениям в том, как социальные сети работают и взаимодействуют со своими пользователями.
Будущее Тик Тока будет зависеть от того, насколько успешно компания сможет справляться с вызовами и сохранять доверие пользователей. С одной стороны, платформа обладает огромным потенциалом для дальнейшего роста, с другой — ей предстоит пройти через испытания, связанные с вопросами безопасности, модерации и этики.
У меня есть все основания полагать, что все социальные сети будут вынуждены инвестировать значительные ресурсы в разработку новых технологий и процессов, чтобы соответствовать новым требованиям. Это может привести к изменению бизнес-моделей и стратегий монетизации. Для многих платформ, основанных на свободе добавления видео и рекламы в них, новые правила угрожают банкротством в странах с «небогатой» аудиторией.
С другой стороны, усиление контроля над контентом может улучшить качество онлайн-пространств и сделать их более безопасными для молодежи. Однако существует риск того, что чрезмерное регулирование приведет к снижению разнообразия и абсолютной скудности контента. Я желаю тебе, дорогой читатель, обрести «золотую середину» в соцсети.
Изображения сгенерированны ИИ. Видео: соцсети
