Сын эфиопского ученого Абрам Меарег — один из тех, кто подал иск против компании Meta. В иске утверждается, что алгоритм Facebook способствовал вирусному распространению ненависти и насилия во время гражданской войны в Эфиопии, пишет Би-би-си.
На отца Абрама напали вооруженные люди после того, как в соцсети распространились агрессивные посты о нем и сообщения, раскрывающие его личную информацию.
Иск подан в Высокий суд Кении — именно в столице этой страны, Найроби, располагается один из крупнейших аутсорсинговых центров Meta, который занимается и модерацией постов в Facebook на основных языках Эфиопии — амхара, оромо, сомали и тигринья.
Инициаторы иска требуют от Meta создать фонд в размере 2 млрд долларов для жертв ненависти, разжигаемой в Facebook, а также изменения алгоритма платформы.
Meta заявляет, что вложила значительные средства в модерацию и технологии, чтобы удалять агрессивные сообщения. По словам представителя, разжигание ненависти и подстрекательство к насилию противоречат правилам платформы.
«В работе по обеспечению безопасности и добросовестности в Эфиопии мы полагаемся на обратную связь от местных организаций гражданского общества и международных организаций», — заявил представитель компании.
Разгул насилия
Последние два года в Эфиопии шла война между федеральным правительством и Народно-освободительным фронтом региона Тыграй (НОФТ) на севере Эфиопии.
Эта война привела к сотням тысяч жертв и глубокому гуманитарному кризису. По данным ООН, почти 90% жителей региона Тыграй нуждаются в гуманитарной помощи, а треть местных детей страдают от недоедания.
Мирное соглашение, ознаменовавшее окончание войны, было подписано в начале ноября этого года, однако в последнее время наблюдается всплеск этнически мотивированных убийств между общинами, говорящими на амхара и оромо.
Абрам Меарег считает, что его отец стал одной из многих жертв разгула насилия в стране.
3 ноября 2021 года профессор Меарег Амаре Абрха возвращался домой из университета. За ним следовали вооруженные люди на мотоциклах. Когда он подошел к дому, они расстреляли его с близкого расстояния.
У происшествия были свидетели, которые, однако, не пришли на помощь из-за угроз нападавших. Профессор лежал на земле семь часов, истекая кровью, пока не умер.
По словам сына, перед нападением в «Фейсбуке» появились посты, содержащие клевету на его отца, а также раскрывающие его личную информацию.
Семья, утверждает Абрам, жаловалась на порочащие посты модераторам «Фейсбука» через автоматическую систему жалоб, однако платформа не убирала эти сообщения до тех пор, пока не стало слишком поздно.
Один из постов был удален после убийства профессора, другой на 8 декабря 2022 года — спустя больше года после убийства — все еще оставался в сети.
«Ужасно неадекватно»
«Если бы Facebook остановил распространение ненависти и модерировал посты как следует, мой отец был бы жив», — уверен Абрам.
Он требует персональных извинений от компании Meta и хочет добиться того, чтобы больше ни одна семья не пострадала так, как он.
В заявлении поданном в суд, Абрам Меарег утверждает, что алгоритм Facebook продвигает контент, «содержащий и подстрекающий к ненависти», потому что таким образом, считает молодой человек, компания надеется привлечь больше интеракций между пользователями.
Он также утверждает, что модерация контента Facebook в Африке «ужасно неадекватна»: слишком мало модераторов, которые занимаются постами на ключевых эфиопских языках.
В ответ на запрос Би-би-си Meta заявила следующее: «Мы нанимаем сотрудников со знанием местных условий и опытом и продолжаем развивать наши возможности для выявления нарушающего правила контента на самых распространенных в стране языках, включая амхара, оромо, сомали и тигринья».
Также там утверждают, что Эфиопия является приоритетом компании, хотя Facebook пользуется менее 10% населения этой страны, и что компания предприняла шаги, включающие снижение виральности постов, расширение политики против насилия и подстрекательства и улучшение системы принуждения к соблюдению правил.
Анализ Питера Мваи, BBC Reality Check, Найроби
Это важное событие, попытка на законных основаниях привлечь к ответственности компанию социальных сетей за ее действия во время конфликта в Эфиопии.Критики говорят, что Meta и другие социальные сети делают слишком мало для предотвращения распространения дезинформации и контента, разжигающего ненависть на этнической почве. А в некоторых случаях удаление контента занимает слишком много времени, в основном после того, как люди сообщают об этом.
Но есть и те, кто считает, что компания несправедлива в своей борьбе с контентом, содержащим ненависть — непропорционально удаляет сообщения, написанные на некоторых языках.
Meta всегда настаивала на том, что вложила значительные средства в развитие способности сети вылавливать такой контент на языках, наиболее распространенных в стране.
Есть модераторы, владеющие основными местными языками, но также соцсеть полагается и на искусственный интеллект и местных партнеров для отсечения опасного контента. Сколько модераторов работает с Meta по Эфиопии, никогда не было ясно.
Нынешний иск — не первый случай, когда «Фейсбук» обвиняли в том, что он делает слишком мало, чтобы остановить распространение контента, пропагандирующего этническую ненависть и насилие в Эфиопии.
В прошлом году бывшая сотрудница соцсети Фрэнсис Хауген заявила на слушаниях в Сенате США, что алгоритм платформы «разжигает этническое насилие… подталкивает крайние настроения и раскол», поскольку эти сообщения привлекают внимание и повышают вовлеченность пользователей. При этом, следовало из ее заявлений, Facebook не мог адекватно идентифицировать опасный контент и не разбирался во многих местных языках, включая и те, на которых говорят в Эфиопии.
К иску Абрама Меарега против Meta также присоединились несколько правозащитных организаций, а также юрист и правозащитник, бывший сотрудник Amnesty International Фиссеха Текле, который расследовал и предавал огласке факты насилия с обеих сторон в войне в Эфиопии, что сделало его мишенью для оскорблений. Он заявляет, что плохая модерация в Facebook сделала его работу невозможной и подвергла риску жизни членов его семьи.
Истцы просят суд обязать Facebook принять меры для исправления ситуации, в том числе:
- создать фонд для возмещения убытков жертвам ненависти и насилия, спровоцированных соцсетью, в размере около 200 млрд кенийских шиллингов (около 1,6 млрд долларов) и еще 50 млрд кенийских шиллингов за аналогичный ущерб от рекламных постов.
- изменить алгоритм так, чтобы он перестал выдавать в «рекомендованном» сообщения, носящие «подстрекательский, содержащий ненависть и опасный контент»
- нанять достаточно модераторов для перевода контента на местных языках, обеспечив тем самым равенство между модерацией для пользователей в Найроби и США.