Послушай Илон, давай я покажу тебе спидран на тему модерации контента в социальных сетях - Блог Fixed.one
fixed-one_logo

Сервисный центр и магазин
техники Apple для друзей

Пн — Пт   : с 10 до 20 часов
Сб :  с 11 до 17 часов
(дежурный инженер)
ВОСКРЕСЕНЬЕ — ВЫХОДНОЙ

ЧИТАТЬ ВСЕ НОВОСТИ ДРУГ ЗА ДРУГОМ >>

Послушай Илон, давай я покажу тебе спидран на тему модерации контента в социальных сетях

На этой неделе Илон Маск сперва разбанил, а потом снова забанил популярного музыканта и предпринимателя Канье Уэста за то, что тот сходу после амнистии залез на броневичок и рассказал какой хороший был Адольф Гитлер. Видимо, под впечатлением этих новостей Майк Масник написал прекрасный текст о том, как оно бывает с социальными сетями. А в качестве аннотации оставим текст Бобука из его ТГ-канала @addmeto, где и нашли ссылку.

Очень пятничное чтиво: “Послушай Илон, давай я покажу тебе спидран на тему модерации контента в социальных сетях”. Читается на одном дыхании, там всего три странички о том, как твиттер дошел до жизни такой, и почему это всё не закончится никогда. От себя замечу, что поисковые системы, видео сервисы и почти все значимые платформы точно в той же ситуации.

—-

Это своего рода обряд посвящения для любой новой социальной сети. Они появляются, настаивают на том, что они «платформа для свободы слова», не совсем понимая, что это на самом деле означает, а затем быстро обнаруживают целую кучу довольно фундаментальных идей, вводят кучу быстрых (часто небрежных) изменений… и в итоге все они в основном оказываются в одном и том же месте, лишь с несколькими небольшими различиями на периферии. Послушайте, я сам прошел через это. В первые дни я настаивал на том, что сайты вообще не должны заниматься модерацией, включая мой собственный. Но я научился. Как и Parler, Gettr, Truth Social и многие другие.

В любом случае, Илон находится в несколько ином положении, потому что вместо того, чтобы начинать что-то новое, он взял на себя управление большой платформой. Я понимаю, что он, его приятели и многие другие люди считают, что Twitter особенно плох в этом, и что у него есть какие-то особые идеи по «возвращению свободы слова», но реальность такова, что Twitter был, безусловно, самой успешной платформой, занявшей позицию «мы поддерживаем свободу слова» в отношении контента, и со временем научился разбираться во многих нюансах и компромиссах.

И поскольку я надеюсь, что Маск преуспеет и Twitter останется жизнеспособным, я хотел узнать, можем ли мы помочь ему (и любому другому) быстро пройти основы кривой обучения модерированию контента, с которой сталкивается большинство новичков. Порядок уровней и степень серьезности каждого из них могут меняться со временем, и то, как все это сочетается вместе, может быть несколько иным, но, в конце концов, практически каждая крупная платформа социальных сетей в конечном итоге оказывается в одном и том же месте (в том месте, в котором Twitter уже был, когда Маск настаивал на том, что ему нужно все разрушить и начать сначала).

Первый уровень: «Мы — платформа для свободы слова! Все, что угодно!»

Круто. Круто. Птичка свободна! Все радуются.

«Извините, босс, мы получаем сообщения о том, что на сайте есть изображения и видеозаписи сексуальной эксплуатации и насилия над детьми (CSAM)».

Вот дерьмо. Думаю, мы должны убрать это.

Второй уровень: «Мы — платформа свободы слова! Но никакого CSAM!»

Итак, комедия теперь легальна на сайте. Все ликуйте. Все любите меня.

«Эм, босс. У нас огромная пачка писем из Голливуда, в которых говорится что-то о DMCA?»

О, да. Нарушение авторских прав — это плохо. Возьмите еще одного стажера, и пусть они все это удалят.

Третий уровень: «Мы — платформа свободы слова! Но никаких CSAM и никаких нарушений!».

Власть народу. Свобода — это здорово!

«Верно, босс, видимо, потому что вы постоянно говорите о свободе, большая группа людей воспринимает это как то, что у них есть «свобода» преследовать людей с оскорблениями и всякими оскорблениями. Люди уходят с сайта из-за этого, а рекламодатели снимают рекламу».

Кажется, это плохо. Скорее, пусть кто-нибудь напишет правила против языка ненависти.

Четвертый уровень: «Мы — платформа свободы слова без CSAM, нарушений и языка ненависти!».

Возвращение свободы — тяжелая работа, но все идет отлично. Люди уже любят меня?

«Эй, а что ФБР делает здесь? Что-то насчет 18 USC 2258A и как мы должны были сообщить обо всех этих CSAM в какую-то операцию под названием NCMEC?».

Ах, да. Возьмите стажера и убедитесь, что они передадут эти изображения. Мы подчиняемся всем законам!

Пятый уровень: «Мы — платформа свободы слова без CSAM, нарушений или языка ненависти, и мы соблюдаем все законы!»

Эти законы хороши. Мы подчиняемся законам. Социальные сети — это проще простого.

«Не хотелось бы беспокоить вас, босс, но наши пользователи снова злятся. Похоже, что люди размещают мемы, используя изображения из голливудских фильмов, а потом студии прислали уведомления DMCA, и, как вы приказали, интерн удаляет их. Поэтому люди злятся на вас за цензуру мемов».

Это кажется сложным. Можем ли мы попросить стажера отправить некоторые из них нашему внешнему юристу, чтобы он проверил их на предмет добросовестного использования, прежде чем удалять их?

Шестой уровень: «Мы — платформа для свободы слова, без CSAM или языка ненависти, и мы удаляем контент, нарушающий авторские права, но не контент для добросовестного использования, и мы соблюдаем все законы!»

Мемы должны продолжаться! Ура, добросовестное использование! Любите меня!

«Очень хорошо, босс. Люблю мемы, но, гм, тут репортер из NY Times на телефоне, и, видимо, мы не ловим всех CSAM, и они собираются написать статью о том, что мы стали новым центром для педофилов».

Это не может быть хорошо… Должно же быть какое-то решение? Пусть кто-нибудь позвонит в Microsoft и получит лицензию на их PhotoDNA. Это точно решит проблему?

Седьмой уровень: «Мы — платформа свободы слова, делаем все возможное, чтобы остановить CSAM, язык ненависти и нарушения, и мы соблюдаем все законы!»

Так, теперь все действительно сходится.

«Простите, босс, люди сейчас жалуются, что их заваливают спамом, и это отталкивает пользователей».

Спам — это плохо! Все против спама! Я уже сказал, что мы следуем всем законам, конечно, спам незаконен! Почему мы его не блокируем?

«Ну, наши юристы говорят, что большинство спама на самом деле законно».

Хорошо, тогда попросите одного из наших совершенно потрясающих инженеров разработать спам-фильтр. У него есть одна неделя, или он будет уволен.

Восьмой уровень: «Мы — платформа свободы слова, мы делаем все возможное, чтобы остановить CSAM, язык ненависти, нарушения и спам, и мы следуем всем законам!»

Теперь, когда спам блокируется, люди действительно будут любить меня!

«Добрый вечер, сэр, извините, что беспокою вас так поздно, но, видимо, фильтры спама и CSAM на самом деле отлавливают много законного контента, и это злит людей».

Увольте инженеров! Приведите мне новых инженеров, которые не отстой. И, я думаю, может быть, нанять кого-то для управления хотя бы некоторыми из этих вещей. Мы можем назвать их… «директорами по доверию». Звучит неплохо!

Девятый уровень: «Мы — заслуживающая доверия платформа свободы слова, мы делаем все возможное, чтобы остановить CSAM, язык ненависти, нарушения и спам, и мы следуем всем законам!»

Доверие. Это хорошее слово! Все доверяют нашей платформе теперь, когда у нас есть директор доверия!

«Простите, босс, но, похоже, у нас есть срочное письмо от правительственных чиновников из Малайзии о том, что кто-то разместил на нашем сайте статью, которая нарушает их законы, хотя на самом деле она просто обличает коррупцию в правительстве. Вы говорите, что мы следуем всем законам, так следуем ли мы этому требованию правительства Малайзии?»

Вот это да. Люди должны говорить правду власти! Давайте оставим этот контент!

«Хорошо, сэр, Малайзия заблокировала доступ к нашему сайту».

Десятый уровень: «Мы — заслуживающая доверия платформа для свободы слова, делаем все возможное, чтобы остановить CSAM, язык ненависти, нарушения и спам и следуем законам демократических стран».

Малайзия не может быть настолько важной. Я выступаю в защиту свободы слова! Люди уже любят меня?

«Привет, босс, если у вас есть минутка, мы получаем сообщения о том, что люди в Мьянме используют наш сервис для поощрения геноцида. Но у нас нет никого, кто говорит на этом языке, чтобы полностью понять, что происходит».

Можем ли мы нанять модераторов, которые понимают все языки?

«Языков очень много».

Что ж, либо нанимать больше людей, либо блокировать целые страны… я полагаю?

Одиннадцатый уровень: «Мы заслуживающая доверия платформа для свободы слова, которая делает все возможное, чтобы остановить CSAM, язык ненависти, нарушения, спам и геноцид, и мы работаем над тем, чтобы нанять больше модераторов для работы с иностранными языками».

Кажется, что глобальная политика сложна, но, может быть, я представлю свои предложения о мире во всем мире, чтобы люди полюбили меня!

«Простите за вторжение, босс, но многие наши самые активные пользователи злятся именно на вас, потому что фильтры ненависти, спама и авторских прав блокируют их отстойные мемы, а иногда их удаляют с платформы за слишком частое нарушение правил. Они думают, что вы сидите здесь и лично удаляете их аккаунты».

Почему все винят меня?!? Хорошо, давайте создадим «совет доверия», который будет рассматривать все вопросы и апелляции по модерации контента.

Уровень двенадцатый: «Мы — заслуживающий доверия сайт социальных сетей, который поддерживает открытый диалог, делая при этом все возможное, чтобы остановить CSAM, язык ненависти, нарушения, спам и геноцид, и мы работаем над тем, чтобы нанять больше специалистов по доверию и безопасности, наряду с созданием внешнего совета».

Хм. Наш слоган становится немного длинноватым.

«Извините, что снова врываюсь, босс, но Германия, один из наших крупнейших рынков в ЕС, имеет новый закон, который требует, чтобы мы удаляли любые «разжигания ненависти» в течение короткого времени, и если мы что-то упустим, то они могут оштрафовать нас намного больше, чем мы можем себе позволить».

Мы наняли больше людей в Германии и теперь проверяем сообщения как можно чаще, но по умолчанию удаляем контент, о котором сообщается. Мы не можем позволить себе такие штрафы, даже если в итоге мы переборщим с блокировкой.

Тринадцатый уровень: «Мы — заслуживающая доверия социальная сеть, которая делает все возможное, чтобы сбалансировать законы и нормы, и действительно старается быть гостеприимной для высказываний, поэтому, пожалуйста, дайте нам преимущество сомнения».

Почему все так злятся на меня все время?

«Да, босс, я знаю, что вам надоело меня слушать, но Голливуд подал на нас в суд. Они говорят, что наши заключения о добросовестном использовании — полная чушь, и мы нарушаем авторские права».

Нанимайте больше юристов! Выясните, сколько будет стоить этот иск, или посмотрите, можем ли мы просто заплатить лицензионный сбор! Пусть инженер напишет фильтр, который сможет определить добросовестное использование!

«Я не думаю, что компьютер может определить добросовестное использование, сэр».

Нанимайте ЛУЧШИХ инженеров! Если машина может управлять собой, то компьютер наверняка сможет понять, что такое добросовестное использование!

Четырнадцатый уровень: «Мы социальная сеть, которая способствует доверию и стремится соблюдать разумные законы, находя баланс для слова, и, пожалуйста, перестаньте кричать на нас».

Почему люди до сих пор так злятся?

«Извините, босс, я знаю, что это утомительно, но один из наших самых популярных пользователей приковал себя цепью к нашей входной двери, потому что мы удалили его аккаунт после того, как он преследовал кого-то, кто пытался минимизировать последствия изменения климата».

Почему люди такие плохие?

Пятнадцатый уровень: «Мы — социальная сеть, которая хочет, чтобы вы верили в доверие, и у нас есть юридическая команда, которая занимается законами, и команда доверия и безопасности, которая, знаете ли, работает над вещами».

Это утомительно.

«Эй, босс, извините, что прерываю, но это очень срочно. Похоже, что один из наших пользователей ведет прямую трансляцию того, как он расстреливает школу, крича о «свободе!».

О нет! Немедленно удалите его аккаунт.

Шестнадцатый уровень: «Мы — социальная сеть, которая действительно старается делать все возможное, но человечество — грязная штука».

Почему люди не могут быть просто хорошими? Я дал им свободу, и посмотрите, что они с ней сделали!

«Босс, босс, еще одно срочное дело. Похоже, один из наших пользователей пытается покончить с собой во время прямой трансляции на платформе, и мы не можем понять, где он находится!»

Разве мы не знаем наших пользователей? Придумайте лучшие способы получения этой информации и наймите больше людей для работы над доверием и безопасностью!

Семнадцатый уровень: «Мы — социальная сеть, которая старается изо всех сил. Пожалуйста, будьте добры».

Я просто хотел, чтобы люди любили меня и могли свободно делать мемы.

«Извините, босс, похоже, что ЕС принял новый закон, который означает, что мы будем обязаны удалять контент, о котором они сообщают, даже если он легален в других местах. Они хвалят вас за ваше прошлогоднее обещание подчиняться всем законам. Кроме того, это требует, чтобы у нас были сотрудники в каждой из этих стран, которые будут нести юридическую ответственность, если мы не справимся».

Зачем я это сказал? О, хорошо, давайте наймем больше людей в штат и сделаем все возможное, чтобы подчиниться этим законам.

Восемнадцатый уровень: «Мы — социальная сеть, делающая все возможное, чтобы выжить в глобально подключенном мире».

Марс сейчас выглядит довольно мило.

«Простите меня еще раз, босс, но теперь, когда вы согласились соблюдать законы ЕС, я должен отметить, что Индия приняла законы, которые похожи на законы ЕС, которые вы согласились соблюдать, и теперь они угрожают посадить в тюрьму ваших местных сотрудников, потому что вы не убираете контент, высмеивающий премьер-министра. Они говорят, что раз вы соблюдаете законы ЕС, они ожидают, что вы будете соблюдать и их законы».

Индия — это огромный рынок. Мы не сможем выжить без Индии. Можем ли мы, гм, удалить, возможно, некоторые из худших постов за нарушение наших правил, и попытаться оставить остальные?

Девятнадцатый уровень: «Мы — социальная сеть, делающая все возможное в этом безумном мире».

Я просто хотел, чтобы все меня любили?

«Босс, прошу прощения, но наш самый известный и популярный пользователь, президент, призывает своих ярых фанатов сжечь наши офисы, потому что мы провели проверку фактов на его сообщение, призывающее людей душить всех, у кого другие политические взгляды».

Как вы думаете, кто-нибудь купит нас?

Двадцатый уровень: «Слушайте, мы всего лишь чертов сайт. Разве вы не можете вести себя прилично?»

Поздравляем, вы завершили игру…. Шучу! Она никогда не закончится. Будет только хуже, и вы будете совершать ошибки, и люди будут злиться, и лично обвинять вас, и настаивать на том, что вы намеренно пытаетесь «цензурировать» их блестящие идеи, и рекламодатели будут злиться, и политики будут давить на вас, чтобы вы выполняли их просьбы, и СМИ будут критиковать каждую ошибку. Вы владеете социальной сетью. Разве это не весело?

Добавить комментарий

Прокрутить наверх