В презентации от 6 мая 2018 года сотрудник Facebook спросил: «Хорошо ли ранжирование?»
"Наверное. Даже задавать этот вопрос в Facebook кажется немного кощунственным», — ответил тот же сотрудник, сокращая текст ниже. «Так много экспериментов и запусков продуктов демонстрируют ценность ранжирования, что [sic] ценность часто воспринимается как предмет веры».
«Рейтинг» относится к тому, как крупнейшая в мире социальная сеть отдает приоритет тому контенту, который пользователи видят в новостной ленте, флагманском продукте Facebook. Список сообщений, которые пользователи видят при первом открытии Facebook, когда-то был в простом хронологическом порядке; теперь алгоритмы, разработанные компанией, упорядочивают посты на основе присвоенной им ценности. Сотрудник затронул центральный вопрос в Facebook, теперь известный как мета: как сбалансировать максимизацию прибыли и роста с поощрением поведения, которое, как знали разработчики алгоритмов, было вредно для здоровья. Согласно слайд-шоу, алгоритмы ранжирования компании увеличили время, которое пользователи проводят в Facebook, но сотрудники обнаружили, что это способствует ухудшению дружеских отношений. Так хорошо ли ранжирование? Другими словами: стоит ли ранжирование своих последствий?
Презентация является частью документы Facebook, подборка документов, предлагающих беспрецедентный взгляд на самую влиятельную социальную сеть в мире. Отчеты были впервые предоставлены Конгрессу в прошлом году Фрэнсис Хауген, продакт-менеджер Facebook, ставший разоблачителем, а позже полученный сотнями журналистов, в том числе в Gizmodo. Хауген свидетельствовал перед Конгрессом о вреде Facebook в октябре 2021 года.
Сегодня, в рамках постоянных усилий по созданию Facebook Papers общедоступно, Gizmodo выпускает вторую партию документов — всего 37 файлов. В нашем первом выпуске мы поделились 28 файлов связанные с выборами 2020 года и нападением на Капитолий США 6 января. Только несколько страниц когда-либо был показано публике до. У Гизмодо есть партнер с группой независимых экспертов для рассмотрения, редактирования и публикации документов. Этот комитет служит для консультирования и мониторинга нашей работы, а также для содействия ответственному раскрытию максимально возможного количества документов в общественных интересах. Мы верим в ценность открытого доступа к этим материалам. Наша общая цель — свести к минимуму любой потенциальный вред, который может возникнуть в результате раскрытия определенных методов, с помощью которых Meta решает деликатные вопросы, такие как торговля людьми в целях сексуальной эксплуатации, дезинформация и манипулирование избирателями.
Сегодняшняя партия дает представление о том, как Meta выбирает ранжировать контент, отправленный своими пользователями. Это система, которую, кажется, понимают очень немногие люди, проблема, которую компания не знает, как решить. Выбор этих документов в качестве дополнения к наиболее важным политическим событиям последних двух лет говорит о том, насколько мы высоко ценим их актуальность для понимания влияния Facebook на мир.
Эти документы предлагают нефильтрованный, хотя и фрагментарный взгляд на многолетние попытки Facebook присвоить эмоциональную ценность каждому прикосновению и клику в своем приложении. Этот процесс, который оказывает огромное влияние на виды информации, наиболее часто встречающиеся на платформе, известен как ранжирование. Он поддерживает одну из основных функций Facebook: ленту новостей (или просто «ленту», как теперь предпочитает называть ее компания).
Несколько ключевых документов касаются того, что Facebook называет «значимыми социальными взаимодействиями» — термин, введенный компанией в январе 2018 года. Этот показатель, по словам генерального директора Марка Цукерберга объяснил в то время предназначался для того, чтобы помочь расставить приоритеты над «личными связями» над бесконечным потоком вирусных новостей и видео в Интернете. Это «серьезное изменение», как он выразился, было сформулировано как попытка поставить на первое место «счастье и здоровье» пользователя — способ Facebook поощрять пользователей чаще проверять Facebook, вызывая чувство личной связи со своими лентами. .
Что представляет собой осмысленное социальное взаимодействие? Формулировка Меты кажется намеренно непрозрачной: это может быть то, что вы пьете холодное пиво со старым другом, или, может быть, ужин всей семьей под одной крышей. Для Facebook это математическая задача; способ научить компьютер присваивать некоторую степень ценности наиболее безобидному поведению в сети — наклейканапример, на посте случайного чудака.
Цукерберг опроверг перед Конгрессом что «увеличение времени, которое люди тратят» на просмотр своей ленты, всегда было целью Facebook. Это утверждение бросает вызов всему, что мы знаем о его бизнесе и слова своего первого заместителя. На самом деле финансовые раскрытия Meta в течение многих лет предупрежден инвесторов о следующем: «Если нам не удастся сохранить существующих пользователей или добавить новых пользователей, или если наши пользователи снизят уровень своего взаимодействия с нашими продуктами, это может серьезно повредить нашим доходам, финансовым результатам и бизнесу.(Подчеркнуто нами.) В феврале Facebook потерял сотни миллиардов на фондовом рынке из-за сообщений о том, что количество активных пользователей впервые в истории сократилось. У компании есть все основания для привлечения новых пользователей и увеличения времени, которое существующие пользователи проводят в социальной сети.
Что касается рейтинга, документы ниже содержат признание одного сотрудника, которое свидетельствует о затруднительном положении Facebook в отношении роста и здоровья пользователей. Сотрудник написал, что доказательства в пользу рейтинга «обширны и почти универсальны». Людям нравятся ранжированные ленты больше, чем хронологические. По словам сотрудника, «использование и вовлеченность немедленно падают» везде, где рейтинг ленты отключен. Однако более широкое использование имеет свою цену. Качество общего опыта пользователя снижается. Сотрудник продолжает утверждать, что, хотя модифицированные каналы, несомненно, увеличивают «потребление» — внутренний код Facebook для времени, проведенного в Facebook, — они также изменяют динамику «дружества», чтобы препятствовать «личному обмену».
«Чем лучше алгоритм ранжирования, тем ниже цена «плохой» дружбы», — пишет сотрудник, отмечая, что пользователи, у которых нет общих интересов, вряд ли будут видеть посты друг друга очень часто. «Снижая стоимость дружбы почти до нуля, ранжирование меняет семантику дружбы с «я забочусь о тебе» на «мне может быть интересно то, чем ты когда-нибудь поделишься».
Другими словами, ранжирование поощряет обмен меньшим количеством осмысленный сообщения, позволяя «плохому контенту распространяться дальше из-за бесплатного накопления друзей», говорится в презентации. Однако это мнение не является универсальным в Facebook: сотрудники в комментариях не согласились.
Эти документы показывают нам, что, несмотря на то, что Facebook заламывает руки по поводу того, что, по его мнению, «значимо» для пользователей или «достойно их времени», внутри компании сотрудники считают ранжирование слишком сложным, слишком непостижимым, чтобы когда-либо получить его. работа сделана правильно. Они также знают, что это система, от которой зависит будущее Facebook.
Объяснения, связанные с рейтингом
Документ, в котором один сотрудник поэтично восхваляет «цель» новостных лент как для пользователей Facebook, так и для мира в целом.
Еще один поэтический документ. Спойлер: ответ «иногда, для некоторых людей».
Платформа, связанная с рейтингом, и обновления продукта
Документ, объявляющий о новом рейтинговом эксперименте, направленном на сокращение «подстрекательского контента и дезинформации» в странах с высоким уровнем риска, таких как Шри-Ланка и Эфиопия.
Документ, объявляющий о новом эксперименте по ранжированию в отношении «гражданского» или политического контента, предназначенного для увеличения количества контента, который «стоит времени пользователя».
Предложения, связанные с рейтингом
Этот документ предлагает новый, несколько эзотерический способ внутреннего осмысления «производителей» и «потребителей» контента в лентах людей.
Документы, обсуждающие «понижения» в лентах
Объяснение от 2020 года о некоторых относительно новых способах, которыми компания измеряет общую эффективность понижений в должности.
Внутренний флаг от 2021 года, указывающий, что некоторые понижения не так точны, как должны быть, отчасти из-за того, что текущая система полагается на URL-адреса.
Документ, описывающий потенциальные стратегии повышения прозрачности в отношении понижений в должности.
Документ, объясняющий, почему прозрачность понижений в ленте людей не обязательно дает пользователям понять, насколько «законны» или «оправданы» эти понижения.
Внутреннее уведомление, разъясняющее, насколько «прозрачной» должна быть компания в отношении понижения содержания контента на Глобальном Юге. Ответ «не очень!»
Внутренний флаг об ограничениях, «теневых банах» и понижениях в должности, непропорционально затрагивающих контент, обсуждающий Палестину.
Документ, в котором один сотрудник обсуждает, что значит «замолчать» и «иметь право голоса» на платформе в отношении рейтинга.
Результаты эксперимента, в ходе которого компания проверяла понижение «тролльих» комментариев к сообщениям людей.
Документ, описывающий компромиссы между контентом, который стоит времени людей (с помощью внутренних показателей), и контентом, который понижается в должности.
Хронология бесчисленных экспериментов компании по понижению во второй половине 2020 года.
Документ 2020 года, объявляющий о предстоящем изменении рейтинга контента, связанного с политическим здоровьем.
Внутренний аудит текущей работы компании в сфере понижений.
Документ, описывающий, как компания должна измерять и минимизировать «сопутствующий ущерб», который может произойти с лентами людей в результате понижения.
Потенциальные идеи для понижения, которые могут отговорить злоумышленников от публикации плохого, достойного понижения контента.
Документы, посвященные «значимым социальным взаимодействиям» (MSI)
Серия заметок, объясняющих все, что касается «MSI». Части первая и третья содержат конфиденциальную информацию о Мете, поэтому они были опущены.
Внутренний список «полезных ссылок», чтобы объяснить, что такое «значимые социальные взаимодействия» и как компания их измеряет.
Краткое изложение, объясняющее некоторые основы того, как «осмысленность» определяется пост за постом.
Два документа, описывающие внутренний эксперимент, проведенный после того, как компания изменила свою внутреннюю метрику MSI в середине 2018 года, уделяя особое внимание общей реакции пользователей.
Обзор того, как измеряется MSI для маленьких и больших страниц.
Заметка, в которой ставится вопрос о том, насколько «спамные» публикации влияют на определение компании «значимых социальных взаимодействий».
Примечание, описывающее, как компания планирует не допустить, чтобы «приманка для взаимодействия» (также известная как приманка для кликов), «запугивание» и спам-комментарии не влияли на показатель MSI.
Внутренний тест на снижение влияния «сердитых» реакций на ранжирование и понижение в должности.
Заметки от 2020 года, объявляющие о предстоящих изменениях в способе измерения MSI, предназначенные для сбора более «значимых» или «полезных» сообщений и комментариев.
Внутренний открытый форум, на котором спрашивают, должна ли компания переосмыслить то, как она измеряет «наклейки» в комментариях, и, возможно, сделать их менее «значимыми».
Примечание с подробным описанием результатов эксперимента по расчету «повторного распространения» в терминах MSI.
Разные документы
Сотрудник жалуется на потерю внутреннего инструмента, который помогал сотрудникам Facebook понять рейтинг публикации.
Пост, в котором сотрудник обсуждает «ответственность» Facebook за разработку алгоритмов ранжирования.
кликните сюда чтобы прочитать все документы Facebook, которые мы выпустили до сих пор.
В презентации от 6 мая 2018 года сотрудник Facebook спросил: «Хорошо ли ранжирование?»
"Наверное. Даже задавать этот вопрос в Facebook кажется немного кощунственным», — ответил тот же сотрудник, сокращая текст ниже. «Так много экспериментов и запусков продуктов демонстрируют ценность ранжирования, что [sic] ценность часто воспринимается как предмет веры».
«Рейтинг» относится к тому, как крупнейшая в мире социальная сеть отдает приоритет тому контенту, который пользователи видят в новостной ленте, флагманском продукте Facebook. Список сообщений, которые пользователи видят при первом открытии Facebook, когда-то был в простом хронологическом порядке; теперь алгоритмы, разработанные компанией, упорядочивают посты на основе присвоенной им ценности. Сотрудник затронул центральный вопрос в Facebook, теперь известный как мета: как сбалансировать максимизацию прибыли и роста с поощрением поведения, которое, как знали разработчики алгоритмов, было вредно для здоровья. Согласно слайд-шоу, алгоритмы ранжирования компании увеличили время, которое пользователи проводят в Facebook, но сотрудники обнаружили, что это способствует ухудшению дружеских отношений. Так хорошо ли ранжирование? Другими словами: стоит ли ранжирование своих последствий?
Презентация является частью документы Facebook, подборка документов, предлагающих беспрецедентный взгляд на самую влиятельную социальную сеть в мире. Отчеты были впервые предоставлены Конгрессу в прошлом году Фрэнсис Хауген, продакт-менеджер Facebook, ставший разоблачителем, а позже полученный сотнями журналистов, в том числе в Gizmodo. Хауген свидетельствовал перед Конгрессом о вреде Facebook в октябре 2021 года.
Сегодня, в рамках постоянных усилий по созданию Facebook Papers общедоступно, Gizmodo выпускает вторую партию документов — всего 37 файлов. В нашем первом выпуске мы поделились 28 файлов связанные с выборами 2020 года и нападением на Капитолий США 6 января. Только несколько страниц когда-либо был показано публике до. У Гизмодо есть партнер с группой независимых экспертов для рассмотрения, редактирования и публикации документов. Этот комитет служит для консультирования и мониторинга нашей работы, а также для содействия ответственному раскрытию максимально возможного количества документов в общественных интересах. Мы верим в ценность открытого доступа к этим материалам. Наша общая цель — свести к минимуму любой потенциальный вред, который может возникнуть в результате раскрытия определенных методов, с помощью которых Meta решает деликатные вопросы, такие как торговля людьми в целях сексуальной эксплуатации, дезинформация и манипулирование избирателями.
Сегодняшняя партия дает представление о том, как Meta выбирает ранжировать контент, отправленный своими пользователями. Это система, которую, кажется, понимают очень немногие люди, проблема, которую компания не знает, как решить. Выбор этих документов в качестве дополнения к наиболее важным политическим событиям последних двух лет говорит о том, насколько мы высоко ценим их актуальность для понимания влияния Facebook на мир.
Эти документы предлагают нефильтрованный, хотя и фрагментарный взгляд на многолетние попытки Facebook присвоить эмоциональную ценность каждому прикосновению и клику в своем приложении. Этот процесс, который оказывает огромное влияние на виды информации, наиболее часто встречающиеся на платформе, известен как ранжирование. Он поддерживает одну из основных функций Facebook: ленту новостей (или просто «ленту», как теперь предпочитает называть ее компания).
Несколько ключевых документов касаются того, что Facebook называет «значимыми социальными взаимодействиями» — термин, введенный компанией в январе 2018 года. Этот показатель, по словам генерального директора Марка Цукерберга объяснил в то время предназначался для того, чтобы помочь расставить приоритеты над «личными связями» над бесконечным потоком вирусных новостей и видео в Интернете. Это «серьезное изменение», как он выразился, было сформулировано как попытка поставить на первое место «счастье и здоровье» пользователя — способ Facebook поощрять пользователей чаще проверять Facebook, вызывая чувство личной связи со своими лентами. .
Что представляет собой осмысленное социальное взаимодействие? Формулировка Меты кажется намеренно непрозрачной: это может быть то, что вы пьете холодное пиво со старым другом, или, может быть, ужин всей семьей под одной крышей. Для Facebook это математическая задача; способ научить компьютер присваивать некоторую степень ценности наиболее безобидному поведению в сети — наклейканапример, на посте случайного чудака.
Цукерберг опроверг перед Конгрессом что «увеличение времени, которое люди тратят» на просмотр своей ленты, всегда было целью Facebook. Это утверждение бросает вызов всему, что мы знаем о его бизнесе и слова своего первого заместителя. На самом деле финансовые раскрытия Meta в течение многих лет предупрежден инвесторов о следующем: «Если нам не удастся сохранить существующих пользователей или добавить новых пользователей, или если наши пользователи снизят уровень своего взаимодействия с нашими продуктами, это может серьезно повредить нашим доходам, финансовым результатам и бизнесу.(Подчеркнуто нами.) В феврале Facebook потерял сотни миллиардов на фондовом рынке из-за сообщений о том, что количество активных пользователей впервые в истории сократилось. У компании есть все основания для привлечения новых пользователей и увеличения времени, которое существующие пользователи проводят в социальной сети.
Что касается рейтинга, документы ниже содержат признание одного сотрудника, которое свидетельствует о затруднительном положении Facebook в отношении роста и здоровья пользователей. Сотрудник написал, что доказательства в пользу рейтинга «обширны и почти универсальны». Людям нравятся ранжированные ленты больше, чем хронологические. По словам сотрудника, «использование и вовлеченность немедленно падают» везде, где рейтинг ленты отключен. Однако более широкое использование имеет свою цену. Качество общего опыта пользователя снижается. Сотрудник продолжает утверждать, что, хотя модифицированные каналы, несомненно, увеличивают «потребление» — внутренний код Facebook для времени, проведенного в Facebook, — они также изменяют динамику «дружества», чтобы препятствовать «личному обмену».
«Чем лучше алгоритм ранжирования, тем ниже цена «плохой» дружбы», — пишет сотрудник, отмечая, что пользователи, у которых нет общих интересов, вряд ли будут видеть посты друг друга очень часто. «Снижая стоимость дружбы почти до нуля, ранжирование меняет семантику дружбы с «я забочусь о тебе» на «мне может быть интересно то, чем ты когда-нибудь поделишься».
Другими словами, ранжирование поощряет обмен меньшим количеством осмысленный сообщения, позволяя «плохому контенту распространяться дальше из-за бесплатного накопления друзей», говорится в презентации. Однако это мнение не является универсальным в Facebook: сотрудники в комментариях не согласились.
Эти документы показывают нам, что, несмотря на то, что Facebook заламывает руки по поводу того, что, по его мнению, «значимо» для пользователей или «достойно их времени», внутри компании сотрудники считают ранжирование слишком сложным, слишком непостижимым, чтобы когда-либо получить его. работа сделана правильно. Они также знают, что это система, от которой зависит будущее Facebook.
Объяснения, связанные с рейтингом
Документ, в котором один сотрудник поэтично восхваляет «цель» новостных лент как для пользователей Facebook, так и для мира в целом.
Еще один поэтический документ. Спойлер: ответ «иногда, для некоторых людей».
Платформа, связанная с рейтингом, и обновления продукта
Документ, объявляющий о новом рейтинговом эксперименте, направленном на сокращение «подстрекательского контента и дезинформации» в странах с высоким уровнем риска, таких как Шри-Ланка и Эфиопия.
Документ, объявляющий о новом эксперименте по ранжированию в отношении «гражданского» или политического контента, предназначенного для увеличения количества контента, который «стоит времени пользователя».
Предложения, связанные с рейтингом
Этот документ предлагает новый, несколько эзотерический способ внутреннего осмысления «производителей» и «потребителей» контента в лентах людей.
Документы, обсуждающие «понижения» в лентах
Объяснение от 2020 года о некоторых относительно новых способах, которыми компания измеряет общую эффективность понижений в должности.
Внутренний флаг от 2021 года, указывающий, что некоторые понижения не так точны, как должны быть, отчасти из-за того, что текущая система полагается на URL-адреса.
Документ, описывающий потенциальные стратегии повышения прозрачности в отношении понижений в должности.
Документ, объясняющий, почему прозрачность понижений в ленте людей не обязательно дает пользователям понять, насколько «законны» или «оправданы» эти понижения.
Внутреннее уведомление, разъясняющее, насколько «прозрачной» должна быть компания в отношении понижения содержания контента на Глобальном Юге. Ответ «не очень!»
Внутренний флаг об ограничениях, «теневых банах» и понижениях в должности, непропорционально затрагивающих контент, обсуждающий Палестину.
Документ, в котором один сотрудник обсуждает, что значит «замолчать» и «иметь право голоса» на платформе в отношении рейтинга.
Результаты эксперимента, в ходе которого компания проверяла понижение «тролльих» комментариев к сообщениям людей.
Документ, описывающий компромиссы между контентом, который стоит времени людей (с помощью внутренних показателей), и контентом, который понижается в должности.
Хронология бесчисленных экспериментов компании по понижению во второй половине 2020 года.
Документ 2020 года, объявляющий о предстоящем изменении рейтинга контента, связанного с политическим здоровьем.
Внутренний аудит текущей работы компании в сфере понижений.
Документ, описывающий, как компания должна измерять и минимизировать «сопутствующий ущерб», который может произойти с лентами людей в результате понижения.
Потенциальные идеи для понижения, которые могут отговорить злоумышленников от публикации плохого, достойного понижения контента.
Документы, посвященные «значимым социальным взаимодействиям» (MSI)
Серия заметок, объясняющих все, что касается «MSI». Части первая и третья содержат конфиденциальную информацию о Мете, поэтому они были опущены.
Внутренний список «полезных ссылок», чтобы объяснить, что такое «значимые социальные взаимодействия» и как компания их измеряет.
Краткое изложение, объясняющее некоторые основы того, как «осмысленность» определяется пост за постом.
Два документа, описывающие внутренний эксперимент, проведенный после того, как компания изменила свою внутреннюю метрику MSI в середине 2018 года, уделяя особое внимание общей реакции пользователей.
Обзор того, как измеряется MSI для маленьких и больших страниц.
Заметка, в которой ставится вопрос о том, насколько «спамные» публикации влияют на определение компании «значимых социальных взаимодействий».
Примечание, описывающее, как компания планирует не допустить, чтобы «приманка для взаимодействия» (также известная как приманка для кликов), «запугивание» и спам-комментарии не влияли на показатель MSI.
Внутренний тест на снижение влияния «сердитых» реакций на ранжирование и понижение в должности.
Заметки от 2020 года, объявляющие о предстоящих изменениях в способе измерения MSI, предназначенные для сбора более «значимых» или «полезных» сообщений и комментариев.
Внутренний открытый форум, на котором спрашивают, должна ли компания переосмыслить то, как она измеряет «наклейки» в комментариях, и, возможно, сделать их менее «значимыми».
Примечание с подробным описанием результатов эксперимента по расчету «повторного распространения» в терминах MSI.
Разные документы
Сотрудник жалуется на потерю внутреннего инструмента, который помогал сотрудникам Facebook понять рейтинг публикации.
Пост, в котором сотрудник обсуждает «ответственность» Facebook за разработку алгоритмов ранжирования.
кликните сюда чтобы прочитать все документы Facebook, которые мы выпустили до сих пор.
