Фінансові новини
- |
- 17.11.26
- |
- 06:53
- |
-
RSS - |
- мапа сайту
Авторизация
Facebook рассказал о проблемах модерации в соцсети
08:06 16.05.2018 |

Представитель компании Facebook заявил, что только за первые три месяца 2018 года в соцсети были удалены или получили предупреждения около 29 млн постов, нарушивших правила, запрещающие разжигание ненависти, публикацию сцен насилия и секса, а также пропаганду терроризма.
Это первый случай публикации руководством Facebook подробных данных о том, каких усилий от компании требует обеспечение соблюдения в соцсети этих правил.
Facebook также сообщил, что занимается разработкой компьютерные программ с использованием искусственного интеллекта, которые должны прийти на помощь 15 тысячам модераторов компании.
Однако из опубликованного отчета следует, что компьютерные программы пока способны распознавать далеко не все нарушения.
Например, автоматические алгоритмы распознали лишь 38% разжигающих ненависть постов. Это означает, что остальные 62% были обнаружены лишь потому, что о них сообщил кто-то из пользователей.
В то же время, как заявляет компания, разработанные ей программы заметили 99,5% пропагандистских постов в поддержку экстремистов "Исламского государства", "Аль-Каиды" (обе запрещены в России) и других связанных с ними группировок.
Данные, опубликованные компанией, свидетельствуют о том, что в первом квартале текущего года пользователи соцсети с большей вероятностью, чем в предыдущие три месяца, могли столкнуться с изображениями сцен насилия и обнаженной натуры.

Однако компания признается, что еще не разработала способ подобного сравнения в случае с разжиганием ненависти и пропагандой терроризма.
"Когда мы поймем, как это правильно делать, мы усовершенствуем нашу методику", - заявил глава отдела управления продуктами Facebook Гай Розен.
Насилие и секс
Facebook разбил запрещенный контент на несколько категорий:
* изображения сцен насилия;
* взрослая обнаженная натура и сцены секса;
* спам;
* разжигание ненависти;
* фейковые аккаунты.
Что касается последней категории, то, по оценкам компании, фейковыми являются 3-4% всех активных аккаунтов соцсети. Facebook заявил, что с января по март включительно были закрыты 583 млн фейковых аккаунтов.
Данные свидетельствуют о том, что количество изображений, содержащих сцены насилия, резко возросло - на 183% по сравнению с предыдущим периодом.
Facebook считает, что причиной этого стали появление более совершенной системы распознавания подобных изображений и эскалация насилия в Сирии.
В январе-мае из соцсети было удалено 1,9 млн сообщений экстремистского характера, это на 73% больше, чем в предыдущем квартале.
Опубликованные данные выглядят многообещающе для регулирующих органов, особенно в США и Великобритании, где власти призывали Facebook остановить распространение в соцсети материалов экстремистских группировок.

"Компания делает правильные шаги к четкому распознаванию того, что из публикуемого на их платформе контента попадает под защиту законного права на свободу выражения, а что нет", - говорит эксперт Центра изучения информационных технологий в интересах общества Института Калифорнии Бренди Ноннеке.
"Компании Facebook предстоит проделать огромную работу", - добавила она.
Нюансы и контекст
Сложность этой работы становится очевидной на примере постов, разжигающих ненависть - это категория, которую трудно контролировать при помощи автоматизированных процессов.
В январе-марте компания удалила 2,5 млн подобных постов - это на 56% больше, чем в октябре-декабре прошлого года.
С подавляющим большинством из них разбирались не алгоритмы, а модераторы, но даже они испытывали проблемы в определении того, что можно оставить, а что следует удалить.
"Здесь есть нюансы: важен контекст, который компьютерные технологии не в состоянии распознать, - говорит глава отдела обработки данных Алекс Шульц. - Так что в подобных случаях мы часто полагаемся на нашу команду специалистов, которые принимают окончательное решение о том, что должно быть удалено", - говорит он.
Шульц приводит пример использования некоторых слов, которые могут быть оскорблением, если звучат из уст гомофоба, но имеют другое значение, когда их употребляют сами геи.
Поэтому удалять посты только потому, что они содержат определенные слова, было бы неправильно.

"Но как вы узнаете, гей человек или нет, когда просматриваете данные его аккаунта?" - спрашивает он.
"В моем случае у меня это написано прямо в описании аккаунта. Я совершенно открытый гей, - говорит Шульц. - Но не все такие, и мы не всегда можем это знать. Это очень сложная проблема".
Тревожная выборка
Пытаясь понять, не упускают ли они что-нибудь важное, сотрудники компании сделали случайную выборку постов и посчитали, как часто встречаются нарушения правил размещения сообщений в соцсети.
Результаты оказались весьма тревожными.
Согласно выборке, 27 постов из каждых 10 тысяч содержали те или иные сцены насилия. Учитывая, что ежедневно в "Фейсбук" заходят полтора миллиарда пользователей, в соцсети могут каждый день появляться незамеченными модераторами десятки миллионов постов, содержащих сцены насилия.
Согласно все той же выборке, 7-10 постов из каждых 10 тысяч содержат обнаженную натуру или сцены секса.
Материалов, связанных с пропагандой терроризма, в этой выборке, по словам Шульца, оказало слишком мало. Что же касается разжигания ненависти, тот тут у компании "нет какой-либо надежной информации".
"Сейчас мы не можем подсчитать, как часто в "Фейсбуке" появляются посты, которые можно классифицировать как разжигание ненависти, потому что, когда мы просим наших представителей определить, содержит тот или иной пост ненависть или нет, перевести мнения в цифры оказывается довольно непросто", - говорит он.
"Мы совершаем ошибки, но стараемся усовершенствовать нашу систему оценок", - добавляет Алекс Шульц.
На что есть время
Однако Дотти Люкс, обвиняющая Facebook в неспособности эффективно бороться с нападками в соцсети на различные меньшинства, утверждает, что сложность такой задачи не является оправданием.
"У меня заканчивается терпение, когда я слышу оправдания вроде "это действительно очень трудно", потому что это далеко не новая проблема", - говорит она.
"Там находят время, чтобы запустить приложения для знакомств, находят время, чтобы привязаться к моему банковскому счету, но у них нет времени на то, чтобы разобраться в собственных пользователях", - говорит Дотти Люкс.
Армия модераторов
В Facebook с неохотой рассказывают о том, что представляет собой их команда модераторов.
Компания, правда, упомянула, что, если при разборе инцидента необходимо знание американской культуры, с ним разбираются модераторы, базирующиеся в США. То же справедливо и для других стран.
Но Дотти Люкс считает, что компании не помешало бы быть более открытой.
"Если вы набираете людей, которые не представляют определенные социальные слои, различные культуры, эффекта не будет, - говорит она. - Это лишь закрепит существующую проблему".
ТЕГИ
ТОП-НОВИНИ
ПІДПИСКА НА НОВИНИ
Для підписки на розсилку новин введіть Вашу поштову адресу :
У РУБРИЦІ
Бізнес
| Скандал навколо Tesla у Південній Кореї: компанію звинувачують у продажу нефункціональної технології |


Україна отримає майже 8 млрд євро за програмою Ukraine Facility після виконання понад 20 кроків у межах реформ.
Кабінет Міністрів при доопрацюванні проєкту державного бюджету на 2027 рік погіршив прогноз економіки, зокрема погіршив прогноз ВВП у 2026 році зі зростання на 1,6% до зростання на 0,1%, тобто фактично без зростання, у 2027 році зі зростання на 1,3% до зростання на 0,4%.
Данія надсилає Україні новий пакет допомоги у вигляді військового обладнання на суму 4,8 млрд данських крон (близько 643 млн євро).
Держсекретар США Марко Рубіо заявив, що Україна після війни має відчувати себе у безпеці. Але при цьому країна матиме лише ті гарантії, на які погодиться Росія, бо інакше механізм не працюватиме.
Європейська комісія працює над виділенням Україні додаткових 45 млрд євро у 2027 році, щоб покрити близько двох третин дефіциту фінансування обсягом 70 млрд євро, понад вже заплановані кошти кредиту на загальну суму 90 млрд євро.
Чим не можна мити мийку Franke з граніту та нержавійки: 7 помилок, які псують поверхню, і правила догляду, щоб мийка служила роками.
Ця тилова вакансія підходить для кандидатів, що не можуть
виконувати бойові завдання у звʼязку із віком чи станом здоровʼя.
У США користувачі Gemini тепер можуть підключати банківські рахунки до чат-бота через інтеграцію з Google Wallet. Функція дає змогу аналізувати особисті фінанси, відстежувати витрати та планувати бюджет.
Компанія OpenAI оголосила про запуск платіжного сервісу ChatGPT Wallet, який дає змогу ШІ-агентам оплачувати покупки від імені користувача без прямого доступу до даних його банківської картки.
Американська аерокосмічна компанія SpaceX вперше змогла повернути верхній ступінь корабля Starship на стартовий майданчик та зловити його за допомогою механічних маніпуляторів при посадці на Землю.
Компанії TRON, Tether і Chainalysis оголосили про створення спільної ініціативи Digital Crime Task Force для боротьби з незаконною діяльністю у криптоіндустрії.
Гонка моделей породила окрему індустрію: люди й компанії, які не розробляють штучний інтелект, а продають йому «навчальне середовище». Брокери даних для ШІ торгують готовими даними для навчання з підкріпленням (RL-середовищами).
SpaceX офіційно представила нове покоління портативного термінала Starlink - Mini 2. Він отримав акумулятор із підтримкою швидкої заміни, а також тонший і міцніший корпус. Наразі попередні замовлення доступні обмеженому колу користувачів у США.
У повідомленні про оновлення каталогу ігор Sony оголосила, що 10 грудня 2026 року припинить підтримку програми PlayStation Plus для ПК.
Google (входить до Alphabet Inc.) розширює лінійку чипів для ШІ-розробок, зміцнюючи позиції на ринку обсягом у сотні мільярдів доларів, де домінує Nvidia Corp.
Найкраща LLM-модель виконала повністю самостійно лише 26,4% завдань. Дослідники з Alibaba та кількох азійських університетів створили бенчмарк Co-Design Bench, який перевіряє ШІ-агентів не на зручних лабораторних задачах, а на реальних правках, із якими такі системи раніше справлялися погано. 
Motorola представила смартфон Signature 27, котрий отримав найкращу камеру у цьому році та другу в історії, на думку DxOMark. Він має рейтинг 173 за цим показником - лише на два бали менше, ніж абсолютний лідер Huawei Pura 80 Ultra, та на один більше, ніж отримав iPhone 18 Pro.
У Південній Кореї звинувачують компанію Tesla в тому, що вона продавала південнокорейським власникам авто підписку на технологію, якою не можна користуватися в країні.
Криптобіржа Binance заявила, що хакери через фальшиву співбесіду отримали доступ до комп'ютера, а потім використали внутрішній ШІ-інструмент компанії для захоплення контролю над її гаманцями та викрадення $6,3 млрд.
BMW планує з 2027 року розширити можливості своєї системи допомоги водієві та навчити її працювати не лише на автомагістралях, а й на міських вулицях.