БОЛЕЕ 80% РОЛИКОВ-НАРУШИТЕЛЕЙ НА YOUTUBE ВЫЯВЛЯЕТСЯ ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ
В рамках сервиса YouTube, осуществляется работа по поиску и устранению контента, нарушающего установленные правила. Уже опубликован первый отчёт, содержащий статистические сведения о выявленных нарушениях принципов сообщества. В дальнейшем планируется такие отчёты публиковать ежеквартально.
К концу года YouTube планирует улучшить систему информирования о нарушениях. Сервис внедряет историю жалоб. Пользователь в специальной панели сможет просмотреть статус видео, на которые он подал жалобу в связи с выявленными нарушениями.
Благодаря активному использованию YouTube(ом) компьютерных систем - миллионы роликов-нарушителей удаляются ещё до того, как кто-то успеет просмотреть их. Активное развитие систем машинного обучения позволяет ускорить устранение неподобающего контента в различных сферах риска, будь то экстремизм или спам.
Видео, где снято насилие и экстремизм
В IV квартале 2017 года было удалено более 8 млн роликов, нарушающих правила YouTube. В большинстве этих видео были замечены нарушения двух типов: спам и публикация контента для взрослых. При этом 6,7 млн роликов было помечено машинными системами в качестве таких, которые требуют проверки. И 76% из них были удалены ещё до того, как кто-то успел просмотреть их. В начале 2017 года лишь около 8% видео, помеченных и удалённых за сцены экстремизма, блокировались прежде чем они наберут 10 просмотров. После внедрения системы машинного обучения в июне 2017 года выявление таких видео существенно ускорилось и теперь уже более половины таких роликов блокируется прежде, чем они наберут 10 просмотров.
Помимо этого, электронная система лишь помечает и отбирает потенциально неприемлемый контент, окончательное решение о необходимости удаления видео принимают люди. В 2017 году было принято решение привлечь 10 тыс. сотрудников к модерации видео до конца 2018 года. При этом уже были наняты специалисты, являющиеся экспертами в сферах экстремизма, борьбы с терроризмом, защиты прав человека. Также осуществляется расширение региональных команд модераторов.
Информация предоставлена по материалам YouTube Official Blog
Александр Григорьев ЦСО "Крокус"
