Instagram начнет предупреждать пользователей, прежде чем они будут публиковать «потенциально оскорбительные» подписи

Начиная с сегодняшнего дня, Instagram начнет предупреждать пользователей, когда они собираются опубликовать «потенциально оскорбительную» подпись к фотографии или видео, которые загружаются в их основной канал. Если пользователь Instagram публикует что-то, что, по мнению инструментов службы AI, может быть «вредоносным и недопустимым», приложение сгенерирует уведомление об этом, однако сохранит возможность пользователю оставить подпись без изменений.

Новая функция основана на аналогичном инструменте, на базе AI, который Instagram представил для комментариев еще в июле. Компания говорит, что подталкивание людей к пересмотру публикации потенциально вредных комментариев имело «многообещающие» результаты в борьбе компании с онлайн-издевательствами.

Это всего лишь последнее из серии мер, которые Instagram предпринимает для борьбы с издевательствами и троллингом на своей платформе. В прошлом году она начала использовать ИИ для фильтрации оскорбительных комментариев и проактивного обнаружения издевательств на фотографиях и подписях.

В отличие от других инструментов модерации, разница здесь в том, что Instagram полагается на то, что пользователи обнаружат, когда один из их комментариев пересекает черту. Это вряд ли остановит более решительных хулиганов платформы, но у нее есть шанс защитить людей от бездумных оскорблений.

Instagram утверждают, что новая функция в настоящее время тестируется только в определенных странах в но в ближайшие месяцы она будет доступна во всем мире.