«Почта Mail.ru» представила обновленную технологию борьбы с фишинговыми письмами. В рамках существующей комплексной защиты пользователей от спама сервис будет дополнительно предупреждать в случае, если у системы возникнут минимальные подозрения о наличии сомнительного контента. Владелец аккаунта, в свою очередь, сможет прочитать такое письмо и, нажав кнопку «Заблокировать» на специальной всплывающей плашке, оградить себя и других пользователей от мошенников.
Технология борьбы с мошенническими письмами в «Почте Mail.ru» представляет собой сложную систему машинного обучения. Так называемый «антифишинг» включает в себя целый комплекс различных инструментов: модели компьютерного зрения, нейросети для обработки естественного языка, ансамблирование различных сигналов и др. Именно он позволяет высокоэффективно выявлять спам и подозрительный контент, ограждая пользователей сервиса от особо чувствительных мошеннических действий: перехват почтовых аккаунтов, банковских карт, получение доступа к платежным сервисам.
Благодаря обновлению антифишинговой системы «Почта Mail.ru» усовершенствовала технологию борьбы с такими угрозами. Теперь помимо основного многоуровневого анализа писем на спам, если сервис распознает содержание письма и найдет в нем минимальную угрозу мошенничества, всплывающая плашка предупредит об этом владельца аккаунта. Он заранее будет осведомлен о возможной опасности и сможет более внимательно оценить содержание письма, осознавая риски перехода по ссылкам и предоставления запрашиваемой в письмах информации.
После прочтения у пользователя будет возможность дать обратную связь системе безопасности сервиса. Он сможет нажать кнопку «Заблокировать», то есть пометить письмо как спам; перейти по ссылке «Подробнее о фишинге» и узнать, как работает технология защиты; или кликнуть на крестик, чтобы плашка не появлялась до повторного открытия письма.
Выбор статуса письма даст системе знак, что содержанию сообщения можно доверять или, наоборот, делать этого не стоит. Модели антифишинга запомнят эти действия, учтут их в последующих циклах обучения и в будущем будут сразу отправлять письмо в спам или показывать его без предупреждающей плашки.