Наш новый высокотехнологичный сотрудник охотится на мошенников круглосуточно и без выходных и на 100 процентов удаляет помеченные объявления

На платформе размещения HousingAnywhere безопасность наших пользователей превыше всего. Платформа была спроектирована таким образом, что, если бизнес ведется в безопасных пределах платформы, мошенники не могут обманывать пользователей своих денег. Один из наших основных принципов - защитить пользователей от мошенничества с помощью нашей 48-часовой политики. Когда арендаторы платят арендную плату за первый месяц для обеспечения своего жилья, деньги не идут напрямую рекламодателю; во-первых, HousingAnywhere надежно хранит деньги и переводит средства рекламодателю только через 48 часов после въезда арендатора. Это дает арендаторам возможность сообщать о любых случаях мошенничества.

Мошенники могут быть настойчивыми и будут продолжать создавать фальшивые списки в надежде отвлечь нетерпеливых поисковиков от безопасности платформы. Как и многие другие платформы, в последние годы мы вручную определяли и удаляли профили мошенников, чтобы поддерживать качество наших услуг. К сожалению, на это было потеряно слишком много драгоценного времени; наша служба поддержки клиентов иногда тратила от 70 до 80 часов в неделю на борьбу с мошенниками, а при появлении около 200 поддельных рекламных объявлений в месяц может потребоваться десять часов, чтобы объявление было помечено как мошенническое. Все это время мошенники могли пытаться убедить пользователей отправлять платежи или личные данные за пределами безопасности платформы. Стремясь улучшить защиту, которую мы предлагаем нашим пользователям, и вдохновленные другими технологическими достижениями, которые мы делаем на нашей платформе, мы начали более эффективно отслеживать и бороться с мошенниками.

Дилемма сборки и покупки: стоит ли инвестировать в проприетарные технологии?

Тема мошенников и предотвращения мошенничества, конечно, не нова. Некоторые компании предлагают эту профилактику как часть своих услуг, часто в связи с платформой SaaS. Существует два широко распространенных подхода: модераторы-люди или автоматическая проверка. Хотя модераторы-люди могут предложить до 100% успеха, трудно найти хорошего провайдера. Кроме того, этот ручной подход по своей сути является дорогостоящим и (для целей HousingAnywhere) недостаточно масштабируемым, чтобы соответствовать быстрому росту нашей платформы.

Мы сразу же предпочли техническое решение, но стандартные пакеты либо слишком общие, либо основаны на статической фильтрации, которая не борется с динамической природой мошенничества. Мы поняли, что нам необходимо создать индивидуальное решение, которое идеально соответствовало бы характеру нашей платформы и сложности наших данных. Для нас это было захватывающе - в конце концов, мы техническая компания, обладающая необходимыми знаниями, опытом и энтузиазмом, чтобы это произошло. Входит Пенелопа.

Кто такая Пенелопа?

Пенелопа помогает нашим сотрудникам службы поддержки клиентов удерживать мошенников подальше от платформы более эффективно, чем только люди могут мечтать. Пенелопа, разработанная собственными силами, запрограммирована искусственным интеллектом; мы обучили ее на данных, собранных за последние три года, которые используются для документирования поведения мошенников на платформе.

Работа с данными, генерируемыми живой платформой, оказалась сложной (беспорядочные несоответствия, кто-нибудь?). Перед нами стояли задачи, совершенно отличные от тех, с которыми вы обычно сталкиваетесь при работе над онлайн-соревнованиями по науке о данных, когда кто-то готовит и очищает данные за вас. Простое стремление к фактическому развертыванию продукта, управляемого ИИ, позволило нам значительно вырасти как в команде, так и в компании. По сути, машинное обучение не является самоцелью; ценность появляется только тогда, когда она используется для создания продуктов для людей, которые действительно вносят свой вклад.

Пенелопа изучает различные параметры вновь созданных объявлений, такие как местонахождение поставщика, а также местонахождение и стоимость предлагаемой недвижимости. Она также изучает множество поведенческих «красных флажков», чтобы определить, является ли листинг мошенническим; например, если арендодатель регистрируется в городе, отличном от того, в котором находится его собственность, это увеличивает вероятность попытки мошенничества. Существуют десятки индикаторов мошенничества (которые мы не будем раскрывать здесь полностью, как вы понимаете), и все они учитываются при оценке Пенелопы. Если вероятность мошенничества превышает 80 процентов, Пенелопа автоматически помечает профиль как мошеннический, и он будет немедленно удален. С вероятностью от 20 до 80 процентов отправляет уведомление в службу поддержки, чтобы можно было выполнить ручную проверку листинга. Пенелопа: идеальное сочетание искусственного и человеческого интеллекта!

Блокирование все более изощренного мошенничества: добавление уровней ИИ для обнаружения нового поведения

Во время тестирования, когда Пенелопа была еще в младенчестве, мы вскоре заметили, что алгоритмы, хотя и особенно эффективные, со временем, казалось, теряли часть своей эффективности. Мы изучили данные и обнаружили, что поведение мошенников меняется всякий раз, когда мы вносим изменения в платформу. Короче говоря, стратегия мошенничества развивалась с той же скоростью, что и мы! Чтобы учесть это, мы теперь тренируем ИИ каждую неделю, давая ему доступ к все более обширному набору поведенческих характеристик. Он работает с разными моделями, каждая из которых относится к определенному периоду в прошлом платформы. Например, есть модель, основанная на поведении, изученном три года назад, которая актуальна и сегодня; другая модель работает с данными за прошлый год, а третья работает с текущими данными, возраст которых составляет всего несколько дней или недель. На основе всех этих моделей Пенелопа вычисляет средневзвешенное значение, которое обеспечивает оптимальную эффективность при блокировке новых подозрительных объявлений и более точном прогнозировании поведения мошенников в будущем.

Пенелопа сократила нашу человеческую нагрузку на ›80%, а время ответа - менее чем до часа

Поскольку Пенелопа начала работать на платформе HousingAnywhere в январе этого года, персоналу нашей службы поддержки нужно проверить только от десяти до пятнадцати процентов от первоначального количества подозрительных объявлений. Вместо 80 часов они теперь тратят только десять-пятнадцать часов в неделю на борьбу с мошенниками. Более того, время, необходимое для выявления мошенника, было сокращено с десяти часов до одного, а это означает, что время, необходимое мошеннику для установления контакта и убеждения арендатора, сократилось; как правило, объявления удаляются еще до того, как у них появляется такая возможность. Не соответствуете стандартам Пенелопы? Она назовет вас и опозорит вас (отправив уведомление в нашу службу поддержки). По сей день злонамеренный мошенник еще не перехитрил ее ...

Написано в сотрудничестве с Массимо Беллони, (человеческим) разумом, который создал Пенелопу и вырастил ее, как дочь, и Келли Тома за помощь в повышении точности итерация за итерацией.