- Оценка и наказание вызванных сдвигов предпочтений в RecommenderSystems(arXiv)
Автор: Мика Кэрролл, Дилан Хэдфилд-Менелл, Стюарт Рассел, Анка Драган.
Вывод:контент, который рекомендательная система (RS) показывает пользователям, влияет на них. Таким образом, выбирая, какой рекомендатель использовать, неявно также выбирают, чтобы вызвать определенные внутренние состояния у пользователей. Более того, системы, обученные с помощью долгосрочной оптимизации, будут иметь прямые стимулы для манипулирования пользователями, например. изменить свои предпочтения, чтобы их было легче удовлетворить. В этой работе мы сосредоточимся на индуцированных изменениях предпочтений у пользователей. Мы утверждаем, что перед развертыванием проектировщики системы должны: оценить сдвиги, которые может вызвать рекомендация; оценить, будут ли такие сдвиги нежелательными; и даже активно оптимизировать, чтобы избежать проблемных сдвигов. Эти шаги включают в себя два сложных компонента: оценка требует прогнозирования того, как гипотетические политики повлияют на предпочтения пользователей в случае их развертывания — мы делаем это, используя исторические данные о взаимодействии пользователей для обучения модели прогнозирования пользователей, которая неявно содержит динамику их предпочтений; оценка и оптимизация дополнительно требуют метрик для оценки того, являются ли такие влияния манипулятивными или иным образом нежелательными — мы используем понятие «безопасных сдвигов», которые определяют область доверия, в пределах которой поведение является безопасным. В смоделированных экспериментах мы показываем, что наша изученная модель динамики предпочтений эффективна при оценке предпочтений пользователей и их реакции на новые рекомендации. Кроме того, мы показываем, что рекомендатели, оптимизированные для того, чтобы оставаться в зоне доверия, могут избежать манипулятивного поведения, продолжая привлекать внимание.
2. Вероятность процесса определяющей точки для последовательной рекомендации (arXiv)
Автор:Юли Лю, Кристиан Уолдер, Лексин Се
Аннотация.Последовательная рекомендация — это популярная задача в академических исследованиях, близкая к реальным сценариям приложений, где цель состоит в том, чтобы предсказать следующие действия пользователя на основе его/ее предыдущей последовательности действий. действия. В процессе обучения рекомендательных систем функция потерь играет важную роль в управлении оптимизацией моделей рекомендаций для создания точных предложений для пользователей. Однако большинство существующих методов последовательных рекомендаций сосредоточены на разработке алгоритмов или архитектур нейронных сетей, и было предпринято мало усилий для адаптации функций потерь, которые естественным образом вписываются в сценарий практического применения последовательных рекомендательных систем. Потери на основе ранжирования, такие как перекрестная энтропия и байесовское персонализированное ранжирование (BPR), широко используются в области последовательных рекомендаций. Мы утверждаем, что такие целевые функции страдают двумя присущими им недостатками: i) в этих формулировках потерь упускается из виду зависимость между элементами последовательности; ii) вместо того, чтобы уравновешивать точность (качество) и разнообразие, чрезмерное внимание уделяется только получению точных результатов. Поэтому мы предлагаем две новые функции потерь, основанные на вероятности процесса определяющей точки (DPP), которые можно адаптивно применять для оценки последующего элемента или элементов. Набор элементов, распределенный по DPP, фиксирует естественные зависимости между временными действиями, а декомпозиция ядра DPP по качеству и разнообразию подталкивает нас к тому, чтобы выйти за рамки функций потерь, ориентированных на точность. Экспериментальные результаты с использованием предложенных функций потерь в трех реальных наборах данных показывают заметные улучшения по сравнению с современными методами последовательных рекомендаций как в показателях качества, так и в показателях разнообразия.
3.Многозадачная система рекомендаций для научных статей с магистральными сетями (arXiv)
Автор:Арам Карими, Симон Добник
Аннотация. Поиск и выбор наиболее релевантных научных статей из большого количества статей, написанных исследовательским сообществом, — одна из ключевых задач для исследователей в наши дни. Как мы знаем, большая часть информации об исследовательском интересе для ученых и академиков содержится в статьях, которые они читают. Анализ и извлечение контекстуальных признаков из этих статей может помочь нам предложить наиболее подходящую для них статью. В этой статье мы представляем многозадачную рекомендательную систему (RS), которая прогнозирует бумажную рекомендацию и генерирует ее метаданные, такие как ключевые слова. Система реализована в виде трехступенчатого кодировщика глубокой нейронной сети, который пытается сопоставить более длинные последовательности текста с вектором встраивания и одновременно учится предсказывать частоту рекомендаций для конкретного пользователя и ключевые слова статьи. Мотивация этого подхода заключается в том, что темы статьи, выраженные в виде ключевых слов, являются полезным предиктором предпочтений исследователей. Для достижения этой цели мы используем системную комбинацию RNN, Highway и Convolutional Neural Networks для сквозного обучения контекстно-зависимой совместной матрицы. Наше приложение использует сети Highway для очень глубокого обучения системы, сочетая преимущества RNN и CNN, чтобы найти наиболее важный фактор и создать скрытое представление. Highway Networks позволяют нам улучшить традиционный конвейер RNN и CNN, изучая более сложные семантические структурные представления. Используя этот метод, мы также можем решить проблему холодного запуска и изучить скрытые функции по большим последовательностям текста.
4.AutoField: Автоматизация выбора функций в системах Deep Recommender (arXiv)
Автор:Ецзин Ван, Сянюй Чжао, Тун Сюй, Сянь Ву
Вывод. Качество функций влияет на эффективность рекомендаций. Таким образом, выбор функций является критическим процессом в разработке рекомендательных систем, основанных на глубоком обучении. Однако большинство существующих глубоких рекомендательных систем сосредоточены на разработке сложных нейронных сетей, пренебрегая процессом выбора функций. Как правило, они просто вводят все возможные функции в предлагаемую глубокую архитектуру или выбирают важные функции вручную экспертами-людьми. Первое приводит к нетривиальным параметрам встраивания и дополнительному времени вывода, а второе требует большого количества экспертных знаний и человеческого труда. В этой работе мы предлагаем платформу AutoML, которая может адаптивно выбирать поля основных функций в автоматическом режиме. В частности, мы сначала разрабатываем сеть дифференцируемых контроллеров, которая способна автоматически регулировать вероятность выбора определенного поля признаков; затем для переобучения модели глубоких рекомендаций используются только выбранные поля функций. Обширные эксперименты с тремя эталонными наборами данных демонстрируют эффективность нашей структуры. Мы проводим дальнейшие эксперименты для изучения его свойств, включая переносимость, ключевые компоненты и чувствительность к параметрам.
5. Автоматизированное машинное обучение для систем с глубокими рекомендациями: опрос (arXiv)
Автор: Бо Чен, Сянюй Чжао, Ецзин Ван, Вэньци Фань, Хуйфэн Го, Жуймин Тан
Аннотация. Глубокие рекомендательные системы (DRS) имеют решающее значение для современных коммерческих поставщиков онлайн-услуг, которые решают проблему информационной перегрузки, рекомендуя элементы, адаптированные к интересам и предпочтениям пользователя. Они обладают беспрецедентной эффективностью представления функций и способностью моделировать нелинейные отношения между пользователями и элементами. Несмотря на свои достижения, модели DRS, как и другие модели глубокого обучения, используют сложные архитектуры нейронных сетей и другие жизненно важные компоненты, которые обычно разрабатываются и настраиваются людьми-экспертами. В этой статье будет представлен исчерпывающий обзор автоматизированного машинного обучения (AutoML) для разработки моделей DRS. Сначала мы предоставим обзор AutoML для моделей DRS и связанных с ними методов. Затем мы обсудим современные подходы AutoML, которые автоматизируют выбор функций, внедрение функций, взаимодействие функций и проектирование системы в DRS. Наконец, мы обсуждаем привлекательные направления исследований и подводим итоги опроса.
