Публикации по теме 'word-embeddings'


Вложения слов: подробное введение для начинающих
Что такое вложения слов? Зачем их учить? Грубо говоря, это векторные представления определенного слова. Сказав это, мы расскажем, как их генерировать? И что еще более важно, как это делается? Вложения слов - это тип представления слов, который позволяет словам с похожим значением иметь аналогичное представление. Это собирательное название для набора техник языкового моделирования и изучения особенностей в обработке естественного языка (NLP), где слова или фразы из словаря..
Вложения слов
Эта статья призвана дать интуитивное представление о вложениях слов с использованием информации из некоторых из самых известных статей в этой области. Зачем нам нужны векторы слов? Другой вариант, который у нас есть, - это представить каждое слово в документе как вектор с горячим кодированием. Попробуем подумать над некоторыми проблемами с этим. Размер словарного запаса : каждое слово будет представлено фигурой, равной вашему словарному запасу. Это могут быть миллионы...
Я не мог понять следующие два отрывка из статьи.
Я не мог понять следующие два отрывка из статьи. Они упоминают использование BiLSTM вместо LSTM? Как два LM были включены в архитектуру? Двунаправленная языковая модель: Как и в существующих работах (Peters et al., 2017, 2018), мы не ограничиваемся тонкой настройкой однонаправленной языковой модели. Для всех наших экспериментов мы предварительно обучаем как прямой, так и обратный LM. Мы независимо настраиваем классификатор для каждого LM, используя BPT3C, и усредняем прогнозы..
GeoVec: вложения слов для наук о Земле
Аналогии, категоризация, родство и пространственная интерполяция вложений слов. Рекомендуемые чтения, упомянутые в этом сообщении Глубокое обучение и почвоведение - Часть 1 Спектры почвы для прогнозирования свойств почвы. Многозадачная сверточная нейронная сеть для прогнозирования различных свойств почвы… todatascience.com Глубокое обучение и почвоведение. Часть 2 Цифровое картирование почв с..
Можем ли мы применить НЛП к местным языкам (кроме английского)?
Как мы все знаем, в последнее время все больше внимания в области ИИ уделяется обработке естественного языка (NLP) . Как мы можем определить НЛП? НЛП является частью искусственного интеллекта, который дает машинам возможность читать, понимать и интерпретировать человеческие языки. Существуют различные проблемы реального мира, такие как анализ чувств, чат-боты, языковой перевод и многие другие, для решения которых используются методы НЛП. Большинство людей уже были знакомы с..
Слова как числа
Вложения, векторы и кодировки Когда я предлагаю представить смысл в виде ряда чисел, многие люди либо не верят, либо ужасаются. Как мы можем взять что-то столь прекрасное и столь же человечное, как высший смысл наших слов, и абстрагировать его в набор чисел? В этом посте я надеюсь показать вам, что действительно существуют способы представления значений слов в виде чисел, и что эти методы очень просты и невероятно эффективны. Томас Миколов — это имя, которое не так громко звучит в залах..
Спасибо за ваш замечательный пост!
Спасибо за ваш замечательный пост! Это действительно полезно. Я работаю над проблемой nlp, и моя текущая модель выглядит следующим образом: inp1 = Ввод (форма = (Нет,)) inp2 = Ввод (форма = (Нет,)) слова = объединить ([inp1,inp2]) x = Concat_Emb([glove_emb, crawl_emb], maxlen=max_len)(слова) x = двунаправленный (CuDNNLSTM (LSTM_UNITS, return_sequences = True)) (x) x = двунаправленный (CuDNNLSTM (LSTM_UNITS, return_sequences = True)) (x) скрытый = объединить([..