Публикации по теме 'linguistics'


Слова складываются! Почему «бейсбол - США + Индия = крикет»
Когда вы изучали математику, думали ли вы когда-нибудь о добавлении чего-либо, кроме чисел? Если 1 + 2 = 3, то почему нельзя сказать «зелень + фрукт = яблоко?» Сегодня, когда мы обучаем младенческий мозг искусственного интеллекта человеческому миру, оказывается, что мы можем это сделать. Чтобы научить машины интерпретировать человеческий язык, мы должны научить их отношениям между словами. Один из подходов к этому - обучить алгоритм с огромным количеством текста. К счастью, у..
НГ22. Вход и выход
Помимо сети общего назначения, содержащей приобретенные и врожденные знания, разум/мозг должен иметь каналы ввода/вывода для сенсорных и моторных функций. Каналы Модули Fodorian (упомянутые в NG20) предполагаются, хотя они не обязательно имеют архитектуру с концепциями и трехсторонними связями. В этом посте основное внимание уделяется интерфейсам между модулями и сетью общего назначения. Поэтому я предпочитаю «каналы» с более широким значением (возможно, включая релевантную физиологию..
Арифметика языка (часть 1)
Недавно я написал статью о противоречиях, которые я вижу в текущих дебатах об искусственном общем интеллекте. В той статье я написал: Прекрасно, что мы можем выделить своего рода внутреннюю структуру человеческого знания, просто пытаясь предсказать следующее слово в предложении, исходя из контекста. […] Как будто существуют определенные арифметические или алгебраические законы языка, которые мы еще не до конца понимаем, но которые делают некоторые последовательности слов..
Слова в векторах
Учебник по встраиванию слов Слова в векторах Понятия для встраивания слов Эта статья является второй в серии Учебник по встраиванию слов: 1. Что стоит за Word2vec | 2. Слова в векторах | 3. Статистическая теория обучения | 4. Классификатор Word2vec | 5. Гиперпараметры Word2vec | 6. Характеристики встраивания слов Первая статья, Что стоит за Word2vec , представила серию статей и заложила основу для встраивания слов. В этой статье мы рассмотрим..
Составные вероятностные контекстно-свободные грамматики для ознакомления с грамматикой: что делать дальше?
Райан Коттерелл и Адина Уильямс После моего (Райана) недавнего сообщения в блоге с обзором Kim et al. (2019) , я (Райан) получил просьбу прокомментировать ограничения их нейронной модели PCFG - как в ее приложении к английскому языку, так и, в более широком смысле, в его приложении к другим языкам, синтаксис которых типологически отличается от синтаксиса английского языка. Конечно, когда вас просят прокомментировать что-то, что не на 100% в вашей области знаний, в данном случае..
Вечный язык: как санскрит прокладывает путь в компьютерных науках
Вечный язык: как санскрит прокладывает путь в компьютерных науках Введение: Добро пожаловать в мой блог, где я исследую увлекательное взаимодействие между древним и современным миром. В этом первом посте мы погружаемся в вневременной язык санскрита и его неожиданную актуальность в области компьютерных наук. Как ярый технический энтузиаст, глубоко ценящий красоту санскрита, я рад продемонстрировать ценные способы, которыми этот древний язык формирует будущее вычислений. 1. Корни..
Слова как числа
Вложения, векторы и кодировки Когда я предлагаю представить смысл в виде ряда чисел, многие люди либо не верят, либо ужасаются. Как мы можем взять что-то столь прекрасное и столь же человечное, как высший смысл наших слов, и абстрагировать его в набор чисел? В этом посте я надеюсь показать вам, что действительно существуют способы представления значений слов в виде чисел, и что эти методы очень просты и невероятно эффективны. Томас Миколов — это имя, которое не так громко звучит в залах..