Причинное мышление — способность понимать и анализировать причинно-следственные связи между событиями — долгое время считалось отличительной чертой человеческого интеллекта. С раннего возраста люди интуитивно устанавливают причинно-следственные связи, чтобы понять окружающий их мир. Но могут ли системы искусственного интеллекта приобрести эту способность, которая так естественна для людей?
Недавние достижения в больших языковых моделях (LLM), таких как GPT-3 и ChatGPT, позволили совершить новый прорыв в возможностях ИИ. LLM обучаются на обширных наборах данных онлайн-текста, чтобы предсказывать последовательности слов. Их основа на естественном языке позволяет LLM, таким как ChatGPT, генерировать удивительно похожий на человеческий текст по запросу. Но некоторые ученые считают, что LLM, возможно, также научились чему-то более глубокому — элементам рассуждений, включая причинно-следственные рассуждения.
Причинные рассуждения кажутся людям интуитивными, но на самом деле они сложны. Ученые разбивают его на различные типы причинно-следственных связей. Недавние исследования показывают, что передовые системы искусственного интеллекта, возможно, приобрели некоторые возможности в различных формах причинно-следственных рассуждений. Давайте посмотрим, как они работают с задачами, основанными на ковариации, логике, типах и реальных причинно-следственных связях.
Основанное на ковариации причинное рассуждение
Области, основанные на статистике, такие как эконометрика, полагаются на причинно-следственную связь, основанную на ковариации. При этом используется анализ данных для оценки силы причинно-следственных связей между переменными. Например, для расчета того, насколько новая рекламная кампания увеличила продажи, требуется оценка условного среднего эффекта обработки на основе данных наблюдений.
Примечательно, что большие языковые модели (LLM) достигли точности 97% в определении причинно-следственных связей между парами переменных, используя только текстовые описания переменных. Они также со знанием дела изучили полные диаграммы причинно-следственных связей, кодирующие гипотетические отношения между большими наборами переменных. Тем не менее, они все же допустили некоторые основные ошибки, указывающие на ограниченность надежных причинно-следственных рассуждений.
Причинно-следственные рассуждения, основанные на логике
Некоторые области, такие как юриспруденция, делают упор на причинно-следственную связь, основанную на логике, используя контрфактический анализ и знание предметной области для вывода о причинах. Здесь LLM продемонстрировали значительные улучшения в ответах на вопросы в стиле «что, если», при этом GPT-4 достиг 92%…
