STAN лучше справляется с единичным масштабом, некоррелированными параметрами. Из руководства STAN, §28.4 Моделирование условий и кривизны:

В идеале все параметры должны быть запрограммированы так, чтобы они имели единичный масштаб и чтобы уменьшалась апостериорная корреляция; Вместе эти свойства означают, что для оптимальной производительности алгоритмов Стэна не требуется вращения или масштабирования. Для гамильтониана Монте-Карло это подразумевает матрицу единичных масс, которая не требует адаптации, поскольку именно там инициализируется алгоритм. Риманов гамильтониан Монте-Карло выполняет это согласование на лету на каждом шаге, но такое согласование требует больших вычислительных ресурсов.

В вашем случае beta1 привязан к foreigner_n, у которого нет шкалы единиц, и поэтому он несбалансирован по сравнению с beta0. Кроме того, поскольку foreigner_n не центрирован, обе бета-версии изменяют положение p во время выборки, отсюда и апостериорная корреляция.

Стандартизация дает более управляемую модель. Преобразование foreigner_n в центрирование и единичный масштаб позволяет модели быстро сходиться и дает высокие эффективные размеры выборки. Я также утверждаю, что бета-версии в этой форме более интерпретируемы, поскольку beta0 фокусируется только на местонахождении p, а beta1 касается только того, как вариация в foreigner_n объясняет вариацию в afd_votes/total_votes.

library(readr)
library(rethinking)

d <- read_csv("https://gist.githubusercontent.com/sebastiansauer/a2519de39da49d70c4a9e7a10191cb97/raw/election.csv")
d <- as.data.frame(d)
d$foreigner_z <- scale(d$foreigner_n)

m1 <- alist(
  afd_votes ~ dbinom(votes_total, p),
  logit(p) <- beta0 + beta1*foreigner_z,
  c(beta0, beta1) ~ dnorm(0, 1)
)

m1_stan <- map2stan(m1, data = d, WAIC = FALSE,
                    iter = 10000, chains = 4, cores = 4)

Рассматривая выборку, имеем

> summary(m1_stan)
Inference for Stan model: afd_votes ~ dbinom(votes_total, p). 
4 chains, each with iter=10000; warmup=5000; thin=1;  
post-warmup draws per chain=5000, total post-warmup draws=20000.

              mean se_mean   sd         2.5%          25%          50%          75%        97.5% n_eff Rhat 
beta0        -1.95    0.00 0.00        -1.95        -1.95        -1.95        -1.95        -1.95 16352    1 
beta1        -0.24    0.00 0.00        -0.24        -0.24        -0.24        -0.24        -0.24 13456    1 
dev      861952.93    0.02 1.97    861950.98    861951.50    861952.32    861953.73    861958.26  9348    1 
lp__  -17523871.11    0.01 0.99 -17523873.77 -17523871.51 -17523870.80 -17523870.39 -17523870.13  9348    1

Samples were drawn using NUTS(diag_e) at Sat Sep  1 11:48:55 2018.
For each parameter, n_eff is a crude measure of effective sample size, 
and Rhat is the potential scale reduction factor on split chains (at
convergence, Rhat=1).

И глядя на график пар, мы видим, что корреляция между бета-версиями снижена до 0,15:

Дополнительный анализ

Первоначально я интуитивно догадывался, что нецентрированность foreigner_n была главной проблемой. В то же время я был немного сбит с толку, потому что STAN использует HMC / NUTS, которые, как мне кажется, должны быть довольно устойчивыми к коррелированным скрытым переменным. Однако я заметил в руководстве STAN комментарии о практических проблемах масштабной инвариантности из-за числовой нестабильности, которые также прокомментировал Майкл Бетанкур. в ответе CrossValidated (хотя это довольно старый пост). Итак, я хотел проверить, что больше всего повлияло на улучшение выборки - центрирование или масштабирование.

Центрирование в одиночестве

Центрирование по-прежнему приводит к довольно низкой производительности. Обратите внимание, что эффективный размер выборки - это буквально одна эффективная выборка на цепочку.

library(readr)
library(rethinking)

d <- read_csv("https://gist.githubusercontent.com/sebastiansauer/a2519de39da49d70c4a9e7a10191cb97/raw/election.csv")
d <- as.data.frame(d)
d$foreigner_c <- d$foreigner_n - mean(d$foreigner_n)

m2 <- alist(
  afd_votes ~ dbinom(votes_total, p),
  logit(p) <- beta0 + beta1*foreigner_c,
  c(beta0, beta1) ~ dnorm(0, 1)
)

m2_stan <- map2stan(m2, data = d, WAIC = FALSE,
                    iter = 10000, chains = 4, cores = 4)

что дает

Inference for Stan model: afd_votes ~ dbinom(votes_total, p).
4 chains, each with iter=10000; warmup=5000; thin=1; 
post-warmup draws per chain=5000, total post-warmup draws=20000.

              mean   se_mean          sd         2.5%          25%          50%         75%        97.5% n_eff Rhat
beta0        -0.64       0.4        0.75        -1.95        -1.29        -0.54         0.2         0.42     4 2.34
beta1         0.00       0.0        0.00         0.00         0.00         0.00         0.0         0.00     4 2.35
dev    18311608.99 8859262.1 17270228.21    861951.86   3379501.84  14661443.24  37563992.4  46468786.08     4 1.75
lp__  -26248697.70 4429630.9  8635113.76 -40327285.85 -35874888.93 -24423614.49 -18782644.5 -17523870.54     4 1.75

Samples were drawn using NUTS(diag_e) at Sun Sep  2 18:59:52 2018.
For each parameter, n_eff is a crude measure of effective sample size,
and Rhat is the potential scale reduction factor on split chains (at 
convergence, Rhat=1).

И все же, похоже, есть проблемный парный сюжет:

Масштабирование в одиночку

Масштабирование значительно улучшает выборку! Несмотря на то, что полученные апостериорные данные все еще имеют довольно высокую корреляцию, эффективные размеры выборки находятся в приемлемых диапазонах, хотя и значительно ниже, чем при полной стандартизации.

library(readr)
library(rethinking)

d <- read_csv("https://gist.githubusercontent.com/sebastiansauer/a2519de39da49d70c4a9e7a10191cb97/raw/election.csv")
d <- as.data.frame(d)
d$foreigner_s <- d$foreigner_n / sd(d$foreigner_n)

m3 <- alist(
  afd_votes ~ dbinom(votes_total, p),
  logit(p) <- beta0 + beta1*foreigner_s,
  c(beta0, beta1) ~ dnorm(0, 1)
)

m3_stan <- map2stan(m2, data = d, WAIC = FALSE,
                    iter = 10000, chains = 4, cores = 4)

уступающий

Inference for Stan model: afd_votes ~ dbinom(votes_total, p).
4 chains, each with iter=10000; warmup=5000; thin=1; 
post-warmup draws per chain=5000, total post-warmup draws=20000.

              mean se_mean   sd         2.5%          25%          50%          75%        97.5% n_eff Rhat
beta0        -1.58    0.00 0.00        -1.58        -1.58        -1.58        -1.58        -1.57  5147    1
beta1        -0.24    0.00 0.00        -0.24        -0.24        -0.24        -0.24        -0.24  5615    1
dev      861952.93    0.03 2.01    861950.98    861951.50    861952.31    861953.69    861958.31  5593    1
lp__  -17523870.45    0.01 1.00 -17523873.15 -17523870.83 -17523870.14 -17523869.74 -17523869.48  5591    1

Samples were drawn using NUTS(diag_e) at Sun Sep  2 19:02:00 2018.
For each parameter, n_eff is a crude measure of effective sample size,
and Rhat is the potential scale reduction factor on split chains (at 
convergence, Rhat=1).

График пар показывает, что все еще существует значимая корреляция:

Следовательно, хотя декорреляция переменных действительно улучшает выборку, устранение масштабного дисбаланса является наиболее важным в этой модели.