Pok-ISI · Cvičenie 8

Stabilita a interpretovateľnosť modelov

Kompletné riešenie: doplnené TODO, skutočné výstupy z behu, grafy a vysvetlenie, čo z nich vyčítať. Dátová sada Give Me Some Credit (150 000 klientov, 6,7 % pozitívnych), rovnaké rozdelenie 60/20/20 ako v Cvičení 7.

Poznámka k dátam: OpenML bolo z môjho prostredia nedostupné, preto som načítal identickú Kaggle sadu (cs-training.csv) a premenoval stĺpce podľa zadania. Stĺpce môžu mať iné poradie ako v OpenML verzii, takže u teba sa môžu čísla líšiť v tretej desatinnej – závery sú rovnaké.

Príprava – úvodný kód

Training set: (90000, 10), calibration set: (30000, 10), test set: (30000, 10)
Share of the positive class: 0.067

Missing values in the training set:
monthly_income    17814
dependents         2316

Logistic regression  AUC on the test set 0.6968
Boosting             AUC on the test set 0.8624

Boosting (AUC 0,862) je výrazne lepší než logistická regresia (0,697). Logistickej regresii škodia dve veci, ktoré uvidíme aj ďalej: revolving_utilization má extrémne odľahlé hodnoty (medián 0,15, maximum ~50 000), takže po štandardizácii sú bežné hodnoty 0–1 prakticky nula, a stĺpce s omeškaniami obsahujú špeciálne kódy 96/98 namiesto skutočných počtov. Stromy sú voči obom problémom odolné, lineárny model nie.

Krok 1 · Úloha 1.1 – Stabilita koeficientov logistickej regresie

Doplnené TODO

for n_samples in [2000, len(X_train)]:
    coefs = []
    for seed in range(N_BOOTSTRAP):
        X_boot, y_boot = resample(X_train, y_train, n_samples=n_samples, stratify=y_train, random_state=seed)
        # TODO 1 – klon CELEJ pipeline (imputer + scaler + LR), aby sa aj medián a škálovanie
        #          naučili len z danej bootstrapovej vzorky
        boot_model = clone(linear_model).fit(X_boot, y_boot)
        coefs.append(boot_model[-1].coef_[0])          # posledný krok = LogisticRegression
    coef_samples[n_samples] = pd.DataFrame(coefs, columns=X.columns)

columns = {"coefficient": full_coef}
for n_samples, coefs in coef_samples.items():
    # TODO 2 – SD cez 100 opakovaní a podiel opakovaní s opačným znamienkom než referenčný model
    columns[f"SD (n = {n_samples})"] = coefs.std(ddof=1)
    columns[f"sign flips (n = {n_samples})"] = (np.sign(coefs) != np.sign(full_coef)).mean()

Prečo clone celej pipeline: keby sme preučili iba LR, imputer a scaler by ostali naučené na celej trénovacej množine → do bootstrapu by „presakovala“ informácia mimo vzorky a variabilita by bola podhodnotená.

Výstup

                       coefficient  SD (n = 2000)  sign flips (n = 2000)  SD (n = 90000)  sign flips (n = 90000)
revolving_utilization       -0.005          0.187                   0.23           0.014                    0.31
age                         -0.386          0.116                   0.00           0.016                    0.00
late_30_59                   2.049          0.444                   0.00           0.111                    0.00
debt_ratio                  -0.123          0.209                   0.27           0.042                    0.00
monthly_income              -0.377          0.261                   0.06           0.091                    0.00
open_credit_lines           -0.045          0.127                   0.37           0.018                    0.01
late_90                      1.961          0.725                   0.06           0.155                    0.00
real_estate_loans            0.085          0.120                   0.28           0.019                    0.00
late_60_89                  -3.856          1.651                   0.19           0.225                    0.00
dependents                   0.101          0.095                   0.12           0.014                    0.00

Pearson correlation of the three delinquency features:
            late_30_59  late_60_89  late_90
late_30_59       1.000       0.987    0.984
late_60_89       0.987       1.000    0.993
late_90          0.984       0.993    1.000
t11
Rozdelenie koeficientov cez 100 bootstrapov (vľavo n = 2 000, vpravo n = 90 000).
t11b
To isté bez odľahlých bodov – lepšie vidno rozptyl menších koeficientov.

Čo z toho plynie

Krok 2 · Úloha 2.1 – Globálne vysvetlenie (SHAP)

SHAP values: (2000, 10), base value: -3.562

Mean absolute SHAP value:
revolving_utilization    0.702
late_30_59               0.303
age                      0.226
late_90                  0.212
monthly_income           0.170
open_credit_lines        0.146
debt_ratio               0.125
late_60_89               0.122
real_estate_loans        0.095
dependents               0.024
beeswarm
Rojový graf: poloha = príspevok k log-odds, farba = hodnota príznaku.
dependence
Graf závislosti pre najdôležitejší príznak revolving_utilization (os x do 99. percentilu).

Úloha 2.2 – Vysvetlenie predikcie jedného klienta

Raw model output:                   1.3619
Base value + sum of SHAP values:    1.3619
Probability from the SHAP values:   0.7961
Probability from predict_proba:     0.7961

                       feature_value  shap_value
late_90                        4.000       1.969
late_60_89                     3.000       1.065
revolving_utilization          0.950       0.845
late_30_59                     6.000       0.706
debt_ratio                     0.733       0.275
monthly_income              3878.000       0.082
age                           60.000      -0.030
dependents                     0.000      -0.024
open_credit_lines             12.000       0.021
real_estate_loans              0.000       0.016
waterfall
Vodopádový graf: od základnej hodnoty E[f(x)] = −3,56 k výstupu f(x) = 1,36 pre tohto klienta.

Úloha 2.3 – Stabilita globálnej dôležitosti príznakov

Members trained on 2000 rows, mean rank correlation between two members: 0.812
                       mean_importance     SD  best_rank  worst_rank
revolving_utilization            0.964  0.234          1           2
monthly_income                   0.587  0.111          1           4
debt_ratio                       0.535  0.111          2           5
age                              0.518  0.147          2           6
late_30_59                       0.398  0.102          2           9
open_credit_lines                0.350  0.060          5           8
late_90                          0.332  0.095          5          10
dependents                       0.201  0.074          6          10
late_60_89                       0.167  0.083          7          10
real_estate_loans                0.164  0.059          7          10

Members trained on 90000 rows, mean rank correlation between two members: 0.960
                       mean_importance     SD  best_rank  worst_rank
revolving_utilization            0.720  0.022          1           1
late_30_59                       0.297  0.015          2           2
age                              0.243  0.022          3           4
late_90                          0.211  0.006          4           5
monthly_income                   0.194  0.044          3           7
debt_ratio                       0.164  0.012          5           6
open_credit_lines                0.127  0.017          6           9
late_60_89                       0.121  0.004          7           9
real_estate_loans                0.102  0.015          7           9
dependents                       0.035  0.005         10          10

t23
Priemerná |SHAP| cez 10 modelov natrénovaných na rôznych bootstrapových vzorkách.

Krok 3 · Úloha 3.1 – Kontrafaktuálne vysvetlenie

Doplnené TODO

def counterfactual(model, client_row, threshold=THRESHOLD, steps=21):
    factors = np.linspace(1, 0, steps)
    grid = pd.DataFrame([(a, b) for a in factors for b in factors],
                        columns=["factor_utilization", "factor_debt"])
    # TODO 1 – 441 kópií klienta, v každej prenásobené dva ovplyvniteľné príznaky
    candidates = pd.DataFrame([client_row] * len(grid)).reset_index(drop=True)
    candidates["revolving_utilization"] = client_row["revolving_utilization"] * grid["factor_utilization"]
    candidates["debt_ratio"] = client_row["debt_ratio"] * grid["factor_debt"]
    # TODO 2 – pravdepodobnosť pozitívnej triedy (finančné ťažkosti) pre každého kandidáta
    grid["proba"] = model.predict_proba(candidates)[:, 1]
    grid["change"] = (1 - grid["factor_utilization"]) + (1 - grid["factor_debt"])
    feasible = grid[grid["proba"] < threshold]
    if feasible.empty:
        return None, grid
    return feasible.sort_values(["change", "proba"]).iloc[0], grid

Výstup

Client near the threshold: probability 0.112, revolving_utilization 0.604, debt_ratio 0.963
  revolving_utilization 0.484, debt_ratio 0.963 -> probability 0.073
Client from Task 2.2: probability 0.796, revolving_utilization 0.950, debt_ratio 0.733
  no change of the actionable features is enough, lowest reachable probability 0.448

Rejected clients: 346, a counterfactual exists for 59.2% of them
t31
Predikovaná pravdepodobnosť pre všetkých 21×21 kombinácií zníženia (1 = bez zmeny, 0 = splatené). Čierna čiara = prah 0,091.

Úloha 3.2 – Monotónne obmedzenia

Without constraints    AUC 0.8624, Brier 0.0494
Monotonic constraints  AUC 0.8639, Brier 0.0492

Share of clients whose predicted risk falls with more late payments:
model       Monotonic constraints  Without constraints
feature                                               
late_30_59                    0.0                0.658
late_60_89                    0.0                0.044
late_90                       0.0                0.108
t32
Priemerná predikovaná pravdepodobnosť pri nastavení počtu omeškaní na 0–5 (ostatné príznaky ponechané).

Doplňujúce úlohy

1 · LIME pre klienta z Úlohy 2.2

from lime.lime_tabular import LimeTabularExplainer
imp = SimpleImputer(strategy="median").fit(X_train)
Xtr_imp = imp.transform(X_train)
row_imp = imp.transform(X_explain.iloc[[client]])[0]
predict_fn = lambda a: explained_model.predict_proba(pd.DataFrame(a, columns=X.columns))

for rs in [0, 1, 2]:
    lime_exp = LimeTabularExplainer(Xtr_imp, feature_names=list(X.columns),
                                    class_names=["ok", "distress"], mode="classification", random_state=rs)
    e = lime_exp.explain_instance(row_imp, predict_fn, num_features=5, labels=(1,))
    print(f"random_state={rs}:", e.as_list(label=1))
random_state=0:
  late_90 > 0.00                           +0.3638
  late_60_89 > 0.00                        +0.2271
  late_30_59 > 0.00                        +0.1520
  revolving_utilization > 0.56             +0.1360
  open_credit_lines > 11.00                +0.0290
random_state=1:
  late_90 > 0.00                           +0.3497
  late_60_89 > 0.00                        +0.2354
  late_30_59 > 0.00                        +0.1664
  revolving_utilization > 0.56             +0.1388
  open_credit_lines > 11.00                +0.0322
random_state=2:
  late_90 > 0.00                           +0.3546
  late_60_89 > 0.00                        +0.2240
  late_30_59 > 0.00                        +0.1559
  revolving_utilization > 0.56             +0.1357
  open_credit_lines > 11.00                +0.0269

2 · PDP + ICE pre revolving_utilization

from sklearn.inspection import PartialDependenceDisplay
fig, ax = plt.subplots(figsize=(7, 4.5))
PartialDependenceDisplay.from_estimator(explained_model, X_explain.iloc[:200], ["revolving_utilization"],
                                        kind="both", percentiles=(0.01, 0.99), ax=ax, random_state=42)
plt.show()
pdp
Priemerná krivka (PDP, prerušovaná) a 200 ICE kriviek jednotlivých klientov.

Zhrnutie – čo si zapamätať

  1. Model ≠ jeho interpretácia ≠ realita. Koeficienty aj SHAP opisujú model, nie príčiny.
  2. Stabilitu overuj bootstrapom. Pri malých dátach sa menia znamienka koeficientov aj poradie dôležitosti; pri 90 000 riadkoch sú výsledky stabilné.
  3. Korelované príznaky ničia interpretáciu koeficientov (late_60_89 = −3,86) – model si váhu prerozdeľuje.
  4. SHAP je aditívny a presný: základ + príspevky = výstup v log-odds; globálne = priemer |SHAP|.
  5. Kontrafaktuály dávajú konkrétnu odpoveď „čo zmeniť“, ale nie kauzálnu radu, a pre časť klientov neexistujú.
  6. Monotónne obmedzenia vynútia doménovo rozumné správanie zadarmo (tu dokonca s miernym zlepšením AUC).