Hoofdstuk 8 · Meer dan één verschil

Meervoudige regressie en confounding · multiple regression

De prikkel

We keren terug naar de pinguïns, maar nu met een simpele vraag: word je zwaarder naarmate je vinnen langer zijn?¹ Klinkt logisch — grotere vin, groter beest. En de data lijkt het meteen te bevestigen. Trek één rechte lijn door de wolk van vinlengte tegen gewicht, en er komt een helling uit van bijna 50. In gewone taal: elke millimeter langere vin gaat samen met zo’n 50 gram meer gewicht. De lijn ligt strak; hij verklaart driekwart van alle verschil in gewicht (R² = .76). Een mooi, netjes getal om mee thuis te komen.

Maar 50 gram per millimeter — klopt dat, of praat er iemand mee die we nog niet in beeld hebben? In deze pinguïns zit namelijk óók soort verstopt, en de ene soort is nu eenmaal groter dan de andere. Trek even mee: we gaan die 50 gram op de proef stellen, en onderweg blijkt hij een deel geleend te hebben.

Speel het

⬇ Download de data — penguins.csv

Trek eerst die ene simpele lijn in JASP: gewicht voorspeld uit vinlengte, meer niet. Kijk dan wat er gebeurt als je de soort erbij zet.

OpmerkingIn JASP · trek eraan · JASP 0.98.1

1. Open penguins.csv in JASP (menu linksboven → Open).
2. Klik bovenin op Regression en kies Linear Regression.
3. Sleep gewicht naar het vak Dependent Variable.
4. Sleep vinlengte naar het vak Covariates. Draai zo eerst het model met alleen de vin.
5. Voeg nu de soort toe: sleep soort naar het vak Factors (JASP maakt er zelf dummy’s van). Wil je beide modellen naast elkaar zien, gebruik dan de Model-blokken: laat blok 1 alleen vinlengte, en zet in blok 2 ook soort.

Kijk naar de coëfficiënt bij vinlengte. In het model met alleen de vin staat er 49.7 — zo’n 50 gram per millimeter, R² = .76. Zet je de soort ernaast, dan zakt diezelfde helling naar 40.7 — de vin is ineens ruim 9 gram per millimeter minder waard. De R² schuift nauwelijks (van .76 naar .78), dus het model is niet plots veel beter gaan voorspellen. Er is iets anders gebeurd: de vinlengte is een deel van zijn krediet kwijtgeraakt aan de soort. De vraag is: aan wie hoorde die 9 gram eigenlijk?

Schud het

Voordat we dat uitzoeken, eerst de eerlijkheidscheck: is die overgebleven 40.7 écht, of kan zo’n helling ook uit het niets ontstaan? Je zou dat willen uitproberen door vals te spelen — de soort netjes op z’n plek houden, maar elke vinlengte loskoppelen van z’n eigen pinguïn en op een willekeurige andere plakken. Dát is de truc: je haalt met eigen handen weg dat een bepaalde vin bij een bepaald gewicht hoort. In zo’n losgekoppelde wereld kán de vin niks meer bijdragen; elk beetje helling dat je er dan nog in meet, is puur toeval. Duizend keer schudden, en kijken waar de vin-helling belandt.

En hier moet ik eerlijk zijn: dat schudden is geen knop in JASP. JASP rekent één keurige uitkomst uit; het door elkaar husselen en duizend keer opnieuw kijken is code- of speeltje-werk. Dat is geen gemis van jou of van JASP — het boek doet het bewust zo: de simulatie-ervaring loopt via een schud-speeltje in de browser (of via het R-broertje, waar het drie regels code is).

Wat je in dat speeltje ziet: duizend werelden die dansen rond nul — want in elke geschudde wereld is de band tussen vin en gewicht doorgeknipt, maar toeval laat de helling nooit precies op nul landen. Ze wiebelen dicht om nul, van zo’n −5 tot +5 gram per millimeter, niet verder — en de echte 40.7 valt mijlenver buiten dat hele bergje. Géén enkele keer komt het toeval ook maar in de buurt. Dát is wat “geen toeval” betekent: geen p-waarde die je moet geloven, maar een afstand die je zíet. De 40.7 is echt van de vin.

Dus de vin draagt echt bij, óók naast de soort. Maar waarom zakte hij dan van 49.7 naar 40.7? Daar zit de les — en dat kun je wél gewoon in JASP nalezen.

Snap het

De simpele lijn schreef álle 49.7 gram per millimeter toe aan de vinlengte. Maar er speelde iemand mee die niet in het model zat: de soort. De Gentoo’s hebben zowel de langste vinnen áls de meeste kilo’s; de andere twee soorten zijn korter van vin én lichter. Gooi je alle pinguïns op één hoop en trek je één lijn, dan telt een deel van “grote soort weegt meer” mee als “lange vin weegt meer”. De vinlengte kreeg krediet dat eigenlijk aan de soort toebehoorde.

Reken je de soort mee — houd ’m constant, vergelijk pinguïns binnen dezelfde soort — dan valt dat geleende stuk weg, en blijft er een eerlijker, kleiner vin-effect over: 40.7. Dat is precies wat meervoudige regressie doet. Ze vraagt niet “hangt gewicht samen met vinlengte?”, maar: wat draagt elke voorspeller bij als de andere gelijk blijven? Elke helling in het model is een helling met de rest vastgehouden.

De soort was hier een confounder: een derde speler die zich vermomde als een stuk van het vin-effect. En dit is dezelfde les als de Simpson-paradox uit Hoofdstuk 4 — daar zag je het gebeuren in de kleuren van een wolk, hier zie je het gebeuren in een getal dat zakt zodra je de derde speler een stoel geeft.

De dubbele les van dit blok:

• De schud-toets zei: die 40.7 is echt, de vin draagt bij.
• Het tweede model zei: maar niet zoveel als de simpele lijn beweerde — een kwart van de “50 gram per millimeter” was eigenlijk soort.

Echt en hoe groot zijn dus twee verschillende vragen. Een helling kan kraakhelder niet-toeval zijn en tóch overdreven, zolang je een medespeler buiten de deur houdt. Daarom vraag je bij elke regressie: wie zit er nog meer in dit verhaal, en wat gebeurt er met mijn getal als ik hem binnenlaat? Zou je het in één eerlijke zin opschrijven, dan niet “elke millimeter vin is 50 gram”, maar: binnen dezelfde soort is elke millimeter vin zo’n 41 gram — de andere 9 gram was het verschil tússen de soorten.

◠ Zelfde vorm in het boek

Hier: één helling die zakt zodra je een tweede voorspeller binnenlaat, en de confounder die daarachter zat.

In het boek: W8 — Meer dan één verschil

Daar draait het niet om méér knoppen, maar om dezelfde vraag als bij de wolk in Hoofdstuk 4: wat blijft er van een verband over als je vasthoudt wie er nog meer meepraat?

TODO (broertje-proof): stem-pas nog te doen — verhaal-stem-opening kan losser/ stiller, docenten-stem is een eerste pas. Nummering (Hoofdstuk 8 / W8) checken zodra dat hoofdstuk staat; het anker naar de Simpson-paradox in Hoofdstuk 4 meelezen als beide er staan. Deze tekst is gedeeld met het R- en SPSS-broertje; alleen “Speel het / Schud het” verschilt. JASP-versie 0.98.1 en het exacte klikpad (Factors vs. Model-blokken) verifiëren op de echte build.

Voetnoten

1. Palmer Penguins — Gorman, Williams & Fraser (2014), Palmer Station Antarctica LTER; via het R-pakket palmerpenguins (CC0). Alle getallen in dit blok zijn op die échte data nagerekend.