Vierde beweging · Verschil onthechten

Oefening 8.2 · Confounding en partiële correlatie

Overlappende voorspellers, en wat er uniek overblijft · confounding & partial correlation

Data bij deze oefening — penguins.csv 342 pinguïns · wat elke kolom betekent

prikkel

Zevenentachtig gram, en waar ze gebleven zijn

confounder · gedeelde variantie · partiële correlatie

Er staat nog een rekening open.

In Oefening 8.1 voorspelde de snavellengte het gewicht van de pinguïns keurig: ruim 87 gram per millimeter, ruim een derde van alle verschil in gewicht verklaard. Toen kwam de vinlengte erbij en bleef er van die 87 gram nog 6.05 over — niet eens van nul te onderscheiden. Je hebt gemeten dát het gebeurde, met drie verschillende meetlatten, en alle drie zeiden hetzelfde.

Maar niemand heeft je verteld wáár die 87 gram naartoe is.

Dat is geen bijvraag. Een helling die instort verdwijnt niet; hij verhuist. En wie dat niet ziet gebeuren, gelooft de eerste de beste regressie die hem uitkomt — want de simpele lijn had een prachtige p, en hij loog. In deze oefening reken je uit waar de 87 gram is gebleven, en je leert het getal kennen dat er een naam aan geeft.

speel het

Reken de vin weg en kijk wat er overblijft

partiële correlatie · residuen · wegrekenen

Oefening 8.1 gaf je een p en een helling. Maar de vraag die nu op tafel ligt is eigenlijk een correlatie-vraag: hoe sterk hangen gewicht en snavel nog samen als de vin er niet tussen zit? Daar bestaat een eigen getal voor, en je bouwt het in drie stappen zelf — met gereedschap dat je al hebt.

Haal eerst de pinguïns weer binnen, want deze oefening staat op eigen benen:

In SPSS · zet klaar

Open penguins.csv: File → Open → Data, bestandstype op CSV.

Het recept is precies wat het woord wegrekenen belooft. Wil je weten wat er van de band tussen gewicht en snavellengte overblijft als de vinlengte er geen rol meer in speelt, dan haal je uit allebei weg wat de vin erover te zeggen had, en kijkt of de restjes nog samenhangen. En “wat de vin erover te zeggen had” weghalen — dat zijn residuen, en die ken je uit Oefening 3.3, over de residuen: wat er van een kolom overblijft nadat een model erdoorheen is getrokken.

In SPSS · de partiële correlatie, met de hand

Analyze → Regression → Linear, met gewicht in Dependent en vinlengte in Independent(s). Klik op Save… en vink onder Residuals het vakje Unstandardized aan. In je databestand verschijnt een nieuwe kolom, RES_1: wat er van het gewicht overblijft nadat de vin erover gezegd heeft wat hij te zeggen had.
Nog een keer, nu met snavellengte in Dependent en vinlengte in Independent(s), weer met Save… → Unstandardized. Dat wordt RES_2: de snavellengte, met de vin eruit.
Analyze → Correlate → Bivariate, met RES_1 en RES_2: r = .063. Draai dezelfde correlatie ook één keer op gewicht en snavellengte zelf — zonder wegrekenen is het r = .595.

* haal uit gewicht weg wat de vin erover zegt: dat wordt RES_1.
REGRESSION
  /DEPENDENT gewicht
  /METHOD=ENTER vinlengte
  /SAVE RESID.

* haal uit snavellengte weg wat de vin erover zegt: dat wordt RES_2.
REGRESSION
  /DEPENDENT snavellengte
  /METHOD=ENTER vinlengte
  /SAVE RESID.

* en kijk of de restjes nog iets met elkaar hebben: .063.
CORRELATIONS /VARIABLES=RES_1 RES_2.

* ter vergelijking, zonder wegrekenen: .595.
CORRELATIONS /VARIABLES=gewicht snavellengte.

Van .595 naar .063. Dit getal heet de partiële correlatie (partial correlation): de samenhang tussen gewicht en snavellengte bij gelijk gehouden vinlengte. Onderzoekers zeggen daar iets deftigs bij — “gecontroleerd voor vinlengte” — maar je hebt nu met je eigen handen gevoeld wat het is: wegrekenen, en kijken wat overblijft.

Er kwam geen speciale knop aan te pas: RES_1 en RES_2 zijn residuen, en een gewone correlatie deed de rest. Het bouwsel ís de definitie — en dat is precies waarom het hier zo staat. SPSS hééft die knop overigens wel: Analyze → Correlate → Partial, met gewicht en snavellengte in Variables en vinlengte in Controlling for, geeft exact dezelfde .063 — maar dan had je niet gevoeld wat er weggerekend werd.

Doe het nu andersom, want dat is de andere helft van het antwoord:

In SPSS · en nu de vin, met de snavel weggerekend

Zelfde recept, andersom: bewaar de residuen van gewicht uit snavellengte en van vinlengte uit snavellengte (SPSS nummert vanzelf door: RES_3 en RES_4), en correleer die twee: r = .793. Zonder wegrekenen, gewicht met vinlengte: r = .871.

De vin houdt bijna alles over: van .871 naar .793. De snavel houdt vrijwel niets over: van .595 naar .063. Dáár staat, in twee getallen naast elkaar, wat de tabel je met een p van .244 al probeerde te vertellen.

Let op — twee getallen die op elkaar lijken en het niet zijn

Er bestaat een tweede getal met bijna dezelfde naam, en het is een klassieke struikelplek. Naast de partiële correlatie is er de semi-partiële correlatie (SPSS noemt die in zijn tabellen Part). Het verschil zit in hoevéél je wegrekent:

bij de partiële correlatie haal je de andere voorspeller uit allebei de kolommen weg — dat deed je hierboven;
bij de semi-partiële correlatie haal je hem alleen uit de voorspeller weg, en laat je het gewicht heel.

Het is dus hetzelfde stukje verklaarde ruimte, afgezet tegen iets anders. Bij de semi-partiële zet je het af tegen alle gewichtsverschillen; bij de partiële alleen tegen wat er ná de vin nog te verklaren óverblijft. Zelfde stukje, andere maatstok — en omdat die tweede maatstok kleiner is, is de partiële correlatie altijd de grootste van de twee.

Zet ze allebei in beeld, dan zie je het. Draai in Analyze → Regression → Linear het gewicht op de snavellengte en de vinlengte samen, in één model — gewicht in Dependent, allebei in Independent(s), zonder tweede blok — klik op Statistics… en vink Part and partial correlations aan: in Coefficients komen er dan drie kolommen bij, onder de kop Correlations — Zero-order, Partial en Part. Onder Partial staan de .793 en .063 van hierboven; onder Part staat de semi-partiële — .637 voor de vin, .031 voor de snavel.

Waarom dit ertoe doet: de semi-partiële correlatie in het kwadraat is de unieke bijdrage aan R². Niet de partiële. Reken maar na: .637² = .406, en de R² van het model gaat inderdaad van .354 (snavel alleen) naar .760 als de vin binnenkomt — een sprong van .406. Had je .793 gekwadrateerd, dan was je op .628 uitgekomen, en dat getal staat nergens in de uitvoer.

Onder elkaar, zodat je ze uit elkaar kunt houden:

	gewone r	partieel	semi-partieel	uniek in R²
vinlengte	.871	.793	.637	.406
snavellengte	.595	.063	.031	.001

De onderste rij is het hele verhaal van deze twee oefeningen in vier getallen: een maat die in zijn eentje een r van .595 haalt, en aan het model één duizendste R² toevoegt.

En herken die laatste kolom, want je hebt hem eerder gezien. De .406 en de .001 zijn precies de twee ΔR²’s die in Oefening 8.1 uit de modelvergelijking kwamen — de toets of het grote model beter past dan het kleine. Dat is geen toeval maar dezelfde som, langs twee wegen uitgerekend: de ene keer door twee modellen tegen elkaar te toetsen, de andere keer door een correlatie te kwadrateren.

snap het

Waarom de snavel instort: hij zei niets eigens

confounder · constant houden · overlap tussen voorspellers

De simpele lijn schreef álle 87.42 gram per millimeter toe aan de snavellengte. Maar er speelde iemand mee die niet in het model zat: de vinlengte. Pinguïns met een lange snavel hebben meestal ook lange vinnen — de twee maten hangen onderling samen met r = .656. Gooi je ze op één hoop en trek je één lijn op de snavel alleen, dan telt een flink deel van “lange vin weegt meer” mee als “lange snavel weegt meer”. De snavellengte kreeg krediet dat eigenlijk aan de vin toebehoorde.

Reken je de vin mee — houd ’m constant, vergelijk pinguïns met dezelfde vinlengte — dan valt dat geleende stuk weg, en blijft er van de snavel bijna niets over: 6.05, en niet eens te onderscheiden van nul. Dat is precies wat meervoudige regressie doet. Ze vraagt niet “hangt gewicht samen met snavellengte?”, maar: wat draagt elke voorspeller bij als de andere gelijk blijft? Elke helling in het model is een helling met de rest vastgehouden.

De vinlengte was hier een confounder: een derde speler die zich vermomde als een stuk van het effect van de snavellengte op het gewicht. Precies wat de gladheid deed bij de twaalf diamantjes uit Oefening 8.1 — daar viel het karaat van 32.14 naar 0.98 zodra de slijper meedeed — en dezelfde les als de Simpson-paradox die je bij de correlatie-wolk al tegenkwam.

In SPSS · hoeveel overlappen de twee?

Analyze → Correlate → Bivariate, met vinlengte en snavellengte.

CORRELATIONS /VARIABLES=vinlengte snavellengte.

Allebei geven r = .656.

Dat ene getal beslist alles in dit blok. Twee voorspellers die sterk samenhangen vertellen elkaars verhaal; de zwakste van de twee houdt dan niets eigens over. Hangen ze nauwelijks samen, dan kunnen ze allebei hun eigen bijdrage leveren — en dat ga je zo bij Jouw beurt zelf zien gebeuren.

Speel de film nog één keer af, maar nu zoals je hem zelf gedraaid zou hebben. Je begon met de snavellengte, en die deed het prima: R² = .354, ruim een derde van alle verschil in gewicht verklaard, uit één maat. Toen zag je de vinlengte — en die hangt óók samen met het gewicht, sterker zelfs: in z’n eentje haalt hij R² = .759. Dus bouw je een supermodel, allebei erin, en de verwachting schrijft zichzelf: .354 + .759 = 1.113. Meer dan alles. Meer dan honderd procent van de verschillen in gewicht verklaard — en aan die onmogelijkheid zie je al dat er met dat optellen iets niet klopt, want meer verklaren dan er verschil ís, dat bestaat niet. Goed, denk je, dan geen 1.113. Maar ruim boven de .759 toch zeker wel?

Samen halen ze R² = .760. Eén duizendste boven de vin alleen.

Waar is de rest gebleven? Nergens — hij is nooit weggeweest, hij was alleen dubbel geteld. Je weet inmiddels waarom: de twee voorspellers vertellen voor een flink deel hetzelfde verhaal, r = .656. Een flink deel van wat de snavel over het gewicht wist, wist de vin dus ook al. In de optelsom .354 + .759 telde je dat gedeelde verhaal twee keer mee — één keer via de snavel, één keer via de vin. Het model telt het één keer, want vaker dan één keer valt er niets te verklaren.

Ik denk hier altijd aan een tuin met viooltjes en met rozen. In een bepaald gedeelte van die tuin staan alleen maar viooltjes, in een bepaald gedeelte alleen maar rozen — en op een bepaald gedeelte staan viooltjes en rozen door elkaar. Dat noemen we de overlap, en die tel je niet dubbel qua oppervlakte: het is één stuk tuin, hoeveel er ook op bloeit. Hier is de tuin al het verschil in gewicht — dezelfde tuin vol variatie als in Oefening 3.3. De vin heeft er viooltjes op staan, op .759 van de grond; de snavel rozen, op .354. Maar loop er maar doorheen: bijna overal waar rozen staan, staan ook al viooltjes.

En hoe groot dat dubbel getelde stuk is, staat er gewoon: .354 + .759 − .760 = .353. Je kwam .353 te véél uit, en dat is precies het stuk verschil in gewicht dat snavel en vin sámen weten — je kunt het aan geen van beide alleen toeschrijven.

De tuin, op ware verhoudingen: wat alleen de vin beplant (.406), wat van allebei is (.353), en wat braak ligt (onverklaard: .240). Wat alleen de snavel beplant (.001) is op deze schaal een dun randje bij het grijze ringetje.

Nu het mooie. Tel eens de andere kant op: niet wat elk alléén kan, maar wat elk uniek toevoegt — de kolom uniek in R² uit de tabel hierboven. Vin .406, snavel .001, samen .407. Ook geen .760: .760 − .407 = .353, dus nu kom je .353 tekort. Hetzelfde getal, en dat moet ook, want het is hetzelfde stuk: in de eerste som telde je het gedeelde stuk twee keer, in de tweede nul keer, en het model telt het precies één keer. Het gedeelde stuk is van allebei, en dus van geen van beide alleen.

De les van deze oefening, in drie regels:

De partiële correlatie zei waar de 87 gram gebleven is: reken de vinlengte weg en de band tussen gewicht en snavel zakt van .595 naar .063. De snavel had niets eigens; hij leende.
De confounder is de naam voor wat er gebeurde: een derde speler die niet in het model zat en zich vermomde als een stuk van het snavel-effect.
De overlap zegt hoe groot dat geleende stuk was: r = .656 tussen de twee voorspellers, en .353 van de verklaarde ruimte die van allebei is en dus van geen van beide.

Daarmee is de vraag beantwoord waarmee deze oefening opende. En let op wat er niet is gebeurd: er is geen enkel getal veranderd. Dezelfde 342 pinguïns, dezelfde weegschaal, dezelfde snavels. Alleen de vraag werd scherper — niet hangt dit samen? maar hangt dit samen als ik de rest vasthoud? — en het antwoord ging van “ruim 87 gram per millimeter” naar “niets dat ik van nul kan onderscheiden”. Dat is geen trucje van de statistiek. Dat is wat er gebeurt als je een medespeler binnenlaat die er altijd al was.

jouw beurt

Twee maten die elkaar niet in de weg zitten

unieke bijdrage · overlap tussen voorspellers · partiële correlatie

Hierboven stierf de snavellengte naast de vin. Nu zet je diezelfde snavellengte naast een ándere maat — de snaveldiepte (snaveldiepte, in mm) — en dan loopt het heel anders af. Draai eerst de drie modellen, en beantwoord daarna de vragen. De laatste heet weer Z): de aannames staan altijd achteraan.

In SPSS · de drie modellen

Draai Analyze → Regression → Linear drie keer, steeds met gewicht in Dependent:

het lengte-model — alleen snavellengte in Independent(s);
het diepte-model — alleen snaveldiepte;
het model met allebei — allebei de snavelmaten. Zet voor vraag h twee blokken op (Next), met R squared change aan onder Statistics…: snaveldiepte in blok 1, snavellengte erbij in blok 2.

* het lengte-model.
REGRESSION
  /STATISTICS COEFF R ANOVA CI(95)
  /DEPENDENT gewicht
  /METHOD=ENTER snavellengte.

* blok 1 is het diepte-model, blok 2 het model met allebei.
REGRESSION
  /STATISTICS COEFF R ANOVA CHANGE CI(95)
  /DEPENDENT gewicht
  /METHOD=ENTER snaveldiepte
  /METHOD=ENTER snavellengte.

Jouw beurt

a) Hoeveel gram per millimeter voorspelt het lengte-model, en hoeveel van het verschil in gewicht verklaart hij? (rapporteer b en R²)

b) Doe hetzelfde voor het diepte-model. Let op het teken — klopt dat met wat je zou verwachten? (rapporteer b en R²)

c) Toets nu het model met allebei als geheel. Schrijf de nulhypothese eerst voluit op, in woorden én in symbolen. (rapporteer R², F(df₁, df₂) en p, en de hypothesen in symbolen)

d) Wat gebeurt er met de helling van de snavellengte als de snaveldiepte ernaast komt te staan — en hoe verhoudt dat zich tot wat er in dit blok met diezelfde snavellengte naast de vinlengte gebeurde?

e) Blijven ze allebei significant in het model met allebei? (rapporteer per voorspeller b, SE, t, p en het 95%-interval)

f) Reken de overlap uit: de correlatie tussen snavellengte en snaveldiepte. Vergelijk met de .656 van vin en snavel. Wat voorspelt dat ene getal over de uitkomst van vraag d?

g) Reken de twee partiële correlaties uit, met het residuen-recept uit dit blok — of sneller: Analyze → Correlate → Partial. (rapporteer beide)

h) Hoeveel voegt de snavellengte uniek toe aan de R²? Draai de regressie met snaveldiepte in blok 1 en snavellengte in blok 2, en lees F Change op de regel van blok 2. (rapporteer ΔR² en de F-toets) — voor de snaveldiepte krijg je hem kado: ΔR² = .117, F(1, 339) = 74.76.

i) Tel die twee unieke bijdragen bij elkaar op en vergelijk met de R² van het model met allebei. Ze tellen niet op. Waar is het verschil gebleven?

Z) Mag je dit model eigenlijk wel gebruiken? Loop de aannames na: kijk naar de residuen (klik op Plots…, zet *ZRESID tegen *ZPRED uit voor gelijke spreiding en vink Normal probability plot aan voor de verdeling), en of elke pinguïn maar één keer meetelt.

Antwoord — open na je eigen poging

a) b = 87.42 gram per millimeter, R² = .354.

b) b = −191.64, R² = .223. Negatief, en dat wringt: over alle pinguïns heen lijkt een diepere snavel bij een lichter beest te horen. Onthoud dat, het komt bij de dummy-oefening en de ANCOVA terug.

c) De nulhypothese: dit model — snavellengte en snaveldiepte samen — verklaart níéts van de verschillen in gewicht. In symbolen:

\[H_0:\ \beta_1 = \beta_2 = 0 \qquad H_1:\ \text{minstens één } \beta_j \neq 0\]

of over de verklaarde variantie: \(H_0:\ \rho^2 = 0\) tegen \(H_1:\ \rho^2 > 0\) — Grieks (β en ρ²), want het gaat over de populatie en niet over deze 342. Eén van de twee is genoeg.

Uitkomst: R² = .471, F(2, 339) = 150.82, p < .001. Die mag dus de deur uit.

d) Hij zakt, maar hij stort niet in: van 87.42 naar 75.28. Vergelijk dat met wat de vin deed — dáár ging dezelfde helling van 87.42 naar 6.05. Naast de vin hield de snavellengte niets over; naast de snaveldiepte houdt hij ruim zesentachtig procent van zijn helling.

e) Ja, allebei ruimschoots. Snavellengte: b = 75.28, SE = 5.97, t(339) = 12.61, p < .001, 95% CI [63.54, 87.03]. Snaveldiepte: b = −142.72, SE = 16.51, t(339) = −8.65, p < .001, 95% CI [−175.19, −110.25]. Geen van beide intervallen bevat nul.

f) r = −.235, tegen .656 voor vin en snavel. Dát is het antwoord op vraag d. Twee voorspellers die elkaar nauwelijks overlappen kunnen allebei hun eigen verhaal vertellen; twee die sterk samenhangen vertellen elkaars verhaal, en dan houdt de zwakste niets eigens over.

g) r(gewicht, snavellengte | snaveldiepte) = .565 — nauwelijks lager dan de gewone .595. En r(gewicht, snaveldiepte | snavellengte) = −.425, tegen een gewone −.472. Vergelijk met de snavel naast de vin: dáár zakte .595 naar .063.

h) Snavellengte uniek (snaveldiepte in blok 1, snavellengte erbij in blok 2): ΔR² = .248, F(1, 339) = 158.97, p < .001. Snaveldiepte uniek (andersom): ΔR² = .117, F(1, 339) = 74.76, p < .001. Allebei substantieel — en vergelijk dat nog één keer met de .001 van de snavel naast de vin.

i) .248 + .117 = .365, terwijl R²(het model met allebei) = .471. Er ontbreekt .106. Dat is het gedeelde stuk: verschil in gewicht dat de twee samen verklaren, maar dat je aan geen van beide alleen kunt toeschrijven. Precies daarom telt zo’n opsplitsing niet netjes op, en precies daarom is “hoe belangrijk is deze voorspeller?” een lastigere vraag dan hij lijkt.

Z) Ja, met de gebruikelijke slag om de arm. De residuen liggen in een vrijwel egale band om nul (geen trechter, dus gelijke spreiding is hier geen probleem) en volgen de rechte lijn in de QQ-plot redelijk. Elke pinguïn is één keer gewogen, dus de waarnemingen zijn onafhankelijk. En de twee voorspellers overlappen maar weinig (r = −.235), dus ze zitten elkaar niet in de weg bij het schatten.

eindopdracht

De afsluiter van het hele hoofdstuk

artikelvorm · methode en resultaten gescheiden · unieke bijdrage

Eindopdracht

De afsluiter van het hele hoofdstuk. Je brengt allebei de oefeningen samen — het model draaien en beoordelen uit 8.1, de overlap en het wegrekenen uit 8.2 — en je schrijft het op zoals het in een artikel zou staan.

Deze keer voorspel je niet het gewicht maar de vinlengte, uit de twee snavelmaten die je in de taak hierboven al naast elkaar zag staan. Zelfde paar, andere vraag. Zet in SPSS de vinlengte als afhankelijke variabele en draai drie modellen: één met alleen de snavellengte, één met alleen de snaveldiepte, en één met allebei.

En let op de vorm: een artikel valt in twee gelabelde stukken, en die volgorde is niet dezelfde als de volgorde waarin je het leerde. Toen mocht de aannamecontrole achteraf, want je moest eerst zien wát je nou eigenlijk controleerde. Nu je het opschrijft voor een lezer gaat hij vóórop, want die wil weten of hij je getallen mag geloven vóórdat hij ze leest.

Methode en data-analyse

a) Wat onderzoek je, waarop, en met welke analyse? Schrijf het op zonder één uitkomst te noemen. (twee of drie zinnen; wie of wat er gemeten is, hoeveel, en welke analyse; meer antwoorden zijn goed)

b) Hoeveel pinguïns houd je over als je alle drie de maten compleet moet hebben, en hoeveel staan er in het bestand? (twee getallen, en waarom dat er hier toe doet als je straks modellen van elkaar aftrekt)

c) Loop de aannames na en schrijf ze op als data-analyse-alinea: liggen de residuen symmetrisch, is de spreiding van de residuen ongeveer gelijk over het bereik, telt elke pinguïn maar één keer mee, en zitten de twee voorspellers elkaar in de weg? (vier korte uitspraken, elk met het getal waar je hem op baseert)

Resultaten

d) Toets het model als geheel. (rapporteer R², F(df₁, df₂) en p, en zeg wát je verwerpt)

e) Rapporteer allebei de voorspellers apart. (per voorspeller b, SE, t, p en het 95%-interval)

f) Hoeveel voegt elk van de twee uniek toe? (twee ΔR²’s met hun F-toets)

g) Tel de twee losse R²’s bij elkaar op en vergelijk met de R² van het volle model. En tel daarna de twee unieke bijdragen op en vergelijk óók. Wat valt je op aan de twee verschillen? (twee sommen en één getal dat je twee keer tegenkomt)

h) Reken allebei de partiële correlaties uit met het residuen-recept. Vergelijk ze met de gewone correlaties. (vier getallen)

i) Hier zit een valkuil, en hij is de moeite waard. Kwadrateer de partiële correlatie van de snavellengte en vergelijk met de unieke bijdrage die je bij f) uitrekende. Waarom lopen die twee zo ver uiteen, terwijl ze bij een vluchtige blik hetzelfde lijken te meten? (twee getallen, en twee zinnen)

j) Schrijf de resultaten-alinea uit, in rapportagevorm, met alle drie de lagen erin. (hele zinnen, verleden tijd, symbolen cursief; meer antwoorden zijn goed)

Z) Mag je alles hierboven geloven? Je hebt de aannames bij c) al nagelopen — dus nu de vraag die erachteraan hoort: stel dat de spreiding van de residuen duidelijk ongelijk was geweest, welke van je antwoorden hierboven doe je dan over, en welke mogen blijven staan?

Antwoord — open na je eigen poging

Methode en data-analyse

a) Bijvoorbeeld: “Bij 342 pinguïns van drie soorten onderzochten we of de vinlengte samenhangt met de twee snavelmaten. We voorspelden de vinlengte met een meervoudige regressie uit de snavellengte en de snaveldiepte samen, en bepaalden per voorspeller de unieke bijdrage aan de verklaarde variantie.” Geen enkel getal uit de uitkomsten — dat is de toets waaraan je ziet of de scheiding echt is.

b) 342 van de 342 rijen in het bestand zijn compleet op alle drie de maten; er valt er geen weg. Dat doet ertoe omdat je bij f) modellen van elkaar aftrekt, en twee modellen die op verschillende pinguïns draaien mag je niet van elkaar aftrekken. Was er wél iets weggevallen, dan had je alle modellen op dezelfde volledige rijen moeten draaien.

c) De residuen liggen symmetrisch: gemiddelde min mediaan is −0.005 standaardafwijking, dus praktisch nul. De spreiding is over het bereik ongeveer gelijk: bij de laagste helft van de voorspelde waarden is de standaardafwijking van de residuen 8.24 mm, bij de hoogste helft 8.96 mm — een verhouding van 0.92, geen trechter. Elke pinguïn is één keer gemeten, dus de waarnemingen zijn onafhankelijk. En de twee voorspellers overlappen nauwelijks, r = −.235, dus ze zitten elkaar niet in de weg bij het schatten.

Resultaten

d) R² = .63, F(2, 339) = 283.63, p < .001. Wat je verwerpt is de nulhypothese dat dit model — de twee snavelmaten samen — niets van de verschillen in vinlengte verklaart.

e) Snavellengte: b = 1.41 mm vin per mm snavel, SE = 0.09, t(339) = 16.07, p < .001, 95% CI [1.24, 1.59]. Snaveldiepte: b = −3.24, SE = 0.24, t(339) = −13.31, p < .001, 95% CI [−3.72, −2.76]. Allebei ruimschoots significant, en geen van beide intervallen bevat nul.

f) Snavellengte uniek: ΔR² = .285, F(1, 339) = 258.33, p < .001. Snaveldiepte uniek: ΔR² = .195, F(1, 339) = 177.05, p < .001. Anders dan bij de snavellengte naast de vinlengte in 8.1 houden ze hier allebei fors iets eigens over.

g) Naïef opgeteld: .431 + .341 = .771, terwijl het volle model op .626 uitkomt. (Tel je de gedrukte cijfers op, dan krijg je .772. Neem er meer decimalen bij — .43057 en .34088 — en het is .771. Dat verschil van één duizendste is afronding en niets anders.) Je telde .146 te veel. Unieke bijdragen opgeteld: .285 + .195 = .480, tegen diezelfde .626. Nu kom je .146 te kort. Dat is twee keer hetzelfde getal, en dat is geen toeval: het gedeelde stuk wordt in de eerste optelling dubbel geteld en in de tweede helemaal niet.

h) r(vinlengte, snavellengte) = .656 gewoon, en .658 partieel. r(vinlengte, snaveldiepte) = −.584 gewoon, en −.586 partieel. Ze bewegen vrijwel niet.

i) .658² = .43, terwijl de unieke bijdrage bij f) .285 was. Wie de partiële correlatie kwadrateert, concludeert dus dat de snavellengte niets verloor — terwijl er .146 gedeeld bleek. De oorzaak staat in het kader hierboven, maar nu vergeleken met de gewone correlatie in plaats van met elkaar. Ga je van de gewone naar de partiële, dan haal je de snaveldiepte uit allebei de kolommen weg: er valt boven én onder de streep iets af, en de verhouding blijft dus vrijwel staan. Ga je van de gewone naar de semi-partiële, dan haal je hem alleen uit de voorspeller: er valt alleen bovenaan iets af, en het getal zakt — van .656 naar .534. En de sémi-partiële is het die je kwadrateert: .534² = .285, precies de ΔR² uit f).

Die .534 hoef je niet zelf te bouwen: draai de vinlengte op allebei de snavelmaten met Statistics… → Part and partial correlations aan, en hij staat in dezelfde kolom Part als in het kader, op de regel van snavellengte. Dit is een mooi geval om te onthouden, want hier lijkt er niets aan de hand en is er tóch bijna een kwart van de verklaarde ruimte gedeeld.

j) Bijvoorbeeld:

Het model als geheel verklaarde een groot deel van de verschillen in vinlengte, R² = .63, F(2, 339) = 283.63, p < .001. Bij gelijke snaveldiepte ging elke millimeter langere snavel samen met ruim anderhalve millimeter langere vin, b = 1.41, SE = 0.09, t(339) = 16.07, p < .001, 95% CI [1.24, 1.59]; bij gelijke snavellengte ging elke millimeter diepere snavel samen met ruim drie millimeter kórtere vin, b = −3.24, SE = 0.24, t(339) = −13.31, p < .001, 95% CI [−3.72, −2.76]. Beide voorspellers droegen ook uniek bij: de snavellengte ΔR² = .29, F(1, 339) = 258.33, p < .001, en de snaveldiepte ΔR² = .20, F(1, 339) = 177.05, p < .001.

Z) Was de spreiding van de residuen duidelijk ongelijk geweest, dan blijven staan: de hellingen bij e) en de ΔR²’s bij f) en g). Dat zijn beschrijvingen van deze 342 pinguïns, en daar verandert geen aanname iets aan. Doe je over: alle standaardfouten, en daarmee elke t, elke p, elk interval bij e) en elke F bij d) en f). Die rusten allemaal op één gedeelde restspreiding, en die is er dan niet. De conclusie bij j) gaat dus mee terug — je weet dan nog steeds hoe groot het verband is, maar niet meer hoe zeker.

rapportage

Schrijf een weggerekend verband op

partiële correlatie in een zin · gecontroleerd voor · gedeelde variantie

Rapportage

Een partiële correlatie schrijf je op als een gewone correlatie, met één zinsdeel erbij: wát je hebt vastgehouden. Dat zinsdeel is niet optioneel. Zonder dat weet je lezer niet welk getal hij voor zich heeft, en de twee kunnen ver uiteen liggen — in dit hoofdstuk .60 tegenover .06.

De partiële correlatie tussen het gewicht en de snavellengte, gecontroleerd voor de vinlengte, was r = .06, tegen een gewone correlatie van r = .60.

Drie dingen zitten erin, en alle drie met opzet. Er staat wat er gecontroleerd is, niet alleen dát er iets gecontroleerd is. De gewone correlatie staat ernaast, want zonder die vergelijking is .06 alleen maar een klein getal en niet een verhaal over waar .60 gebleven is. En de r leunt schuin terwijl de woorden rechtop staan, zoals bij elk symbool dat zelf een waarde draagt.

Eén ding dat je hier níét moet doen: het gedeelde stuk aan iemand toeschrijven. Je mag opschrijven dat twee voorspellers samen R² = .471 halen en dat elk er respectievelijk .248 en .117 uniek aan bijdraagt. Je mag er niet bij zeggen dat de overige .106 “van allebei een beetje” is, of hem netjes in tweeën delen. Die .106 is verschil in gewicht dat de twee samen verklaren en dat aan geen van beide alleen toe te schrijven is — dat is geen tekortkoming van je rapportage maar een eigenschap van de data. Schrijf hem dus op als wat hij is: gedeeld.

Dat is meteen waarom de vraag “welke van mijn voorspellers is het belangrijkst?” zoveel lastiger is dan hij klinkt. Op de unieke bijdrage kun je ze rangschikken, en dat doen onderzoekers ook — maar wat gedeeld is doet in die rangschikking niet mee, en dat kan een flink stuk zijn.

tentamen

Tentamenvragen

partieel tegenover semi-partieel · unieke bijdrage · gedeelde variantie

Deze zes hebben de vorm waarin een tentamen dit onderwerp stelt: vier opties, en precies één is de beste — de andere drie kunnen best waar zijn en toch niet het beste antwoord. Uitrekenen hoeft nergens: alle getallen staan in de vragen. Bij 2 en 4 helpt het wel om de sommen zelf even na te doen.

Tentamenvragen

1. Je wilt weten hoe sterk het gewicht en de snavellengte nog samenhangen als de vinlengte er geen rol meer in speelt. Welk recept levert dat getal?

Reken alleen uit de snavellengte weg wat de vinlengte erover zegt, en correleer dat restje met het gewicht.
Reken uit het gewicht én uit de snavellengte weg wat de vinlengte erover zegt, en correleer de twee restjes.
Trek de correlatie tussen vinlengte en snavellengte af van die tussen gewicht en snavellengte.
Bereken de gewone correlatie tussen gewicht en snavellengte, maar alleen over de pinguïns die rond de gemiddelde vinlengte zitten.

2. Van de vinlengte is de partiële correlatie met het gewicht .793, de semi-partiële .637 en de gewone .871. Hoeveel voegt de vinlengte uniek toe aan de verklaarde verschillen in gewicht?

.628 — de partiële correlatie in het kwadraat.
.759 — de gewone correlatie in het kwadraat.
.406 — de semi-partiële correlatie in het kwadraat.
.024 — het verschil tussen de partiële en de semi-partiële correlatie, in het kwadraat.

3. De helling van de snavellengte op het gewicht is 87.42 gram per millimeter in het model met alleen de snavellengte, en 6.05 zodra de vinlengte ernaast staat. Welke omschrijving van wat daar gebeurt is de beste?

De lijn op de snavellengte alleen schreef aan de snavel toe wat eigenlijk van de vin was; met de vinlengte erin valt dat geleende stuk weg.
De snavellengte en de vinlengte hangen zo sterk samen, r = .656, dat het model de helling van de snavellengte op het gewicht niet meer kan schatten.
Het tweede model schat één getal meer uit dezelfde 342 pinguïns, en daardoor krimpen de hellingen.
De snavellengte is minder nauwkeurig gemeten dan de vinlengte, en de vinlengte corrigeert die meetfout.

4. De snavellengte haalt in haar eentje R² = .354 en de vinlengte in haar eentje .759. Samen halen ze .760, terwijl de optelsom op 1.113 uitkomt. Wat is dat verschil van .353?

De unieke bijdrage van de vinlengte aan de verklaarde verschillen in gewicht.
Het stuk verschil in gewicht dat geen van de twee voorspellers verklaart.
Niets: twee R²’s uit verschillende modellen mag je niet bij elkaar optellen, dus het verschil betekent niets.
Het stuk dat de twee sámen verklaren en dat je aan geen van beide alleen kunt toeschrijven.

5. De snavellengte en de snaveldiepte verklaren samen R² = .471 van de verschillen in gewicht; uniek dragen ze .248 en .117 bij. Hoe rapporteer je de overige .106?

Half aan elk, .053 erbij, zodat de opsplitsing netjes optelt.
Als gedeelde verklaarde variantie, die je aan geen van de twee voorspellers alleen toeschrijft.
Bij de sterkste van de twee, want die bracht het grootste deel van het gedeelde stuk aan.
Niet: wat niet uniek is, hoort niet in een resultatensectie.

6. Vinlengte en snavellengte hangen onderling samen met r = .656, en naast de vinlengte houdt de snavellengte niets eigens over. Snavellengte en snaveldiepte hangen samen met r = −.235, en die twee houden allebei fors iets eigens over. Wat zegt zo’n correlatie tussen twee voorspellers je vooraf?

Hoe groot de R² wordt van het model met allebei de voorspellers erin.
Of een helling van teken wisselt zodra de tweede voorspeller meedoet: bij een negatieve correlatie tussen twee voorspellers draait het teken van de zwakste om.
Hoe sterk de twee elkaars verhaal over het gewicht vertellen, en dus hoeveel er van de zwakste nog als eigen bijdrage overblijft.
Of het model als geheel de nulhypothese kan verwerpen dat het niets van de verschillen in gewicht verklaart.

Antwoord — open na je eigen poging

1 b · 2 c · 3 a · 4 d · 5 b · 6 c

Hieronder staat per vraag waaróm, en waarom de drie andere opties aantrekkelijk zijn. Heb je er een goed, dan kun je die overslaan.

1. b. Partieel is aan beide kanten wegrekenen: uit de uitkomst én uit de voorspeller. a is de semi-partiële correlatie — een echt getal, alleen een ander, en de verwarring tussen die twee is de klassieke struikelplek van dit onderwerp. c trekt twee correlaties van elkaar af alsof ze op dezelfde schaal liggen; dat mag niet, en het geeft hier .595 − .656 = −.061, een getal zonder betekenis. d houdt de vinlengte constant door pinguïns weg te gooien in plaats van door te rekenen. Hoe smal je die band ook kiest, je zit klem: smal genoeg om de vinlengte écht vast te houden houdt bijna niemand over, en breed genoeg om er iets mee te kunnen varieert nog steeds in vinlengte.

2. c. Je kwadrateert de semi-partiële: .637² = .406, en de R² springt inderdaad van .354 naar .760 — een sprong van .406. a is de val waar dit blok voor waarschuwt: de partiële in het kwadraat is .628, en dat getal staat nergens in je uitvoer. (Kwadrateer je de gedrukte .793, dan kom je op .629; de partiële is in werkelijkheid .7927, en die geeft .628. Rond dus pas aan het eind af.) b klopt als som — .871² = .759 — maar dat is wat de vinlengte in haar eentje verklaart, niet wat zij náást de snavellengte toevoegt. d is een verzonnen bewerking; het verschil tussen twee correlaties in het kwadraat betekent niets.

3. a. Dat is een schijnverband: tussen de snavellengte en het gewicht, via de vinlengte, en het mechanisme staat er ook bij — pinguïns met een lange snavel hebben meestal ook lange vinnen. b is de veelgemaakte gok dat sterke samenhang tussen voorspellers het schatten onmogelijk maakt. Dat gebeurt hier niet: de standaardfout van die snavel-helling staat gewoon in de tabel van Oefening 8.1, op 5.18 gram per millimeter. Het model schat hem dus prima, en het antwoord is dat er weinig van over is — niet dat het niet te meten valt. c verwart het aantal geschatte getallen met de grootte van de hellingen; dat ene getal erbij verandert de vrijheidsgraden, niet de schatting. d verzint een meetfout die nergens in deze data is vastgesteld, en zelfs mét meetfout gaat een helling daar niet van 87.42 naar 6.05.

4. d. Dat gedeelde stuk telde je in de optelsom twee keer mee: één keer via de snavellengte, één keer via de vinlengte. Het model telt het één keer, want vaker dan één keer valt er niets te verklaren. a is de unieke bijdrage van de vinlengte, en die is .406 — een ánder getal. b is het onverklaarde deel, en dat is .240: wat er na .760 nog overblijft. c pakt de goede waarschuwing beet — dit blok zegt inderdaad dat er met dat optellen iets niet klopt — en stopt één stap te vroeg. Wat er niet klopt, is dat je dubbel telt; en hoevéél je dubbel telt, is precies het getal waar deze vraag naar vraagt.

5. b. Het gedeelde stuk is verschil in gewicht dat de twee voorspellers samen verklaren; het aan één van de twee hangen is een bewering die de data niet dragen. a ziet er eerlijk uit en is het niet: .053 per voorspeller is een verdeling die je zelf verzint, en daarna lijkt het alsof je weet wat je niet weet. c doet hetzelfde en dan nog scheef. d is te streng — het gedeelde stuk is een uitkomst en hoort er dus in, gewoon benoemd als gedeeld.

6. c. Twee voorspellers die sterk samenhangen vertellen elkaars verhaal, en dan houdt de zwakste van de twee niets eigens over. a verwart overlap met hoogte: de snavellengte en de snaveldiepte overlappen nauwelijks en halen samen .471, terwijl vin en snavel fors overlappen en tóch .760 halen. b klinkt logisch en klopt niet — de helling van de snaveldiepte op het gewicht is −191.64 in haar eentje en −142.72 in het model, dus zij zakt zonder van teken te wisselen. d kijkt naar het model als geheel, en dat is de andere vraag: bij allebei de paren mag die nulhypothese de deur uit.

De getallen in deze zes vragen staan bijna allemaal al eerder op deze bladzij, de meeste in de tabel onder het kader, in de tuin en in de antwoorden van Jouw beurt. Wat er nieuw bij komt zijn de foute afleiders, en bij elk staat welke som erachter zit — voluit in de uitleg, of in woorden in de optie zelf — zodat je ze kunt narekenen zonder ze te geloven. Twee getallen staan niet op deze bladzij. De 5.18 bij vraag 3 staat in de tabel van Oefening 8.1, in de kolom Std. Error bij de snavellengte. En de .7927 bij vraag 2 is de partiële correlatie van de vin met één decimaal meer dan SPSS laat zien: dubbelklik op de tabel en dan op de cel met .793, en SPSS laat meer decimalen zien — afgerond op vier is dat .7927.

◠ Zelfde vorm in het boek

Hier: de derde speler die zich vermomde als een stuk van het snavel-effect, de partiële correlatie die vangt wat er overblijft als je hem wegrekent, en het gedeelde stuk dat van geen van beide voorspellers is.

In het boek: W8 — Meer dan één verschil

Daar draait het niet om méér knoppen, maar om dezelfde vraag als bij die correlatie-wolk: wat blijft er van een verband over als je vasthoudt wie er nog meer meepraat?