Tweede beweging · Verschillen koppelen

Oefening 3.3 · De residuen bekijken

Wat de lijn liet liggen, en waar R² vandaan komt · residuals

Data bij deze oefening — diamantjes.csv de twaalf steentjes uit het boek · penguins.csv 342 pinguïns · bigfive.csv 2634 ingevulde vragenlijsten · wat elke kolom betekent

prikkel

Tweeëntwintig pinguïns van precies 190 millimeter

voorspelling · gokfout

De pinguïns zijn oude bekenden — in Oefening 3.2 trok je er zelf een lijn door: het gewicht voorspeld uit de vinlengte, bijna vijftig gram pinguïn per millimeter vin, en R² = .76.1 Driekwart van alle verschil in gewicht loopt langs de vin mee. Dat is veel, voor levende dieren, en het klinkt alsof de lijn het gewicht daarmee wel zo ongeveer wéét.

En nu iets raars. In het bestand zitten tweeëntwintig pinguïns met een vin van precies 190 millimeter. De lijn kent alleen de vinlengte, dus die tweeëntwintig krijgen alle tweeëntwintig dezelfde voorspelling: 3659.4 gram. Wat de weegschaal werkelijk zei, in grammen:

3050 · 3325 · 3400 · 3450 · 3450 · 3450 · 3575 · 3600 · 3600 · 3650 · 3700 · 3700 · 3725 · 3800 · 3900 · 3900 · 3900 · 3950 · 4250 · 4250 · 4250 · 4600

Van 3050 tot 4600 — anderhalve kilo verschil, bij één en dezelfde vinlengte. De lijn kan daar niets aan doen: hij weet maar één ding van een pinguïn, en dat ene ding was tweeëntwintig keer gelijk.

En die tweeëntwintig zijn geen rariteit die je toevallig trof. Kies een andere vinlengte en je ziet hetzelfde, alleen met minder dieren tegelijk op een kluitje: overal langs de lijn zit de werkelijkheid erboven en eronder. Dat zet een vraag op scherp die we tot nu toe hebben laten liggen: hoe ver zit de lijn er per pinguïn naast — en wat kun je met die gokfouten doen?

Trek even mee. De lijn heeft gegokt; wij gaan nakijken.

speel het

Reken de gokfouten uit op de twaalf steentjes

residu · voorspelde waarde

Zo’n gokfout heb je in het boek al zien staan: DATA = FIT + RESIDU. De fit is wat de lijn gokt, het residu is wat er overblijft — de gokfout, nu niet meer ten opzichte van het gemiddelde maar ten opzichte van de lijn.

Je komt dat ene ding onder vier namen tegen: gokfout, residu, afwijking, en in Engelse uitvoer en artikelen error (of residual). Het is telkens de afstand tussen wat er echt is en wat de lijn gokte. In dit blok heet hij gokfout; zegt SPSS Residual, RES_1 of een plaatje residu, dan is het precies hetzelfde.

OpmerkingEerst zoals in het boek — de twaalf diamantjes
  1. Open diamantjes.csv. Analyze → Regression → Linear, glans naar Dependent, karaat naar Independent(s).
  2. Klik op Save en vink bij Predicted Values én bij Residuals de optie Unstandardized aan. Continue, OK.
  3. SPSS zet twee kolommen achter je gegevens: PRE_1 — wat de lijn gokt — en RES_1, wat er overblijft.
  4. Analyze → Descriptive Statistics → Descriptives, RES_1 erin, en vink onder Options de Sum aan.
REGRESSION
  /STATISTICS COEFF R ANOVA
  /DEPENDENT glans
  /METHOD=ENTER karaat
  /SAVE PRED RESID.

DESCRIPTIVES VARIABLES = RES_1
  /STATISTICS = SUM MEAN.

Afgerond op één decimaal staat er in die twee kolommen:

PRE_1     30.7   33.9   33.9   40.4   50.0   50.0   53.2   56.4   59.6   59.6   66.1   66.1
RES_1    -10.7   -3.9   -3.9  -10.4    0.0   20.0   26.8    3.6   10.4   20.4  -36.1  -16.1

Kijk of die som ook bij jou nul is — op wat rekenstof na. Doet hij dat niet, dan heb je onderweg iets anders in handen gekregen dan de residuen van dit model.

Dat zijn precies de twee kolommen uit de tabel in het boek: Else valt op nul (de lijn gaat dwars door haar heen), Kees zit er met −36.1 het verst naast. Nieuw is alleen het plaatje hieronder — je zet die twee kolommen tegen elkaar in plaats van ze te lezen:

OpmerkingIn SPSS · de gokfouten in een plaatje
GRAPH /SCATTERPLOT(BIVAR) = PRE_1 WITH RES_1.

De gok op de liggende as, de gokfout op de staande. Een nullijn erbij: dubbelklik in de uitvoer op het plaatje en kies Add Reference Line from Y Axis, met 0 als waarde.

Kijk goed wat dat plaatje doet. De regressielijn is plat geworden: alles wat de lijn al wist is eruit gerekend, dus wat overblijft hoort rond de nullijn te zweven. Een residuenplot is een schoongeveegde puntenwolk — je kijkt niet meer naar het verband, je kijkt naar wat het verband liet liggen.

OpmerkingEerst de twaalf diamantjes

Twee vragen voor je verder leest.

a) Vraag de standaardafwijking van de glans op, en die van de residuen. (twee getallen, en één zin over wat het verschil tussen die twee betekent)

b) Kwadrateer allebei die getallen, tel de twaalf gekwadrateerde afwijkingen van de glans op en doe hetzelfde met de residuen. (In de tabel ANOVA van je regressie staan ze allebei.) (twee sommen, en zeg welk deel van de eerste door de tweede wordt opgeslokt)

a) De glans zelf spreidt met SD = 21.74 glanspunten, de residuen met SD = 17.75. Zonder lijn is je beste gok voor elk steentje het gemiddelde, en hoe breed de gokfouten om dat gemiddelde heen uitwaaieren vat de standaardafwijking van de glans samen: bijna 22 glanspunten. Gok je mét de lijn, dan waaieren de residuen om de lijn heen uit, en die waaier is smaller: bijna 18. De lijn scheelt je dus wel iets, maar niet veel — bij deze twaalf steentjes is het karaat lang niet alles.

OpmerkingIn SPSS
DESCRIPTIVES VARIABLES = glans RES_1
  /STATISTICS = STDDEV.

Std. Deviation 21.742 en 17.746.

b) De glans om zijn eigen gemiddelde geeft 5200.0; de glans om de lijn geeft 3464.3. Van alle verschil in glans blijft er dus tweederde over nadat de lijn zijn deel heeft gehad — en dat ene derde dat hij wél pakt, is precies de R² = .33 die je in Oefening 3.1 en 3.2 zag.

OpmerkingIn SPSS

In de tabel ANOVA staat onder Sum of Squares: Total 5200.000 en Residual 3464.286. De rij ertussen, Regression 1735.714, is het stuk dat de lijn wél pakt.

Waaróm dat zo is, staat hieronder.

snap het

Het residu, en waar R² vandaan komt

residu · residuenplot · R²

Kijk nog eens naar die som van de residuen. Nul — niet ongeveer, maar op afrondingsgruis na exact. Dat is geen toeval en ook geen compliment aan de lijn: het is de bouw. Zo is de lijn gelegd — voor elke gokfout in de plus staat er evenveel min tegenover, want bleef er iets over, dan kon de hele lijn een stukje opschuiven en was het de best passende lijn niet.

Zoek voor jezelf momentjes om te controleren — het zou nul moeten zijn, klopt dat? Onthoud die nul dus wél als controle-momentje: telt jouw kolom residuen niet op tot nul, dan is er onderweg iets misgegaan.

Maar let op wat het óók betekent. Juist omdát die som altijd nul is — bij een lijn die strak door de wolk loopt én bij een lijn die er van alles naast laat liggen — zegt hij níéts over hoe goed de lijn gokt. Plus en min heffen elkaar toch wel op. Wil je weten hoe goed, dan moet je niet optellen maar kijken: hoe breed liggen de gokfouten om de nul?

En dat is precies wat je in de residuenplot ziet. De tweeëntwintig waar dit blok mee opende staan er als één kolom in: zelfde gok, tweeëntwintig gokfouten, boven en onder de nul.

OpmerkingIn SPSS · teken de gokfouten en tel de tuin
REGRESSION
  /STATISTICS COEFF R ANOVA
  /DEPENDENT gewicht
  /METHOD=ENTER vinlengte
  /SAVE PRED RESID.

GRAPH /SCATTERPLOT(BIVAR) = PRE_1 WITH RES_1.

DESCRIPTIVES VARIABLES = gewicht RES_1
  /STATISTICS = STDDEV.

gewicht spreidt met Std. Deviation 801.955, RES_1 met 393.700. Deel ze op elkaar en kwadrateer, in drie stapjes die je allemaal kunt narekenen:

393.700 / 801.955 = 0.491
0.491 x 0.491     = 0.241
1 - 0.241         = .759

Let op één getal in Model Summary: bij Std. Error of the Estimate staat 394.278 en niet 393.700. Geen van beide is fout — die standaardfout deelt door 340 (342 dieren min de twee getallen die de lijn beschrijven, het intercept en de helling), een standaardafwijking door 341.

Zonder lijn was je beste gok voor elk gewicht het gemiddelde — dat spel ken je — en dan was je typische gokfout 801.95 gram, de standaardafwijking van het gewicht. Mét de lijn blijft er 393.70 gram over: de standaardafwijking van de gokfouten. De lijn scheelt je dus 408.25 gram, ruim de helft van je gokfout.

En toch zei Oefening 3.2 R² = .76. Driekwart. Wie liegt er — de helft of de driekwart? Geen van beide; ze tellen in een andere maat. Denk aan alle verschil in gewicht als een tuin vol variatie. Een verband verklaren is geen lijntje verklaren maar oppervlakte, en oppervlakte gaat in kwadraten — dus kwadrateer de twee gokfouten vóór je ze op elkaar deelt. Dan staat er .76: het verklaarde stuk van de tuin, gedeeld door de hele tuin. In meters langs de rand wint de lijn ruim de helft; in tuinoppervlakte driekwart. Het is dezelfde winst, twee keer opgemeten.

En R² heeft daar niets nieuws voor nodig: alles wat hij weet, zit al in de gokfouten. Doe dezelfde deling op de twaalf steentjes en er komt .33 uit — precies het kwadraat van de r = .58 die je aan het begin van dit hoofdstuk zelf in elkaar zette. Twee routes, één getal: de correlatie kwadrateren, of de gokfouten boekhouden.

jouw beurt

De boekhouding van de pinguïnlijn

som van de residuen · residuenplot · R² uit de gokfouten

Nu jij, op de lijn uit de prikkel: het gewicht van 342 pinguïns, voorspeld uit hun vinlengte. Je hebt hem in Oefening 3.2 getrokken en gelezen; nu ga je uitrekenen wat hij liet liggen.

OpmerkingIn SPSS · zet klaar

penguins.csv staat open, en PRE_1 en RES_1 staan achter je gegevens uit het vorige kader. Zijn ze er niet, draai dan:

REGRESSION
  /STATISTICS COEFF R ANOVA
  /DEPENDENT gewicht
  /METHOD=ENTER vinlengte
  /SAVE PRED RESID.
OpmerkingJouw beurt

Beantwoord de vragen op volgorde; ze bouwen op elkaar. De laatste heet met opzet Z) en niet k): de wolk-vraag staat altijd achteraan.

Het zijn er elf, en dat is te veel voor één zitting. Na e) heb je de gokfouten in handen en heb je de prikkel teruggevonden — een goed moment om te stoppen. Bij f) begint de boekhouding, en dat is het stuk waar R² uit rolt.

Tussen haakjes staat telkens wat er in een compleet antwoord hoort. Staat er dat een deel aan jou is, dan is de verwoording vrij — bij de rest ligt het antwoord vast. En onder Tentamenvragen, aan het eind van dit blok, komen dezelfde onderwerpen nog een keer langs in de vorm waarin een tentamen ze stelt.

a) Vraag van de eerste zes pinguïns de voorspelling en het residu op (de eerste zes rijen van PRE_1 en RES_1). Tel bij één van de zes de twee op en leg de uitkomst naast zijn echte gewicht. (twee rijtjes van zes, en één som)

b) Tel alle 342 residuen op. Wat komt eruit, en waarom is dat géén compliment aan de lijn? (één getal, en twee zinnen)

c) Teken de residuenplot. Wat hoort daar te staan, en wat zie je? (twee zinnen)

d) Zoek de pinguïn waar de lijn er het verst naast zit, naar boven en naar onder. (twee getallen mét eenheid, en zeg van welke soort ze zijn)

e) Terug naar de tweeëntwintig uit de prikkel. Vraag de residuen op van de pinguïns met een vin van precies 190 millimeter. (de kleinste en de grootste, en één zin over wat er in de residuenplot boven die ene gok staat)

f) Nu de boekhouding. Tel de gekwadrateerde afwijkingen van het gewicht om zijn eigen gemiddelde op, en die van de residuen om nul. Tel daarna de gekwadrateerde afstanden van de lijn tot het gemiddelde op (alle drie staan in de tabel ANOVA, onder Sum of Squares: bij Total, Residual en Regression). (drie getallen — en tel de laatste twee bij elkaar op)

g) Reken R² uit die getallen: één min de residu-som gedeeld door de totaal-som. Leg het naast R Square in Model Summary. (twee getallen)

h) Vraag de standaardafwijking van het gewicht op en die van de residuen. Hoeveel procent van je gokfout scheelt de lijn — en waarom is dat een ánder getal dan de R² uit g)? (twee getallen, en twee zinnen)

i) Kleur de residuenplot per soort en vraag het gemiddelde residu per soort op. Wat zegt dat over de lijn? (drie getallen, en twee zinnen)

j) Schrijf je bevinding op in één zin. (wat de lijn dekt, en wat hij per pinguïn laat liggen — die twee moeten erin staan, de woorden eromheen zijn aan jou; meer antwoorden zijn goed)

Z) Is de wolk recht, en zitten er geen punten tussen die de boel verneuken? Kijk naar je residuenplot uit c) — ligt er een boog in, of hangt er één dier zo ver weg dat het in zijn eentje aan de lijn trekt? (twee korte uitspraken, en zeg welke van je antwoorden hierboven eraan hangen)

a) De zes voorspellingen zijn 3212.3 · 3460.7 · 3907.9 · 3808.5 · 3659.4 · 3212.3 gram, en de zes residuen 537.7 · 339.3 · −657.9 · −358.5 · −9.4 · 412.7. Tel ze per dier op en je hebt het gewicht terug: de eerste pinguïn weegt 3212.3 + 537.7 = 3750 gram, en dat staat ook in het bestand. DATA = FIT + RESIDU, letterlijk.

OpmerkingIn SPSS

Kijk in je gegevensvenster naar de eerste zes rijen van PRE_1, RES_1 en gewicht.

b) Nul, op afrondingsgruis na. En dat is geen compliment: het is de manier waarop de lijn gelegd is. Elke gokfout in de plus heeft een gokfout in de min tegenover zich staan, en dat geldt voor élke best passende lijn — ook voor een die er compleet naast zit. Een getal dat altijd hetzelfde is, kan je niets vertellen over hoe goed het gaat.

OpmerkingIn SPSS
DESCRIPTIVES VARIABLES = RES_1
  /STATISTICS = SUM.

Er staat nul, op wat rekenstof na.

c) Er hoort een vormeloze wolk te staan rond de nullijn: alles wat de lijn al wist is eruit gerekend, dus wat overblijft mag geen patroon meer dragen. En dat is ook wat je ziet — een band van punten die van links naar rechts ongeveer even breed blijft en nergens duidelijk omhoog of omlaag loopt. Je ziet de verticale strepen wél: pinguïns zijn op hele millimeters opgemeten, dus de gokken vallen op een beperkt aantal plekken.

d) Naar boven zit de lijn er 1288.69 gram naast (een Adélie, rij 39) en naar onder 1058.80 gram (een Chinstrap, rij 313). Ruim een kilo, allebei — bij dieren die gemiddeld ruim vier kilo wegen.

OpmerkingIn SPSS
DESCRIPTIVES VARIABLES = RES_1
  /STATISTICS = MIN MAX.

SORT CASES BY RES_1 (D).

Minimum −1058.797 en Maximum 1288.687. Na het sorteren staat het dier met de grootste gokfout bovenaan en lees je zijn soort af; onderaan staat de andere. Je bestand ligt daarna in een andere volgorde, en dat mag — geen enkele uitkomst in dit blok hangt van de volgorde af.

e) Van −609 tot +941 gram. In de residuenplot staat boven die ene gok van 3659.4 dus één verticale streep van tweeëntwintig punten, ruim anderhalve kilo lang. Dat is de prikkel, nu als plaatje: dezelfde voorspelling, tweeëntwintig verschillende gokfouten.

OpmerkingIn SPSS
TEMPORARY.
SELECT IF (vinlengte = 190).
DESCRIPTIVES VARIABLES = RES_1
  /STATISTICS = MIN MAX.

22 dieren, met Minimum −609.426 en Maximum 940.574. TEMPORARY zorgt dat de selectie alleen voor deze ene tabel geldt.

f) De totaal-som is 219 307 697, de residu-som 52 854 796 en de fit-som 166 452 902. Tel die laatste twee op en je krijgt de eerste terug. Dat is DATA = FIT + RESIDU, maar dan in gekwadrateerde afwijkingen — en dát is de vorm waarin de boekhouding klopt.

Reken je het met de hand na, dan kom je één te hoog uit: 166 452 902 + 52 854 796 is 219 307 698 en hierboven staat 219 307 697. Dat is geen scheur in de boekhouding maar afrondingsgruis — alle drie de sommen zijn apart afgerond, en onafgerond vallen ze samen op machineruis na.

OpmerkingIn SPSS

Alle drie staan in de tabel ANOVA, onder Sum of Squares: Total 219307697.368, Residual 52854795.628 en Regression 166452901.740. Dat zijn dezelfde drie getallen als hierboven, alleen zonder spaties en met drie decimalen erachter.

g) .76, allebei.

OpmerkingIn SPSS

Zelf rekenen: 1 − 52854795.628 / 219307697.368 = .759. En in Model Summary staat R Square .759 — hier vallen de twee vormen toevallig samen, want SPSS laat de voorloopnul altijd weg.

En dat is de pointe van deze oefening. R² is geen aparte maat die SPSS ergens vandaan tovert: het is de tuin die de lijn pakt, gedeeld door de hele tuin. Je hebt hem net zelf uit de gokfouten gerekend.

h) De standaardafwijking van het gewicht is 801.95 gram, die van de residuen 393.70. De lijn scheelt je dus 408.25 gram, en dat is 51 procent van je gokfout — ruim de helft, niet driekwart.

Twee zinnen waarom die twee getallen allebei kloppen: de 51 procent telt in grammen, langs de rand van de tuin, en de .76 telt in oppervlakte. Kwadrateren maakt van ruim de helft driekwart — reken maar na, 393.70 gedeeld door 801.95 is .49, en .49 in het kwadraat is .24, en één min .24 is .76.

OpmerkingIn SPSS
DESCRIPTIVES VARIABLES = gewicht RES_1
  /STATISTICS = STDDEV.

Std. Deviation 801.955 en 393.700. (De 394.278 bij Std. Error of the Estimate is een ander getal — zie het kader hierboven bij de tuin.)

i) Adélie +43.5, Chinstrap −215.7, Gentoo +65.8 gram.

OpmerkingIn SPSS
MEANS TABLES = RES_1 BY soort
  /CELLS = MEAN COUNT.

43.539, −215.683 en 65.789 gram. De gekleurde residuenplot maak je met Graphs → Chart Builder → Scatter/Dot → Simple Scatter: PRE_1 op de ene as, RES_1 op de andere, en soort op Set color.

Twee zinnen: over alle 342 heen is het gemiddelde residu nul, maar per soort is het dat niet — de lijn zit voor de Chinstraps stelselmatig ruim twee ons te hoog en voor de andere twee een beetje te laag. Dat wil zeggen dat er ook hier nog een derde speler in de wolk zit, precies zoals in Oefening 3.1; alleen is hij deze keer klein genoeg om de lijn niet om te gooien.

j) Bijvoorbeeld:

De lijn van gewicht op vinlengte dekte ruim driekwart van de verschillen in gewicht bij 342 pinguïns (R² = .76), maar liet per dier nog altijd bijna vierhonderd gram spreiding om zich heen liggen (SD van de residuen = 393.70).

Z) Ja — allebei komen ze goed uit.

Er ligt geen boog in. De residuen lopen niet stelselmatig omhoog of omlaag met de voorspelling; sterker nog, de samenhang tussen de gok en de gokfout is exact nul, en dat is geen bevinding maar de bouw — dat is precies wat “de lijn is plat geworden” betekent. Wat je wél kunt nakijken is of er een kromme in zit, en dat doe je door de lijn een knik toe te staan. De R² was .76, op vier decimalen .7590; met de knik erbij wordt het .7753. Ruim anderhalve procent erbij — maar dat is geen bocht, dat is een parameter erbij, en die kan de R² alleen maar omhoog duwen.

En geen pinguïn trekt in zijn eentje aan de lijn. De grootste gokfout is 1288.69 gram, en dat is ruim drie keer de standaardafwijking van de residuen — een dier dat opvalt, maar niet een dier dat de lijn kantelt. Laat je hem weg, dan beweegt de helling nauwelijks.

OpmerkingIn SPSS
CORRELATIONS VARIABLES = PRE_1 RES_1.

Bij Pearson Correlation staat .000 — op machineruis na precies nul.

Wat eraan hángt, als het wél mis was gegaan: de hele boekhouding blijft staan — de sommen bij f), de R² bij g), de standaardafwijkingen bij h) en de soortgemiddelden bij i) zijn optellingen op deze 342 dieren, en die kloppen wat er ook krom is. Wat je overdoet is elke zin waarin je de lijn aanbeveelt: bij j) staat dat hij driekwart dekt, en als het verband krom loopt is dat geen leugen maar wel een lijn die je op de verkeerde plek in de steek laat.

eindopdracht

Dezelfde boekhouding op 2634 vragenlijsten

schaalscore · R² uit de gokfouten · steekproefzin

OpmerkingEindopdracht

De afsluiter van het hele hoofdstuk, en hij eindigt waar dit boek altijd eindigt: bij mensen.

In bigfive.csv staan 2634 mensen die vijfentwintig uitspraken over zichzelf beoordeelden op een schaal van 1 tot 6. Je gebruikt er hier tien — vijf over neuroticisme, hoe snel je van slag raakt, en vijf over openheid, de smaak voor nieuwe dingen. Je hebt ze in Oefening 3.1 en 3.2 al ontmoet; nu doe je er de boekhouding van dit blok op.

OpmerkingIn SPSS · zet de mensen klaar
COMPUTE neuroticisme = MEAN(N1, N2, N3, N4, N5).
COMPUTE openheid     = MEAN(O1, O2, O3, O4, O5).
EXECUTE.

REGRESSION
  /STATISTICS COEFF R ANOVA
  /DEPENDENT neuroticisme
  /METHOD=ENTER openheid
  /SAVE RESID.

bigfive.csv is een nieuw bestand, dus je krijgt hier een eigen RES_1 — die van de pinguïns staat in dat andere bestand en blijft daar.

a) Vraag de residuen op en tel ze op. (één getal, en één zin over waarom je dat had kunnen voorspellen)

b) Vraag de standaardafwijking van het neuroticisme op en die van de residuen. Hoeveel scheelt de lijn je? (twee getallen, en één zin)

c) Reken R² uit de gokfouten, net als bij de pinguïns. (één getal, en leg het naast R Square in Model Summary)

d) Nu de mensen-versie van de tweeëntwintig pinguïns. Hoeveel mensen scoren precies 4.0 op openheid, welke voorspelling krijgen die allemaal, en hoe ver loopt hun échte neuroticisme uiteen? (drie antwoorden, en één zin)

e) Schrijf op wat je gevonden hebt, in twee zinnen en in deze vaste vorm:

Binnen deze n mensen geldt: … (R² = …). Of dat ook buiten deze n opgaat, weet je nog niet.

(vul de n, de bevinding in gewone taal en de R² in — en laat die tweede zin staan zoals hij er staat; voor de bevinding zijn meer antwoorden goed)

a) Nul, op afrondingsgruis na — en dat had je kunnen voorspellen, want dat geldt voor élke best passende lijn, hoe goed of slecht hij ook past. Bij de diamantjes was het zo, bij de pinguïns was het zo, en hier dus ook.

OpmerkingIn SPSS
DESCRIPTIVES VARIABLES = RES_1
  /STATISTICS = SUM.

Nul, op wat rekenstof na.

b) Het neuroticisme spreidt met SD = 1.1946 schaalpunten, de residuen met SD = 1.1789. De lijn scheelt je dus 0.0156 schaalpunt op een schaal van 1 tot 6 — oftewel: bijna niets. (Vier decimalen hier met opzet: op twee zie je het verschil niet eens meer.) Wie de openheid van iemand kent, weet daarmee nauwelijks meer over zijn neuroticisme dan wie alleen het gemiddelde kent.

OpmerkingIn SPSS
DESCRIPTIVES VARIABLES = neuroticisme RES_1
  /STATISTICS = STDDEV.

Std. Deviation 1.195 en 1.179. Wil je de vier decimalen uit de tekst zien — 1.1946 en 1.1789 — dubbelklik dan op de tabel en daarna op de cel.

c) .03, allebei. Van de hele tuin pakt deze lijn nog geen drie procent.

OpmerkingIn SPSS

1 − 1.1789² / 1.1946² = .026, en in Model Summary staat R Square .026.

d) 470 mensen scoren precies 4.0 op openheid. Die krijgen alle 470 dezelfde voorspelling: 3.21 schaalpunten neuroticisme. En hun échte neuroticisme loopt van 1.0 tot 6.0 — van de laagste score die op deze schaal bestaat tot de hoogste, allemaal binnen die ene gok.

OpmerkingIn SPSS
TEMPORARY.
SELECT IF (openheid = 4).
DESCRIPTIVES VARIABLES = neuroticisme
  /STATISTICS = MIN MAX.

Er blijven 470 mensen over — dat aantal staat in de kolom N — met Minimum 1.00 en Maximum 6.00. De voorspelling reken je zelf uit met de twee getallen uit de kolom B: 1.798 + 0.353 × 4 = 3.210.

Dat is dezelfde figuur als de tweeëntwintig pinguïns waar dit blok mee opende, maar dan harder: daar liep het echte gewicht over anderhalve kilo uiteen bij één gok, hier loopt het echte neuroticisme over de hele schaal uiteen bij één gok. Bij mensen is dat de regel en niet de uitzondering.

e) Bijvoorbeeld:

Binnen deze 2634 mensen geldt: wie opener is, scoort gemiddeld iets hoger op neuroticisme, maar openheid en neuroticisme delen nog geen drie procent van hun verschillen (R² = .03). Of dat ook buiten deze 2634 opgaat, weet je nog niet.

Kijk wat die tweede zin doet. Alles wat je in dit hoofdstuk hebt uitgerekend — de covariantie, de correlatie, de lijn, de residuen, de R² — beschrijft de mensen die je vóór je hebt, en verder niemand. Je hebt geen enkele reden gekregen om aan te nemen dat de volgende 2634 mensen hetzelfde zouden laten zien, en ook geen manier om te zeggen hoe waarschijnlijk dat is.

Dat is precies waar de volgende beweging mee begint.

tentamen

Tentamenvragen

DATA = FIT + RESIDU · R² uit de gokfouten · residuenplot

Deze zes hebben de vorm waarin een tentamen dit onderwerp stelt: vier opties, en precies één is de beste — de andere drie kunnen best waar zijn en toch niet het beste antwoord zijn. Rekenen hoeft alleen bij vraag 2 en 3.

OpmerkingTentamenvragen

1. Je telt alle 342 gokfouten van de lijn op en er komt nul uit. Wat mag je daaruit besluiten over hoe goed deze lijn gokt?

  1. Niets: bij elke best passende lijn is die som nul, ook bij een lijn die er compleet naast zit.
  2. De lijn past goed: de gokfouten boven en onder de lijn houden elkaar netjes in evenwicht.
  3. De R² moet 1 zijn, want er blijft per saldo niets over.
  4. De lijn gokt gemiddeld niet te hoog en niet te laag, en dat is precies wat je van een goede lijn wilt.

2. Een van de tweeëntwintig pinguïns met een vin van 190 millimeter weegt 4250 gram. De lijn voorspelt voor alle tweeëntwintig 3659.4 gram. Hoe groot is de gokfout bij dit dier?

  1. −590.6 gram
  2. 590.6 gram
  3. 4250.0 gram
  4. 7909.4 gram

3. Van de lijn van het gewicht op de vinlengte is de totaal-som van de gekwadrateerde afwijkingen 219 307 697 en de residu-som 52 854 796. Wat is de R² van deze lijn?

  1. .24
  2. .51
  3. .76
  4. 3.15

4. De standaardafwijking van het gewicht is 801.95 gram, die van de gokfouten 393.70 gram. In grammen scheelt de lijn je dus 51 procent van je gokfout, terwijl de R² .76 is. Welke uitspraak over die twee getallen is de beste?

  1. Eén van de twee moet verkeerd zijn; dezelfde winst kan niet twee getallen hebben.
  2. De 51 procent telt in grammen en de .76 in gekwadrateerde grammen; het is dezelfde winst, twee keer opgemeten.
  3. De .76 hoort bij de lijn en de 51 procent bij de gokfouten, dus ze gaan over verschillende dingen.
  4. De .76 is te optimistisch: 51 procent is wat de lijn werkelijk scheelt, en de R² blaast dat op door te kwadrateren.

5. Je tekent de residuenplot: de gok op de ene as, de gokfout op de andere. Wat hoort daar te staan, en wat betekent het als er wél een patroon in zit?

  1. Een stijgende wolk — de gokfout hoort mee te lopen met de gok; ligt hij plat, dan is er iets misgegaan.
  2. Een vormeloze wolk rond de nullijn; een patroon betekent dat de lijn iets heeft laten liggen wat hij had kunnen meenemen.
  3. Een vormeloze wolk rond de nullijn; een patroon betekent dat er meetfouten in het bestand zitten.
  4. Een dalende wolk — grote gokken gaan altijd samen met kleinere gokfouten.

6. Je vraagt de gemiddelde gokfout per soort op en er staat: Adélie +43.5, Chinstrap −215.7 en Gentoo +65.8 gram. Toch is de gemiddelde gokfout over alle 342 dieren nul. Welke uitspraak is de beste?

  1. Dat kan niet allebei waar zijn: drie gemiddelden die niet nul zijn, kunnen samen geen nul geven.
  2. De lijn is onbruikbaar voor Chinstraps en moet voor die soort apart getrokken worden.
  3. De soort draagt informatie die de lijn niet heeft: binnen een groep mag het evenwicht schuin liggen, ook al staat het over alle 342 dieren op nul.
  4. De drie soorten zijn te verschillend van omvang, en daardoor trekt de grootste soort het gemiddelde naar nul.

1 a · 2 b · 3 c · 4 b · 5 b · 6 c

Hieronder staat per vraag waaróm, en waarom de drie andere opties aantrekkelijk zijn. Heb je er een goed, dan kun je die overslaan.

1. a. Die nul is de bouw en niet de uitkomst: zo is de lijn gelegd. Een getal dat altijd hetzelfde is, kan je niets vertellen over wat er verschilt. b leest het evenwicht als een compliment, en dat is de val — plus en min heffen elkaar ook op bij een lijn die er van alles naast laat liggen. c verwart per saldo niets met niets: de gokfouten zijn niet nul, hun som is nul, en de R² is .76. d is de lastigste, want de bewering is waar — de lijn gokt gemiddeld niet te hoog en niet te laag — en juist daaróm zegt hij niets: dat geldt voor élke best passende lijn, dus het onderscheidt deze lijn van niets.

2. b. DATA = FIT + RESIDU, dus de gokfout is wat er echt staat min wat de lijn gokte: 4250 − 3659.4 = 590.6 gram. a heeft het teken omgedraaid en berekent fit min data; dan zou dit dier lichter zijn dan voorspeld, terwijl het zwaarder is. c noemt het gewicht zelf. d telt op in plaats van af: 4250 + 3659.4 = 7909.4, en dat is zwaarder dan de zwaarste pinguïn in het bestand.

3. c. Eén min de residu-som gedeeld door de totaal-som: 1 − 52 854 796 / 219 307 697 = .76. a is de deling zonder die ene min ervoor — .24 is het deel dat de lijn juist niet pakt, en dat is precies waarom die min er staat. b is de 51 procent uit vraag 4, het getal in grammen in plaats van in gekwadrateerde grammen. d deelt de fit-som door de residu-som: 166 452 902 / 52 854 796 = 3.15. Dat een aandeel boven de 1 uitkomt is je aanwijzing dat er iets niet door het totaal gedeeld is.

4. b. Denk aan alle verschil in gewicht als een tuin: langs de rand wint de lijn ruim de helft, in oppervlakte driekwart. Oppervlakte gaat in kwadraten, dus kwadrateer eerst en deel dan. a zoekt een fout waar er geen is; allebei de getallen zijn na te rekenen. c zet de lijn en de gokfouten tegenover elkaar, maar ze komen uit dezelfde boekhouding — de R² ís uit de gokfouten gerekend. d noemt kwadrateren een opblaasbeweging. Het is een keuze van maat, en het is de maat waarin een verband verklaren betekent: oppervlakte en niet lengte.

5. b. Alles wat de lijn al wist is eruit gerekend, dus wat overblijft mag geen patroon meer dragen — en zit er wél een patroon in, dan zat er in de gokfouten nog iets dat de lijn had kunnen gebruiken. a en d verwachten een richting in de residuenplot, en die kán er niet in zitten: de samenhang tussen de gok en de gokfout is bij een best passende lijn exact nul. Dat de plot plat is, is dus geen teken dat er iets is misgegaan maar de bedoeling. c heeft de goede wolk en de verkeerde gevolgtrekking: een patroon wijst op iets dat het model mist, niet op fouten in de weegschaal.

Let op dat patroon hier twee gedaanten heeft, en dat je ze allebei tegenkomt. Een patroon langs de as is een bocht of een waaier die breder wordt: dan hangt de gokfout samen met de hoogte van de gok. Een patroon per groep is wat je bij i) uitrekent: binnen één soort liggen de gokfouten gemiddeld aan één kant, terwijl ze over alle 342 dieren samen op nul uitkomen. De tweede zie je niet als je de punten niet kleurt — en dat is precies waarom i) je vraagt dat wél te doen.

6. c. Over alle 342 dieren heen is de gemiddelde gokfout nul, want zo is de lijn gelegd — maar dat evenwicht mag binnen een groep gerust schuin liggen. Dat de Chinstraps er stelselmatig ruim twee ons naast zitten, betekent dat de soort iets weet wat de lijn niet weet: de derde speler uit 3.1, nu zichtbaar in de gokfouten. a is te snel: negatief en positief tellen samen wél op tot nul, en het zijn ook nog ongelijke groepen (151, 68 en 123 dieren), dus het rekent niet eens met evenveel dieren per soort. b springt van een vaststelling naar een ingreep; tweehonderd gram op een dier van ruim vier kilo is klein, en het blok laat die lijn juist staan. d laat de grootste soort het gemiddelde naar nul trekken, en dat is de verkeerde kant op: de nul is er niet ondanks de soorten maar per constructie.

De getallen in deze zes vragen staan allemaal al eerder op deze bladzij. Wat er nieuw bij komt is de gokfout van vraag 2 en de foute afleiders — en die staan hierboven allemaal als som voluit, zodat je ze kunt narekenen zonder ze te geloven.

◠ Zelfde vorm in het boek

Hier: de gokfouten zelf uitgerekend, en R² uit de boekhouding in plaats van uit een knop.

In het boek: W4 — Hangen ze samen?

Daar valt DATA = FIT + RESIDU voor het eerst; hier zie je wat er in die derde term zit, en dat het verklaarde deel er gewoon uit te tellen is.

Voetnoten

  1. Palmer Penguins — Gorman, Williams & Fraser (2014), Palmer Station Antarctica LTER; via het R-pakket palmerpenguins (CC0). Alle getallen in dit blok zijn op die échte data nagerekend.↩︎