Statistiske analyser: å velge og tolke metoden

Det første formålet er å måle om to kontinuerlige variabler varierer sammen – om høye verdier av den ene følges av høye (eller lave) verdier av den andre. Spørsmålet er ikke om den ene forårsaker den andre, bare om de henger sammen tallmessig, og hvor sterkt.

Målet på dette er Pearsons korrelasjonskoeffisient $r$. Den bygger på de samme kvadrat- og kryssummene som spredningen i forrige seksjon. Skriv

der $S_{xx}$ og $S_{yy}$ er de kjente kvadratsummene og $S_{xy}$ er kryssproduktsummen. Da er

Telleren fanger fortegnet: et punkt over gjennomsnittet på begge variablene (eller under på begge) gir et positivt bidrag, et punkt som ligger høyt på den ene og lavt på den andre et negativt. Nevneren normerer, slik at $r$ alltid ligger mellom $-1$ og $+1$. Verdien $r=+1$ betyr at alle punktene ligger på en stigende rett linje, $r=-1$ på en synkende, og $r=0$ at det ikke finnes noen lineær sammenheng. To ting følger av at $r$ måler nettopp lineær samvariasjon: den ser ikke krumme mønstre (to variabler kan henge tett sammen langs en bue og likevel gi $r$ nær $0$), og den er følsom for enkeltstående uteliggere som kan trekke linja mot seg. Som grove holdepunkter – også her konvensjoner Cohen satte skjønnsmessig – regnes $|r|\approx 0.1$ som en svak sammenheng, $0.3$ som moderat og $0.5$ som sterk [189, tab. 1, s. 157].

Det er lett å lese mer inn i $r$ enn tallet bærer, og et enkelt kvadrat holder tolkningen ærlig. Determinasjonskoeffisienten $r^2$ er andelen av variasjonen i den ene variabelen som den lineære sammenhengen statistisk forklarer. En korrelasjon på $r=0.7$ ser sterk ut, men $r^2=0.49$ betyr at under halvparten av variasjonen er forklart – resten ligger andre steder. Kvadratet demper alltid inntrykket, og det er $r^2$, ikke $r$, som forteller hvor mye av det ene som følger med det andre.

Pearsons $r$ forutsetter at sammenhengen er tilnærmet lineær og at dataene er rimelig fri for ekstreme uteliggere. Er ikke det tilfellet – eller er den ene variabelen ordinal, som en symptomskår – finnes et robust alternativ: Spearmans $\rho$ (den greske bokstaven rho). Spearmans $\rho$ er ganske enkelt Pearsons $r$ regnet på rangene i stedet for på rådataene: hver observasjon erstattes av sin plassnummer i den sorterte rekka, og korrelasjonen regnes på plassnumrene. Fordi den bare bryr seg om rekkefølgen, måler den monoton samvariasjon – om den ene stiger når den andre stiger, uansett om forholdet er lineært – og den er robust mot uteliggere på samme måte som medianen.

Vi ser begge målene på biometridatasettet, som spredningsdiagrammet i seksjonen om deskriptiv statistikk pekte fram mot: 74 friske voksne fra en norsk studie ved USN, snittalder 22.8 år, 16 av dem menn [183]. Sfærisk ekvivalent (SER) er målt med autorefraksjon i cykloplegi – med akkommodasjonen slått ut av dråper, så tallet ikke forstyrres av at øyet fokuserer – og aksiallengden (AL) optisk med Myopia Master, et instrument som samler optisk biometri (aksiallengde målt med lys, i motsetning til A-skannets ultralyd fra seksjonen om måling og usikkerhet), autorefraksjon og keratometri i ett apparat. Studien sammenlignet det med IOLMaster 700, et etablert optisk biometer som brukes til å velge kunstig linse før kataraktkirurgi, og fant at de to måler aksiallengden så godt som likt – middeldifferansen var $-0.004\mathrm{mm}$ [183]. Studien målte begge øyne, men boken bruker bare høyre øye, slik at hver person bidrar med én rad og radene er uavhengige – husk fra første seksjon at analyseenheten må velges bevisst; den siste seksjonen forklarer hvorfor to øyne fra samme person ikke er to uavhengige observasjoner. Tabell 13.2 viser de tolv første personene; hele settet står i Tillegg A. Aksiallengde og sfærisk ekvivalent henger tett sammen: lange øyne er mer nærsynte.

Korrelasjonen sier hvor sterkt to variabler henger sammen, men ikke hvordan. Vil du ha selve linja – for å tolke hvor bratt den ene endrer seg med den andre, eller for å anslå en verdi du ikke har målt – er verktøyet enkel lineær regresjon.

Modellen tilpasser en rett linje

der $b_0$ er skjæringen (verdien av $\widehat{y}$ når $x=0$) og $b_1$ er stigningen (endringen i $\widehat{y}$ per enhets økning i $x$). Taket «hatten» på $\widehat{y}$ minner om at dette er en predikert verdi på linja, ikke en observert. For hver observasjon er avstanden loddrett fra punktet ned til linja, $y_i-{\widehat{y}}_i$, et residual. Metoden velger $b_0$ og $b_1$ som gjør summen av de kvadrerte residualene minst mulig – derav navnet minste kvadraters metode. Vi kvadrerer av samme grunn som i variansen: for at fortegn ikke skal oppheve hverandre, og for at store bom skal veie tungt. Å løse dette minimeringsproblemet gir to enkle uttrykk (vi oppgir dem; utledningen hører ikke hjemme her):

Legg merke til at stigningen bygger på de samme summene som korrelasjonen. Det er ingen tilfeldighet: i enkel lineær regresjon er andelen forklart variasjon $R^2$ nøyaktig lik kvadratet av Pearsons $r$.

For aksiallengde og refraksjon i biometridatasettet gir dette $\widehat{\text{AL}}=23.658-0.305\cdot \text{SER}$ (den samme linja som i figur 13.10), med $R^2=0.56$. Stigningen $-0.305$ tolkes klinisk: for hver dioptri mer myop refraksjon er øyet i snitt $0.305\mathrm{mm}$ lengre. Skjæringen $23.66\mathrm{mm}$ er linjas anslag på aksiallengden til et emmetropt øye ($\text{SER}=0$) i dette materialet.

En modell er bare verdt noe hvis forutsetningene holder, og for regresjonen er de fire: sammenhengen skal være tilnærmet lineær; observasjonene skal være uavhengige; residualene skal være tilnærmet normalfordelte; og de skal ha konstant spredning langs linja (homoskedastisitet). De to siste sjekkes best ved å se på residualene: et residualplott (residual mot predikert verdi) skal vise en strukturløs sky uten trakt eller bue, og et QQ-plott – residualenes observerte verdier plottet mot de verdiene en normalfordeling ville gitt – skal ligge nær en rett linje. Regelen er å se på residualene før du stoler på p-verdien.

Neste formål er å sammenligne. Vil du vite om et gjennomsnitt skiller seg fra noe annet, er t-testen standardverktøyet – men hvilken av tre varianter du bruker, avgjøres av designet, ikke av smak. Husk skillet mellom paret og uparet data fra den første seksjonen; det er nettopp det som styrer valget.

Den én-utvalgs t-testen sammenligner ett gjennomsnitt mot en fast referanseverdi – for eksempel om gjennomsnittstrykket i et materiale avviker fra en kjent normalverdi. Den uparede (to-utvalgs) t-testen sammenligner gjennomsnittene i to uavhengige grupper – myope mot ikke-myope, brukere mot ikke-brukere. Den parede t-testen sammenligner to målinger på den samme enheten – samme øye med to instrumenter, eller før og etter en behandling. Den regner differansen for hvert par og tester om gjennomsnittsdifferansen er $0$; ved å arbeide på differansene fjerner den variasjonen mellom pasienter og blir dermed langt mer følsom.

Alle tre forutsetter tilnærmet normalfordelte data (eller et utvalg stort nok til at sentralgrenseteoremet trår til), og den uparede Students-varianten forutsetter i tillegg lik varians i de to gruppene; er variansene ulike, brukes Welch-varianten, som R gir som standard. Og som alltid hører en effektstørrelse og et konfidensintervall ved siden av p-verdien: Cohens $d$ fra forrige seksjon tallfester hvor stor forskjellen er, ikke bare om den er påvisbar.

Skal du sammenligne gjennomsnittet i tre eller flere grupper samtidig, kan du ikke bare kjøre alle de parvise t-testene. Hver test bærer sin egen risiko for en falsk alarm (type I-feil), og jo flere tester du kjører, desto større blir den samlede sjansen for at minst én av dem slår ut ved ren tilfeldighet. Dette multiplisitetsproblemet er grunnen til at vi trenger én samlet test.

Den testen er enveis-ANOVA (analysis of variance). Ideen er å dele opp den totale variasjonen i to: variasjonen mellom gruppegjennomsnittene og variasjonen innen gruppene. Testobservatoren er forholdet mellom de to, målt som gjennomsnittlige kvadratsummer:

Er alle gruppegjennomsnittene like, sprer de seg bare like mye som tilfeldighetene innad skulle tilsi, og $F$ ligger nær $1$. Skiller minst én gruppe seg ut, blir telleren stor og $F$ stor – og en stor $F$ taler mot at alle gjennomsnittene er like. Effektstørrelsen ved siden av er ${\eta }^2$ («eta-kvadrat»), andelen av den totale variasjonen som skyldes gruppetilhørighet – en ANOVA-analog til $r^2$, med grovgrensene $0.01$ (liten), $0.06$ (middels) og $0.14$ (stor) – avrundet fra Cohens $f$-konvensjoner $0.10$, $0.25$ og $0.40$, som gir ${\eta }^2=0.0099$, $0.0588$ og $0.1379$ [190].

En viktig begrensning: en signifikant $F$ sier bare at minst ett gruppepar skiller seg – ikke hvilke. Å finne ut hvilke krever oppfølgende parvise sammenligninger med en korreksjon for multiplisitet, noe vi kommer kort tilbake til i den siste seksjonen. (For nøyaktig to grupper er ANOVA og den uparede t-testen for øvrig samme test, med $F=t^2$.)

T-testene og ANOVA hviler på at dataene er tilnærmet normalfordelte. Er de klart ikke det – sterkt skjeve, med grove uteliggere, rent ordinale, eller fra et svært lite utvalg – svikter grunnlaget for p-verdien. Da bytter du til en ikke-parametrisk test. Disse rangerer observasjonene og tester på rangene i stedet for på rådataene, akkurat som Spearmans $\rho$, og arver dermed robustheten mot skjevhet og uteliggere.

Hver parametrisk test har et ikke-parametrisk motstykke: Mann-Whitney (rangsumtesten) svarer til den uparede t-testen, paret Wilcoxon (fortegnsrangtesten, med observatoren $W$) til den parede t-testen, og Kruskal-Wallis til enveis-ANOVA. Det er verdt å understreke når du velger dem: det er forutsetningsbruddet som er beslutningsgrunnen, ikke en generell forsiktighet. Det er fristende å tenke at den ikke-parametriske testen alltid er det «trygge» valget, men det stemmer ikke – når forutsetningene faktisk holder, har den parametriske testen mer statistisk styrke, altså større sjanse til å oppdage en reell forskjell. Å velge ikke-parametrisk av vane kaster bort den styrken.

Til nå har utfallet vært kontinuerlig. Vil du i stedet undersøke om to kategoriske variabler henger sammen – er myopi vanligere blant menn enn blant kvinner i klinikkdatasettet? – setter du dataene i en krysstabell og bruker en kji-kvadrat-test for uavhengighet. Ideen er å sammenligne de observerte celletallene med de tallene du ville forventet om variablene var uavhengige. Forventet celletall regnes fra rad- og kolonnesummene: $E=(\text{radsum}\cdot \text{kolonnesum})/N$. Testobservatoren summerer det relative avviket over alle cellene:

der $O$ er observert og $E$ forventet. Store avvik fra det uavhengighet skulle gi, gjør ${\chi }^2$ stor. En tommelfingerregel sikrer at tilnærmingen holder: minst $80\mathrm{\%}$ av de forventede celletallene bør være $5$ eller mer, og ingen celle bør ha et forventet tall under $1$ [191]. I en $2\times 2$-tabell er det i praksis et krav om at alle fire cellene når $5$.

For en $2\times 2$-tabell er det to fallgruver verdt å kjenne. Den ene er teknisk: chisq.test() i R bruker som standard Yates’ kontinuitetskorreksjon på $2\times 2$-tabeller, som gir en litt større p-verdi enn den ukorrigerte Pearson-testen; vil du ha den rene Pearson-observatoren, må du be om correct = FALSE. Den andre er prinsipiell: er de forventede celletallene små (), er kji-kvadrat-tilnærmingen upålitelig, og du bør bruke Fishers eksakte test i stedet. Den regner ut den nøyaktige sannsynligheten for tabeller minst så skjeve som den observerte, uten å lene seg på en tilnærming.

Er dataene parede – to tester eller to tidspunkt på de samme individene – passer verken kji-kvadrat eller Fisher, for da er cellene ikke uavhengige. Da brukes McNemars test, som bare ser på de to diskordante cellene (der de to testene er uenige), med telletallene $b$ og $c$:

Den svarer på om de to testene systematisk er uenige i én retning, ikke på hvor ofte de er enige.

Når den ene kategorien er en eksponering (behandlet eller ikke) og den andre et utfall (hendelse ja eller nei), vil du ofte tallfeste hvor mye eksponeringen endrer risikoen. Fra en $2\times 2$-tabell med celler $a,b,c,d$ (eksponert med og uten utfall over ueksponert med og uten utfall) regnes flere mål, og de svarer på litt ulike spørsmål.

Relativ risiko RR er forholdet mellom risikoen i de to gruppene, og oddsforholdet OR mellom oddsene; begge er multiplikative, med $1$ som «ingen effekt». Absolutt risikoreduksjon ARR er differansen i risiko, relativ risikoreduksjon RRR den samme differansen som andel av utgangsrisikoen, og antallet som må behandles $\text{NNT}=1/\text{ARR}$ er hvor mange du må behandle for å hindre ett tilfelle (rund alltid opp til nærmeste hele pasient). De relative målene kan blåse opp en beskjeden gevinst – en halvering høres mye ut selv om den absolutte forskjellen er liten – mens ARR og NNT er de klinisk mest ærlige. Et siste forbehold: OR er tilnærmet lik RR bare når utfallet er sjeldent; ved vanlige utfall ligger OR lenger fra $1$ enn RR og overdriver effekten.