Umeå universitets logga

The objective of this thesis is to consider some challenges that arise when conducting causal inference based on observational data. High dimensionality can occur when it is necessary to adjust for many covariates, and flexible models must be used to meet convergence assumptions. The latter may require the use of a novel machine learning estimator. Estimating nonparametrically-defined causal estimands at parametric rates and obtaining good-quality confidence intervals (with near nominal coverage) are the primary goals. Another challenge is providing a sensitivity analysis that can be applied in high-dimensional scenarios as a way of assessing the robustness of the results to missing confounders. 

Four papers are included in the thesis. A common theme in all the papers is covariate selection or nonparametric estimation of nuisance models. To provide insight into the performance of the approaches presented, some theoretical results are provided. Additionally, simulation studies are reported. In paper I, covariate selection is discussed as a method for removing redundant variables. This approach is compared to other strategies for variable selection that ensure reasonable confidence interval coverage. Paper II integrates variable selection into a sensitivity analysis, where the sensitivity parameter is the conditional correlation of the outcome and treatment variables. The validity of the analysis where the sensitivity parameter is small relative to the sample size is shown theoretically. In simulation settings, however, the analysis performs as expected, even for larger values of sensitivity parameters, when using a correction of the estimator of the residual variance for the outcome model. Paper IV extends the applicability of the sensitivity analysis method through the use of a different residual variance estimator and applies it to a real study of the effects of smoking during pregnancy on child birth weight. A real data problem of analysing the effect of early retirement on health outcomes is studied in Paper III. Rather than using variable selection strategies, convolutional neural networks are studied to fit the nuisance models.

This thesis makes contributions within the area of causal inference, domain adaptation, and studies of health inequalities. The common theme is using asymptotic statistics, where estimators and predictors are shown to be asymptotically unbiased, normally distributed, and reach the asymptotic efficiency bound. Furthermore, due to the robustness of the solutions, the usage of flexible machine learning models like neural networks is justified.

The first work studies the necessary growth rate for convolutional neural network architectures, where asymptotically efficient estimation of causal effect estimators is aimed at, and convolutional neural networks are used to fit nuisance models. The proposed method is also applied to Swedish registry data in order to study the effects of early retirement on health outcomes.

The second article proposes an asymptotically efficient estimator for a novel causal parameter. The parameter of interest is the effect of an intervention on a counterfactual version of the concentration index, which is an index that represents socioeconomic-related health inequality. The real data application of this paper is the study of the effect of education on different health-related inequalities in a cohort of Swedes.

The third paper solves a problem in the field of domain adaptation in machine learning, where the training set is observed but it is not possible to assume that test and training sets follow the same distribution. A weaker assumption is instead considered, referred to as a generalized label shift. This paper proposes a robust and asymptotically efficient predictor under the generalized label shift assumption.

The last article is a vignette on the software developed to perform the analysis in the first paper. It is possible to utilize the software in a broader manner than what is described in the first paper. Several examples and more practical details are presented in this article in order to demonstrate how neural networks can be used in order to fit nuisance functions when the average treatment effect or the average treatment effect on the treated is the parameter of interest.

Denna avhandling bidrar till området kausal inferens, domänanpassning och studier om ojämlikhet i hälsa. Det gemensamma motivet är att använda asymptotisk statistik, där estimatorer och prediktorer visas vara asymptotiskt väntevärdesriktiga, normalfördelade och nå den asymptotiska effektivitetsgränsen. Dessutom, på grund av robustheten hos lösningar, är användningen av flexibla maskininlärningsmodeller, så som neurala nätverk, motiverad.

Det första arbetet studerar den nödvändiga tillväxthastigheten för konvolutionella neurala nätverks arkitekturer, där asymptotiskt effektiva skattningar av kausala effekter är syftet och konvolutionella neurala nätverk används för att skatta störmodeller. Den föreslagna metoden tillämpas även på svenska registerdata för att studera effekterna av förtidspension på hälsoutfall.

Den andra artikeln föreslår en asymptotiskt effektiv estimator för en ny kausal parameter. Parametern av intresse är effekten av en intervention på en kontrafaktisk version av koncentrationsindexet, vilket är ett index som beskriver socioekonomisk ojämlikhet i hälsa. Datatillämpningen i denna uppsats studerar effekten av utbildning på olika hälsorelaterade ojämlikheter i en kohort svenskar.

Den tredje uppsatsen löser ett problem inom domänanpassning i maskininlärning, där träningsdata observeras men det är inte möjligt att anta att test- och träningsdata följer samma fördelning. Ett svagare antagande övervägs istället, kallad ett generaliserat etikettskifte. Denna artikel föreslår en robust och asymptotiskt effektiv prediktor under det generaliserade etikettskiftes antagandet.

Den sista artikeln är en vinjett som klargör programvaran som utvecklats för att utföra analysen i den första uppsatsen. Det är möjligt att använda programvaran på ett bredare sätt än vad som beskrivs i den första artikeln. Olika exempel och fler praktiska detaljer presenteras i denna artikel för att visa hur neurala nätverk kan användas för att skatta störfunktioner när syftet är att estimera den genomsnittliga behandlingseffekten i en population eller delpopulation av de behandlade.