Was passiert, wenn Algorithmen die Zukunft vorhersagen?

07.01.2020

Medikamente, die für einzelne Patient*innen entwickelt werden, Autoversicherungen, die auf den Fahrstil zugeschnitten sind, oder Einbrecher*innen, die schon vor der Tat ertappt werden: Große Datenmengen und bessere Algorithmen sorgen dafür, dass Vorhersagen genauer und individueller werden. Welche Auswirkungen das auf die Gesellschaft hat, untersucht die Bielefelder Soziologieprofessorin Dr. Elena Esposito. Ihr Forschungsprojekt „Predict“ fördert der Europäische Forschungsrat mit einem ERC Advanced Grant.

Polizist*innen, die zukünftige Verbrechen vorhersagen können: Das klingt wie die Handlung des Science-Fiction-Thrillers „Minority Report“. Tom Cruise jagt darin Mörder*innen, bevor sie ihren Mord begehen können. Die Realität ist von solch einem Szenario gar nicht so weit entfernt – schon jetzt nutzt die Polizei Computerprogramme, um zum Beispiel Einbrüche zu verhindern. „Predictive Policing“, auf Deutsch etwa „vorausschauende Polizeiarbeit“, soll über große Datenmengen und komplexe Algorithmen Straftaten möglichst genau voraussagen können.

Ähnliche Entwicklungen gibt es im Versicherungswesen und in der Medizin. Auch hier sorgen mehr Daten und bessere Algorithmen dafür, dass Vorhersagen genauer und individueller werden. Autoversicherungen bieten zum Beispiel Tarife an, die sich aus gesammelten Daten zum Fahrstil errechnen, und die Krebsmedizin verspricht Behandlungsmethoden, die auf Patient*innen mit bestimmten genetischen Eigenschaften zugeschnitten sind.

Voraussagen für einzelne Personen

 „Unsicherheiten, die bei solchen Voraussagen zunehmend verschwinden, spielen in unserer Gesellschaft aber noch eine wichtige Rolle“, sagt Professorin Dr. Elena Esposito von der Fakultät für Soziologie. In ihrem Forschungsprojekt „Predict“ untersucht sie, welche sozialen Auswirkungen Vorhersagen haben, die mit Datenmengen und Algorithmen getroffen werden. Der Europäische Forschungsrat ERC fördert das Projekt.

„In der Vergangenheit hat unsere Gesellschaft Mechanismen entwickelt, mit einer ungewissen Zukunft umzugehen. Zum Beispiel in der Medizin: Dort wird in klinischen Studien ermittelt, welche Therapie im Durchschnitt die größte Heilungschance hat“, so Esposito. Solche Vorhersagen basieren auf Häufigkeiten innerhalb einer repräsentativen Gruppe. Aus diesen werden Wahrscheinlichkeiten für viele Menschen abgeleitet, also unsichere Prognosen, die aber alle bis zu einem gewissen Grad betreffen. Das Ziel von personalisiertem Versicherungswesen, Präzisionsmedizin und vorausschauender Polizeiarbeit ist hingegen, für einzelne Personen Vorhersagen zu machen – darüber, ob sie einen Unfall bauen, krank werden oder eine Straftat begehen.

Prof. Dr. Elena Esposito erforscht, welche Auswirkungen algorithmische Vorhersagen auf die Gesellschaft haben. Foto: Universität Bielefeld/M. Adamski

Drei unterschiedliche Aspekte

„Sowohl in der Forschung als auch in der Praxis gewinnen algorithmische Vorhersagen an Bedeutung. Gleichzeitig ist die soziale Dimension dieser Entwicklung noch nicht ausreichend erforscht worden“, sagt Esposito. Sie beschäftigt sich mit drei unterschiedlichen Aspekten algorithmischer Vorhersagen: Individualisierung, Generalisierung und Verzerrung.

Individualisierung untersucht sie am Beispiel des personalisierten Versicherungswesens: Werden durch individuelle Versicherungen bestimmte Personengruppen benachteiligt, etwa wenn Menschen, die größeren Risiken ausgesetzt sind, plötzlich zu viel zahlen müssen? Welches Interesse besteht überhaupt noch daran, eine Versicherung zu kaufen oder zu verkaufen, wenn man schon weiß, wie groß der zukünftige Schaden sein wird?

„Generalisierung spielt vor allem in der Präzisionsmedizin eine Rolle, weil sich die Entwicklung der Algorithmen auf Trainingsdaten stützt. Lassen sich diese Algorithmen auf Fälle anwenden, in denen vielleicht Daten eine Rolle spielen, die man vorher nicht im Blick hatte?“, so Esposito. Am Beispiel der vorausschauenden Polizeiarbeit untersucht sie schließlich den Aspekt der Verzerrung: Wenn die existierenden Daten verzerrt sind, etwa weil Menschen bestimmter ethnischer Gruppen häufiger festgenommen werden, verstärken sich diese Verzerrungen dann durch den Algorithmus?

In allen drei Bereichen nimmt Esposito zudem das Zusammenspiel von herkömmlichen probabilistischen Methoden, die Zukunft vorauszusagen, und neuen, algorithmischen Varianten in den Blick – auch weil derzeit noch beide angewendet werden.

Luhmanns Systemtheorie nutzen

„Ausgehend von den einzelnen Bereichen untersuche ich Auswirkungen auf das gesamte System Gesellschaft. Dafür nutze ich Luhmanns Systemtheorie“, sagt Esposito. Sie ist eine der führenden Vertreter*innen der soziologischen Systemtheorie. Der Bielefelder Soziologieprofessor Niklas Luhmann war ihr Doktorvater, als sie 1990 promovierte. Seit 2016 ist Esposito an der Universität Bielefeld Professorin für Soziologie und ihre interdisziplinäre Vernetzung, parallel ist sie an der Università di Modena e Reggio Emilia in Italien tätig.

Für ihr Forschungsprojekt „Predict“ hat Esposito den ERC Advanced Grant des Europäischen Forschungsrats (European Research Council, ERC) erhalten. Dieser fördert exzellente, bereits etablierte Wissenschaftler*innen. Die Förderung beträgt 2,1 Millionen Euro über einen Zeitraum von fünf Jahren. Offiziell beginnt das Projekt im Februar 2020, aber schon im vergangenen Jahr liefen erste Forschungen, vor allem zu Präzisionsmedizin und personalisierter Versicherung.

Dieser Artikel ist eine Veröffentlichung aus „BI.research“, dem Forschungsmagazin der Universität Bielefeld. Die aktuelle Ausgabe des Magazins erschien im November 2019.

More data and better algorithms: predictions are becoming increasingly more accurate and this is changing insurance policies, medicine, and police work.

Police that can predict future crimes: it sounds like the plot from the science fiction thriller ‘Minority Report’ in which Tom Cruise hunts murderers before they can commit their crimes. Such a scenario is not that far distant from reality—already today, for example, the police are using computers to prevent burglaries. ‘Predictive policing’ aims to use enormous datasets and complex algorithms to predict offences as accurately as possible. Similar developments are to be found in insurance and medicine. Here as well, more data and better algorithms are making more accurate and more individualized predictions. Car insurance, for example, is using data collected on driving style when calculating tariffs; and cancer medicine is promising personalized treatment methods for patients with specific genetic characteristics.

Predictions for single individuals instead of general prognoses

‘Uncertainties, even though such predictions claim to manage them, continue to play an important role in our society,’ says Professor Dr Elena Esposito from the Faculty of Sociology. In her research project ‘Predict’, she is studying the social effects that come from predictions based on algorithms dealing with large amounts of data. Her project is being funded by the European Research Council (ERC). ‘In the past, our society developed mechanisms for dealing with our shared uncertainty about the future. In medicine, for example, clinical studies are used to determine which treatment will have, on average, the greatest chance of delivering a cure,’ says Esposito. Such predictions are based on frequencies of occurrence within a representative group. These are then used to derive probabilities for a great number of people; in other words, uncertain prognoses that nonetheless possess a certain degree of validity for everybody. In contrast, the goal of a personalized insurance sector, of precision medicine, and of predictive policing is to make predictions for single individuals—regarding whether they will cause an accident, fall sick, or commit a crime.

Elena Esposito is studying the effects of algorithmic predictions on society. Photo: Michael Adamski

Three aspects: individualization, generalization, and bias

‘Algorithmic predictions are becoming increasingly important in both research and practice. Nonetheless, we still do not know enough about the social dimension of this trend,’ says Esposito. She is working on three different aspects of algorithmic predictions: individualization, generalization, and bias. She is using the case of the personalized insurance sector to study individualization: will personalized insurances disadvantage certain groups of individuals—for example, if those exposed to greater risks suddenly have to pay more? Who can still have any interest in selling or buying an insurance policy if they already know what their future damage will be?

‘Generalization is particularly important in precision medicine, because the development of algorithms is based on training data. Can these algorithms be applied to cases in which other data may play a role—data that had previously not been considered?’ asks Esposito. Finally, she is using the example of predictive policing to study the aspect of bias: if existing data are biased because, for example, members of certain ethnic groups are arrested more frequently, will the algorithm then strengthen this bias? In all three areas of research, Eposito is also focusing on the interplay between the traditional probabilistic methods used to predict the future and the new algorithmic forms of forecast—because both methods are still being applied today.

Applying Luhmann’s systems theory

‘Proceeding from the single areas of research, I am also studying the effects on the overall system of society, and I am doing this referring to Luhmann’s systems theory,’ says Esposito. She is one of the leading representatives of sociological systems theory. Bielefeld sociology professor Niklas Luhmann supervised her doctorate in 1990. Since 2016, Esposito has been a professor of sociology at Bielefeld University, and with her interdisciplinary networking, she has also been working in parallel at the Università di Modena e Reggio Emilia in Italy.

For her research project ‘Predict’, Esposito is receiving an ERC Advanced Grant from the European Research Council (ERC). This grant is awarded to outstanding researchers who are established, leading principal investigators in their field of research. It is worth 2.1 million euro over a period of five years. Officially, the project will be starting at the beginning of 2020. However, the first studies are already up and running — particularly those on precision medicine and personalized insurance.