Das Karriereportal für Wissenschaft & Forschung von In Kooperation mit DIE ZEIT Forschung und Lehre

Digital statt demokratisch? Wissenschaftler warnen im "Digital-Manifest" vor Manipulation

VON VERA MÜLLER

Neun Wissenschaftler sehen Freiheit und Demokratie durch Big Data und künstliche Intelligenz gefährdet. Sie plädieren in ihrem Manifest für mehr Kontrolle und mehr Beteiligung durch die Bürger und machen Vorschläge, wie dies gelingen könnte.

Digital statt demokratisch?© HerrSpecht - photocase.deDie westliche Gesellschaft steht bald an einem digitalen Scheideweg
Mit einem Klick ist virtuell fast alles möglich. Das Netz hält für alle Lebenslagen nahezu alles bereit, und wir vertrauen dem Netz an, was wir denken und fühlen. Die Daten, millionenfach gesammelt und gespeichert von Unternehmen und Behörden, warten nur darauf, "sinnvoll" verarbeitet zu werden, und "sinnvoll" bedeutet in diesem Zusammenhang vor allem wirtschaftlich gewinnbringend. Mit "Big-Data"-Technik lässt sich das Datenmeer analysieren und wirtschaftlich nutzen. Künstliche Intelligenz wiederum trägt zur Automatisierung der Big-Data-Analyse bei; sie ist mittlerweile lernfähig und entwickelt sich selbstständig weiter. Die Technologien gelten als Schlüssel zu wichtigen Innovationen, gleichzeitig werden sie bereits heute zu einer Art "Verhaltenskontrolle" genutzt, die die Freiheit des einzelnen in Frage stellen könnte.

Wie ist ein "richtiger" Umgang mit diesen neuen Technologien möglich? Wie können Transparenz, demokratische Selbstbestimmung und Kontrolle bewahrt werden? Neun europäische Wissenschaftler haben dazu unlängst ein "Digital-Manifest" verfasst, in dem sie eindringlich vor einer Automatisierung der Gesellschaft durch Algorithmen warnen. Demnach könnten Algorithmen inzwischen Schrift, Sprache und Muster fast so gut erkennen wie Menschen und viele Aufgaben sogar besser lösen. Die Forscher prognostizieren, dass in den kommenden 10 bis 20 Jahren die Hälfte der heutigen Jobs von Algorithmen verdrängt werden. Absehbar sei auch, "dass Supercomputer menschliche Fähigkeiten bald in fast allen Bereichen übertreffen werden - irgendwann zwischen 2020 und 2060". Gesellschaft und Wirtschaft würden sich dadurch "fundamental ändern", auf die Automatisierung der Produktion könnte die Automatisierung der Gesellschaft folgen. Die Forscher sehen die westliche Gesellschaft an einem "digitalen Scheideweg". Selbstbestimmung und Demokratie könnten durch Algorithmen untergraben werden, wirtschaftliche Interessen und/oder Manipulation gefährdeten die Freiheit der Gesellschaft bzw. die jedes einzelnen. Beispielhaft dafür nennen die Autoren "Persuasive Computing", Manipulationstechnologien, die die Menschen in Zukunft zu bestimmten Handlungsabläufen bringen könnten, oder "Nudging", Manipulationen des individuellen Verhaltens. Es sei "völlig inakzeptabel, diese Technologien zum Entmündigen des Bürgers zu nutzen". Such- und Empfehlungsalgorithmen sollten nicht vom Anbieter vorgegeben, sondern vom Nutzer auswählbar und konfigurierbar sein. Um die zunehmende gesellschaftliche Komplexität und Vielfalt in westlichen Demokratien angemessen abzubilden, brauche es eine verteilte, kollektive Intelligenz, wichtige Ansätze dafür seien Citizen Science, Crowd Sourcing und Online-Diskussionsplattformen.

Die rasante Vernetzung der Welt, das Sammeln und Verwerten persönlicher Daten, die Möglichkeiten der Manipulation, die Marktmacht einzelner Internetfirmen: Damit die Bürger und Kunden nicht als Hindernisse oder zu vermarktende Ressourcen gesehen würden, brauche es einen neuen Gesellschaftsvertrag auf der Basis von Vertrauen und Kooperation, fordern die Wissenschaftler. Die Aufgabe des Staates sei es, einen geeigneten Regulierungsrahmen zu schaffen. Jeder einzelne solle demnach die Verwendung seiner Daten steuern können. Völlig neue Bildungskonzepte seien gefragt, die stärker auf kritisches Denken, Kreativität, Erfinder- und Unternehmergeist ausgerichtet seien. Um in der digitalen Welt Innovationen zu fördern, brauche es eine partizipative Plattform, eine digitale Mitmachgesellschaft könne durch Wettbewerbe gefördert werden. Netzwerke von menschlicher und künstlicher Intelligenz müssten dezentral gesteuert werden, damit die Menschen die Kontrolle über ihr Leben behielten. Schließlich könnte nach Ansicht der Autoren die Wissenschaft eine wichtige Aufgabe übernehmen: Führende wissenschaftliche Institutionen sollten Daten und Algorithmen treuhänderisch verwalten, die sich momentan der demokratischen Kontrolle entzögen. Dazu bräuchte es einen geeigneten Ehrenkodex für diejenigen, die Zugang zu sensiblen Daten und Algorithmen erhielten - eine Art hippokratischer Eid für IT-Experten.

Aus Forschung & Lehre :: Juni 2016

Ausgewählte Stellenangebote