Colloqium #7
November 2018
Description
Programm:
14:00 h Introduction AEL
14:20 h R.M. Presentation
15:20 h Discussion
15:50 h Pause
16:00 h A.J. Presentation
17:00 h Discussion
17:30 h Pause
17:40 h Diskussion of both presentations
About presentation 1
Digital Counter-Enlightenment and “User Experience Design”.
On Nudging, Tracking and Infantilization in Human-Computer Interaction
Speaker: Rainer Mühlhoff
In this talk I will analyze modern human-computer interaction to discuss the question of enlightenment and counter-enlightenment in the digital age. I will focus on the field of “User Experience Design”, a dominant IT discourse that uses insights from behavioral sciences and data-driven evaluation techniques to optimize user interfaces and interaction designs. We will have a closer look at various “design tricks” that nudge users to expose more of their data online, often without explicit knowledge. I will discuss how this data is used to predict user behavior and target users according to their cognitive, behavioral or emotional dispositions. This leads to the diagnosis of “digitale Entmündigung”, or digital counter-enlightenment, which describes a set of systematic aspirations and structural tendencies to deprive users of their (cognitive and epistemic) means to make self-determined, knowledgeable and responsible use of technology. With respect to data protection and privacy debates, I will point to the political problem of mass aggregation.
About Presentation 2
Artificial Ignorance – What AI Cannot, Would Not Want to, Should Not, and Must Not Know
Speaker: Anil Jain
Especially in the field of artificial intelligence the dimension of ignorance is »fundamental« – as weird as that might sound at first. In the talk, a »Copernican Revolution« in the study of AI is thus proposed. Or, formulated in reference to Kant: We must therefore make trial whether we may not have more success in the tasks of artificial intelligence, if we suppose that ignorance (not intelligence) must be its determining element. Accordingly, ignorance in all its dimension will be focused: what AI cannot, would not want to, should not, and must not know. In performing this task not only the advantages of ignorance but also its problematic aspects will be addressed – ignorance towards human desires, ignorance towards socio-economic demands, etc.
Discussion
Moderation & commentary: Auris-E. Lipinski
Speakers
Rainer Mühlhoff: Rainer Mühlhoffs Arbeitsschwerpunkte liegen in der Ethik, Sozialphilosophie, Technikphilosophie und Medienwissenschaft der digitalen Gesellschaft. Aktuelle Themen betreffen Ethik und Sozialphilosophie der Künstlichen Intelligenz, Ethik und Kritik angesichts struktureller Handlungseffekte, Datenschutz und Privatheit im Kontext von Big Data, Intersektionalität und Antidiskriminierung im Kontext digitaler Technologie, kritische Medienphilosophie der Mensch-Maschine-Interaktion und des digitalen Kapitalismus. Rainer Mühlhoffs Forschung zu Künstlicher Intelligenz betrachtet Machine Learning-Systeme als soziotechnische Systeme (siehe Human-Aided AI). Um die ethischen und gesellschaftlichen Implikationen der KI-Technologie zu entfalten, untersucht er im Rückgriff auf verschiedene Teildisziplinen und philosophische Schulen das Zusammenspiel von Technologie, Macht und Subjektivität. Insbesondere integriert er Ethik mit Beiträgen der Sozialphilosophie und kritischen Theorien, um die Auswirkungen von KI in Bezug auf Diskriminierung, soziale Selektion und Ungleichheit zu analysieren (siehe Automatisierte Ungleicheit). Ein besonderes Forschungsinteresse gilt Datenschutz und Datenethik im Kontext von KI und Big Data. Diese Technologien ermöglichen es auf neue Weise, sensible Informationen über Individuen anhand der anonymisierten Daten vieler anderer Menschen vorherzusagen. Dadurch kommt es zu einer neuartigen, kollektiv verursachten Verletzung der Privatsphäre der Betroffenen. Unter dem Begriff Prädiktive Privatheit erarbeitet Rainer Mühlhoff einen ethischen und regulatorischen Ansatz, der auf die Missbrauchspotenziale prädiktiver Analytik reagiert. (Source: https://rainermuehlhoff.de/forschung/interessen.html)
Anil Jain: Anil K. Jain studied political science, psychology and sociology at the LMU Munich and wrote a doctoral thesis on »Politics in (Post-)Modernity« under the supervision of Ulrich Beck. He not only works in social research but is active in the cultural field, too. Together with Mario Beilhack he founded »edition fatal«: a small publishing company with a series on “new philosophy”.