Critical Stances towards AI: For a Critical and Self-Determined Approach to Digital Technology

28. bis 29. September 2023 in New York City

Anlässlich des 100. Geburtstags von Joseph Weizenbaum veranstaltete die Technische Universität Berlin gemeinsam mit dem Weizenbaum-Institut für die vernetzte Gesellschaft, der Freien Universität Berlin und dem Deutschen Haus at NYU das Symposium "Critical Stances towards AI: For a Critical and Self-Determined Approach to Digital Technology".

Aus diesem Anlass reisten die drei Partner*innen in die USA - Joseph Weizenbaums Wahlheimat - um Themen zu diskutieren, mit denen er sich intensiv beschäftigt hat, und so den transatlantischen Diskurs über Weizenbaum und sein einflussreiches Werk zu fördern.

Zwei Tage lang beschäftigten sich Forscher*innen des Weizenbaum-Instituts und verschiedener nordamerikanischer Institutionen mit Fragen hinsichtlich der Rolle des Menschen in der KI sowie der Rolle algorithmischer Plattformen für Informationen in digitalen Gesellschaften. Darüber hinaus befassten sie sich mit einer Analyse von Hypergiganten im Internet-Ökosystem und diskutierten die Frage der KI-Entwicklung und -Nutzung sowohl aus sozialer als auch aus ökologischer Sicht.

Das Symposium richtete sich an Alumni der Universitäten und außeruniversitären Forschungseinrichtungen, die am Weizenbaum-Institut für die vernetzte Gesellschaft beteiligt sind: Freie Universität Berlin (FU Berlin), Humboldt-Universität zu Berlin (HU Berlin), Technische Universität Berlin (TU Berlin), Universität der Künste Berlin (UdK), Universität Potsdam (UP), sowie das Fraunhofer-Institut für Offene Kommunikationssysteme (FOKUS) und das Wissenschaftszentrum Berlin für Sozialforschung (WZB).

Die interessierte Öffentlichkeit konnte an der "keynote speech" am Donnerstag, 28. September teilnehmen.

Der in Berlin geborene Joseph Weizenbaum wanderte 1936 in die USA aus.

Das Symposium bringt Alumni der Universitäten und außeruniversitären Forschungseinrichtungen, die am Weizenbaum-Institut beteiligt sind, zusammen.

Ein Kooperationsprojekt: Das Weizenbaum-Institut für die vernetzte Gesellschaft

Das Weizenbaum-Institut ist ein gemeinsames Projekt von fünf Universitäten - darunter die TU Berlin und die FU Berlin - und zwei außeruniversitären Forschungseinrichtungen in Berlin und Brandenburg, das vom Bundesministerium für Bildung und Forschung (BMBF) gefördert wird.

Das Institut ist nach dem deutsch-amerikanischen Informatik-Pionier Joseph Weizenbaum (1923 - 2008) benannt, der sich kritisch mit dem Verhältnis von Mensch und Maschine auseinandersetzte. Seine Forderung nach einem verantwortungsvollen Umgang mit Technik steht sinnbildlich für die Arbeit des Weizenbaum-Instituts: das Internet und die Digitalisierung zum Wohle der Gesellschaft zu erforschen und zu gestalten.

Symposium-Programm

Donnerstag, 28. September 2023

Time	Agenda Item
12.00 - 12.30	Arrival
12.30 - 1.00	Welcome and introduction Speakers: Juliane Camfield, Deutsches Haus at NYU Ricarda Opitz, Weizenbaum Institute Juliane Wilhelm, TU Berlin's Alumni Program Jan Lüdert, German Center for Research and Innovation New York
1.00 - 2.30	Panel 1: "Algorithmic platforms and information quality" This panel approaches the role algorithmic platforms like social media and messenger services play in the spread of verified and unverified information in digital societies. Speakers: Felicia Loecherbach, New York University Jeff Allen, Integrity Institute Jakob Ohme, Weizenbaum Institute
2.30 - 3.00	Coffee Break
3.00 - 4.30	Panel 2: "Platforms, Ecosystems, and Our Digital Future – Regulatory Policies for the Digital Economy" In this session, we explore the complex terrain of policy challenges that arise as we navigate our way towards a digital future. By adopting an economic viewpoint, we delve into the roles of hypergiant corporations, their platforms, and ecosystems within the digital economy. We engage in a comprehensive discussion about their effects on competition and innovation, while considering the pertinent implications for regulatory policy measures and the efforts taken in the US and the EU. Speakers: William Lehr, Massachusetts Institute of Technology Pinar Yildirim, Wharton School, University of Pennsylvania Volker Stocker, Weizenbaum Institute
4.30 - 5.00	Coffee Break
5.00 - 6.30	Keynote Speech "Towards a Techno-Feminist Refusal" by Sarah Sharma, University of Toronto (open to the general public)
6.30 - 7.30	Transfer to restaurant
7.30 - 10.00	Symposium Dinner

Freitag, 29. September 2023

Time	Agenda Item
8.30 - 9.00	Arrival
9.00 - 10.00	Panel 3: "Joseph Weizenbaum: Past and Present of Critical Thinking on AI" In the year that Joseph Weizenbaum would have turned 100, a number of scholars have joined forces to examine his professional life as a scientist and public intellectual, his work, and his intellectual environments. Christian Strippel and Magnus Rust will provide insights into the archival work and present initial findings, loose ends, and open questions of that research. Since then, the development and proliferation of artificial neural network algorithms has multiplied many times, and has become embedded in a wide range of technologies. Hannah Fitsch and Alexandra Keiner will re-examine Weizenbaum's Critique of Instrumental Reason and highlight what kind of decisions can be made by AI and what epistemological premises are embedded in them. Speakers: Christian Strippel, Weizenbaum Institute Magnus Rust, University of Basel Alexandra Keiner, Weizenbaum Institute Hannah Fitsch, TU Berlin
10.00 - 11.30	Panel 4: "Certainly no computer can be made to confront genuine human problems in human terms" When Joseph Weizenbaum wrote these words, probably his focus was not primarily on human-made ecological problems; rather he thought of the impact new technologies have on individuals and societies. In recent years, however, resource consumption and reckless human behavior toward the environment have become equally significant drivers of the societal discourse in the digitalization context. In this panel, we will critically reflect on the issue of AI development and usage from both social and environmental perspectives. Also, we intend to devote a forward-looking discussion to sensitization of individuals and societies and formulate competency requirements for empowering a self-determined and sustainable behavior of designers and users. This step indeed is critical to the creation of a mutual and prospering coexistence. Speakers: André Ullrich, Weizenbaum Institute Gergana Vladova, Weizenbaum Institute Dave Rejeski, Environmental Law Institute Caroline Woolard, Open Collective
11.30 - 12.00	Coffee Break
12.00 - 1.30	Panel 5: "The labor that fuels AI" This conversation will explore the crucial role of human workers in the AI industry. We will delve into the labor-intensive tasks involved in producing data, training models, verifying algorithmic outputs, and also shed light on a lesser known aspect: the need for human workers to impersonate AI systems. Speakers: Milagros Miceli, Weizenbaum Institute Julian Posada, Yale University Adriana Alvarado, IBM Research
1.30 - 3.00	Wrap-up, Farewell and Lunch
3.00 - 5.30/5.45	Guided Walking Tour (optional): "Jewish life in New York City: German-Jewish emigration to the USA in the years 1933-1945"