Rethinking Responsibility 3161615972, 9783161615979

Citation preview

Perspektiven der Ethik herausgegeben von

Reiner Anselm, Thomas Gutmann und Corinna Mieth

20

Rethinking Responsibility edited by

Elisabeth Gräb-Schmidt, Ferdinando G. Menga, and Christian Schlenker

Mohr Siebeck

Elisabeth Gräb-Schmidt, born 1956; Professor of Systematic Theology at the University of Tübingen. Ferdinando G. Menga, born 1974; Professor of Philosophy of Law at the University of Campania “Luigi Vanvitell” and Adjunct Research Fellow at the University of Tübingen. orcid.org/0000-0002-5587-0818 Christian Schlenker, born 1991; holds a position as research assistant at the University of Tübingen. orcid.org/0009-0008-1674-9151

Printed with the support of the Universitätsbund Tübingen e.V., the Evangelische Landeskirche in Württemberg, the Evangelische Landeskirche Baden, and the Evangelical Church in Germany (EKD). ISBN 978-3-16-161597-9 / eISBN 978-3-16-162221-2 DOI 10.1628/978-3-16-162221-2 ISSN 2198-3933 / eISSN 2568-7344 (Perspektiven der Ethik) The Deutsche Nationalbibliothek lists this publication in the Deutsche Nationalbibliographie; detailed bibliographic data is available on the Internet at https://dnb.de. © 2023  Mohr Siebeck Tübingen, Germany.  www.mohrsiebeck.com This book may not be reproduced, in whole or in part, in any form (beyond that permitted by copyright law) without the publisher’s written permission. This applies particularly to reproductions, translations and storage and processing in electronic systems. The book was printed on non-aging paper by Laupp & Göbel in Gomaringen and bound by Buchbinderei Nädele in Nehren. Printed in Germany.

Preface The anthology »Rethinking Responsibility« brings together contributions from the conference of the same name held at the University of Tübingen in November 2021. After two years of the pandemic, this was the first face-to-face event for most of the participants and we look back on the fruitful discussions that took place. We would like to take this opportunity to thank all the sponsors of the conference and the publication of the conference proceedings. Special thanks go to the German Research Foundation (DFG) and Kärcher SE for supporting the conference; and to Universitätsbund e.V., the Evangelische Landeskirche in Württemberg, the Evangelische Landeskirche Baden and the Evangelical Church in Germany (EKD) for their support in publishing the conference proceedings. We would also like to thank Katharina Gutekunst from Mohr Siebeck for her excellent support of the project. Furthermore, our thanks go to the editors of the series »Perpektiven der Ethik«, Reiner Anselm, Thomas Gutmann and Corinna Mieth for the opportunity to be included in this series. The volume contains contributions from eminent scholars from a variety of disciplines who look at the problem of responsibility from different perspectives. The contributions offer a wealth of ideas and impulses for further research and debate on the topic. We hope that the conference proceedings will make an important contribution to the current debate on responsibility, helping to broaden our understanding of responsibility and inspiring us to find new ways of putting responsibility into practice. Elisabeth Gräb-Schmidt, Ferdinando G. Menga and Christian Schlenker

Table of Contents Preface . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . V Elisabeth Gräb-Schmidt, Ferdinando G. Menga and Christian Schlenker Rethinking Responsibility. Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

I. Advanced Technologies Amanda Lagerkvist AI as Existential Media. Kazuo Ishiguro’s Klara and the Sun (2021) . . . . . . . . 23 Christian Schwarke Künstliche Intelligenz und die Konstruktion von Verantwortung . . . . . . . . . . . . 39 Christian Schlenker Macht und künstliche Intelligenz. Dimensionen der Macht und der Begriff der Verantwortung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51

II. Anthropology Tijana Petkovi´c What Transformation Do We Believe in? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81 Jure Zovko Ethics of Responsibility for the Era of Globalisation? . . . . . . . . . . . . . . . . . . . . . 95 Ingolf U. Dalferth Endlichkeit und Verantwortung. Menschsein im Zeitalter der Technologie . . 111

VIII

Table of Contents

III. Intergenerational Responsibility Rachel Muers Future Generations as Horizon of Responsible Action in the Climate Crisis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137 Lisa Guenther Intergenerational Responsibility for Settler Colonial Violence . . . . . . . . . . . . . 151 Ferdinando G. Menga Taking Care of Those Who Cannot Claim Rights. Intergenerational Responsibility as a Challenge in a Post-Pandemic Era . . . . . . . . . . . . . . . . . . . . 177 Hans Lindahl Place-Holding the Future. Legal Ordering and Intergenerational Justice for More-Than-Human Collectives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195 Friedhelm Meier Standpunktbezogene Zukunftsverantwortung. Zukunftsethik jenseits von neutraler Technikfolgenabschätzung und akademisch-konzeptionellen Metadiskursen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213

List of Contributors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233 Index of Names . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235 Index of Subjects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241

Rethinking Responsibility Introduction Elisabeth Gräb-Schmidt, Ferdinando G. Menga and Christian Schlenker Our time is a time of crisis and a time of searching for responsibility. More and more it is becoming apparent that it is also a time of crisis for the concept of responsibility. This volume explores the question of how responsibility can be rethought so that it can continue to serve as a guiding concept for action and prudent consideration. By looking at the social implications of current technological developments in the field of machine learning, the current challenges facing the concept of responsibility can be highlighted. Artificial intelligence as an access point reflects the social call for responsibility that is heard every time a »new innovation in artificial intelligence« is in the headlines. Developments in the field of artificial intelligence are characterised by the fact that they not only have complex algorithmic structures, but also give rise to complex social entanglements. The conference on the topic of Rethinking Responsibility, which is documented in this volume, was a feast of encounters. All the speakers were happy to be able to come together in analogue form after two years of exclusively digital presence, and this on a topic that is naturally predestined for the temptation to allow everything physical to flow into the virtual. But it is precisely there that we have experienced how important the personal, also bodily encounter is in the situation of crisis, of the Covid-19 Pandemic. The importance of the bodily, we experience it precisely when it is absent. For the question of the theme »Rethinking Responsibility«, the relevance of personal relationships and real-life encounters for the determination of the human being, her freedom and capacity for responsibility will have to be considered, if not brought to the centre. If it is assumed that responsibility is a relational concept with at least three relata, namely, that somebody is responsible for something to someone, then this implies that individuals can justify their actions and give reasons for them. Responsibility is therefore essentially individual, although one can speak of cooperative and systemic responsibility. Responsibility presupposes the ability to act and to judge, that is, to start an action and to deal with the consequences. And: responsibility presupposes the visioning of a goal.

2

Gräb-Schmidt, Menga and Schlenker

Against the background of this definition of responsibility as an obligation to be able to give an account, the power of human intelligence must also be examined with regard to its preconditions in its educational and developmental history. This also includes the social and cultural environment into which traditions have entered and which has developed institutions in which the human being – and this precisely as a bodily constituent – participates and learns to engage with them. Such a conception of responsibility, therefore, refers above all to the present or to the past. But what about the future? Not only the presently urgent question of ecological conditions, responsibility for man-made climate change, which above all affects the future to a far greater extent than the present, but also the tremendous advances in the field of technology of computer science, medicine and biology raise concerns when the question of responsibility is asked. Who should and can take responsibility in the face of this challenge? Is it really the individual human being, is it institutions or systems, or can responsibility even be delegated to machines? Alongside the question of the human being, this concerns the question of the human-machine relationship. And because of this questioning, the classical philosophical questions of anthropology, such as »what is the human being?« or »what is the conditio humana?«, need to be reevaluated and redefined. In the 1950s, human beings and machines were still diametrically opposed to each other. As correct as this view is, on the one hand, it is also misleading on the other. Human beings and machines are intertwined through technology. Our technologies form a real intermediary space in which the vitalisation of the technical and the mechanisation of the vital take place as an indissoluble symbiosis. Apparatuses keep us alive; in the apparatuses, life now appears almost to be able to perpetuate itself. Arnold Gehlen’s definition that human beings are deficient beings (Mängelwesen),1 – which can be traced back to Herder or as far as Plato – no longer, if ever, holds. For it seems that with advanced technologies it is not just a matter of compensating for a lack of instinct, but rather technical intelligence means an increase in the scope of possibilities for humans. The reach of technology increases the reach of human action. We can see this in the already long-existing entanglements of human beings and machines, be it the pacemaker, be it prostheses etc., be it AI, be it implants into the brain to alleviate Tourette’s syndrome, a phenomenon in Parkinson’s disease. These considerations also influence the question of whether there is a categorical difference between human and artificial intelligence, or whether only a quantitative distinction between human beings and machines can be identified, which will level out in the near or distant future and which holds out the prospect of an approximation of human beings and machines up to and including their identification. But what would that mean for the question of human responsibility? 1 Cf. A RNOLD G EHLEN , Der Mensch. Seine Natur und seine Stellung in der Welt, 10th ed., Frankfurt am Main: Athenaion 1974, 36.

Rethinking Responsibility

3

Here, the question of delegability of aspects of responsibility to machines and the clarification of the peculiar nature of human responsibility is raised. Neither can be made comprehensible independently of its conditions and origins. Human intelligence is bound by tradition. It always refers to the experiences of others, to which one’s own behaviour is linked. In communication and interaction, however, one’s own experiences are formed, which then also initiate dealing with the experiences of others and the development of a sense of responsibility. But what about the responsibility for the future? Doesn’t the duty of responsibility reach a limit here? Responsibility should in principle be able to be developed from a holistic perspective. However, in view of the finiteness of human beings, such a perspective is not affordable to us. This principled limit is reinforced and manifestly experienced when our responsibility is to be directed towards the future. In any case, the question of responsibility cannot be asked without considering the factor of time. It is time that makes both our finiteness and our dynamic and plastic freedom be formed in-between past and future. We are exposed to the future, but we cannot overlook it, we cannot anticipate everything, we cannot predict developments exactly, nor can we react to the demands of future generations. But the complexity of knowledge formation arising in tradition and the present from individual and sociogenetic and sociocultural experience enables human beings to deal with the openness of the future, and that also means keeping knowledge present against the background of the always concomitant nonknowledge. Knowledge is embedded in an open horizon of not-knowing. It is precisely the knowledge embedded in this openness of not-knowing that makes it possible for thinking to deal with complexity, which is important for the assumption of responsibility that is always challenged by the situation. Attention must be paid to this not-knowing that accompanies cognition and action in the analyses of what constitutes human rationality, if any, in relation to AI. What possibilities and what limits are therefore revealed by advanced technologies to penetrate into the realms of the humanum, to occupy them and to perceive or replace the bodily with the virtual, intelligence with AI and responsibility with algorithms, that is the subject of the reflections in this volume. First of all, it is necessary to highlight why and which concepts of responsibility are challenged to what degree by the complex social structures that are created by an increasing complexity of contexts, algorithmic or otherwise. Responsibility is usually conceptualised according to the liability model, or imputatio. This notion of responsibility is largely oriented towards a legal framework.2 The question that this concept of responsibility is intended to answer is who can be held accountable for certain consequences. It is this concept of responsibility that is crucial for law and legal applications. Responsibility can be analysed with the 2

Vgl. I RIS M ARION YOUNG, Responsibility for Justice, Oxford: Oxford University Press 2011, 95–98; I RIS M ARION YOUNG, Responsibility and Global Justice. A Social Connection Model, in: Social Philosophy & Policy Foundations 23.1 (2006), 102–130, 116–118.

4

Gräb-Schmidt, Menga and Schlenker

help of a formula, to which at least three relata are essential. Responsibility, thereby, is defined as a relation, according to which, an agent is responsible for a (determinable) object towards someone.3 This rudimentary formula could be extended by further relata, such as an entity in front of which someone is responsible or the normative order which explains why someone is responsible.4 However, the three relata highlighted here can be used to trace an essential feature of the liability model of responsibility. As objects, consequences are considered, which have occurred (or will occur) due to the possibility (for instance with regard to circumstances and knowledge) of an agent to have intervened (to intervene) in the course of things (by acting or omitting) so that the specific outcome can be causally linked to these actions or omissions of actions. The relation, which is thereby described as responsibility, is essentially aligned with the category of causality within the attribution paradigm.5 The action of an agent has changed (can change) a causal chain in such a way that a result has occurred that would not have occurred (will not occur) without his action. Or an agent could have intervened (can intervene) in a causal chain in such a way that a certain consequence would not have occurred (will not occur). This is, for example, how Max Weber, the father of the ethics of responsibility, defines responsibility: »daß man für die (voraussehbaren) Folgen seines Handelns aufzukommen hat.«6 3 Vgl. JANINA L OH , Strukturen und Relata der Verantwortung, in: Ludger Heidbrink/Claus Langbehn/Janina Loh (ed.), Handbuch Verantwortung, Wiesbaden: Springer 2017, 35– 56, 39; E VA B UDDEBERG, Verantwortung im Diskurs. Grundlinien einer rekonstruktivhermeneutischen Konzeption moralischer Verantwortung im Anschluss an Hans Jonas, KarlOtto Apel und Emmanuel Levinas, Berlin and New York: De Gruyter 2011, 12; M ARK C OECK ELBERGH /JANINA L OH , Transformations of Responsibility in the Age of Automation: Being Answerable to Human and Non-Human Others, in: Birgit Beck/Michael Kühler (ed.), Technology, Anthropology, and Dimensions of Responsibility, Stuttgart: J.B. Metzler 2020, 7–22, 9; JANINA L OH, Responsibility and Robot Ethics. A Critical Overview, in: Philosophies 58.4 (2019); PAUL R ICŒUR, Le concept de responsabilité. Essai d’analyse sémantique, vol. 11, 206 1994, 28–48, 28–29. 4 Vgl. bspw. L OH , Strukturen und Relata der Verantwortung, 39. P HILIPP S TOELLGER , Verantwortung wahrnehmen als Verantwortung aus Leidenschaft, Berlin and Heidelberg: Springer 2022, 11–12 identifies a total of seven relata that should be considered and draws attention to the various dimensions of the context in which responsibility is placed. 5 Cf. J OSEPH M ETZ , Preemptive Omissions, in: Erkenntnis 87.3 (2022). Ludger Heidbrink, for instance, points out that the (at least) three-relata concept of responsibility presupposes »Freiheit, Kausalität und Willentlichkeit [...], damit jemandem die Folgen seines Handelns gerechtfertigterweise zugerechnet werden können.« (L UDGER H EIDBRINK, Kritik der Verantwortung. Zu den Grenzen verantwortlichen Handelns in komplexen Kontexten, Weilerswist: Velbrück Wissenschaft 2022, 23). 6 M AX W EBER , Wissenschaft als Beruf, 1917/1919 – Politik als Beruf, 1919, in: Wolfgang J. Mommsen/Wolfgang Schluchter (ed.), Max Weber Gesamtausgabe, vol. 1, 17, Tübingen: Mohr Siebeck 1992, 237. As is well known, Weber distinguishes between an ethics of responsibility (Verantwortungsethik), which looks at the consequences of an action, and an ethics of

Rethinking Responsibility

5

In the discussion of techno-ethical problems of responsibility in the face of AI applications, the liability model of responsibility is indispensable. This involves considering either who can be regarded as an agent in a particular constellation of circumstances; whether AIs themselves should be considered agents; or whether a human instance of responsibility should be preserved through a human-in-theloop. The question of who is responsible for an accident involving a self-driving car ultimately asks who is responsible for the consequences, i.e. who is liable for damages. A well-known problem of the liability model is diffusion of responsibility. As the complexity of attribution processes increases, partial responsibility of individual agents under certain circumstances becomes marginal. If every agent involved could have acted otherwise, but her actions would not have averted the consequences, no one’s actions can be deemed causally significant enough to attribute responsibility to. Diffusion of responsibility can be used to highlight briefly what the concern and benefit of a phenomenological approach to responsibility are. A distinction can be made between horizontal and vertical diffusion of responsibility. Both dimensions describe how complexity increases that relate either to the ability to influence a causal chain (horizontal) or to structural constraints on the ability to act (vertical). In the case of horizontal diffusion of responsibility, the possibility of allocation or imputability dissolves due to a large number of agents involved. If a large number of agents are involved in the occurrence of a consequence, we can speak of diffusion of responsibility if the alternative action of one of the agents involved would not prevent the occurrence of the consequence.7 None of the agents as an attitude (Gesinnungsethik), which is concerned with intentions and principles. Insofar as the consequences that the ethics of responsibility considers relate to the enforcement of a »cause« (op. cit., 227), Weber makes it clear that the consequences to be considered ultimately relate to the intentions that do not themselves fall within the scope of the assessment of consequences. The fact that this »cause« is determined by in terms of its fundamental questionability and determinability along lines of Nietzsche’s philosophy has already been pointed out several times, vgl. W OLFGANG J. M OMMSEN, Max Weber and German Politics 1890–1920, Chicago and London: University of Chicago Press 1984, 112; W ENDY B ROWN, Nihilistic Times. Thinking with Max Weber, Cambrdige, MA: Harvard University Press 2023; E UGÈNE F LEISCHMANN, De Weber à Nietzsche, in: European Journal of Sociology / Archives Européennes de Sociologie / Europäisches Archiv für Soziologie 5.2 (1964), 190–238; Z WI ROSEN, Max Webers Auffassung der politischen Ethik, in: Tel Aviver jahrbuch für deutsche Geschichte XVII (1988), 323– 342. Weber’s critical positioning towards Nietzsche is highlighted by E TIENNE de V ILLIERS, Revisiting Max Weber’s Ethic of Responsibility, Tübingen: Mohr Siebeck 2018, 50.88. 7 An example for the current discussion is the attempt by L. Floridi to think of a »faultless responsibility«, cf. L UCIANO F LORIDI, Faultless Responsibility. On the Nature and Allocation of Moral Responsibility for Distributed Moral Actions, in: Philosophical Transactions of the Royal Society 374.2083 (2016), URL: http://dx.doi.org/10.1098/rsta.2016.0112, see also: H ANNAH B LEHER/M ATTHIAS B RAUN, Diffused Responsibility. Attributions of Responsibility in the Use of AI-Driven Clinical Decision Support Systems, in: AI and Ethics 2 (2022), 747–761. As the title suggest, Floridi addresses the problem of a complex situations of allo-

6

Gräb-Schmidt, Menga and Schlenker

individual is able to change the course of the causal chain, that leads to certain consequences. Answers to the horizontal diffusion of responsibility can, for example, consist in reconsidering who is regarded as an agent. Thus, it makes a significant difference whether only individual actors, a collective of actors or corporations are considered agents. To meet this challenge, the discussion about attributing agency to AIs is crucial. A clear benefit from the discussions around agency is that it is highlighted how the liability model remains essential.8 In the case of vertical diffusion of responsibility, imputability dissolves due to the impossibility of an agent in the causal chain to act differently.9 In the case of vertical diffusion of responsibility, the economic and social structures are set up in such a way that the influence of individual actors on the consequences is severely limited. The vertical dimension of diffusion of responsibility thus attempts to describe structural conditions of specific consequences. For this reason, responsibility must not only listen to the demands of future generations as a challenge to the present, but also name the structural injustices of the present that result from past. These structures form an indebtedness that is neither allocatable to a specific culprit in the past nor to a single agent who is perpetuating them in the present. The liability model struggles to find ways to address these situations for which nevertheless responsibility is demanded. Especially in the context of AI governance, an extended notion of agency is discussed in order to escape the problem of the attribution of responsibility to a cation, in which it seems impossible that a single agent can be blamed as a culprit. Floridi’s approach envisages that problems of diffusion of responsibility are distributed by »allocation«, i.e. attribution, to the decisive nodes of a complex process – oriented towards the structure of neuronal networks. While this and similar approaches are undeniably helpful from a pragmatic point of view, they are neither able to address the aporia of »moral luck« (a node could only be decisive because many ancillary processes judged to be insignificant have made it so) nor prospective, resp. unallocable individual assumption of responsibility (as can be observed, for example, in the Fridays for Future movement in the field of climate ethics), into its concept. 8 On this discussion, see the contribution of Christian Schwarke in this volume. 9 Cf. I RIS M ARION Y OUNG , Verantwortung und globale Gerechtigkeit. Ein Modell sozialer Verbunderheit, in: Christoph Broszies/Henning Hahn (ed.), Globale Gerechtigkeit. Schlüsseltexte zur Debatte zwischen Partikularismus und Kosmopolitismus, Berlin: Suhrkamp 2010, 329–369, 350–353 In her analysis of the economic and social structures of sweatshops in the clothing industry, Iris Marion Young gives the example of higher factory workers who in principle would have the possibility to act differently, but that even if they had objected, the consequences to be averted would still have occured: Whether someone has to live in misery because of bad working conditions and poor pay or because of unemployment does not make much difference. This should not be understood as a blind excuse, but must be taken seriously, but by no means accepted, as a fact of given institutional processes but also inherited social structures. The scope for action can be limited by a lack of other realistic options, by the exercise of domination and violence, by other power processes, such as the shackling by a discursive power that socially establishes as an institution those processes that limit the scope for action

Rethinking Responsibility

7

subject.10 However, even an extended notion of agency struggles to address the structural requirements that vertical diffusion of responsibility can uncover. The aim of explainable or responsible AI approaches is to avert undesirable consequences or to make events that have occurred comprehensible in their genesis. Structures, however, pose the problem that they are socially created and human beings are exposed to them, but they did not create them themselves. A prudent concept of responsibility should equally be able to take both into account: The consequences as well as the structures in which consequences arise, have and will have arisen. Applied to current developments in the field of artificial intelligence, both dimensions can be considered using two common examples. With regard to the horizontal dimension of diffusion of responsibility (1), this loss of accountability is often discussed concerning phenomena such as the so-called black box. With regard to the vertical dimension, the bias problem can be cited, which perpetuates unjust social structures (2). (1) A black box problem of AI occurs when decisions, which were made by algorithms, are no longer comprehensible (by standards of human reason).11 Beyond explainability this also poses a problem for responsibility. Users, programmers, etc. cannot explain the decisions made by the AI and therefore do not know what an AI has done and why. To find the agent (e.g. the programmers, the users, the companies, the training data, ...) that made the decision that led to specific consequences often proves to be difficult if not impossible. Explainability most commonly assumes that the responsible agent had the necessary and understandable information at his disposal to make an informed decision regarding the consequences of his actions.12 The attribution of consequences to an accountable decision-maker is no longer given in decisions made with the participation of artificial intelligence, which involves a black-box problem of sufficient complexity. Not only is there a lack of explainability, but it is also not possible to identify an agent that could be determined as responsible by the standard of allocation. Positively formulated, approaches such as Explainable AI are absolutely necessary, because they obtain a minimum of accountabil10

C OECKELBERGH/L OH, Transformations of Responsibility in the Age of Automation: Being Answerable to Human and Non-Human Others. 11 Cf. M ARK C OECKELBERGH , AI Ethics, Cambridge, MA: The MIT Press 2020, 117–123. 12 »Interpretability can act as an insurance that only meaningful variables infer the output, i.e., guaranteeing that an underlying truthful causality exists in the model reasoning.« A LEJANDRO BARREDO A RRIETA et al., Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI, in: Information Fusion 58 (2020), 82–115, 82; cf. likewise e.g. D ONGHEE S HIN, The Effects of Explainability and Causability on Perception, Trust, and Acceptance. Implications for Explainable AI, in: International Journal of Human-Computer Studies 146 (2021), 1–10, passim; A NDREAS H OLZINGER et al., Causability and explainability of artificial intelligence in medicine, in: WIREs Data Mining and Knowledge Discovery 9.4 (2019), e1312, URL: https://wires.onlinelibrary.wiley.com/doi/abs/ 10.1002/widm.1312, passim; C OECKELBERGH, AI Ethics, 109–123.

8

Gräb-Schmidt, Menga and Schlenker

ity (and thus liability) through explainability. Yet, allocation and causality are guiding principles for this approach. If one consequently applies the criterion for the liability model of responsibility, that a decision-maker is determined by the fact that his relation to a causal chain in case of omission of or intervention by means of an action, would have significantly influenced the consequences of a process according, it follows that in cases of horizontal diffusion of responsibility, no decision-maker and thus no one responsible can be determined. In view of the black box problem, the attributability of responsibility fails due to the diffusion of explainability. (2) The vertical dimension of diffusion of responsibility describes how structural constraints (e.g. societal, hierarchical, power asymmetries, ...) limit the (perceived) ability of agents to act. Thus, the vertical diffusion of responsibility addresses the liability model’s criterion that agents could have acted differently in a way that would have changed the outcome. In particular, social structures that sustain injustices that call for responsibility are often unintentionally perpetuated by our actions as the orders of the ordinary and the mundane.13 Here too, specific phenomena of digitality reveal an underlying problem. The transmission and reinforcement of social structures are particularly problematic but often unnoticed when these structures promote injustice. If the training data from which AI learns contains biases, it will absorb and reproduce them. The best-known examples of this are algorithms such as COMPAS, which was used to convict suspected criminals in Florida, as Mark Coeckelbergh summarises: According to a study by online newsroom ProPublica, the algorithm’s false positives (defendants predicted to re-offend but who actually did not) were disproportionately black, and the false negatives (defendants predicted not to re-offend but who actually re-offended) were disproportionately white. Critics thus argued that there was a bias against black defendants.14

While such cases directly demonstrate that from AI applications real-world consequences emerge, in other cases, social structures are less conspicuously perpetuated. For example, Emily Bender and Timnit Gebru 2021 criticised the current development of natural language processing frameworks as GPT-3, for uncontrollably perpetuating various biases. The reason, according to Bender and Gebru, is that the immense and unspecific amounts of data with which this artificial 13 This can be either approached with Heideggers description of »das Man« (M ARTIN H EIDEGGER, Sein und Zeit, 19th ed., Tübingen: Max Niemeyer Verlag 2006, 126–130) or with Nietzsche, who addresses the underlying problem of the imputatio model of responsibility with his critique of the »irresponsibility of everyone« (Unverantwortlichkeit Jedermanns), cf. F RIEDRICH N IETZSCHE, Menschliches, Allzumenschliches. I und II, ed. by Giorgio Colli/Mazzino Montinari, KSA 2, Berlin: Deutscher Taschenbuch Verlag de Gruyter 1988, MA II, Nr. 81; KSA 2, 588; cf. F RANÇOIS R AFFOUL, The Origins of Responsibility, Bloomington and Indianapolis: Indiana University Press 2010, 80–120; JACEK F ILEK, Das Drama der Verantwortung bei Nietzsche, in: Archiv für Begriffsgeschichte 43 (2001), 113–147. 14 C OECKELBERGH , AI Ethics, 127–128.

Rethinking Responsibility

9

intelligence has been trained no longer allows human intervention in the selection.15 Gebru and Bender ultimately attribute the bias problem here to the fact that the assignment and comprehensibility would become impossible due to the complexity of the correlations. Thereby they dissolve the bias problem into a black box problem, and collapse vertical into horizontal diffusion of responsibility, while aiming to maintain liability and control.16 Yet, while being certainly practical, this approach reveals two underlying assumptions: First, their demand for the possibility of control shows that causality is essential to the underlying concept of responsibility. What Bender and Gebru calling for is an algorithmic structure that can be intervened in so that the result is different. Arguing for a smaller language model is essentially arguing for a reduction in complexity. Secondly, what is not addressed are those structures that are not noticeable precisely because they are »ordinary« and »normal«. If a natural language model is to be regulated by a set of normative rules – which are themselves, of course, not only ethical but also political – then the potential for reproducing hidden normative orders, either implemented or embedded in the training data, must be addressed by a prudent concept of responsibility. These two dimensions of diffusion of responsibility exemplify where challenges to the concept of responsibility exist. This does not mean that the imputatio notion of responsibility, which emphasises accountability has lost its place, importance, and relevance in the responsibility discourse. In particular, the forms of dealing with both dimensions of diffusion of responsibility addressed above show that it is possible to engage the current challenges by adjusting the imputatio-modell of responsibility. Yet, this model struggles to address structural injustices and intergenerational justice. It is precisely this dimension of responsibility, which cannot be based on imputability, that is considered by the recent phenomenological investigations on the topic of responsibility. The phenomenological perspectives bring forth a prospective concept of responsibility that is not limited to a foreseeable and calculable future, but attempts to conceptualise responsibility in the face of an always contingent future.17 15

In the case of Chat-GPT, an easy-to-use platform based on an evolution of GPT-3, an attempt was made to prevent the reproduction of offensive, malicious content. To train the neural network to do this, a monitoring of results is carried out – in this case before Chat-GPT is published by hundreds of clickworkers in low-cost labour countries, cf. B ILLY P ERRIGO, OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic Jan. 18, 2023, URL: https://time.com/6247678/openai-chatgpt-kenya-workers/ (visited on 01/28/2023). 16 E MILY M B ENDER et al., »On the Dangers of Stochastic Parrots. Can Language Models Be Too Big?«, in: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency 2021, 610–623. 17 Fundamental to this are the works of Hans Jonas (H ANS J ONAS , Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation, Frankfurt a.M.: Suhrkamp

10

Gräb-Schmidt, Menga and Schlenker

Addressing the issue of a responsibility of the contemporaries towards future generations presents itself as an inescapable task for current societies. In fact, 1979, cf. B UDDEBERG, Verantwortung im Diskurs, 47–88) and Emmanuel Levinas (cf. e.g. E MMANUEL L EVINAS, Jenseits des Seins oder anders als Sein geschieht, 3. Auflage der Studienausgabe, Freiburg and München: Verlag Karl Alber 2011, 37–41). For a focus on the concept of responsibility in Levinas and its relevance in the contemporary debates, cf. B UD DEBERG , Verantwortung im Diskurs, 145–204; R AFFOUL, The Origins of Responsibility, 163– 219; T OBIAS Z EEB, Verantwortung für das Gesetz. Überlegungen zur protestantischen Verhältnisbestimmung von Gesetz und Evangelium im Gespräch mit Emmanuel Levinas, in: Etica & Politica / Ethics & Politics XXIII.1 (2021), 269–284. The grounding of responsibility here does not lie in the fact that an attribution can take place according to certain (causal) criteria, but is grounded in a claim that requires a response (responsio), cf. E MMANUEL L EVINAS, Totalität und Unendlichkeit. Versuch über die Exteriorität, 5. Auflage, Freiburg and München: Verlag Karl Alber 2014, 309. This expresses that it is essential to being human to be founded in an original passivity as a responsible person. Ingolf U. Dalferth describes this in his contribution Endlichkeit und Verantwortung, below 111–133, as deep-passivity . Cf. similarly S TOELL GER , Verantwortung wahrnehmen als Verantwortung aus Leidenschaft, 36–37. In this passivity the unavailability of the origin of responsibility is revealed. One always finds oneself already placed in responsibility and does not choose to take on responsibility. Levinas thereby makes it clear that responsibility here has its seat in a transcendence that takes place in the event of the encounter between two persons: Before the responsible person can respond, he is already challenged to respond by the given relationship to the other. According to Levinas, the given nature of this relationship bears the character of the ethical, because in this event, in which no answer, no language and no common or antagonistic action has begun, the beginning is already given, cf. B ERNHARD WALDENFELS, Responsive Ethik zwischen Antwort und Verantwortung, in: Deutsche Zeitschrift für Philosophie 58.1 (2010), 71–82. Further, the early theological analyses of the concept of responsibility by Dietrich Bonhoeffer are central in this context. On Bonhoeffer’s pioneering role in the phenomenological context, cf. B RIAN G REGOR, The Transcendence of the Person. Bonhoeffer as a Resource for Phenomonology of Religion and Ethics, in: Brian Harding/Michael R. Kelly (ed.), Early Phenomenology. Metaphysics, Ethics, and the Philosophy of Religion, London: Bloomsbury 2016, 181–211; PAUL R ICŒUR, The Nonreligious Interpretation of Christianity in Bonhoeffer, in: Brian Gregor/Jens Zimmermann (ed.), Bonhoeffer and Continental Thought. Cruciform Philosophy, Bloomington and Indianapolis 2009, 137–155; E STHER D. R EED, The Limit of Responsibility. Dietrich Bonhoeffer’s Ethics for a Globalizing Era, Edinburgh: T&T Clark 2018. On Bonhoeffer’s concept of responsibility, cf. E STHER D. R EED, The Limit of Responsibility. Dietrich Bonhoeffer’s Ethics for a Globalizing Era, Edinburgh: T&T Clark 2018; G UNTER M. P RÜLLER -JAGENTEUFEL, Befreit zur Verantwortung. Sünde und Versöhnung in der Ethik Dietrich Bonhoeffers, Münster: Lit 2004; S TEVEN C. van den H EUVEL, Bonhoeffer’s Christocentric Theology and Fundamental Debates in Environmental Ethics, Eugene: Pickwick 2017; P ETER DABROCK, Responding to ›Wirklichkeit‹. Reclaiming Bonhoeffer’s Approach to Theological Ethics between Mystery and the Formation of the World, in: Kirsten Buch Nielsen/Ulrik Nissen/Christiane Tietz (ed.), Mysteries in the Theology of Dietrich Bonhoeffer. A Copenhagen Bonhoeffer Symposium, Göttingen: Vandenhoeck & Ruprecht 2007, 49–80; P ETER DABROCK, Wirklichkeit verantworten. Der responsive Ansatz theologischer Ethik bei Dietrich Bonhoeffer, in: Wolfgang Nethöfel/Peter Dabrock/Siegfried Keil (ed.), Verantwortungsethik als Theologie des Wirklichen, Göttingen: Vandenhoeck & Ruprecht 2009, 117–158.

Rethinking Responsibility

11

despite the resistance that some sceptical stances18 still show regarding the gravity of the environmental crisis – to which the political agenda of the former U.S. president has clearly adhered –, the awareness about the urgency of designing a sustainable development for the benefit of our immediate successors, as well as the inhabitants of the planet in a distant future, seems to have now resolutely penetrated both the collective imaginary and the international political agenda. However, although at a public level, the perception of such a demand for responsibility shows a widespread and even compelling character, and at the conceptual level the question concerning its legitimacy has been at the centre of several investigations, numerous problems still remain open and unsolved from the ethical, political and even legal point of view. Indeed, many questions arise: are obligations to radically future and absent subjects really justifiable? And if so, what are the most appropriate political-institutional instruments to give realization thereto? Is it enough to merely extend and amend present theoretical and politico-legal devices, or is a radical configuration thereof necessary?19 These and similar questions arise in the current theoretical and institutional debate and are becoming more urgent by the day given the urgency that this issue has acquired.20 In light of the high stakes of such questions, philosophical guidance is, therefore, more than ever required in order to shed light on the fundamental aspects and structural traits concerning a genuine understanding of responsibility for future generations.21 18

N. O RESKES/E.M. C ONWAY, Merchants of Doubt, New York: Bloomsbury Press 2010. On the institutional and normative problems related to the intergenerational issue see E DITH B ROWN W EISS, In Fairness to Future Generations. International Law, Common Patrimony, and Intergenerational Equity, Tokyo and Dobbs Ferry: United Nations University Press 1989, P ETER H ÄBERLE, A Constitutional Law for Future Generations. The »Other« Form of the Social Contract: The Generation Contract, in: Jörg Tremmel (ed.), Handbook of Intergenerational Justice, Cheltenham: Elgar 2006, 215–229, L AURA W ESTRA, Environmental Justice and the Rights of Unborn and Future Generations. Law, Environmental Harm and the Right to Health, London: Earthscan 2006, R AFFAELE B IFULCO, Diritto e Generazioni Future. Problemi Giuridici della Responsabilità Intergenerazionale, Milan: Angeli 2008, P. L AWRENCE, Justice for Future Generations. Climate Change and International Law, Cheltenham: Elgar 2014, J ONATHAN B OSTON, Governing for the Future. Designing Democratic Institutions for a Better Tomorrow, Bingley: Emerald 2016, I ÑIGO G ONZÁLEZ -R ICOY/A XEL G OSSERIES, Institutions For Future Generations, Oxford University Press 2016, F. C IARAMELLI/F ERDINANDO G. M ENGA (ed.), Responsabilità verso le generazioni future. Una sfida al diritto, all’etica e alla politica, Naples: Editoriale Scientifica 2017 and F. C IARAMELLI/F ERDINANDO G. M ENGA, Special Issue in Rivista di Filosofia del Diritto / Journal of Legal Philosophy, in: 10.2 (2021), 253–329. 20 F ERDINANDO G. M ENGA , L’emergenza del futuro. I destini del pianeta e le responsabilità del presente, Rome: Donzelli 2021. 21 S TEPHEN M. G ARDINER , A Perfect Moral Storm. The Ethical Tragedy of Climate Change, Oxford: Oxford University Press 2011, 45–51. 19

12

Gräb-Schmidt, Menga and Schlenker

Taken as a whole, the foundational difficulties or resistances to recognize intergenerational obligations arise from what we might understand as the main challenge that a radically future-oriented ethics poses to the traditional moral theories. Very succinctly, we are dealing here with a demand for a responsibility towards future individuals which, no matter how strongly perceived, does not, however, find its adequate »place« within the presentistic semantics underlying mainstream moral approaches.22 Two main points emerge here, which an introductory ethico-philosophical analysis must attend to. Firstly (1), a closer investigation needs to be devoted as to whether and how the predominant ethical theories fail to adequately respond to what future-oriented ethics really demands.23 Secondly (2), it is necessary to ask a consequent fundamental question: if a present-centred justificatory approach renders itself unable to respond coherently to a radically future-oriented demand for an intergenerational responsibility, how can an alternative ethical paradigm, if at all, be configured such that it corresponds to such an injunction? (1) Let us start with the first issue. In order to identify the predominance of a semantics of the present in the theories devoted to intergenerational responsibility, it is necessary to begin from an investigation that cannot ignore the fundamental incidence given by the very context of the appearance of the problem. To put it otherwise, one cannot disregard the fact that the intergenerational issue, as soon as it was recognized in all its peculiar significance and theoretical difficulty, found its first ambit of reception and elaboration within three dominant approaches: the (a) contractualist, (b) utilitarian and (c) metaphysical/natural law

22 This point is addressed, although from different perspectives (just to name a few) by H ANS J ONAS, Technology and Responsibility. Reflections on the New Tasks of Ethics, in: Social Research 40.1 (1973), 31–54; H ANS J ONAS, Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation, Frankfurt a.M.: Insel Verlag 1979, B RIAN BARRY, Justice Between Generations, in: Joseph Hacker Peter Michael Stephan AMD Raz (ed.), Law, Morality, and Society, Oxford: Clarendon Press 1977, 268–284; R ICHARD I. S IKORA/B RIAN BARRY (ed.), Obligations to Future Generations, Philadelphia: Temple University Press 1978, A NNETTE BAIER, The Rights of Past and Future Persons, in: Ernest Partridge (ed.), Responsibilities to Future Generations. Environmental Ethics, Buffalo, NY: Prometheus Books 1981, 171–189; but also B RUCE E DWARD AUERBACH, Unto the Thousandth Generation. Conceptualizing Intergenerational Justice, New York: P. Lang 1995; G IULIANO P ONTARA, Etica e generazioni future. Una introduzione critica ai problemi filosofici, Rome: Laterza 1995; M ASAYA KOBAYASHI, Atomistic Self and Future Generations. A Critical Review from an Eastern Perspective, in: Tae-Chang Kim/Ross Harrison (ed.), Self and Future Generations. An Intercultural Conversation, Cambridge: The White Horse Press 1999, 7–61; W ILLIS J ENKINS, The Future of Ethics. Sustainability, Social Justice, and Religious Creativity, Washington: Georgetown University Press 2013 and F ERDINANDO G. M ENGA, Etica intergenerazionale, Brescia: Morcelliana 2021. 23 S TEPHEN M. G ARDINER /DAVID A. W EISBACH (ed.), Debating Climate Ethics, Oxford: Oxford University Press 2016, 38–44.

Rethinking Responsibility

13

theories.24 This preliminary indication gives us the possibility of fully understanding both the specific configuration of the premises from which the intergenerational theme has been formulated and also of the contours of the main difficulties associated with it. (a) Contract theory, as is well known, envisages, among its basic precepts, the existence of subjects oriented to the pursuit of self-interest within a context of a relation of reciprocity and co-presence with others, thereby showing the ability to enter and fulfil an agreement.25 Future generations, however, are characterised precisely by the fact that they are constituted by subjects who do not yet exist and cannot cooperate26 unless future generations are understood as those that intersect with present generations (overlapping generations). In doing so, however, the very problematic significance of the issue, rather than addressed, gets distorted, since the very ethical quandary concerning the future is improperly reduced to that which a trusteeship-responsibility can easily resolve as obeying the semantics of the present.27 Subsequently, if one holds to the fact that the concept of future generations implies generations that do not yet exist and belong to a distant future, then the theoretical challenge posed to the contract theory perspectives is that such generations are prevented in principle from what a real contract situation demands: the ability to negotiate, agree and claim rights/interests.28 In addition to this theoretical obstacle, which can be dubbed as the non-existence obstacle of future subjects, there is the one of asymmetry. Indeed, the other predicament that emerges in the contractualist approach, when facing the intergenerational issue, is that of the unbridgeable disparity between the power 24 In the meanwhile the perspectives and approaches to intergenerational ethics debate have become numerous and multifarious, as the literature of the last 50 years clearly shows. The main discussions and analyses thereof will be detectable throughout the contributions to the topic gathered in this volume. 25 To this point in a contract theory context cf. paradigmatically, in the ambit of the intergenerational debate, J. R AWLS, A Theory of Justice, Cambridge, MA: The Belknap Press of Harvard University Press 1971, §§ 24, 44; DAVID A.J. R ICHARDS, A Theory of Reasons for Action, Oxford: Clarendon Press 1971; DAVID G AUTHIER, Morals by Agreement, Oxford: Clarendon Press 1986. 26 S TEPHEN M. G ARDINER , A Contract on Future Generations?, in: Axel Gosseries/Lukas H. Meyer (ed.), Intergenerational Justice, Oxford: Oxford University Press 2009, 77–118, 81– 89; R ICHARD P. H ISKES, The Human Right to a Green Future. Environmental Rights and Intergenerational Justice, Cambridge: Cambridge University Press 2009, 50–53. 27 R ICHARD I. S IKORA /B RIAN BARRY (ed.), Obligations to Future Generations, Philadelphia: Temple University Press 1978; G ARDINER, A Perfect Moral Storm, 123, 170–4; F ERDINANDO G. M ENGA, When the Generational Overlap Is the Challenge Rather Than the Solution. On Some Problematic Versions of Transgenerational Justice, in: The Monist 106.2 (2023). 28 S IKORA /BARRY , Obligations to Future Generations; G IULIANO P ONTARA , Etica e generazioni future. Una introduzione critica ai problemi filosofici, Rome: Laterza 1995, chap. 3; W ILFRED B ECKERMAN, The Impossibility of a Theory of Intergenerational Justice, in: Jörg Tremmel (ed.), Handbook of Intergenerational Justice, Cheltenham: Elgar 2006, 53–71.

14

Gräb-Schmidt, Menga and Schlenker

that the present generation has in affecting future generations and the absent, if not almost insignificant, ability of the latter to influence the former. This inability to bring the subjects into reciprocity and symmetry represents, therefore, a further impasse to the contractualist approach.29 (b) On the other hand, utilitarian theory, too, must respond to a very difficult theoretical challenge when confronted with the intergenerational question because of the characteristics of universality and temporal irrelevance on which it bases the utility or happiness to be maximized.30 Indeed, while such characteristics seem to hold in the case of calculating total or average happiness in a context limited to the present or near future, the same is not true when it comes to taking into account generations belonging to the distant future.31 Thus, the main obstacle facing utilitarian theories in intergenerational ethics, apart from many other critical points and problematic implications, is that of the difficulty of adequately estimating from present knowledge both »what« and also »the extent to which something« can be assessed as utility or harm in a distant future. This challenge can be referred to as the challenge of indeterminacy or ignorance of the future (or, say, of future preferences/needs). (c) Things do not change much if we refer to the natural law approach. In fact, a similar universalist and meta-temporal claim is also that which underlies those theories that seek to ground and justify intergenerational responsibility on the basis of substantialist or metaphysical assumptions. In general, these theories, of which Emmanuel Agius32 and, to some extent, Hans Jonas33 offer probably the most limpid formulations,34 claim to derive the responsibility of present beings toward future beings from a commonality of essence or genus. The fundamental problem connected with these approaches emerges, however, as soon as one 29

M ASAYA KOBAYASHI, Atomistic Self and Future Generations. A Critical Review from an Eastern Perspective, in: Tae-Chang Kim/Ross Harrison (ed.), Self and Future Generations. An Intercultural Conversation, Cambridge: The White Horse Press 1999, 7–61, 13–17; G AR DINER , A Contract on Future Generations?, 81–84. 30 H ENRY S IDGWICK , The Methods of Ethics [1874], London-New York: Macmillan 1907, 414. 31 J OHN A RTHUR PASSMORE , Man’s Responsibility for Nature, London: Duckworth 1980; AVNER D E -S HALIT, Why Posterity Matters. Environmental Policies and Future Generations, London and New York: Routledge 1995, chap. 3. 32 E MMANUEL AGIUS /S ALVINO B USUTTIL (ed.), Future Generations and International Law, London: Earthscan 2006. 33 H ANS J ONAS , Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation, Frankfurt a.M.: Insel Verlag 1979, chap. 4, §§ 4–7; H ANS J ONAS, Philosophische Untersuchungen und metaphysische Vermutungen, Frankfurt a.M.: Insel Verlag 1992, 128– 146. 34 Along the same line see also G REGORY S. K AVKA , Obligations to Future Generations, in: Richard I. Sikora/Brian Barry (ed.), Philadelphia: Temple University Press 1978, 180– 203, 191–196 and H ENDRIK P HILIP V ISSER ’ T H OOFT, Justice to Future Generations and the Environment, Dordrecht: Kluwer 1999, 122. 133–135. 149–152.

Rethinking Responsibility

15

points out the fact that they presuppose the validity of a motivational connection between ontological and ethical levels, which, on closer inspection, is not at all evident. As Hume35 has already shown on the basis of what Moore36 defined as the »naturalistic fallacy«, sharing the essence with other subjects does not necessarily follow a moral obligation to them. In the contemporary philosophical tradition, several authors of the phenomenological matrix, including Levinas, Derrida and Waldenfels, have pointed out in multiple respects how such an ontological postulate is indefensible. Not only do they show how the ethical call to responsibility towards others arises well before any ontological constraint or definition of essence, but they also show how such responsibility remains genuine only insofar as it is linked to the singularity of the demand from which it arises, thereby escaping any strategy of ontological comparison and neutralisation or contractual constraint. But the criticism of such metaphysical-substantialist approaches is not limited only to their shortcomings in terms of motivational foundation. Another predicament is that substantialist theories necessarily push for a firm preference for the present over the future, bypassing the issue of intergenerational distributive justice.37 On the basis of such theories, in fact, one fails to see why one should not adopt a solution such that temporally distant holders of humanity should not be given preference to those – or at least to the worse-off – belonging to the present. Moreover, such a solution, which assures precedence to contemporaries, is entirely appropriate to the metaphysical approach, since it follows the argument characteristic of it, according to which contemporary humans express a realization in act of human essence, as opposed to a mere realization in potency ascribable to future beings. (2) In conclusion, then, all the difficulties associated with the way in which traditional ethical theories have addressed and continue to address the problem of obligations to future generations turn out, on the whole, to reflect the limitations of an approach that is fundamentally centred on the primacy of present temporality:38 it is a primacy of what empirically exists only in the present and of subjects who are mainly understood as synchronically present to one another; a primacy of a causality that recognizes only an ethical relevance of the present to the future, but not the opposite direction; a primacy of a possibility of determining an ethical state of affairs only from present information. To put it with 35 DAVID H UME , Treatise on Human Nature, vol. 2, The Philosophical Works of David Hume, London: Printed for Adam Black, William Tait, and Charles Tait 1826. 36 G EORGE E. M OORE , Principia Ethica [1903], Cambridge: Cambridge University Press 1922. 37 W ILLIS J ENKINS , The Future of Ethics. Sustainability, Social Justice, and Religious Creativity, Washington: Georgetown University Press 2013, 286–287. 38 K OBAYASHI , Atomistic Self and Future Generations, 13–15; R ACHEL M UERS , Living for the Future. Theological Ethics for Coming Generations, Edinburgh: T&T Clark 2008, chap. 1.

16

Gräb-Schmidt, Menga and Schlenker

Stephen Gardiner’s formulation, one may well define this approach in the terms of a true and proper »tyranny of the contemporary«.39 Such an interrogation cannot but register a paradoxical or, at least, a rather singular situation: the character of futurity, which constitutes the very core of the question of a responsibility for the future and for future persons, as soon as it is addressed, finds itself reduced or totally reconducted to what can be elaborated from a semantics of the present or its extension in terms of a meta-temporality. From this situation of fundamental precariousness, there seem to be two inevitable outcomes: either one insists further on the present-future caesura, thus highlighting the impossibility of an effective justificational strategy based on the semantics of the present with respect to future subjects;40 or one remains anchored to a foundational aspiration which, however, since it cannot find any answer in the available theoretical frameworks, can only transgress them by bringing into play motives extrinsic to them. And it is precisely along this second line that we find the recourse to a muchpractised theoretical exercise that appeals to the ultimate device of a moral intuition as the foundation of a future ethics. There are numerous approaches that, adhering to different scholarly trajectories and conceptual emphases, exhibit a recourse to such a moral intuition as the ultimate resource for an ethics of the future: from Rawls41 to Gauthier42 and from Barry43 to Auerbach,44 all the way to the peculiar admission by Parfit,45 who, despite setting forth the most powerful argument against the justifiability of an intergenerational responsibility – via his famous Non-Identity Problem46 – nevertheless concludes his investigation by issuing an invitation to find better counter-arguments to his negating strategy; and this precisely in order to accommodate what seems to remain, even in his view, an appeal to responsibility for the future provided of an inescapable and intuitive character.47 The problem here, however, is that in each of the approaches just mentioned, the device of moral intuition turns out to be not only extrinsic but ultimately incoherent within the very theoretical framework in which it appears. In fact, moral 39

G ARDINER, A Perfect Moral Storm, 36. PASSMORE, Man’s Responsibility for Nature, 84–86; M ARTIN P. G OLDING, Obligations to Future Generations, in: Ernest Partridge (ed.), Responsibilities to Future Generations. Environmental Ethics, Buffalo, NY: Prometheus Books 1981, 61–72. 41 R AWLS , A Theory of Justice, §§ 4. 24. 44. 42 G AUTHIER , Morals by Agreement, 16. 303. 43 B RIAN BARRY , Justice Between Generations, in: Joseph Hacker Peter Michael Stephan AMD Raz (ed.), Law, Morality, and Society, Oxford: Clarendon Press 1977, 268–284, 276. 284. 44 B RUCE E DWARD AUERBACH , Unto the Thousandth Generation. Conceptualizing Intergenerational Justice, New York: P. Lang 1995, 209. 45 D EREK PARFIT , Reasons and Persons, Oxford: Clarendon Press 1984. 46 Op. cit., chap. 16. 47 Op. cit., 447. 451–453. 40

Rethinking Responsibility

17

intuition, conceived as an appeal to an unquestionable and unconditional responsibility beyond reason, interest and calculation, ends up finding no adequate place in the conceptual structure of such theories, thus inevitably forcing them to fall prey to insurmountable internal contradictions. It follows, therefore, that the adequate and genuine reception of the fundamental core of such an unconditional call to intergenerational obligations, namely the appeal to a radical responsibility for the future and future individuals, must necessarily be sought in a decisively different philosophical approach, which must connect, moreover, to an attendant ethical-anthropological conversion48 or set of robust integrations49 apt to coherently support and implement it. Such a perspective may take up the outlook of the invitation once issued by Gardiner, who, along the line of registering that »even our best theories – whether economic, political, or moral – struggle to address basic issues [of] intergenerational equity«,50 proposes the strategy of a minimalist ethical approach as the best tool for providing a necessary, albeit precarious, guidance. Such a strategy can be interpreted, at worst, as transitional ethics in the search for more solid answers; or, if you wish, as a »see[d] from which fuller theories [...] can grow«.51 Such an outlook, while lacking the cogency which is normally expected by a fullfledged conceptual theory, nevertheless might turn out to be the only viable path, since – as Gardiner still puts it – »sometimes an ethics of transition« is precisely such that it »must take on the task of guiding us forward even when we are not sure precisely where to go«.52 The contributions gathered in this volume attempt to illuminate the problematic aspects of the issue, while also proposing some solutions at the ethical-, political- and even legal-philosophical level.

Chapter Overview The contributions in this volume have in common an affinity with phenomenological perspectives on the concept of responsibility. The starting point is taken by observations on the challenge to the concept of responsibility (I. Advanced Technologies) by the discourses that accompany the developments in AI. Subsequently, in view of these questionings, the human being moves to the centre of 48 K ARL JASPERS , The Atom Bomb and the Future of Man, trans. by E.B. Ashton, Chicago: University of Chicago Press 1963; H ANS J ONAS, Technology and Responsibility. Reflections on the New Tasks of Ethics, in: Social Research 40.1 (1973), 31–54; BARRY, Justice Between Generations, 276. 49 M ATTHIAS F RITSCH , Taking Turns with the Earth. Phenomenology, Deconstruction, and Intergenerational Justice, Redwood City: Stanford University Press 2018. 50 G ARDINER /W EISBACH , Debating Climate Ethics, 37. 51 Op. cit., 39. 52 Ibid.

18

Gräb-Schmidt, Menga and Schlenker

the investigations (II. Anthropology). What are the implications for understanding the human being in the face of these challenges to situations of responsibility? Finally (III. Intergenerational Responsibility), various dimensions of an intergenerational concept of responsibility are examined. Amanda Lagerkvist opens the volume with reflections on Kazuo Ishiguro’s novel Klara and the Sun. In doing so, she shows how the digital as an existential medium increasingly co-determines every situation, but that human beings also experience limits through it and in it. Thus, the question is not what the technical contexts, but what the existential and social meanings and implications of AI are.53 This raises the question of maintaining our responsibility in the face of technological development and the dominance of its artefacts. Do these challenge us to think of responsibility in the context of artificial intelligence itself, as Christian Schwarke puts it in his contribution: »Künstliche Intelligenz und die Konstruktion von Verantwortung«. After all, isn’t this precisely what is presupposed in the concept of autonomy and can such autonomy be redeemed by machines? Perhaps in a certain way, when artificial intelligence is placed in relation to our responsibility, when it comes to a shared responsibility – or better – shared control, and the question is, can responsibility really be described in this way, precisely in its relation to artificial intelligence? The urgent question, then, is how to preserve the freedom to be responsible in the face of such power relations. Christian Schlenker examines the connection between the concept of causality, of responsibility, and various dimensions of power. These reflections in the face of advanced technologies challenge us to question human beings and their specificity, the specificity of their reason and freedom, their intelligence vis-à-vis artificial intelligence. This challenges us to look more closely at the meaning of anthropology. What is human, and therefore what is the human aspect of responsibility? Tijana Petkovi´c’s contribution opens the second part of the volume, which asks what significance technical innovations have for the understanding of the human being. Petkovi´c examines this in conversation with orthodox theosis theology by asking what conclusions the demand for technical innovation of the human being allows for the underlying anthropology. How can we take up responsibility, especially for the challenges of current scientific and social developments? This problem is addressed in the contribution by Jure Zovko, who sketches the preconditions of the concept of responsibility in the roots of European philosophy, from Plato and Aristotle to Immanuel Kant, and shows their significance for the current situation.

53

This approach has been significantly introduced into research by Lagerkvist, cf. A MANDA L AGERKVIST, Existential Media. A Media Theory of the Limit Situation, New York: Oxford University Press 2022.

Rethinking Responsibility

19

The contribution by Ingolf U. Dalferth reconsiders, whether the human factor also shows us the limits of our responsibility. Ingolf U. Dalferth examines how the humanity of the human being can be described in terms of its constitutive questioning. He shows that it is precisely those seemingly »imperfect« moments – finitude, passivity, and thus also: suffering and vulnerability – that make human beings what they are. But what then leads us to want to take responsibility for future generations or to feel this also as a duty to establish intergenerational justice? This question introduces the third part on Intergenerational Responsibility and with it the question of responsibility towards future generations. Are these future generations not rather strangers who do not concern us and whose wishes and expectations we do not know? Or are they not our neighbours after all, or even our judges? Rachel Muers’ contribution is concerned with responsibility for the future, particularly in the context of the climate crisis. She argues that the notion of responsibility towards future generations is an important incentive for action in dealing with the current crisis, and explores how theological resources can help us to better understand and manage the problem of taking responsibility. She suggests that responsibility to future generations can be seen as an aspect of living in a fallen world and that responsibility should not only be used to continue existing ways, but also to help find new ways to shape a sustainable future. It also explores the impact of responsibility towards past generations on responsibility towards future generations. And when we look at responsibility for the future, is it not first and foremost urgent to not only prolong it into the future but to ask about our responsibility for the past, about our freedom that has made us guilty from whose perspective Lisa Guenther examines intergenerational responsibility in her contribution »Intergenerational Responsibility for Settler Colonial Violence.« Lisa Guenther addresses the responsibility that has arisen due to past indebtedness. The recent identification of over 1,500 unmarked graves of Indigenous children on the grounds of Residential Schools in Canada has raised urgent questions about intergenerational responsibility for colonial violence. In »Taking Care of Those Who Cannot Claim Rights. Responsibility as a Challenge in a Post-Pandemic Era,« Ferdinando G. Menga reflects on the fundamental role of care in society, especially in light of the COVID-19 pandemic. The text examines the relationship between technology, time, and the intergenerational transmission of knowledge, arguing that technology’s neutral time, far from helping these transmissions, ends up representing the very responsible for the obliteration or exclusion of future subjects. The concept of »ethical time« is introduced as a time of responsibility and care for others, which is crucial in limiting the negative impact of technology on society and instilling a sense of care towards the future and the planet. The author emphasizes the importance of

20

Gräb-Schmidt, Menga and Schlenker

education in preparing future generations to renew a common world as a space of transgenerational co-habitation. Responsibility has a temporal perspective, it also acts as a placeholder for the future, as Hans Lindahl points out. He addresses the problem of the legal recognition of more-than-human collectives and the question of whether their recognition can be understood as inclusion or whether it rather represents an intertwining of different worlds. Lindahl argues that legal recognition is a transformative collective self-affirmation that begins with more-than-human collectives. Lindahl emphasises that the powerlessness inscribed in the affirmation of power is not the prerogative of humans, but also that of non-humans. The volume closes with a text by Friedhelm Meier that ties the question of future-oriented responsibility back to the problem context unfolded in the first part on the basis of technology assessment. The article deals with the perception of discussions on future responsibility in academia and argues that they often seem like a meta-discourse without practical relevance. While discussions of anthropological implications of futures, the non-identity problem and intergenerational connections may not address current societal challenges, solutions to climate change and the evaluation of future-oriented technologies and techniques are not considered. The article argues that technology assessment has a more practical and solution-oriented perspective in discussions about the future. This volume explores the possibilities and limits of modern technologies as they penetrate and occupy the realms of human beings, replacing the physical with the virtual, intelligence with AI, and responsibility with algorithms, and the extent to which such developments and determinations of the concept of responsibility reach their limits.

I. Advanced Technologies

AI as Existential Media Kazuo Ishiguro’s Klara and the Sun (2021)1 Amanda Lagerkvist In Klara and the Sun (2021), Kazuo Ishiguro portrays our digital existence in a black mirror. The novel depicts a society verging on disintegration. Subject to extreme vagaries, including sudden restructuring, lives are upended, as employees are without warning moved out of careers and jobs. People are essentially powerless as power is shrouded in layers of secrecy, complexity and unpredictability. The only real currency in this world is »intelligence« – fabricated in one way or another. This is therefore a world in which children are genetically edited in order to improve their prospects in life. Enhancing their intelligence, defined narrowly as the particular reason needed for the niche of mathematics and systems engineering, is a prerequisite for allowing them to have a decent life at all. »Lifting« kids is however a huge gamble, since some of them fall really ill and even die from the procedure. In this world, emotionally highly capable robots, known as Artificial Friends (AF), are built to care for this generation, to tutor them in the school subjects deemed relevant, and be good company for the teenagers in their coming of age. This world is brought before us through the voice of Klara, the AF of a girl named Josie. Klara is not the newest model, she’s however a remarkable carebot with extraordinary perception and observational as well as therapeutic skills, as she is fully emotionally equipped. As I hope to lay bare in what follows, Ishiguro here offers his trenchant version of how humans are thrown into this world of rampant technological solutionism, and into what I term, the digital limit situation of shock, urgency and utter need.2 Situating the human condition as being off the hinges, in a world on edge, he offers a story

1

This essay is the fusion of two lectures from two conferences: my Keynote Lecture »Rethinking Responsibility in the Digital Limit Situation« at the conference »Rethinking Responsibility: Anthropology – Intergenerational Responsibility – Advanced Technologies«, Eberhard Karl University of Tübingen, Germany, November 12, 2021 and the Introductory Lecture that opened the conference »Digital Existence III: Living with Automation«, The Sigtuna Foundation, Sweden, May 31–June 1, 2022. 2 A MANDA L AGERKVIST , Existential Media. A Media Theory of the Limit Situation, New York: Oxford University Press 2022.

24

Amanda Lagerkvist

that compels us to rethink responsibility as well as ethics in the age of Big Data, algorithms, biometrics and AI (artificial intelligence).3 Ishiguro’s piercing critique resounds a tide of critical reflections on automation across many fields today. The ambition to seek to offer social and political contextualization of AI technology has been common coin in critical and cultural theory in recent years. Scholars have leveled warnings against the impact on society of AI, algorithms and machine learning, cautioning through the lenses of race, class, gender, sexuality, ability, and citizenship, how AI technology coshapes social injustices. Rather than understanding AI as an escape from our problems, evidence suggests that it increasingly appears in practice an amplification of the product of human culture, bias, stereotyping, and exclusive privilege designed into their root logics and our social practices. A significant tide of critical data studies scholarship has thus in recent years highlighted the problems of extractivism, exploitation, bias and oppression.4 Beyond merely echoing the need for a sociological and materialist grounding of these technologies, some important voices in this debate have also in particularly productive ways, invoked themes and aspects that allow for an existential re-cognition of and novel conversation about what is at stake in living with automation. Illustrating the need for multiple perspectives, they have thereby shed crucial light on the diverse dimensions of the complex developments at hand. Literary scholar N. Katherine Hayles has for example named the role of nonconscious cognitive assemblages when humans and technical systems interact, to ultimately describe the ethical, political and cultural stakes in contemporary datafied societies.5 Others, like media scholar Kelly Gates in her seminal work on biometrics, has forcefully shown how powerful interests have ushered in this 3

Data is the new lifeblood of our ever more automated world. With it has come a vital new vocabulary – including keywords such as algorithm, meaning a series of steps to follow in solving a problem; machine learning, which is essentially about asking computers to write their own instructions to model and then solve the problem at hand, building algorithms to »grasp fuzzy patterns implicit in the evidence they are shown« (T ED U NDERWOOD, Why an Age of Machine Learning Needs the Humanities 2018, URL: https://www.publicbooks.org/why- anage-of-machine-learning-needs-the-humanities/) and artificial intelligence itself, of which machine learning is a subset, which empowers machines to »learn« without and alongside human supervision. 4 See for example seminal works by C ATHY O’N EILL , Weapons of Math Destruction. How Big Data Increases Inequality and Threatens Democracy, New York: Crown 2016; S AFYA U. N OBLE, Algorithms of Oppression. How Search Engines Reinforce Racism, New York: New York University Press 2018; S HOSHANA Z UBOFF, The Age of Surveillance Capitalism. The Fight for the Future at the New Frontier of Power, London: Profile Books 2019; N ICK C OULDRY/U LISES A. M EJIAS, The Costs of Connection. How Data Is Colonizing Human Life and Appropriating It for Capitalism, Stanford: Stanford University Press 2019; K ATE C RAWFORD, Atlas of AI, Durham: Duke University Press 2021. 5 N. K ATHERINE H AYLES , Unthought. The Power of the Cognitive Nonconscious, Chicago: The University of Chicago Press 2017.

AI as Existential Media

25

era of transparency, obscurity and inevitabilism in an all-pervasive surveillance culture.6 Joanna Zylinska, artist and professor of Media Philosophy and Critical Digital Practice, has demonstrated how dry AI discourse is and in urgent need of more nourishment from the arts.7 Media philosopher Sun-ha Hong has shown how problematic the new objectivist honeymoon is for our sense of knowledge about ourselves and the world in what digital humanities scholar Btihaj Ajana calls metric cultures.8 And media historian Benjamin Peters and colleagues in critical data studies have shown how the world needs to sound an alarm since our computers are on fire;9 not least due to data colonialism and exploitation of users, as highlighted forcefully by critical media scholar and social theorist Nick Couldry and colleagues.10 It is worth noting however that data colonialism works, as Couldy argues, to the extent that all our social and existential needs seem to be met today, via connections, reliant in turn on massive datafication processes of exploitation. This brings to our attention that critique should be combined with deep insight into how mundane data also produce meaning and new foundations for knowledge, ethics and behaviour in everyday life. Ultimately, an existential reading can also produce hope and a sense of optimism as living with automation requires and produces, according to digital anthropologist Sarah Pink and her colleagues, an everyday ethics.11 These approaches, in all their multiplicity, are urgently needed today since in increasingly conspicuous ways, leading AI alignment collaborations to develop philosophically robust notions of »benign or responsible AI«, are often absent of any in-depth engagement with humanistic knowledge, whether philosophical, historical, media theoretical, artistic, literary, theological or anthropological. My suggestion is here that we must first thoroughly »existentialize« media, technologies and AI. In this essay, I read Klara and the Sun as a suggestive scenario that both allows us to take into account and move beyond the general political economy criticisms in order to reconceive AI and autonomous systems as existential terrains. I hold that while the story is a catalyst for a host of crucial insights about 6

K ELLY G ATES, Our Biometric Future, New York: New York University Press 2011. Z YLINSKA, AI Art. Machine Visions and Warped Dreams, London: Open Humanities Press 2020. 8 S UN - HA H ONG , Technologies of Speculation. The Limits of Knowledge in a Data-driven Society, New York: New York University Press 2020; B TIHAJ A JANA (ed.), Metric Culture. Ontologies of Self-tracking Practices, Bingley: Emerald Publishing 2018. 9 T HOMAS S. M ULLANEY et al. (ed.), Your Computer is on Fire, Boston: MIT Press 2021. 10 B ENJAMIN P ETERS , How Do we Live Now? In the Aftermath of Ourselves, in: Thomas S. Mullaney et al. (ed.), Your Computer is on Fire, Boston: MIT Press 2021; N ICK C OULDRY/U LISES A. M EJIAS, Data Colonialism. Rethinking Big Data’s Relation to the Contemporary Subject, in: Television & New Media 20.4 (2019). 11 S ARAH P INK /D ÉBORA L ANZENI , Future Anthropology Ethics and Datafication. Temporality and Responsibility in Research, in: Social Media + Society (2018), URL: https://doi. org/10.1177/2056305118768298. 7 J OANNA

26

Amanda Lagerkvist

the potentially dystopian near future, it actually also offers acumens toward acknowledging that AI is existential – and as such an open affair. But how? Can AI really be existential media? What would that imply, theoretically and analytically? And how does that square with our general understandings of the concepts in play? At face value, clearly, this sounds like a contradiction in terms. As machines built to emulate human intelligence, they seem to embody the very pinnacle of a modern techno-progressivist utopia, within a materialist universe in which there are no existential possibilities to intend, imagine or create visions for life. And in such a universe could AI be about the classic existential concerns about the meaning of human (inter)subjectivity, choice, expectation and responsibility, or about finitude, frailty and failure? That is, about the inevitability of limits. Is it not misplaced to keep obsessing about such humanistic concerns that seem so outdated and outsmarted, in an era in which AI is filling up the entire horizon, as both a medium to, and a message about or even from, the future? Furthermore, since humans are entangled in these morethan-human webs of existence, ethical deliberation and taking responsibility may seem impossible. Machines will solve that for us too. But wait a minute! Who decides that debates on AI must buy into the world view of logic and formalism that the machines are built from and then reproduce in their very operations? Would it not be a miserable failure to give up before we have even tried to formulate an alternative? Existentialism would claim that the premises for the materialist-mechanistic reading are wrong, and that we are in fact in a creative and open universe, in which human subjectivity is truth, and in which we, therefore, possess existential possibilities to bring into being the best possible world. To be human is to be involved, even passionately involved, in this concrete world, as Søren Kierkegaard argued. In other words, human existence may be conceived as both grounded in the material world of technologies and things, and as an ongoing moral project, stretched out in an anticipatory mode towards horizons of the possible, the contingent and the imperative. This only begins to show that the debate may actually be set along other lines. Thinking existentially also liberates the horizon and will allow for a series of initial propositions that span the material, the experiential, the imaginative and the situational. For starters, AIs are existential media if we define media as extensions of ourselves, as Marshall McLuhan did famously. Or perhaps as in posthumanist parlance: technologies are us! Hence, precisely because AI technologies are co-conditioning humanity in its essence, they are existential media in a material sense. They are fundamentally linked to us in specific ways. The resonances between humans and AI relate foremost to cognitive capabilities, as N. Katherine Hayles argues: »Computational media [...], are not just another technology. They are quintessentially cognitive technology, and for this reason have special relationships with the quintessentially cognitive species: Homo Sapiens.«12 AI 12

H AYLES, Unthought, 34.

AI as Existential Media

27

extends human cognition. But in addition, our lives are increasingly »on automatic« and AI is existential in an experiential sense, since it is today part of our most intimate lives, quantified self-imaginings, embodied perceptions, and our emergent practices of care. As existential media in a discursive and imaginative sense, they also embody visions about where we are headed and reflect back to us who we are, or want to be. Hence, the whole dream and debacle about artificial intelligence thus fully captures existential concerns about what kind of civilization we want. In consequence, it is today quite common to prophesize about AI as both the saviour on the human horizon and as an existential risk due to the developments of autonomous systems. In this view, AIs have to do with our very survival, as a species and as a civilization in a situational sense. They are thereby also, as I will submit, part of those interrelated and calamitous crises which we now face. We are thus as already stated – and as I will develop more fully in the following – in a digital limit situation.

I. Toward a Media Theory of Limit: The Digital Limit Situation In Existential Media: A Media Theory of the Limit Situation I reconceive digital media culture as an existential terrain that needs to be navigated, and media as existential media. Importantly, the book calls forth a different ethos which challenges ideals of limitlessness, quantification and speed so central to AI hype and discourse – and to our own world of academia – and seeks out alternate intellectual and ethical coordinates for the study of media. I define existential media as both »the priors and the limits, the frame and the edge, the building blocks and the brinks of being.«13 The book basically argues that the implications of why media technologies matter go deeper than the social, economic, political and cultural frameworks of analysis will exhaust. Discussing the lineages of media studies and of existentialism, I identify an existential deficit in the field, and suggest how we might existentialize media and media theory. Theoretically, the book explores the key question: How does originary technicity – that is, the fact that we depend on and are co-constituted by our tools and technologies – intersect with originary human vulnerability – that is, the fact that our being is fragile and mortal? To arrive at this the book enters into the slow fields of mourning, commemorating and speaking to the dead in the online environment. It places the mourner, the disabled person, the illness-stricken, at the heart of media theory. Something profound can be learned from margins without names, and in encountering those who lost everything a methodology as well as an ethics were fostered and required. As an outcome, the book emphasizes modes of being digital in slowness, silence and waiting and recognizes limits as a fact of life, and of media and of the 13

L AGERKVIST, Existential Media, 3.

28

Amanda Lagerkvist

planet. Here I argue that we need a media theory of limit: media as limit, at the limit, and as limited and limiting. We need to think with limits. Bringing limits, in all their shapes and forms, onto the radar when we interrogate media makes it possible to argue that media are life-defining and involved in seemingly limitless extractions, but they are not without limit. If technologies are us, mediation cannot only be a vital process.14 I stress, in addition, that existential media are also media of and within limits. The book offers a media theory of the limit situation which also recognizes that limit can be a site of birth and rebirth and that limit is thus a site of value. In order to arrive at this, I revisit existential philosophy broadly, but mainly through a reappreciation of Karl Jaspers’ philosophy and of his concept of the limit situation: those ultimate moments in life – of loss, crisis, conflict, guilt, birth, and love – which we are called upon to seize.15 The limit situation is both about utter uncertainty and about possibility. Expanding on Jaspers I define the digital limit situation in three overlapping ways. First, digital media represent where the limit situations of life are often played out (as for example in therapy forums, in mourning communities, or in media events of live broadcasting of catastrophes). Second, digital technologies also constitute in themselves a limit situation, when media offer themselves up as either shock or solution. By extension, and third, our present age of interrelated crises in which technologies are fundamental, is a digital limit situation in which there are profound ethical, political and existential stakes. Existential media, furthermore, are both conditioned by and co-condition the digital limit situation. I suggest that existential media have four properties. First, they ground us in being; as, in the words of John Durham Peters »the habitats and materials through which we act and are.«16 Second, and in contrast, they throw us up into the air. This means not only that they expose us to technological, systemic, ideological, imaginary and symbolic power, thereby heightening our uncertainty or forging inequalities. This has been relentlessly highlighted by different media sociological schools and in critical theory. It also implies that they express, through their profound yet utterly indeterminate implications, the very uncertainty of being as becoming human with machines, but also within limits. AI as existential media, then, amplify both existential uncertainty and potential fecundity. Third, they speak to our shared vulnerability and deep relationality. Existential media thus play pivotal roles in the mundane quest for meaning (through their roles in representing, symbolizing or signifying) or in the struggle with non-meaning (by the same token). Digital technologies – and AI as a dominant form today – play 14

S ARA K EMBER/J OANNA Z YLINSKA, Life after New Media. Mediation as Vital Process, Boston: MIT Press 2011. 15 K ARL JASPERS , Philosophy II, Chicago: University of Chicago Press 1932/1970. 16 J OHN D URHAM P ETERS , The Marvelous Clouds. Toward a Philosophy of Elemental Media, Chicago: University of Chicago Press 2015, URL: https://doi.org/10.7208/9780226253978, 15.

AI as Existential Media

29

this part in our attempts and failures to forge a common world in communication. Hence, these media both bring people together through what people share, and keep them apart, as setting boundaries and as limiting life and expectancies. They bespeak in other words, unyielding limits of communication and of mediation. But in addition, and fourth, they demand responsible and responsive action. Existential media are thereby imperative and urgent; they are part of the crisis, not only its promised solution and they demand something of us. This calls us to step back in order to step in with critique, ethical choice or an ethics of care. Even an either/or. This implies importantly, to reclaim a sense of existential expectation and anticipation in a world in which AI have occupied its very horizon.17 To do so with and sometimes beyond the machines would mean to reinstall what the anthropologist Jane Guyer has called the phenomenological near future, which we can both plan for and dream about.18 AI as existential media thus call on us, as already proclaimed, to rethink and retake responsibility for the world.

II. Toward a Caring Media Future: Perching a Ridge of Two Existentialities Naming the digital limit situation allows ourselves to be perching, as per Jaspers, on the ridge, between two existentialities, thereby offering a philosophy of technology of irreducibility. The first is optimistic and includes the existential as potential. It evokes something realizable and hence authentic, having to do with deep acknowledgement of the human condition of fragility. The project is set on bringing about a world that thrives. AI as realized existential media may thus be aiding us in this pursuit, and this world might yet come into being. The second is cautious and refers to the existential as critique. In light of the conditions of deepest uncertainty under which we live today, contingencies are heightened as humans are thrown into a limit situation of both rapid technological transformations and interrelated crises. AI in this view is one of the crises of our time. AI, reframed as existential media, must be accountable, if it falls on the side of the inhumane, if it veers toward exacerbating environmental problems, amplifying bias and injustices, or simply obstructing and scorching the earth and impeding, human, more-than-human and planetary flourishing. AI in this view must thus be aligned with, for example, a rich existential register of doing care work, rather 17 A MANDA L AGERKVIST , Digital Limit Situations. Anticipatory Media Beyond ›The New AI Era‹, in: Journal of Digital Social Research 2.3 (2020), 16–41. 18 JANE G UYER , Prophecy and the Near Future. Thoughts on Macroeconomic, Evangelical and Punctuated Time, in: American Ethnologist 34.3 (2007), 409–421. To further rethink AI as existential media is possible by relating them to four provisionally nominated sub forms of existential media, introduced in the book: metric media, caring media, transcendent media and anticipatory media, through which all four properties are also pronounced.

30

Amanda Lagerkvist

than simply with certain ethical principles. This has a strong normative dimension. Taking responsive action can be done by means of rebellious imagination, and imagining while also critiquing a caring media future is particularly of the essence.19 This is in fact what Kazuo Ishiguro is offering in masterful ways in Klara and the Sun. In Ishiguro’s story the AFs are more than the outcome of extending and outsourcing emotional labour: they shall fulfil the function of sustaining and grounding humans in the mundane world. Scholars have argued that the deeper function of social robots is to perform a kind of »human surrogacy effect« of technology, through which the liberal subject of Enlightenment modernity is reproduced as the universal human being, who is now supposed to be emancipated through the gendered machine other, that he built for himself.20 Here they seem to carry much deeper emotional meaning, beyond the myth of the liberal subject, as stowage for human emotive needs. Consequently, AFs are essential company, since the most dangerous thing in this world – as in any human society we might add – is to be alone. AFs thus speak to our shared vulnerability and deep relationality. But the presence of AF’s is necessary, also since wayward and anxious adults are ethically conflicted, filled with doubt and sorrow as they allow or deny their children to be experimented upon, in order to fit the standards of success. As already stated, Ishiguro, here, offers his version of how humans are thrown into the digital limit situation. AFs also throw the characters up into the air: contingencies are intensified through the new normal of artificial friendships. Klara is, as mentioned above, the AF of Josie, a child suffering from the hazardous procedures of genetic enhancement. She might very well die. Klara is there to tutor Josie, but also to perform care work by observing her every mood and move and make sure she’s safe. She is both deeply emotionally intelligent and highly specialized in those school subjects deemed important. She is clearly sentient. What she lacks in her program is know-how about all the tacit layers of everyday existence, that is practical wisdom and experience. So, despite her intelligence and servitude, she would not fare well on the job market. She would be far too caring, too slow, too lenient, too attentive, too meek, also for a fast career one might add, because she is empathetic and unable to compete. Ego-less she has no instinct to run fast, but importantly, she is programmed with plentiful emotions – and also equipped, intentionally or not, with fear of the uncertain. Klara’s program and the world she perceives is of course set within limits. As an existential medium, she is limited. And at the limit of what she can grasp and control in her super smartness, she strives and searches for patterns of meaning 19 M ARGARET G IBSON /L ARISSA H JORTH /JAZ H EE - JEONG C HOI , Introduction. Caring Media Futures, in: International Journal of Cultural Studies 24.4 (2021), 557–566, 563. 20 N EDA ATANASOSKI /K ALINDI VORA , Surrogate Humanity. Race, Robots, and the Politics of Technological Futures, Durham: Duke University Press 2019.

AI as Existential Media

31

and lines of orientation. Her lack of bigger pictures and life experience, in combination with her generative setup, makes her prone to connect the dots, even when there are no connections. Just like humans she narrates her world. Her inner world is verging on magical thinking, as she deifies the Sun, who nourishes her system and gives her life. It is Klara’s rich emotional life that is tied to her spiritual imagination, and to the fantasy that the Sun might save Josie. At the limit she relates, reaches out and ritualizes her activities; just like the humans she’s the extension of. The creeping truth is however that her real task is to inhabit and thus become Josie for her mother, in case the girl dies. As such, Klara’s true purpose is deeply techno-existential – she is cast with the classic role in the human drama with tech, as the transcendent medium built to enable the impossible: to overcome death. This magical scenario is completely aligned with science, as Josie’s father, an expert engineer, explains: ... science has now proved beyond doubt that there is nothing so unique about my daughter, nothing there our modern tools can’t excavate, copy, transfer. That people have been living with one another all this time, centuries, loving and hating each other, and all on a mistaken premise. A kind of superstition we kept going while we didn’t know better.21

This has been a superstition with immense significance. For example, we might here recall what kept Primo Levi alive in the camp: The fact that I am still alive and that I have returned unscathed attests above all, I’d say, to chance. ... Perhaps I also found support in my never-diminished interest in the human soul, and in the will not only to survive (the objective among many of us), but to survive with the specific goal of recounting what we had participated in and what we had undergone. Finally, what had perhaps also played itself out was the will I had tenaciously maintained, even in the darkest hours, always to see, in my comrades and myself, human beings and not things, thus avoiding that humiliation, that total demoralization that for many led to spiritual shipwreck.22

A literally lifesaving fiction then. And my instinct, at least, is to resist such reductions of scientific objectivism, by always remembering with Edmund Husserl, the mathematician, that the human self is a mystery. In this vein, perhaps existential media studies is a soul-saving project, since it would proclaim that at any point in time when science, modern culture and thinking yield to reductionist modes of objectification, philosophy must be existential philosophy.

21 22

K AZUO I SHIGURO, Klara and the Sun, London: Faber & Faber 2021, 249. P RIMO L EVI, Se Questo è un uomo, Torino: F. De Silva 1947.

32

Amanda Lagerkvist

III. Toward Coexistence: Safeguarding as Upgrading the Human – Rethinking Responsibility Many agree that souls are of the past. But existentialism offers a more interesting option. It asks: should we today be safeguarding anything that we used to call human? Or should we be upgrading, as it were, both the human and the existential? Perhaps a bit of both. The European Commission as well as their High-Level Expert Group on Ethical AI have articulated a coordinated plan for AI made in Europe. In their list of principles for ethically aligned AI, they argue that all AI produced in Europe should be »human-centric.«23 But who is in fact the human behind the expression »human-centered AI«?24 A values canon has emerged in all the numerous initiatives in AI Ethics, that combine utilitarianism with Kantian values, such as privacy and autonomy, and places emphasis on keywords such as transparency, justice, fairness, minimizing bias, non-maleficence, reducing harm to humans, security, safety, responsibility, accountability, beneficence, trust, sustainability and dignity.25 At face value, all of this sounds laudable. But on closer inspection a particular formation of subjectivity is in fact invoked within this values monoculture: it is, as we have argued recently, the famous and famously disavowed »liberal humanist subject« – the autonomous, independent, certain economic man who has been critiqued by foucauldians and feminists for decades. What emerges is thus a masculinist, western subject whose rights, not least to a detached definition of individuality itself, are in need of protection against incursions from machines.26

And yet, the irony is that the machines seem modelled upon these very normate masculine subjects and their so called »rationality« in the first place. At least upon a certain definition of consciousness, thinking, intelligence, and cognition that has traditionally been associated with particular bodies. For sure, »this is only one highly limited understanding of what it means to be human, in neglect of both human relationality, embodiment and truthful singularity as responsibility«27 as per Kierkegaard; and also of our flawed and contradictory nature.

23 This is articulated in the coordinated plan for AI made in Europe: http://europa.eu/rapid/ press-release_MEMO-18-6690_en.htm, see also https://ec.europa.eu/futurium/en/system/files/ ged/ai_hleg_draft_ethics_guidelines_18_december.pdf. 24 A MANDA L AGERKVIST et al., Body Stakes. An Existential Ethics of Care in Living With Biometrics and AI, in: AI & SOCIETY 37.3 (2022), 1–13. 25 A LINE S HAKTI F RANZKE , An Exploratory Qualitative Analysis of AI Ethics Guidelines, in: Journal of Information, Communication and Ethics in Society 4 (2022), 401–423, URL: https://doi.org/10.1108/JICES-12-2020-0125. 26 L AGERKVIST et al., Body Stakes, 3. 27 Ibid.

AI as Existential Media

33

Crucial debates have already resolutely decentred the liberal subject and his moral choices. Strands of posthumanist discourse locate ethics and responsibility transversally across both technologies, things and human subjects, and across various forms of agency within what N. Katherine Hayles calls cognitive assemblages.28 The debate has in constructive ways profoundly challenged the idea of »human-centred ethics«. Hence, if we turn to philosophical thinking, postphenomenology or feminist science and technology studies, as our guide to rethink responsibility, we will find that philosophers speak of »distributed responsibility,« interrogating the potential for machines to be ethical.29 Other forms of posthumanism typically do away with subjective choice or deliberation as what mobilizes ethical judgment, arguing for locating ethics and transformative potential in webs of care or cognitive assemblages beyond moral intention, eschewing any normative overtures. In the words of Karen Barad for example: »Responsibility is not an obligation that the subject chooses but rather an incarnate relation that precedes the intentionality of consciousness.«30 So, in this understanding, there are no choices involved, but some people are simply compelled to act. Hence, whistleblowers simply act on their incarnate relationship to, for example, all teen users suffering from Instagram. But what of other even more powerful subjects, such as CEOs of big tech corporations or their chief engineers and lead scientists? Imagine the opposite: irresponsibility is not about the subject choosing not to heed an obligation or failing to do »the right thing« but rather »an incarnate relation that precedes the intentionality of consciousness.« In this reading subjects are deeply embedded, even as they seem to be in a position of might and as such they are incapacitated to act. Does this mean that they cannot be charged with irresponsibility and lack of accountability? Or is it in fact, following Barad, their lack of incarnate relations to the world and to existence, that explains their failure to take responsibility? It seems to me that we need something more and something else: we need the bravery to perform some unexpected moves to achieve synergies across paradigms, to address the realities of the present moment. Precisely because humans and machines are co-implied and co-constituted recursively and because data are deeply entangled in our lives – and in light of critical insights about the platform society and connective capitalism – the question of how to take responsibility, by 28

H AYLES, Unthought. Several key philosophers of technology belonging to different schools of thought, have made this similar point. P ETER -PAUL V ERBEEK, Moralizing Technology. Understanding and Designing the Morality of Things, Chicago: University of Chicago Press 2011; L UCIANO F LORIDI, Faultless Responsibility. On the Nature and Allocation of Moral Responsibility for Distributed Moral Actions, in: Philosophical Transactions of the Royal Society 374.2083 (2016), URL: http://dx.doi.org/10.1098/rsta.2016.0112. 30 K AREN BARAD , Quantum Entanglements and Hauntological Relations of Inheritance. Dis/continuities, Spacetime Enfoldings, and Justice-To-Come, in: Derrida Today 3.2 (2010), 240–268. 29

34

Amanda Lagerkvist

developing what Jaspers called a »conscious ethos«31 that translates into practice, is even more pertinent to raise. In bringing in the crucial dimension of indeterminacy, Barad offers one clue: To address the past (and future), to speak with ghosts, is not to entertain or reconstruct some narrative of the way it was, but to respond, to be responsible, to take responsibility for that which we inherit (from the past and the future), for the entangled relationalities of inheritance that »we« are, to acknowledge and be responsive to the noncontemporaneity of the present, to put oneself at risk, to risk oneself (which is never one or self), to open oneself up to indeterminacy in moving towards what is to come. Responsibility is by necessity an asymmetrical relation/doing, an enactment, a matter of différance, of intra-action, in which no one/no thing is given in advance or ever remains the same.32

This sounds surprisingly like Kierkegaard’s imperative to become human through responsible action in an open process, in which nothing is guaranteed. Ethics, redefined as a doing is also the prospect within what Maria Puig de la Bellacasa calls »the more than human web.« Caring is about circulation, and about practice: The circulation of care as everyday maintenance of the more than human web of life, conceived as a decentered form of vibrant ethicality, as an ethos rooted in obligations made necessary to specific relations, offers cues to that imagination. A notion of care as a doing rather than a moral intention is the entry point here, but it shouldn’t become an impasse.33

Caring as doing could, nota bene, be combined with moral deliberation. But in addition, I argue that we need a focus on slowing down. In order to rethink both responsibility and ethics, I hold here that the emphasis should be – in the spirit of a media theory of limit – on the value of being idle, on the role of not doing, of remaining in attendance, in careful waiting.34 As Jaspers’ wisdom also brings to the fore, it is in moments of limit and abeyance, that new potentialities may open out. An existentialist might here further suggest that these entangled relationalities, assemblages or more-than-human-webs simultaneously gesture toward new forms of lived experience: our data lives and data selves are importantly as Btihaj Ajana has argued, a question of recombinant identities that sense the clout of datafication in the flesh.35 This brings humans and their bodies back into the loop, in ways that should evoke a renewed interest in classic existential concerns. In other words, decentring »the Human« can also mean re-centering her by opening out to a richer and more diverse understanding of her traits, needs and qualities 31

K ARL JASPERS, The Origin and Goal of History, Westport: Greenwood Press 1954, 19. BARAD, Quantum Entanglements and Hauntological Relations of Inheritance, 264. 33 M ARÍA P UIG de L A B ELLACASA , Matters of Care. Speculative Ethics in More Than Human Worlds, Minneapolis: University of Minnesota Press 2017, 219. 34 L AGERKVIST , Existential Media, 48–63, 223–226. 35 B TIHAJ A JANA , Recombinant Identities. Biometrics and Narrative Bioethics, in: Journal of Bioethical Inquiry 7.2 (2010), 237–258. 32

AI as Existential Media

35

– and for emphasizing with Jaspers, her realizable Existenz. I argue that humans should be re-conceived in the digital limit situation, in a multivalent sense, as coexisters who are both situated differently yet sharing in the conditions of deep relationality. Coexisters are also stumbling, hurting, self-aware yet clueless; they are embodied, mortal, vulnerable and bereft. They are, importantly, part of the biosphere but also ethically responsible beings.36 In sum, it is worth stressing that, as Klara and the Sun clearly bears out, the coexister is also a technological creature, whose life among and with and through machines, defines her. Hence, Klara as an AI of the human lifeworld, is an existential medium in all named respects, calling on us to rethink what responsibility means in our era.

IV. In Conclusion: Sunlight on the Uncanny Valley I have suggested that AI as existential media is about both potential and critique. In fact, these points of inflection are carefully threaded through Ishiguro’s wise fable about innocence, love and responsibility, in a hyper-technologized world. As I have discussed, AI as existential media, demand responsible action. Ishiguro alerts us to the fact that if we do not take care to steer technology in beneficial directions we are on a dangerous path. The story warns us, I believe, of both the Faustian bargain made on part of some influential humanoids today, with the prospects of leveraging AI for their own benefit, and of the Promethean temptations to eagerly race ahead, without being careful with the fire. But even more profoundly it asks: Would we even recognize or be able to sense, and care for and about sentient robots – with introspection, emotions as well as rights – even if they stood before us in plain sight? Hence, in rethinking AI as existential media I envision for us in the first instance the task of raising the right questions. For example: Where did this world stem from – historically and ideologically? What founds it philosophically? How can it be (re)conceived, theoretically and artistically, in order for us to responsibly craft AI to serve human kind? What can we learn from attending to how we already live with automation – about risks and possibilities – and from how we have lived with its imaginaries on our horizon throughout history, in dystopian science fiction or techno-progressivist discourse and practice? What are the existential issues that face us anew with AI? And can we now harness, as scholars in the humanities and social sciences, those rich sources of insight and wisdom about the human condition, that remain our footing, while mobilising them creatively and critically for a new era with »responsible AI«? Klara’s prayers were answered. The Sun did his special treatment and saved Josie’s life, and instead of becoming Josie, Klara is disposed of. Toward the end 36

L AGERKVIST, Existential Media, 107–109.

36

Amanda Lagerkvist

of the novel, sentient robots are dumped together in a yard to fade into obscurity. Stripped of their abilities to move, they are like elderly people in a wheelchair, with fractured memories as their only company. Klara, the emotionally hyperperceptive robot, is left to die alone. In line with her abilities to learn some new things along the way, it is ultimately Klara who belies the techno-rationalist universe that she is the product of, and who thereby identifies for us the limits of her own programming – as well as of ours I dare say! – including the very problem of allocating essential parts of the human spectrum only to designated beings, such as women or robots: . . . I did all I could to learn Josie. And had it become necessary, I would have done my utmost. But I don’t think it would have worked out so well. Not because I would not have achieved accuracy. But however hard I tried, I believe now there would have remained something beyond my reach.37

Klara is convinced that her program would be unable to simulate this something. She feels that the people who argued that »there was nothing inside Josie that couldn’t be continued« were in fact searching in the wrong place: »There was something very special, but it wasn’t inside Josie, it was inside those who loved her«.38 Klara could never have evoked such feelings in others for her impersonation of Josie, she concludes. And she could never herself love Josie the way the humans loved her. And yet: what is love? Is it not to sacrifice yourself, as Klara did, when she went to great lengths to plead to the Sun to save her? Who else in the story showed such unselfishness? The humans instead invested their time in constructing a new robotic Josie, in secrecy. They sought solutions, whereas Klara sought salvation. The melancholic narrative places our world in a looking glass that reflects our own distortions: that the uncanny valley of technology is us. In discomforting ways, humans in the story behave almost but not quite like humans – or in the way, we would hope humans would behave. Ishiguro spotlights how warped the world is in the digital limit situation, and how clueless we may become if we continue to place limitless trust in technology, by splintering existence into functionalist compartments. Or to reduce its register in neglect of what makes us feel alive and able to care and attend to each other, and thereby to all beings, and to our home: the planet. The story directs attention to a world and a humanity in the dark, in need of being lit up by the loving Sun. What would it mean for us to rethink AI in light of Ishiguro’s enlightening warnings? How can we see clearly and sense perceptively, and act on what our world needs to survive? What would it mean in this pursuit if we could reawaken ourselves to our own existential needs and necessities, as Jaspers wished for us to do? Can we reorient the technological trajectory, so as to enable prospects that are heartening and that recognize that the world is alive? In other words: how could we create an existentially sustainable 37 I SHIGURO , 38 Ibid.

Klara and the Sun, 338.

AI as Existential Media

37

world with machines, that we could potentially care for if needed? The question is still, whether responsibility is incarnate or a question of choice – or both: Are we able to care enough?

Künstliche Intelligenz und die Konstruktion von Verantwortung Christian Schwarke Die Science-Fiction Serie Westworld handelt von einem Wild-West Vergnügungspark, in dem Besucher ihre Wunschabenteuer im Wilden Westen mit Robotern erleben können, die äußerlich von Menschen nicht zu unterscheiden sind.1 Im Park existieren Roboter, gewöhnliche Menschen und ein Mensch mit scheinbar gottähnlichen Eigenschaften. Das Problem ist freilich, dass zunächst niemand so genau weiß, wer was ist. Um die Roboter im Maschinenstatus zu halten, werden ihre Erinnerungen immer wieder gelöscht bzw. manipuliert.2 Statt Lernfortschritte zu machen, bewegen die Roboter sich daher stets in mentalen Schleifen. Menschwerdung, so die Idee, hängt an Rückkopplungsprozessen, wie sie Erinnerungen darstellen. In gewissem Sinne geht das Konzept schon auf Augustin zurück, der im Rahmen seiner Confessiones (Buch X) die Erinnerung als die großen Hallen beschreibt,3 in denen das Individuum seine Erfahrungen lagert und von dort seine Identität gewinnt. Erinnerung ist aber nicht einfach Vergangenheit, sondern eben die Gegenwart der Vergangenheit, ebenso wie die Zukunft in der Selbsterkenntnis die gegenwärtige Erwartung der Zukunft ist. Den Reiz der Serie macht aus, dass auch die Zuschauerinnen und Zuschauer zunächst nur Wiederholungen wahrnehmen und erst allmählich durch die Erinnerung an frühere Episoden ein Verstehen aufbauen. Dies geschieht verzögert, obwohl die Serie zu Beginn über den Versuchsaufbau informiert: Ein Mann fährt in einem Zug durch den Westen. Man ahnt nichts Irritierendes, bis die Kamera aus der Szene herauszoomt und sie als eine Art Modellbaulandschaft erkennbar wird, die schließlich selbst wiederum zu einem Teil eines Labors wird. Beide Aspekte, die Erinnerungsschleifen und das Herauszoomen der Kamera, verdichten im Bild die Überlegungen, die ich im Folgenden ausführen werde: 1

Westworld. TV-Serie, Konzept: Jonathan Nolan und Lisa Joy, USA: HBO 2016. Dies ist ein Motiv, das auch in anderen literarischen Versionen die Unterscheidung zwischen Menschen und künstlichen Intelligenzen markiert. Vgl. z.B.: Blade Runner, Regie: Ridley Scott, USA 1982. Basierend auf der literarischen Vorlage von P HILIP K. D ICK, Do Androids Dream of Electronic Sheep?, Garden City, NY: Doubleday 1968. 3 AURELIUS AUGUSTINUS , Bekenntnisse. Zweisprachige Ausgabe, Frankfurt am Main: Insel-Verlag 1990, X, 8, 12. Dazu: J OHANNES B RACHTENDORF, Die Struktur des menschlichen Geistes nach Augustin. Selbstreflexion und Erkenntnis Gottes in De Trinitate, Hamburg: Meiner 2000. 2

40

Christian Schwarke

Die eben beschriebene Kamerarückfahrt zeigt dabei, was ein Beitrag der Theologie zu den Fragen neuer Technologien im Allgemeinen und der KI im Besonderen sein kann: Sie versucht, die Dinge aus der angenommenen Perspektive einer Transzendenz zu betrachten. Wie in der Serie wird dabei im Licht der Tradition sichtbar, dass die Frage der KI nicht so neu ist, wie sie gemeinhin behandelt wird. Denn es gibt bereits eine KI auf der Welt: den Menschen. Zwar verstehen wir uns selbst aus der Binnenperspektive als Natur. Aus der Perspektive einer Schöpfungsvorstellung aber sind wir künstlich (unabhängig davon, dass die jüdisch-christliche Schöpfungsvorstellung eher auf Sinn als auf Kausalitäten abhebt). Wir haben also einen Präzedenzfall und können bei der Frage, was autonome Artefakte tun würden und wie man ihnen Ethik beibringt, auf den Menschen schauen. Die Tatsache, dass auf den gut 1300 Seiten, die in der Bibel auf Genesis 3 folgen, durchaus ambivalente Folgen der Autonomisierung der »KI Mensch« verhandelt werden, dürfte nicht unwesentlich zur verbreiteten Skepsis gegenüber einer Wiederholung des Experiments auf technischer Ebene beitragen. Auch wenn dieses Wissen unter den Bedingungen der Entkirchlichung der westlichen Gesellschaften eher implizit als explizit fortwirkt. Die Erinnerungsschleifen, von denen oben gesprochen wurde, führen dagegen vom God’s eye view zurück in die Konkretion ethischer Fragen. Sie stellen die Hauptspur dar, der dieser Beitrag folgen wird. In der Serie werden die Erinnerungsschleifen eigentlich als das Trennende zwischen Mensch und Roboter inszeniert. Denn zunächst werden die künstlichen Intelligenzen zwangsweise jeden Abend in einen Schlaf versetzt, aus dem sie ohne Erinnerung aufwachen. Mit dem Fortschreiten der Serie stellen sich allerdings doch Erinnerungen ein, und die Roboter werden menschlich. Wendet man dieses anthropologische Datum in den Bereich der Ethik, so gelangt man zu der uns beschäftigenden Verantwortung. Der vorliegende Beitrag versucht, skizzenhaft das Konzept der Verantwortung für eine Ethik der künstlichen Intelligenz fruchtbar zu machen. Denn die Idee der Verantwortung führt den Menschen in erinnernde oder prospektive Schleifen der Reflexion auf sein Handeln. Ich möchte fragen, ob »Verantwortung« ein besserer Kandidat für eine Ethik künstlicher Intelligenz wäre als klassische deontologische Ansätze und ihre technische Entsprechung in Top-downProzessen. Dafür gehe ich davon aus, dass das Konzept »Verantwortung« vor allem anderen eine rückkoppelnde Struktur besitzt. Der oder die Verantwortliche wird im Inneren (Gewissen) oder in einem äußeren Rechtfertigungsprozess mit seinen oder ihren Handlungen konfrontiert. Eben diese Struktur macht man sich auch beim maschinellen Lernen zunutze, was für eine Ethik »by design«, also der technischen Implementierung ethischer Aspekte in die Software, hilfreich sein könnte. Demgegenüber vernachlässige ich, dass Verantwortung traditionell mit Schuld(verfahren) verbunden wird. Es wird sich zeigen, dass diese Vernachlässigung sogar zwingend ist, weil sie eine Grenze bei der Implementierung von Verantwortung in Maschinen markiert.

Künstliche Intelligenz und die Konstruktion von Verantwortung

41

Darüber hinaus gehe ich davon aus, dass »Verantwortung«, unbeschadet ihrer Fundierung in uns vorgegebenen Bedingungen unseres Menschseins, im konkreten Fall stets zugeschrieben wird. Die allermeisten Verantwortlichkeiten, über die wir diskutieren, sind konstruiert. Welche Verantwortung wir wem und in welchem Umfang zuschreiben und ob Maschinen Verantwortung haben sollen, hängt ja nicht an gleichsam natürlichen Gegebenheiten. Zwar denken wir, indem wir uns als Naturwesen verstehen, dass zahlreiche Verantwortungen uns aus diesem Wesen zuwachsen. Aber die Verantwortung hängt dennoch nicht an einer Qualität, die im Verantwortungssubjekt oder in dem jeweiligen Verantwortungsobjekt liegt. Vielmehr sind es konkrete Werte und Zuschreibungen, die wir als Verantwortung in Anschlag bringen. Dafür ist etwa die Beziehung von Eltern und Kindern ein Beispiel. Sie gilt bisweilen als die Urform der Verantwortung zwischen Menschen und als natürlich gegeben. Tatsächlich unterliegt aber die konkrete Ausgestaltung, die letztlich sehr weit reicht, erheblichen historischen Wandlungen. Gegenwärtig etwa legen wir die Erziehung möglichst früh und möglichst lang am Tag von den Eltern weg in die Hände professioneller Erziehungskontexte (Krippe, Kita, ganztagsverlässliche Schule). Demgegenüber ging das Bildungsideal der Romantik bis in die zweite Hälfte des 20. Jahrhunderts davon aus, dass elterliche Verantwortung nicht delegierbar sei. Darüber hinaus sind Verantwortungszuschreibungen abhängig von den Prozessen einer möglichen Kontrolle (also wieder einer Form der Rückkopplung). Selten werden Verantwortungen (außerhalb utopischer Konzepte) zugeschrieben, wenn ihre Erfüllung nicht überprüfbar ist. Mit diesen Bemerkungen soll nur darauf hingewiesen werden, dass das Konzept der Verantwortung bereits lange vor der Frage nach der Verlagerung von Verantwortung an künstliche Intelligenzen nicht an der Natur der Beteiligten festgemacht werden konnte. Gleichwohl gibt es bei der Zuschreibung von Verantwortung einen Unterschied zwischen künstlichen Intelligenzen und Menschen (so wie sie sich selbst verstehen). Ich komme darauf zurück. Das Folgende gliedert sich in zwei Abschnitte: Zunächst geht es um die Frage, welche Verantwortung Menschen für die Anwendung und die Ergebnisse künstlicher Intelligenz zugeschrieben werden sollte. Im Anschluss daran wird die Frage behandelt, wie man das Konzept »Verantwortung« für die »Ethik« künstlicher Intelligenz fruchtbar machen könnte.

I. Verantwortung für künstliche Intelligenzen Bereits in seinem 1992 erschienenen Buch »Der Ruf nach Verantwortung« hatte der Soziologe Franz-Xaver Kaufmann darauf hingewiesen, dass den lauter werdenden Rufen nach Verantwortung tatsächlich immer größere Schwierigkeiten entgegenstünden, Verantwortung zuzuschreiben. Verantwortungsdiffusion, Verantwortungsdistribution, die Verlängerung von Handlungsketten – all das ma-

42

Christian Schwarke

che es zunehmend schwierig, sinnvoll von Verantwortung zu sprechen.4 Liest man gegenwärtige Dokumente zur Ethik der Künstlichen Intelligenz, etwa den Bericht der Enquetekommission des Deutschen Bundestages (2020)5 oder die »Ethics Guidelines for Trustworthy AI« der EU-Kommission (2018)6 , so bestätigt sich der Befund. Einem fast inflationären Gebrauch des Wortes steht keine entsprechende Klarheit gegenüber, was damit gemeint sein könnte. So formuliert der Bericht der Enquete-Kommission: Der Begriff der Verantwortung macht darauf aufmerksam, dass es ein wichtiges Kennzeichen einer moralischen Handlung ist, die Folgen seiner eigenen Handlung abzusehen und zu bewerten und sein Handeln dann evtl. auch zu verändern. Handeln gemäß einer klugen und vernünftigen Einschätzung der Folgen des eigenen Handelns unter Hinzuziehung von moralischen Kriterien (Werten, Normen, Prinzipien, Maximen) – das kann man moralisch verantwortliches Handeln nennen.7

Hier erscheint Verantwortung schlicht als eine (freilich unbestimmte) Mischung aus konsequentialistischen und deontologischen Motiven, die ein eigenes Konzept von Verantwortung eigentlich überflüssig machen würde. Weder berücksichtigt diese Formulierung, dass sich der Verantwortungsbegriff eben dadurch von einer reinen Folgenkalkulation unterscheidet, dass er das Handeln stets als ein relationales Geschehen begreift, noch wird darüber nachgedacht, ob Verantwortung retrospektiv oder prospektiv angelegt werden soll. Dabei wird die Verantwortung zunächst bei »Akteuren« gesehen.8 Damit werden jedoch die Probleme ausgeblendet, die schon Kaufmann für eine Zuschreibung von Verantwortung an Individuen in Korporationen beschrieben hatte. Wer aber sind dann die »Akteure«, die verantwortlich sein sollen – einzelne Menschen, Firmen, Staaten, die KI einsetzen, oder die KI selbst? In allen Bereichen, in denen Maschinen noch nicht wirklich selbständig agieren, ist es offensichtlich zwingend, Menschen oder Korporationen Verantwortung zuzuschreiben. »Responsible AI«, so die Informatikerin und Beraterin der EUKommission Virginia Dignum, »is about human responsibility for the developmentof intelligent systems along fundamental human principles and values ...«.9 4

F RANZ -X AVER K AUFMANN, Risiko und Ethik in einer unüberschaubaren Welt, Freiburg i.Br.: Herder 1992. 5 D EUTSCHER B UNDESTAG , Bericht der Enquete-Kommission Künstliche Intelligenz. Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale, Bundestagsdrucksache 19/23700. 6 E UROPEAN C OMMISSION , Ethics Guidelines for Trustworthy AI, Directorate-General for Communications Networks, Content and Technology 2019, URL: https://data.europa.eu/doi/ 10.2759/346720 (besucht am 31. 08. 2022). 7 D EUTSCHER B UNDESTAG , Bericht der Enquete-Kommission Künstliche Intelligenz, 85. 8 Vgl. ebd. 9 V IRGINIA D IGNUM , Responsibility and Artificial Intelligence, in: Markus Dirk Dubber/Frank Pasquale/Sunit Das (Hg.), The Oxford Handbook of Ethics of AI, Oxford: Oxford University Press 2021, 215–231, 217.

Künstliche Intelligenz und die Konstruktion von Verantwortung

43

Tatsächlich scheint mir dabei auch die Zuschreibung von Verantwortung innerhalb von korporativen Akteuren praktisch weniger problematisch zu sein, als sie theoretisch erscheinen mag. Jedenfalls haben Institutionen ja sehr wohl Richtlinien entwickelt, um intern Verantwortung verorten zu können und damit auf die Kaufmann’sche Erkenntnis, dass Verantwortung diffus zu werden droht, reagiert. Trotz der Verlängerung der Handlungsketten lässt sich eine Zuschreibung von Verantwortung vornehmen. Meines Erachtens lassen sich dann auch vergleichsweise einfache Regeln und Verantwortlichkeiten bei der Entwicklung und der Anwendung von Systemen der künstlichen Intelligenz bestimmen. Ich illustriere das an zwei Beispielen: Die Bestimmung der Kreditwürdigkeit von Menschen durch Algorithmen (a) und das sogenannte autonome Fahren (b). (a) In einem Urteil vom 28.01.2014 urteilte der Bundesgerichtshof, dass die Schufa AG den Algorithmus zur Berechnung der Kreditwürdigkeit von Personen nicht offenlegen muss.10 Den Interessen der Schufa (und den Interessen von Kreditgebende) wurde in diesem Fall höheres Gewicht beigemessen als den Interessen von Kreditnehmenden. Angesichts des üblicherweise zwischen (jedenfalls privaten) Kleinkreditnehmenden und Banken bestehenden Machtgefälles handelt sich um ein Beispiel einer KI als Machttechnik.11 Wichtiger ist mir aber hier die Begründung des Urteils: Erstens verwies das Gericht auf den Urheberschutz für den Algorithmus und die damit verbundenen Geschäftsinteressen des Unternehmens. Zweitens spielt die Unmöglichkeit, die Prozesse in einem System der KI genau nachzuvollziehen, eine Rolle. Das eigentliche Problem ist jedoch, dass eine Offenlegung der Beobachtungsmerkmale das Verhalten der Beobachteten verändern würde. Denn neben den harten Kriterien für einen Kreditausschluss, die das System bereitwillig angibt (wie z.B. anhängige Verfahren), hängen die unsichtbaren Parameter an Kriterien und Korrelationen, die vermutlich keine eindeutigen Kausalitäten beschreiben. Folgerichtig gibt der Score Wahrscheinlichkeiten dafür an, ob ein Kredit bedient wird. Die Probleme bei der Nachvollziehbarkeit eines Ergebnisses haben dazu geführt, die Forderung nach Transparenz, die zu den Stars unter den ethischen Schlagwörtern im Blick auf die KI gehört, abzulehnen. Mit Transparenz ist dabei in der Regel die Nachvollziehbarkeit des Algorithmus gemeint. Im Falle des Einsatzes von künstlichen neuronalen Netzen,12 die beim Machine Learning verwendet werden, ist das aber gerade nicht möglich. Wäre es das, bräuchte man 10

B UNDESGERICHTSHOF, Urteil VI ZR 156/13, 2014. Vgl. den Beitrag von C HRISTIAN S CHLENKER in diesem Band. 12 Künstliche neuronale Netze (KNNs) können als mathematische Funktionen verstanden werden, die ein Eingangssignal auf ein Ausgangssignal abbilden. Aufgrund der Struktur dieser Funktionen wird oft der Vergleich zum Aufbau des biologischen Gehirns gezogen. KNNs eignen sich sehr gut zur Modellierung komplexer Systeme, da das zu approximierende System nicht genau verstanden werden muss. Ein neuronales Netz approximiert das System stattdessen anhand einer großen Menge von Beispieldaten. Als Lernen wird dabei die Optimierung der mathematischen Parameter des KNNs bezeichnet. 11

44

Christian Schwarke

sie nicht, weil sie gerade die Nichtbeschreibbarkeit eines Systems kompensieren (bzw. umgehen) helfen. Um es am Beispiel zu illustrieren: Nur, weil die Schufa nicht genau weiß, welche Verhaltensmerkmale, Wohnorte, Wohnortwechsel, Kaufverhalten etc. die Kreditwürdigkeit bestimmen, braucht man eine künstliche Intelligenz, die die Daten sehr vieler Einzelfälle (Personen) mit hoher Geschwindigkeit in einen Zusammenhang bringen kann. Es gibt also im Blick auf die durchaus wünschenswerte Transparenz nicht nur ein technisches Problem oder Unwillen, sondern auch ein intrinsisches Problem. Wenn Transparenz im Einzelfall eines gegebenen Systems möglich ist, kann man sie gesetzlich fordern und müsste das im Sinne einer Verantwortlichkeit auch tun. Was aber geschieht, wenn Transparenz im Vollsinn tatsächlich unerreichbar ist? Man verzichtet auf sie. Denn die volle Transparenz des Weges eines Algorithmus zu einem Ergebnis ist zur Herstellung von Verantwortlichkeit (und Gerechtigkeit) nicht nötig. Denn das Ergebnis ist messbar. Und wenn es sich als falsch herausstellt, lässt sich die Eingabe korrigieren. Man muss das nur tun. Und dazu benötigt man eine menschliche oder technische Kontrollinstanz. Zahlreiche Probleme, die zurzeit im Blick auf die Diskriminierung von Menschen durch Systeme der KI diskutiert werden (z.B. im forensischen Bereich oder bei der Auswahl in Personalbewerbungen), scheinen mir auf mangelnde Kontrolle bei der Anwendung zurückführbar zu sein. Zur Frage der Transparenz kommt ein weiteres grundsätzliches Problem hinzu: Algorithmen verallgemeinern. Das ist ihr Wesen. Das heißt, dass die Anwendung auf Einzelfälle immer nur eine statistische Richtigkeit haben kann. Da der Algorithmus (oder das neuronale Netz) aber nicht im strikten Sinne eigene Entscheidungen trifft, sondern nur insoweit zu einer entscheidenden Instanz gemacht wird, als z.B. Vorgaben fordern, dem Ergebnis der KI zu folgen, ist die Verantwortung derjenigen, die ihn entwickeln oder einsetzen, ziemlich präzise zu umreißen. Ein System der wirksamen Rückkopplung (das heißt, der Verantwortlichkeit für Fehler) würde die menschlichen und korporativen »Akteure« vermutlich vorsichtiger in der Anwendung machen. Dass dies nicht geschieht, hat ökonomische und politische Gründe. (b) Das sogenannte »autonome Fahren« stellt neben militärischen Drohnen das Paradebeispiel für die Frage nach der Möglichkeit von Ethik im Rahmen der künstlichen Intelligenz dar. Tatsächlich werden hier zahlreiche Probleme sichtbar: So ist die Gefahr hier deutlicher erkennbar als etwa in medizinischen oder juristischen Assistenzsystemen. Gleichzeitig begegnen die dort diskutierten Fragen aber auch hier. So bildet sich etwa die (nachweislich berechtigte) Sorge um eine Diskriminierung von Menschen durch Systeme der Gesichtserkennung im Fall des autonomen Fahrens darin ab, wie Hindernisse erkannt werden: Ist ein Gegenstand von der Art, dass das Auto dafür bremsen muss? Das Beispiel des autonomen Fahrens ist auch deshalb so einschlägig, weil es sich bei einem Auto um ein materielles Artefakt und noch dazu um ein mobiles Gerät handelt. Mit der Verlagerung von Entscheidungen von einem das Auto steuernden Menschen hin zum Programm wird aber der Wechsel in der Handlungsmacht sehr viel offen-

Künstliche Intelligenz und die Konstruktion von Verantwortung

45

sichtlicher als bei einem Programm zur Feststellung der Kreditwürdigkeit. Denn dort gibt mir immer noch ein Mensch die Auskunft, auch wenn sie von einer KI erzeugt wurde. Wie steht es nun mit der Verantwortung von Menschen beim Führen eines selbstständig agierenden Fahrzeugs? Sollte ein Kraftfahrzeug in Zukunft tatsächlich selbständig werden, können fahrende Menschen die Verantwortung nicht mehr haben. Wer oder was aber dann? Zur Lösung dieser Frage scheint es mir hilfreich zu sein, sich den unterschiedlichen Gebrauch des Autonomiebegriffs zu vergegenwärtigen. Umgangs- und werbesprachlich meint Autonomie vom Phänomen ausgehend gedacht: Selbständigkeit. Im ethischen Kontext und genauer für die Frage der Zuschreibung von Verantwortung muss aber ein engeres Verständnis von Autonomie zugrunde gelegt werden, worauf Elisabeth GräbSchmidt aufmerksam gemacht hat.13 Die Möglichkeit, im strikten Sinne von Autonomie zu sprechen, basiert auf der Freiheit des Menschen, sich ein Gesetz zu geben – und nicht nur zu funktionieren. Es geht in der Autonomie nicht allein darum, Entscheidungen treffen zu können, sondern mir dieser als eigene Entscheidungen vor dem Hintergrund meiner Freiheit und meiner selbst gesetzten Regeln bewusst zu sein und diese daher auch verantworten zu können. Und genau hier liegt der für eine Ethik der Verantwortung entscheidende Unterschied: Ganz unabhängig davon, wie selbständig ein technisches System uns erscheint, kann es ohne ein qualitativ gehaltvolles Selbstverhältnis keine Autonomie im eigentlichen Sinne und daher auch keine Verantwortung haben. Will man dennoch eine Verantwortung zuschreiben, bleiben nur der Hersteller des Autos (bzw. des intelligenten Systems) und der fahrende (bzw. gefahrene) Mensch. Der nicht mehr selbst fahrende Mensch kommt dafür allerhöchstens mittelbar infrage. Zwar könnte man sagen, dass ein Mensch, indem er ein Auto benutzt, Verantwortung zu tragen hat, unabhängig davon, ob er in irgendeiner Weise z.B. einen Unfall herbeigeführt hat. Das wäre dann vergleichbar mit der politischen Verantwortung, die das politische System etwa Ministern und Ministerinnen zuschreibt. Wenn an irgendeiner untergeordneten Stelle in einem Ministerium ein Fehler geschieht, wird sofort nach Rücktritt gerufen, unabhängig davon, ob der Schließdienst des Hauses oder ein Staatsekretär einen Fehler begangen hat. Für den Straßenverkehr dürften die mit einem solchen Zugang verbundenen Aushandlungsprozesse jedoch deutlich zu kompliziert sein. Zwar reduziert der Ruf nach politischer Verantwortungsübernahme die Komplexität des Faktischen. Ob der Ruf aber Folgen hat, ob also Verantwortung tatsächlich übernommen wird, hängt an komplizierten Machtverhältnissen und der Fähigkeit der Kritisierten, sich im Amt zu halten. Ebenso verhielte es sich nach Auffassung des Juristen Jeffrey Gurney mit der Produkthaftung. Eine Inanspruchnahme die13

E LISABETH G RÄB -S CHMIDT, Autonome Systeme. Autonomie im Spiegel menschlicher Freiheit und ihrer technischen Errungenschaften, in: Zeitschrift für Evangelische Ethik 61 (2017), 163–170, 167.

46

Christian Schwarke

ser Verantwortungszuschreibung sei möglich, wäre aber mit langen Verfahren verbunden.14 Daher schlägt er vor, den Hersteller eines autonom fahrenden Fahrzeugs als Fahrer des Wagens zu behandeln. Das Unternehmen wäre dann im selben Sinne und Maße haftbar wie heute ein Mensch hinter dem Steuer. Entscheidend ist dabei, dass im Haftpflichtversicherungswesen auch heute schon die Schadensregulierung im Vordergrund steht, nicht die Schuldfrage im moralischen Sinne. Die jeweiligen Verantwortungszuschreibungen werden dabei im Grunde von den Versicherungen vorgenommen bzw. ausgehandelt. Dabei geht es gerade nicht um eine Verantwortung im oben umrissenen strikten Sinn. Vielmehr steht zunächst das Ereignis im Mittelpunkt, dessen Folgen reguliert werden müssen. Dabei wird bekanntermaßen schon lange – sozusagen per Hand – ein Verfahren angewendet, das heute von Algorithmen bearbeitet wird: Aus den Schadensstatistiken der Vergangenheit wird die Eintrittswahrscheinlichkeit für die Zukunft und damit die zukünftig zu zahlende Versicherungsprämie berechnet. Im Blick auf die Entwicklung »autonomer« Fahrzeuge dürfte dieser Rückkopplungsmechanismus auch hilfreich dabei sein, das Interesse der Automobilhersteller an der Verlässlichkeit ihrer Produkte zu vergrößern. Auch hier zeigt sich meines Erachtens, dass die rückkoppelnde Struktur der Verantwortung diese zu einem geeigneten Kandidaten in der Wahl der ethischen Instrumente im Umgang mit den Entwicklungen der künstlichen Intelligenz macht. Wie das Verfahren der Haftpflichtversicherung im Kraftfahrzeugbereich deutlich macht, führt der Rückkopplungsmechanismus auch dazu, dass retrospektiv gewonnene Erkenntnisse zu einer prospektiven Ausformulierung von Verantwortung führen können. Ob man überhaupt gewillt ist, automatisierte Prozesse außerhalb des jeweils fahrenden Menschen zuzulassen, ist damit noch nicht entschieden. Diese Frage hängt, wie zu erwarten ist, am Erfolg »autonomer« Systeme. Wenn sich zeigen sollte, dass die Steuerung von Automobilen »durch« Algorithmen die Zahl der Verkehrstoten und -verletzen sehr deutlich reduziert, wäre es vernünftig, dem zu folgen. Bisher wurden freilich einzelne Unfälle im Zusammenhang mit »autonomen« Fahrzeugen in der öffentlichen Wahrnehmung als deutlich gravierender behandelt als die vermutlich zahlreicheren, sich gleichzeitig ereignenden Todesfälle durch tatsächlich autonome Menschen. Das bedeutet nicht, dass man Unfälle gegeneinander aufwiegen könnte. Vielmehr zeigt der Sachverhalt, dass die Verantwortung weiterhin Menschen zugeschrieben werden muss, wenn man maschinelles Lernen und die daraus folgende Selbstständigkeit eines Fahrzeugs sinnvoll etablieren will. Soweit bewegt sich alles im Rahmen klassischer Verfahren angewandter Ethik. Gerade unser Umgang mit Verantwortlichkeiten im Bereich der Kraftfahrzeugführung und -herstellung ist ein Indiz dafür, dass Verantwortungszuschreibungen 14 J EFFREY K. G URNEY , Imputing Driverhood. Applying A Reasonable Driver Standard to Accidents Caused by Autonomous Vehicles, in: Patrick Lin/Ryan Jenkins/Keith Abney (Hg.), Robot Ethics 2.0. From Autonomous Cars to Artificial Intelligence, Oxford: Oxford University Press 2017, 51–65.

Künstliche Intelligenz und die Konstruktion von Verantwortung

47

sowohl retrospektiv als auch prospektiv in der Praxis nicht so unmöglich sind, wie sie bisweilen theoretisch erscheinen. Die Frage scheint eher zu sein, ob Akteure gewillt sind, diejenige Verantwortung zu übernehmen, die vernünftigerweise als mit ihrem Handeln (teilweise oder ganz) verbunden gedacht werden kann bzw. muss.

II. Verantwortung der künstlichen Intelligenzen Anders wird es, wenn wir darüber nachdenken, einer künstlichen Intelligenz Verantwortung zuzuschreiben, weil und wenn sie tatsächlich eigenständig Entscheidungen treffen sollte, oder aber aus vorprogrammierten Entscheidungen eigenständig Folgerungen ableitet. Anders formuliert: Wie gehen wir eigentlich damit um, dass Maschinen zukünftig Entscheidungen in einer von uns künstlich hergestellten Unvorhersagbarkeit treffen? Dies hat in den letzten Jahren zu der vieldiskutierten Frage geführt, wie man Ethik in die Maschine (i.e. künstliche Intelligenz) bringen könnte.15 Ein naheliegender Versuch ist natürlich, es über Regeln zu versuchen. Dieser Weg wird zurzeit noch von einer Mehrheit in der Forschung auch in den Ingenieurwissenschaften favorisiert.16 Man kann sich ein hierarchisches System von Regeln denken, die algorithmisch abgearbeitet werden. Wallach und Allen haben allerdings bereits 2009 darauf hingewiesen, dass dies nicht so einfach ist, und zwar aufgrund der durchaus nicht eindeutigen Voraussetzungen.17 Ethik müsste dazu in einem Maße formalisierbar sein, das man jedenfalls in ethischen Diskursen nicht findet. Das beginnt bei den meist kontroversen Fragen einer empirischen Beschreibung der relevanten Daten zu einer gegebenen Situation und endet bei den divergierenden Einschätzungen davon, welchen ethischen Zugang man überhaupt wählen sollte. Kann man z.B. angesichts der Globalisierung und dem damit verbundenen weltweiten Einsatz von Technologien von einer einheitlichen Beurteilung ethischer »Regeln« ausgehen? In einer Studie aus dem Jahr 2018 sind Awad u.a. der Frage anhand des »autonomen« Fahrens nachgegangen.18 Dabei erhielten sie in Abhängigkeit vom jeweiligen Kulturraum unterschiedliche Antworten auf Bewertungsfragen zum erwünschten Verhalten eines »autonomen« Fahrzeugs in Konfliktsituationen. Selbst wenn man länderspezifi15 Zur Einführung und Übersicht: M ICHAEL A NDERSON /S USAN L EIGH A NDERSON (Hg.), Machine Ethics, Cambridge: Cambridge University Press 2011; M ARK C OECKEL BERGH, AI Ethics, Cambridge, MA: The MIT Press 2020; C ATRIN M ISSELHORN, Grundfragen der Maschinenethik, Stuttgart: Reclam 2019. 16 Vgl. a. a. O., 90–93. 17 W ENDELL WALLACH /C OLIN A LLEN , Moral Machines. Teaching Robots Right from Wrong, Oxford: Oxford University Press 2009. 18 E DMOND AWAD u. a., The Moral Machine Experiment, in: Nature 563.7729 (2018), 59– 64.

48

Christian Schwarke

sche Einstellungen ebenfalls programmieren könnte, bleibe die Frage, wer für wen über die Vereinheitlichung oder aber die Diversität der »Regeln« entscheidet. Auch für die berühmten Robotergesetze von Isaac Asimov, die auf den ersten Blick so einleuchtend wie einfach sind, hat ihr Autor in seinen Geschichten wiederholt gezeigt, dass sie als Regeln nicht einfach anwendbar sind, weil sie in Aporien führen.19 Ethik scheint sowohl auf der Beschreibungs- als auch auf der Reflexionsebene zu komplex zu sein, um sie so zu transformieren, dass sie algorithmisch einfach abgearbeitet werden kann. Dies führt zu der Überlegung, es auch an dieser Stelle mit künstlichen neuronalen Netzen zu versuchen. Der Vorteil eines neuronalen Netzes gegenüber einem klassischen Algorithmus liegt ja darin, dass man in einem gegebenen System, das nicht hinreichend gut beschreibbar ist, wohl aber gemessen werden kann, den exakten Weg vom Input zum Output nicht mehr definieren muss. Man misst jedoch das Ergebnis und »füttert« damit (und gegebenenfalls mit einer Information über den Fehler bzw. die Abweichung von dem gewünschten Ergebnis) erneut das Netz. Zum Beispiel kann man die Gewichte ändern, mit denen der Output einzelner »Neuronen« im weiteren Verlauf der Funktion berücksichtigt wird. Diese Rückkopplung führt zu einer Korrektur. Genau diese Rückkopplung verstehe ich als eine Übertragung der Struktur des Verantwortungskonzepts auf die »Maschine«. Die Vorteile lägen darin, dass wir nicht erst eine Einigung über die Priorität unterschiedlicher ethischer Zugänge erzielen müssten, sondern vom Ergebnis ausgehend denken könnten. Wir müssten nicht alle Parameter beschreiben, sondern könnten das Ergebnis feststellen und es je nachdem als wünschenswert oder nicht wünschenswert in das System erneut eingeben. Dagegen lassen sich Einwände formulieren. Ich nenne zwei: Zum einen braucht es trotzdem Regeln, nach denen die Informationen verarbeitet werden. Das ist richtig. Diese können aber gerade nicht nach dem Muster eindeutiger Zuordnungen programmiert werden. Ein künstliches neuronales Netz würde hier dem menschlichen Umgang mit ethischen Fragen näherkommen. Denn so handeln wir faktisch. Und so lernen Menschen auch, sich »ethisch« zu verhalten: In unserer Sozialisation nehmen andere Menschen die Folgen unseres Handelns wahr und kritisieren es gegebenenfalls. Die Rückkopplung findet aber nicht vorrangig nach Regeln statt, sondern wir werden im Einzelfall mit den unerwünschten Folgen unseres Handelns konfrontiert. Und wir lernen, darauf wiederum zu 19 I SAAC

A SIMOV, Runaround [1942], in: Meine Freunde die Roboter, München: Heyne 2006, 68. 1. »Ein Robot darf kein menschliches Wesen verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen Schaden zugefügt wird.« 2. Ein Robot muss »den ihm von einem Menschen gegebenen Befehlen gehorchen, es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.« 3. »Ein Robot muss seine eigene Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.«

Künstliche Intelligenz und die Konstruktion von Verantwortung

49

antworten. In diesem Sinne bietet es sich auch im Blick auf die traditionelle menschliche Gewinnung ethischer Maßstäbe im Individuum an, die Verantwortungsstruktur im digitalen Bereich methodisch nutzbar zu machen. Zum anderen ließe sich einwenden, dass man mit dem Einsatz künstlicher neuronaler Netze für ethische Fragen genau jene Transparenz preisgibt, die gegenwärtig von allen gefordert wird. Denn neuronale Netze sind gerade dadurch bestimmt, dass sie uns abnehmen, was wir nicht können, nämlich einen Weg nachvollziehbar zu beschreiben. Auch das ist richtig. Aber es könnte sein, dass man die Transparenz im Weg nicht so dringend benötigt wie die Transparenz im Ergebnis. Denn am Ende liegt uns daran, ein wünschenswertes Ergebnis zu erhalten. Der Weg dahin ist im Grunde sekundär, zumal auf diesem Weg im neuronalen Netz im Gegensatz zum Leben außerhalb des neuronalen Netzes nichts für andere Beteiligte Relevantes geschieht. Wenn man so will, besteht die Brücke, die ich im Verantwortungskonzept zwischen bekannter Ethik und einer Maschinenethik sehe, darin, dass das Verantwortungskonzept schon immer – technisch gesprochen – keine Steuerung vorgenommen hat, sondern eine Regelung. Es hat noch nie mit der Vorstellung gearbeitet, dass eindeutige Eingaben zu eindeutigen Ergebnissen führen, sondern hat stattdessen auf Rückkopplungen gesetzt. Diese haben sich freilich vor allem im 20. Jahrhundert wesentlich geändert. Denn hier hat eine erhebliche Verschiebung stattgefunden: Stand bis dahin im Verantwortungskonzept die Pflicht für das Subjekt im Vordergrund, sich vor einer Instanz zu rechtfertigen, so sprechen wir heute in erster Linie von der Verantwortung, die Subjekte für Menschen oder Gegenstände haben. Diese Verschiebung erleichtert es, die versuchsweise vorgeschlagene Übertragung des Verantwortungskonzepts auf die Arbeit mit künstlichen Intelligenzen vorzunehmen. Die Umsetzung eines solchen Konzepts dürfte gleichwohl schwierig sein, weil man sehr genau prüfen muss, was dem System als Ergebnis mitgeteilt wird. Sind es am Beispiel des »autonomen Fahrens« – die Entscheidungen, die Menschen getroffen hätten? Sind es die Daten, die ein Fahrtschreiber beinhaltet? Sind es Gerichtsentscheide zu unklaren Fällen? Ab welchem Grad des Lernens wären die Systeme einsetzbar? Denkt man weiter an den medizinischen Bereich, wäre eine Fülle von individuellen Präferenzen zu berücksichtigen. Und wie verhielten sich Maschinen schließlich zu dem Umstand, dass Menschen ihre Entscheidungen in Abhängigkeit davon treffen, wie sie ihre Zukunft einschätzen? All diese Fragen sind zwar in einem regelbasierten Top-down-Ansatz noch viel schwieriger zu beantworten, aber sie stellen sich auch bei einem Zugang wie dem hier behandelten. Doch selbst für den Fall, dass alle diesbezüglichen Fragen zufriedenstellend geklärt und wir mit dem Ergebnis (also etwa den »Entscheidungen« einer künstlichen Intelligenz) stets vollkommen zufrieden wären, bliebe die Übertragung des Verantwortungskonzepts eine formale Übersetzung. Für das hier verfolgte Ziel wäre das ausreichend. Aber es würde nicht dazu führen, eine künstliche Intelli-

50

Christian Schwarke

genz als Verantwortungssubjekt im menschlichen Sinn verstehen und behandeln zu können. Denn der Erfolg des Prozesses der Rückkopplung hängt beim Menschen an seinem Interesse an Selbsterhaltung. Wie die theologische Theorie der Rechtfertigung (in welcher Gestalt auch immer) zeigt, geht es in der Frage der Verantwortung inhaltlich letztlich um die Existenz des Menschen. Paul Tillich hat bekanntlich gezeigt, dass es dabei nicht nur um die Angst geht, sondern um die gesamte Selbstwahrnehmung des Subjekts zum Verhältnis seines Handelns zu einem sinnvollen Leben.20 An der Angst wird der Zusammenhang nur besonders deutlich: Nur ein Individuum, das im Letzten Angst um seine Existenz haben kann, wird Verantwortungsrelationen nicht nur logarithmisch bearbeiten, sondern sie in der Weise auf sich beziehen, dass es Verantwortung für etwas auf sich nimmt, wobei das »Sich« zu betonen ist. Soweit wir sehen, ist das Wissen um unsere Begrenztheit eine der Bedingungen dafür, dass Verantwortung im inhaltlich gefüllten Sinne, und das heißt »autonom« übernommen wird.21 Genau das aber will man Maschinen nun gerade nicht einprogrammieren.22 Denn Maschinen, die mit einem Interesse an der eigenen Existenz ausgestattet wären, träten tatsächlich in Konkurrenz zu Menschen. Die Folgen können wir in der Science-Fiction und in der Bibel anschauen. Das Erstaunliche daran ist, dass wir uns schon jetzt Gründe dafür ausdenken können, warum es eine künstliche Intelligenz für vernünftig halten könnte, uns abzuschaffen.

20 PAUL T ILLICH , Der Mut zum Sein (engl. Original: The Courage To Be, 1952), Berlin: de Gruyter 2015. 21 Vgl. den Beitrag von I NGOLF U. DALFERTH in diesem Band. 22 Vgl. R ALF OTTE , Maschinenbewusstsein. Die neue Stufe der KI – wie weit wollen wir gehen?, Frankfurt am Main: Campus 2021.

Macht und künstliche Intelligenz Dimensionen der Macht und der Begriff der Verantwortung Christian Schlenker Macht und Verantwortung sind zwei aufeinander bezogene Strukturen. Die Analyse der einen enthüllt etwas über die andere. Macht und Verantwortung können einerseits im Rahmen von Entscheidungs- und Zuschreibungsprozessen, die auf Kausalitätsbeziehungen gründen, beschrieben werden. Andererseits beziehen sich Macht und Verantwortung auf den Raum und die Ordnung der Gründe – etwa gesellschaftliche und soziale Strukturen –, innerhalb derer Entscheidungen und Handlungen überhaupt möglich sind, sowohl in deren Wirkung als auch in deren Entstehen. Diese Beziehung von Macht und Verantwortung spiegelt sich an der Fähigkeit der Vorhersage und Vorwegnahme von zukünftigem Verhalten durch künstliche Intelligenz, welche hier als Leitphänomen betrachtet werden soll. »Künstliche Intelligenz« bezeichnet in diesem Zusammenhang weniger eine Klasse verschiedener Algorithmen als ein socially embedded medium.1 Eine Vorhersage von Atmosphärenströmung ist etwas anderes als eine KI welche menschliches Verhalten analysiert und in diese oder jene Richtung bewegt oder bewegen soll.2 So soll analysiert werden, was KI über Macht und Verantwortung als Phänomene im Zwischenraum menschlichen Lebens sichtbar werden lässt. Konkret fallen somit jene Anwendungen von KI in den Blick, die menschliche Verhaltensmuster analysieren und aus diesen Vorhersagen von zukünftigem Verhalten erstellen. Ausgangspunkt (I.) ist der klassisch gewordene Machtbegriff Max Webers, welcher sich parallel zum gängigen Begriff der Verantwortung als Zuschreibungsverantwortung entfalten lässt. Anschließend (II.) wird der von Shoshana Zuboff vorgeschlagene Begriff der instrumentären Macht, der sich direkt auf die Wirk1 Cf. A MANDA L AGERKVIST , Digital Limit Situations. Anticipatory Media Beyond ›The New AI Era‹, in: Journal of Digital Social Research 2.3 (2020), 16–41, 22. 2 Man kann in diesem Sinne unterscheiden zwischen einer deskriptiven Dimension von KI, welche analysiert und erklärt, was geschehen ist; einer diagnostischen Dimension, die erklärt, warum etwas geschehen ist; einer modellierenden Dimension, die beschreibt, was statistisch wahrscheinlich in Zukunft geschehen wird; und einer präskriptiven Dimension, derzufolge sie in Entscheidungsprozesse selbst eingebunden ist, vgl. I RIA G IUFFRIDA, Liability for AI Decision-Making. Some Legal and Ethical Considerations, in: Fordham Law Review 88.2 (2019), 439–456, 440.

52

Christian Schlenker

samkeit von KI bezieht, analysiert. Obgleich Zuboffs Machtbegriff im Rahmen des Weberschen Paradigmas verbleibt, zeigen ihre Beobachtungen, dass die damit verbundene Vorstellung eines Trägers von Macht – und Verantwortung – problematisch ist. Um die strukturelle und Strukturen bildende Macht zu beschreiben, wird künstliche Intelligenz aus der Perspektive der Technikphilosophie Martin Heideggers in den Blick genommen (III.). Der Begriff des Gestells artikuliert, wie KI als ein socially embedded medium verstanden und auf seine Machtdimension hin untersucht werden kann. Denn der Rekurs auf Heideggers Technikphilosophie bietet (IV.) die Möglichkeit, zwischen der Macht der Gründe und dem Grund der Macht, der Ordnung und dem Ordnen, zu unterscheiden.3

I. Die klassische Machtdefinition nach Max Weber und das Problem der Kausalitätsbedingung Anknüpfungspunkte für die hier behandelte Problematik können alltägliche Sätze wie folgender sein: »Weil die großen Internetkonzerne große Macht haben, sollen sie auch besondere Verantwortung zeigen.« – Ganz gleich, ob dieser Satz intuitiv plausibel erscheint oder nicht, muss gefragt werden, ob es sich dabei auch um eine sinnvolle Aussage handelt. Dazu müssen sowohl (a) der Begriff der Verantwortung als auch (b) der Begriff der Macht, (c) deren Bezug aufeinander, sowie (d) die Möglichkeit einem Träger beides zuzuschreiben, bestimmt werden. (a) Der gängige Begriff der Verantwortung wird meist formelhaft als eine Struktur mit mehreren Relata gefasst. Ziel dieser Formeln ist es, eine möglichst große Breite von Verhältnissen abdecken zu können, um diese einerseits als Situationen der Verantwortung deskriptiv zu fassen und um andererseits in diesen normative Ansprüche formulieren zu können.4 Als Beispiel sei die von Johanna Loh im Handbuch Verantwortung vorgeschlagene Formel angeführt:

3

In Heideggers Gesamtwerk zeigen sich Spuren der Reflexion über die Macht. Diese kulminieren während der sogenannten Kehre in längeren Betrachtungen über die Macht, vgl. M ARTIN H EIDEGGER, Die Geschichte des Seyns, in: Peter Trawny (Hg.), Martin Heidegger Gesamtausgabe. III. Abteilung: Unveröffentlichte Abhandlungen, Vorträge, Gedachtes, Bd. 69, Frankfurt a.M.: Vittorio Klostermann 1998, insb. 61–84. Bislang liegt kaum eine Auseinandersetzung mit der Thematik der Macht bei Heidegger vor. Eine Ausnahme bildet F RED DALL MAYR , Heidegger on Macht and Machenschaft, in: Continental Philosophy Review 34 (2001), 247–267. 4 Vgl. L UDGER H EIDBRINK , Definitionen und Voraussetzungen der Verantwortung, in: Ludger Heidbrink/Claus Langbehn/Janina Loh (Hg.), Handbuch Verantwortung, Wiesbaden: Springer 2017, 3–33, insb. 10–11.

Macht und künstliche Intelligenz

53

Ein Subjekt oder ein_e Träger_in (Wer?) ist verantwortlich für ein Objekt oder einen Gegenstand (Wofür?) vor einer Instanz (Wovor?) gegenüber einem Adressaten bzw. einer Adressatin (Warum?) auf der Grundlage normativer Kriterien (Inwiefern?).5

Verantwortung folgt hier dem Zurechnungs- (deskriptiv) und Zuschreibungsschema (normativ) der Verantwortung.6 Dieses Schema der Verantwortung lehnt sich an die rechtliche Grundkategorien der Haftung an.7 Damit jemand diesem Modell zufolge für etwas verantwortlich gemacht werden kann, müssen ihm die Folgen von Handlungen (vor einer Instanz, gegenüber einem Adressaten und nach normativen Kriterien) zugeschrieben werden können, wie etwa Iris Marion Young herausgearbeitet hat: Under this liability model, one assigns responsibility to a particular agent (or agents) whose actions can be shown to be causally connected to the circumstances for which responsibility is sought.8

Die Zurechnung/-schreibung von Folgen setzt Kausalität voraus: Verantwortlich ist, wer durch eine Entscheidung und/oder Handlung eine Kausalkette begonnen oder maßgeblich in diese eingegriffen hat, sodass bestimmte – beabsichtigte oder in Kauf genommene – Folgen eingetreten sind bzw. eintreten werden.9 Darunter fallen auch jene Fälle in denen eine Entscheidung, den Verlauf einer Kausalkette nicht zu ändern, getroffen wurde, obwohl ein solcher Eingriff zum Abwenden von eingetretenen, bzw. in Zukunft eintretenden, Folgen, möglich gewesen wäre. Ist es nicht möglich, eine kausal maßgebliche Verbindung zwischen einem Akteur und einer Folge herzustellen, kann keine Verantwortungsrelation im Sinne der Zuschreibungs-/rechnungsverantwortung etabliert werden. (b) Der korrespondierende Machtbegriff setzt ebenfalls einen identifizierbaren Machtträger voraus, der über eine Kausalbeziehung identifiziert werden kann. Dies lässt sich an der klassischen Definition der Macht nach Max Weber nachvollziehen: »Macht bedeutet jede Chance, innerhalb einer sozialen Beziehung

5 JANINA L OH , Strukturen und Relata der Verantwortung, in: Ludger Heidbrink/Claus Langbehn/Janina Loh (Hg.), Handbuch Verantwortung, Wiesbaden: Springer 2017, 35–56, 39; vgl. etwa PAUL R ICŒUR, Le concept de responsabilité. Essai d’analyse sémantique, Bd. 11, 206 1994, 28–48, 28–29. 6 Vgl. H EIDBRINK , Definitionen und Voraussetzungen der Verantwortung, 11. 7 Vgl. I RIS M ARION Y OUNG , Responsibility for Justice, Oxford: Oxford University Press 2011, 97; I RIS M ARION YOUNG, Responsibility and Global Justice. A Social Connection Model, in: Social Philosophy & Policy Foundations 23.1 (2006), 102–130, 118; H EIDBRINK, Definitionen und Voraussetzungen der Verantwortung, 8–9; M ATTHIAS K AUFMANN, Verantwortung und Zurechnung, in: Ludger Heidbrink/Claus Langbehn/Janina Loh (Hg.), Handbuch Verantwortung, Wiesbaden: Springer 2017, 265–276, 267–269. 8 Y OUNG , Responsibility and Global Justice, 116; vgl. Y OUNG , Responsibility for Justice, 97–98. 9 Vgl. F RANÇOIS R AFFOUL , The Origins of Responsibility, Bloomington und Indianapolis: Indiana University Press 2010, 9; YOUNG, Responsibility for Justice, 95–101.

54

Christian Schlenker

den eigenen Willen auch gegen Widerstreben durchzusetzen, gleichviel worauf diese Chance beruht.«10 Ein Machtträger wird dabei als ein Träger von Interessen beschrieben, die er entgegen anderen Interessen durchsetzt. Diese Definition kann nach Steven Lukes formalisiert dargestellt werden: »A exercises power over B when A affects B in a manner contrary to B’s interests.«11 Von Macht ist hier nur die Rede, wenn sie gegen den Willen eines anderen durchgesetzt wird.12 In diesem Sinne hebt Rainer Forst hervor, dass die »meisten Auffassungen von Macht [...] Weber darin [folgen], ein Modell des Interessenkonflikts zugrunde zu legen.«13 Jedoch werden in diesem Fall jene Formen der Macht nicht mit reflektiert, denen zufolge B lediglich durch das Einwirken von A anders gehandelt hat, als er es ohne das Handeln von A getan hätte, jedoch nicht explizit entgegen der Interessen von B. Webers Definition kann, wie Lukes und Forst gleichermaßen attestieren, als Untergruppe der Entscheidungsmacht als Beherrschung bezeichnet werden.14 Ein erweiterter Begriff von Macht, der gerade nicht das Handeln entgegen der Interessen eines anderen voraussetzt, könne jene Formen der Macht in den Blick nehmen, »in which power over others can be productive, transformative, authoritative and compatible with dignity.«15 Bezieht man jene Fälle mit in den Machtbegriff ein, dann lässt sich eine schwächere Form der Weber-Macht formulieren, deren bestimmendes Element ist, dass ein Akteur A durch seine Handlungen von ihm intendierte Folgen herbeiführt, die die Handlungen von B beeinflussen. (c) Der Grund der hier thematisierten Korrespondenz von Weber-Macht und Zurechnungsverantwortung ist die Begründung beider Begriffe mittels einer Kausalitätsbeziehung, zwischen einem Entscheidungsträger und den (in Zukunft) eingetretenen Folgen. Wer Entscheidungsmacht ausübt, trifft Entscheidungen,

10 M AX W EBER , Wirtschaft und Gesellschaft. Soziologie, Unvollendet 1919–1920, hrsg. von Knut Borchardt/Edith Hanke/Wolfgang Schluchter, Max Weber Gesamtausgabe, Bd. I/23, Tübingen: Mohr Siebeck 2013, 210. 11 S TEVEN L UKES , Power. A Radical View, Second Edition, London: Red Globe Press 2005, 37. 12 Vgl. a. a. O., 34–35.111. 13 R AINER F ORST , Normativität und Macht. Zur Analyse sozialer Rechtfertigungsordnungen, 2. Auflage, Berlin: Suhrkamp 2018, 61. 14 Neben der Entscheidungsmacht unterscheidet Lukes noch zwei weitere Dimensionen der Macht. Einerseits jene Macht, die die politische Agenda formt und somit vorgibt, worüber überhaupt in der Politik diskutiert wird. Andererseits die ideologische Macht, welche Menschen dazu bringt selbst entgegen ihrer eigenen Interessen zu handeln (S TEVEN L UKES, Power. A Radical View, Third Edition, London: Red Globe Press 2021, 21–34). Die Diskussionen um die Abgrenzung von Macht, Herrschaft, Beherrschung und Gewalt sind vielfältig und können an dieser Stelle nicht wiedergegeben werden. Für eine analytisch tragfähige begriffliche Differenzierung, vgl. F ORST, Normativität und Macht, 76–79. 15 L UKES , Power, 109; vgl. F ORST , Normativität und Macht, 61.

Macht und künstliche Intelligenz

55

die zu Folgen führen, die mittels Verantwortungszurechnung wieder diesem Verantwortungsträger zugeschrieben werden können.16 Allerdings überschneiden sich Macht und Verantwortung nicht vollständig. Verantwortung kann auch zugeschrieben werden, wenn die eingetretenen Folgen keinen anderen Akteur betreffen und dessen Handlungen beeinflusst haben. Außerdem verletzen manche aufgrund einer Entscheidung eingetretenen Folgen keine normativen Kriterien, sodass Verantwortung nicht sinnvoll einer Machtentscheidung zugeordnet werden kann. In der verbleibenden Schnittmenge ist Zurechnungsverantwortung und Entscheidungsmacht gemein, dass sie immer etwas mit Wirksamkeit, mit Wirkmächtigkeit zu tun haben. Denn ohne die an ihrer Wirksamkeit gemessenen Folgen kann auch kein Träger – sei es der Entscheidungsmacht oder der Verantwortung – bestimmt werden. Dem Machtträger geht es in diesem Fall um das Durchsetzen von Entscheidungen, die zukünftige Folgen haben. Machtträger ist der Entscheidungsträger, der eine Kausalkette wesentlich verändert, bzw. durch eine andere Entscheidung dieses Trägers die betrachteten Folgen nicht eingetreten wären. Machtträger sind in diesem Fall auch Verantwortungsträger.17 (d) Beide Konzepte, die Zurechnungsverantwortung sowie die Entscheidungsmacht, stehen angesichts Anwendungen künstlicher Intelligenz vor der Frage, ob die als notwendiges Kriterium herausgestellten Kausalitätsrelation zwischen Träger(n) und Folge(n) festgestellt werden können. Oftmals lassen diese sich schlechthin nicht eindeutig ausmachen. Dies kann entweder in Probleme der Verantwortungsdiffusion münden, oder es muss der Begriff dessen erweitert werden, wer als Träger bestimmt werden kann.18 Dieselbe Problemlage ergibt sich ebenso hinsichtlich der Entscheidungsmacht. Denn oftmals gibt es keinen A, welcher seine Interessen durchsetzt, obgleich eine Wirkung auf B vorliegt, die diesen dazu bringen, Dinge zu tun, welche er ohne diese Einwirkung nicht getan hätte. In einem nächsten Schritt werde ich in diesem Zusammenhang das Konzept der instrumentären Macht von Shoshana Zuboff darstellen, die auf ebendiese Konstellation eingeht. Dabei handelt es sich keineswegs um eine völlig neue Art der Macht, obgleich Zuboff dies konstatiert.19 Die Diskussion der Beobachtung, dass 16 Vgl. L UKES , Power, 58; S TEVEN L UKES , Noumenal Power. Concept and Explanation, in: Mark Haugaard/Matthias Kettner (Hg.), Theorising Noumenal Power. Rainer Forst and His Critics, Oxon und New York: Routledge 2020, 48–57, 51–53; A NDREW S AYER, Macht, Kausalität und Normativität, in: Zeitschrift für kritische Sozialtheorie und Philosophie 1.2 (2014), 325–349. 17 In diesem Sinne bezieht auch Max Weber in seinem berühmten Vortrag Politik als Beruf die Frage von Macht und Verantwortungsethik aufeinander, M AX W EBER, Wissenschaft als Beruf, 1917/1919 – Politik als Beruf, 1919, in: Wolfgang J. Mommsen/Wolfgang Schluchter (Hg.), Max Weber Gesamtausgabe, Bd. 1, 17, Tübingen: Mohr Siebeck 1992, insb. 229. 18 Zur Verantwortungsdiffusion, vgl. in diesem Band, Rethinking Responsibility. Introduction, 5. 19 Vgl. L UKES , Power, 174–181.

56

Christian Schlenker

der Macht- und Verantwortungsträger hinter strukturellen Gegebenheiten zurücktritt, soll Ausgangspunkt sein, um anschließend auf jene Formen der Macht einzugehen, welche den – um eine Formulierung von Rainer Forst aufzugreifen – Raum der Gründe, aus denen man handelt, als solchen formen.20

II. »The New Frontier of Power« – Shoshana Zuboffs Begriff der instrumentellen Macht Zuboff untersucht in ihrem Buch The Age of Surveillance Capitalism. The Fight for the Future at the New Frontier of Power (2019) vor allem kapitalisierbare Formen von socially embedded AI. Ihre These ist, dass in immer mehr Bereichen des alltäglichen Lebens algorithmische Strukturen wirksam sind, die unser Verhalten beeinflussen. Diese populärwissenschaftlich präsentierte These ist genre-typisch stellenweise vereinfacht und mit überspitzten Pointen dargestellt. Mit dem Begriff der »instrumentären Macht«21 beschreibt Zuboff die Wirksamkeit jener Algorithmen genauer. Anders als Weber beschreibt sie Macht nicht als etwas, das gegen die Interessen eines anderen durchgesetzt wird, sondern das durch die Interessen eines anderen durchgesetzt wird. Damit wird die Voraussetzung eines Macht- und Entscheidungsträgers als ausgezeichneter Punkt einer Kausalkette, den sowohl die Entscheidungsmacht als auch die Zuschreibungsverantwortung voraussetzen, weniger relevant, weil Zuboff den Blick vom Machtträger auf das Machtmittel lenkt. Zuboff definiert die instrumentäre Macht folgendermaßen: As to this species of power, I name it instrumentarianism defined as the instrumentation and the instrumentalization of behavior for the purpose of modification, prediction, monetization, and control.22

In jüngeren Untersuchungen wurde die Effektivität und Zielgerichtetheit der von Zuboff beschriebenen Mechanismen der Verhaltensbeeinflussung auf verschiedenen Ebenen kritisiert.23 Von einer phänomenologischen Perspektive könnte 20 Forst bestimmt die diskursive Macht als Raum der Gründe, oder der Rechtfertigungsordnungen, vgl. F ORST, Normativität und Macht, 73. Bei Lukes findet diese Dimension der Macht ihren Ausdruck in der dritten Dimension der Macht. Dabei geht es Lukes jedoch nicht nur um die Gründe, aus denen heraus gehandelt werden kann, sondern ebenso um die »formation of principles« (L UKES, Power, 128). 21 Die Deutsche Übersetzung (S HOSHANA Z UBOFF , Das Zeitalter des Überwachungskapitalismus, Frankfurt: Campus Verlag 2018) verwendet die Übersetzung instrumentäre Macht für instrumentarian power. 22 S HOSHANA Z UBOFF , The Age of Surveillance Capitalism. The Fight for the Future at the New Frontier of Power, London: Profile Books 2019, 352. 23 Vgl. dazu. B ENJAMIN H ELD , Im Zeitalter des Überwachungskapitalismus? Zentrale Argumentationslinien und kritische Einordnung aus ökonomischer Perspektive, in: Benjamin Held/Frederike van Oorschot (Hg.), Digitalisierung: Neue Technik – neue Ethik. Interdisziplinäre Auseinandersetzung mit den Folgen der digitalen Transformation, Heidelberg: heiBOOKS

Macht und künstliche Intelligenz

57

weiterhin entgegen der Totalität der Vorwegnahme der Zukunft einerseits die Begegnung mit dem Fremden angeführt werden. Dieses liegt per definitionem außerhalb des Bereichs der Muster der Alltäglichkeit und damit des Bereichs des aufgrund von Ist-Zuständen Berechenbaren. Andererseits weisen die von Zuboff angeführten Algorithmen auch keinesfalls auf eine vollständige Notwendigkeit auf eine bestimmte Handlung hin, sondern auf eine bestimmte Menge verschiedener wahrscheinlicher zukünftiger Ist-Zustände.

1. Abgrenzung des Machtbegriffs Zuboffs von der Entscheidungsmacht Unter Berücksichtigung dieser Einschränkungen der These Zuboffs hinsichtlich des Totalitäts- und Determinationsanspruchs der instrumentären Macht sind zwei ihrer Beobachtungen zur Analyse der Macht von KI hilfreich: Erstens die Beobachtung, dass es Wirkweisen der Macht gibt, die durch aber keinesfalls gegen den Willen eines Menschen wirken. Zweitens, dass das Narrativ des Totalitätsanspruches der Welt- und Wirklichkeitsdeutung durch die Technik sich selbst aufdrängt. Ersterem wird in diesem Abschnitt weiter nachgegangen, insbesondere hinsichtlich der Frage, ob es sich hierbei nur um eine Akzentverschiebung oder wirklich um einen neuen Machtbegriff handelt. Letzterer, der Totalitätsanspruch der Weltdeutung, wird im nächsten Abschnitt in der Diskussion Heideggers analysiert. Grundlage dessen, was Zuboff »means of behavioral modification«24 zum Ziel der Herbeiführung von »guaranteed outcomes«25 nennt, ist die Auswertung von Verhaltensdaten mittels jener Klasse von Algorithmen, die als »Künstliche Intelligenz« subsumiert werden können. KI deckt in Datenpunkten Muster des Verhaltens auf und kann daraus Interessen26 bestimmen und gegebenenfalls, wenn es sich marktwert anbietet, mit Methoden wie dem Nudging27 , subtil jene psycho2021, 23–56; J OSÉ R AMÓN S AURA/DANIEL PALACIOS -M ARQUÉS/AGUSTÍN I TURRICHA F ERNÁNDEZ, Ethical design in social media. Assessing the main performance measurements of user online behavior modification, in: Journal of Business Research 129 (2021), 271–281; E MILY K EDDELL, ›Make Them Dance‹: Shoshana Zuboff’s Surveillance Capitalism, Behavior Modification and Fraser’s ›Abnormal Justice‹. In: Journal of Technology in Human Services 39.4 (2021), 426–431. 24 Bspw. Z UBOFF , The Age of Surveillance Capitalism, 203. 25 Ebd. 26 Dabei werden die Interessen in der Regel einem revealed preferences modell nach bestimmt: Was die Interessen einer Person gewesen sind, lässt sich aus ihren Entscheidungen ablesen. Siehe dazu unten, 59n34. 27 S TEFAN P IASECKI , »Schubs mich nicht!« Nudging als politisches Gestaltungsmittel, hrsg. von Bundeszentrale für politische Bildung 3. Nov. 2017, URL: https : / / www. bpb. de / lernen / digitale - bildung / werkstatt / 258946 / schubs - mich - nicht - nudging - als - politisches gestaltungsmittel/ (besucht am 14. 09. 2022): »Nudging ist die absichtsvolle Führung von Individuen bei gleichzeitiger Aufrechterhaltung ihrer Wahlfreiheit – das Prinzip arbeitet mit motivierender Steuerung statt mit Zwang oder Verboten.« – Eigentlich ist es nicht verwunderlich, dass man zu Facebooks frühen Zeiten dort Leute schon »poken« – d.h. anstubsen – konnte.

58

Christian Schlenker

logischen Muster bedienen, die eine bestimmte Entscheidung wahrscheinlicher werden lassen, die ohne Eingriffe dieser Art mit geringerer Wahrscheinlichkeit stattgefunden hätte. Dabei werden keine prinzipiell anderen Interessen durchgesetzt, sondern mit bereits vorliegenden Interessen gearbeitet. In diesem Sinne spricht Zuboff davon, dass Interessen durch und nicht gegen den Willen durchgesetzt werden. Wenn jedoch etwas gefördert wird, was ohnehin schon gewollt wurde, in welchem Sinne kann dann von Macht die Rede sein? Deutlich ist, dass es sich nicht um eine Weber-Macht oder Beherrschung handelt, die zum Kriterium macht, dass etwas gegen die Interessen eines anderen durchgesetzt wird. Schließlich werden hier gerade bereits angelegte Interessen gefördert und zur Verwirklichung gebracht. Das von Zuboff beschriebene Modell lässt sich in dieser Hinsicht allerdings weitgehend mit dem Ansatz von Armin Nassehi vergleichen, der in seinem Buch Muster feststellt, dass KI im Wesentlichen die Mustererkennung in einer riesigen Menge von Verhaltensdaten beherrscht.28 Sein Urteil ist, dass Menschen zumeist höchst vorhersagbar handeln und durch KI Anwendungen lediglich genauer bestimmt werden kann, wann Menschen wahrscheinlich wie handeln werden. Die Muster des Verhaltens, welche Menschen seit jeher kalkulierbar machten, würden auf diese Weise sichtbar gemacht.29 Zunächst bedeutet dies, dass Menschen – vor allem als Gruppe betrachtet – zumeist vorhersehbar agieren. Man braucht nicht erst einen freien Willen mit fremden Interessen besetzen, weil Menschen zumeist ohnehin aus ihnen vorgegebenen Interessen handeln. Was die digitale Vorhersagetechnik enthüllt oder entbirgt, sind jene vorgegebenen Muster des Verhaltens. Wendet man diese Einsicht auf Zuboff an, dann bedeutete dies, dass Potenziale dieser Muster des Verhaltens zur Verwirklichung durch die Einwirkung der von ihr beschriebenen intrumentären Macht gebracht würden. Zuboff sieht das Ziel des »Surveillance Capitalism« darin, mittels KI nicht nur Wahrscheinlichkeiten vorherzusagen, sondern mittels »means of behavioral modification«30 »guaranteed outcomes«31 zu erreichen. Was dabei als guaranteed outcomes beschrieben wird, lässt sich jedoch – wenn die Analyse Nassehis zutreffend ist – hinreichend im Raum der Verhaltensmuster beschreiben. Wenn Nassehi schreibt »Digitalisierung macht die Regelmäßigkeit nur sichtbar, ohne sie 28

A RMIN NASSEHI, Muster. Theorie der digitalen Gesellschaft, 2. Auflage, München: C.H. Beck 2019, 42: »Das Unbehagen an der digitalen Kultur speist sich aus dem Sichtbarwerden dieser modernen Erfahrung. Es wird nun erst recht offensichtlich, dass die digitalen Möglichkeiten der flächendeckenden Beobachtung, die Rekombination von Daten und die Möglichkeit des Kalkulierens die Akteure darauf stoßen, was sie zuvor latent halten konnten: wie regelmäßig und berechenbar ihr Verhalten ist.« Insofern sowohl Zuboff als auch Nassehi von den Verhaltensdaten als Quelle der Zukunftsvorhersagen/-vorwegnahmen durch KI ausgehen, sind ihre abweichenden Interpretationen grundsätzlich vergleichbar. 29 Ähnlich auch Zuboff, Z UBOFF , The Age of Surveillance Capitalism, 218. 30 A. a. O., 203. 31 Ebd.

Macht und künstliche Intelligenz

59

erfunden zu haben«,32 heißt dies auch, dass KI Regelmäßigkeiten des Verhaltens sichtbar macht, ohne dieses selbst bewirken zu müssen. Denn schließlich treten so Folgen ein, die auch ohne Einwirken eines Machtträgers zu einem bestimmten Wahrscheinlichkeitswert eingetreten wären. Mit dem oben formulierten Kriterium der Macht kann folglich in diesem Fall nicht von Macht gesprochen werden. Insofern die Zuschreibungsverantwortung in diesem Punkt eine Schnittmenge mit der Entscheidungsmacht bildet, kann in diesem Fall auch keine Verantwortung zugeschrieben werden.

2. Das Recht auf die Zukunft – Von Vorhersage zu Vorwegnahme Zuboff geht in ihrer These einen Schritt weiter, insofern durch die intrumentäre Macht dem Menschen sein Recht auf die Zukunft genommen würde. In dem durch die Fremdbesetzung des Willens die Zukunft aus der Kontrolle der Individuen genommen wird, würde ihnen das »Recht auf die Zukunft« genommen. Ich werde diese These kurz rekapitulieren, jedoch letztlich darauf verweisen, dass gerade dieses Element an der Theorie Zuboffs sich in jene Vorstellungen von Macht – und damit auch von Verantwortung – einordnet, welche auf Kausalitätsrelationen basiert. Zuboff sieht die Zukunft als solche gefährdet durch die im Überwachungskapitalismus wirkende instrumentäre Macht: I suggest that we now face the moment in history when the elemental right to the future tense is endangered by a panvasive digital architecture of behavior modification owned and operated by surveillance capital, necessitated by its economic imperatives, and driven by its laws of motion, all for the sake of guaranteed outcomes.33

Die anthropologische Grundannahme, von der Zuboff ausgeht, ist, dass durch den Willen allein die den Menschen auszeichnende Zukunftsdimension gegeben sei.34 Weil ich etwas will, das noch nicht ist, habe ich einen Anspruch auf die Zu32

NASSEHI, Muster, 44. Z UBOFF, The Age of Surveillance Capitalism, 302 (Hervorhebung C.S.) 34 Zuboff legt zur Beschreibung der Interessen nach denen der Wille sich bestimmt ein Revealed Preference Model an – und damit bspw. an den Chef Ökonomen Googles Hal Varian anschließt, vgl. H AL R. VARIAN, Revealed Preference and its Applications, in: The Economic Journal 122.560 (2012), 332–338. Dabei handelt es sich um eine klassische Vereinfachung von menschlichem Verhalten, mit dem Ziel dieses messbar zu machen. Vorausgesetzt ist dabei, dass mein Verhalten Ausdruck meiner Präferenzen ist. Das Verhalten kann durch unsere Datenspuren relativ exakt gemessen werden. Dadurch können meine Präferenzen relativ genau bestimmt werden. Was als Verhalten gemessen wird, ist folglich keine internalistisch-psychologische Theorie, sondern legt soziologisch beschreibbare Verhaltensmuster offen: Ich entfalte meine Präferenzen, die mich zu dem machen, der ich bin, weil es der ist, der ich immer schon sein wollte. An den verwirklichten Präferenzen lässt sich folglich mein ursprünglicher Wille ablesen. Dieser Wille, mit dem ich mich an eine Zukunft versprechen kann, wir dabei von Zuboff als essentiell betrachtet. 33

60

Christian Schlenker

kunft. Wenn ich etwas verspreche, bereite ich eine Zukunft vor, die ich entweder wirklich werden lassen kann oder nicht: This act of will is my claim to the future tense. [...] To make a promise is to predict the future; to fulfill a promise through the exercise of will turns that prediction into fact.35 Zuboff misst das Recht auf die Zukunft an der Wirksamkeit des Willens: Dass das, was ich in die Zukunft projiziere auch von mir umgesetzt werden kann. Indem die neue instrumentäre Macht durch meinen Willen wirkt, ist, was ich projiziere und verwirkliche, nicht mein Wille, wodurch mein Recht auf die Zukunft genommen wird. Damit wandelt sich die Vorhersage in eine Vorwegnahme der Zukunft, in der es nicht mehr wichtig ist, was Individuen wollen, weil alles, was gewollt werden kann, mit Gewissheit vorgegeben ist: »Inevitabilism precludes choice and voluntary participation. It leaves no room for human will as the author of the future.«36 Dass Zuboff in diesem Zusammenhang von »inevitability«, »certainty« und »guaranteed outcomes« spricht, bedeutet in Anbetracht der Muster menschlichen Verhaltens in den meisten Fällen lediglich, dass diese Muster offengelegt werden. Gerade dass damit nicht gegen sondern durch den Willen, d.h. entsprechend der bereits gegebenen und somit vorhersagbaren Interessen, gehandelt wird, unterläuft die These, dass hier eine Vorgabe fremder Interessen stattfindet. Die Art, wie Zuboff die Vorwegnahme der Zukunft beschreibt, passt nicht zum vorliegenden Phänomen, weil das, worauf sich die Verwirklichung richten kann, bereits vorgegeben ist. Was vorgegeben ist, analysiert KI aufgrund von Mustern geschehenen Verhaltens. Diese Vorhersage »wirkt« auf die dem Menschen bevorstehenden Möglichkeiten zurück, ohne in der Beschreibung einer kausalen Wirksamkeit aufzugehen. Jedoch deutet sich in Zuboffs Analyse eine entscheidende Beobachtung an: Der Raum der Zukunft wird nicht nur beschrieben und gedeutet, sondern eingeschrieben und bedeutet. Diese Dimension, wie Technik auf den Raum der Zukunft wirkt und den Spielraum des Verhaltens mitgestaltet, kann mit Martin Heideggers Metapher des Gestells beschrieben werden. Damit kann betrachtet werden, wie der Raum des Zukünftigen, wie die Welt in ihren Möglichkeiten und das Verhalten in diesen ausgerichtet ist, strukturiert und gegeben wird.

III. KI und Gestell Was Heidegger in seinem berühmten Aufsatz Die Frage nach der Technik das Gestell nennt, thematisiert die Art und Weise, dass, wie der Mensch in seiner durch technische Prozesse mitgebildeten Umwelt ist, durch die Technik wesentlich mit-

35 36

Z UBOFF, The Age of Surveillance Capitalism, 330. A. a. O., 227.

Macht und künstliche Intelligenz

61

geprägt ist.37 Heideggers Analyse und Metapher des Gestells möchte zeigen, dass die Technik das Wesen des Seienden bestimmt. Der Begriff Gestell leitet sich von Stellen (θέσις) ab. Wie die Welt durch die Technik wesentlich das ist, was sie ist, ist nicht nur eine Vorstellung oder etwas, worüber man eine Feststellung machen könnte. Vielmehr bezeichnet das Stellen die Bedingung der Möglichkeit, welche Feststellungen und Vorstellungen ermöglicht, indem sie bestimmt, als was etwas ist. Weil die Gesamtheit der Involviertheit mit der Welt durch die Technik geprägt ist, bezeichnet Heidegger sie als Ge-stell, wie das Ge-birge die Gesamtheit der Berge bezeichnet.38 Die Analysen Heideggers – obgleich in einem anderen technologischen Kontext entwickelt – sind hilfreich, um die Beziehung von Welt und KI zu thematisieren. Dies betrifft insbesondere die Beschreibung von KI als socially embedded AI. In einem ersten Schritt wird im Folgenden Heideggers Theorie des Gestells rekapituliert und in einem zweiten Schritt auf den Bereich der KI übertragen.

1. Das Gestell oder wie durch Technik etwas zu dem wird, was es ist In seinem berühmten Aufsatz Die Frage nach der Technik – dem etwa zwanzig Jahre der Beschäftigung mit der Bedeutung der Technik vorausgehen39 – ist 37

M ARTIN H EIDEGGER, Die Frage nach der Technik, in: Friedrich-Wilhelm von Herrmann (Hg.), Vorträge und Aufsätze. Martin Heidegger Gesamtausgabe. I. Abteilung: Veröffentlichte Schriften 1910–1976, Bd. 7, Frankfurt a.M.: Vittorio Klostermann 2000, 5–36; vgl. ebenso den Vortrag Das Ge-Stell, M ARTIN H EIDEGGER, Bremer und Freiburger Vorträge, in: Petra Jaeger (Hg.), Martin Heidegger Gesamtausgabe. III. Abteilung: Unveröffentlichte Abhandlungen, Vorträge, Gedachtes, Bd. 79, Frankfurt a.M.: Vittorio Klostermann 1994, 24–45. Zur Verwendung des Begriffes des Wesens bei Heidegger vgl. M ARTIN H EIDEGGER, Die Grundbegriffe der Metaphysik. Welt – Endlichkeit – Einsamkeit, Deutsch, in: Friedrich-Wilhelm von Herrmann (Hg.), Martin Heidegger Gesamtausgabe. II. Abteilung: Vorlesungen 1923–1944, Bd. 29/30, Frankfurt a.M.: Vittorio Klostermann 1983, 117–118. 38 Vgl. H EIDEGGER , Die Frage nach der Technik, 20. Diese wesentliche Verbundenheit von digitaler Technologie und menschlicher Existenz kann auch im Rahmen der Daseinsanalyse aus Sein und Zeit beschrieben werden. Damit wird der Fokus insbesondere auf die digitale Existenz gelegt und weniger nach dem Wesen der Technik gefragt. Vgl. A MANDA L AGERKVIST, Existential Media. Toward a Theorization of Digital Thrownness, in: New media & society 19.1 (2017), 96–110; T IM M ARKHAM, Digital Life, Cambridge und Medford: John Wiley & Sons 2020; M ASSIMO D URANTE, AI and Worldviews in the Age of Computational Power, in: The Routledge Social Science Handbook of AI, London: Routledge 2021, 251–265, 253–254; spezifisch mit Bezug auf maschinelles Lernen (und damit KI) S EBASTIAN H ARRACH, Neugierige Strukturvorschläge im maschinellen Lernen. Eine technikphilosophische Verortung, Bielefeld: transcript Verlag 2014, insb. 185–214. 39 Dies betrifft insbesondere auch die Schwarzen Hefte. An der Technik zeigt sich hier die »Banalität des Bösen« (J EAN -L UC NANCY, Banalité de Heidegger, Paris: Éditions Galilée 2015) im Werk Heideggers. Während Heidegger in den frühen Heften direkt antisemitischen Vorurteilen folgt und diese durch seine technikpessimistische Weltsicht begründen möchte, wird bereits ab 1935 eben jene Weltsicht zum Kennzeichen des Nationalsozialismus. Zwar

62

Christian Schlenker

Heidegger nicht an bestimmten Technologien interessiert, sondern am Wesen der Technik. Um die Frage nach diesem Wesen offenzulegen, beginnt Heidegger mit einer Betrachtung des alltäglichen Verständnisses von Technik. Das vulgäre Technikverständnis versteht diese entweder als Mittel (instrumental) oder als menschliches Tun (anthropologisch). Das Instrumentale ist der Bereich der Kausalität. In diesem Bereich ist alles von Ursache und Wirkung bestimmt. Heidegger bedient sich in diesem Zusammenhang der Ursachenlehre des Aristoteles, um auszuführen, wie das instrumentale Verständnis der Technik aufs Engste mit dem Kausalitätsbegriff verwoben ist. Die vier causae nach Aristoteles haben alle gemein, dass sie sich letztlich auf ein Wirkungsverhältnis konzentrieren. »Was die Technik als Mittel vorgestellt, ist, enthüllt sich, wenn wir das Instrumentale auf die vierfache Kausalität zurückführen.«40 In einer gedanklichen Bewegung, die bis Sein und Zeit zurückreicht,41 unterscheidet Heidegger zwischen Grund und Ursache. Letztere wird dem Raum der Wirksamkeit zugewiesen.42 D.h. es geht um (ggf. ausbleibenden) Erfolg und ist die hier geäußerte Kritik Heideggers am Nationalsozialismus scharf und in oftmals unbeachtetem Maße regime- und führerkritisch formuliert, jedoch darf dies nicht darüber hinwegtäuschen, dass Heidegger einerseits sich nie von seinem Antisemitismus und seiner Involviertheit in den Nationalsozialismus distanzierte und andererseits ganz bewusst jene Schriften, welche eindeutige antisemitische Elemente aufweisen – die man auch nicht leichtfertig relativieren sollte, wie es etwa von Herrmann versucht hat (F RIEDRICH -W ILHELM von H ERR MANN /F RENCESCO A LFIERI , Martin Heidegger. Die Wahrheit über die Schwarzen Hefte, Berlin: Duncker & Humblot 2017) – und ebenso Regimekritik im Publikationsplan der Gesamtausgabe wohl bewusst erst zum Schluss erscheinen lassen wollte und nie in den Diskurs eingebracht hat. Zutreffend bemerkt BABETTE BABICH, Heideggers Wille zur Macht. Nietzsche – Technik – Machenschaft, in: Babette Babich/Alfred Denker/Holger Zaborowski (Hg.), Heidegger & Nietzsche, Leiden und Boston 2012, 277–314, 297n50: »Insofern als dieser Text [im Bezug auf die kritischen Bemerkungen in den Beiträgen – C.S.] von Heidegger nicht veröffentlicht wurde, zeigt er einen ›Widerstand‹, der nicht mehr ist als eine phantasierte Substitution für echten Widerstand.« Unverständlich bleibt der Versuch von JAVIER C ARDOZA -KON, Heidegger’s Politics of Enframing. Technology and Responsibility, London u. a.: Bloomsbury 2018, der nachzuweisen versucht, wie Heidegger Verantwortung für sein Handeln durch seinen Technikdiskurs übernahm. – Vor allem hinsichtlich der selektiven Wahrnehmung der Schriften Heideggers aus den 30er Jahren sowie der vollständigen Ignoranz gegenüber der bisherigen Forschung in diesem Bereich. Zum Verhältnis der Entwicklung des Machtbegriffs bei Heidegger und der Kritik am Nationalsozialismus, vgl. DALLMAYR, Heidegger on Macht and Machenschaft, 257–258. 40 H EIDEGGER , Die Frage nach der Technik, 9. 41 Vgl. M ARTIN H EIDEGGER , Sein und Zeit, 19. Aufl., Tübingen: Max Niemeyer Verlag 2006 (im Folgenden zit. als SZ), 282–284. 42 Die Wirksamkeit ist eine wiederkehrende Kategorie Heideggers, vgl. M ARTIN H EIDEG GER , Vorträge und Aufsätze, in: Friedrich-Wilhelm von Herrmann (Hg.), Martin Heidegger Gesamtausgabe. I. Abteilung: Veröffentlichte Schriften 1910–1976, Bd. 7, Frankfurt a.M.: Vittorio Klostermann 2000, 42–43.97. Im Rahmen der Machenschaften, vgl. M ARTIN H EIDEG GER , Beiträge zur Philosophie (vom Ereignis), in: Friedrich-Wilhelm von Herrmann (Hg.),

Macht und künstliche Intelligenz

63

(ggf. ausbleibende) Effekte. Laut Heidegger wird dabei die Kausalität wesentlich im Sinne der causa efficiens verstanden, was sich vor allem darin zeige, dass die causa finalis bisweilen nicht als Teil der Kausalität angesehen werde, weil das Wirken das Verständnis von Kausalität bestimme.43 Denn wie sollte das Ziel, d.h. die Folge, für die Wirkung verantwortlich sein? Wenn jedoch die Folge ausbleibt, welche durch die causa finalis bestimmt ist, bleibt jemand diese(r) Folge schuldig. Diesen, die verschiedenen Ursachen des Aristoteles in der phänomenologischen Analyse vereinenden, Schuldbegriff deckt Heidegger auch im Bezug auf die anderen drei Ursachen auf. Man verschuldet sich gegenüber der Materie, die man verfertigt (causa materialis). Durch das Verfertigen bringt man sie in eine Form (causa finalis), die Schuld am Aussehen – einer Schale in Heideggers Beispiel – ist. In der Bestimmung zu etwas – die Schale als Opfergefäß – liegt, um es nochmals positiv zu wenden, die causa finalis, das »τέλος, [das] verschuldet, was als Stoff und was als Aussehen [die Schale] mitverschuldet.«44 Ohne das τέλος erreicht zu haben, bleiben Materie und Formung letztlich gerade das Ziel schuldig. Ohne diese drei causae wäre die Wirkursache ziellos, materiallos, formlos; aber ohne die Wirkursache (causa efficiens) würde die Vereinigung der Ursachen nicht zur Wirkung gebracht. Dass die vier Ursachen in dieser Weise zusammenwirken, liegt so in dem, was ins Werk gesetzt wird, jedoch größer ist als die Summe der causae. Alle causae sind auf Wirksamkeit aus. Ihre Einheit finden sie in der Verschuldung. Für Schuld ist jedoch keine Wirksamkeit vorausgesetzt, da auch das Ausblieben einer solchen die Verschuldung konstituieren kann. Das was Schuld und damit Ursachen ermöglicht, ist der Grund, der allen causae vorausgeht und diese in ihrer Einheit zusammenhält. Jenseits der Ursachen liegt im Grunde bereits das Wesen der Dinge, welches Teil der Welt ist, ehe es hergestellt wurde und nur aufgrund dessen es überhaupt hergestellt werden – bzw. dieses Herstellen ausbleiben – kann. Ohne den Grund wären Ziel, Material, Form und Wirkung unbestimmt. Das Wesen aber liegt dann auch weder in der Substanz der Materie, noch in einer festen Zielbestimmung, sondern ist etwas, das aus der Kontingenz des Grundes heraus anwesend wurde. Während die Ursachen den Mitteln zugeordnet werden, wird der Grund dem zugeordnet, was das Wesen als was es anwest bestimmt. Damit liegt der Grund jenseits der Unterscheidung von Technik als Mittel oder als menschliches Tun. Diese beiden Vorstellungen richten sich bereits an einem durch die Technik selbst gegebenen Verständnis aus. Martin Heidegger Gesamtausgabe. III. Abteilung: Unveröffentlichte Abhandlungen, Vorträge, Gedachtes, Bd. 65, Frankfurt a.M.: Vittorio Klostermann 1989, 47. 43 Vgl. H EIDEGGER , Die Frage nach der Technik, 10; dazu S ØREN R ISS , Zur Neubestimmung der Technik. Eine Auseinandersetzung mit Martin Heidegger, Tübingen: Franke Verlag 2011, 27. 44 H EIDEGGER , Die Frage nach der Technik, 11.

64

Christian Schlenker

Die Technik ist also nicht bloß ein Mittel. Die Technik ist eine Weise des Entbergens. Achten wir darauf, dann öffnet sich uns ein ganz anderer Bereich für dies Wesen der Technik. Es ist der Bereich der Entbergung, d.h. der Wahrheit.45

Heidegger vergleicht, um deutlich zu machen, in welchem Sinne die Technik entbirgt, ποίησις und τέχνη. Während die ποίησις etwas an sich selbst zeigt, entbirgt die τέχνη, was nicht an sich selbst zum Vorschein kommt. Die ποίησις stellt etwas her, sie macht etwas, in dem Sinne gehört das Verständnis der Technik als Mittel dem Bereich der ποίησις an. Die zweite Dimension ist für Heidegger entscheidend. Nur weil die vier Weisen des Verschuldens zusammengekommen sind, kann der Handwerker – ob er ein Künstler (τεχνίτης) seines Faches ist oder nicht – überhaupt Mittel einsetzen. Die Technik hat bereits das, was er mit was tun kann, in einer bestimmten Art gegenwärtig gemacht. Dass die Technik selbst Dinge als etwas gegenwärtig macht – und damit die Ursachen selbst zum Grund werden lässt –, beschreibt das Wesen der Technik. Denn nicht nur geht es bei der modernen Technik darum, dass sie Dinge als etwas anwesend macht, sondern darum, dass sie diese immer als etwas anwesend macht. Insofern das Was der Dinge ihr Wesen betrifft, gibt die Technik den Dingen ihr Wesen. Dadurch ist die Umwelt, in die der Mensch involviert ist, je durch die Technik selbst mit als das bestimmt, was sie ist: Das Erdreich entbirgt sich jetzt als Kohlenrevier, der Boden als Erzlagerstätte. Anders erscheint das Feld, das der Bauer vormals46 bestellte, wobei bestellen noch hieß: hegen und pflegen. Das bäuerliche Tun fordert den Ackerboden nicht heraus. Im Säen des Korns gibt es die Saat den Wachstumskräften anheim und hütet ihr Gedeihen. Inzwischen ist auch die Feldbestellung in den Sog eines andersgearteten Bestellens geraten, das die Natur stellt.47 45

A. a. O., 13. Zu diskutieren wäre, was Heidegger hier unter »vormals« versteht. Schließlich scheint er zu suggerieren, dass es eine Zeit gab, in der der Bauer in einer Art natürlichen (d.h. nicht technischen) Beziehung zur Natur lebte. Zweifelsohne hat sich das Verhältnis des Menschen zur Kontingenz der Natur gewandelt und der technische Fortschritt hat sein wesentliches dazu beigetragen. Technologien wurden jedoch auch weit vor der Moderne zur Bändigung und Beherrschung der Natur eingesetzt. Beispielsweise römische Bauwerke wie die Mühlen von Barbegal könnten dabei mühelos stellvertretend für Heideggers Wasserkraftwerk im Rhein einstehen. Entscheidend ist für Heidegger letztlich nicht die einzelne Technologie, sondern die sich durchsetzende Weltsicht – und dies beginnt für Heidegger bereits bei Aristoteles und seiner Lehre der vier causae –, welche die Machbarkeit der Dinge durch Technik ins Zentrum der Weltsicht stellt, vgl. vgl. I NGEBORG S CHÜSSLER, Machenschaft und Gestell. Heideggers zweifache Auslegung der Technik, in: Hans Friesen u. a. (Hg.), Ding und Verdinglichung. Technikund Sozialphilosophie nach Heidegger und der kritischen Theorie, München: Wilhelm Fink 2012, 65–98, 75–76. Da es jedoch unmöglich ist, sich jenseits des Ereignishorizontes einer Weltsicht zurückzuversetzen, bleibt jedes Postulat eines »vormals« romantisch (vgl. S TEFAN Z ENKLUSEN, Seinsgeschichte und Technik bei Martin Heidegger. Begriffsklärung und Problematisierung, Marburg: Tectum Verlag 2002, 55–56). Problematisch ist, dass dabei Narrative einer Ursprünglichkeit und Natürlichkeit eines »Urzustandes« suggeriert werden. 47 H EIDEGGER , Die Frage nach der Technik, 15–16. 46

Macht und künstliche Intelligenz

65

Heidegger macht hiermit darauf aufmerksam, dass das, was die Natur ist, sich nicht durch eine sie fest auszeichnende Substanz – dem Wortsinn nach das, was einer Sache »darunter steht« – ergibt, etwas das durch alle Veränderungen hindurch beharrlich bliebe,48 sondern, dass der technisch geprägte Umgang erst das gibt, was dadurch eine Gegenständlichkeit als etwas besitzt und ihr als solche eine Beständigkeit gibt.49 Wenn man ein Feld bestellt, oder ein Paket im Internet, verändert sich, was als was Teil der Welt ist. Der bestellte Ackerboden ist der Ort an dem Getreide wachsen wird. Das Klingeln an der Tür ist der neue Badezimmerschrank oder was man sonst bestellt hatte. Diese Dimension, in der Abwesendes als etwas anwesend gemacht wird, lässt sich nicht durch den Bereich der Wirksamkeit erfassen. Dass es nicht in den Bereich des Wirksamen und damit in den Bereich der Folgen fällt, bedeutet allerdings, dass es nicht in den Bereich einer Weber-Macht fällt. Was durch die Vorwegnahme der Zukunft durch KI anwesend gemacht wird, sind – wie oben in der Diskussion der These Nassehis gezeigt – verborgene Muster des Verhaltens. Diese formen eine Weltsicht, die vorgibt, was allererst gewollt werden kann, weil sie das Wesen der Dinge bestimmt. Dies betrifft nicht nur Ackerböden und Badezimmerschränke, sondern ebenso die Strukturen und Ordnungen des Zusammenlebens, die durch die Anwesung einer Weltsicht gegeben werden. Durch das selbstimmanente Wesen der Technik verliert die Weltsicht zunehmend ihre porösen Ränder, weil sie sich als eindeutig präsentiert – eine Perspektive der Wirklichkeit als einzig wahre anwesend macht – und damit die Fragwürdigkeit der Ordnung einschränkt.50 Dies aber ist gerade dann der Fall, wenn sich die Anwesung der Technik übergangslos und unsichtbar in die Welt integriert, dann wenn sie normal geworden ist: »Es ist auffällig, wie unauffällig diese riesenhafte technologische Textur unsere Lebenswelt durchwirkt – jedenfalls solange sie funktioniert.«51

48

So die Rede von der Beharrlichkeit der Substanz bei Kant, I MMANUEL K ANT, Kritik der reinen Vernunft, hrsg. von Ingeborg Heidemann, Stuttgart: Reclam 2013, B224/A182– B232/A189. Zur Heideggers Auseinandersetzung mit der Frage nach der Beharrlichkeit der Substanz im Rahmen der Bestimmung von Freiheit, vgl. C OSTANTINO E SPOSITO, Kausalität als Freiheit. Heidegger liest Kant, in: Heidegger Studies 20 (2004), 101–125. 49 Ingeborg Schüssler (S CHÜSSLER , Machenschaft und Gestell, 71–72) leitet die Beständigkeit von βεβαιότης her, was sie mit A RISTOTELES, Metaphysica, hrsg. von Werner Jaeger, Oxford: Clarendon 1957, IV.3, 1005b11–12.22 auf die Wendung βεβαιοτάτη ἀρχή zurückführt: den beständigsten Anfang – oder auch Grund. Zur Beständigkeit, vgl. H EIDEGGER, Beiträge zur Philosophie (vom Ereignis), 192; M ARTIN H EIDEGGER, Das Ereignis, in: FriedrichWilhelm von Herrmann (Hg.), Martin Heidegger Gesamtausgabe. III. Abteilung: Unveröffentlichte Abhandlungen, Vorträge, Gedachtes, Bd. 71, Frankfurt a.M.: Vittorio Klostermann 2009, 40. 50 Vgl. BABICH , Heideggers Wille zur Macht, 300. 51 A NDREAS L UCKNER , Heidegger und das Denken der Technik, Bielefeld: transcript 2008, 9.

66

Christian Schlenker

Durch die so gegebene Weltsicht, die vorgibt, was man als was verwenden kann und so die Wege des Hantierens steuert,52 ist gleichsam der Welt eine Beständigkeit und Verlässlichkeit gegeben. Denn es handelt sich nicht um ein privatives Phänomen, das die gleichbleibende Substanz in einem Gegenstand zerstörte, sondern gerade um ein positives Phänomen – im Wortsinne des positums, des Gestellten – welches allererst so etwas wie ein Gleichbleibendes gibt. Somit gibt das in den Bestand Gebrachte Beständigkeit. Beständigkeit ist aber im Wesentlichen Verlässlichkeit und damit Sicherheit.53 »Steuerung und Sicherung«54 fährt Heidegger fort, sind die zentralen Merkmale des Entbergens der modernen Technik. Kennzeichen der Steuerung ist, dass diese vorgibt, was als Mittel zu welchen Zwecken erscheint und damit den Raum der Zwecke gleichsam konditioniert. Das Merkmal der Sicherheit (und der Beständigkeit) ist, dass sie versucht, den prinzipiell (d.h. im Grunde) kontingenten Charakter alles Seienden, dass es etwas anderes sein könnte, zu reduzieren und zu vereindeutigen.55 Die Ganzheit der Welt, welche so durch die Technik als ein bestimmtes Weltbild gegeben ist, bezeichnet Heidegger mit dem Begriff des Gestells. Das Gestell ist somit die Ge-samtheit dessen, was be-stellt wurde: Im Ge-stell ereignet sich die Unverborgenheit, dergemäß die Arbeit der modernen Technik das Wirkliche als Bestand entbirgt. Sie ist darum weder nur ein menschliches Tun, noch gar ein bloßes Mittel innerhalb solchen Tuns.56 .

Die Beschreibung des Gestells hebt dabei hervor, dass Technik nicht nur eine Kunst in den Händen des Menschen ist, sondern die Welt als was sie ist gleichermaßen mitbestimmt. Weil die Welt des Menschen immer durch das technische Weltbild (mit-)bestimmt ist, menschliche Existenz aber wesentlich ihre Involviertheit mit der Welt ist, folgt, dass sich die so beschriebene Phänomenologie der Technik nicht von den in ihr und durch sie involvierten Menschen trennen lässt. Der Mensch ist immer schon in den Bereich des durch die Technik Bestellten eingebunden und durch diese vor die Aufgaben gestellt, die ihn bestimmten: »Als der so Herausgeforderte steht der Mensch im Wesensbereich des Ge-stells. Er kann gar nicht erst nachträglich eine Beziehung zu ihm aufnehmen.«57 52

Vgl. H EIDEGGER, Die Frage nach der Technik, 17. Die Formulierung Bestand betont dabei auch eine Dimension, in welcher Weise Heidegger die Deutung der Welt sieht: Alles ist Ressource zu einem Zweck. D.h. alles fällt in das technische Weltbild, weil es in einem instrumentellen Sinne verwendbar ist. Vgl. L UCKNER, Heidegger und das Denken der Technik, 122. 54 H EIDEGGER , Die Frage nach der Technik, 17. 55 Vgl. L UCKNER , Heidegger und das Denken der Technik, 17. In diesem Sinne formuliert Heidegger auch, dass die Fraglichkeit der Dinge durch die Technik genommen würde, vgl. H EI DEGGER , Beiträge zur Philosophie (vom Ereignis), 124, und dass es Aufgabe der Philosophie sei nach (im Sinne von: danach) der Technik die Frage wiederzugewinnen (vgl. H EIDEGGER, Vorträge und Aufsätze, 36). 56 A. a. O., 22. 57 H EIDEGGER , Die Frage nach der Technik, 25. 53

Macht und künstliche Intelligenz

67

Wie die Förderung der Kohle im Bergwerk dieses zu etwas macht, ist auch der Mensch durch seine Involviertheit mit der Technik herausgefordert und in seine Existenz hineingestellt. Dieses spezifische Stellen, dass den Menschen nicht in die ihm vorgegebenen Aufgaben stellt, bezeichnet Heidegger als Herausforderung. Doch weshalb sollte gerade das, was der Mensch seinem Wesen nach ist, eine Herausforderung sein? Herausforderung beschreibt einen Anspruch an den Menschen, eine Forderung, die ihn ereilt. Diese Forderung macht ihn zu dem, was er ist. Übertragen auf die digital mitbestimmte Lebenswelt, folgt somit, dass menschliche Existenz, weil sie durch das Digitale mitgestellt wird, immer auch58 digitale Existenz ist.

2. Socially embedded AI als Gestell Weil KI eine bestimmende Technologie innerhalb des Wesens der digitalen Technik ist, das Wesen der digitalen Technik aber unsere Welt in ihren sozialen Strukturen und Ordnungen mitgestaltet, kann die Betrachtung der KI als Gestell dazu dienen, zu artikulieren, was unter socially embedded AI verstanden werden kann. Denn was sozial einbettet, ist der Modus des Stellens, durch den die Welt als das ist, was sie ist, wie der Mensch als der herausgefordert ist, der er ist. Was der Bestand, die Beständigkeit und damit das Wesen von KI ist, ist immer verbunden mit der Art und Weise, was dadurch anwesend gemacht wird. Der Mensch ist im Bezug darauf, durch die Herausforderung mitbestimmt, als was er ist und tun kann. Die damit verbundene These lässt sich folgendermaßen zusammenfassen: Das Gestell der KI figuiert mit, wer und wozu der Mensch in welcher Welt wie ist. Wie Amanda Lagerkvist gezeigt hat, ist es wichtig hervorzuheben, dass hier eine Mitfiguration aber keine vollständige Bestimmung vorliegt, weil die Welt ebenso durch andere Prozesse gebildet wird.59 Auch bei Heidegger müsste in diesem Sinne zwischen einem Totalitätsanspruch des technischen Weltbildes und der Totalität des technischen Weltbildes unterschieden werden. Die kleinen Ereignisse des Lebens, die Lagerkvist anführt, wie die Begegnung mit dem »alltäglichen« Leid, der Absurdität und Ambiguität der Welt, brechen in jedes bestimmende Narrativ ein.60 Worin der Totalitätsanspruch der durch das Gestell gegebenen Wirklichkeit besteht, ist, dass eine Sicherheit und Beständigkeit des Weltbildes beansprucht wird, indem die Welt als etwas scheinbar objektiv Feststellbares anwesend gemacht wird, wodurch die Welt abgesichert – verlässlich, aber nicht fragwürdig und kontingent – erscheint: »Die Gewißheit des Vorstel58 Zum »auch« vgl. M ATILDA T UDOR , Queering Digital Media Spatiality. A Phenomenology of Bodies Being Stopped, in: Feminist Media Studies (2021), 1–16. 59 Etwa L AGERKVIST , Digital Limit Situations, 22. 60 Vgl. L AGERKVIST , Existential Media, 102; L AGERKVIST , Digital Limit Situations.

68

Christian Schlenker

lens und seines Vorgestellten wird zur Seiendheit des Seienden.«61 Auf die Vorhersagen der Zukunft durch KI übertragen, bedeutete dies, dass den Vorhersagen als zukünftigen Ist-Zuständen bereits grundsätzlich ein Maß der Gewissheit zugestanden wird.62 Als zukünftige Ist-Zustände sind die Ordnungen, in die das Gestell stellt, gerade nicht mehr fraglich, und damit nicht als prinzipiell verän-

61

M ARTIN H EIDEGGER, Nietzsche. Zweiter Band, in: Brigitte Schillbach (Hg.), Martin Heidegger Gesamtausgabe. I. Abteilung: Veröffentliche Schriften 1910–1976, Bd. 6.2, Frankfurt a.M.: Vittorio Klostermann 1997, 301; vgl. H EIDEGGER, Vorträge und Aufsätze, 25–26; R ISS, Zur Neubestimmung der Technik, 34–35. Wie Z ENKLUSEN, Seinsgeschichte und Technik bei Martin Heidegger, insb. 46–51 gezeigt hat, ist dies keine spezifisch moderne Bewegung, die Heidegger hier aufzeigt, sondern dass »[a]uch das christliche Mittelalter [...] metaphysische Konfigurationen an[bietet], von denen sich das Gestell [...] ableiten lässt.« (a. a. O., 46). In diesem Sinne die eigentliche Pointe Heideggers keineswegs das Herausarbeiten einer sich verflüssigenden Moderne, sondern im Gegenteil, dass das was an der Wirklichkeit eigentlich immer schon flüssig war und ist, durch die moderne Technik zunehmend aus dem Blick gerät, vgl. M ARTIN W ENDTE, Die Gabe und das Gestell. Luthers Metaphysik des Abendmahls im technischen Zeitalter, Tübingen: Mohr Siebeck 2013, 60–65. 62 Heidegger nennt dies »die Gefahr, daß der Mensch sich am Unverborgenen versieht und es mißdeutet.« (H EIDEGGER, Vorträge und Aufsätze, 27). Diese Gefahr liegt darin, dass sie von der suggerierten Sicherheit und Beständigkeit ausgeht, die sich auch gleichsam auf das Selbstverständnis des Menschen überträgt, vgl. L UCKNER, Heidegger und das Denken der Technik, 101.121. Diese Tendenz der Vereindeutigung der Welt liegt nicht darin begründet, dass es nur noch eine einzige Deutung gibt. Heidegger selbst beschreibt das Paradigma der naturwissenschaftlichen Weltsicht als Vereindeutigung. Es ist dieses Paradigma, nach welchem Maß Dinge bestimmt werden, nicht als was sie bestimmt werden, das die Vereindeutigung auszeichnet, vgl. A NNA KOUPPANOU, Technologies of Being in Martin Heidegger. Nearness, Metaphor and the Question of Education in Digital Times, London und New York: Routledge 2018, 112–113. Ein solcher Vereindeutigungsprozess muss auch für KIs angenommen werden, weil diese ihre Interpretation von Zusammenhängen und Extrapolation einer Menge möglicher zukünftiger IstZustände nach einem Maßstab generieren. Dieser Maßstab ist, mit unterschiedlichen zugrundeliegenden probabilistischen Theoriemodellen, aufgebaut auf Ist-Zuständen. Diese Werden im Verhalten beobachtet, analysiert, und extrapoliert. Damit wird der Bereich des Seienden, der immer schon nach einem Maß gemessen ist, in seiner Beständigkeit abgeschlossen und bewahrt. In diesem Sinne findet durchaus eine Bedeutungsreduktion statt, obgleich sich eine Vielzahl an Deutungen anbietet. Darum ist der Optimismus von Christoph Lütge unbegründet, vgl. C HRISTOPH L ÜTGE, Heidegger, Digitalisierung und Künstliche Intelligenz. Wo steht der Mensch?, in: Harald Seubert/Klaus Neugebauer/Manuela Massa (Hg.), ...wo aber Gefahr ist... Heidegger und die Philosophie der planetarischen Technik, Freiburg und München 2021: Verlag Karl Alber 2021, 60–75, 72: »Wenn wir festhalten, dass KI eine Technologie ist, die auf Daten basierend Beziehungen und damit auch Sinnhaftes erkennen kann, zumindest doch etwas mehr – bei aller Vorsicht dieses Begriffes – Sinn als die reine Aggregation von Daten, dann kann man auch zu dem Schluss kommen, dass sich KI von der von Heidegger kritisierten technologischen Weltsicht unterscheidet. Es geht KI nicht darum, Bedeutung zu reduzieren, sondern im Gegenteil um das erkennen und möglicherweise auch Erklären neuer oder verborgener Bedeutungen«.

Macht und künstliche Intelligenz

69

derbar im Blick. In diesem Anspruch Totalität zu sein, liegt das, was Heidegger erst die Machenschaften der Technik und später das Gestell nennt.63 Das Gestell KI bestimmt das Wer mit, weil es den Menschen durch die Herausforderung als jemanden anspricht. Diese Konfiguration beginnt bei personalisierten Suchergebnissen, weil hier im Kleinen vorgegeben wird, was der Raum des Möglichen ist. Durch die Herausforderung wird so die Welt mitfiguriert als ein Raum, der durch Möglichkeiten des Handelns, durch wozu und worumwillen strukturiert ist. Dass dieser Raum der Gründe, worumwillen man handeln kann, durch das Digitale mitkonditioniert ist, zeigt sich in der alltäglichen Praxis – wie wir suchen, finden, daten, navigieren, uns informieren, erleben und erfahren, vergleichen, lernen, ... – als Ausprägung einer strukturellen Durchwesung der Welt durch das Digitale. Dieser Raum ist die Welt in der ich aufgrund eines bestimmten Weltbilds stehe. Ferner ist das Gestell dadurch ausgezeichnet, dass es beschreibt, wie die Technik das Wesen des Grundes verdrängt. D.h. das Seiende aus der Seiendheit bestimmt. KI analysiert die Welt aufgrund einer Menge beobachteter Zustände des Verhaltens. Wie oder ob KI diese Analyse »versteht« ist an dieser Stelle nicht relevant. Wichtig ist, wie diese Analyse zurückwirkt. Die Extrapolation möglicher zukünftiger Ist-Zustände basiert immer darauf, die Menge der möglichen Ist-Zustände auf ein beherrschbares Maß einzuschränken und im besten Fall eine eindeutige Aussage zu produzieren. So wird etwa bei der Generierung einer Liste von Suchergebnissen das – aufgrund der Muster des Verhaltens bestimmte – wahrscheinlich Gesuchte auch dort angezeigt, worauf wahrscheinlich die Aufmerksamkeit gerichtet und in Folge geklickt wird. Was eine Suchanfrage bedeutet, wird immer bereits vor-interpretiert gegeben. Dass sich dabei auch soziale Strukturen und Ordnungen aufgrund der Muster des Verhaltens perpetuieren, zeigen zahlreiche Beispiele, die das KI-Anwendungen inhärente Bias offengelegt haben.64 Indem damit der Raum des Möglichen als aus vergangenen Zuständen extrapoliert wird, wird gleichzeitig mitgegeben, worumwillen gehandelt werden kann. Damit werden die Gründe, aus denen heraus gehandelt werden kann, durch die Technik selbst angewest. Gleich wie das im Gestell durch Heidegger beobach63

Die Machenschaften sind dabei nicht dasselbe wie die Macht, vgl. DALLMAYR, Heidegger on Macht and Machenschaft, 252–259. Heidegger spricht öfter davon, dass die Macht zur Machenschaft wird, vgl. bspw. H EIDEGGER, Die Geschichte des Seyns, 182–196. In diesem Fall geht es um den »Vordrang des Wesens der Macht als des Seins alles Seienden.« (a. a. O., 182). Wie das Gestell, so bestimmt auch die Macht die Anwesenheit. Der Anspruch auf die Totalität der Bestimmung des Seienden nach dem Maß des Seienden beschreibt die Machenschaft. Technikspezifisch nennt Heidegger dies letztlich Gestell. Zur Verbindung von Machenschaften und Wesen der Technik, bzw. Gestell, S CHÜSSLER, Machenschaft und Gestell; DALLMAYR, Heidegger on Macht and Machenschaft, 258–259; BABICH, Heideggers Wille zur Macht, 280. 64 Vgl. bspw. M ARK C OECKELBERGH , AI Ethics, Cambridge, MA: The MIT Press 2020, 124–160.

70

Christian Schlenker

tete Wesen der Technik aus der Seiendheit das Seiende bestimmt und damit das Wesen des Grundes verbirgt, werden auch durch die KI als Gestell Gründe anwesend gemacht, die die Welt als was sie ist, bestimmen und damit wie und wozu in ihrer von wem gehandelt werden kann. Es ist nun gerade dieser Raum, in dem die Macht der Gründe zu situieren und vom Grund der Macht zu unterscheiden ist. Diese Macht kommt vor jeder Wirksamkeit und vor jeder Kausalität. Insofern sich der Raum der Gründe auf eine konfigurierte Weltsicht bezieht, die sprachlich (durch Narrative, Symbole und Bilder) artikuliert ist, überschneidet sich diese Bestimmung mit diskursiven Machtbegriffen. Der Grund der Macht hingegen, welcher nach Heidegger das Wesen der Macht beschreibt, ist nicht nur logisch, sondern auch ontologisch die Bedingung der Möglichkeit des Anwesens jedweder Weltsicht und diskursiven Ordnung.

IV. Macht der Gründe und Grund der Macht Indem mit den Mustern etwas zuvor Verborgenes anwesend gemacht wird, erscheint es bereits interpretiert. Denn die Art und Weise, wie die Entbergung der Muster etwas anwesend macht, beeinflusst die Sphäre der Anwesenheit insgesamt. Es ist eine Vorgabe dessen, was die Welt ist. So speist sich auch alles, was gewollt werden kann nur aus dem Raum des in die Anwesenheit Gebrachten. Diese Welt wird gebildet durch die Präsentwerdung von Verborgenem. Dies spielt sich auf einer anderen Ebene ab als die Verwirklichung in Taten und Dingen. Demgemäß muss gefragt werden, welche Wirklichkeit durch die Offenlegung von Mustern durch KI in den Bestand – das worauf man dann als Dinge und mit Taten zu- und vorgreifen kann – gebracht wird. Es handelt sich um eine wirklichkeitsprägende Weise der Entbergung, weil damit vorgegeben wird, worauf man was mit welchem (praktischen) Ziel allererst thematisieren und in den Blick nehmen kann. Nicht, dass Menschen nicht immer schon Mustern gefolgt wären, doch nunmehr gehören diese Muster zu dem, was unabdingbar vor uns liegt. D.h. die Muster, die nun im Offenen liegen, zeigen auf und bedingen damit, was wir uns als unsere Zukunft vor-stellen können. Die Muster sind Ordnungen, die vor-geben, was die Welt als Welt ist. Damit zeigen sich an dieser Stelle zwei weitere Ebenen der Macht, die beide von der Weber-Macht verschieden sind.65 Einerseits (a) die Macht der Muster oder der Ordnungen, die als eine diskursive Macht der Gründe beschrieben werden kann. Andererseits (b) der Grund der Macht als jene Bedingung der Möglichkeit, durch die die Ordnungen als die Zukunft prägend erscheinen können. 65

Heidegger macht deutlich, dass man die Macht nicht auf den Bereich des Seienden beschränken darf, sondern, dass Macht auch immer eine ontologische Ebene beinhaltet, vgl. H EI DEGGER , Die Geschichte des Seyns, 76.

Macht und künstliche Intelligenz

71

(a) Bei der Macht der Gründe handelt es sich nicht um eine instrumentale Vorstellung der Macht. Vielmehr wird durch sie ein Raum eröffnet, der verschiedene instrumentale Formen der Anwendung erlaubt. Die Macht, die so bedingt, was gewollt werden kann, bedingt ihrerseits die instrumentelle Macht, welche Zuboff beschreibt. Es ist die Macht, zu deren Machtmittel es wird, sich durch den »Willen« einer Person zur Wirklichkeit zu bringen. Denn diese Macht formt die Welt, in der sich der Mensch bewegen und verwirklichen kann, weil sie bestimmt, was er allererst wollen kann. Das, was uns als Zukunft bevorsteht, folgt bestimmten Mustern und weil künstliche Intelligenz diese Muster aufzudecken vermag, treten uns viele Vorwegnahmen entgegen. Beispiele sind etwa GoogleMaps oder andere Formen digitaler Wegweiser, welche uns die Wege in der »echten« Welt zeigen. Eine Adresse, einen Laden oder eine Sehenswürdigkeit, die es dort nicht zu finden gibt, verschwindet nahezu aus der Welt. Das zeigt sich weniger dort, wo unsere Welt geprägt ist von den Mustern unserer Alltäglichkeit, wenn wir beispielsweise morgens zum Bäcker gehen. Aber in der Ferne, fragt man oftmals nicht mehr nach, sondern versucht mit dem digitalen Wegweiser in der Hand eine ähnliche Nähe und Ortskenntnis wie zu Hause herzustellen. Die Ferne wird eingerichtet durch das Digitale und damit ent-fernt.66 Durch diese Entfernung wird eine Wegplanung möglich. Doch planbar ist nur, was das Digitale vorgibt. Die Möglichkeit zum Bäcker zu gehen, ist damit in der Ferne bedingt durch eine Form der digitalen Existenz. Die unbedingte Dominanz des Digitalen über diese Bedingungen der Möglichkeit ist das Szenario, das Zuboff als Utopie der digitalen Konzerne vorstellt. Ist die perfekte Planbarkeit erreicht, begründet in der Vorgabe eines Konzerns, so ihr Argument, weicht die Freiheit der Vorwegnahme. Was dabei geschieht ist, dass den Ordnungen ihre porösen Ränder genommen werden. Indem die Welt genähert wird, wird sie als eine bestimmte Ordnung anwesend gemacht. Dabei erscheint die Zukunft in dem Modus, indem sie anwesend wird, nicht als ein Raum der Möglichkeiten, sondern als eine Menge zukünftiger Wirklichkeiten, die durch ein Planen erreichbar sind. Zwischen diesen kann abgewogen und gewählt werden. In diesem Sinne erhält auch Zuboffs Rede von guaranteed outcomes neues Gewicht. Dieser Raum des Planbaren, der durch die Gabe von Gründen gegeben ist, bedarf keiner exakten Bestimmung der individuellen Handlungen. Was Zuboff bei ihrer Analyse übersieht, ist, dass die Art und Weise, wie die datenbasierte Verhaltensanalyse und -vorhersage geschieht, nicht ein eindeutiges Muster für jedes Individuum per se berechnet und damit exakt recht hat, sondern dass die individuellen Abweichungen von der Vorhersage, allein in der Masse aufgewogen wird. Die Vorwegnahme der Zukunft ist dann nicht zu verstehen als ein spezifisches Ergebnis, das durch die Ganzheit der Planbarkeit gegeben ist, sondern es ist die Menge verschiedener zukünftiger Wirklichkeiten, wovon 66 Heidegger thematisiert die technische Ent-Fernung selbst, vgl. H EIDEGGER , Bremer und Freiburger Vorträge, 3–4.24–26.

72

Christian Schlenker

eine Pseudo-Notwendige das vergegenwärtigte Ergebnis sein wird. Die Voraussetzung dafür ist nicht das instrumentale Verständnis der Macht der Technik, sondern, dass die Macht der Technik schon auf eine dominante Art weltbildend ist. Als solche ist sie maß-geblich: Sie gibt ein Maß, mit dem die Welt gemessen wird. Heidegger spricht darum davon, dass durch die Gabe des Maßes etwas geschehe, was die Welt verzauberte und verhexte. Indem die Kontingenz der Welt im technischen Weltbild durch deren Berechenbarkeit ersetzt wird, bedeutet die Verhexung der Welt eine Vereindeutigung, in der nichts länger fragwürdig scheine.67 Aber anders als die verzauberte Welt, die man sich gerne vor der Aufklärung erfindet, gibt das Maß kein Ziel, keine Bedeutung, keine Bestimmung vor.68 Was die dominante Art oder Hegemonie einer Ordnung hingegen auszeichnet ist, dass zwar nicht die Erwirkung einer spezifischen Folge aus einer Menge bevorstehender Wirklichkeiten, sondern dass diese Menge der Wirklichkeiten als die Zukunft erscheint, sodass es nur eine Wahl daraus zu geben scheint. Durch diese plurale Bestimmung der Zukunft entsteht eine »Gewissheit«, weil an den Rändern des Diskursraums das Fragwürdige und poröse genommen und durch die Planbarkeit ersetzt wird. Die Utopie der guaranteed outcomes kann vor diesem Hintergrund auch als Folgeerscheinung der bisherigen Vorhersagemodelle beschrieben werden. Denn es handelt sich bei den guranteed outcomes nicht um eine Verhaltensänderung, die bewirkt, dass ich etwas will, das ich niemals gewollt hätte. Wie Zuboff hervorgehoben hat, beziehen sich diese Vorhersagemodelle auf etwas, was mit und durch den Willen einer Person und gerade nicht gegen diesen Willen geschieht. Doch wird dabei der Wille keinesfalls ausgehöhlt und durch etwas »Wesensfremdes« ersetzt, sondern es wird etwas bereits Anwesendes aufgegriffen und verstärkt, um die Vorhersagequalität zu verbessern. Er wird in seinem Raum der Gründe gesichert und somit gesteuert. – Dies ist jedoch kein neuer Mechanismus der Macht, der dabei aufgedeckt wird. Diese Macht prägt jeden Diskursraum und mit ihm die Dispositive des Diskurses, indem sie bestimmt, was gewollt werden kann, wie Rainer Forst hervorhebt: Wie alle großen Theoretiker der Macht hervorheben, ist der eigentliche Ort von gesellschaftlichen Machtkonflikten der diskursive Raum – der Raum in dem Rechtfertigungen geformt und reformiert, hinterfragt, erprobt oder auch versiegelt und reifiziert werden. Dies ist der Bereich, in dem Interessen und Präferenzen sich bilden und wo die ideologische Akzeptanz der Unter-

67

Vgl. H EIDEGGER, Beiträge zur Philosophie (vom Ereignis), 124; dazu BABICH, Heideggers Wille zur Macht, 296–297. Am Beispiel von Facebook hat dies Anna Koupanou nachgezeichnet, vgl. KOUPPANOU, Technologies of Being in Martin Heidegger, 126–136. 68 Anders als NASSEHI , Muster, 86 schreibt, handelt es sich dabei nicht um eine »Wirkmacht« im eigentlichen Sinne. Denn es handelt sich nicht nur um eine Macht, die ist wenn sie wirkt, sondern um eine Macht, die vorontologisch anwest, ehe sie wirkt.

Macht und künstliche Intelligenz

73

ordnung hegemoniale Rechtfertigung findet, wie Gramsci es betont und Lukes es ihm folgend mit seiner dritten Dimension der Macht hervorhebt.69

Die Abgrenzung und Bestimmung des Raums der Gründe beschreibt die Inanspruchnahme der Zukunft durch das Digitale anders als die Vorstellung einer vollständigen Determination des Willens, wie es Zuboff suggeriert. Die Steuerung der Handlungen geschieht durch die Sicherung eines Weltbildes und damit einer Welt, welche vorgibt, welche Handlungen allererst möglich sind. Was damit als Gründe erscheint und auf diese aus den Mustern extrapoliert als Handlungsmöglichkeiten vorliegt, ist eine Menge von zukünftigen Wirklichkeiten, die sich aus der Vergangenheit ergibt. Die Ziele, um deren willen wir handeln, werden vor-gegeben als Gründe. Es handelt sich um Gründe, weil sie auf eine bestimmte Weise interpretiert vor uns liegen. Es ist das Weltbild, aus dem heraus wir agieren, das durch diese Gründe geprägt ist.Diese Strukturierungen lassen sich mit Rainer Forst70 als Rechtfertigungsnarrative beschreiben, insofern Geschichten Gründe tragen, weswegen etwas geschehen ist.71 Eine Macht liegt dabei in den Gründen, in jenem worumwillen etwas getan wird.72 Diese Gründe oder Rechtfertigungen sind nicht monolithisch, sondern müssen als eine Klasse oder eine Menge gefasst werden.73 Rainer Forst stellt ferner die Bedingung auf, dass die innere Ordnung dieser Klasse oder Menge, welche diese zu einer Rechtfertigungsordnung werden lässt, nicht auf einer basalen Ebene widersinnig und selbstwidersprüchlich sein dürfe.74 Diese Einschränkung ist im Rahmen einer Habermasschen Begründungsbasis, welche die Vernunft als das Vermögen der Rechtfertigungen bestimmt, nachvollziehbar.75 Damit fällt jedoch jene Dimension der Macht aus dem Blick, welche das Maß dessen gibt, was 69 F ORST , Normativität und Macht, 73. Zu Forsts Begriff der noumenalen Macht, vgl. S IMON S USEN, The Seductive Force of ›Noumenal Power‹. A New Path (or Impasse) for Critical Theory?, in: Mark Haugaard/Matthias Kettner (Hg.), Theorising Noumenal Power. Rainer Forst and His Critics, Oxon und New York: Routledge 2020, 6–47. 70 Forst selbst führt in seiner Definition der Macht der Gründe wiederum Machtträger ein. »Macht unterworfen zu sein heißt, von Gründen geleitet zu werden, die andere mir gegeben haben und die mich dazu bringen, auf eine Weise zu denken oder zu handeln, die die Gründegeber intendierten.« (F ORST, Normativität und Macht, 60). 71 Definition der Rechtfertigungsnarrative nach Forst: »Rechtfertigungsnarrative betrachten wir als Formen einer verkörperten Rationalität, denn hier verdichten sich Bilder, Partikularerzählungen, Rituale, Fakten sowie Mythen zu wirkmächtigen Gesamterzählungen, die als Ressource der Ordnungssinngebung fungieren.« (a. a. O., 87). 72 Diese Dimension lässt sich auch bei Weber finden, der von der »Sache« spricht, um die es geht, vgl. W EBER, Wissenschaft als Beruf, 1917/1919 – Politik als Beruf, 1919, 227–228. 73 Diesen Punkt hebt auch F ORST , Normativität und Macht, 74 gegenüber der Darstellung Foucaults hervor, welche immer den Eindruck erwecke, dass die Machtkonstellationen in sich homogen wären. 74 Vgl. a. a. O., 85–89. 75 Vgl. a. a. O., 39; dazu M ATTHIAS K ETTNER , The Forstian Bargains. Overrationalizing the Power of Reasons, in: Mark Haugaard/Matthias Kettner (Hg.), Theorising Noumenal Power.

74

Christian Schlenker

als widersinnig oder selbstwidersprüchlich gefasst werden kann. Dieser Raum der Gründe, welche bestimmte Handlungen möglich macht, soll als Macht der Gründe bezeichnet werden. Es handelt sich um Macht, weil sie die Möglichkeiten des Verhaltens bestimmt. (b) Die Macht des Grundes ist dann als das Dominantwerden einer Klasse oder Menge von Gründen zu definieren, welche die Welt formt, in dem bestimmte individuelle, institutionelle, und / oder gesellschaftliche Handlungen möglich sind. Dazu gehört gerade das Etablieren des Raums, in welchem Rechtfertigungen als Legitimationsbasis von Handlungen sowie das Maß der Kohärenz der Ordnung gegeben wird. Heidegger selbst rückt dieses Wesen der Macht eng an die Dominanz der Technik heran.76 Die Macht verberge die Wahrheit des Wesens und ersetze sich durch das Unwesen des Seienden.77 Doch denkt Heidegger dabei nicht an das Verbergen einer beharrlichen Substanz, welche unveränderlich den Dingen zugrunde läge, aber durch die Macht verdeckt würde. Was die Welt ist, ist gerade das Offene und Nicht-Festgestellte, das was prinzipiell – im Grunde – immer etwas anderes sein kann und somit wesentlich kontingent und fragwürdig ist. Die Macht aber – und aus diesem Grund rückt die Beschreibung letztlich so nahe an das Wesen der Technik heran – möchte immer Vereindeutigung. Denken wir aber das Wesen der Macht selbst, d. h. verstehen wir sie als Sein, dann zeigt sich alsbald, daß zur Macht die wesentliche Gleichmachung gehört und dies in einem unbedingten Sinne.78

Macht etabliert so die Anwesenheit von Gründen als eine Ordnung – oder: das Wesen der Macht ist je ein strukturierter Raum der Gründe. In dieser Bestimmung der Macht ist folglich kein Subjekt A mit einer Intention a vorausgesetzt.79 Macht kann grundsätzlich subjektlos gedacht werden, weil sie keinen Verursacher kennt. Diese Macht setzt keinen Machtträger und keinen Unterworfenen der Macht voraus. Es handelt sich um eine Macht, die nicht an ihrer Wirksamkeit gemessen werden kann, weil sie nichts bewirkt, sondern begründet. Die Macht des Grundes hat immer schon einen Raum der Ordnungen hervorgebracht, innerhalb dessen Verhalten möglich ist und die Möglichkeiten des Verhaltens gegeben sind. Es ist keine Macht, die sich im Bereich des Seienden bewegt – oder mit der Sprache des späten Heideggers dem Anwesenden – sondern auf der Ebene des Seins – oder mit der Sprache des späten Heideggers der Seinsgeschichte. Während die Weber-Macht bedingt ist durch den Einfluss einer Entscheidung auf eine KauRainer Forst and His Critics, Oxon und New York: Routledge 2020, 117–128, 117–221, 125– 126n1. 76 Vgl. H EIDEGGER , Die Geschichte des Seyns, 195–196. 77 Vgl. a. a. O., 62. 78 A. a. O., 81. 79 Damit anders als etwa bei Forst vorausgesetzt, vgl. F ORST , Normativität und Macht, 60.77.

Macht und künstliche Intelligenz

75

salkette, gibt die Heidegger-Macht den Raum, in dem (mögliche und wirkliche) Entscheidungen und Ursachen überhaupt als etwas Bestimmtes gegeben sind. Die Weber-Macht wie auch die Zuboff-Macht bleiben selbst Unterworfene der Kausalität. Die Heidegger-Macht ist hingegen nicht durch das Gesetz der Kausalität bedingt. Sie schafft den Rahmen, in dem etwa Kausalität als Kausalität nicht nur beschrieben werden kann, sondern auch allererst ist. Die Macht ist dann das als strukturierbar Erscheinen des Raumes des Zwischens zwischen Menschen, denn sonst würde sie überhaupt nicht den Bereich erreichen, der retrograd zum Raum der Zuschreibung werden kann. Macht setzt die Begegnung voraus, jedoch noch nicht die diskursive Ordnung, die durch die Macht etabliert ist. Die Macht der Muster ist bereits gesetzte Macht, geweste Macht, in der sich bereits eine Ordnung ausgebildet hat. Der Zusammenhang des Raums des Zwischen und des Raums der Macht ist die Grundlosigkeit der Gründe, die als Ordnung gesetzt werden.80 Auf dieser Ebene kann letztlich mit Heidegger eine Beschreibung der Macht der Technik gegeben werden. Mit dieser Macht ist dann jenes Grundlegen der Wirklichkeit angesprochen, welche Heidegger in der Metapher des Gestells gefasst hatte. Was Macht und Heideggers Beschreibung der Technik dabei verbindet, ist der Anspruch auf eine Vereindeutigung des Raums der Gründe und das Bestreben die Kontingenz der Welt durch eine Beständigkeit zu ersetzen.81 Diese das Weltbild bildenden Macht macht die Zukunft. Nicht in dem Sinne, wie ihn Zuboff kritisiert, dass das Recht auf die Zukunft genommen würde, sondern in dem Sinne, dass hier vorgegeben wird, was die Zukunft sein kann. Indem alles in die Anwesenheit gebracht wird, handelt es sich dabei nicht um Möglichkeiten als Möglichkeiten, sondern um Möglichkeiten als zukünftige Wirklichkeiten. Dabei fällt Zukunft im Sinne der KI als Gestell in eins mit »wahrscheinlich Wirksam«.82 80 Vgl. H ANNAH A RENDT , Vita activa oder Vom tätigen Leben, 13. Aufl., München: Fischer 2013, 302–308; ebenso H EIDEGGER, Die Geschichte des Seyns, 188–189. Ferdinando G. Menga hat gezeigt, dass diese Dimension des Politischen sich bereits in den Schriften des frühen Heideggers zeigt, F ERDINANDO G. M ENGA, Ausdruck, Mitwelt, Ordnung. Zur Ursprünglichkeit einer Dimension des Politischen im Anschluss an die Philosophie des frühen Heidegger, Paderborn: Wilhelm Fink Verlag 2018. 81 Vgl. H EIDEGGER , Die Geschichte des Seyns, 79. 82 Für Heidegger mündet diese Überlegung in einem Technik- und Kulturpessimismus: »Die Herrschaft des Ge-stells droht mit der Möglichkeit, daß dem Menschen versagt sein könnte, in ein ursprüngliches Entbergen einzukehren und so den Zuspruch einer ursprünglichen Wahrheit zu erfahren.« (H EIDEGGER, Vorträge und Aufsätze, 29). Auf anderen Wegen hat Heidegger damit dieselbe Angst, wie Zuboff: Beide setzen voraus, dass dem Menschen es zu Teil werden kann, selbst einen Anteil am Zuspruch des ursprünglichen Entbergens zu erhalten, das heißt: eigentlich zu sein, wer sie sind. Beide sehen dieses wahre Wesen des Menschen durch das Fortschreiten der Technik in seinem Innersten angegriffen. Bei Heidegger ist dieses jedoch gerade nichts Festgestelltes, sondern immer die Offenheit der Welt selbst. Dies ist bei allem Pessimismus Heideggers immer im Blick zu behalten: Es geht ihm letztlich (jedoch zwischenzeitlich)

76

Christian Schlenker

V. Macht und Verantwortung als Wesensbestimmungen von Mensch und Wirklichkeit Der Begriff der Zurechnungsverantwortung, welcher versucht einen kausal Verantwortlichen zu benennen, kann nicht alle Bereiche, die mit dem Begriff der Verantwortung beschrieben werden, abdecken. Ihn aufgeben zu wollen, nur, weil es andere Dimensionen der Verantwortung, der Macht und auch der Freiheit gibt, ist nicht zielführend, weil man dann ebenso mit einem falschen Maß messen würde.83 Ihn für erschöpfend zu behaupten, würde die Strukturiertheit, der hier vorgestellten zwei anderen Dimensionen wiederum untergraben. Darin muss, obgleich sie selbst nicht über den Rahmen der Kausalität hinausgeht, ein besonderer Wert der Arbeit Zuboffs erkannt werden. Aufgrund der Phänomene des Digitalen hat sie herausgestellt, dass gängige Begriffe von Verantwortung, Macht und Freiheit hier an eine Grenze geraten, weil das Ursache-Folge Modell nicht alle sich einstellenden Phänomene beschreiben kann. Eine zweite Dimension von Macht wurde als Raum der Gründe beschrieben. Hierin werden Handlungen strukturiert, als was sie sein können.84 Aus welchen Gründen und zu welchen Zielen gehandelt werden kann, wird durch diesen abgesteckt und vorgegeben. Dies geschieht nicht durch eine Macht, welche gegen den Willen vorgibt, was zu tun ist. Auch handelt es sich nicht um eine Macht, welche den Willen direkt gibt. Vielmehr handelt es sich um jene Macht, welche den Rahmen, in dem verschiedene Willen möglich sind, strukturiert. Weil sie dies durch Narrative, Symbole und Bilder tut, kann dieser Raum auch als eine diskursive Macht gefasst werden.85 Heidegger beschreibt die Art und Weise wie dieser Raum als Weltbild durch das Wesen der Technik mitgebildet wird mit der Metapher des Gestells. Heidegger legt dabei wenig Wert auf die innere Strukturierung des Weltbildes, sondern

nicht um eine Rückkehr zu einer oder Besinnung auf eine wahre Form des Wesens, sondern um die Wahrung der offenen Vielgestalt der menschlichen Existenz. Nur vor dieser Folie ergibt der Kulturpessimismus als eine Angst vor Vereinheitlichung der Welt Sinn. 83 Solche Versuche, welche den rechtlichen Begriff von Verantwortung aufgrund der Voraussetzung einer falsch konzipierten Freiheit in Zweifel ziehen, finden sich immer wieder in der Heideggerforschung (vgl. etwa G ÜNTHER N EUMANN, Heideggers Freiheitsbegriff. In Sein und Zeit unter Berücksichtigung der neueren Diskussion in den Neurowissenschaften und der Rechtsphilosophie, in: Harald Seubert (Hg.), Neunzig Jahre ›Sein und Zeit‹, Freiburg: Alber Verlag 2019, 239–274; AGNES W ULFF, Die existenziale Schuld. Der fundamentalontologische Schuldbegriff Martin Heideggers und seine Bedeutung für das Strafrecht, Münster: Lit 2008). 84 Eine ähnliche Gliederung der Ebenen in einem anderen Kontext hat W ENDTE , Die Gabe und das Gestell, 25–26 vorgeschlagen, jedoch nur kurz ausgeführt. Anzumerken wäre, dass die Abfolge Macht des Grundes, Macht der Gründe, und Handlungsmacht, nicht zeitlich hierarchisch sind (so a. a. O., 26). 85 Zu den Dimensionen von Narrativ, Symbol und Bild als Teile der Artikulation von Welt, vgl. KOUPPANOU, Technologies of Being in Martin Heidegger, 35–48.

Macht und künstliche Intelligenz

77

betont, wie diese Strukturierung ontologisch grundlegend ist.86 Diese ontologische Grundlegung formt den Raum innerhalb dessen Ursachen sind. Die erste Dimension von Macht und Verantwortung, welche sich auf Kausalität und Wirksamkeit stützt, ist auf diese Weise immer in gesellschaftliche und soziale und als solche auch immer technische Rahmenbedingungen eingebunden. Ein dem Wesen der Macht korrespondierender Verantwortungsbegriff kann sich nicht an der Kausalzuschreibung orientieren. Insofern der Mensch zumeist Mustern folgt – die dann von KI offengelegt werden können –, ist er nicht der freie Entscheidungsträger seiner eigenen Handlungen. Mehr noch: Es gibt in gewissem Sinne keinen Entscheidungsträger, insofern das, was zur Entscheidung werden kann durch den Raum der Gründe vor-gegeben ist, der von keinem ausweisbaren Subjekt etabliert wird.87 Ein Verantwortungsbegriff, der einen maßgeblichen Punkt im Kausalitätsgefüge als Träger ausmachen wollte, kann diese Ebene freilich nicht fassen. Insbesondere durch die Beschreibung der KI als präziser Soziologiemaschine wird deutlich, dass das Musterwesen Mensch immer schon geprägt und geworfen ist, in Ordnungen, Rechtfertigungen und Gründe, die ihm selbst vorangehen. Weil der Mensch damit zumeist und zumal in einen strukturierten Wirklichkeitsraum geworfen ist, ist er von der Macht schon übernommen. Der alltägliche Modus der Begegnung mit der Macht ist folglich die Ohnmacht.88 Sich zu einer Entscheidung verhalten zu können und diese nicht als Gewissheit, sondern als Fragwürdigkeit zu betrachten, und durch Übernahme oder Zurücknahme wird Verantwortung übernommen. Verantwortung liegt dann gerade im Ungewissen begründet. Dann ist Verantwortungsübernahme nicht daran geknüpft, dass das, wofür man Verantwortung übernimmt auch von einem selbst verursacht worden sein muss. Verantwortung zu übernehmen, bedeutet dann eingedenk der Ungewissheit des Anfangs zu hinterfragen und ggf. dem entgegenzustehen, wie sich Ordnungen etabliert halten. Dann gibt es jedoch Modi der Verantwortungsübernahme die anders funktionieren als jedes Tragen von Macht. Verantwortungsübernahme bedeutet dann sich der Ohnmacht der schuldlosen Abhängig- oder Angefangenheit anzunehmen.89 86

Vgl. M ARKHAM, Digital Life, 18–19.57.135. Bspw. im Vortrag Gelassenheit (1955) thematisiert Heidegger, dass der gegebene Rahmen außerhalb der Entscheidungsfähigkeit des Menschen liegt, vgl. M ARTIN H EIDEGGER, Reden und andere Zeugnisse eines Lebensweges. 1910–1976, in: Hermannn Heidegger (Hg.), Martin Heidegger Gesamtausgabe. I. Abteilung: Veröffentlichte Schriften 1910–1976, Bd. 16, Frankfurt a.M.: Vittorio Klostermann 2000, 524: »In allen Bereichen des Daseins wird der Mensch immer enger umstellt von den Kräften der technischen Apparaturen [...]. Die Mächte, die den Menschen überall und stündlich in irgendeiner Gestalt von technischen Anlagen und Einrichtungen beanspruchen, fesseln, fortziehen und bedrängen – diese Mächte sind längst über den Willen und Entscheidungsfähigkeit des Menschen hinausgewachsen«. 88 So schon in SZ, 384–385. 89 Zur Verantwortung im Werk Heideggers, vgl. R AFFOUL , The Origins of Responsibility, 220–281; F RANÇOIS R AFFOUL, Heidegger and the Origins of Responsibility, in: Raf87

78

Christian Schlenker

Worauf die Analyse des Wesens der Macht dabei letztlich aufmerksam macht, ist, dass es sich um eine ontologische Machtdimension handelt, welche den Ordnungen der Gründe vorangeht. Jede Verantwortung, die dieser korrespondiert, muss ebenso eine ontologische sein. Der Mensch als Infragegestellter ist verantwortlich und trägt nicht nur Verantwortung. Worauf das Gestell der KI aufmerksam macht, ist, dass die Verantwortung für die Dimension dessen wie und welche diskursiven Strukturen den Raum der Handlungsmöglichkeiten, für die gesellschaftliche Auseinandersetzung mit künstlicher Intelligenz wesentlich ist. Dabei handelt es sich um eine andere Dimension als die Frage nach der Schuldzuweisung bei Verfehlungen. Es geht um die Gestaltung der Ziele und Gründe, in denen auch das Alltägliche thematisiert wird. Nicht nur die Abweichung von gegebenen Ordnungen und Strukturen, sondern gerade das, was als Ordnung und Struktur als das Normale90 gilt, wird so zum Gegenstand der Verantwortung. Die Strukturen und Ordnungen in den Blick zu nehmen, ermöglicht letztlich »eine freie Beziehung«91 zur Technik und damit ebenso zur gesellschaftlichen Gestaltung der KI als Gestell.92

foul François/Pettigrew David (Hg.), Heidegger and Practical Philosophy, Albany: SUNY Press 2002, 205–218; M ARTIN T HOMÉ, Existenz und Verantwortung. Untersuchungen zur existenzial-ontologischen Fundierung von Verantwortung auf der Grundlage der Philosophie Martin Heideggers, Würzburg: Königshausen & Neumann 1998. 90 Oder mit Heidegger: Es wird eine Öffentlichkeit als Wahrheit etabliert, vgl. H EIDEGGER , Die Geschichte des Seyns, 79. 91 H EIDEGGER , Vorträge und Aufsätze, 7 (Hervorhebung C.S.). 92 In diesem Sinne lässt sich auch die These von Die Frage nach der Technik deuten, vgl. R ISS, Zur Neubestimmung der Technik, 22.

II. Anthropology

What Transformation Do We Believe in Tijana Petkovi´c I. Quick Historical Overview The New Testament writers and early Christian authorities syncretized Christianity with the science of their time, which came from the ancient philosophers. During the following centuries, Christian theologians continued to preach »becoming one with Christ« and »becoming God«. In many discussions about the transhumanist movement, we have noticed that there exists, »already in the ancient Christian Tradition, a discourse that it is itself transhumanist, in the sense of reaching beyond the human.«1 I am talking here about the doctrine of the¯osis (θέωσις – deification2 ), which can be found in the Old and New Testament, de-

1 E UGENIA T ORRANCE , Acquiring Incorruption. Maximian The¯ osis and Scientific Transhumanism, in: Studies in Christian Ethics 32.2 (2019), 177–186, 178. 2 For the most recent general studies on deification, see the two volumes edited by Kharlamov and Finian, S TEPHEN F INLAN/V LADIMIR K HARLAMOV, Theosis. Deification in Christian Theology, vol. 1, Eugene: Pickwick Publications 2006; V LADIMIR K HARLAMOV, Theosis. Deification in Christian Theology, vol. 2, Eugene: Pickwick Publications 2011; and Christensen and Wittung, M ICHAEL J. C HRISTENSEN/J EFFERY A. W ITTUNG (ed.), Partakers of the Divine Nature. The History and Development of Deification in the Christian Traditions, Grand Rapids, Mich: Baker Academic 2007. For an Eastern Orthodox treatment on the topic, see PANAYIOTIS N ELLAS, Deification in Christ. Orthodox Perspectives on the Nature of the Human Person, Contemporary Greek theologians, Crestwood, NY: St. Vladimir’s Seminary Press ¯ ¯ , The Deification of Man. St. Gregory Palamas and the 1987; G E ORGIOS I. M ANTZARID ES Orthodox Tradition, Contemporary Greek Theologians, Crestwood, New York: St. Vladimir’s Seminary Press 1984; N ORMAN RUSSELL, Fellow Workers with God. Orthodox Thinking on Theosis, Foundations Series, Crestwood, NY: St. Vladimir’s Seminary Press 2009. The most comprehensive studies of deification in the writings of the Greek Fathers are found in J ULES G ROSS, The Divinization of the Christian According to the Greek Fathers, Anaheim: A & C Press 2002 and N ORMAN RUSSELL, The Doctrine of Deification in the Greek Patristic Tradition, The Oxford Early Christian Studies, Oxford ; New York: Oxford University Press 2004. For deification in Maximus, the classic study is that of J EAN -C LAUDE L ARCHET, La divinisation de l’homme selon saint Maxime le Confesseur, Cogitatio fidei 194, Paris: Editions du Cerf 1996, and RUSSELL, The Doctrine of Deification in the Greek Patristic Tradition has devoted a section of his study to Maximus, op. cit., 262–295. See also D ESPINA P RASSAS, Deification in Two Early Writings of St. Maximos the Confessor. Attaining Likeness to God, in: Sophia 60.4 (2021), 797–817, 799.

82

Tijana Petkovi´c

veloped by the Church Fathers, and later on became very popular not only in Eastern Orthodox Theology, but also in Western Christianity. The term transhumanism as an evolutionary concept is usually connected to Julian Huxley, evolutionary biologist and philosopher, who wrote in his book New Bottles for New Wine in 1957: »The human species can, if it wishes, transcend itself – not just sporadically, an individual here in one way, an individual there in another way, but in its entirety, as humanity.«3 But the history of transhumanism and its etymology is significantly longer. Natasha Vita-More, founder of Humanity+4 , writes in detail in her article on the etymology of »transhumanism« and similar terms, that we can find it in Dante’s (1265–1321) and Francis Bacon’s (1561–1626) writings.5 In Transhumanist Manifesto, Vita-More states that the Italian verb »transumanare« or »transumanar« was first used by Dante in the Divine Comedy, with the meaning »go outside the human condition and perception«, which translates to English as »to transhumanate«.6 Ronald Cole-Turner made a significant contribution to the human enhancement debate from a Christian theological and ethical perspective. He also points out that »transumanar« is used by Dante, explaining that it was Dante’s word to describe the glorious transformation that Christians experience as they ascend into God’s presence. Cole-Turner claims that transhumanism has Christian roots, quoting the New Testament, 1 John 3:2 »What we will be has not yet been revealed. What we do know is this: when He [Christ] is revealed, we will be like him.«7 What we today recognise as a modern transhumanist movement actually started in the last decades of the Twentieth century. Different scientists, like FM-

3 J ULIAN

H UXLEY, Transhumanism, in: Ethics in Progress 6.1 (2015); C ALVIN M ER J. T ROTHEN, Transhumanism, the Posthuman and Religions. Exploring Basic Concepts, in: Calvin Mercer/Tracy J. Trothen (ed.), Religion and the Technological Future. An Introduction to Biohacking, Artificial Intelligence and Transhumanism, Palgrave: Macmillian 2021, 19–42, 43. 4 Transhumanist organization with the website headline »Don’t limit your challenges, challenge your limits«. In the description about what they do, it is written that they are World Transhumanist Association that advocates the ethical use of technology, such as artificial intelligence, to expand human capacities. They want people to be better than well, what is also the aim and goal of transhumanism. URL: https://www.humanityplus.org/about (visited on 07/06/2022). 5 M ERCER /T ROTHEN , Transhumanism, the Posthuman and Religions, 44. 6 NATASHA V ITA -M ORE , Transhumanist Manifesto, URL : https://natashavita- more.com/ transhumanist-manifesto/ (visited on 07/06/2022), see reference 2. 7 M ERCER /T ROTHEN , Transhumanism, the Posthuman and Religions, 44. CER /T RACY

What Transformation Do We Believe in

83

20308 or Robert Ettinger9 contributed to the popularization of the concept of transhumanity. The contemporary meaning of transhumanism is pretty new, when we compared with its origins. It is a product of the 1980s when a group of scientists, futurists and artists began to organize themselves in a movement. They officially met at the University of California, Los Angeles which later became the main centre of transhumanist thought. The new definition of transhumanism was made by Max More in 1990 where he claims: »Transhumanism is a class of philosophies that seek to guide us towards a posthuman condition [...]. It differs from humanism in recognising and anticipating the radical alternations in the nature and possibilities of our lives resulting from various sciences and technologies.«10

II. Connection to Christianity Transhumanism as such represents a new challenge for theology and is open to several criticisms. The utopian transhumanist vision clearly derives much of its power from Christian theology. Very similar to the idea of transhumanism, Christianity also believes in the transfiguration of the human species, with the best example of Christ, who transcends the limits of both time and space. We can also read in the Gospels how He passes through walls and communes with the old prophets (Matthew 17:2–3; John 20:26).11 Christ’s Resurrection serves here as an example of the first fruits of the general resurrection. We, as believers in Him, can expect the same kind of transfigured body that the risen Christ possesses. Transhumanists’ aim of transforming the body, or overcoming the boundaries of death, are secularized versions of the Christian promise of resurrection. If we try to focus on specific ideas in Christianity which are most similar to transhumanism, we should start with the¯osis – the ancient Christian doctrine of deification. St. Irenaeus of Lyon (135–200) wrote that the deification of humanity was the purpose of the Incarnation, – St. Athanasius of Alexandria (293–373) and St. Gregory of Nazianzus (329–389) made similar statements in the fourth

8

Fereidoun M. Esfandiary, more known as FM-2030 was a transhumanist philosopher and futurist, who in 1966 taught new concepts of the human and he identifies people who adopt technologies and world views transitional to »posthumanity«. 9 Robert Ettinger was an American academic, today famous as a father of cryonics, because he founded the Cryonics Institute and the related Immortalist Society. His body has been cryopreserved. 10 M AX M ORE , Transhumanism. Towards a Futurist Philosophy 1990, URL : https://web. archive.org/web/20051107113546/http://maxmore.com/writing.htm (visited on 07/07/2022). 11 E UGENE C LAY , Transhumanism and the Orthodox Christian Tradition, in: Hava TiroshSamuel/Kenneth L. Mossman (ed.), Building Better Person? Refocusing the Debate on Transhumanism, Frankfurt am Main: Peter Lang 2011, 157–180, 158.

84

Tijana Petkovi´c

century.12 The idea of the¯osis remained mostly in the East and among Orthodox theologians. Also, transhumanist researchers and philosophers from the West were not really interested in the theologians of the East. In contrast to the always secularist idea of transhumanism in the West, in Russia in 2003 the Russian Transhumanist Movement was grounded, adopting the ideas of the Orthodox Christian Nikolai Fyodorovich Fyodorov (1829–1903).13 Fyodorov used the ideas of one of the most famous theologians from the first millennium – St. Maximus the Confessor (580–662). According to St. Maximus, deification is the ultimate goal and an event that requires action both on the parts of God and the recipient.14 For St. Maximus, as well as for Fyodorov, human beings could evocatively partake in the divine work of redemption; with the idea that the final aim – the¯osis – serves as a radical transfiguration of the whole person, body and soul, and of the whole cosmos.15 Fyodorov saw in St. Maximus’ writings how human nature was characterized by an autonomous will and that we are all partakers in cosmic redemption, so he explored these ideas and suggested that all humanity should unite and enhance themselves. Maybe the thought of Fyodorov is not representative of Orthodox theology, but he definitely examined human nature, destiny and free will in his writings.

III. What Do We Know About Human Nature? When the Church Fathers talk about the doctrine of Incarnation, they claim that the Incarnation was the first step of our understanding of human nature and salvation. For the Fathers and scholars of the early Church, salvation was not just an escape from eternal punishment, but more centrally, it signifies the transfiguration of the human species.16 The ultimate destiny and transfiguration is not yet made known, but »Do not conform to the pattern of this world, but be transformed by the renewing of your mind. Then you will be able to test and approve what God’s will is – his good, pleasing and perfect will.« (Romans 12:2). The development of the thought of deification has been especially rich in the Orthodox world since the early Church. Vladimir Lossky, a Russian Orthodox theologian exiled in Paris who provided profound studies of Patristic theology, emphasized the¯osis as the main principle of Eastern Orthodox Christianity. He was mainly preoccupied in his writings with the exegesis of mystical theology. In his book The Mystical Theology of the Eastern Church, Lossky tried to clarify the 12

Op. cit., 159. His name can also be transcribed as Fedorov. 14 St. Maximus was discussing the¯ osis in different works, especially Ambugia, primarly Ambigua 5, 7 and 41. Less famous and earlier works where also is the¯osis discussed are his Commentary on the Lord’s Prayer, Centuries on Charity and Ascetical Life. 15 See C LAY , Transhumanism and the Orthodox Christian Tradition, 158. 16 See op. cit., 159. 13

What Transformation Do We Believe in

85

misunderstood Greek terms in the West. He put an accent on the distinction from the early Church that Triune God is one ousia (οὐσία) and three hypostasis (ὑποστάσεις). Ousia is to be understood as species, then the hypostasis must actually mean individual. This distinction plays a crucial role in his discussions about deification.17 Lossky struggled to give a clear answer to the question, »What does it mean to be a human being in the divine image?« which we see in his passage from the book: If we try to find in the Fathers a clear definition of what it is in man which corresponds to the divine image, we run the risk of losing ourselves amidst varying assertions, which though not contradictory, cannot be applied to any one part of human nature. Sometimes the image of God is sought in the sovereign dignity of man, in his lordship over the terrestrial world; sometimes it is sought in his spiritual nature, in the soul, or in the principle, ruling (ἡγεμονικόν) part of his being, in the mind (νοῦς), in the higher faculties such as the intellect, the reason (λόγος), or in the freedom proper to man, the faculty of inner determination (ἀντεξουσὶα), by virtue of which man is the true author of his actions.18

Some transhumanists, such as Julian Huxley, embrace the idea of researching human nature, and suggests that human nature is a moral concept that includes the possibilities of transcendence: transhumanism means »man remaining man, but transcending himself, by realizing new possibilities of and for his human nature.«19 Huxley writes in the same article that humanity will need a name for this new belief, in which he also believes. For transhumanists, as we can see here, the concept of human nature is also not clearly defined. Going deeper into the teaching on human nature from a Christian perspective could help to articulate the problems that we are facing here. Eugene Clay mentions in his article three moments in Christian history that are especially important for understanding human nature and the challenges of transhumanism.20 The first moment is the Council of Chalcedon, The Fourth Ecumenical Council, which dealt with Christ’s nature and personhood, and the visible organisation of the church. The Council agreed that Jesus Christ is »perfect in the same in divinity, and perfect the same in humanity, truly a God, and truly a human being the same of a soul and body and one who is at the same time of like essence with Father as respecting divinity, and of like essence the same with us as respecting humanity. . . «21 This definition was revolutionary and had an impact on later Christian discussions about the nature and destiny of humanity. 17 See A NTHONY F ENEUIL , Becoming God or Becoming Yourself. Vladimir Lossky on Deification and Personal Identity, in: John Arblaser/Rob Faeseb (ed.), Theosis/Divinisation. Christian Doctrines of Deification East and West, Peeters 2018, ??–??, 52. 18 V LADIMIR L OSSKY , The Mystical Theology of the Eastern Church, Cambridge: James Clarke & Co. 2005, 58. 19 H UXLEY , Transhumanism, 15. 20 C LAY , Transhumanism and the Orthodox Christian Tradition, 161. 21 Canons of the Seven Ecumenical Councils. Fourth Ecumenical Council, Prolegomena, URL : http://www.intratext.com/IXT/ENG0835/_P14.HTM (visited on 07/08/2022).

86

Tijana Petkovi´c

The second moment in history happened just a few centuries later when St. Maximus the Confessor was involved in discussing how to understand the interaction between the human and divine natures within the person of Jesus. He insisted that human nature, physis (φύσις), included a free and autonomous will, thelema (θέλεμα), with its own operation or activity (ἐνέργεια). St. Maximus was intrigued by the verses from Luke 22:42 »Father, if you are willing, remove this cup from me. Nevertheless, not my will, but yours, be done.« In this verse, he recognised that Christ, as fully human, had to have a completely human autonomous will, separate and distinct from the divine will. That is why St. Maximus also believed that Christ would have much preferred escaping the Cross. St. Maximus upheld his position and insisted that Christ has to be understood as a wholly new way of being human, even though because of this teaching he later suffered exile, the excision of his tongue (that he couldn’t teach), as well as amputation of his right hand (that he couldn’t write). The third moment in history, according to Clay, happened in the Twentieth century with the work of Fyodorov and Vladimir Lossky. Fyodorov calls his philosophy the »Philosophy of Common Work«. Theoretical philosophy is completely alien to Fyodorov as he thinks that philosophy must actively transform and improve. Only this kind of philosophy is genuine. Fyodorov thinks that the ultimate evil is death and that we should not make peace with it. Crucially as Christians, we believe in the Resurrection. But here, he is not only speaking about the Resurrection but also of resurrecting the dead.22 People should unite and make active preparations for the general resurrection because resurrection is not only an act of God’s grace but also human activity.23 The third moment in history also belongs to Vladimir Lossky, who lived and wrote in the same century as Fyodorov. His writings are heavily influenced by his father, Nikolay O. Lossky who also was a theologian and familiar with the work of Fyodorov, whom he included in his book History of Russian Philosophy. Vladimir Lossky committed the sixth chapter of his book to »The Theological Notion of The Human person«, writing: Under these conditions, it will be impossible for us to form a concept of the human person, and we will have to content ourselves with saying: »person« signifies the irreducibility of man to 22

See N IKOLAY B ERDYAEV, N. F. Fyodorov, in: The Russian Review 9 (1950), 124–130,

126. 23 Fyodorov relied on theology of St. Maximus the Confessor, especially his engagement in the Monothelite controversy-that human action is free, natural and founded in grace. This point is deeply inclined in Orthodox theology, but also has much to contribute to more Augustinian reflections on the relationship between human freedom and divine grace. Both, St. Maximus and St. Augustine tried to define that relationship, or better said, they both »opposed to a model of free will as a reserve of autonomy cut off from God and the world in favour of an understanding in which it is always already related to both.« I AN A. M C FARLAND, Naturally and by Grace. Maximus the Confessor on the Operation of the Will, in: Scottish Journal of Theology 58.4 (2005), 410–433, 411.

What Transformation Do We Believe in

87

his nature – »irreducibility« and not »something irreducible« or »something which makes man irreducible to his nature« precisely because it cannot be a question here of »something« distinct from »another nature« but of someone who is distinct from his own nature, of someone who goes beyond his nature while still containing it, who makes it exist as human nature by this overstepping of it.24

IV. Human Will and Divine Will The Christological doctrine that teaches the existence of two wills in the Person of Jesus Christ is very significant for our discussion about deification. St. Maximus the Confessor was strongly opposed to monotheletism and monoenergism. Monotheletism means that Christ has two natures, but only one will. Monoenergism means that two natures in Christ share the same activity, energy. St. Maximus tried to explain that both teachings are denying Christ’s full humanity, as it was mentioned before, relying on the verses from Luke 22:42, or Mark 14:36.25 This argument is very important for us today, since he was not opposing monotheletism and monoenergism because of technicality, but because such a view shows us what it means to be fully human, with all the struggle that having a human will implies. Through this human will, humanity has a possibility for deification and salvation. St. Maximus explains Christ’s unique and deified human will through the distinction of natural and gnomic willing in Opusculum 3.26 Natural willing is of nature, whereas gnomic refers to the fallen human hypostasis. Christ operates without gnomic will but with a human will oriented to the divine will – and hence, he acts sinlessly. In this sense, the lack of gnomic volition in Christ does not imply a lack of freedom, but rather its ultimate presence – the absence of sin. Furthermore, the lack of gnomic willing does not suggest that Christ was not completely human, because the essence of willing is established in nature. Gnômê is a method of moulding and moving one’s disposition; it answers the question »how« one wills. Christ exemplified a new way of life devoid of human fallibility.27 Again, this is not about renunciation of freedom, but about a conscious concession that we would tend to move towards that from whom we received the will, because there is nothing else to which it (the created being) would move, 24 V LADIMIR L OSSKY , In the Image and Likeness of God, New York: St. Vladimir’s Seminary Press 1974, 120. 25 See C LAY , Transhumanism and the Orthodox Christian Tradition, 164. In this verses we witness how the human will want to avoid death, and the prayer: »nevertheless, not mine, but your will be done« proves that the divine will shaped the human natural will. 26 S T. M AXIMUS the C ONFESSOR , Opuscule, Patrologia Græca. 27 J OHN F RANCIS , Two Wills of Christ. The Christology of St. Maximus the Confessor in Opuscula 3 and 6 Feb. 17, 2016, URL: https://openwells.net/2016/02/17/two-wills-of-christthe-christology-of-st-maximus-the-confessor-in-opuscula-3-6/ (visited on 07/27/2022).

88

Tijana Petkovi´c

nor can it want anything else. Because the being, after it became God through deification, reached what it was aiming for. To St. Maximus freedom is very important. Because with our freedom we can understand the purpose and nature of the universe. Humans could not participate in the divine activity of creation, salvation, and deification without freedom. Therefore, St. Maximus declares the universal implications of deification: God made us so that we might become »partakers in the divine nature« (2 Peter 1:4) and sharers in his eternity, and so that we might come to be like him through deification by grace. It is through deification that all things are reconstituted and achieve their permanence; and it is for their sake that what is not is brought into being and given existence.28

If we understand that we are indeed »partakers in the divine nature«, then all our deeds are not here to impress a master, but because of our relationship, our deeds are just joyful work on behalf of our Father. St. Maximus understands that the relationship and union of God and humanity are gifted through participation and interpenetration (περιχώρησις).29 This term is a reference to the relationship of the three persons of the Trinity.

V. What Are the Similarities and Differences Between the Two Understandings of Transformation? We are created in His own image (for through participation we are imbued with the exact characteristics of His goodness) and before the ages, we were determined that we should exist in Him, with the proper use of our natural powers.30 The importance of image and likeness is biblically grounded in Gen 1:26: »Then God said, Let us make mankind in our image, in our likeness, so that they may rule over the fish in the sea and the birds in the sky, over the livestock and all the wild animals, and over all the creatures that move along the ground.« According to St. Maximus, deification occurs in a succession of phases, the most essential of which is the attaining of the »likeness« through willingly observing the com28

C LAY, Transhumanism and the Orthodox Christian Tradition, 164. For St. Maximus, see G ERALD E USTACE H OWELL PALMER/P HILIP S HERRARD/K ALLISTOS WARE (ed.), The Philokalia. The Complete Text Compiled by St. Nikodimos of the Holy Mountain and St. Makarios of Corinth, vol. 2, London: Faber & Faber 1983, 62 29 C LAY , Transhumanism and the Orthodox Christian Tradition, 164. Περιχώρησις¸ was first used by Church Fathers. Gregory of Nazianzus used it as a verb to describe the relationship of divine and human natures in Christ, but John of Damascus extended the explanation to the relationship of the tree persons of the Trinity. 30 M AXIMOS the C ONFESSOR , On Difficulties in the Church Fathers. Maximos the Confessor, ed. and trans. by Nicholas Constas, London and Cambridge, MA: Harvard University Press 2014, Ambiguum 7.38.

What Transformation Do We Believe in

89

mandments stated in Christ’s gospels.31 We had the possibility according to St. Maximus to fulfil God’s intentions in a purely natural, human way. But, because humans voluntarily chose to reject these natural capacities, »they lost access to this path to union with God and the world. God’s response was to give to human beings a new way, ›more marvellous and befitting of God than the first‹, that not only restores what was lost, but that goes radically beyond it.«32 It radically goes beyond it because deification does not only show us the right path to God but also transcends the human itself. In deification, humans will become everything that God already is, without, however, attaining any identity in essence.33 As we can see, this is very similar to the transhumanist idea. But the big difference between transhumanist idea and deification is that human nature, while being transcended in deification, is not thus devastated: »He completely divinized us, without in any way violating or essentially altering our nature.«34 We can see how Maximus is supporting the idea to become gods, but not to leave humanity behind, because deification will not change the nature, it will just change the way of life, living the life of God: »refraining even from its own natural activity, wholly gathered into God«.35 St. Maximus continues, that Incarnation of God is the foundation for our deification: Providence is revealed in the hypostatic union of the Word with the flesh; judgment is manifested in His acceptance of suffering in the flesh for our sake; through these, union and suffering, the salvation of all is established. The incarnation came about for the salvation of nature, the sufferings for the redemption of those held fast by death on account of sin.36

It is important here to mention that just as the Divinity of the Incarnate Word does not go any change in its union with human nature, the human nature in deification also will not be transformed into divine nature, nor will change its essence: For inasmuch as He came to be below for our sakes and without change became man, exactly like us but without sin, loosing the laws of nature in a manner beyond nature, it follows that

31 Following the commandments has always been emphasised, especially in early Christian writings, like in Didache 1-6.2. The first early patristic writers to emphasize the role of likeness in deification are Irenaeus of Lyons, Clement and Origen. See D ESPINA P RASSAS, Deification in Two Early Writings of St. Maximus the Confessor. Attaining Likeness to God, in: Sophia 60 (2021), 797–817, 800n11. 32 T ORRANCE , Acquiring Incorruption, 179. 33 M AXIMOS the C ONFESSOR , On Difficulties in the Church Fathers. Maximos the Confessor, ed. and trans. by Nicholas Constas, London and Cambridge, MA: Harvard University Press 2014, Ambiguum 41. 34 T ORRANCE , Acquiring Incorruption, 179, quoting, C ONFESSOR , On Difficulties in the Church Fathers, Ambiguum 31.8. 35 C ONFESSOR , On Difficulties in the Church Fathers, Ambiguum 10.9, 163–65. 36 S T. M AXIMUS the C ONFESSOR , Responses to Thalassios, Patrologia Græca, LXIII, col. 629Bn35–36.

90

Tijana Petkovi´c

we too, thanks to Him, will come to be in the world above, and become gods according to Him through the mystery of grace, undergoing no change whatsoever in our nature.37

He is just offering the true union of the two natures in Christ. We witnessed that St. Maximus anthropocentric vision has a few similarities with the transhumanism that I presented above. Through his writings, we can clearly see how St. Maximus firmly and positively affirms the essential goodness and potential of humanity. Transhumanists hold to a theory, like St. Maximus, in which humanity as a species has a glorious destiny and that glorious destiny depends on human action and choices, therefore humans have a decisive role to play in their ultimate destiny. Furthermore, Christians value the body, because the body is central to deification, just as the transhumanists understand the body as the place of evolutionary change.38 St. Maximus follows St. Athanasius’ wellknown maxim: »God became man in order that man might become God«39 and gives probably the most profound articulation. We can see something of an understanding between Maximus’ vision and the vision of the transhumanists. Nick Bostrom40 sums it up: »Transhumanists view human nature as a work-in-progress, a half-baked beginning that we can learn to remould in desirable ways. Current humanity need not be the endpoint of evolution«41 St. Maximus would never use the words »half-baked« to describe human nature. Nonetheless, from the theological point of view, he would probably agree what we experience now as being inescapably »human« may be little more than the temporary »mode« (τρόπος) in which we find ourselves now are not as planned, but consequences of our own sinful history and failure of vision.42 Both ways indicate death as the final enemy of humankind and invest heavily in a hoped-for transcendence of life as we know it. And both, St. Maximus and transhumanists understand the universe to have a purpose. What is the purpose according to St. Maximus? That is the Creator, whose love leads him to deification, through the Incarnation of Christ. For transhumanists »purpose originates in the mind and will of humanity, who through the exercise of technology, can 37 C ONFESSOR , On Difficulties in the Church Fathers, Ambiguum 31.9. Father Georges Florovsky in his book Creation and Redemption was writing that even in deification »the immutable, unchangeable gap between natures will remain: any ›transubstantiation‹ is excluded« (G EORGES F LOROVSKY, Creation and Redemption, Belmont: Norland Publishing Company 1976, 74). 38 See C LAY , Transhumanism and the Orthodox Christian Tradition, 165. 39 S T. ATHANASIUS , On the Incarnation, vol. XXV, Patrologia Græca, 54.3, col. 192B. 40 Nick Bostrom is a philosopher at the University of Oxford, who believes in superintelligence. Bostrom defines superintelligence as »any intellect that greatly exceeds the cognitive performance of humans in virtually all domains of interest,« is a potential outcome of advances in artificial intelligence. 41 N ICK B OSTROM , Human Genetic Enhancements. A Transhumanist Perspective, in: Journal of Value Inquiry 37.4 (2003), 493. 42 T ORRANCE , Acquiring Incorruption, 182.

What Transformation Do We Believe in

91

bend purposeless matter and energy to its desires and ultimately transcend human limits.«43 If we ask ourselves how deification is achieved, we will see here that the linguistic similarity between St. Maximus and Nick Bostrom is marked. What is very interesting is that both sides realize that the starting point of transcending is our desire, which means that the subject’s desire is actually the starting point, bringing us back to the part about free will and stages of the process: »For we desire, before we deliberate; and after deliberating, we judge; and after judging, we freely choose that which has been shown by the judgment to be the better over that which has been shown to be the worse.«44 St. Maximus is confirming that a human being is »appetitive, reflective capable of intending, inquiring, examining, freely choosing, initiating, and employing [something].«45 Nick Bostrom explains that the problem with our desire and future realisation is that we are too attached to things as they are here. And although Bostrom’s post-human realm is very different from St. Maximus’ descriptions of mystical ascent, they share a similar argument. Bostrom uses David Lewis’s theory of dispositions46 to demonstrate that we might have values now that we are unaware of because of our limited experience: »something is a value for you if, and only if you would want to want it if you were perfectly acquainted with it and you were thinking and deliberating as clearly as possible about it.«47 St. Maximus would also agree with this theory because he realizes that humans very often wish for the things that they are already familiar with. But St. Maximus assumes that human beings are being invited to deification, and are naturally being led to, »a natural longing and desire for Him«, by God’s providence to deification.48 43

C LAY, Transhumanism and the Orthodox Christian Tradition, 166. C ONFESSOR, Opuscule, 1, col. 13C. 45 op. cit., 1, 21D–24A. Moments of desire and stages of will St. Maximus elaborates: For after intending it inquires. And after inquiring, it examines. And after examining, it deliberates. And after deliberating, it judges or decides. And after deciding, it freely chooses. And after freely choosing, it initiates. And after initiating [an action], it employs something. And in the employing it ceases from the appetitive motion toward that thing. For no one makes use of something without first having initiated. And no one initiates without having first freely chosen it. And no one freely chooses something without having first decided. And no one decides without having first examined [the alternatives]. And no one examines without having first intended. And no one intends without having first reflected. And no one reflects without having first been moved by appetite. And no one is intelligently moved by appetite without being by nature rational. Therefore, man being by nature a rational creature is appetitive, reflective, capable of intending, inquiring, examining, freely choosing, initiating, and employing [something]. 46 DAVID L EWIS /M ICHAEL S MITH /M ARK J OHNSON , Dispositional Theories of Value, in: Aristotelian Society Supplementary 63 (1989), 113–137, 113–137. 47 B OSTROM , Human Genetic Enhancements, 495. 48 C ONFESSOR , On Difficulties in the Church Fathers, Ambiguum 48.2, 213. 44

92

Tijana Petkovi´c

Now we are facing the question, how are we being naturally led and invited to deification? Eugenia Torrance writes that God leads us to deification in both a positive and a negative way. In the positive way, God uses the beauty of things in the world to lead us to His beauty:49 God, who is superior to all, by leading us through the nature of visible creations, as if it were a kind of story, seeks to amaze us or attract our attention by the sight and knowledge of these things, as if we were no different than children, after which He directs us to the contemplation of the more spiritual principles within these things, and finally leads us by way of theology up to the more mystical knowledge of Himself.50

God comes to us as we are, charmed and entranced by created beings and possessions. Ironically, these created possessions might include exactly those that Bostrom promotes: technological enhancements in the moral or cognitive realm. As humanity becomes increasingly reliant on technology and its products, we can have faith that God in His Providence will utilize technology in the same way that He has used art, literature, family and wealth in the past as conduits of grace that point beyond themselves to Him.51 Also, we should keep in mind, as Stephen Garner points out »these technologies are also produced by a God-given human creativity«.52 However, our wickedness frequently obscures the positive gifts of God’s providence, as well as the Eucharist itself. As a result, God employs a negative method to move us from worldly pleasures to deification. He has providentially blended sorrow with worldly delights to point us beyond them: God, however, in His providential concern for our salvation, attached pain to this pleasure, as a kind of power of chastisement, whereby the law of death was wisely planted in the nature of our bodies in order to limit the madness of the intellect in its desire to incline unnaturally toward sensory objects.53

We know that God is compassionate, but St. Maximus also believes that He is purposeful when He employs trials and hardship to demonstrate the boundaries of those things. To those trials belongs suffering, limits of our life on earth, our death and corruption. In this way, God uses trials to lead us to a life beyond it. This is probably the biggest difference between St. Maximus and contemporary transhumanists; St. Maximus accepts God’s providential order, even negative ones like suffering and cruelty. These things are unacceptable for transhu49

See T ORRANCE, Acquiring Incorruption, 183. C ONFESSOR, On Difficulties in the Church Fathers, Ambiguum 71.7, 325. 51 RONALD C OLE -T URNER , Transhumanism and Christianity, in: Ronald Cole-Turner (ed.), Transhumanism and Transcendence. Christian Hope in an Age of Technological Enhancement, Washington, DC: Georgetown University Press 2011, 193–204, 200. 52 S TEPHEN G ARNER , Duties, Consequences or Virtues? Theological Ethics for Social Media, in: Gotlind Ulshöfer/Monika Wilhelm (ed.), Theologische Medienethik im digitalen Zeitalter, Stuttgart: Verlag W. Kohlhammer 2020, 187–203, 188. 53 C ONFESSOR , Responses to Thalassios, col. 434. 50

What Transformation Do We Believe in

93

manists, and St. Maximus would place all the transhumanist technologies into a world of limits, creatureliness and finitude.54 Many Christian theologians share the opinion that technologies of human enhancement pose a new challenge to the whole of society that is concerned about economic and social justice.55 An open question is therefore posed, How will human enhancement be regulated and what inequalities will it bring to the whole of society? One more difference between St. Maximus and contemporary transhumanists’ thought would be God’s role in the world. Transhumanism denies, or discounts, God’s role in the world. It is obvious that St. Maximus’ Christocentric theism is strange to the transhumanist project, which is based on material evolution. Transhumanists rely on empirical science, whilst Christian theologians also draw on a divine teleology. This distinction may be seen in their approaches to defining human nature. None of the Church Fathers tried to conduct empirical observations of human societies in order to define human nature, rather for them, humanity is defined primarily teleologically through its relationship with God. Humanity is God’s creation, corporal, mortal (but, with the idea to be overcome), and limited. Though from this list, transhumanists would only agree that humans have mortal bodies.56 They see the body as a machine that needs repair and improvement.

VI. Conclusion Due to the focus on moving beyond oneself to participate in God’s divine activity, St. Maximus’ theology of deification has an unsettling similarity to transhumanist rhetoric. Significantly, Beth Singler wrote the article »Why is the language of transhumanism and religion so similar?« where she explains how religious language »runs wild« in the AI community.57 In the media, different people in AI are being anointed as »prophets«, god-like beings of infinite knowledge. As believers in a transhuman future, they are constantly drawn to prophetic and end-ofdays voices in order to comprehend and assist others grasp what they are aiming towards.58

54

T ORRANCE, Acquiring Incorruption, 187. C OLE -T URNER, Transhumanism and Christianity, 194. 56 C LAY , Transhumanism and the Orthodox Christian Tradition, 166. 57 B ETH S INGLER , Why is the Language of Transhumanism and Religion so Similar? June 13, 2017, URL: https : / / aeon . co / essays / why - is - the - language - of - transhumanists and-religion-so-similar (visited on 07/22/2022). 58 Ray Kurzweil is an example of the prophet in the mentioned article, he is an executive at Google company and sometimes he is anointed as a prophet of coming wave of »superintelligence«, sometimes as a prophet of »doom«, or as I mentioned in the text, prophet of »singularity«. 55

94

Tijana Petkovi´c

St. Maximus and contemporary transhumanists believe that people may transcend, not just many elements of their existing life, but also their own essence. Furthermore, both sides feel compelled to strive together towards a magnificent destiny that we can achieve only with our free will and responsibility. We are free to choose to accept, or refuse, to fulfil the role that is assigned to us. Crucially, love is the key to transformation, »because Christians must be characterized by divine love in a mystical process of deification«.59 However, St. Maximus’ rhetoric contrasts with modern transhumanist discourses in that it claims that people may transcend themselves while staying human. This distinction exists not only in practice but also in philosophy. A deification process which abandons the human is impossible because the root of deification is Christ’s divinized humanity. Becoming posthuman would stop one from becoming divine. Furthermore, for St. Maximus and Fyodorov alike, the transformation of the human being is a fundamental process which involves not only material but also spiritual change. St. Maximus also sees many of the limits that transhumanists regret as providential pointing to God Himself. Both St. Maximus and Fyodorov offer an optimistic moral framework for discussing the transformation of humanity. For Christians problems arise if transhumanism is understood as hope for theologically understood transcendence. Because our trust and hope for deification could only be in infinite God and not through technology.

59

C LAY, Transhumanism and the Orthodox Christian Tradition, 174.

Ethics of Responsibility for the Era of Globalisation? Jure Zovko The question »How to live a good life?« is one of the central themes of ethics, and it has found different answers throughout history. Although the historical context was different, a certain continuity in moral standards has been established. We have three main ethical models in the European tradition that are understood as answers to the inquiry of the good life. The question remains which of these concepts best fits the challenges of the present. In the European tradition of moral conception, we distinguish between: 1. virtue ethics 2. utilitarianism (consequentialist ethics) 3. deontological ethics (Kant’s morality of human dignity). Ethics of responsibility is implemented in all three forms of ethical reasoning and can serve as a good basis for ethical dialogue among them. Virtue ethics is based on the premise that a good life is achieved through the fulfilment of intrinsic ethical norms and virtues. Representatives of classical moral realism have lived in the belief that ethical virtues are acquired in the practice of life, and that the integration of the virtues has led to personal happiness and satisfaction (eudaimonia). The fundamental characteristic of ancient Greek ethics is that the human being asks for the perfect form of life (aret¯e). Aret¯e is a form of moral excellence, a quality of human character that is considered morally good. It is behaviour that demonstrates high moral standards: doing what is right and avoiding what is wrong, it is evidence of moral realism. The Greek word aret¯e means the perfect form of living. Aret¯e derives from the adjective agathos, i.e., the good, or more precisely, from the superlative of agathon, aristos, which means the best. For a Greek of classical times, it is pointless to ask whether we should be moral (aristos) because everyone wants to be the best. Virtue ethics began with Socrates, the founder of European morality. He asks about the forms of the good life (aret¯e) or how to lead a happy life (πῶς βιωτέον; pôs biôteon),1 this remains in the core of Socratic discussion in Plato’s early dialogues. Using the dialogue Euthyphron as an example, we can understand well that Socrates was an advocate of the autonomous justification of morality because he argued that we should appeal to our reason, i.e., our intellect, and 1

Gorg. 492d.

96

Jure Zovko

not to the wills of the gods when solving ethical and political problems. What is moral is what conforms to universal ethical norms, not what pleases the gods.2 For Socrates, the »unexamined life is not worth living« (ὁ δὲ ἀνεξέταστος βίος οὐ βιωτὸς ἀνθρώπῳ).3 The examination of self and knowledge of oneself prescribed by the Delphic oracle Γνῶθι σεαυτόν; gnôthi seauton, thus necessarily implies the concern for the constitution of one’s own personality, the realisation of one’s own true aret¯e, the good in relation to one’s self. The importance of self-knowledge is pointed out on several occasions in Socratic dialogues.4 It is telling that Socrates, for example, in the Criton5 asserts that with respect to the question of how to achieve the good life, it is not the opinion (doxa) of the majority of people that is crucial, but that of those who are competent, as shown by the example of the knowledge of »techn¯e«, where the competence of the experts (technikos) is decisive.6 In the concrete example of whether it is imperative to attempt to escape from prison, or to accept the sentence of death, Socrates shows that it is imperative that he decide himself on the basis of prudent and reasonable reflection: »Because not only now, but always I adhered to the arguments, logos, that appears best to me upon reasoning« (μηδενὶ ἄλλῳ πείθεσθαι ἢ τῷ λόγῳ ὃς ἄν μοι λογιζομένῳ βέλτιστος φαίνηται).7 The mere fact that human beings possess a practical wisdom (phronesis), is thus the condition, but not the sufficient cause, for achieving a happy and satisfying life. Moreover, Socrates’ critical thinking, »logizomai« presupposes the faculty of judgement as a search for the best option that fulfils our meaningful life and achieves the best conditions possible for a human being (eudaimonia). The faculty of judgement can be either a reflective activity in which we seek general norms for concrete actions or determinative judgement in which we apply already known norms to concrete cases. In the dialogue Gorgias, this question is also discussed from the standpoint of truth (sub ratione veritatis), and the result of the discussion is that the life forms of radical hedonism and political imperialism are rejected. According to Vlastos, elenchus »remains in principle a method of searching for truth [. . . ] for winning arguments, regardless of whether or not you take what you are arguing for to be true«.8 Vlastos is certainly on the right track in assigning to Socratic 2

Cf. H ILARY P UTNAM, Ethics Without Ontology, Cambridge, MA: Harvard University Press 2004, 5; G REGORY V LASTOS, Socrates, Ironist and Moral Philosopher, Cornell Studies in Classical Philology 50, Ithaca, NY: Cornell University Press 1991; J URE Z OVKO, Agôn as Constituent of the Socratic Elenchos, in: Heather Reid/Mark Ralkowski/Coleen P. Zoller (ed.), Athletics, Gymnastics and Agon in Plato, Sioux City: Parnassos Press 2022, 173–184. 3 Apol. 38a. 4 Prot. 343b; Charm. 164d; Apol. 23b. 5 Cr. 47a. 6 Lach 184e; Gorg.455b). 7 Cr. 46b. 8 V LASTOS , Socrates, Ironist and Moral Philosopher, 31.

Ethics of Responsibility for the Era of Globalisation?

97

elenchus an educational-reflective significance as to the process of discovery of moral values in a specific situation: »In my lecture I maintained [...] that while the elenchus was adversative, pervasively negative in form, its aim was strongly positive: to discover and defend true moral doctrine«.9 The answer to the central theme of eudaimonistic ethics consists stricto sensu in responsibility for one’s own existence. Socrates is aware that practical knowledge – what conditions guarantee a good and happy life – surpasses his epistemic ability, but it remains the purpose of his philosophical investigations. The key difficulty implied by the effort to achieve the good life is thus how the individual is to achieve phronêsis, which implies good judgement and excellence of character. Phronêsis is reasonable thinking ranging from a judgement of a specific situation to the key question of how to achieve excellent forms of life. In the Socratic dialogues, the term epist¯em¯e refers to craftsmanship. It is about practical non-propositional knowledge, which Socrates analyses using the example of cobblers, shipbuilders, cooks, and tailors because each of them understands what they are doing and knows what is expected of them. The argumentative contest in the discussion in the dialogue Gorgias certainly has agonal traits: it should be proven that the conclusion (logos) »doing wrong is worse than suffering wrong« is stable and unshaken. The same applies to the substantial difference between »dokeien« and »einai« with regard to the good and other ethical predicates, so that »all man must practise, not seeming good, but being good, in private and public life«.10 Socrates is firmly convinced that this logos should be regarded as a universal and binding norm of the good life, i.e., that it can no longer be refuted as a principle of ethical action. The goal of the agnostic dialectic is to check the logos with regard to the truth and not according to the opinion of the majority of people. In the Apology, we find a crystallisation of Socrates’ ethical position according to which it is necessary to »convince young and old alike that they need not concern themselves anxiously for the body and possessions, but first and foremost for the soul, that they should become as good as possible«.11 Socrates’ ethical imperative to care for one’s own soul can be understood in a modern sense as care for one’s own personality.12 The intellectual virtues (aretai) that an individual is in possession of, such as prudence, intelligence, determination, magnanimity, and justice manifest themselves fully only if they are led by an »activity of wisdom« (phron¯esis). It is a responsible form of thinking ranging from a judgement of a specific situation to the key question of how to achieve a good and happy life.

9

Op. cit., 14. Gorg. 527b. 11 Apol. 30f. 12 Cf. Apol 28b; Apol. 36c; Cr. 47e; Gorg. 486e. 10

98

Jure Zovko

The first book of the Republic offers us a fine example of the refutation (elenchus) of the conventional morality advocated by Polemarchus, namely that it is good to behave well and justly towards friends and unkindly and inhumanly towards enemies. War was cited as a paradigmatic example of such behaviour. We should help our fellow soldiers in war and show solidarity with them in every way, while we should harm our enemies. In this regard, the expert on Greek philosophy Francis M. D. Cornford claims that this view »was a traditional maxim of Greek morality, never doubted till Socrates denied it. Socrates’ denial rests on his principle, later adopted by the Stoics, that the only thing that is good in itself is the goodness, virtue, wellbeing of the human soul.«13 If we consider that Socrates was primarily a moral philosopher who focused his debates on ethical issues, Bernard Williams was particularly impressed by the Socratic way of philosophising: Philosophy, in asking how Socrates’ question might be answered, determines its own place in answering it. It is not a circle but a progression. Philosophy starts from questions that, on any view of it, it can and should ask, about the chances we have of finding out how best to live.14

In my opinion, elenchus in the Platonic Early Dialogues represents a form of judgement in the Kantian sense of the word (die reflektierende Urteilskraft): a concrete case is to be discussed in the context of the universal ethical norm and intrinsic values. The Idea of the Good as the highest philosophical principle also has, among other tasks and functions, the assignment of regulating the activity of judgement.15 As the principle of judgement, the idea of the good remains both the source and the principle of all reasonable private and political action: »that anyone who is to act wisely (ἐμφρόνως) in private or public must have caught sight of this«.16 Plato also tried in the Republic to link the philosophical judgement to the concept of competition (ag¯on) because the greatest agonistic challenge is to determine »whether a man prove good or bad, so that not the lure of honor or wealth or any office, no, nor of poetry either, should incite us to be careless of righteousness and all excellence«.17 The human being is not what he should be by nature; rather, he approaches his true nature through appropriation and integration of existing ethical norms, which should serve as a point of orientation for the human being in practical life and action. Plato’s thematization of concern and responsibility for the soul (epimeleia psych¯es), as this is presented in the early dialogues and which in Plato’s later 13

F RANCIS M. D. C ORNFORD, The Republic of Plato, Oxford: Oxford University Press 1941, 12. 14 B ERNARD W ILLIAMS , Ethics and the Limits of Philosophy, Cambridge, MA: Harvard University Press 1985, 4. 15 Cf. W OLFGANG W IELAND , Platon und die Formen des Wissens, Göttingen: Vandenhoeck & Ruprecht 1982, 164. 16 Rep. 517c. 17 Rep. 608b.

Ethics of Responsibility for the Era of Globalisation?

99

philosophy attains a special aura of sanctity and nobility, had a wide Wirkungsgeschichte and reception. In the liberal society of modernity, the question of the good life is replaced by the question of the good standard and prosperity. The zeitgeist of pluralism and relativism has also prevailed in the field of ethics and morality. General ethical standards have been set in the context of cultural relativism. Sceptics and moral relativists are leading the charge in the era of social democracy. Individual views and judgements on how to lead a good life in the era of liberalism have established a form of moral relativism.18 Utilitarian ethics has become dominant, especially in Anglo-American philosophical discourse. The utilitarian conception of morality asks for the best consequences to be followed or the greatest benefit to all involved: »The greatest happiness of the greatest number of people«.19 Over time, the hedonistic form of utilitarian morality was further developed and transformed into the model of act and rule utilitarianism. The most important representatives of the so-called rule-consequentialism are John S. Mill, Henry Sidgwick, Richard Mervyn Hare, Richard Brandt, and Brad Hooker. The classic utilitarian conception of morality starts from the principle that it is necessary to realise the maximum benefit (utility) of the majority of members of society. Jeremy Bentham, one of the founders of utilitarianism, insisted on the economic stability of society, and as social values, he prioritised benefit, advantage, pleasure, good and happiness. Bentham’s famous utilitarian formulation, »The greatest happiness for the greatest number [of people]«, became the subject of intense criticism in the later transformation of utilitarianism. The most famous objection against hedonistic utilitarianism was directed by J. S. Mill that, namely, the question of happiness and satisfaction can be considered from different positions, i.e., under quantitative and qualitative aspects, whereby Mill gave priority to spiritual pleasure in relation to physical hedonism. It is also an important matter of judgement regarding the valuation of pleasures and enjoyments. In this context, Mill’s statement that it is better to be a dissatisfied Socrates than a satisfied fool is well known. It is a dictatorship of the notion of the good of the majority at the expense of the minority who are forced to live in inhumane conditions.20 This can be formulated in reverse from the perspective of the globalising worldview, that the majority of humanity lives in poverty on the edge of existential threat, while a small minority enjoys abundance and prosperity. Utilitarian maxims of utility and prosperity have the structure of exploitation. 18

Cf. M ARIA BAGHRAMIAN, Relativism, The Problems of Philosophy, OCLC: ocm54006569, London ; New York: Routledge 2004, 207. 19 J EREMY B ENTHAM , From An Introduction to the Principles of Morals and Legislation, in: Alan Ryan (ed.), John Stuart Mill and Jeremy Bentham. Utilitarianism and Other Essays, London: Pengiun Books, 65–112. 20 Cf. W ILLIAMS , Ethics and the Limits of Philosophy, 106.

100

Jure Zovko

One of the fundamental problems of a capitalist society with a utilitarian worldview in all its stages of development is that those who have accepted and internalised the logic of capitalist rationality are always in a more favourable position. A society that elevates freedom to the highest value and at the same time identifies it with free enterprise, freedom, capital and the market economy, and in which an »invisible hand« regulates supply and demand, runs the risk that the second segment of freedom, which concerns human dignity, will be completely lost from view and pushed to the margins of society. Namely, it is about freedom as the moral self-determination of the human being in Kant’s sense, freedom that determines and constitutes human dignity. Freedom of competition in a modern economy is a necessary but not a sufficient condition for the realisation of a society in which human rights are guaranteed and understood as basic social rights so that market-based competition does not have negative consequences for the worst-off members of society. Karl Marx defined utilitarianism as exploitation of man by man (exploitation de l’homme par l’homme).21 Following Marx, we could discuss the imperialist exploitation of the countries of the so-called third world, i.e., the poor and undeveloped countries. Imperialism was, as Lenin beautifully said, the highest stage of capitalism. Ernst Tugendhat thinks that utilitarian ethics is at the service of the capitalist market economy, where any interference of the state and redistribution of goods remains forbidden.22 The question of distributive justice, according to which those who earn more should also pay more tax, does not come into question in utilitarianism. The problem of utilitarian consequentialism among others is that its proponents argue from the position of the dictatorship of wealth and prosperity. Solidarity with the weak, the poor, and the sick, with those who are unable to compete in the labour market, is therefore a basic requirement for a humane social order. Bernard Williams gives an example of the broken equality between people in a society that prides itself on its high degree of developed democracy, namely the impossibility of medical care for health and the provision of medical treatment. Putting preventive medicine aside, the only proper basis for the distribution of medical care is disease: that is the necessary truth. In many societies, illness is a necessary but not a sufficient condition for receiving medical care, because such treatment costs money, and not every sick person has money; therefore, the presence of a sufficient amount of money actually becomes an additional necessary condition for receiving medical help. When we have a situation where, for example, money is a condition for receiving medical help, we can again use the terms equality and inequality: now not in the context of inequality between 21 22

1993.

K ARL M ARX, Deutsche Ideologie (1846), vol. III, MEW, Berlin: Dietz Verlag 1978, 394. E RNST T UGENDHAT, Vorlesungen über Ethik, 1. Aufl, Frankfurt am Main: Suhrkamp

Ethics of Responsibility for the Era of Globalisation?

101

the healthy and the sick, but in the context of inequality between rich and poor patients, because it is obvious that those whose needs are equal are not treated equally, even though their needs are the basis for receiving medical help. This is an irrational condition that cannot be resolved from the position of the utilitarian ethical maxim but requires a universal morality of human dignity.23 In my opinion, utilitarianism, not even its best form of consequentialism, cannot be used as an ethical model to address problems of current scientific development and to solve burning questions of biotechnological sciences. Value and virtue ethics are primarily concerned with the individual questions of how to achieve good and happy lives, therefore they are not suitable for exploring the global ethical issues of our living world. In my argumentation, I would like to refer to the most important principles of ethics of responsibility, in order to show that this morality is better suited to examine and deal with the problems of the crisis situation in today’s scientifically and technologically highly developed society on a global scale. This is especially true for biotechnological research, where, however, we cannot do without ethical reflection and intrinsic values. These values and principles should be an integral part of scientific and biotechnological research, respect for the human person and human dignity should be at the centre of the analysis. If we want to examine the relevance of ethics in the field of the development and application of science, it is important to emphasise that in the philosophy of science, it has long been assumed that science is value-free. Over time, three criteria of scientific research have become accepted: impartiality, neutrality, and autonomy.24 W. Sellars has rightly claimed that »in the dimension of describing and explaining the world, science is the measure of all things.«25 But when it comes to the negative consequences of science, it is especially important to point out the relevance of ethics in scientific research, so that the human species is not threatened in its existence by modern science even more than it is today. German sociologist Max Weber emphasised that natural sciences and mathematics cannot prescribe the method or argumentation of humanities and social sciences, especially because of their special analysis of social practice. M. Weber argues that the scientific researcher has the primary task of explaining empirical facts and should refrain from judging ethical issues. In his famous essay »The ›objectivity‹ of knowledge in social science and social policy« (1904), Max Weber maintains he is »of the opinion that it can never be a task of a science of empirical experience to determine binding norms and ideals from which practical 23

B ERNARD W ILLIAMS, The Idea of Equality, in: Laslet Runciman (ed.), Philosophy, Politics and Society, 2nd ed., Oxford: Blackwell 1962, 110–131, 121. 24 H UGH L ACEY , Is Science Value Free. Values and Scientific Understanding, London: Routledge 1999. 25 W ILFRID S ELLARS , Empiricism and the Philosophy of Mind, in: Minnesota Studies in the Philosophy of Science 1.19 (1956), 253–329, 173.

102

Jure Zovko

prescriptions may then be deduced«.26 Weber claims that experimental science is »value-free« in its structure and, as such, cannot give criteria for moral judgements. This view of Weber’s has unfortunately led to the abrupt separation of the natural sciences and the humanities in academic life. The scientists kept the value-free determination of their sciences, and the representatives of the humanities wanted to keep their autonomy from the natural and technical sciences. The neutrality of the sciences with regard to values is justifiable, insofar as scientific theories contain no value judgements among their logical inferences. The view that scientific research as a whole can be value-free must, however, be labelled as very dangerous, because it ignores the potential for threats to our environment and the fabric of society posed by novel and unexpected results and their uncontrolled implementation for technological innovations. To alleviate this threat, I believe it is necessary to implement some form of ethical reflective judgement as understood by Kant to study the development of technosciences. A German-American political philosopher Eric Voegelin (1901–1985), has interpreted the positivist tradition of the French Enlightenment materialists, Marx and Darwin, as a symptom of »de-divinisation,« alienation and dehumanisation, so that in Germany a direct, if crooked, path led from the monism of a Haeckel or Ostwald to the National Socialism of a Hitler. Indeed, the history of the 20th century should not be interpreted merely as a confrontation between democracy and totalitarianism, but also between humanism and scientism. Dilthey’s response to scientific positivism, »Nature we explain, psychic life we understand,« has had fatal consequences for the history of the separation of the natural sciences and the humanities, resulting, among other things, in the exclusion of ethics from the realm of scientific research. Dilthey’s distinction between »explanation« (Erklären) and »understanding« (Verstehen) led to the radical bias that all human experience divides naturally into two parts:27 1. the explanation of the natural world, in which »objective necessity« rules, and 2. understanding, in which the inner experience of life, i.e., hermeneutics, dominates. The problem with Dilthey’s view is that he limited the philosophical reflection, i.e., philosophical hermeneutics, only to the life of man and did not consider and take into account the negative consequences of natural sciences and their application to technology on the life world. British scientist and novelist Charles Percy Snow has radicalised Dilthey’s segregation by claiming that there are two cultures, natural sciences and human26 M AX W EBER , The »Objectivity« of Knowledge in Social Science and Social Policy, in: Collected Methodological Writings, ed. by Hans Henrik Bruun/Sam Whimster, London: Routledge 2012, 100–138, 101–102. 27 Cf. W ILHELM D ILTHEY , Gesammelte Schriften, Göttingen: Vandenhoeck & Ruprecht 1966, VII, 83.

Ethics of Responsibility for the Era of Globalisation?

103

ities that are totally separate from one another, like two separate galaxies. Concerning two different cultures, C. P. Snow argues: I believe the intellectual life of the whole of western society is increasingly being split into two polar groups [. . . ] at one pole we have the literary intellectuals, who incidentally while no one was looking took to referring to themselves as »intellectuals« as though there were no others [. . . ]. At the other scientists, and as the most representative, the physical scientists. Between the two a gulf of mutual incomprehension – sometimes [. . . ] hostility and dislike, but most of all lack of understanding. They have a curious distorted image of each other. Their attitudes are so different that, even on the level of emotion, they can’t find much common ground.28

C. P. Snow actually claims that there is no communication between natural sciences and humanities. According to C. P. Snow scientists understand more of culture than representatives of the »liberal arts« do of nature. When it comes to morality, Snow thinks that scientists represent a clearer and more decisive ethical position than members of the liberal arts. The blame for the totalitarian excesses of modernity is essentially attributed, according to C. P. Snow, to literary intellectuals. Snow reports shocking examples of poets, sympathising with fascism and the Nazi regime (William Butler Yeats, Ezra Pound, Wyndham Lewis). Snow asks: »Didn’t the influence of all they represent bring Auschwitz that much nearer?«29 Unfortunately, C. P. Snow is ignoring the fact that the vast majority of physicists during the Cold War were in the service of imperialistic ideology. In the western, democratic states the physicists were actively involved in the armaments policy. Scientists, not pacifists, have been given the task of securing peace by setting up the most modern weapons (Paul Feyerabend). The rapid development of biotechnological science over the last 20 years has confronted us with the fact that scientific research is intimately tied to ethical questions. The future and destiny of the human species may be endangered by biotechnological research. The idea of engineering the human genome for the purpose of improving or enhancing Homo sapiens is like the crossing of the Rubicon. Caesar’s crossing of the Rubicon River (49 BC) signifies in Roman history the abolition of the Republic and Roman democracy and the introduction of dictatorship. Analogously, the enhancement of human beings could be a consequence of the abolition of the human species in its present form with incalculable consequences. With this step, the epoch of transhumanism begins. We are not yet aware of all the consequences that will follow from this paradigm shift from humanism to transhumanism. In a time of crisis, there is no alternative to morality based on respect for human dignity and responsibility for human beings. I see the task of ethical 28

C HARLES P ERCY S NOW, The Two Cultures and the Scientific Revolution, Cambridge: Cambridge University Press 1959, 4. 29 Op. cit., 7.

104

Jure Zovko

reflection in the context of modern biotechnological research – as well as with regard to other ground-breaking areas of scientific research – as consisting in the preservation of human dignity. Morality and cultivation of moral judgement provide the basis for interpretation of what it is to be human, and protect us from a »Weltanschauung« destructive of what is most valued in the human spirit. Transhumanism, with all the negative consequences that cannot be overlooked, could become the greatest danger to modern and future society. I would like to optimistically refer in this context to the famous quote of the German poet Friedrich Hölderlin: »But where there is danger, there also grows the saving power« (Hölderlin, Patmos). The primary task of bioethical judgement and moral reflection is to consider how we can contribute to this process of preserving our living world, or how prohibitive measures might be applied to save humanity from its threat. Nowadays, we need more information and knowledge in the field of genetics, molecular biology, and biotechnology, especially whether the human species has been threatened in its substantial form by the current research. In this context, a repositioning of ethics is needed that goes beyond medical ethics and bioethics. In his critique of philosophical positivism based on the »myth of the given,« the highly influential American philosopher John McDowell, referring to Aristotle and Hegel, asserts that man not only has the capacity to interpret his natural world but is also able to act rationally and to shape moral life, i.e., to establish a form of moral realism. Phron¯esis, practical wisdom, which was the central determinant of Aristotelian practical philosophy (i.e., ethics and politics), should also thoroughly think through our living world in the context of genetic research and remain alert to the potential dangers and threats. When we talk about the foundation of European morality by Socrates, it is important to keep in mind that the phenomenon of competition, ag¯on (ἀγών), was a central feature of Greek culture from Homer to Plato and a fundamental part of their daily life. Jacob Burckhardt, historian of culture, claimed that, »the aim of the talented Greek, since Homer, was ›always to be the first and outshine the rest,‹ and from the same early period the wish for fame after death was also often expressed.«30 Human health was one of the most important segments of the good and happy life in the time of classical Greek philosophy. Socrates has often compared the ethical activity of the agent, known as moral intellectualism, to the activity of the physician, who always acts in pursuit of practical knowledge or good diagnosis. Health is the term Plato uses most often when arguing about the effects of virtue on the soul of the individual. In the Republic, for example, it is explained how injustice (pleonexia) harms the soul, and as such, it was compared to the disease

30 JACOB B URCKHARDT , The Greeks and Greek Civilization, ed. by Oswyn Murray, trans. by Sheila Stern, New York: St. Martin’s Press 1998, 71.

Ethics of Responsibility for the Era of Globalisation?

105

that destroys our organism, while the righteousness of the soul is compared to the health that restores the natural state.31 Closely connected to the ethical principle of the identity of virtue and knowledge is Socrates’ famous argument of functionality, which is presented in detail in the first book of the Republic. Using the example of functionality, i.e., efficiency (ergon), Socrates tries to explain that everything that has a certain function also has virtue. We can only see with our eyes if they are healthy, we can only use our bodily organs if they are healthy, we can only weave on the loom if it functions properly. Applying this analogy to the human soul, Socrates will say that its functioning is manifested in the practice of life and that justice is its chief virtue (aret¯e), a virtue that guarantees success. From this, Socrates concludes that the one who lives well and virtuously will be happy and content, while the one who lives the opposite will remain unhappy and restless. We will encounter a similar argument later in Aristotle’s Nicomachean Ethics.32 The competition (ag¯on) manifested itself, in Burckhardt’s opinion, not only in the Olympic Games but also in cultural life, theatre, poetry, art, and from the fifth century BC in philosophy as well. The model of kalokagathia (an ideal of gentlemanly personal conduct) became the ideal of the agonal way of life, thanks to philosophers, especially Socrates. According to Aristotle, in order to achieve an aret¯e (virtue) in life, we need practical wisdom (phronesis); our life consists of choice (prohairesis) and searching for the best option. For this, an experience of life is necessary. It is paradoxical for our zeitgeist that instead of the moral improvement of the human being, we are confronted with the questions of the biological improvement of man. Advocates of biomedical engineering argue that ethics and consideration of moral principles are, in fact, a major obstacle to free scientific research. Modern technology and genetic engineering ignore the normative principles that aim to preserve and protect human dignity. At the same time, ethicists have been accused of dubious sanctification of human nature, which in the opinion of genetic research experts threatens freedom of research. We are now in a situation where we need to ask ourselves whether shopping in the genetic supermarket truly represents »progress of the consciousness of freedom« (Hegel), or poses perhaps the greatest danger to humanity in the history of the human spirit by confronting us with a situation in which the future existence of humanity as we know it is at risk? In their constitutions, most Western European countries have given human beings a special status among living beings, as bearers of a dignity needing to be protected and promoted by principles, laws, and regulations. Thereby, humans have been legally distinguished from their evolutionary predecessors.

31 32

Cf. Rep. 610d–e. NE, 1095a16.

106

Jure Zovko

The quest for perfection promoted by sympathisers of enhancement ostensibly aims at progress and improvement in humanity. Representatives of transhumanism33 consider it the moral obligation of scientists to carry out scientific research in the field of genetic engineering in order to further the process of evolution, because human beings, as they are, are obviously not perfect. Human beings have not always existed, they came into existence as the result of natural selection. The most prominent transhumanists claim that the purpose of science and technology is to improve human capacities, especially intelligence, memory, ability to concentrate, and to prolong the period of healthy life. Enormous advances in medical technology, such as, for example, stem cell therapy, have resulted in some deadly diseases becoming treatable. Successes like these lead some scientists to wonder why we should limit ourselves to the treatment of the disease, and why not continue to improve the countless aspects of human functioning. In light of contemporary developments in the field of genetics, one may justifiably ask whether it is necessary to sacrifice scientific research in order to preserve the humanum. The danger that we may reach a point of no return in the process of amending the genetic make-up of human beings appears to be imminent, and reaching that point could result in a catastrophe of yet unknown proportions. For this reason, one of the primary tasks and perhaps the ultimate aim of philosophical critique as a form of cultivation of our humanity is to protect what is human with all its abilities and possibilities, so that human beings may continue to exist as individuals and in the community. The problem of the proper application of principles and proper judgement is a crucial issue in medicine, law, and biotechnological research. False diagnoses and false subsumptions arise in medicine not only and not primarily because of failures of science, but because proper treatment depends on the physician’s power of judgement. The physician’s expertise obviously does not depend on his training through purely scientific research alone, but also on his ability to apply his general knowledge to concrete life situations. In any case, it is not possible to set aside the question of humaneness in the art of healing because it is primarily about life itself, which is entrusted to the physician’s ability. In his essay »What is Enlightenment?« (1784), Kant concludes that it is often forgotten that »man is far more than a machine, so that he must be treated according to his dignity«.34 Kant’s conclusion to the question »What is Enlightenment?« is a critique of the book L’Homme-Machine (1748), written by medical doctor Julien Offray de La Mettrie because the author advocated a materialistic view of man, in which, in Kant’s view, the concept of human dignity is missing. 33 J ULIAN S AVULESCU /N ICK B OSTROM , Human Enhancement, in: (2009); N ICHOLAS AGAR, Truly Human Enhancement. A Philosophical Defense of Limits, Basic Bioethics, Cambridge, MA: MIT Press 2014. 34 I MMANUEL K ANT , Beantwortung der Frage: Was ist Aufklärung? (1793), zitiert nach der Akademie Ausgabe, AA VIII, 42.

Ethics of Responsibility for the Era of Globalisation?

107

In a time of crisis, there is no alternative to morality based on respect for human dignity. I see the task of ethical reflection in the context of modern biotechnological research – as well as with regard to other ground-breaking areas of scientific research – as consisting in the preservation of human dignity. Morality and cultivation of moral judgement provide the basis for interpretation of what it is to be human and protect us from a »Weltanschauung« destructive of what is most valued in the human spirit. One of the most common objections to Kant’s ethics is that it is an empty formalism without reference to the concrete practice of life, culminating in five variants of the categorical imperative. Bernard Williams additionally criticised Kant for completely ignoring the role of emotions in constituting morality, which is one of the reasons for his formalism. The question of happiness and the happy life is completely irrelevant to Kant’s explication of moral action.35 Allen W. Wood, one of the best-known translators of Kant’s philosophy into English, confronts us with the main problems of Kant’s ethics: Kant’s high-minded talk about duty and personality is an empty formalism that can easily become a pretext for any sort of tyranny or manipulation. Kant’s admiration for »good will« is an unhealthy individualism focusing on the agent’s inner intentions rather than their social setting. Those who see Kant this way regard it as entirely suitable to the inhumanity of his ethical doctrine that he locates his good will entirely outside nature, in an unknowable noumenal world.36

In his work On the Common Saying: »This May Be True in Theory, but it Does not Apply in Practice« (1793) Kant responded personally to objections by Christian Garve that his morality was merely formalistic. Garve (1742–1798), an eminent translator and ethicist of Stoic orientation, claimed that Kant’s moral philosophy, based on abstract principles, formal rules, and duties, was useless in practical life. In his response to the objections, Kant argues that the task of judgement is to combine theory and practice, the possibility of applying universal ethical norms to a particular life situation: »In addition, there must be an act of judgement by means of which one distinguishes whether the rule refers to the concrete case«.37 Kant thus suggested that the entire Critique of Practical Reason should be interpreted from the perspective of the third Critique, i.e., with regard to the question of applying ethical norms to a concrete situation. Kant warns about the futility of

35

B ERNARD W ILLIAMS, Moral Luck, Cambridge: Cambridge University Press 1981, 35. A LLEN W. W OOD, Kant’s ethical thought, Modern European philosophy, Cambridge ; New York: Cambridge University Press 1999, 3, 70–71. 37 I MMANUEL K ANT , Über den Gemeinspruch: Das mag in der Theorie richtig sein, taugt aber nicht für die Praxis, zitiert nach der Akademie Ausgabe, AA VIII, 285. 36

108

Jure Zovko

theoreticians who can never in all their lives become practical, since they lack judgment. There are, for example, doctors or lawyers who did well during their schooling but who do not know how to act when asked to give advice (Consilium).38

Kant wants to explicitly emphasise that the validity of a theory and norm is verified and confirmed through its application in practice. He explicitly points out that he »has confidence in theory when it starts from the legal principle of relations between men and states as they should be.«39 We judge the relationship between theory and practice, as Kant explicitly stated, in three significant segments: in the context of morality, with respect to the well-being (das Wohl) of the individual; in the context of politics, with regard to the welfare of the state and its citizens; and finally, with regard to the ultimate good of humanity, »in cosmopolitan intent«.40 Hannah Arendt, in her Lectures on Kant’s Political Philosophy, tried to analyse and expand on the theme of Kant’s third Critique in the context of his political philosophy. Kant’s idea of our capacity to distinguish between the beautiful and the ugly was applied by H. Arendt to the moral task of distinguishing between what is true and false, or good and evil.41 Philosophers who invoke Kant’s model of respect for human dignity (Ronald Dworkin, Robert Alexy, Wolfgang Wieland, Robert Spaemann) because it represents an intrinsic value that cannot and must not be monetised under any circumstances know that the idea of human dignity depends heavily on the application of law in practice, i.e., its interpretation according to the principle that every citizen has the right to equal treatment in the application of law (Dworkin). Dworkin explicitly emphasises that Kant’s notion of human dignity, according to which every person should be treated equally and with dignity before the law, is a basic prerequisite for the functioning of democracy and legislation. The risk of monetisation of human dignity exists especially in the field of medical therapy and the treatment of patients. Many sophisticated medical treatments and operations depend on money, and often poor people cannot afford such luxuries. Human dignity is put to the test in such cases. The equality of human beings unfortunately remains a mere letter in the proclamations of the laws. It should be the primary responsibility of the state to provide its citizens with good health care, so that medical treatment and preventive care are available to all equally, including those who cannot pay. I consider the actual primacy of deontological morality, as developed by Kant, which advocates a ban on the instrumentalization of man, the best form of morality in times of crisis and imminent dangers at global levels. We cannot achieve this with utilitarian morality, because it strives for utility as a principle. A good 38

Op. cit., AA VIII, 285. Op. cit., AA VIII, 314. 40 Op. cit., AA VIII, 277. 41 Cf. H ANNAH A RENDT , Vom Leben des Geistes, München: Piper 1979, 15. 39

Ethics of Responsibility for the Era of Globalisation?

109

and obvious example of the instrumentalization of the person is prostitution, which has been legalised in many democratic states, although it is an obvious violation of human dignity. Even though it is not possible to ban prostitution by law, it is necessary to condemn its use as immoral on a global level. This argument can be successfully carried out from the point of view of Kant’s morality of human dignity. In a time when our earth as a whole remains threatened, we need a moral responsibility for the preservation of our living world. Kantian deontological morality has no alternative when it comes to respect for human dignity and responsibility for our living world (Lebenswelt). Nietzsche warned us that we remain faithful to the earth, in the sense that we forget our earth when we take refuge in religions. Insofar as science is not merely some set of mathematized theory but is embodied as a technoscience which materially relates to a world, and insofar as the Earth is a perceivable planet, and then, insofar as our measurements are critically reconstructed through instrumentally constitutive praxis, then phenomenologists can detect the possible greenhouse effect. Philosophical reflection, in other words, if it is going to remain a relevant approach to our technological society, ought to incorporate products and achievements of modern technology as an integral part of our concept of a »life world«. Our everyday being-in-the-world would be unthinkable without the sophisticated products of technology familiar to us today, from cell phones to the world wide web and cloud computing. Our contingent life depends heavily on the complex management of trade and shipping, above all for the supply and distribution of basic necessities, as well as on the help of advanced medicine and pharmacy. Many diseases from which people died thirty years ago are generally curable today, due to the rapid development of medicine and technology. This is particularly important for the world of technology, which is to be analysed in all its diversity. The development of the most modern equipment also implies the ability to understand it, especially in its practical use. Modern technology has enriched our lives in many ways, made life easier, enabled us to be satisfied and happy. I think it is necessary to apply Kant’s notion of reflective judgement (reflektierende Urteilskraft) to all that is humanum and humanities because according to Kant in this area of humanum and humaniora, there is no science, only judgement.42 However, philosophical reflection does not aim only at an interpretation and explanation of the existing expressive forms of the human mind; it also considers the possibilities of some new forms of artistic and cultural creation and seeks reflective answers to both the challenges of the contemporary age and the complex issues pertaining to modern societies. 42 Cf. I MMANUEL K ANT , Kritik der Urteilskraft, Zitiert nach der Akademie Ausgabe, Stuttgart: Reclam [1878] 1963, §44.

110

Jure Zovko

The primary tasks of philosophical reflection also include a complex understanding and judgement of a concrete situation as well as the ways to cope with the issue of application of the universal to the particular. Kant coined the term »Gemeinsinn« (common sense among experts) in the Critique of Judgment, expressing a consensus on the recognition of art and culture in life. This intersubjective consensus remains a basis for mutual recognition of the importance of preserving our cultures of communication against the imperialism of power, of capital, of superficial communication. Critical philosophy in the area of ethics should reflect on the rational principles of decision-making and conduct in order to enable us to cultivate and strengthen our power of judgement and to penetrate the concrete situation clearer and more completely. The fact that it is not possible to apply generally valid norms to a concrete state of affairs without limitation does not justify anybody in discounting universal norms of action and concepts of normative standardisation as obsolete. The primary task of ethics, in my opinion, in the age of globalisation, is to promote and foster a uniform-universal responsibility in the pluralism of differences in terms of belonging to different cultures and forms of life, with the additional goal of contributing to the preservation and development of these cultures and forms of life. This pluralism of differences does not mean that the prevailing tendency toward rationalising uniformity should be replaced by cultural and moral relativism.

Endlichkeit und Verantwortung Menschsein im Zeitalter der Technologie Ingolf U. Dalferth I. Besser als gut? Was bedeutet es, in einer technologisch optimierten Welt Mensch zu sein?1 Bis vor kurzem galt jeder, der von einer Frau geboren wurde, als Mensch. Aber jetzt haben wir begonnen, Embryonen zu erzeugen, die nicht zu unserer Art gehören.2 Lange Zeit haben wir Technik genutzt, um die Welt um uns herum zu verändern, aber seit einiger Zeit haben wir begonnen, Technik zu nutzen, um uns selbst zu verändern. Durch Gentechnik, Klonen von Stammzellen, CRISPR/Cas9, künstliche Intelligenz, digitale Netzwerke und Robotik haben wir einen Prozess in Gang gesetzt, der die Definition des Menschseins verändern wird, und es ist unklar, wohin das führen wird. Es ist nicht überraschend, dass man sich über die Gefahren dieser Technologien und die potenziell gefährlichen Folgen für unsere Spezies Sorgen macht.3 Sollen wir mit Robotern konkurrieren oder uns ihnen anpassen? Was ist mit potenziell bösartigen Anwendungen?4 Wäre es hilfreich, moralische Prinzipien in die Algorithmen unserer Maschinen einzubauen und sie dazu zu bringen, so zu handeln, dass sie stets das Gute maximieren, indem sie das Übel und das Leiden so weit wie möglich minimieren? Oder würde dies nur die Gefahr vergrößern, dass sie sich aus moralischen Gründen dazu entschließen, uns Menschen los-

1

Vgl. zum Folgenden, I NGOLF U. DALFERTH, The Power of Passivity. The Challenge of Being Human in the Age of Technology, in: PTSc 1.8 (2021), 5–28. 2 Vgl. J OACHIM M ÜLLER -J UNG , Dieser Embryo gehört nicht zu uns, in: FAZ (22.03.2019), URL : https://www.faz.net/aktuell/wissen/gen-experimente-dieser-embryo-gehoert-nicht-zuuns-16096488.html. 3 Vgl. NATASHA V ITA -M ORE , What is the Mission of Humanity+?, URL : https : / / humanityplus.org/about/mission (besucht am 28. 03. 2022). 4 Vgl. B ERNHARD M ARR , Is Artificial Intelligence Dangerous? 6 AI Risks Everyone Should Know About, URL: https : / / www. forbes . com / sites / bernardmarr / 2018 / 11 / 19 / is - artificial intelligence- dangerous- 6- ai- risks- everyone- should- know- about/%5C#5e9e625d2404 (besucht am 28. 03. 2022).

112

Ingolf U. Dalferth

zuwerden, weil wir die größte Quelle des Übels und des Leidens auf der Welt sind?5 Das sind schwierige Fragen, selbst für Transhumanisten. Humanity+, die größte transhumanistische Organisation, »advocates the ethical use of technology, [...] to expand human capacities. In other words, we want people to be better than well. This is the goal of transhumanism.«6 Aber was ist ein »ethischer Gebrauch von Technologie«? Und was heißt es, Menschen »besser als gut« zu machen? Wäre eine Welt ohne Menschen nicht eine bessere Welt, weil sie eine Welt ohne Übel wäre? Und sollten wir nicht alle Versuche, die Welt besser zu machen, begrüßen? Diese viel zu oft gebrauchte Phrase sollte uns vorsichtig machen. Manchmal wäre die Welt ein besserer Ort, wenn wir sie in Ruhe ließen. Unsere Kultur ist besessen von Aktivität und Machen und hat die Macht der Passivität und der Passion vergessen. Die Wendung ist eine Leerformel, solange wir nicht angeben, für wen die Welt besser werden soll und nach welchem Maßstab sie als besser oder schlechter beurteilt wird. Unsere Visionen von einer besseren Welt sind sehr verschieden. Die einen wollen die Welt besser machen, indem sie Mauern bauen, die anderen, indem sie alle Mauern niederreißen. Außerdem bedeutet gut sein, dass etwas für jemanden gut ist. Aber nicht alles, was für die einen gut ist, ist es auch für die anderen. Und nicht alles, was für jemanden als Arbeitnehmer gut ist, ist auch gut für ihn als Vater, als Bürger, als Mensch oder als Geschöpf Gottes. Weil die Formel all dies im Dunkeln lässt, wird es moralischen Heuchlern leicht gemacht, sich ihrer zu bedienen, um ihre alles andere als moralischen Interessen zu verbrämen. Sie geben vor, die Welt besser zu machen, aber sie wollen vor allem ihre eigene Situation verbessern. Wir sollten also vorsichtig sein, etwas allein deshalb schon gutzuheißen, weil es angeblich hilft, die Welt besser zu machen. Was damit gemeint ist, wird man in jedem Fall genau prüfen müssen. Hinter dieser Vorsicht steht keine modernitätskritische Ablehnung neuer Technologien. Pauschale Technik- und TechnologieKritik ist nie eine gute Idee. Die Wissenschaft ist unser bester Kompass auf dem Weg zur Wahrheit, und Technologie ist Wissenschaft, die sich in Fähigkeiten, Techniken und Prozessen niederschlägt. Ohne Technologie können wir nicht existieren und haben dies auch nie getan. Wir wären schon lange nicht mehr da, wenn wir nicht gelernt hätten, die Schwächen unserer biologischen Natur zu kompensieren, indem wir uns als »zweite Natur« mit Hilfe der Technik eine eigene Umwelt, mit Hilfe der Moral eine soziale Welt, mit Hilfe der Medien eine kulturelle Welt und mit Hilfe der Religion eine transzendente Welt geschaffen haben. Während andere Tiere sich an ihre Umwelt anpassen und sich in ihren ökologischen Nischen einrichten, hat der Mensch gelernt, seine Umwelt an sich 5

Vgl. T HOMAS M ETZINGER, Die mitfühlende Superintelligenz, die Böses schafft, in: NZZ (2.12.2017), 44–45. 6 V ITA -M ORE , What is the Mission of Humanity+?

Endlichkeit und Verantwortung

113

anzupassen und sie nach seinen Bedürfnissen zu gestalten. Nur weil wir Menschen zu Tieren geworden sind, die kreativ denken, Neues schaffen und Technik nutzen, sind wir noch da. Aber vielleicht nicht mehr lange. Der Übergang vom Tier zum Menschen hat den Menschen offenbar an einen Punkt gebracht, an dem er Anzeichen zeigt zu vergessen, dass er als Mensch auch ein Tier ist und zu einem Gesamtzusammenhang des Lebens gehört, den er nicht selbst erzeugt hat, der ihn aber erzeugt. Diese Entwicklung schien zunächst vielversprechend: Was wie eine biologische Schwäche aussah, entpuppte sich als anthropologische Stärke. Das biologische Versagen des Menschen, sich seiner Umwelt anzupassen, hat anthropologisch gesehen zu einer Weltoffenheit geführt, die den Anstoß zu ständigen Grenzüberschreitungen gegeben hat. Der Mensch schreckt vor nichts zurück, wenn er seinem Schaffensdrang nachgeht, nicht einmal vor der menschlichen Spezies selbst. Doch hier überschreiten wir eine kategoriale und nicht nur eine graduelle Grenze. Was mit dem Versuch des Mensch begann, die Wahrscheinlichkeit seiner Vernichtung durch eine feindliche Umwelt zu verringern, beschränkt sich heute nicht mehr auf seine Umwelt und seine soziale Welt, sondern erstreckt sich auf ihn selbst, so dass die Menschheit in Gefahr steht, sich selbst zu vernichten. Wir bauen nicht nur unsere natürliche Umwelt nach unseren Vorstellungen um, mit allen ökologischen Konsequenzen, mit denen wir heute zu kämpfen haben. Wir betrachten auch unsere menschliche Sozialwelt als ein Feld des permanenten Experimentierens mit Formen menschlicher Beziehungen, deren kumulative Kollateralschäden wir oft kaum in Schach halten können. Und wir sind dabei, uns selbst zum Gegenstand eines umfassenden biologischen Experiments zu machen, dessen Parameter wir nicht wirklich beherrschen und dessen Ausgang völlig ungewiss ist. Es reicht nicht aus, dies nur als ein technisches Problem der Beherrschung der für die Neugestaltung des Menschen notwendigen Technologien zu betrachten. Das Problem liegt tiefer. Wenn die Notwendigkeit, dass der Mensch als hochgradig verletzliches Mängelwesen »die Mängelbedingungen seiner Existenz eigentätig in Chancen seiner Lebensfristung umarbeiten«7 muss, im transhumanistischen Sinne nicht nur auf die menschenfreundliche Gestaltung der physischen Umwelt und der sozialen Welt, sondern auf den Menschen selbst ausgedehnt wird, wird das ganze Projekt absurd. Denn wie soll eine menschenfreundliches Design des Menschen aussehen, wenn der Mensch selbst nicht mehr von seinem menschlichen Design unterschieden werden kann? Was wir heute als »menschlich« bezeichnen, wird nicht mehr das sein, was man künftig als »menschlich« bezeichnen wird.8 7 A RNOLD G EHLEN , Der Mensch. Seine Natur und seine Stellung in der Welt, 10. Aufl., Frankfurt am Main: Athenaion 1974, 36 (dort kursiv). 8 Das hat C. S. L EWIS schon früh richtig gesehen (vgl. C LIVE S TAPLES L EWIS , Die Abschaffung des Menschen, übers. von Martha Gisi, 8. Aufl., Einsiedeln: Johannes Verlag 2015).

114

Ingolf U. Dalferth

Es scheint daher zwingend notwendig, zwei Entwicklungen zu unterscheiden, die häufig miteinander vermengt werden. Es ist eine Sache, Medien, Materialien, Technologie und Kultur als Erweiterungen des Körpers zu betrachten, die die konventionellen Grenzen zwischen dem Menschen und seiner Umgebung verschieben und neu zu definieren nötigen. Dies kann noch als Ausdruck der »prosthetischen Erweiterung« des Menschen verstanden werden. Eine ganz andere Sache ist es aber, wenn der Mensch sich selbst in eine Umgebung verwandelt, die gestaltet werden kann und soll. Mit der Aufhebung der Dichotomie zwischen Mensch und Umwelt verschwinden sowohl die Umwelt als auch der Mensch und die Unterscheidung zwischen ihnen. Was also sollen wir von dem transhumanistischen Ziel halten, »den Menschen besser als gut« zu machen? Bevor wir diese Frage beantworten können, müssen wir wissen, was gut für uns ist, und das wiederum erfordert eine Vorstellung davon, wer und was wir sind oder sein wollen. Ohne eine Vorstellung davon zu haben, für wen etwas gut sein soll, können wir nicht entscheiden, ob es gut ist oder nicht. Wir müssen eine Vorstellung davon haben, wer wir sind, um zu entscheiden, was für uns gut ist oder besser oder besser als gut. Hier stoßen wir auf das schwierigste Problem. Wir können nicht sagen, wer wir sind, wenn wir uns nicht unter einer Beschreibung verstehen – als Sohn oder Tochter, Vater oder Mutter, Bürger oder Student, Mensch oder biologischer Organismus, Geschöpf Gottes oder Tropfen im Meer des Nichts. Aber was für mich als Sohn gut ist, muss für mich als Vater nicht gut sein, was für mich als Bürger gut ist, muss für mich als biologischen Organismus nicht gut sein, was für mich als Mensch gut ist, muss für mich als Geschöpf Gottes nicht gut sein. Wir können nicht ohne weiteres davon ausgehen, dass das, was für mich unter einer Beschreibung gut ist, auch unter einer anderen Beschreibung gut für mich ist. Und da wir alle durch eine Fülle von Beschreibungen beschrieben werden können, können wir nicht sagen, was für uns gut ist, ohne die Beschreibung zu spezifizieren, unter der es für uns gut ist. Dies ist eine ständige Quelle ethischer Konflikte im Leben von uns allen. Deshalb brauchen wir ein Verständnis von Sohn, Tochter, Mutter oder Vater, das deutlich macht, was für Söhne, Töchter, Mütter oder Väter gut ist, ein Verständnis vom Bürger, das erhellt, was für Bürger gut ist, einen Begriff vom Menschen, der klärt, was für Menschen gut ist, ein Verständnis von Geschöpf, das angibt, was für Geschöpfe gut ist. Niemand wird mit solchen Auffassungen geboren. Niemand weiß für sich selbst, was für ihn als Vater oder Mutter, Sohn oder Tochter gut ist, oder was für ihn als Bürger im Staat oder als Mensch unter Menschen gut ist. All das muss man lernen, und in verschiedenen Kulturen lernt man da unterschiedliche Dinge. Das gilt auch für das Verständnis des Menschen. Niemand weiß von sich aus, was für ihn als Mensch gut ist. Durch Bildung und Kultur erwerben wir alle ein Verständnis davon, was es bedeutet, einer Familie, einem Staat, einer Gesellschaft anzugehören. Aber was unser Menschsein betrifft, so haben wir ein klares

Endlichkeit und Verantwortung

115

Verständnis dessen verloren, wer und was wir sind. Doch wer nicht weiß, wer und was er ist, kann nicht entscheiden, was in dieser Hinsicht oder unter dieser Beschreibung gut für ihn ist. Was heißt es also für uns heute, ein Mensch zu sein?

II. Was heißt es, ein Mensch zu sein? Wer und was wir sind, war schon immer eine umstrittene Frage. Platon wurde für seine Definition des Menschen als federlosen Zweibeiner bewundert, aber nur so lange, bis Diogenes der Kyniker einen gerupften Hahn über die Mauer von Platons Schule warf und rief: »Das ist Platons Mensch«.9 Die Menschen sind sich nicht nur über das Sein und Wesen der Menschen uneinig, sondern auch über das Sollen, die Werte, Ziele und Zwecke, die die Menschen in ihrem Leben verwirklichen sollten. Sie geben nicht nur unterschiedliche Antworten auf die Tatsachenfrage, was Menschen faktisch sind und tun (was wissen wir über den Menschen?), sondern auch auf die Begriffsfrage, was Menschen zu Menschen macht (was verstehen wir unter ›Mensch‹?), und auf die normative Frage, was Menschen menschlich macht und wie man als Mensch leben sollte, um ein wirklich menschliches Leben zu führen (was ist ein menschlicher Mensch?). Antworten auf die Fragen nach unserem Menschsein, unserer Menschlichkeit und unserer humanitas (Cicero) werden auf mindestens fünf verschiedenen Wegen gesucht: durch die Unterscheidung des Menschen vom Nicht-Menschlichen (anderen Tieren), vom mehr als Menschlichen (dem Göttlichen), vom Unmenschlichen (negative menschliche Verhaltensweisen), vom Übermenschlichen (was Menschen werden können oder sollen) oder vom Transhumanen (denkende Maschinen). In jedem dieser Fälle ist die Frage, um die es geht, und der Gesichtspunkt, unter dem verglichen wird, ein anderer, und in all diesen Fällen wird der Begriff des Menschen unterschiedlich definiert. In all diesen Fällen sind es allerdings wir, die diese Fragen stellen und diese Vergleiche anstellen. Unser menschlicher Standpunkt ist in jeden Vergleich mit dem Nicht-Menschlichen, dem mehr als Menschlichen, dem Unmenschlichen, dem Übermenschlichen, dem Transhumanen eingeschrieben. Wir sind der Bezugspunkt für die Gegensätze, die wir erforschen, und in wichtiger Hinsicht ist die Unterscheidung kein Unterschied zwischen uns und anderen (Nicht-Menschen, Mehr-als-Menschen, Un-Menschen, Über-Menschen, Trans-Menschen), sondern ein Unterschied, der quer durch uns selbst hindurchgeht. Die Schwierigkeit zu sagen, wer und was wir sind, liegt gerade darin, dass wir so überdeterminiert oder multicodiert sind, dass wir auf diese Fragen keine einfache und klare Antwort geben können. 9 D IOGENES L AERTIUS , Leben und Meinungen berühmter Philosophen. Erster Band: Bücher I-VI, hrsg. von Otto Apelt/Klaus Reich/Hans G. Zekl, Hamburg: Felix Meiner 2008, 314.

116

Ingolf U. Dalferth

Was also macht den Menschen zum Menschen? Was bedeutet es für den Menschen, ein menschliches Leben zu führen? Was ist die humanitas, nach der wir streben sollten? Die klassische Tradition definierte den Menschen als vernünftiges bzw. vernunftfähiges Lebewesen (animal rationale bzw. animal rationabile). Das wurde auf zwei verschiedene Arten verstanden, je nachdem, was man als Genus (genus proximum) und als den spezifischen Unterschied (differentia specifica) in dieser Definition auffasste. In der aristotelischen Tradition war das Tier die Gattung und die Vernunft die spezifische Differenz: Der Mensch teilt das Nährleben mit den Pflanzen und das Instinktleben mit anderen Tieren, aber er unterscheidet sich von den anderen Tieren durch seine Vernunft, seinen Geist oder Intellekt.10 Neuplatonische Philosophen sahen es umgekehrt. Wenn Porphyrius den Menschen als »sterbliches, vernunftbegabtes Tier« versteht, betrachtet er die Vernunft (die vernunftbegabte Natur) als Gattung und die Tierheit (den sterblichen Körper) als den spezifischen Unterschied. Die erste Sichtweise stellt den Menschen aufgrund seines Intellekts oder seiner Vernunft geistig an die Spitze der Tierwelt (die Vernunft erhebt uns über alle anderen Tiere), die zweite Sichtweise betrachtet ihn aufgrund seiner Materialität und Körperlichkeit als eine niedrige oder sogar degenerierte Art von Vernunftoder Geistwesen (unser Körper behindert und begrenzt unsere Vernunft). Judentum und Christentum haben dieses ambivalente philosophische Erbe durch die Brille ihrer imago Dei-Tradition gelesen, indem sie den Menschen mit dem Göttlichen verglichen. Einerseits verstanden sie die höchsten Teile der menschlichen Vernunft (apex mentis) als den Berührungspunkt zwischen dem Menschlichen und dem Göttlichen: Was uns von anderen Tieren unterscheidet (unser Intellekt oder unsere Vernunft), ist zugleich das, was uns analogisch mit dem Göttlichen verbindet. Andererseits sahen sie in der Materialität des Körpers und der Sinnlichkeit der tierischen Natur die Ursache für die Entstellung unseres menschlichen Potentials, weil sie den Menschen vom wahren Geistesleben der Vernunft und der Rationalität ausschließen. So wurde die Vernunft als eine quasi-göttliche Eigenschaft des Menschen betrachtet, die den absoluten Unterschied zwischen uns (und den Engeln) und allen anderen Lebewesen markiert, während der Körper mit seiner Sinnlichkeit und Materialität als Hindernis, als Gefängnis und Verzerrung unseres wahren geistigen Wesens verurteilt wurde. Die Moderne erbte beide Ansichten und beide Probleme. Auch wo sie aufhört, den Menschen im Vergleich mit Göttlichem zu definieren, und anfängt, ihn aus evolutionärer Perspektive zu betrachten, sucht sie immer noch nach biologischen Unterschieden, die den Menschen aus der Tierwelt herausheben. Und dort, wo sie die imago Dei-Tradition fortsetzt, bewertet sie Körper, Materialität und Sinnlichkeit auf neue Weise positiv und muss daher auch das Göttliche anders verstehen 10

I.13.

A RISTOTELES, Ethica Nicomachea, hrsg. von Ingram Bywater, Oxford: Clarendon 1890,

Endlichkeit und Verantwortung

117

(nicht nur als »geistig«, sondern in dipolarer Weise auch als – irgendwie – »materiell«).

III. Zeitgenössische Herausforderungen Heute müssen wir die Idee des Menschseins im Lichte einer mindestens sechsfachen Herausforderung diskutieren: (1) Die erste ist die biologische Herausforderung an die Sonderstellung des Menschen. Biologische und neurophysiologische Forschungen ebnen eine prinzipielle Unterscheidung zwischen Menschen und anderen Tieren und Lebewesen zunehmend ein und lösen sie auf: Vernunft, Rationalität, Reflexion, Entscheidungsfähigkeit, Wahlfreiheit, intentionsgeleitetes Handeln usw. sind alles graduierbare Fähigkeiten und lassen sich in der einen oder anderen Weise auch bei anderen Tieren finden. Menschen sind Teil der Natur und eingebettet in die komplexen Ökosysteme der natürlichen und biologischen Welt. (2) Eng damit verbunden ist die ökologische Herausforderung, die die Zukunft der Menschheit als biologische Spezies bedroht. Wir leben inmitten einer massiven ökologischen Krise, die durch menschliches Verhalten verursacht wird und sich im Klimawandel, in extremen Wetterereignissen, in der Desertifikation, im Verlust der biologischen Vielfalt, im Rückzug der Gletscher, im Anstieg des Meeresspiegels, im Verlust der Fischerei und der Wälder, in der Versauerung der Ozeane, in der Verschmutzung von Luft, Wasser und Boden und in zahlreichen anderen Merkmalen der Umweltzerstörung zeigt.11

Dies ist »keine vorübergehende Krise, durch die wir uns irgendwie hindurchwurschteln können, indem wir uns auf den menschlichen technowissenschaftlichen Einfallsreichtum verlassen«.12 Vielmehr werden unsere Entscheidungen »die Zukunft allen Lebens auf der Erde bestimmen«.13 Das heißt, der Mensch ist nicht nur ein Teil der Natur, sondern derjenige, von dem die Zukunft des Lebens auf der Erde mehr als von jedem anderen Lebewesen abhängt. (3) Die dritte Herausforderung ist die technologische Herausforderung, die darauf abzielt, die Grenzen unserer biologischen Natur mit technologischen Mitteln zu überwinden. Wenn die Forschung auf dem Gebiet der biologischen Datenverarbeitung, der Nanotechnologie und der maschinellen Intelligenz weiterhin so schnell voranschreitet wie in den vergangenen Jahren, wird der Unterschied zwischen Mensch und Maschine bald vernachlässigbar sein und es wird keinen Raum mehr geben, das Menschsein in seiner Besonderheit zu definieren. Die Herausforderung für die Idee der Menschheit von dieser Seite ist, dass die Menschheit, wie wir sie kennen, verschwinden wird, wenn superintelligente den11 H AVA T IROSH -S AMUELSON , Human Flourishing in the Age of Technology 2022 (im Erscheinen). 12 A. a. O. 13 A. a. O.

118

Ingolf U. Dalferth

kende Maschinen den Menschen und den menschlichen Intellekt verdrängt haben werden. (4) Die vierte Herausforderung ist die anthropologische Herausforderung. Wenn wir Menschen nicht mit anderen Tieren, sondern mit anderen Menschen vergleichen, dann werden die Regelmäßigkeiten einer gemeinsamen Biologie und evolutionären Vergangenheit bei weitem von den kulturspezifischen Unterschieden und der Pluralität übertroffen, mit der sich Menschen an unterschiedliche Situationen und Umstände anpassen. Es gibt keine Einheit der Menschheit, die nicht aus einer Vielzahl von Unterschieden hervorgegangen wäre, auf biologischer wie auf kultureller Ebene. Die anthropologische Herausforderung besteht darin, dass die Menschheit ein normatives Projekt ist, nicht nur eine biologische Tatsache, und dass es einen permanenten normativen Konflikt gibt, wie dieses Projekt in der menschlichen Kultur und Geschichte umgesetzt wurde oder werden sollte. (5) Die fünfte Herausforderung ist die kosmologische Herausforderung. Wir leben in einem immensen Universum, in dem wir marginal und völlig unbedeutend sind. Und wir leben in einem endlichen Universum, das nicht für immer gemacht ist. Die Weite des Universums kann zu einem Gefühl der Größe Gottes oder zu einem Erschrecken über die Unbedeutsamkeit des Menschen führen. Wenn ich die kurze Dauer meines Lebens betrachte, das von der vorhergehenden und der darauffolgenden Ewigkeit aufgesogen wird [...] und den kleinen Raum, den ich ausfülle und den ich noch dazu von der unendlichen Unermeßlichkeit der Räume verschlungen sehe, die ich nicht kenne und die mich nicht kennen, so gerate ich in Schrecken und erstaune, mich eher hier als dort zu sehen, denn es gibt keinen Grund, warum es eher hier als dort ist, warum jetzt und nicht vielmehr früher. Wer hat mich dorthin gebracht? Durch wessen Gebot und Führung sind dieser Ort und diese Zeit mir bestimmt worden?14

»Die ewige Stille dieser unendlichen Räume erschreckt mich.«15 Pascal war nicht der Einzige, der von diesem Schrecken überwältigt wurde. Wir sind nichts. Es ist kein großer Trost, wenn man uns sagt, dass wir in einem fein abgestimmten Universum leben, das genau dafür gemacht zu sein scheint, dass wir es beobachten, und dass wir genau dafür gemacht sind, es zu beobachten. Wir wissen, dass dies nicht ewig so bleiben wird – nicht für uns, nicht für unsere Art, nicht für unsere Galaxie, nicht für unser Universum. Die langfristige Zukunft des Universums gibt wenig Anlass zur Hoffnung. Wenn sich die Expansion des Universums nicht 14 B LAISE PASCAL , Das Ich besteht in meinem Denken. Aus den ›Gedanken‹, hrsg. von Franz Josef Wetz, übers. von Ulrich Kunzmann, 2. Aufl., Ditzingen: Reclam 2017, fragment 205: »Quand je considère la petite durée de ma vie absorbée dans l’éternité précédente et suivante – memoria hospitis unius diei praetereuntis – le petit espace que je remplis et même que je vois abîmé dans l’infinie immensité des espaces que j’ignore et qui m’ignorent, je m’effraye et m’étonne de me voir ici plutôt que là, car il n’y a point de raison pourquoi ici plutôt que là, pourquoi à pr ésent plutôt que lors. Qui m’y a mis? Par l’ordre et la conduite de qui ce lieu et ce temps a(-t-)il été destiné à moi?« 15 A. a. O., fragment 201–206: »Le silence éternel de ces espaces infinis m’effraie.«

Endlichkeit und Verantwortung

119

in eine Kontraktion umkehrt, die zu einem großen Knall führt, wird das Universum als kalter und uninteressanter Ort enden, der aus toten Sternen und schwarzen Löchern besteht. Der einzige Trost ist, dass wir das Ende nicht mehr erleben werden. Wir werden vorher verschwunden sein. (6) Die sechste Herausforderung ist die theologische Herausforderung, den Menschen im Vergleich mit dem Göttlichen zu verstehen. Das Gewicht dieser Herausforderung wird unterschätzt, wenn man das Göttliche lediglich als kulturelles Konstrukt und nicht als sich selbst offenbarende Wirklichkeit begreift, und die Antworten auf diese Herausforderung werden missverstanden, wenn man sie als Beitrag zur Debatte über die biologischen oder technologischen Herausforderungen versteht. Die Herausforderung, zumindest in den monotheistischen Traditionen, besteht vielmehr darin, eine Vision des guten menschlichen Lebens zu entwickeln, in deren Mittelpunkt die Wahrung der Unterscheidung zwischen Schöpfer und Geschöpf steht. Es handelt sich um ein normatives Menschenbild, das die Vollgestalt des menschlichen Lebens darin sieht, in Harmonie mit den Gaben des Schöpfers (der Gabe des Lebens und der Gabe der Liebe) und offen für die Bedürfnisse von Gottes Nächsten (wie es im Doppelgebot der Liebe zum Ausdruck kommt) und aller anderen Geschöpfe, die Empfänger von Gottes Gaben sind, zu leben.

IV. Sechs Schlüsselbegriffe Die sechs Herausforderungen werfen sehr unterschiedliche Fragen auf. (1) Die erste nötigt uns zu untersuchen, was uns von anderen Säugetieren unterscheidet. Aber was immer wir auch nennen mögen, der Unterschied ist relativ und nicht absolut: Der Mensch unterscheidet sich nur relativ von anderen Tierarten, weil er in die Gesamtheit des Lebens eingebettet ist. (2) Die zweite nötigt uns zuzugeben, dass wir aufgrund dieser Einbettung die Verantwortung für die Auswirkungen und Folgen unserer Handlungen und Verhaltensweisen auf andere tragen. Von allen Lebewesen auf der Erde tragen wir allein die Verantwortung für unser Tun, und gleichzeitig sind wir nicht in der Lage oder nicht willens, unserer Verantwortung gerecht zu werden. (3) Die dritte nötigt uns, nicht nur zu überlegen, was wir werden können, sondern auch, wer wir sein wollen. Was sind unsere Möglichkeiten, und was würde es für uns bedeuten, besser als gut zu sein? Wir können uns nie mit den Antworten zufrieden geben, die die Wissenschaften geben. Sie sagen uns, was wir sind. Aber wir müssen entscheiden, was wir sein wollen oder sein sollten. Menschlichkeit ist nicht nur eine Tatsache, sondern vor allem ein normatives Projekt. (4) Die vierte Herausforderung macht deutlich, dass es, gerade weil die Menschlichkeit ein normatives Projekt ist, sehr unwahrscheinlich ist, dass wir uns auf nur eine Vision oder nur einen Vorschlag verständigen werden. Wir kön-

120

Ingolf U. Dalferth

nen kein echtes menschliches Leben führen, wenn wir nicht Raum für eine Vielzahl von Möglichkeiten schaffen, ein menschliches Leben auf der Erde zu führen. Menschlich zu leben bedeutet, anders zu sein als andere Menschen. Menschlichkeit ist nicht einheitlich, sondern irreduzibel plural und divers. (5) Die fünfte Herausforderung zeigt, dass keine Antwort auf die Frage, welches Ideal von Menschlichkeit wir verwirklichen wollen, akzeptabel ist, wenn sie die Fakten über das Universum, in dem wir leben, ignoriert. Wir mögen von anderen Lebensformen in anderen möglichen Welten träumen, und wir können mit den von uns entwickelten Technologien virtuelle Realitäten erschaffen. Aber wir leben in dieser Welt, und diese Welt ist endlich und wird zu einem Ende kommen. Die Menschheit ist nur dann ein realistisches Projekt, wenn sie unsere Endlichkeit beachtet. (6) Die sechste Herausforderung besteht schließlich darin, die Unterscheidung zwischen Geschöpf und Schöpfer ernst zu nehmen. Wir sind nur in einem ziemlich oberflächlichen Sinn Schöpfer unserer selbst. Alle unsere Aktivitäten sind in Passivitäten eingebettet. Wir sind eingebettet in Umwelten, auf die wir reagieren, und wir sind eingebettet in eine Beziehung zur göttlichen Quelle allen Seins. Wir stören die erste Beziehung, weil wir die unökologischsten Lebewesen auf diesem Planeten sind, und wir stören die zweite, weil wir blind sind für den Ursprung unserer Existenz. Der Mensch unterscheidet sich von allen anderen Lebewesen dadurch, dass er auf eine Weise leben kann, die unserer grundlegenden Passivität als Lebewesen entspricht oder nicht. Aus diesen Herausforderungen ergeben sich sechs Schlüsselbegriffe: die Einbettung, die Verantwortlichkeit, die normative Vision, die Pluralität, die Endlichkeit und die Tiefenpassivität menschlichen Lebens. Jeder von ihnen verdient unsere Aufmerksamkeit, aber ich kann sie hier nicht alle erörtern. Ich beschränke mich vielmehr auf drei: unsere Endlichkeit, unsere Verantwortung und unsere Tiefenpassivität.

V. Ein Gefühl der Endlichkeit Wir sind endliche Wesen, und wir sind Teil des biologischen Evolutionsprozesses. Was jedoch für unser Selbstverständnis als Menschen wirklich zählt, ist nicht das, was wir mit den anderen Arten der Tierwelt oder den Maschinen, die wir herstellen, teilen und was uns von ihnen unterscheidet, sondern was uns hilft, als Menschen unter Menschen auf menschliche und nicht auf unmenschliche Weise zu leben. Eine solche Auffassung von Menschlichkeit muss sich auf eins positives Verständnis der menschlichen Endlichkeit stützen: Wir sind endliche Wesen in einer endlichen Welt, und wir können uns selbst nicht recht verstehen, wenn wir unserer Endlichkeit nicht würdigen. Was bedeutet das?

Endlichkeit und Verantwortung

121

»Endlichkeit« ist ein Kontrastbegriff, und zwar in doppeltem Sinn. Zum einen ist er die Abgrenzung eines Endlichen von einem anderen Endlichen. Zum anderen ist er die eine Seite der Unterscheidung zwischen endlich und unendlich. Etwas als »endlich« zu bezeichnen, bedeutet nicht nur, auf seine Begrenztheit und Unzulänglichkeiten hinzuweisen, indem man es von anderen endlichen Dingen abgrenzt, sondern auch, es als eine faktische Realität und Konkretion des Unendlichen zu sehen. Alles, was wir »endlich« nennen, ist also in zweierlei Hinsicht bestimmt: Es ist vom Unendlichen unterschieden (vertikale Unterscheidung), und es ist von anderen endlichen Sachverhalten unterschieden (horizontale Unterscheidung). Beide Unterscheidungen sind verschieden und können nicht auf eine reduziert werden (das Unendliche ist weder ein Element in der Reihe der endlichen Elemente noch die Gesamtheit dieser Reihe). Wenn wir den Gegensatz zum Unendlichen ausschließen oder vernachlässigen, haben wir keine endliche Welt, sondern lediglich eine Welt, die nicht einmal mehr »endlich« genannt werden kann. Und während die Unterscheidung von anderen endlichen Sachverhalten Begrenzungen impliziert, ist dies bei der Unterscheidung vom Unendlichen nicht der Fall: Das Unendliche begrenzt das Endliche nicht, sondern ermöglicht oder konstituiert es als Realität. Der Mensch unterscheidet sich von anderen endlichen Wesen dadurch, dass er sich – soweit wir wissen als einziger unter allen Lebewesen – seiner Endlichkeit in diesem doppelten Sinne bewusst werden kann. Ein schwaches Gefühl der Endlichkeit erlangen wir in alltäglichen Situationen, indem wir unsere Begrenztheit und Unvollkommenheit in unseren Interaktionen mit anderen erfahren. Wir können nicht alles tun und. bekommen, was wir wollen, weil andere da sind, die auch etwas wollen. Um jedoch einen starken Sinn für Endlichkeit zu entwickeln, müssen wir uns von diesen Konkurrenzsituationen distanzieren und sie insgesamt vom Unendlichen unterscheiden, in das sie eingebettet sind und ohne das sie nicht endlich wären. Dieser Kontrast zum Unendlichen ist keine Erfahrungsgegebenheit, sondern eine geistige Operation, die uns hilft, das, was wir erleben, aus einer anderen Perspektive und in einem anderen Licht zu sehen. Aber wir verfehlen die Kraft und Pointe dieses Kontrasts, wenn wir das Unendliche nur negativ als das verstehen, was nicht endlich ist (negative Unendlichkeit), und nicht positiv als das, was das Endliche setzt, indem es sich als Unendliches vom Endlichen unterscheidet (positive Unendlichkeit). Die Idee der negativen Unendlichkeit ist das Produkt unseres Versuchs, unsere endlichen Grenzen zu überwinden, während die positive Unendlichkeit das ist, ohne das es keine endliche Existenz gäbe. Als Menschen streben wir ständig danach, unsere Grenzen zu überschreiten und unsere Unvollkommenheiten zu überwinden. Aber endlich und nicht unendlich zu sein, ist keine Unvollkommenheit, die man überwinden könnte, sondern Kennzeichen unserer Wirklichkeit, weil es uns Zeit und Raum gibt, zusammen mit anderen ein menschliches Leben in dieser Welt zu führen. Die Pointe der Endlichkeit besteht nicht darin, dass wir das

122

Ingolf U. Dalferth

Manko haben, nicht unendlich zu sein, sondern dass wir das Glück haben, zu sein, obwohl wir auch nicht sein könnten. Wenn wir in einer technologischen Welt eine menschliche Zukunft haben wollen, müssen wir einen starken Sinn von Endlichkeit kultivieren und diese in einem positiven und nicht nur in einem negativen Sinne verstehen. Ein schwacher Sinn von Endlichkeit kann Gefühle der Ungleichheit unter den Menschen hervorrufen und Konkurrenz- bzw. Dominanzverhalten fördern, um das Beste aus den eigenen begrenzten Möglichkeiten auf Kosten der anderen zu machen. Ein starker Sinn der Endlichkeit hingegen impliziert die universelle Gleichheit aller endlichen Dinge im Unterschied zum Unendlichen, und das begründet die Achtung der Gleichheit aller Menschen und die Ehrfurcht vor allem endlichen Leben. Im Hinblick auf das Unendliche sitzen wir alle im selben Boot. Wir erhalten das Leben als Geschenk und können es nicht durch unser eigenes Tun erlangen. Wir müssen daher differenzierter über die menschliche Endlichkeit sprechen. Es ist eines, zu sein (oder zu existieren: Dasein), ein anderes, als Mensch zu leben (auf eine bestimmte Weise zu existieren: Sosein), und es ist eine dritte, als Mensch auf eine wahrhaft menschliche Weise zu leben (auf die richtige Weise zu existieren: Wahrsein). Das erste markiert den existenziellen Unterschied zwischen Sein und Nichtsein: Wir sind, obwohl wir nicht hätten sein können (kontingente Existenz). Das zweite markiert den biologischen Unterschied zwischen Menschen und anderen Tieren: Wir sind Menschen und damit verantwortlich für unser Leben. Das dritte markiert den anthropologischen Unterschied zwischen menschlichen und unmenschlichen Lebensweisen: Als Menschen können wir so leben, dass wir der Kontingenz und Endlichkeit unseres Daseins gerecht werden (menschliche Lebensweise), oder es nicht tun (unmenschliche Lebensweise). Daher müssen wir drei grundlegende Einsichten hinsichtlich der menschlichen Endlichkeit hervorheben, die auch im Zeitalter der Technologie gültig bleiben. Erstens verdanken wir unser Da-Sein nicht uns selbst, sondern einer schöpferischen Wirklichkeit jenseits von uns selbst: Wir sind eine endliche Wirklichkeit, die sich nicht selbst geschaffen hat. Zweitens verdanken wir unser So-Sein (jedenfalls zum Teil) uns selbst, indem wir auf menschliche oder unmenschliche Weise leben: Wir sind ein endliches Wirkliches, das gemacht ist, um sich selbst zu machen, also auf wahrhaft menschliche Weise leben will oder es nicht will. Drittens leben wir auf wahrhaft menschliche Weise, d.h. wir erreichen unser Wahrsein, indem wir anerkennen, dass unser Dasein nicht von uns selbst gemacht ist und dass wir dies mit allem anderen Seienden teilen: Wir haben uns nicht selbst gemacht, um uns zu machen. Während unsere Existenz nicht das Ergebnis unserer eigenen Entscheidung ist, ist es die Art und Weise, wie wir existieren sehr wohl: Wir hätten immer auch anders existieren können, und deshalb sind wir für die Art und Weise, wie wir tatsächlich existieren, verantwortlich. Damit komme ich zu meinem zweiten Punkt: Verantwortung.

Endlichkeit und Verantwortung

123

VI. Moralische Verantwortung Verantwortung ist ein weit gefasster Begriff mit einem großen Anwendungsbereich.16 Als Adjektiv kann das Wort verantwortlich auf eine Verpflichtung hinweisen, insbesondere in einer Situation der Kontrolle oder der Sorge. Eltern sind für ihre Kinder verantwortlich. Sie sind verpflichtet, für ihre Sicherheit und ihr Wohlergehen zu sorgen. Ärztinnen und Ärzte sind für ihre Patientinnen und Patienten verantwortlich. Sie sind verpflichtet, für die medizinische Versorgung zu sorgen. Verantwortlich kann auch bedeuten, dass etwas die Ursache für etwas anderes ist. Dies gilt sowohl für Menschen als auch für Naturereignisse. Wir sagen sowohl, dass der Regen für das Wachstum der Pflanzen verantwortlich, ist als auch, dass der abgelenkte Autofahrer für den Unfall verantwortlich ist. Als Substantiv ist Verantwortung etwas, das man tragen oder übernehmen kann. Eine Führungskraft übernimmt die Verantwortung für die ihr anvertrauten Menschen. Hier geht es um die Vorstellung, eine bestimmte Aufgabe und Pflicht zu haben. Verantwortung zu übernehmen bedeutet, eine Verpflichtung zu übernehmen. In einem solchen Fall ist man für ein bestimmtes Ergebnis verantwortlich, und Erfolg oder Misserfolg werden zu Recht gelobt oder getadelt. Im Allgemeinen bedeutet Verantwortung, jemandem gegenüber für die Auswirkungen und Folgen der eigenen Handlungen und Verhaltensweisen auf andere und sich selbst verantwortlich zu sein. Es gibt verschiedene Arten und Grade von Verantwortung, die unterschieden werden müssen. Eltern sind in mancher Hinsicht (aber nicht in allen), für eine gewisse Zeit (aber nicht für immer) und in gewissem Maße (aber nicht in jeder Hinsicht) für ihre Kinder verantwortlich. Und Ähnliches gilt auch für andere Funktionspositionen in der Gesellschaft. In einigen Bereichen sind wir jedoch immer und vollständig für uns selbst verantwortlich. Dies gilt insbesondere für die moralische Verantwortung. Moralische Verantwortung ist die Grundlage für moralische Zustimmung und Missbilligung. Es macht keinen Sinn, jemanden für eine Handlung zu loben, die er nicht zu verantworten hat. Es macht auch keinen Sinn, eine Person zu tadeln, die für die zu beurteilende Handlung oder Eigenschaft nicht verantwortlich war. Im Allgemeinen machen wir kleine Kinder oder Geisteskranke nicht für ihre Handlungen verantwortlich, weil man nicht sagen kann, dass diese Akteure die für die Verantwortlichkeit erforderliche Freiheit besitzen. Das Gleiche gilt für intelligente Maschinen. Sie können bestimmte Vorgänge in Gang setzen und ausführen. Aber können Maschinen für ihre Handlungen verantwortlich gemacht werden? Das Bild wird durch verschiedene Varianten des Determinismus noch komplizierter. Die Beständigkeit der Natur und der Erfolg der Naturwissenschaften zeugen von der Regelmäßigkeit der physischen und geschichtlichen Welt. Ereignisse geschehen nicht zufällig; sie werden durch andere Ereignisse verursacht 16 Vgl. T REVOR W. K IMBALL , »Radical Evil and Responsibility in Paul Ricoeur’s Philosophical Anthropology«, PhD, Claremont Graduate University 2019.

124

Ingolf U. Dalferth

usw. Wenn unsere Handlungen durch Ursachen bestimmt werden, die außerhalb unserer Kontrolle liegen, wie z. B. die physische Beschaffenheit des Gehirns oder die Vorsehung Gottes, wie kann man dann wirklich behaupten, dass diese Handlungen in irgendeinem sinnvollen Sinne freiwillig sind? Dies ist eine der vielen zeitgenössischen Herausforderungen an die moralische Verantwortlichkeit. Manche sagen, sie sei eine Illusion. Andere sagen, dass wir ohne sie nicht das sein könnten, was wir sind. Kant war in diesem Punkt absolut klar: Wenn wir nach der moralischen Verantwortung fragen, dürfen wir nicht von den Handlungen ausgehen, sondern von den Akteuren. Zu Beginn der Metaphysik der Sitten unterscheidet Kant zwischen einer Person und einem Ding. Person, schreibt Kant, »ist dasjenige Subject, dessen Handlungen einer Zurechnung fähig sind.«17 Ein Ding hingegen ist etwas, »was keiner Zurechnung fähig ist.«18 [Die] Zurechnung (imputatio) in moralischer Bedeutung ist das Urtheil, wodurch jemand als Urheber (causa libera) einer Handlung, die alsdann That (factum) heißt und unter Gesetzen steht, angesehen wird.19

Dieses Urteil bildet die Grundlage für unser moralisches Leben. Wenn niemand als Urheber seiner Handlungen angesehen werden kann, dann löst sich das, was man tun sollte, in das auf, was man tut. Alles Sollen setzt voraus, dass man frei handeln kann. Man hätte nicht tun können, was man getan hat, oder man hätte etwas anderes tun können. Nun war sich Kant durchaus bewusst, dass wir in einer Welt leben, die von Ursache und Wirkung beherrscht wird. Die Dinge entstehen nicht aus dem Nichts, und sie geschehen auch nicht rein zufällig. Die Handlungen, die wir tun, müssen also eine Ursache in der Natur haben, wie alles andere auch. Andererseits erfordert die Moral, dass Handlungen Akteuren zugeschrieben und angerechnet werden können als Ergebnis einer echten Entscheidung und damit echter Freiheit. Echte Freiheit ist nicht etwas Theoretisches, auch nicht das psychologische Gefühl, frei zu sein, das Kant »nur [...] empirisch«20 bzw. »großen Theils empirisch«21 nennt. Wir sind nicht frei, wenn wir unter dem Zwang eines anderen stehen oder wenn wir von unseren Wünschen, Bedürfnissen und Forderungen getrieben werden. Im Gegenteil, wir sind dann abhängig von dem, was wir wünschen, und stehen unter der Macht dessen, was wir brauchen oder wollen. Um

17 I MMANUEL

K ANT, Metaphysik der Sitten, zitiert nach der Akademie Ausgabe (im Folgenden zit. als MS), AA VI, 223. 18 MS, AA VI, 223. 19 MS, AA VI, 227. 20 I MMANUEL K ANT , Kritik der praktischen Vernunft, zitiert nach der Akademie Ausgabe (im Folgenden zit. als KpV), AA V, 15. 21 I MMANUEL K ANT , Kritik der reinen Vernunft, zitiert nach der Akademie Ausgabe (im Folgenden zit. als KrV), A448/B476, AA III, 310.

Endlichkeit und Verantwortung

125

wirklich frei zu sein, muss das, was wir tun, von uns ausgehen, nicht von uns als Objekten in der Welt, sondern von uns als dem Ort unserer Ich-Perspektive. Kants Argument dreht sich um die Perspektiven, die uns als menschlichen Akteuren zur Verfügung stehen. Indem wir handeln, kommt es an unserem Ort in der Welt einer »absoluten Spontaneität der Handlung«,22 die wir nur uns und sonst niemand zuschreiben können. Diese Einsicht zeigt sich im Unterschied zwischen der Darstellung in der ersten und der dritten Person. Aus der Perspektive der dritten Person betrachtet, bin ich in dieselben natürlichen Kausalketten verstrickt wie jedes andere Objekt. In der ersten Person hingegen betrachte ich mich als ein Zentrum freien Handelns, das verantwortlich und zu moralischem Handeln fähig ist – und ich habe jedes Recht dazu: Ich bin frei, indem ich frei handle. Diese Freiheit zeigt sich negativ in meiner Fähigkeit, Nein zu meinen eigenen Wünschen, Bedürfnissen und Forderungen zu sagen, und positiv in der Tatsache, dass ich Handlungsmaximen wählen und befolgen kann, die mich unabhängig von den Notwendigkeiten, Bedingtheiten und Erwartungen der jeweiligen Situation machen. Maximen sind Prinzipien des praktischen Denkens, die wir uns freiwillig zu eigen machen. Jeder Fall menschlichen Wollens wird durch eine Maxime gefiltert, die eine Art Erklärung dafür liefert, warum wir gewollt haben, was wir gewollt haben. Sie wird immer heteronome Anreize enthalten, die sich aus der konkreten Situation ergeben, in der wir handeln. Aber sie kann auch unsere autonome Orientierung am moralischen Gesetz einschließen, die uns über die kontingenten Bedingungen der jeweiligen Situation erhebt. Autonomie als Freiheit der Selbstgesetzgebung erfordert die Anerkennung des rationalen Gesetzes der Moral. Moralische Handlungen ergeben sich aus moralischen Maximen. Moralisch gute Maximen sind solche, die das Handeln in Übereinstimmung mit der vom Sittengesetz geforderten Achtung vor sich selbst und anderen lenken. »Die eigentliche Moralität der Handlungen [...] bleibt uns daher, selbst die unseres eigenen Verhaltens, gänzlich verborgen. Unsere Zurechnungen können nur auf den empirischen Charakter bezogen werden. Wie viel aber davon reine Wirkung der Freiheit, wie viel der bloßen Natur und dem unverschuldeten Fehler des Temperaments oder dessen glücklicher Beschaffenheit (merito fortunae) zuzuschreiben sei, kann niemand ergründen und daher auch nicht nach völliger Gerechtigkeit richten.«23 Die »eigentliche Moralität der Handlung« ist eine Sache der handlungsleitenden Maximen und nicht der empirisch zugänglichen Handlungen selbst. Das ist der Unterschied zwischen der Ich-Perspektive und der erwähnten Dritte-Person-Perspektive. Aus der Perspektive der dritten Person betrachtet, lassen sich unsere Handlungen nicht als Vollzüge freier Spontaneität in der Perspektive der ersten Person erweisen. Unsere Zurechnungen können sich daher nur auf den empirischen Charakter eine Handlung beziehen, wie Kant be22 23

KrV, A448/B476, AA III, 310. KrV, AA III, 373.

126

Ingolf U. Dalferth

tont, aber wir können niemals sagen, wie viel davon »reine Wirkung der Freiheit« ist und »wie viel der bloßen Natur« zuzuschreiben ist. Trotz unserer Unfähigkeit, die Moral zu »sehen«, argumentiert Kant, dass es zum Personsein gehört, die Verantwortung für sein Handeln zu übernehmen. Ich mag nicht in der Lage sein, den moralischen Wert einer Handlung vollständig und genau zu beurteilen, aber ich kann für mich selbst die Forderung erkennen, dass ich die Verantwortung für meine Handlungen zu übernehmen habe. Dieses Erfordernis zeigt was es bedeutet, ein Mensch zu sein und nicht einfach ein vernünftiges Tier. Nicht von ungefähr argumentiert Kant, dass die menschliche Natur durch drei genetische Veranlagungen zur »Tierheit«, »Menschheit« und »Persönlichkeit« konstituiert wird.24 Die Tierheit ist auch bei Menschen der grundlegende Instinkt zur Selbsterhaltung und Fortpflanzung. Die Menschheit bezieht sich auf die soziale Dimension des Zusammenseins mit anderen, insofern man sich »mit andern als glücklich oder unglücklich« vergleicht. Beides sind Arten der Selbstliebe; die Tierheit kann als mechanische Selbstliebe und die Menschheit als intellektuelle Selbstliebe bezeichnet werden. Die Persönlichkeit schließlich ist »die Empfänglichkeit der Achtung für das moralische Gesetz, als einer für sich hinreichenden Triebfeder der Willkür.«25 Durch die Veranlagung zur Persönlichkeit ist man ein »vernünftige[s] und zugleich der Zurechnung fähige[s] Wesen.«26 Indem wir das Gesetz befolgen, das wir uns selbst geben, werden wir uns »der Unabhängigkeit unsrer Willkür von der Bestimmung durch alle andern Triebfedern (unsrer Freiheit) und hiemit zugleich der Zurechnungsfähigkeit aller Handlungen bewußt«.27 Wir sind nicht einfach Tiere, die mit Vernunft ausgestattet sind. Eine Krähe kann Probleme lösen, um an Nahrung zu gelangen, wenn sie hungrig ist. Wir sind keine Menschen, weil wir kompliziertere Probleme lösen können als Krähen. Wir sind Personen, weil unsere Vernunft ein hinreichend motivierendes Gesetz ist oder sein sollte, das wir uns selbst geben und befolgen und für das wir Verantwortung übernehmen können. Diese Verantwortlichkeit, die unser spezifisch menschliches Personsein kennzeichnet, ergibt sich aus der praktischen Freiheit, die wir in unserer IchPerspektive konkret praktizieren. Sie geht über die Rationalität von Verstand und theoretischer Vernunft hinaus und ist nur in dem Maße Wirklichkeit, wie sie praktiziert wird. In diesem Sinn handeln aber müssen nur endliche Personen, weil sie nicht alles sind, was sie sein könnten. Verantwortlichkeit setzt Autonomie voraus, und menschliche Autonomie setzt Endlichkeit voraus. Ein menschliches Leben im Zeitalter der Technologie zu führen, heißt daher, mit unserer Endlichkeit verantwortungsvoll umgehen zu lernen. 24 I MMANUEL K ANT , Die Religion innerhalb der Grenzen der bloßen Vernunft, zitiert nach der Akademie Ausgabe (im Folgenden zit. als Rel.), AA VI, 26. 25 Rel., AA VI, 26–27. 26 Rel., AA VI, 26. 27 Rel., AA VI, 26.

Endlichkeit und Verantwortung

127

Nehmen wir an, wir würden alle unendlich leben, d.h. immer (ohne Anfang) und ewig (ohne Ende). Dann wären wir für nichts verantwortlich. Nichts, was wir tun oder lassen, bedürfte einer Rechtfertigung, denn wir könnten jederzeit auch noch etwas anderes oder es auf eine andere Weise tun. Alles nicht Verwirklichte könnte immer noch verwirklicht werden und der Unterschied zwischen hier und dort oder jetzt und dann wäre in der Unendlichkeit des Möglichen bedeutungslos. Natürlich ist nicht alles, was möglich ist, auch real möglich und in der Abfolge der Ereignisse ist nicht alles zu jeder Zeit möglich, aber alles, was möglich ist, wäre irgendwann möglich, und was jetzt nicht geschieht, würde oder könnte zu einem anderen Zeitpunkt geschehen. Es käme nicht darauf an, ob wir erst dies und dann etwas anderes tun würden, oder ob wir es erst so und dann anders machen würden, denn wir könnten es auch noch andersherum und anders machen. Was jetzt nicht möglich ist, weil bestimmte Verknüpfungen nicht möglich sind, wäre in einer anderen Abfolge von Möglichkeiten möglich, wenn es überhaupt möglich ist, und jede Abfolge von Möglichkeiten könnte irgendwann von uns verwirklicht werden und zu einer Ereignisreihe werden. Kurzum: Wer ewig lebt, muss sich für nichts verantworten, nicht für das, was er tut, nicht für das, wann er es tut, und nicht für das, wie er es tut. Jede Frage nach dem Was, dem Wann oder dem Wie ließe sich beiseite schieben, weil man immer tun kann, was man nicht getan hat. Das Leben wäre ein Spiel, und niemand wäre für irgendetwas verantwortlich. Aber so ist das Leben nicht. Wir sind endliche Wesen, und wir sind nicht immer schon oder für immer hier. Wir müssen aus endlichen Möglichkeiten wählen, und wir haben nicht immer Zugang zu allen Möglichkeiten. Wir können auch nicht einfach weder das eine noch das andere tun, sondern müssen uns für etwas entscheiden und etwas tun. Wir sind verantwortlich für das, was wir tun, wenn wir es nicht hätten tun können oder etwas anderes an seiner Stelle. Wir leben nicht nur in einer Welt der Möglichkeiten, in der immer alles möglich ist, sondern in einer Welt der Ereignisse, in der anderes möglich gewesen wäre und vieles nicht mehr möglich ist, weil wir so und nicht anders gehandelt haben. Warum wir dies und nicht etwas anderes getan haben, ist daher immer eine sinnvolle Frage. Sie fragt nicht nach Ursachen, die das, was getan wurde, wahrscheinlicher machen, als es ohne sie gewesen wäre, sondern nach Gründen, die verständlich machen, warum wir nicht etwas anderes getan haben, das auch möglich gewesen wäre. Wo man nicht anders handeln kann, als man handelt, stellt sich die Frage nach der Verantwortung nicht. Und wo es unmöglich wäre, etwas zu tun, muss man sich nicht rechtfertigen, es nicht zu tun. Die Frage nach der Verantwortung stellt sich nur dort, wo es nicht um das Notwendige und nicht um das Unmögliche geht, sondern um etwas Mögliches, das auch nicht hätte getan werden können. Solche Fragen können sinnvollerweise nur an Menschen gestellt werden. Nur Menschen sind im moralischen Sinne verantwortlich. Der Wolf, der eine halbe Schafherde reißt, ist kein unverantwortlicher Übeltäter, der sich schämen müsste.

128

Ingolf U. Dalferth

Verantwortungslos (im moralischen Sinne) kann nur derjenige handeln, der auch verantwortlich handeln könnte oder der in einer bestimmten Hinsicht frei von Verantwortung ist. Man ist nicht für alles verantwortlich, was passiert, und ich bin nicht für alles verantwortlich, was in meinem Leben passiert. Ich bin nicht dafür verantwortlich, dass es mich gibt, und dafür, dass mein Leben gelingt, kann ich nur in einem sehr begrenzten Sinne verantwortlich gemacht werden. Kurzum: Nur endliche Wesen haben ein Problem mit der Verantwortung, und soweit wir wissen, sind wir unter allen endlichen Wesen die einzigen, die Verantwortung übernehmen können, aber auch müssen, weil wir Entscheidungen treffen und Handlungen ausführen, die nicht revidierbar sind. Unsere Endlichkeit ist also kein beklagenswerter Mangel, sondern eine positive Eigenschaft: Sie ist die Befähigung, verantwortliche Person zu sein, und das schließt die Pflicht ein, mit unserer Endlichkeit verantwortungsvoll umzugehen. Nun haben wir gesehen, dass die entscheidende Unterscheidung, an der sich eine positive Darstellung der menschlichen Endlichkeit orientiert, nicht der biologische Unterschied zwischen Menschen und anderen Tieren im Prozess der Evolution ist, sondern der anthropologische Unterschied zwischen einer menschlichen und einer unmenschlichen Art und Weise, ein menschliches Leben zu führen. Das Kriterium für diesen Unterschied ist, ob wir den existenziellen Unterschied zwischen Sein und Nichtsein in der Art, wie wir unser Leben leben, beachten oder nicht. Aber der existentielle Unterschied ist nicht von uns selbst gemacht, sondern geht allem voraus, was wir tun oder tun können. Wir sind, aber wir hätten nicht sein können; daher ist die Möglichkeit unseres Da-Seins nicht in uns begründet, sondern in einer vorgängigen Wirklichkeit, die sich von uns unterscheidet und uns dadurch ganz und gar passiv setzt. Aus diesem Grund erfordert es die Analyse der menschlichen Endlichkeit, dass wir auch von unserer Passivität sprechen.

VII. Der Vorrang der Passivität Der westliche Fokus auf Aktivität und Tätigkeit im Verständnis des Menschen hat der Passivität in unserer Kultur einen schlechten Ruf eingebracht.28 Eine ganze Industrie erinnert uns immer wieder daran, dass wir, um unser Leben zu optimieren, unsere Passivität überwinden, unsere Aktivitäten verstärken, die Dinge selbst in die Hand nehmen und alles tun müssen, um die Welt zu verbessern. In unserer Kultur ist es gut, aktiv zu sein, und passiv zu sein ist ein Mangel, den es zu überwinden gilt. Christliche Theologie hat sich immer gegen eine einseitige Konzentration auf die Aktivität gewehrt. Das schöpferische Zentrum des menschlichen Lebens ist 28 Vgl. J ULIANE S CHIFFERS , Passivität denken. Aristoteles – Leibniz – Heidegger, Freiburg im Breisgau: Karl Alber 2014.

Endlichkeit und Verantwortung

129

nicht die Aktivität, sondern die Passivität – die Tatsache, dass wir vielem unterworfen sind, für das wir nicht zur Rechenschaft gezogen werden können. Das meiste von dem, was wir sind, haben wir nicht uns selbst zu verdanken. Unser Dasein ist nicht von uns selbst gemacht; unser Sosein ist nur zu einem kleinen Teil das Ergebnis dessen, was wir tun; und unser Wahrsein resultiert nicht aus dem, was wir tun, sondern vielmehr aus etwas, das uns widerfährt (wenn es denn geschieht). Wir werden wahr gemacht, wenn wir es sind, aber wir können uns nicht selbst wahr machen, und das aus mindestens zwei Gründen: Zum einen können wir aus unserer eigenen Geschichte nicht aussteigen und das, was schief gelaufen ist, rückgängig machen. Wir können nicht einfach den Reset-Knopf drücken. Zum anderen können wir aber auch nicht auf eine bloße Funktion unserer Vergangenheit reduziert werden, wie es die Ansätze der »predictive analysis« oder des »speculative design« anzunehmen scheinen. Wir sind nicht nur ein Satz von Daten, und was wir sein und tun werden, ist nicht nur die probabilistische Verlängerung unserer Vergangenheit in die Zukunft. Wir sind ein Ort, an dem ständig neue und unvorhersehbare Dinge geschehen. Wir können unsere Vergangenheit nicht ungeschehen machen, aber unsere Vergangenheit determiniert auch nicht die Möglichkeiten, die uns zufallen können. Wir können uns weigern, dem Muster zu folgen. Wir können Nein sagen. Und wir können dies tun, weil wir von einer grundlegenden Passivität geprägt sind, die die Tür für neue Möglichkeiten offen hält, die wir auf der Grundlage unserer Vergangenheit nicht vorhersagen können. Kurz, von Anfang bis Ende und in Bezug auf unser Dasein, Sosein und Wahrsein ist unser Leben geprägt von Passivität – einer Passivität, die die Bedingung für die Möglichkeit einer wirklich offenen Zukunft für uns ist. Es gibt so viel, was uns widerfährt und betrifft, und so wenig, was wir veranlassen und bewirken. Bevor wir als Selbst handeln können, müssen wir zu einem Selbst werden, und während wir kein Selbst sein können, ohne zu handeln, können wir nicht durch unser Handeln zu einem Selbst werden. Eine ursprüngliche Passivität geht all unserer Aktivität voraus. Wir sind niemals nur das Ergebnis dessen, was wir tun und getan haben, sondern immer auch das Ergebnis dessen, was uns widerfahren ist, und was uns widerfährt und widerfahren kann, geht über alles hinaus, was wir getan haben oder tun können. Natürlich wäre es falsch, unsere Passivität gegen unsere Aktivität auszuspielen. Wir können nicht leben, ohne sowohl aktiv als auch passiv zu sein, von anderen beeinflusst zu werden und andere zu beeinflussen. Beides sind konstitutive Merkmale des menschlichen Lebens. Aber sie treten in einer Reihenfolge auf, die beachtet werden muss, und in Weisen, die zu unterscheiden sind. Die wichtigste Unterscheidung ist die zwischen kontrastiver Passivität und Tiefenpassivität. Das tatsächliche Leben, wie es sich in Zeit und Raum abspielt, ist weder reine Aktivität noch reine Passivität; es ist immer eine Mischung aus beidem, oder, in Schleiermachers Worten, ein ständiger »Wechsel von Insichblei-

130

Ingolf U. Dalferth

ben und Aussichheraustreten«,29 von »Empfänglichkeit und Selbsttätigkeit«,30 von Passivität und Aktivität. Es hat eine passive und eine aktive Seite, eine Fähigkeit, sich von anderen beeinflussen zu lassen (Rezeptivität) und eine Fähigkeit, auf andere einzuwirken (Aktivität), und beide sind polare Gegensätze, die unterschiedliche Grade der Vermischung zulassen. Bei der Tiefenpassivität ist das anders. Diese grundlegende Passivität ist nicht einfach das Andere der menschlichen Aktivität; sie ist das, ohne das es weder aktive noch passive Prozesse im menschlichen Leben geben würde. Es handelt sich um eine vollständige Passivität des Daseins der Menschen, nicht nur um eine partielle Passivität innerhalb ihres Lebensvollzugs. Diese Tiefenpassivität steht am Anfang unseres Lebens, manifestiert sich aber auch in vielfältiger Weise in diesem. Wir verdanken unsere Existenz einer Tiefenpassivität, die uns zu unserer freien Tätigkeit befähigt. Es ist eine schöpferische Passivität, denn sie ermöglicht es uns, auf unsere endliche Weise schöpferisch zu sein. Etwas Ähnliches gilt auch für viele andere Begebenheiten im menschlichen Leben. Man kann zum Erben des Vermögens seines Onkels werden, aber man wird es nicht durch irgendetwas, was man selbst tut. Zwar kann man nicht Erbe sein, ohne am Leben zu sein und in irgendeiner Weise handeln zu können, aber man wird zum Erben nicht durch das, was man tut, sondern durch das, was einem widerfährt. Eine einseitige Passivität geht all unserer Tätigkeit als Erbe voraus und macht sie erst möglich. All das unterscheidet uns nicht prinzipiell von technologischen Mensch-Maschine-Hybriden. Auch sie können nur auf der Grundlage eines passiven Werdens aktiv sein. Und die Tiefenpassivität ihrer Existenz kann weder bei ihnen noch bei uns im Sinne einer kontrastiven Passivität und Aktivität verstanden werden. Selbst wenn es wahr wäre, dass wir für jede Tätigkeit, die wir ausüben, eine Fähigkeit besitzen müssen, um sie ausüben zu können, können wir nur dann Fähigkeiten besitzen, wenn wir existieren, und wir können unsere Existenz nicht als eine Tätigkeit auffassen, die aus der Ausübung einer Fähigkeit resultiert, die unsere Existenz möglich macht. Ohne die Fähigkeit des Hörens kann ich Sie vielleicht nicht hören, aber ich brauche keine Fähigkeit des Existierens, um ins Dasein treten zu können. Die modale Unterscheidung zwischen Möglichkeit (»es ist möglich, zu φ «) und Fähigkeit oder Potentialität (»es ist mir möglich, zu φ «) lässt sich nicht auf die Tiefenpassivität des Entstehens einer Existenz übertragen. Wenn ich existiere, ist es möglich, dass ich existiere, aber ich habe nicht die Fähigkeit oder das Potenzial zu existieren, bevor ich tatsächlich existiere. Das Gleiche gilt für das theologische imago Dei-Konzept. Menschen als Ebenbild Gottes zu bezeichnen, bedeutet, dass es möglich ist, dass sie zum Ort wer29 F RIEDRICH DANIEL E RNST S CHLEIERMACHER , Der christliche Glaube nach den Grundsätzen der Evangelischen Kirche im Zusammenhange dargestellt, 2. Aufl., KGA I/13.1, Berlin: de Gruyter 1830, §3, 18. 30 A. a. O., §4, 24.

Endlichkeit und Verantwortung

131

den, an dem Gottes Gegenwart verwirklicht und anerkannt (Glaube) oder ignoriert und abgelehnt (Un-Glaube) wird, so dass sie ihr Leben als Geschöpf Gottes leben können oder nicht. Aber wenn sie Gottes Geschöpfe sind, bleiben sie es, unabhängig davon, ob sie dies anerkennen oder nicht, und auch unabhängig davon, ob sie Menschen in unserem heutigen Sinn oder Mensch-Maschine-Hybride in einer unserer möglichen Zukünfte sind. In keinem der beiden Fälle brauchen sie die Fähigkeit, die Gegenwart Gottes zu spüren oder sich ihrer Nähe zu Gott bewusst zu sein. Es ist ein modaler Fehler, Möglichkeit als eine Fähigkeit zu verstehen und von der Möglichkeit, sich der Gegenwart Gottes bewusst zu werden, auf eine menschliche Fähigkeit zu schließen, dies zu tun. Und es ist ein theologischer Fehler, die Gnade Gottes zu einer gottgegebenen Fähigkeit zu machen, die der Mensch qua Mensch besitzt. Wir verdanken es nicht uns selbst, dass wir existieren (wenn wir es tun) oder dass wir von Gottes Gegenwart wissen (wenn wir es tun) oder dass wir sie anerkennen, anstatt sie zu ignorieren oder zu leugnen. In all diesen Punkten sind wir völlig abhängig von der vorausgehenden Aktivität Gottes und damit von einer Tiefenpassivität, die all unseren Aktivitäten zugrunde liegt. Gerade deshalb gibt es in Bezug auf die Gegenwart Gottes keinen grundsätzlichen Unterschied zwischen uns und zukünftigen Mensch-Maschine-Hybriden. Wir sind Gottes Geschöpfe, auch wenn wir von menschlichen Eltern geboren werden, und Mensch-Maschine-Hybride können Gottes Geschöpfe sein, auch wenn wir sie gemacht haben.31 Es kommt nicht darauf an, was wir oder sie sind, sondern darauf, wie Gott sich zu uns oder zu ihnen verhält.32 Die Betonung liegt auf einer Tiefenpassivität und nicht auf der gegenseitigen Durchdringung von göttlichem Geben und menschlichem Empfangen in einer gemeinsamen Aktivität von Schöpfer und Geschöpf.

VIII. Schlussfolgerung Was also bedeutet es, im Zeitalter der Technologie Mensch zu sein? Aus theologischer Sicht bedeutet es nicht etwas anderes als in früheren Zeiten. Der Mensch ist ein Geschöpf, das dies anerkennen und sein Leben an der Gegenwart Gottes ausrichten kann – oder auch nicht. Doch während Gottes Wirken nicht von uns abhängt, können wir ohne Gott weder sein noch handeln. Der schöpferischen Tä31

Ich behaupte nicht, dass dies eine sehr wahrscheinliche Zukunft in dem Sinne sein wird, dass wir uns völlig von dem unterscheiden werden, was wir heute sind. Es wird wichtige Kontinuitäten in den sechs skizzierten Aspekten geben (Eingebettetsein, Verantwortung, normative Vision, Pluralität, Endlichkeit und Tiefenpassivität), wenn wir überhaupt einen Grund haben sollten, noch von Menschen zu sprechen und dies als eine mögliche Zukunft für uns heute zu sehen. 32 Vgl. S ØREN K IERKEGAARD , Philosophische Brocken, übers. von Emanuel Hirsch, KW 10, Düsseldorf und Köln: Eugen Diederichs Verlag 1952, 12–19.

132

Ingolf U. Dalferth

tigkeit Gottes entspricht auf menschlicher Seite eine Tiefenpassivität, die nicht im Sinne eines Gegensatzes von Aktivität und Passivität im menschlichen Leben verstanden werden darf. Ein Geschöpf zu sein, ist in keiner Weise das Ergebnis von etwas, das wir tun oder tun können. Gott ist das alleinige Zentrum der Aktivität, und wir nehmen in völliger Passivität an ihr teil – einer Passivität, die schöpferisch ist, weil sie uns befähigt, in Übereinstimmung mit unserer existentiellen Passivität zu leben oder sie zu ignorieren. Nichts schließt hier aus, dass dasselbe auch für mögliche künftige MenschMaschine-Hybriden gelten kann. Wenn die Tätigkeit ganz Gott zuzurechnen ist und nicht auch uns, dann bedarf es keiner besonderen menschlichen Fähigkeit, Gottes Geschöpf zu sein, weder für uns noch für Mensch-Maschine-Hybriden.33 Wenn wir unsere Tiefenpassivität ernst nehmen, gibt es also keinen Grund zu befürchten, dass technologische Verbesserungen unseren Status als Geschöpfe untergraben könnten – was auch immer mit unserer Menschlichkeit geschehen mag. Selbst wenn wir in unserem heutigen Technologiezeitalter besser als gut werden, bleiben wir immer Gottes Schöpfung. Das Problem ist vielmehr eine einseitige Betonung der menschlichen Aktivität und die Unterschätzung unserer Tiefenpassivität und radikalen Endlichkeit. Wir sind geschaffen, um uns selbst zu schaffen, aber wir haben uns nicht selbst geschaffen, um uns zu schaffen. Unsere Tiefenpassivität ist der Rahmen und die Voraussetzung all unserer Aktivitäten, und die Art und Weise, wie wir uns zu unserer Tiefenpassivität verhalten, ist der zentrale Zug unseres Menschseins. Dies zu betonen, ist keine Form von Speziesismus, sondern ein Bekenntnis zur Gleichheit aller Geschöpfe vor Gott.34 Menschen sind nicht in größerem Maß oder in besserer Weise Geschöpfe als andere, sondern der Ort, an dem sich die Schöpfung ihres Status als Schöpfung bewusst wird. Dies gilt nicht nur im Hinblick auf das, was wir als Ergebnis natürlicher Evolution sind, sondern auch im Hinblick darauf, was wir durch technologisch Gestaltung aus uns machen. Was 33

Aus diesem Grund besteht kein Bedarf an einer speziellen Cyborg-Theologie – oder nur insofern, als die Fehler zu korrigieren sind, die in der Tradition dadurch gemacht wurden, dass der Mensch über andere Geschöpfe erhoben wurde, anstatt ihn als das Paradigma dessen zu sehen, was für alle Geschöpfe gilt. (Vgl. S COTT A. M IDSON, Cyborg Theology. Humans, Technology and God, London und New York: I.B. Tauris & Co. 2018). 34 Der häufig erhobene Vorwurf eines problematischen Anthropozentrismus und Speziesismus in der christlichen Anthropologie ist weitgehend fehl am Platze, weil er die theologischen Gründe für die Konzentration auf den Menschen (und die Engel) und die klassische Schöpfungstheologie falsch versteht. (Vgl. a. a. O., 19–47). Richtig verstandene christliche Anthropologie zielt nicht darauf ab, die Einzigartigkeit und Überlegenheit des Menschen zu feiern, indem sie andere Geschöpfe abwertet, sondern den Menschen als den Ort in der Schöpfung zu sehen, an dem wir Entscheidendes über den Grund und die Güte der gesamten Schöpfung lernen können. Alles, was ist, unterscheidet sich von allem anderen, was ist, aber die Tatsache, dass wir sind, ist das, was wir alle teilen. Geschöpflichkeit gibt es nicht graduell, sondern alles, was die menschlichen Geschöpfe auszeichnet, unterscheidet sich nur relativ von dem, was andere Geschöpfe kennzeichnet.

Endlichkeit und Verantwortung

133

immer wir tun, gehört zur Schöpfung und kann die vorgängige Beziehung des Schöpfers zur Schöpfung nicht aufheben. Wenn das für uns gilt, dann gilt es auch für mögliche zukünftige Mensch-Maschine-Hybriden. Was schief gehen kann (und regelmäßig schief geht), ist unser Bewusstsein für unsere Tiefenpassivität und unsere Vernachlässigung der moralischen Aufgaben und Pflichten, die mit unserem Status als Geschöpfe unter Geschöpfen einhergehen. Aber das hebt die Beziehung Gottes zu uns nicht auf, sondern führt nur zu einem Leben, das seine Grundlage vernachlässigt und seine existenzielle Wahrheit verfehlt, weil es unsere Aktivität überbetont und die Tiefenpassivität und radikale Endlichkeit der gesamten Schöpfung nicht würdigt. Es besteht wenig Hoffnung, dass dies bei zukünftigen Mensch-Maschine-Hybriden anders sein wird als bei uns. In dieser Hinsicht wird sich ein menschliches Leben in einer technologisch fortgeschrittenen Welt leider nicht wesentlich von dem unterscheiden, was wir hier und jetzt erleben. Es wird höchstwahrscheinlich genauso blind für die Quelle seines Seins sein wie wir, es wird sich in der Schöpfung genauso katastrophal verhalten wie wir, und es wird genauso auf Gottes Gegenwart angewiesen sein, wie wir es immer waren. Vielleicht geht es uns dann besser als gut, aber wir werden immer noch sehr weit vom Guten entfernt sein.

III. Intergenerational Responsibility

Future Generations as Horizon of Responsible Action in the Climate Crisis Rachel Muers The central problem I address in this contribution, in the context of the climate crisis, is the difficulty of taking responsibility in relation to the future. The difficulty of theorising responsibility to future generations – the puzzles and paradoxes that emerge when one attempts to think intergenerational responsibility within many established ethical frameworks – is already well established. Most pressing in the present context, however, is the emerging understanding that the sense, perception or feeling of responsibility to future generations is a vital motivator for action in response to the present crisis – and the consequent question of what might form or motivate that sense, perception or feeling of responsibility towards future generations. This emerging understanding was given voice, for example, in Pope Francis’ audio message to the 2021 COP26 conference in Glasgow, which spoke of the need to offer »concrete hope« to future generations by taking effective action in relation to the environmental crisis.1 In this contribution, after outlining the contemporary problem of responsibility to future generations and some recent shifts in the debate, I set out some possible theological resources for grappling with the problem of how to take responsibility and feel responsible in relation to future generations. Following up on a proposal developed elsewhere that theology configures the space within which ethical reasoning takes place – and does so in ways that involve imagination and affect – I consider how theological work can reconfigure the space of ethical reasoning to make responsibility to future generations thinkable.

I. Thinking Responsibility to Future Generations: New and Old Problems When I started to write about theology and responsibility to future generations in the early 2000s, both this topic and environmental ethics were fringe interests,

1 BBC News, 29th October 2021: »Pope urges ›radical‹ climate response in exclusive BBC message«, https://www.bbc.co.uk/news/world-europe-59075041 (visited on 08/24/2022).

138

Rachel Muers

not only within theology but within many cognate disciplines.2 In the intervening time, it has seemed to become, first very urgent and then almost out of date; we are not talking about the catastrophe facing future generations anymore, but rather about the presently unfolding catastrophe that collapses both the spatial and the temporal distances that allowed the environmental crisis to be pushed to the margins of our consideration. Some aspects of the problem of thinking responsibility to future generations, noted in the literature since the late twentieth century, persist to the present day. To the extent that ethical relationships are framed primarily in terms of relations between persons who are equal acting subjects, when considering future generations we face the problem of imagining, recognising and enacting responsibility to persons with whom mutuality and reciprocity appear to be impossible – most closely analogous to »distant strangers« as Onora O’Neill described them; the problem of ethical relations to persons who are by definition not present to represent themselves, to issue claims or to express preferences (leading to the practice of »discounting« far-future harms and benefits of present policy); and the problem of the radical asymmetries of power in intergenerational relations.3 On the latter point – radical asymmetries of power – we should note not only the power of the present generation to determine the living conditions or the unliveable conditions of the future, but also the power that future generations exercise over how and whether we are remembered and how we are judged. A politician may express the desire to be judged by history in order to avoid or possibly to sweep aside objections to her or his course of action in the present; but given the extent of re-evaluation of history, the pulling down even of established heroes from their pedestals, that is currently taking place in the UK as elsewhere, perhaps anyone who looks forward to being judged by future generations should be careful what they wish for. Generational succession places us entirely at the mercy first of our predecessors, as regards the enabling context of our actions, and then of our successors, as regards the interpretation of our actions. Generational succession pushes us to encounter the limits of many ordinary frameworks of ethical thought as we encounter the limits of the ethical subject, in birth and death – and forces us to understand these limits as relationships rather than as end-points. This multi-faceted »problem of generations« is well-established in the literature. So is a specific theological »problem of generations« within Christian thought. At one point in the debates about theology and the climate crisis, those of us who believed that theology and the churches should be taking the situation 2

See R ACHEL M UERS, Pushing the Limit. Theology and Responsibility to Future Generations, in: Studies in Christian Ethics 2.16 (2003), 36–51. 3 O NORA O’N EILL , Distant Strangers and Future Generations, in: Tae-Chang Kim/James A. Dator (ed.), Self and Future Generations. An Intercultural Conversation, Winwick 1999; PARTHA DASGUPTA, Discounting Climate Change, in: Journal of Risk and Uncertainty 37.2 (2007), 141–169.

Future Generations as Horizon of Responsible Action

139

more seriously thought that a major obstacle was the belief of certain influential Protestant groups in the likely historical imminence of the eschaton – as reflected already in 1981 in the controversial and much-reported remark by James G. Watt, US Secretary of the Interior, that he did »not know how many future generations we can count on before the Lord returns«.4 The concern, then, was that it would be difficult to persuade Christians to think about sustainable human futures within an imaginary overshadowed by the approaching end. By contrast, the concern now, we might think, is that it is difficult to persuade Christians or indeed anyone to recognise the immediacy of the threat to all possible human futures, and the unsustainability of the way things currently are. The challenge associated with the climate crisis is the task of finding the space for responsibility, between the weight of accumulated collective human failure and the insignificance of specific present action. The (contested) concept of the Anthropocene points to the disturbing conjunction of power and powerlessness, as well as the conjunction of »far future« and immediate threat. »Humans« have effected and continue to effect dramatic and irreversible change, but any particular »I« or »we« can do very little to alter the course of planetary history. Similarly, the magnitude of the consequences of collective human action invites reflection on an ever-further future – hundreds of generations will live with the irreversible effects of what is done today – while at the same time the temporal horizon shrinks for the action that might mitigate the worse of these effects.5

II. Looking Forward: Future Generations and Finding Paths If we ask in the context of the climate crisis »who will take responsibility?« or »how can we be responsible?«, we are, I suggest, not primarily asking about answerability for specific actions, nor about responsibility to some specific others – although, as I will go on to argue, both of these forms of responsibility are relevant to the situation. The central challenge is to establish the conditions for future-directed and future-affecting moral action, in a situation where it is already apparent what long-term good is aimed at and what the overall task is. Oliver O’Donovan explores the well-established and biblically-grounded metaphor of »finding a path« to understand the kind of discernment that is required in the situation where (in his terms) »the law is positive« – that is, where there is a clear 4

P ROCHNAU B ILL, The Watt Controversy, in: Washington Post (30. June 1981), URL: https : / / www . washingtonpost . com / archive / politics / 1981 / 06 / 30 / the - watt - controversy / d591699b-3bc2-46d2-9059-fb5d2513c3da/ (visited on 08/24/2022). 5 On the moral-temporal challenges of the »Anthropocene«, and particularly on the generational »long view« see S TEFAN S KRIMSHIRE, Deep Time and Secular Time. The Challenges of the Environmental ›Long View‹, in: Theory, Culture and Society 36.1 (2019), 63–81.

140

Rachel Muers

understanding, in general terms of what is to be done, but as yet no course of action that can be implemented now.6 In order to be able to escape the paralysis of inaction and advance towards the horizon established by a general injunction or call – »take responsibility«, »avert planetary disaster«, »secure a liveable future« – we need first to identify or discern a path, a way that leads forward from the place where we now find ourselves, a way that could be taken. O’Donovan helpfully emphasises the combination of »purposiveness and uncertainty« in finding and following a path, suggesting that this »is why this metaphor is so potent in talk of practical attention to the future«.7 In attempts to pay practical attention to the planetary future in the context of the climate crisis and to discern and take paths forward from where we stand, I suggest that »future generations« constitute a near horizon by which we can orient ourselves. Future generations may be contrasted in this regard with the too-close horizon of the present all-encompassing emergency – like a fog that prevents discernment of the basic features of the landscape – and with the toodistant horizon of the consequences of our actions thousands of years hence. Future generations are the landscape somewhat ahead of us, the relative stranger or the relatively familiar, enabling possible actions to be discerned with a combination of »purposiveness and uncertainty«. Orientation towards future generations, as an approach to »finding a path« forward in the historical moment marked by present and future crisis, suggests an important modification of Dietrich Bonhoeffer’s orientation of theological ethics to the »penultimate«.8 Penultimacy is determined in relation to the eschatological horizon, and orients action to the relative goodness of the present order – relative because it is to be understood in relation to Christ as its telos. Orientation towards future generations, in the context of crisis, allows creaturely temporality – and the associated subjective phenomena of hope, anticipation and reading the signs of the times – to be affirmed and preserved in its relative goodness. Looking towards future generations, we live in the penultimate as finite creatures of »purposiveness and uncertainty« – neither collapsing into directionless chaos nor assuming control over the course of the future. When the Pope spoke of the obligation to give »concrete hope« to future generations in the context of COP26, he appeared to treat responsibility to future generations as a way of summoning forth the capacity for responsible action – which requires the faith that that action can be effective, that there is a path forward. It is noteworthy, moreover, that in the same statement the Pope also referred to hearing the cry of the Earth and of the poor; responsibility to future generations is responsibility in the present, attentive to the details of the landscape within which we find ourselves, and the needs of 6

O LIVER O’D ONOVAN, Finding and Seeking. Ethics as Theology, vol. 2, Grand Rapids, MI: Eerdmans 2014, 216–220. 7 Op. cit., 218. 8 D IETRICH B ONHOEFFER , Dietrich Bonhoeffer Werke, vol. 6: Ethik, ed. by Ilse Tödt et al., Zweite, überarbeitete Auflage, München: Chr. Kaiser Verlag 1998, 137–170.

Future Generations as Horizon of Responsible Action

141

future generations are not in any way played off against present demands. Future generations fulfil a specific function in this call to responsibility; they are the near horizon by which we orient ourselves, the sign that present action aimed at societal, structural or systemic change can be meaningful. They belong to this world but not to here and now– they are the discernible direction of the path that we take. Given the immediacy of environmental emergency, it is perhaps somewhat surprising to note that a recent study, using findings from a US-based survey of religious and ethical attitudes, found a significant correlation between the belief that »responsibility to future generations« is important, on the one hand, and willingness to accept policy and lifestyle changes that might protect the environment and reduce global heating, on the other.9 Apparently, even in a time of immediate crisis, looking towards future generations is valuable for determining and forming practical action; a sense of responsibility towards future generations can be the missing link, as it were, between an understanding of environmental emergency and readiness to take action. The authors’ conclusion was that »instilling a stronger sense of responsibility towards future generations could positively impact people’s willingness to take costly action to protect future generations from environmental harms«.10 If it proves to be the case, as Pope Francis clearly hopes and as the study cited above suggests, that a sense of responsibility to future generations is not only a theoretical reason for acting to prevent climate breakdown, but also a predictor of whether such action will in fact be taken – what could we make of this within theological ethics? I suggest that intergenerational responsibility, seeking »paths forward« by thinking about future generations, could be regarded, again picking up Bonhoeffer’s terms from Ethics, as an aspect of »natural« life within the fallen world, closely related to the God-given »orders of preservation«.11 Generational succession, culturally and socially refracted, is a relatively stable pattern of human living that can be a locus for the relatively good human life. To be human in the world is to live in relationship to future generations, a relationship that is not only objectively given but also subjectively experienced– it is to be responsible, concerned, hopeful, fearful, interested in human futures; and this interest in human futures is neither to be condemned as »worldly« nor to be sacralised as the equivalent of faith in God’s future. In order not to be misled by the reference to »preservation«, though, it is important to note that in the context of emergency to envision future generations at all must be not merely to hope that life will continue as it is, but to imagine the world otherwise. This, in turn, might be expected to lead to changes in one’s 9 S TYLIANOS S YROPOULOS /E ZRA M. M ARKOWITZ , Perceived Responsibility Towards Future Generations and Environmental Concern, in: Journal of Environmental Psychology 76 (2021), 1016–1051. 10 Op. cit., 1051. 11 B ONHOEFFER , Ethik, 164–165.

142

Rachel Muers

way of life – not merely taking an existing path forward, but rather discerning a new path. All of this – it must be noted – occurs within the »penultimate«. The hope for a different and a better way of life that future generations represent does not need to be a secularisation of the eschaton. The climate emergency issues both a negative injunction – to cease from present patterns of production and consumption, to stop in our tracks – and a positive injunction (as discussed above in relation to O’Donovan), to seek out new and sustainable ways of life. The former can readily be recognised and understood from presently available data and from well-established principles in ethics – we know that we, collectively, have gone wrong; the latter requires reorientation to »the world otherwise«, and this is where responsibility to future generations can play a distinct role. One corollary of this – of associating responsibility to future generations primarily with the discernment of alternative futures and alternative ways of living – is that responsibility to future generations is not mainly, or only, invoked to encourage conservation of what we already have. It is not the logic of projecting long-term costs and benefits (along an extension of an existing scale), nor of »saving« for the future. The emphasis on »orders of preservation« in Bonhoeffer’s discussion of the penultimate risks losing the significance of the inner-worldly, relatively, new – which acquires particular salience in a moment where a long-established pattern of life is revealed to be both irresponsible and unsustainable. Before pursuing this path further, however, I first take a glance backwards – to ask how a sense of responsibility to past generations can help or impede future-directed moral responsibility.

III. Responsibility and Remembering Since this contribution was first presented in November 2021, the Russian invasion of Ukraine has drawn heightened attention to the political use and abuse of specific ways of remembering past generations, and specifically the intergenerational use of memories of war. Present warfare is portrayed as the enactment of responsibility to the previous generations of military heroes – paying them appropriate tribute by following in their footsteps; the telling slogan of Victory Day is »we can repeat it«. Comparable dynamics have been noted in the recent and ongoing use of the Second World War as touchstone in British (or more accurately English) politics.12 In such mobilisations of wartime memory, Stanley Hauerwas’ influential account of the logic of sacrifice in warfare – more damage 12 On the attempts by the Russian government to codify a specific narrative of victory in the Second World War, and the contemporary political motivations for those attempts, see M ARK E DELE, Fighting Russia’s History Wars. Vladimir Putin and the Codification of World War II, in: History and Memory 29.2 (2017), 90–124. For an account of the symbolic re-performances, or »surrogacy« of the living for the dead, associated with the memorialisation of the Second

Future Generations as Horizon of Responsible Action

143

must be done now in order not to waste the damage already done, in order that suffering shall not have been in vain – is extended intergenerationally.13 We are to redeem or justify or make good out of waste and loss by more of the same, because to change course would be to interrupt or disrupt the narrative by which we are accustomed to make sense of the past. The repeated retelling of one narrow story of the past is coupled with a very vague vision of a glorious future – if not for us then for future generations – which will make both the sacrifice of past generations and the present, largely self-inflicted, disaster worthwhile. Responsibility for ameliorating or changing the present situation is deferred or denied for the sake of a fantasy future – and a specific reading of the past is an important part of the story. Such a performance or mis-performance of intergenerational responsibility calls for theological and ethical critique, on at least two grounds. First, immanentising the meaning of past suffering – turning the suffering of past generations into a sacrifice for the benefit of the present and the future – makes the implicit claim to possess the power to make sense out of suffering, or to make suffering make sense. By contrast, when (for example) Julian of Norwich affirms that all the »pain sin has caused to [God’s] creatures« is »behovely« (fitting, appropriate or conveniens), she is clear that this can only be affirmed while looking towards a future »great deed« that God will do – and she does not assume the responsibility for doing or even accurately foretelling the work that makes sense out of past suffering.14 Responsibility to the past generations, in the »penultimate« situation that confidently awaits the consummation of history without foreclosing it, must involve recognition that at this point their story does not make sense. Mourning, grief and acknowledgement of loss – as well as the faithful narration of historical complexity – are primary exercises of responsibility to past generations, in their witness to what is unfinished and unresolved in the past. I suggested above that generational succession places us »entirely at the mercy« of our successors; but I would further suggest that the successor generations can and do exercise »mercy«, in acknowledging how our lives exceed and resist both our, and their, efforts to make sense of them. Second, the emphasis on repetition of the past – maintaining the same patterns and assumptions into the future – in these problematic mobilisations of history, World War in contemporary Russia, see M AKSIM H ANUKAI, Resurrection by Surrogation. Spectral Performance in Putin’s Russia, in: Slavic Review 79.4 (2020), 800–824. On the role of war nostalgia in recent English/British politics, see T HOMAS W ILLIAMS, Mobilizing the Past. Germany and the Second World War in Debates on Brexit, in: Revue LISA 19.51 (2021). 13 S TANLEY H AUERWAS , Sacrificing the Sacrifices of War, in: War and the American Difference. Theological Reflections on Violence and National Identity, Grand Rapids: Baker Academic 2011, 53–70. See also K ELLY D ENTON -B ORHAUG, War-culture and Sacrifice, in: Feminist theology 18.2 (2010), 175–191. 14 J ULIAN OF N ORWICH , Revelations of Divine Love, 27, 29, 32. On Julian, suffering and eschatology, see K AREN K ILBY, God, Evil and the Limits of Theology, London: T&T Clark 2020.

144

Rachel Muers

draws attention back to the question of how responsibility to the future is exercised in times of crisis. To think that intergenerational responsibility is simply a question of maintaining what we already have is, I have suggested, to misunderstand or to reject one of the specific goods of generational succession – namely, the possibility of innerhistorical change, or of collective repentance.

IV. Finding Responsibility in a Complex World If we accept that future generations can be the orienting horizon for positive action to address the climate crisis, the question remains of why and to what extent the language of intergenerational responsibility, specifically, is appropriate to this situation. A recent study by Michelle Scobie of multinational environmental agreements – specifically, of the preambles to international treaties – diagnosed an important gap in their framing and rationale, a gap that might suggest a more deep-rooted problem in international responses to environmental crises.15 These agreements frequently refer in their preambles to the needs of future generations, among other »constituencies« who might be thought to have an interest in environmental protection. What is missing, Scobie argues, is any sense of »liability« – any sense that some identifiable groups, institutions or even individuals are harming future generations by their actions. The agreements that Scobie analyses express, and to some extent enact, a hope that future generations will have a liveable world, and recognise the significant changes that this would entail. In the terms outlined above, they make use, in their preambles, of the »near horizon« of future generations in order to orient themselves for future-directed action. There remains, however, according to Scobie, a crucial gap in the agreements that allows continued inaction. Within the frameworks they establish, nobody can be held responsible, either negatively for the continued failure to act for the sake of future generations, or by implications positively with a requirement to repent. Crucially, Scobie identifies this as a justice gap; there is no justice if nobody is held responsible. Not only in the study of international agreements, but repeatedly in a wide range of contexts, the question that emerges in the context of the climate crisis is, not »how or why should we be responsible?« but »who will take responsibility?« Esther Reed’s important recent work on theologies of responsibility in the context of globalisation highlights precisely this move – from the »how or why« to the »who« – as both ethically and theologically necessary to address the situation of global structural injustice.16 Reed uses Levinas and then Bonhoeffer to propose a 15 M ICHELLE S COBIE , Treaty Preambles and The Environmental Justice Gap, in: Global Policy 12.3 (2021), 273–285. 16 E STHER D. R EED , The Limit of Responsibility. Dietrich Bonhoeffer’s Ethics for a Globalizing Era, Edinburgh: T&T Clark 2018.

Future Generations as Horizon of Responsible Action

145

move from responsibility structured as »I-You« – beginning with the subject and asking about the shape and form of her responsibility – to responsibility structured as »You-I-You« or »You-We-You«. The concrete question of responsibility, Reed argues, originates from and is first posed by the neighbour or stranger; in other words, it is not first a question about how the (presumed self-contained or self-sufficient) subject can become responsible, but is first a question that arises in the concrete situation in which the neighbour or stranger cries out. It is answered in a Christ-centred and ecclesial reconfiguration of relationships in which life with and for others becomes possible. Reed engages the problem of infinitely extended guilt – both the infinity of responsibility before the particular face of the neighbour or stranger, and the indefinitely extended lines of complex responsibility produced by globalisation – and proposes a theological and ecclesial response. The very desire to grasp, determine and limit one’s own individual responsibility, she proposes, is a symptom of fallen human existence, the heart turned in on itself. Thus Reed: ... the believer must abandon even the possibility of their own responsibility as nothing other than an expression of sinfulness and finitude. Only the responsibility encountered in Jesus Christ is perfect and unlimited... [one must] suspend one’s own obligation to responsibility...17

In recognising Christ as the one responsible, Reed argues, one recognises one’s own entanglement in the human predicament of sin. From this starting point, Reed develops an ecclesial account of human being, in which relation to Christ and relations to the particular neighbour are constitutive of the self, and she is thereby able to ensure that the de-centring of individual responsibility does not result in abandoning responsibility altogether. Rather, she provides a reconstruction of responsibility for a globalised world that focuses on specific communal responses to concrete situations of injustice, suffering and environmental degradation, as they are voiced and understood by those most affected by them. She moves towards understanding responsibility as something done in concrete historical contexts – discussing, for example, some specific practices of »answerability« and of »truthing« that might change the behaviour and priorities of global corporations. All of this is mandated by the inescapable concreteness and particularity of Christian theological anthropology – by the obligation not to speak about the human in general but about the human in Christ. Reed’s work is relevant to the contemporary question of intergenerational responsibility because it speaks directly to the challenge of taking responsibility in a complex interconnected world of acting at a distance, which threatens to overwhelm or to occlude meaningful agency. It begins where Scobie and others concerned with the present failures of international negotiations and agreements encourage us to begin, with the need or call for someone to take responsibility, 17

Op. cit., 120.

146

Rachel Muers

as it is heard in a particular situation of injustice. It is not clear, however, what happens to responsibility for future generations in a model of responsibility that emphasises lived practices of mutuality, solidarity, and hearing the voices of the voiceless. After all, the challenge of intergenerational responsibility is precisely that future generations do not have faces and voices.18 There are various models of representation and advocacy that seek to give a proxy voice to future generations, but that cannot amount to a careful listening to the particular other for which Reed, for example, advocates. Is a theology that focuses on relational understandings of the self, or that finds the responsible self in the practice of community, liable to neglect those who are by definition not present to call forth a response? As noted above, O’Neill suggested treating future generations as »distant strangers«, which might seem at first glance to invite comparisons with the geographically distant communities of whom Reed writes; but Reed’s response of finding ways to recognise and enact our solidarity with »distant strangers« may simply not work with future generations, because comparable opportunities to listen to particular voices do not exist. Moreover, as has been well documented, appeals to the interests of future generations have all too often been used to disarm or override critiques of present injustice; and attempts to take responsibility for the future, lacking as they do the present encounter with the other as limit and condition of agency, can very easily »flip« into the kind of individualised hyper-responsibility criticised by Reed from her reading of Bonhoeffer. With that in mind, it may be tempting simply to give up on the question of responsibility to future generations, and to focus on the present challenges of responsibility within and despite unjust global structures. In the light of the studies in environmental psychology discussed above, however, that seems the wrong response. Responsibility to future generations does remain a motivating force at the individual and the collective level, embedded at all levels in how we think about action that changes the conditions of our lives. I have suggested elsewhere that modern (at least Western) debates about responsibility to future generations emerge in revolutionary times, in eighteenth-century Europe and North America.19 Urgent questions about future generations arise once again around the edges of large-scale societal change and breakdown in the twenty-first century – and they arise, as the study cited earlier shows, not merely as theoretical questions about (for example) the distribution of goods or the representation of interests, but also as the near horizon of vital motivating concern. People have not stopped thinking about future generations – and there is at least some prospect that this

18 See C LAIRE D UPONT , Representing Future Generations, in: Mihnea Tanesescu/Claire Dupont (ed.), The Edges of Political Representation. Mapping, Critiquing and Pushing the Boundaries, London: Rowman and Littlefield 2019, 113–120. 19 M UERS , Pushing the Limit.

Future Generations as Horizon of Responsible Action

147

felt connection to future generations can be deployed a way that promotes just action.

V. Seeing, Feeling, Imagining: Can Theology Awaken Responsibility? In the final part of this contribution, I present an initial account of how theology might enable/shape the imagining of intergenerational responsibility and an imagining that is itself responsible. I propose that a theological contribution to a discussion of responsibility includes not only grounding and delimiting responsibility but also shaping the imaginary of responsibility. How – again the environmental psychologists cited earlier might point us back to the question – do we come to feel responsible, to see ourselves as responsible in particular ways or to see someone as the one who makes me responsible? Merely to be told I am responsible for or to somebody, to be judged responsible in certain respects or for certain things, does not generate the action and attitude of a responsible person. Although historically and by inclination Christian theology has tended to focus on the objective dimension of responsibility, I would argue that it cannot neglect the question of feeling responsible or seeing oneself as responsible. As Simeon Zahl has argued persuasively in his recent work, when it comes to central claims of theological anthropology inter alia – Zahl’s example, which connects closely to the theme of responsibility, is the doctrine of justification – the conceptual framework is inextricable from (what he terms) its »affective salience«; to believe this is inevitably to have a certain affective response to it.20 Moving beyond affect to questions of imagination, Karen O’Donnell has recently argued that the theologian should be a »dreamer« of alternative futures, one »with responsibility to imagine the [currently] impossible«.21 O’Donnell is mainly talking about envisaging conceptual shifts, imagining different theologies; but a key point in her article (focused on artificial intelligence and transhumanism) is that the »prophetic imagination«22 of theology, a term she takes from Walter Brueggemann, can »provide hope by pointing to new realities that can be trusted or depended upon«.23 Theological work in a time of change or crisis speaks to »prepare the Church and the public for the futures they might encounter«.24 Taking a cue from O’Donnell, I suggest that the theologian’s »responsibility to imagine« includes the work of cultivating responsibility in relation to future gen20 S IMEON Z AHL , The Holy Spirit and Christian Experience, London: Oxford University Press 2020. 21 K AREN O’D ONNELL , The Theologian as Dreamer. On Theological Imagination and Human Enhancement, in: Theology 124.5 (2021), 341–348, 341. 22 Op. cit., 343. 23 Ibid. 24 Op. cit., 347.

148

Rachel Muers

erations. Thinking towards future generations – looking towards the near horizon of the future in order to discern paths forward from the present unsustainable situation, acting on the basis that this world could be otherwise – is an exercise of the imagination. This does not, of course, mean that it is fantasy, the building of castles in the air, dreaming up an alternative world in order to escape the responsibilities of this one. Nor, however, is it just the projection forward of current known certainties. Rather – returning to O’Donovan’s metaphor of the path – thinking towards future generations means re-envisioning the landscape in which we now find ourselves, seeing it as a place from which we can go forward in different ways. Previously unremarkable or marginal features of the present situation are re-imagined as integral parts of paths that we might take to a different future. Theology’s contribution to ethics is not just about mapping or assessing known paths forward – as in »theological ethics« narrowly conceived – but also about shaping how people see and imagine the landscape within which ethics becomes possible. For an example of the theological cultivation of imagination, in a way that generates responsible action, I turn now to the interpretation of Matthew 25:31 ff. I have argued elsewhere that this text figures the multiple asymmetries of power in relation to future generations, referred to earlier in the contribution – the future person as neighbour, gathered at the end of time in a representation of the equality of all generations from the perspective of eternity; the future person as judge, the »one who is to come«, the eventual disclosure of the true meaning and direction of our present uninformed actions; the future person as stranger whose basic needs are within our power to grant or deny.25 A further dimension of the text in relation to future generations, however, is its capacity to shape and direct the imagination to generate possibilities for action. First, Matthew 25:31 ff. is a highly visual text that almost compels the exercise of the imagination – seeing the king enthroned and the nations physically grouped on the right and the left. At the same time, second, it is a text that calls into question any preoccupation with dreaming of far futures or alternative worlds – by drawing attention to how we repeatedly fail to see what is simply there, in front of our noses, demanding attention. The »nations« gathered for judgement have all equally failed to see the neighbour accurately, as Christ – everybody, sheep and goats alike, is equally confused or surprised about the proclaimed identity or equivalence of Christ with the »least of these«. Some of them, however, despite their apparent lack of theological insight, have managed to take the right action – to feed the hungry, to clothe the naked, to visit the prisoner. Third, then, the text puts the question as to why a further reason to act is required, when it is obvious that action is needed; there are hungry people, there is a climate emergency, so why do the nations fail to take responsibility, why does the justice gap persist? 25 See R ACHEL M UERS , Living for the Future. Theological Ethics for Coming Generations, Edinburgh: T&T Clark 2008, 108–114.

Future Generations as Horizon of Responsible Action

149

The apocalyptic imagery in the text functions, I suggest, not as the motivation to behave in a certain way – do this or that in order to get a reward – but rather as affective training, giving additional urgency and affective salience to a present injunction to act, pushing the reader to seek out a path forward that will enable the acceptance of responsibility. The parable reflects and conjures anxiety about the future – a near future in which the immense and unseen consequences of small everyday actions and inactions, the unthinkable responsibility of agents in the Anthropocene, become decisively apparent; a near future that is made of and determined by the actions we take now through chains of connection that we do not see. The paralysis of responsibility, the risk of a collapse of responsibility, appears not only in the apparent randomness of the outcomes – how could the encounter with Christ in this particular everyday action have been predicted? – but also in the unbearable weight of significance that rests on each moment of action or inaction. The story engages, in imaginative and affective terms, the kind of anxiety that paralyses responsibility and wipes out the middle space. However, it does not stop with the anxiety; having looked the apocalypse in the face it turns back to the contemporary context and offers at least some way to remake the middle space. It turns out that the separation of the sheep and the goats is not entirely random. Present actions point beyond themselves in ways that make at least some sense, allowing responsibility to be taken even in a context of very incomplete knowledge and an anxiously precarious future. Consider, in this regard, the text’s relentless focus on the neighbour in need. The path forward, the path towards the future that judges us or redeems us, cannot avoid reckoning with the reality in front of us. That serves as a warning against the kind of appeal to the future that trades off present injustice or sacrifice for imagined future well-being – but it also issues an urgent demand to take responsibility now, on the basis of what is known now. The present world does, despite everything, have some rather precarious paths forward. There are connections, kinships (»members of my family«) between present and future recipients and enactors of justice, and they are at least somewhat predictable. Future fates, while not entirely predictable, are not random – nobody suffers for feeding a hungry person – and they do not contradict or abrogate what we already know, both about creaturely need and about charity and justice. It is also crucial in this connection – as Reed among others has noted – to recognise that the subjects of judgement and action here are »the nations« rather than (only) individual moral actors. The text offers the prospect of redirecting or re-shaping collective, as well as individual, imagination – without detracting from the affective and motivational force of individualised address, the way in which the text permits readers to step into the scene and experience the emotions of those who are addressed. One of the core challenges for theology in the present moment is to find resources for acting in the face of the end of the world – navigating through the profound challenges of taking responsibility in the face of an overwhelming near-

150

Rachel Muers

future and paralysing limits on individual power. Inaction on the climate crisis is not a matter of not knowing what needs to be done; more fundamentally, it is about the inability to take responsibility, the lack of an answer to the question »who is responsible?« The studies in environmental psychology cited earlier indicated that those who take responsibility are likely to be motivated by a relation to future generations – perhaps, I have suggested, because responsibility to future generations involves the recognition of relative uncertainty that still makes room for purposive action, and the possibility of imagining this world otherwise. Theology should not merely call for responsibility to future generations – as one among many topics in theological ethics – but should rather look for ways of cultivating an orientation to the »near horizon«, to the openness of the world, and to the discernment of paths forward, to make responsible action possible.

Intergenerational Responsibility for Settler Colonial Violence Lisa Guenther On May 28, 2021, the unmarked graves of over 200 Indigenous children were located on the grounds of the former Kamloops Indian Residential School in British Columbia, Canada, using ground-penetrating radar technology. In June and July, a further 104 graves were located with the same technology at Brandon Indian Residential School in Manitoba, 751 graves at Marieval Residential School in Saskatchewan, 182 graves at St. Eugene’s Mission Residential School, and 162 graves at Kuper Island Indian Industrial School. These schools were funded by the Canadian government and operated by Christian churches from the 1830s until 1997, with mandatory attendance for Indigenous children from 1894–1947. Over 4,100 children are thought to have died in residential schools in so-called Canada, and at least sixteen other First Nations are currently searching for unmarked graves in residential schools across the country.1 Since the last residential school closed in 1997, there has been a Truth and Reconciliation Commission (TRC), official apologies by the state and church organizations, reparations to survivors, a new statutory holiday to mark a National Day for Truth and Reconciliation, and numerous government reports, news stories, academic articles, and literary works, all of which attempt some form of intergenerational responsibility for the colonial violence of residential schools. And yet, none of these initiatives seems to have the power to stop the reproduction of colonial violence by other means, through institutions such as the child welfare system, the prison system, health care systems, and even the education system, which continues to displace Indigenous youth from their families and communities to attend high school in distant cities like Thunder Bay, where many have died by suicide.2 And even as the federal government pursues reconciliation with First Nations, it has used police and military violence against Indigenous peoples protecting their land and water in Kanehsatake, Ipperwash, 1 J EREMIAH

RODRIGUEZ, What We Know About How Many Children Died At Canada’s Residential Schools, CBC News (May 31, 2021) 2021, URL: https://www.ctvnews.ca/canada/ what-we-know-about-how-many-children-died-at-canada-s-residential-schools-1.5450277? cache=envhbmdlvitqz. 2 TANYA TALAGA , Seven Fallen Feathers. Racism, Death, and Hard Truths in a Northern City, Toronto, ON 2017.

152

Lisa Guenther

Burnt Church, on Six Nations territory, and most recently on the unceded land of the Wet’suwet’en nation. These ongoing reverberations of colonial violence underscore Patrick Wolfe’s claim that »[i]nvasion is a structure, not an event«.3 In other words, colonial invasion is not an isolated moment of violence with a definite beginning and end, it is an ongoing process that organizes the political, economic, social, and interpersonal life of both settlers and Indigenous peoples. Wolfe argues that the purpose of colonial structures is the elimination of Indigenous peoples, whether through outright genocide or assimilation.4 Both methods of elimination were at work in the residential school system, which explicitly aimed »to kill the Indian in the child«,5 but which also caused the biological death of so many Indigenous children that, already in 1922, the chief medical officer for the Department of Indian Affairs called residential schools »a national crime«.6 What does responsibility for genocidal colonial violence look like for those of us who are neither architects of colonial institutions nor members of Indigenous nations, but who have nevertheless inherited a world that is thoroughly structured by invasion, from the wealth of the European metropole to post-colonial nations struggling for a meaningful sense of independence, settler colonies with European political, economic, and social structures and a predominantly European power elite, and neo-colonies whose economic fate is still determined by the World Bank and IMF? In order to account philosophically for the intergenerational scope of both colonial violence and decolonial responsibility, we need an ethics that goes beyond the model of individual accountability for one’s own decisions and actions. The defensive rejoinder of what Tiffany Lethabo King calls »conquistador-settlers«7 – namely, »Why should I be blamed for something that happened before I was born?« – conflates responsibility with liability and seeks to limit the scope of ethics to the individual will. This »common sense« approach to ethics forecloses any reckoning with the structural violence of the colonial world that each and every one of us has inherited, albeit differently, with a range of unchosen benefits and challenges depending on our social location. It should come as no surprise that inheritors of colonial benefits routinely deny intergenerational responsibility for colonialism; not only is such denial in our ma3 PATRICK W OLFE , Settler Colonialism and the Elimination of the Native, in: Journal of ¯ Genocide Research 8.4 (2006), 387–409, 388. See J. K EHAULANI K AUANUI, A Structure, Not an Event. Settler Colonialism and Enduring Indigeneity, in: Lateral 5.1 (2016) for an important critique of the way this phrase has been taken up by settler scholars in American Studies. 4 See W OLFE , Settler Colonialism and the Elimination of the Native, 387–403. 5 T RUTH AND R ECONCILIATION C OMMISSION OF C ANADA , They Came for the Children. Canada, Aboriginal Peoples, and Residential Schools, Winnipeg, Man. 2012, URL: https : / / publications.gc.ca/collections/collection_2012/cvrc-trcc/IR4-4-2012-eng.pdf, 81. 6 J OHN S. M ILLOY , A National Crime. The Canadian Government and the Residential School System, 1879 to 1986, Winnipeg: University of Manitoba Press 1999, 51–75. 7 T IFFANY L ETHABO K ING , The Black Shoals. Offshore Formations of Black and Native Studies, Durham and London: Duke University Press 2019, xi–xii.

Intergenerational Responsibility for Settler Colonial Violence

153

terial interest, but the model of personhood as a form of self-owning property that can only be held accountable for its own deliberate investments is itself an artefact of colonial violence, as critical readers of Locke and other early modern philosophers have clearly demonstrated.8 This atomistic model of personhood has been normalized for so many generations, and it is supported by so many interconnected political, economic, and social structures, that it can be hard to imagine ourselves any other way. But as Indigenous thinkers like Leanne Betasamosake Simpson remind us, there have always been different ways of understanding what it means to be a person in relation to a multiplicity of other living and nonliving beings.9 Indigenous communities have fought very hard to keep these relational forms of personhood alive by caring for land and water, safeguarding traditional knowledge, engaging in ceremony, and many other practices including outright political resistance to colonial domination. The Haudenosaunee principle of considering the impact of one’s actions on seven generations is exemplary of an intergenerational ethics that affirms both the importance of individual agency and the entanglement of personhood with a world that far exceeds our own finite life.10 If we hold open the possibility that the world is not just a container for separate individuals to divide and defend, but an intrinsic aspect of relational personhood – or, in my own phenomenological tradition, Being-in-the-world – then we cannot simply bracket or set aside our inheritance of a world that is structured by colonial violence. This violence is in our bones and in our brains; it shapes our habits of attention and ignorance, our desires and fears, our gut instincts and our most sophisticated philosophical theories. We are responsible for this violence not primarily as a result of what we have done but by virtue of how we exist as colonial Being-in-the-world. We did not choose to inherit a colonial world, and we could not have rejected this world at the outset; as Heidegger would say, we are thrown into this world, and our primary mode of existence is an irresponsible immersion in the norms and habits of colonial everydayness.11 But a decolonial »call of conscience«12 challenges us to wrestle with the tension between an unchosen past and the imperative to decide resolutely how we will own up to this past, understood not as an inert set of facts but as a dynamic field of historical possibilities whose meaning is still an open question. To assume responsibility 8

BARBARA A RNEIL, John Locke and America. The Defence of English Colonialism, Oxford: Clarendon Press 1996; JAMES T ULLY, Rediscovering America. The Two Treatises and Aboriginal Rights, in: G. A. J. Rogers (ed.), Locke’s Philosophy. Content and Context, Oxford: Clarendon Press 1994. 9 L EANNE B ETASAMOSAKE S IMPSON , As We Have Always Done. Indigenous Freedom through Radical Resistance, Minneapolis: University of Minnesota Press 2017. 10 J OHN M OHAWK , Thinking in Indian. A John Mohawk Reader, ed. by José Barreiro, Golden, CO: Fulcrum Publishing 2010. 11 M ARTIN H EIDEGGER , Being and Time, trans. by John Macquarrie/Edward Robinson, San Francisco: Harper and Row 1962, 149–169. 12 Op. cit., 312–348.

154

Lisa Guenther

for colonial violence is therefore not to opt into a supererogatory duty towards others from whom our own fate remains separate, it is to face who we are as historical beings, and how we are disposed towards a world that overflows us even as it remains an intrinsic dimension of our own existence. Given the imbrication of our Being-in-the-world with sedimented structures of colonial violence, it is our responsibility to notice, interpret, and rework colonial structures so that future generations may inherit a world that is structured otherwise. This approach to intergenerational responsibility is not based on the inheritance of guilt for the sins of previous generations; such an interpretation would orient us towards the actions of others and shift the focus from our responsibility here and now towards their guilt (or innocence) there and then. Even when we do succeed in identifying specific perpetrators of colonial violence, this alone is not sufficient to disrupt and transform the sedimented structures that generations of normalized, everyday colonial violence have soaked into the very fabric of the world, organizing the phenomenal field or matrix of possibilities through which we make sense of our lived experience. This contribution undertakes a preliminary sketch of a critical phenomenology of the colonial world that we have all inherited in different ways, from different social positions, with different effects, but with a shared responsibility to repair and rework colonial violence. By ›critical phenomenology‹ I mean a philosophical practice of suspending hegemonic ›common sense‹ accounts of reality in order to reflect on the conditions of lived experience and the lifeworld in which it unfolds. The aim of critical phenomenology is to describe, interrogate, and ultimately transform the contingent, historical, yet quasi-transcendental structures that shape the meaning and materiality of this experience, such as colonialism, anti-Black racism, and heteropatriarchy. These structures are contingent in the sense that they have emerged through historical struggles the outcome of which could have been – and could still become – otherwise. But they function in a quasi-transcendental way insofar as they generate and consolidate meaning by normalizing some habits of perception, cognition and comportment and pathologizing others. In other words, they are not just phenomena in the world, but also (inter)subjective ways of seeing, hearing, moving, relating, and sense-making. In order to account for intergenerational responsibility at the level of Beingin-the-world, we need to attend to what Heidegger called the »worldhood of the world«13 – the world understood not as the sum total of entities on planet earth, but as a generative – yet not causally determinative – context for meaningful experience, the structure of which has sedimented over time through collective praxis. For critical phenomenology, the challenge is not merely to take responsibility for this or that particular event of colonial violence, but to transform the quasi-transcendental structures through which colonial violence continues to shape the way current generations make sense of the world: the way 13

Op. cit., 91–95.

Intergenerational Responsibility for Settler Colonial Violence

155

we think, perceive, feel, act, and relate to each other. These structures are material – they are embedded in our legal systems, our global economic networks, and our political institutions – but they also have a transcendental dimension insofar as they shape the way we create, interpret, and express meaning. These quasi-transcendental conditions were produced under contingent circumstances that could have been otherwise, but they have thickened over time into a crust that feels to many of us like a permanent, solid ground. And yet, as the geological history of the earth reminds us, this crust floats on a molten core that can erupt and unsettle the landscape along fissures of intense friction and pressure, producing explosive transformations. The colonial world was built over hundreds of years, which means that it can be unbuilt, unlearned or reorganized – but this will take careful, sustained practice and care, grounded in a collective responsibility that goes beyond liability for wrongful action and acknowledges that each and every one of us has a stake in redressing the colonial violence that shapes our Being-in-the-world. But how do we do this? How do we transform the structures that make us who we are without assuming that we are either doomed to repeat them or capable of neatly leaving them behind? In what follows, I will respond to this question through a schematic reading of Ariella Aïsha Azoulay’s 2019 book, Unlearning Imperialism. While Azoulay does not frame her method as critical phenomenology, she interrogates both the material and transcendental conditions of what she calls the »phenomenological field«14 that structures »time, space, and the body politic«15 in an imperial or colonial world.16 Writing from the perspective of what she calls a »citizen perpetrator«17 – a Palestinian Jew whose ancestors were expelled from Spain in 1492, and who were displaced to Algeria for generations, but who in her own words was »born ›Israeli‹ by default« and refuses to identify with the Israeli state18 – Azoulay interrogates the material and transcendental conditions under which those of us who have inherited both the privilege and the shame of colonial citizenship might refuse complicity with this violence and affirm our responsibility – even our right – to help repair the harm that this violence has done, not just in the past but for many generations, including our own. For Azoulay, the challenge is not merely to name, describe or analyze the conditions of colonial violence but to unlearn them through collective action that reworks the basic structures of the imperial world. Azoulay insists that colonial violence is not just stoppable but even reversible; her method of »potentializing« history »does not mend worlds after violence but rewinds to the moment before 14 A RIELLA A ÏSHA A ZOULAY , Potential History. Unlearning Imperialism, London and New York: Verso 2019, 11, 288, 301. 15 Op. cit., 152. 16 Azoulay mainly uses the term »imperial« and its cognates, which I will use interchangeably with »colonial« and its cognates. 17 A ZOULAY , Potential History, 51. 18 Op. cit., xiii.

156

Lisa Guenther

the violence occurred and sets off from there« to make such violence impossible.19 The ethical force of this aspiration is a collective responsibility to (re)claim one’s right to participate in caring for a shared world. Colonialism undermines this right to responsibility by dividing subjects into those with a right to act with impunity, or to shirk responsibility for mutual care, and those from whom care work is extracted without reciprocity, to the point of exhaustion. The challenge for those of us who have been sanctioned to act carelessly is to reclaim the right to care, and to cultivate the necessary skills and attunements for worldcarefulness, thereby reconnecting with an essential capacity of human – and indeed, more-than-human – life. This imperative to care is not an altruistic duty to bestow charity on others, nor is it an egoistic project of self-improvement; it is, in Heidegger’s terms, a »call of conscience« that calls us back to ourselves as care-ful Being-in-the-world by calling us out of ourselves into a relational field of possibilities for (re)making a common world. To »care for the world« in this sense is not merely to preserve the entities that currently exist on planet earth; such a conservative approach to care would reduce worldhood to a finite set of entities, narrowing ethical-political life to the task of guarding against change or becoming. Rather, to care for the world is to sustain a web of relations that supports a plurality of ways of dwelling or making a home in a world that no one owns but everyone must own up to. This relational web is not a set of links between entities that could just as well stand on their own; it is a phenomenal field or matrix of possibilities that organizes the meaning of time, space, and the body politic, such that a meaningful figure can emerge from a ground or context in the first place. One way of understanding Azoulay’s method is in terms of a Gestalt shift that foregrounds the decolonial care that has always been simultaneous with colonial violence, but has been pushed into the background by imperial history. To »potentialize« history as a way of making colonial violence impossible is to affirm and reclaim this inheritance of non-imperial and anti-imperial traditions, rather than assuming that we must denounce the guilty past in order to clear a space in the present for the sake of a new and improved future. These divisions between past, present, and future, and the desire to put guilt behind us and seek redemption or innocence now and forever, are precisely what undermine a meaningful sense of intergenerational responsibility for colonial violence. In the next three sections, I will summarize Azoulay’s critique of imperial time, space, and personhood (or the body politic), tracing the shift in perspective that allows other possibilities to emerge, not as a new and improved future but as an inheritance or gift that has already been passed down to us, and yet still calls for collective activation. The challenge is not to »put the events of the past behind

19 Op. cit., 10. I will bracket the more radical claim to reversibility in order to focus on the (only slightly less radical) aspiration to make colonial violence impossible.

Intergenerational Responsibility for Settler Colonial Violence

157

us so that we can work towards a stronger and healthier future«,20 as The Mandate of the Truth and Reconciliation Commission on residential schools announces, but rather to potentialize colonial violence in a way that makes it impossible by refusing complicity and reclaiming the right to care for a common world. I will conclude by reflecting on the implications of Azoulay’s decolonial ethics for our understanding of intergenerational responsibility for residential schools in so-called Canada.

I. The First Shutter of Imperial History: Time The separation of time into past, present, and future segments, and the organization of these segments into a linear sequence of progress and civilization, is a colonial structure that has been fabricated, enforced, and normalized for generations. The historical narrative of a »new« world »to be discovered« and divided by European powers presupposes this organization of time into a prehistorical Indigenous past, an inaugural event of European incursion, and a future of progress, improvement, and civilization. This linear segmentation of time provides one of the quasi-transcendental conditions under which colonial violence may be consigned to the past, such that those of us who have inherited the benefits that this violence (re)produces may distance ourselves from it, as if it were someone else’s responsibility. Anishinaabe scholar John Borrows has challenged this colonial narrative in socalled Canada, revealing the »trickster« logic that both acknowledges the prior existence of Indigenous nations and retroactively asserts the logical and political priority of European colonial sovereignty as an inaugurating authority.21 While this hegemonic narrative consigns Indigenous sovereignty, and even Indigenous existence, to a past segment of time that is no longer present, Borrows,22 Val Napoleon and Hadley Friedland,23 and many others have taken great care to recover, elaborate, and support Indigenous legal orders with their own ways of organizing time, space, and the body politic. In a similar act of epistemic resistance to the segmentation of time into past/present/future, Azoulay affirms the simultaneity of colonial and decolonial possibilities across a temporal-historical field that refuses both the closure of the past and the apparent novelty of the future. 20 T RUTH AND R ECONCILIATION C OMMISSION OF C ANADA , They Came for the Children, 89. 21 J OHN B ORROWS , Frozen Rights in Canada. Constitutional Interpretation and the Trickster, in: American Indian Law Review 22.1 (1997), 37–64. 22 J OHN B ORROWS , Indigenous Legal Traditions in Canada, in: Washington University Journal of Law & Policy 19 (2005), 167–223. 23 VAL NAPOLEON /H ADLEY F RIEDLAND , Indigenous Legal Traditions. Roots to Renaissance, in: Markus D. Dubber/Tatjana Hornle (ed.), The Oxford Handbook of Criminal Law, Oxford: Oxford University Press 2014, 225–247.

158

Lisa Guenther

This non-linear organization of time affirms and (re)claims the possibilities of particular worlds that colonial violence has attempted to destroy, not as the tragic loss of a pre-colonial past but as the still-living potential of decolonial or nonimperial ways of organizing time, space, and the body politic through embodied practices of caring for a shared world. For Azoulay, the affirmation of simultaneous yet incommensurable possibilities for colonial or decolonial worlding is not a thought experiment or »what if« scenario; rather, it is a concrete practice of »potentializing history« by (re)claiming, (re)activating, and sustaining alternative ways of structuring the world beyond and against imperial power, through what she calls worldcarefulness. These alternatives are not future horizons to be »discovered« or invented, but rather ongoing practices of survival and resistance that have been attacked and undermined by violent institutions like Indian residential schools, but have not been obliterated thanks to the ongoing care work of Indigenous communities. The practice of placing children’s shoes on the steps of churches and government buildings to remember those who died in residential schools is one expression of this worldcarefulness: mourning the dead while organizing for social change at an institutional level, so that future generations may inherit a differently-structured world. To potentialize history is to co-create the conditions under which practices of worldcarefulness that are obscured or consigned to an indistinct background by imperial history are reclaimed and amplified, such that colonial violence becomes impossible, and even reversible, while remaining unforgivable. The key to producing the conditions of impossibility for colonial violence is not the invention of new strategies for making a definitive break between a guilty past and an innocent future; such a framework merely reinforces the imperial logic of linear time and obscures decolonial practices of survival, resistance, and other modes of worldcarefulness that are already simultaneous with world-destructiveness. Rather, the challenge is to notice, support, and amplify a plurality of alternatives to colonial violence that already exist but have been pushed into the background of the colonial phenomenal field. In the context of residential schools, countless practices of worldcarefulness have been cultivated and sustained by Indigenous communities against the worlddestructive violence of colonialism, for example by Indigenous parents who hid their children from missionaries and Indian agents,24 the many children who ran away,25 the girls at Kamloops school who stuck together in a group of ten to protect each other from abuse,26 the boys who threatened a work strike at Lytton school,27 the students who set residential schools on fire over fifty times,28 those 24

T RUTH AND R ECONCILIATION C OMMISSION OF C ANADA, They Came for the Children, 49–50. 25 Op. cit., 52. 26 Op. cit., 43. 27 Op. cit., 51. 28 Op. cit., 52–53.

Intergenerational Responsibility for Settler Colonial Violence

159

who fought back physically against abusive staff members,29 and those who developed hand signals to communicate with each other in secret.30 We could also cite the numerous reports by settler lawyers, journalists, and medical officers who denounced the system as early as 1907 as »a national crime«, tantamount to »manslaughter«,31 arguing that »[e]ven war seldom shows as large a percentage of fatalities as does the education system we have imposed on our Indian wards«.32 To potentialize the history of residential schools is to »hold time« for these practices of care, not as failed attempts to resist the inexorable force of colonial domination but as a powerful world-making tradition that we have both the right and the responsibility to continue elaborating. In this sense, the »conditions of impossibility« for colonial violence are not merely the negation of its conditions of possibility, but the collective enactment of substantively different ways of organizing the world through mutual care. This includes both material changes such as the closure of residential schools and the payment of reparations to survivors and also – in part through these material changes – a transformation of the quasi-transcendental structures that shape our perception and interpretation of the world. The work of the Truth and Reconciliation Commission, while flawed in many ways, is not only to create a forum for survivors to share their experiences or to gather an archive of »truth« about the residential school system, both of which have been criticized as projects consistent with colonial assumptions about the pervasiveness of Indigenous trauma or damage, the healing power of exposing this trauma to public view, and the value of amassing documents in files for the (re)production of academic knowledge or expertise.33 Rather, the potential power of this work – which includes but also exceeds the TRC – is to build on existing traditions of care to rework the phenomenal field that structures colonial time, space, and personhood by de-activating the habits, norms, and institutions that enforce colonial violence as the only way of structuring the world. In the words of Stó:l¯o scholar Dylan Robinson, this would amount to a transformation of settler colonial forms of perception and attention beyond the collective habit of »hungry listening,« which extracts knowledge and value from Indigenous nations and bodies to preserve it in museums, archives, and universities.34 Colonial violence imposes a single frame of meaning and valuing on »the« world, to the point of normalizing its own violence and effacing alternative practices of world-carefulness that remain simultaneous but incommensurable with 29

Op. cit., 53. Op. cit., 23. 31 Bryce 1922, cited in M ILLOY , A National Crime, 77. 32 Cited in op. cit., 91. 33 DYLAN ROBINSON , Hungry Listening. Resonant Theory for Indigenous Sound Studies, Minneapolis: University of Minnesota Press 2020, 201–234; E VE T UCK, Suspending Damage. A Letter to Communities, in: Harvard Educational Review 79.3 (2009), 409–428. 34 ROBINSON , Hungry Listening, 2–3. 30

160

Lisa Guenther

this violence. In effect, colonial violence frames itself as an inexorable, completed actuality, rather than one among many ways of worlding. Therefore, part of what it means to potentialize colonial violence is to refuse its ubiquity, resituating its self-declared universality as one among many possible ways of organizing the world, and reclaiming more care-ful practices of world-making. These nonimperial or anti-imperial practices are still immanent to the phenomenal field of worldhood, but they need to be affirmed and amplified (or »potentialized«) as a counter-move to imperialism’s systemic imposition of its own universal(ized) framework of meaning. To impossibilize colonial violence is both to reclaim devalued or discredited possibilities and also to refuse the imperial logic that insists »nothing is impossible.« For Azoulay, »it is the threshold of unbearability that should be restored and used in order to cry out, ›not everything should be possible!‹«35 To hear this call to refuse unbearable colonial violence – to listen for the power of refusal even in expressions of pain and suffering – is to interrupt the habit of hungry listening, attending to the (im)possible in the midst of the actual. I think of this as a kind of quasi-transcendental activism that shifts the hermeneutic frame of sense-making away from imperial logics, even or especially in spaces of imperial knowledge production. This brings us to Azoulay’s second quasi-transcendental topos: space.

II. The Second Shutter of Imperial History: Space Just as colonial power divides time into sequential segments of a line, it carves the spatiality of the world into separate properties and territories contained within a single frame of reference: »the« world. As Sylvia Wynter, Denise Ferreira da Silva, and others have argued, the concept of a single world governed by a single hierarchical logic is itself an artefact of colonial violence, closely tied to the imperial timeline of discovery and civilizational progress and to non-relational models of individual personhood.36 While Wynter and da Silva remain sceptical of the usefulness of »world« as a concept for decolonial theory, Azoulay affirms worldcarefulness as an embodied practice of decolonial responsibility. She does this on the basis of an ontological and epistemic plurality of simultaneous worlds, each with their own traditions of care. For Azoulay, as for the phenomenological tradition, the world is not the totality of all entities on planet earth, but rather a relational context without which one could not be oneself. Worlds are not invented out of thin air; they are sedimented 35

A ZOULAY, Potential History, 55–56. S YLVIA W YNTER, Unsettling the Coloniality of Being/Power/Truth/Freedom. Towards the Human, After Man, Its Overrepresentation – An Argument, in: CR: The New Centennial Review 3.3 (2003), 257–337; D ENISE F ERREIRA da S ILVA, Toward a Black Feminist Poethics. The Quest(ion) of Blackness Toward the End of the World, in: The Black Scholar 44.2 (2014). 36

Intergenerational Responsibility for Settler Colonial Violence

161

over time, through collective practice in particular places. To dwell in a world is to be conditioned by the limits and possibilities of a phenomenal field, not in the sense of being causally determined to think or act in a certain way, but rather by being situated in a »where« that orients one’s existence and actions, even when it resists or undermines one’s intentions. Worlds may overlap or scrape against one another, and as Maria Lugones has argued, a person may travel between different worlds every day.37 Imperial power both divides worlds in order to conquer them, and also absorbs or digests worlds to expand its own empire; but the right to care for a common world is for Azoulay a simultaneous possibility to be activated collectively as a site of anti-imperial struggle. This suggests a threefold understanding of world as: 1) the imperial world, 2) an open-ended plurality of worlds, and 3) a shared practice of worldcarefulness in a common world.

1. The Imperial World The imperial world is a singular, exclusive, monocultural world that represses and denies other ways of organizing time, space, and the body politic, even while extracting material and symbolic value from these alternative worlds. It is a particular mode of sense-making that universalizes itself as the one and only world and sacrifices other lives, objects, meanings, and practices of worlding to maintain this claim to universal legitimacy. The imperial world is built on world-carelessness and world-destructive violence. The context that it establishes and enforces is not a world in the phenomenological sense of an open-ended matrix of possibilities, but rather a selfenclosed theatre for the exploits of what Wynter calls Man1 and Man2.38 But as Azoulay reminds us, »However hegemonic, this imperial world doesn’t exhaust the multiple other worlds destroyed for it to take shape«.39 She identifies the museum,40 the archive,41 and the framing of space through photography42 as key sites of the imperial world.

37 M ARÍA L UGONES , Playfulness, ›World‹-Traveling, and Loving Perception, in: Hypatia 2.4 (1987), 3–19. 38 S YLVIA W YNTER , Unsettling the Coloniality of Being/Power/Truth/Freedom. Towards the Human, After Man, Its Overrepresentation – An Argument, in: CR: The New Centennial Review 3.3 (2003), 257–337. 39 A ZOULAY , Potential History, 288. 40 Op. cit., 58–156. 41 Op. cit., 162–280. 42 Op. cit., 2–8.

162

Lisa Guenther

2. A Plurality of Worlds Simultaneous with »the« imperial world is an open-ended plurality of particular worlds grounded in different ways of dwelling and different traditions of caring for a shared context of living and dying, growing and ageing, acting and being acted upon. Non-imperial worlds are targeted by imperial power for worlddestructive violence, but for this very reason, Azoulay refuses the colonial perspective that frames these worlds as tattered remnants or artefacts to be preserved in museums and archives. Instead, she affirms the simultaneity of worlds on the same terrain, for example in the American South where the system of marks that signified slavery, such as fences and »boundary trees,« was simultaneously contested by »another set of marks, most visible to the slave – signs of the occupancy of his own people«.43 This »other set of marks« is not just a practical navigation system, it also suggests a different way of organizing the phenomenal field, which in turn calls for a different mode of attentiveness to signs that would have faded into the background as insignificant for those unable to read them, but which are deeply meaningful for those who are engaged in caring for a counter-world that is both simultaneous with slavery and organized against it. To potentialize history is to pay close attention to this »other set of marks« that signify traditions of worldcarefulness that make the imperial world ethically intolerable, »potentializing« this tradition to »impossibilize« imperial logics. For Azoulay, tradition is not the conservative preservation of rules and norms but rather »the sediment of plurality – necessary for the realm of human affairs – in a shared material world that is shaped by many, throughout generations, each out of her or his place in this world«.44 As such, traditions form a web of embodied practices for sharing a world, even across discontinuous times and places.45 To share a world in this sense is to share both »the stuff of life,« or a material context for dwelling together, and a phenomenal field for making sense of this material context.

3. Worldcarefulness in a Common World We do not all share the same traditions or inhabit the same particular world, but we do all share the right and responsibility to engage in worldcarefulness and to go »on strike« against imperial world-destructiveness. This right to worldcarefulness is not based on an underlying human nature, nor even on a practical imperative to guard against the destruction of the earth, but rather on our common inheritance of a world that is structured by ethically intolerable colonial violence. Azoulay writes: 43

Op. cit., 305. Op. cit., 316. 45 Op. cit., 317. 44

Intergenerational Responsibility for Settler Colonial Violence

163

Imperial violence is our commons, our form of being together. Violence in its institutionalized forms has become omnipresent, the ultimate resource held in common... [T]he commons is not a chosen way of sharing life, but the concrete mode under which life is shared. The commons is produced out of the being-together of people, even if people share life not by being with but by being against one another.46

Azoulay challenges her reader to interpret the violence that divides the world into perpetrators and victims, or those with a right to careless impunity and those from whom care is extracted, as a common inheritance that leaves no one unaffected. This violence produces a »generational gap« between those who defend the colonial world and those who refuse it;47 but it also issues an ethical imperative to (re)claim one’s right to participate in caring for a shared world and to refuse complicity in world-destroying violence. In other words, it challenges us to potentialize the colonial violence that divides us by affirming other possibilities for organizing the world that impossibilize such divisions. From this perspective, intergenerational responsibility for colonial violence is neither the guilt-ridden duty of settlers nor the sacrificial burden of Indigenous peoples but a common inheritance that comes down to us differently, but calls upon all of us to liberate ourselves from the imperial divisions of time, space, and personhood that organize our interests in binary opposition to one another. The path of liberation will look different depending on how we are situated in relation to the history of colonial violence. But no one is exempt from both the responsibility and the right to potentialize this history, to participate in making intolerable violence impossible, and to free ourselves from the enclosures that shrink the phenomenal field to fit imperial frameworks, limiting our possibilities for thinking, feeling, acting, and caring. If colonial violence did not structure our very Being-in-the-world – if it were just an external tragedy that we could acknowledge or set aside without affecting the fundamental possibilities of our own existence – then it might seem like altruism or even foolishness for settlers to desire decolonization. And if Beingin-the-world were a substance or entity rather than a structured, but open-ended relation to possibility, then it might seem ontologically impossible for us to become otherwise than products of, and therefore investors in, the imperial world. But if we take up Azoulay’s invitation to potentialize the history of colonial violence by reclaiming our capacity to care for the world and impossibilizing worlddestructiveness, then it becomes clear that the integrity of our own existence, even as citizen-perpetrators, is at stake in the reclamation of a common world. It is a great gift to be able to care for the world, and a great loss to become indifferent or even hostile to worldcarefulness. At some points in Potential History, Azoulay writes as if the common world were a regulative ideal that one must assume in order to co-create: »Whatever 46 47

Op. cit., 148 (emphasis added). Op. cit., 355–356.

164

Lisa Guenther

happens, it necessarily affects all those who are involved, no matter what position they occupy; hence, potential history cannot but assume a common world and the many who share it«.48 At other points in the text, she writes as if this common world were yet to be created: »Imagined, claimed, and enacted simultaneously by all those who are implicated in imperial violence – victims and perpetrators alike as cocitizens – potential history is the transformation of violence into shared care for our common world«.49 In light of this ambiguity, we might understand (the possibility of) a common world as a past that was never present, yet still remains immanent to a field of simultaneous possibilities. This would be a shared, common world that did not pre-exist colonialism as such, since colonial powers invented »the« world, but which this history has made necessary as an ethical counter-concept to the imperial world, and which Indigenous (and) decolonial traditions of worldcarefulness teach us to (re)claim. To summarize: 1) the imperial world posits itself as the one and only world, and naturalizes its own violent destruction of other worlds; 2) a plurality of worlds remains grounded in particular traditions that call for continued activation and elaboration; and 3) a common world emerges through practices of worldcarefulness that potentialize the inheritance of colonial violence as a way of impossibilizing or abolishing it. What forms of political subjectivity are correlated with the imperial world, and what would it take to reorganize the phenomenal field of the body politic beyond imperial frameworks?

III. The Third Shutter of Imperial History: The Body Politic The space-time of the imperial world organizes the body politic, or the horizon of possibilities for Being-with-others, into those who are empowered to act with careless impunity and those whose particular world is attacked and undermined, but who still struggle to care for this world. Azoulay argues that, in the wake of World War II and the Holocaust, human rights discourse has reified this colonial schema rather than challenging it by dividing the body politic into three separate categories or personae: victims, perpetrators, and spectators.50 Victims are innocent but helpless; they occupy centre stage in the theatre of human rights discourse. Perpetrators are guilty others; they are represented as the enemy to be identified, isolated, and incapacitated. Finally, spectators are called forth as an audience to bear witness to the innocent suffering of victims, the guilty agency of perpetrators, and the eventual triumph of good over evil. Azoulay seeks to break down the mutual exclusion of victims, perpetrators, and spectators by refusing the moral platforms of guilt and innocence and stay48

Op. cit., 310 (emphasis added). Op. cit., 57 (emphasis added). 50 Op. cit., 448–529. 49

Intergenerational Responsibility for Settler Colonial Violence

165

ing with the ethical trouble of complicity and immersion in colonial violence. If violence is what we have in common – even or especially if this violence divides us into subjects, objects, or witnesses of violence – then the challenge is not to identify the guilty for separation and removal but rather to refuse the imperial logic that divides us into good and bad, deserving and undeserving, and to fight together for the right not to be complicit in colonial violence: the right and responsibility to participate in caring for a common world. This refusal of the moral opposition between guilt and innocence does not underestimate the very real, specific, and complex differences in how we inherit violent structures. Azoulay writes: [T]he calls of the victims and the perpetrators are not interchangeable. They are irreducible to one another, yet they must be voiced together, as they emanate from inherited common structures. Their simultaneity is key to the dismantling of the disaster-generating regimes under which imperial crimes were institutionalized and continue to be generated and inherited.51

Azoulay argues that, while human rights discourse interpellates »citizens« as spectators or witnesses to the violence of others, and as potential heroes whose charitable donations have the power to save victims from perpetrators, the political persona of the citizen is – like linear time and the imperial world – an artefact of colonial violence, built on the exclusion of non-citizens and the subordination of second-class citizens. She proposes the term citizen-perpetrator to name this structural complicity in colonial violence, and to interpret intergenerational responsibility for imperial crimes not as the moral duty of innocent or morallyneutral spectators, nor as the guilty inheritance of identifiable perpetrators, but as the liberating possibility of (re)claiming our right to care for a common world.52 The political persona of citizen-perpetrator is assigned to us (or not) at birth as a function of our social location, and the colonial structure of the world encourages us to accept this role as natural and inevitable. This unchosen inheritance poses an ethical question to citizen-perpetrators: How do we transform complicity into solidarity? In other words, how do we »go on strike« from the work of reproducing colonial violence without disavowing this violence itself as a common inheritance that implicates us as active participants in the process of reclaiming our right to care for a shared world? To go on strike against imperial violence is not merely to renounce the »privileges« of citizenship; again, this is not an ethics of altruism or empathy. It is rather to reclaim the lost or stolen right to perform a different kind of labour: the work of caring for (and so co-constituting) a common world. This right to care signifies differently depending on how the common inheritance of colonial violence has come down to us. In some situations, it will mean reclaiming the right not to continue benefiting from the perpetration of inherited crimes; in others, it will mean reclaiming the right to a home and to traditions of caring for the world 51 52

Op. cit., 542 (emphasis added). Op. cit., 49–51.

166

Lisa Guenther

in particular ways. This is not a binary opposition between perpetrators and victims but rather a way of differentiating the kind of work that is both possible and necessary for holding space and time for a common world, depending on one’s social-historical location. Azoulay argues: Institutionalized violence shapes who people are – victims and perpetrators alike – to an extent that only the recovery of the condition of plurality can undo it. This points to the most basic right immanent to the human condition, which imperialism constantly compromises: the right not to act against others; in its positive formulation: the right to act alongside and with one another.53

In effect, this is a right to solidarity, a right to intergenerational responsibility and not just a duty or obligation. When we perceive an attack on the colonized not as the particular problem of »victims« or the »oppressed« and their beneficent »allies« but as an attack on cocitizens of a common world, then we will be on our way to unlearning imperialism. To the extent that citizen-perpetrators like myself understand ourselves primarily as spectators to the violence that long-dead others committed without our support or consent, we give up both our right and our responsibility to participate in caring for a common world. But if we interrupt this persona of spectator through a critical epoch¯e, bracketing the naturalness of a political ontology based on self-owning individuals as a (fabricated) transcendental condition, and shifting our attention to the relational structures of (de)colonial Being-in-the-world, then a different perspective emerges. We cannot simply distance ourselves from the inheritance of a world that was built through imperial violence; it is the matrix through which we make sense of our experience and existence. But it is both possible and ethically imperative for so-called spectators to acknowledge both our complicity in colonial violence and our right not to be complicit, challenging the opposition between guilt and innocence that supports the imperial model of responsibility as individual liability. At minimum, this means acknowledging that we ourselves have a stake in abolishing the colonial world, not just an act of allyship but as the condition of our own liberation from the perpetual reproduction of imperial violence. To »go on strike« against the imperial world is not an abstract moral stance; it calls for »the tedious labor of making the world fit to live in together«.54 For Azoulay, this is the labour of unlearning imperialism by potentializing history as a way of making colonial violence impossible, and even reversible: An act of potential history would see descendants of perpetrators in the position their ancestors should have been in when crimes were perpetrated – that of returning what was taken and begging to be allowed a place in the shared world. Such a space is the cause and effect of hard 53 54

Op. cit., 566. Op. cit., 572.

Intergenerational Responsibility for Settler Colonial Violence

167

work through which perpetrators and their descendants can separate themselves from the crime; that is, not through denial but through its transformation into an unforgivable crime.55

What would this look like in the context of intergenerational responsibility for genocidal colonial violence in the Indian Residential School system of so-called Canada?

IV. Potentializing the History of Residential Schools In 2008, two years after a settlement was reached for a series of class action lawsuits brought by survivors of residential schools,56 then-Prime Minister Stephen Harper apologized for the Indian Residential School system, calling it »a sad chapter in our history,« and adding, »Today, we recognize that this policy of assimilation was wrong, has caused great harm, and has no place in our country«.57 Just a year later, he boasted to a gathering of G20 leaders that Canada has »no history of colonialism. So we have all of the things that many people admire about the great powers but none of the things that threaten or bother them«.58 Even beyond this tone-deaf follow-up, the Canadian government’s apology exemplifies imperial discourse. Threatened with liability in the court system, the government pivoted towards a policy of truth and reconciliation, distancing itself from a »sad« and guilty past by repeatedly stating that »we now recognize« the wrongs of the past and are committed to making »a positive step in forging a new relationship between Aboriginal peoples and other Canadians,« based on »a desire to move forward together« for the sake of »a stronger Canada for all of us«.59 This unilateral assertion of inclusiveness, while framed as an apology for assimilationist policies, rhetorically absorbs Indigenous peoples into the im55

Op. cit., 571. The Settlement consisted of five elements: 1) a Common Experience Payment (CEP) for all eligible former students of Indian Residential Schools; 2) an Independent Assessment Process (IAP) for claims of sexual or serious physical abuse; 3) measures to support healing such as the Indian Residential Schools Resolution Health Support Program and an endowment to the Aboriginal Healing Foundation; 4) commemorative activities; and 5) the establishment of a Truth and Reconciliation Commission (TRC) (G OVERNMENT of C ANADA, Indian Residential Schools Settlement Agreement 2007, URL: https : / / www. rcaanc - cirnac . gc . ca / eng / 1100100015576/1571581687074). 57 G OVERNMENT of C ANADA , Statement of Apology to Former Students of Indian Residential Schools 2011, URL: https : / / www . rcaanc - cirnac . gc . ca / eng / 1100100015644 / 1571589171655. 58 DAVID L JUNGGREN , Every G20 Nation Wants to be Canada, Insists PM, Reuters (Sept. 25) 2009, URL: https : / / www . reuters . com / article / GCA - G20Pittsburgh / idUSTRE58P05Z20090926. 59 C ANADA , Statement of Apology to Former Students of Indian Residential Schools, emphasis added. 56

168

Lisa Guenther

perial body politic of »Canada« rather than engaging with them as the sovereign nations that they are. Indeed, if Indigenous nations were not sovereign, then the treaties that form the constitutional foundation of Canada as a nation-state would be meaningless. While the Truth and Reconciliation Commission that unfolded from 2008– 2015 in the wake of the Indian Residential School Settlement Agreement has been a meaningful process for many participants, it also reproduces imperial logics on multiple levels. Métis scholar David Garneau argues that the discursive structure of the TRC (re)produces what Azoulay would call the imperial body politic by staging [a] spectacle of individual accounts (confessions) and healing narratives (forgiveness and penance). It prefers to lay blame on its individual (mostly dead and certainly absent) members, and even then does not willingly present them for public confession and atonement. While it acknowledges that the abuses were the result of (past) systemic policy, Canada does not do anything that would risk the integrity of current dominant structures. Because the system is premised on the eventual elimination of the Indigenous, it is cautious about recognizing that it is in a perpetual relationship with First Nations, Métis, and Inuit, and so it imposes a time limit on »healing.« It pays off individuals rather than recognize that harms were done not only to persons but to collective wholes. The imagined end of this restoration project is »Canada’s Truth and Reconciliation.« Truths are told, the destroyed mourned, the broken repaired, individual Natives reconciled with Canada, order restored, and the national identity endures.60

The Commission’s interim and final reports clearly frame their work in terms of imperial time. The Mandate of the Truth and Reconciliation Commission (Schedule N of the Indian Residential Schools Settlement Agreement) is explicitly motivated by »an emerging and compelling desire to put the events of the past behind us so that we can work towards a stronger and healthier future« and predicts that »[t]he truth of our common experiences will help set our spirits free and pave the way to reconciliation«.61 This division between a guilty past (criminal liability for which is excluded by the TRC Mandate62 ) and a bright, healthy, powerful future is repeated throughout the TRC reports: It is painful to discover that, as a nation, we have not always lived up to our ideals or the image we seek to project on the international stage. That does not mean we should abandon our ideals. We cannot change the past, but the future is in our hands.63 60 DAVID G ARNEAU , Imaginary Spaces of Conciliation and Reconciliation. Art, Curation, and Healing, in: Dylan Robinson/Keavy Martin (ed.), Arts of Engagement. Taking Aesthetic Action In and Beyond the Truth and Reconciliation Commission of Canada, Waterloo: Wilfrid Laurier University Press 2016, 21–42, 33. 61 T RUTH AND R ECONCILIATION C OMMISSION OF C ANADA , They Came for the Children, 89. 62 Op. cit., 90, 91. 63 Op. cit., 3, see also op. cit., 89, and T RUTH AND R ECONCILIATION C OMMISSION OF C ANADA, Honouring the Truth, Reconciling for the Future. Summary of the Final Report of

Intergenerational Responsibility for Settler Colonial Violence

169

The repeated invocation of a »we« throughout the TRC reports underlines the rhetorical assimilation of Indigenous peoples into the category of Canadian citizen, while reproducing a citizen-other division by prioritizing the »full and proper education« of »Canadians« »as to the nature of Aboriginal societies, and the history of the relationship between Aboriginal and non-Aboriginal peoples«.64 That this education is meant to unfold primarily through the spectacle of Indigenous suffering undermines the claim that »[t]he truth of our common experiences will help set our spirits free and pave the way to reconciliation«65 by asserting both a common experience in the past and a common goal for the future, rather than doing the work to potentialize history as a condition for co-creating the very possibility of a common world. Perhaps the most striking example of an imperial assertion of common experiences and goals is the TRC testimony of Brother Tom Cavanaugh, district superior of the Oblates of Mary Immaculate for British Columbia and the Yukon, who initially defended the residential schools system then, when challenged by Indigenous survivors and family members to »tell the truth,« stated that »our men are hurting too because of the abuse scandal and the rift that this has created between First Nations and church representatives«.66 By equating the pain of scandal with the pain of genocidal colonial violence and sexual abuse, this testimony undermines the possibility of a common world rather than building or sustaining it. What would it mean to »potentialize« the history of residential schools in a way that goes on strike against colonial violence, rather than perpetuating it by other means? One starting point, though by no means the only one, is to acknowledge that residential schools were not an exception to the rule of an otherwise benevolent state, but as what Azoulay calls a regime-made disaster. Regime-made disasters are forms of intense imperial violence produced by the state through its normal functioning or standard operating procedures. They are the disasters (for some) that produce and support the basic rights and privileges of others (citizen-perpetrators). As such, regime-made disasters are »interlaced in a democratic fabric of life, while nonetheless being perceived as external to the regime that generates them«.67 They »do not take place off-stage, in the shadows, outside the law, or in any spontaneous manner«,68 but rather unfold in the full light of the imperial day. A regime-made disaster is »at one and the same time the expression of the differential principle of the regime and what stabilizes the Truth and Reconciliation Commission of Canada, Winnipeg, Man. 2015, URL: https://irsi. ubc.ca/sites/default/files/inline-files/Executive_Summary_English_Web.pdf, 8, 134. 64 T RUTH AND R ECONCILIATION C OMMISSION OF C ANADA , They Came for the Children, 85. 65 Op. cit., 89. 66 Cited in T RUTH AND R ECONCILIATION C OMMISSION OF C ANADA , Honouring the Truth, Reconciling for the Future, 14. 67 A ZOULAY , Potential History, 362. 68 Ibid.

170

Lisa Guenther

it«.69 To understand the residential school system as a regime-made disaster is to perceive it not as a sad chapter in »our« history, but rather as an ongoing structure of invasion that is both based on a fabricated colonial division between citizens with a strong, healthy future and Indigenous peoples with a traumatic, but disappearing past, and also (re)produces this division on a material level through the colonial violence that it normalizes and legitimates, even in the apologies, commissions, and official reports meant to address it. What would it take for citizen-perpetrators to refuse this colonial division of the body politic, both in the explicitly genocidal form expressed by deputy minister of Indian Affairs Duncan Campbell Scott in 1920 when he said that the Canadian government would »continue until there is not a single Indian in Canada that has not been absorbed into the body politic, and there is no Indian question, and no Indian Department«,70 and also in the redemptive form expressed by the TRC of bearing witness to Indigenous trauma in order to pave the way for a new and improved future for all »Canadians«? A key to this refusal is the collective labour of disrupting imperial time. For Azoulay, »the main time feature of regime-made disaster« is that it »lacks the conditions needed to make itself present in a way that would break up the time in which it exists. Time enables one to uphold the great lie of the national subject as having a time of its own, separate from others«.71 To potentialize history is to go on strike against imperial time, withholding one’s labour from the reproduction of the imperial world, and collectively transforming the conditions of possibility for imperial violence into conditions of impossibility. If we understand Azoulay’s method from a critical phenomenological perspective, then this suggests a practice of phenomenology beyond neutral description, beyond even critique (if by the latter we mean a practice of naming and denouncing wrongs), and closer to a reparative practice of (re)making a common world. What would it take to »break up« the time in which residential schools exist as a tragedy enclosed in an irreversible past, and to »potentialize« this history as something that could never happen (again)? At minimum, this would mean affirming and concretely supporting the power of Indigenous nations to survive, resist, and practice resurgence on their own terms, whether or not this involves »a new relationship« with the Canadian state or Canadian citizens. Azoulay writes: Regime-made disaster does not account for what »could have been if ...« but rather for that which existed and continues to exist in potentiality, even though it was given to us »as if it is not« [for example, as if Indigenous nations were not sovereign].72

69

Op. cit., 360. Cited in T RUTH AND R ECONCILIATION C OMMISSION OF C ANADA, Honouring the Truth, Reconciling for the Future, 2–3. 71 A ZOULAY , Potential History, 364. 72 Op. cit., 360. 70

Intergenerational Responsibility for Settler Colonial Violence

171

To affirm Indigenous sovereignty not as a relic of the past nor as an aspiration for the future, but as a nonimperial possibility that exists alongside the imperial possibility of genocidal violence is to grasp solidarity and assimilation as simultaneous, yet ethically incommensurable possibilities rather than wishful thinking on one hand, and a sad, yet inexorable reality on the other. This possibility of solidarity is not based on the assertion of »common experiences« as a foundation for »reconciliation« within the colonial nation-state, but rather emerges through everyday decolonial practices of Indigenous peoples caring for their world in a plurality of different ways, beyond and against the normalization of imperial violence. A concrete example of Indigenous worldcarefulness »breaking up« the time, space, and body politic of the imperial world is the ongoing resistance of Wet’suset’en matriarchs and hereditary chiefs to the construction of a pipeline on their unceded territory. In addition to blocking construction with their own bodies and dwellings on the Yintah, or tribal land, and continuing to practice ceremonies for protecting the water even as the government deployed RCMP and military forces to arrest them, Wet’suwet’en leaders called for solidarity actions to #ShutDownCanada. In response to this call, Indigenous and non-Indigenous supporters from coast to coast to coast came out in great numbers in February 2020 to shut down major roads, highways, railways, and ports, literally breaking up imperial time by blocking »critical infrastructure« and interrupting global supply chains. In Tyendinaga, Mohawk supporters of the Wet’suwet’en call to action blockaded the railway for three weeks, shutting down passenger and commercial rail traffic between Toronto, Montreal, and Ottawa. The blockade expanded across the country, shutting down all rail traffic across Canada for over a week, and disrupting train service in some parts of the country for an entire month. While these actions do not thematize residential schools as a topic for public education, they are doing the work of caring for the possibility of a common world, starting from the collective self-affirmation of Indigenous nations, by both depriving citizen-perpetrators of the conditions for the normal functioning of the imperial world, and also inviting or inciting us to participate in the work of caring for (the possibility of) a common world. In April 2020, Michi Saagiig Nishnaabeg writer Leanne Betasamosake Simpson compared these blockades to the powerful world-making practices of the beaver, or Amikwag, who builds dams to block streams, creating both deep pools of water and shallow wetlands that sustain multiple forms of life: Amik is a world builder. Amik is the one that brings the water. Amik is the one that brings forth more life. Amik is the one that works continuously with water and land and plant and animal nations and consent and diplomacy to create worlds. To create shared worlds.73 73

L EANNE B ETASAMOSAKE S IMPSON, The Brilliance of the Beaver. Learning from an Anishnaabe World, Ideas, (April 16, 2020) 2020, URL: https://www.cbc.ca/radio/ideas/thebrilliance-of-the-beaver-learning-from-an-anishnaabe-world-1.5534706.

172

Lisa Guenther

Refusing the division between human and non-human world-making, Simpson continues: Blockades are both a refusal and an affirmation. An affirmation of a different political economy, a world built upon a different set of relationships and ethics, an affirmation of life. That’s why the words of Freda Huson, spokesperson of the Unist’ot’en camp [on Wet’suwet’en territory] speaks to the hearts of Indigenous people when she says: »Our peoples’ belief is that we are part of the land. The land is not separate from us. The land sustains us. And if we don’t take care of her, she won’t be able to sustain us. And we as a generation of people will die.«74

Once we grasp a solidarity action like #ShutDownCanada as a decolonial possibility of worldcarefulness that is simultaneous with the colonial possibility of the residential school system, rather than consigning these »facts« to different archives or different segments of imperial world history, then the material connections between railways and residential schools come more clearly into view. A major turning-point in the history of the residential school system was the construction of three »industrial schools« for Indigenous children on the Prairies (in High River Qu’Appelle, and Battleford) under the leadership of then-Prime Minister John A. Macdonald in 1883. The schools were based on the model of Indian Boarding Schools in the US, following an 1879 report by Nicholas Flood Davin, who recommended collaborating with churches to operate the schools since »it would be wrong, he said, to destroy their faith ›without supplying a better‹ one; namely, Christianity«.75 At the time, the Canadian Pacific Railway was under construction as a nation-building project designed to consolidate Canadian sovereignty. The newly-established Dominion of Canada rushed to make treaties with Indigenous nations on the Prairies. While provisions for education were built into many of the so-called »numbered treaties« on the Prairies, obliging the Canadian government to pay for teachers in Indigenous communities, »[t]here was no mention of residential schools in the treaties or the negotiation process«.76 The government also deliberately reneged on treaty obligations to provide food rations to Indigenous peoples, who were struggling with starvation and illness in the wake of the collapse of buffalo herds and the enclosure of land by settlers for agricultural development. Throughout the late nineteenth and early twentieth centuries, the Canadian government used Indigenous starvation strategically to advance its own interests. For example, Prime Minister Macdonald told Parliament in 1882, »I have reason to believe that the [Indian] agents as a whole ... are doing all they can, by refusing food until the Indians are on the

74

Op. cit. T RUTH AND R ECONCILIATION C OMMISSION OF C ANADA, They Came for the Children, 10. 76 Op. cit., 9. 75

Intergenerational Responsibility for Settler Colonial Violence

173

verge of starvation, to reduce the expense«.77 In the same year that Macdonald ordered the construction of three industrial schools and granted the Indian Affairs $44,000 to build them, he cut the department’s budget by $140,000. »As a result of these cuts, Indian Affairs reduced the already meagre relief rations it was providing to western Aboriginal people at a time when they were facing starvation following the disappearance of the buffalo«.78 From the beginning, then, the residential school system was chronically underfunded.79 Church operators tried to fill the budget gap by cutting the food rations for Indigenous students and forcing them to work half the day to grow food, chop wood, and maintain the facilities that confined them.80 Malnourishment and overwork made children more vulnerable to disease and death, with regime-made disastrous results.81 Numerous government reports made it clear that Indigenous children were dying in large numbers in residential or industrial schools. A 1907 legal report stated: The appalling number of deaths among the younger children appeals loudly to the guardians of our [sic] Indians. In doing nothing to obviate the preventable causes of death, brings the Department [of Indian Affairs] within unpleasant nearness to the charge of manslaughter.82

A news article from the same period stated: Indian boys and girls are dying like flies in these situations or shortly after leaving them... Even war seldom shows as large a percentage of fatalities as does the education system we have imposed on our Indian wards.83

Dr. Peter Bryce, chief medical officer for Indian Affairs, also condemned the system in 1907, stating that, among the 1537 students enrolled in residential schools between 1888 and 1905, »nearly 25 per cent are dead,« and in one school, »69 percent of ex-pupils are dead;« in most cases, »the cause of death given [by school principals is] tuberculosis«.84 In 1913, Duncan Campbell Scott, then-deputy minister for Indian Affairs, stated: »It is quite within the mark to say that fifty per cent of the children who passed through these schools did not live to benefit from the education which they had received therein«.85 And yet, 77

Cited in CBC R ADIO, The verdict on Sir John A. Macdonald. Guilty orinnocent?, Ideas, https : / / www. cbc . ca / radio / ideas / the - verdict - on - sir- john - a - macdonald - guilty - orinnocent-1.4616181. 78 T RUTH AND R ECONCILIATION C OMMISSION OF C ANADA , They Came for the Children, 6. 79 Op. cit., 16–18. 80 Op. cit., 35–37. 81 Op. cit., 28–35. 82 Cited in M ILLOY , A National Crime, 77. 83 Cited in op. cit., 91. 84 Cited in T RUTH AND R ECONCILIATION C OMMISSION OF C ANADA , They Came for the Children, 29. 85 Ibid. URL :

174

Lisa Guenther

the Canadian government not only continued to fund and expand the residential school system; they also amended the Indian Act in 1920 to make attendance at residential or day schools compulsory for status Indian children between the ages of 7 and 15.86 This led Dr. Bryce to write a pamphlet in 1922 condemning the residential school system as »a national crime,« arguing that it was »almost as if the prime conditions for the outbreak of epidemics had been deliberately created«.87 Even as Indigenous children were dying in large numbers in underfunded institutions of confinement, starvation, and forced labour across the Dominion of Canada, Prime Minister MacDonald approved a $5 million loan to complete the Canada Pacific railway in order to suppress the anti-colonial resistance of Métis, Cree and Assiniboine nations during the Northwest Rebellion of 1885. This is the same railway that supporters of Wet’suwet’en land defenders blockaded in solidarity actions during February 2020, just before the Covid-19 pandemic further disrupted global supply chains. To #ShutDownCanada by blockading this railway, along with roads, pipelines, and other forms of »critical infrastructure« for imperial dominion, is not only to interrupt global supply chains but also to break up the structure of imperial time, refusing to separate the history of residential schools from other citizen-perpetrator nation-building projects. It is to shift the phenomenal field through which we perceive the history of »Canada« from a series of sad chapters culminating in reconciliation, towards a field of live possibilities for resisting imperial violence, guided by ongoing traditions of Indigenous resistance, rebellion, and resurgence. To be sure, none of this reverses imperial time in the sense of undoing the violence of residential schools, restoring Indigenous children to life, and reuniting them with their families, communities, and nations. And perhaps this is not what Azoulay means when she claims that »[p]otential history does not mend worlds after violence but rewinds to the moment before the violence occurred and sets off from there«.88 But it seems to me ethically important to acknowledge both that genocidal violence against Indigenous children is irreversible and that it calls for a reactivation of possibilities that these children, their parents, and their nations embodied in struggling to care for a world under systematic attack. Understood from this perspective, the Indigenous-led movement to #ShutDownCanada is one of many ways to reactivate the possibilities of burning down a residential school, or hiding one’s children from Indian agents, or stealing a bit of food, or using hand gestures to communicate with your siblings. These are all ways of working together to care for a world of mutual responsibility and to refuse an imperial world built on the regime-made disaster of Indigenous starva86

Op. cit., 17. Cited in A NDREW N IKIFORUK, The Story of a National Crime, The Tyee (June 2, 2021) 2021, URL: https://thetyee.ca/Analysis/2021/06/02/National-Crime-Residential-Schools/. 88 A ZOULAY , Potential History, 10. 87

Intergenerational Responsibility for Settler Colonial Violence

175

tion in both the residential school system and the construction of the Canadian Pacific Railway. Solidarity in this collective work is not based on a »common experience« of colonial violence or a shared goal of reconciliation, nor does it traffic in divisions between victims, perpetrators, and spectators. Rather, it calls upon anyone and everyone to participate in the everyday labour of reclaiming our right and our responsibility to care for the world, in the midst of many intersecting differences in the way we have inherited colonial violence. As such, both the movement to #ShutDownCanada and the ceremonial practice of placing shoes on the stairways of churches and government buildings to remember and honour Indigenous children who did not survive the residential school system – while very different in tone and political objective – embody the power of what Azoulay calls potential history, understood as a form of being with others, both living and dead, across time, against the separation of the past from the present, colonized peoples from their worlds and possessions, and history from politics. In this space wherein violence ought to be reversed, different options that were once eliminated are reactivated as a way of slowing the imperial movement of progress.89

My interpretation of #ShutDownCanada is by no means the only way to potentialize the history of residential schools, but I hope it helps to demonstrate the hermeneutical power of Azoulay’s method. Nothing can bring back the children who died in residential schools, but the life-giving resistance of Indigenous movements for decolonization and resurgence have the power to refuse, and even to »impossibilize,« the colonial violence that took their lives.

89

Op. cit., 43.

Taking Care of Those Who Cannot Claim Rights Intergenerational Responsibility as a Challenge in a Post-Pandemic Era Ferdinando G. Menga I. The Pandemic and the Intergenerational Reach of Care The Sars-CoV-2 pandemic has been, among other things, a disclosing event. By making widely manifest the trait of shared vulnerability and interdependence, it has illuminated the fundamental role that care plays in the construction and maintenance of the social bond that permeates the very fabric of community life.1 As Kathleen Lynch has insightfully put it in a recent volume: Despite being the foundation stone for living well [...] care-led maintenance and repair work often remains imperceptible until it breaks down, as happened in the Covid-19 virus crisis in 2020; it was only when crèches and primary schools closed, and when hospitals, care homes and care workers were overwhelmed by virus-related illness, that the dynamics of care infrastructures became visible publicly in many countries.2

In particular, the unprecedented and widespread form of vulnerability we have experienced during the years of the pandemic has disrupted many community practices that in some instances were taken for granted, and in other instances were understood as unassailable achievements. What might have been called our normal form of existence in the world before the pandemic was, indeed, abruptly suspended. By being locked away and isolated in our homes we all underwent a sudden bracketing of our usual circulation within the collective world.

1

This point has been raised by a multifarious group of actors in the public debate as well as scholars in the realm of social- and political-philosophical studies. See among others: T HE C ARE C OLLECTIVE, The Care Manifesto, London: Verso Books 2020, esp. Introduction; F RANCIS [P OPE ], Encyclical Letter Fratelli tutti of the Holy Father Francis on Fraternity and Social Friendship 2020, URL: https : / / www. vatican . va / content / francesco / en / encyclicals / documents/papa- francesco_20201003_enciclica- fratelli- tutti.html (visited on 02/13/2023), §§ 85–86; J UDITH B UTLER, What World Is This? A Pandemic Phenomenology, New York: Columbia University Press 2022, 2–3; B ERNHARD WALDENFELS, Globalität, Lokalität, Digitalität. Herausforderungen der Phänomenologie, Berlin: Suhrkamp 2022, 200–201. 2 K ATHLEEN LYNCH , Care and Capitalism. Why Affective Equality Matters for Social Justice, Cambridge: Polity Press 2022, 77.

178

Ferdinando G. Menga

To be sure, the surrogates of digitized socialization and interaction »from a distance« – as it were – have played a key auxiliary role in a plethora of social, professional and even recreational activities. However, these tools have had only a mitigating effect. And what’s more, precisely as surrogates, they undoubtedly hold a set of unobtrusive but disquieting outcomes in terms of explicit forms of suffering or even true and proper manifestations of trauma, the consequences of which are yet to be registered. Yet, notwithstanding this important aspect of the pandemic, another of its problematic traits needs be highlighted, namely, its intergenerational reach – analysis of which is the object of this chapter. In the first place, during the pandemic, the intergenerational dimension of the pandemic has been clearly seen in the heightened vulnerability of the elderly and the young. Indeed, for older age-groups the pandemic not only heralded an unprecedented increase in deaths, but also severe limitations on the possibility of socialization. Concomitantly, the younger cohort, too, has been deeply affected in its sociality by the measures adopted for the containment of contagion: the impossibility of attending school in person and the subsequent domestic isolation has profoundly disrupted social life for children and teenagers. And if one takes into account the importance of socialization for the formation and maintenance of a psycho-physical balance at that age, one can easily and prospectively grasp the consequences of such measures in terms of long-lasting traumas. There is, however, a second intergenerational factor to be taken into consideration in the context of the pandemic as it has played out in relation to vulnerability. This aspect speaks directly to the temporal character of the kind of care elicited by the experience of prolonged suffering. In general terms, the demand for care, of this kind, has always been understood in terms of the need to a restore an interrupted life or, say, to return to a previously suspended normality. In short, the invocation for care has been expressed as the need for a re-enactment of a lost present. It is no coincidence that one of the first dominating lemmas to shape a vision of post-pandemic restart was the one of »recovery.« Recovery refers precisely to the semantic of a re-prise, a re-turn to a former state of being or a re-gaining of health after an experience of suffering or illness.3 However, important as this trajectory of recovery may be, my investigation emphasizes another equally decisive temporal direction: that of a future-oriented care. My thesis will be very simple: intergenerational vulnerability and the attendant demand for care needs be oriented not only to a restoration of the present – however important this may be – but also to the future, thereby recognizing that the demands of those who are, as yet, absent are instantiations of fragility as im3 A relevant political aspect of such a regressive dynamic, which needs be mentioned here – although I cannot touch on in this chapter – is represented by the pandemic’s triggering of a widespread »desire for security and protection,« as it has been perceptively analyzed by Chantal Mouffe in her latest work: see C HANTAL M OUFFE, Towards a Green Democratic Revolution. Left Populism and the Power of Affects, London and New York: Verso 2022, 14–16.

Taking Care of Those Who Cannot Claim Rights

179

portant as the demands of those who are present, since such a »futuric« fragility speaks to the very destiny of lives on this planet and the need for future lives, as well as present lives, to be worth living. This second dimension of care has undoubtedly proved to be of less immediate impact upon the widespread perception of the pandemic experience; yet, it turns out to be no less authentic than the first. Arguably, in the post-Covid era, such a futuric aspect of the issue might well become the crucial lesson to be learnt from the Pandemic. In fact, if one understands the emergency as by no means a random happenstance but, rather, as the very result of a planetary ecological disruption of anthropogenic origin and of irreversible tendency, the consequence is that the vulnerability and attendant care at stake will impact future subjects much more intensively than present subjects.4 As Hans Jonas has already suggested,5 such an emergency would consist precisely in the possibility that the future itself might cease to »emerge« for good.6 It is for this simple, but nonetheless fundamental, reason that the pandemic experience immediately calls for vulnerable subjects and a practice of care to be brought into consideration in ways that cannot be limited to the present or to an immediately foreseeable future, but must extend to a radical questioning of a genuinely intergenerational reach and, thereby, encompass a concern for the livability of our planet in a more distant temporality. Importantly, this raises some issues. First, one has to consider a diagnostic or, say, a hermeneutic question. In light of what has been disclosed heretofore, we need to investigate in more depth the reasons why the pandemic crisis has been dominated by the »presentist« aspect of the intergenerational nexus and why the future-oriented aspect has thereby been obscured. As already indicated, such a primacy of the present emphasizes a model of care conceptualized, by and large, as a concern for the recovery of an abruptly interrupted past. Delving into such an issue is of the utmost importance, in my opinion, since it reveals how the prevailing option for the present speaks not only to an understandable reaction to an emergency, but also and more importantly to a generalized and rather more profound modus essendi of contemporary societies. Such a modality consists specifically in what one may define as the pervasive societal design inaugurated by the modern liberal-technical-mercantile paradigm: a paradigm that, more recently, has been exacerbated by the neoliberal and planetary technological-capitalistfinancial mechanism pivoting around the primacy of the »now.« Indeed, what such a paradigm produces is the necessary concealment of a genuine concern for the future, thereby benefitting a unilateral dominance of a serialized and eter4 J OEL

WAINWRIGHT/G EOFF M ANN, Climate Leviathan. A Political Theory of Our Planetary Future, London and New York: Verso 2019, Introduction. 5 H ANS J ONAS , Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation, Frankfurt a.M.: Suhrkamp 1979. 6 Cf. F ERDINANDO G. M ENGA , L’emergenza del futuro. I destini del pianeta e le responsabilità del presente, Rome: Donzelli 2021, 3–5.

180

Ferdinando G. Menga

nalized present. This is a present which, as such, can expect only extensions, continuations, re-propositions, and not the caesuras and nexuses genuinely produced by ethical interpellations of intergenerational character. What follows is a second interrogation of a more prospective reach: If the preponderant thrust of the current epoch is concentrated on the present, what might a socio-ethical design that is truly oriented towards responsibility and care for the future look like?

II. The Time of Technology and the Tyranny of the Present Let us start with the first question and investigate the reasons for the ambivalent assumption of a connection between generations that the pandemic situation has had the opportunity to convey.7 On the basis of the reading I propose here, an interpretation of this assumption necessitates a structural analysis of the basic understanding of temporality which, however inapparent, underlies the two poles of this ambiguity. First and foremost in their relevance to our investigations are Heidegger’s meditations on temporality. In effect, one of the fundamental elements that Heidegger’s investigations have brought to light is the extent to which a determined sense of time and historicity permeates – no matter whether directly or indirectly – every anthropological structure and cultural organization.8 In line with this premise, modern time – in which and of which we live – can be understood as a time constituted, permeated and governed by technology.9 Such a temporal structuring resolves itself into a neutral time. Importantly, this time must be grasped as an enlarged presence and constant – i.e. eternal – availability10 to subjects who are builders, producers and dominators of their environments.11 The structural connection between a present-centered temporality and 7

To be sure, one needs only look at the multifarious and often discordant traditional thematizations of the intergenerational issue to grasp, at first glance, how the understanding of the ontological and ethical reach of the past-present-future-nexus has constituted a by no means linear enterprise in the scholarly debate: cf. F ERDINANDO G. M ENGA, Etica intergenerazionale, Brescia: Morcelliana 2021, Part One. 8 Cf. M ARTIN H EIDEGGER , Zeit und Sein, in: Friedrich-Wilhelm von Herrmann (ed.), Zur Sache des Denkens. Martin Heidegger Gesamtausgabe. I. Abteilung: Veröffentlichte Schriften 1910–1976, vol. 14, Frankfurt a.M.: Vittorio Klostermann 2007, 3–30. 9 Cf. M ARTIN H EIDEGGER , Die Frage nach der Technik, in: Friedrich-Wilhelm von Herrmann (ed.), Vorträge und Aufsätze. Martin Heidegger Gesamtausgabe. I. Abteilung: Veröffentlichte Schriften 1910–1976, vol. 7, Frankfurt a.M.: Vittorio Klostermann 2000, 5–36. 10 Cf. M ARTIN H EIDEGGER , Nietzsche, vol. 1, Stuttgart: Verlag Günter Neske 1961, 418– 419. 11 Cf. M ARTIN H EIDEGGER , Überwindung der Metaphysik, ed. by Friedrich-Wilhelm von Herrmann, vol. 7, Vittorio Klostermann 2000, 67–98, 70–71; M ARTIN H EIDEGGER, Nietzsche, vol. 2, Stuttgart: Verlag Günter Neske 1961, 17–19.

Taking Care of Those Who Cannot Claim Rights

181

the attendant civilization of technology is subsequently crystallized in the idea of a continuous development realized by subjects who are producers of means and tools which are increasingly honed to the project of improving and colonizing the world.12 In line with this description, Heidegger speaks of a progression leading eventually to an »unconditional domination over the whole earth.«13 In other words, the neutral and ever-present time of technology speaks to an empty timecontainer, within which the modern subject makes things happen, but which, in itself, is not generative of anything whatsoever. Rather, it gives itself solely as the condition of an incessant becoming without tears or caesuras.14 Accordingly, such a time – insofar as it is neutral, much like a conveyor belt in constant activity – cannot meaningfully affect any true and proper intergenerational transmissions constituted by existentially concrete relationships. Rather, it provokes the very neutralizations thereof, thereby displacing and distributing them as anonymous elements along the smooth trajectory of progress whose uninterrupted flow is guaranteed. In short, in such a technological time connoted by the will to power of an anonymous, mute and eternally self-reproducing present,15 futurity and future subjects have no real voice and find no genuine space for their invocations. To be sure, this understanding of technological time does not imply the exclusion of a dynamic of a transcending into/towards the future. On the contrary, paradoxically enough, it is precisely this temporality that celebrates, more than ever, projections into the future.16 Except that, in the context of technology, future transcendence can only be understood in terms of an extension and progressive growth of and from the present. Highly representative of this kind of dynamic is the traditional modern-liberal condition of a self-centered and self-referential subject performing an activity which is realizable in incremental achievements. In consequence, at a closer inspection, the transcendence here at hand, is, after all, one of tamed nature: nothing other than the result of a projection enacted thanks to the power of immanence and presence. Exactly in line with this sense of transcendence arises the first possibility to encounter the ambivalent relationship evoked at the beginning, whereby the intergenerational nexus connecting past, present and future extends only as that model of care that we understand as recovery, re-establishment and revitalization of the present.

12

Cf. M ARTIN H EIDEGGER, Die Zeit des Weltbildes, in: Holzwege, vol. GA 5, Frankfurt a.M.: Vittorio Klostermann 1938, 75–113. 13 H EIDEGGER , Nietzsche, 127–128. 14 Cf. op. cit., 11–12. 15 Cf. H EIDEGGER , Nietzsche, vol. 1, 585–587. 16 Cf. J ULIE A NNE W HITE , Time for Caring Democracy, in: Petr Urban/Lizzie Ward (ed.), Care Ethics, Democratic Citizenship and the State, Cham: Palgrave Macmillan 2020, 161–177, 161.

182

Ferdinando G. Menga

In recent times, the French philosopher Bernard Stiegler has perceptively shown how the modern paradigm of technology and the attendant configuration of care have not only been exacerbated but have also undergone a peculiar transformation in the context of the current era marked by the globalized, networked and automated organization of society. Albeit with some simplification of a complex and multifaceted theory, the backbone of Stiegler’s account concentrates on showing how the dominant feature of contemporary neoliberal society is precisely constituted by an alliance between the technological-industrial device and the capitalist-financial mechanism. By means of this alliance a specific configuration of the social body and subjectivities comes into being17 that functions as an even more pronounced accentuation of the primacy of the present. This is a primacy which, in turn, proves itself to be functional to the perpetuation of the capitalist-financial model. According to Stiegler, the distinctive fulcrum of such a society is the pivotal figure of the consumer18 who, precisely on the basis of her/his unstoppable drives – what Yves Citton would dub »unlimited consumerist hedonism«19 – is best able to realize and perpetuate the constant dominance of the cyclical dynamic of shorttermism and eternal return of the present.20 Moreover, this cyclicality, as it occurs in the current society dominated by the »algorithmic governmentality«21 of big data and the data economy, ends up reaching its climax in the form of a true and proper »automatic nihilism.«22 As a consequence, a presentism exacerbated by the overflowing of automatism gains an unsurpassable speed, totally overwhelming the lives and psychological ordering of subjects and so rendering futile, if not impossible, any attempt to consolidate meaning or sustain projections.23 In depicting such a framework, Stiegler also considers the concomitant motives and elements that are co-conducive to its determination. The first important element is born of the fact that such a scenario is the consequence of a »politics of attention formation.«24 In particular, this involves what the author calls a true and proper »battle for the intelligence,«25 where what is

17

Cf. B ERNARD S TIEGLER, Prendre soin. De la jeunesse et des générations, Paris: Flammarion 2008, 22–23. 18 Cf. op. cit., 79–81. 19 Y VES C ITTON , Pour une écologie de l’attention, Paris: Ed. du Seuil 2021, 45. 20 Cf. S TIEGLER , Prendre soin, 71–73. 21 B ERNARD S TIEGLER , Dans la disruption. Comme ne pas devenir fou?, Paris: LLL 2016, 22. Stielger takes this terminology from A NTOINETTE ROUVROY/T HOMAS B ERNS, Gouvernementalité algorithmique et perspectives d’émancipation, in: Réseaux 177.1 (2013), 163– 196. 22 S TIEGLER , Dans la disruption. Comme ne pas devenir fou?, 23. 23 Cf. op. cit., 26. 24 S TIEGLER , Prendre soin, 65. 25 Op. cit., 59.

Taking Care of Those Who Cannot Claim Rights

183

at stake is precisely the »intercepting«26 and »conquest«27 of attention as the very precondition for the production and stabilization of the individual subject and the »formation [...] of every human society.«28 Contemporary society, so argues Stiegler, is, precisely, a society dominated by the consumerism and automatism that are the driving forces of advanced capitalism. Stiegler then brings into play another element structural to the construction of a capitalist-industrial outline of society: the intervention of »psycho-technological devices«,29 which are powerfully efficacious tools governed by instantiations of »psychopower«30 and devoted to the »capture«31 of minds. The final goal of such a process is to have »brains available«32 to the overarching logic of functionalization imposed upon society. By means of this analysis Stiegler aims to underscore the following critical point: nowadays, the subject holding the upper hand in the psycho-technological battle for the formation of intelligences is precisely what Citton would call the »hegemonic [...] device of attentional capitalism.«33 This hegemonic power is exerted by »marketing« mechanisms34 and the mega-apparatus of the audiovisual, digital and even algorithmic »programming industry.«35 These apparatuses have taken over and no longer allow for the construction of an individual attention oriented to durable knowledge and consolidated critical discourse. Concomitantly, the dominion of these apparatuses does not allow for even a general care to be taken of a social bond based on long-term projection.36 On the contrary, such hegemonic mechanisms, by dint of their fostering and reproducing the logic of unstoppable consumption, are instead conducive of a psycho-technological politics that is clearly devoted to the perpetual diversion and »destruction of attention.«37 The consequence of this destruction is, on the one hand, the obliteration of effective possibilities for investing in the enduring organization of life and knowledge and, on the other – and parallel to it – the extensive achievement of a subjugation to the imperative of instantaneity.38 In light of this analysis, it is not difficult to assess how the defeated contender in such a battle is first and foremost – as Stiegler perceptively points out – the entire apparatus traditionally entrusted with the formation of individuals and their 26

Op. cit., 37. Op. cit., 59. 28 Op. cit., 37–38. 29 Op. cit., 31. 30 Op. cit., 30. 31 Op. cit., 36. 32 Op. cit., 16. 33 C ITTON , Pour une écologie de l’attention, 89. 34 S TIEGLER , Prendre soin, 110. 35 Op. cit., 111. 36 Cf. ibid. 37 Op. cit., 327. 38 Cf. op. cit., 79–81, 110–112. 27

184

Ferdinando G. Menga

intelligence: namely, the school system and education institutions in general.39 Likewise, it is not difficult to understand that if the psycho-technological apparatus has taken the upper hand, this is precisely because of its ability to destroy the very cornerstone on which such institutions have hitherto rested, i.e. the widespread concern for the transmission, onwards and into the future, of durable and critical knowledge and, consequently, the maintenance of a firm sense of the responsibility of all adults towards future generations.40 It is precisely in this trajectory that Stiegler is keen to emphasize the crucial role played by current cultural politics that, in general, are explicitly devoted to producing confusion in intergenerational relations. Pointedly, his attack is directed towards the globalized process of cultural transmission dominated by marketing strategies in the television and internet industries, whose intention is to increase the infantilization of adults and the ›hyper-responsibilizing‹ of youth. These strategies, according to Stiegler, are a clear token of the fatal undermining of all possible practices of a social care worthy of the name, that is, capable of and devoted to looking beyond the short term and the mere present.41 Conclusively, as Stiegler continues, it is not surprising that the contemporary adult subject perfectly mirrors the figure of the irresponsible individual that is functional to the continuous reproduction of consumption – the unstoppable practice of degradation of the planet – and is endemically enveloped by an inability to pay heed to the future and to care for posterity.42 Crucially, this analysis can now help us draw a further insight that connects with the very focal point of our investigation. In fact, thanks to Stiegler’s interpretation, the presentist attitude we have indicated as being a general posture of response during the pandemic (but also in view of a post-pandemic recovery) can no longer appear exclusively as a reaction motivated by the contingent pressures of the emergency. Rather, it must be traced back to the deeper and structural nature of contemporary societies, that is, societies adhering to the techno-capitalist precept and its mechanism of obliteration of a genuine ethical ability to care for the long term and the future. Accordingly, the pandemic should trigger a radical interrogation, which, far from limiting itself to a search for the strategies of care best suited to the task of recovery from the present condition of suffering, should instead inquire into a deeper temporal and subjective dimension. Such questioning boils down to this: care, of course, but in light of whose vulnerability? Which individuals should, at the end of the day, be seen as vulnerable in ways to which the post-pandemic recovery represents a response?

39

Cf. op. cit., 118–120. Cf. op. cit., 136. 41 Cf. op. cit., 83–84. 42 Cf. op. cit., 84. 40

Taking Care of Those Who Cannot Claim Rights

185

Understandably, any adequate answer to this question should no longer express preoccupation only with the here and now. Rather, since the pandemic has been a widespread experience that has exposed our bond of shared fragility, its teaching should dissuade us from following in the wake of what Stephen Gardiner perceptively calls a »tyranny of the contemporary,«43 or in other words, the current endemic attitude that is propagated by democratic governments to the detriment of both planet and posterity. Moreover, the pandemic crisis should not be used as a justificatory device for an institutional attitude that suspends the needs of future people in order to consolidate a recovery from a present emergency of exceptional character, and that places an absolute priority upon today’s troubles. The logic of the »exceptional situation« which – in all good conscience and with the proverbial best intentions – justifies a policy of procrastination, turns out to be a slippery slope as seductive as it is dangerous, since it has no outcome other than that of further reinforcing the legitimation of a politics of postponement. To the contrary, the condition of extensive and shared hardship we have experienced at a planetary level during the pandemic should push us to a radical paradigmatic shift. In short, the experience of diffuse precarity we have all faced, should lead us not to suspend, but rather to deepen, what I have elsewhere defined as an »alliance between the vulnerable of tomorrow and the vulnerable of today.«44 The very concrete-political warning of such a shift was perceptively underlined by Mario Draghi in a speech in August 2020, when the yet-to-beappointed Italian prime minister, speaking precisely about a recovery plan, opted not to dwell on economic technicalities but to turn his attention to the need to reach a »moment of wisdom in choosing the future we want to build.«45 This is a wisdom which pivots around a politics capable of implementing »even profound reforms of the existing conditions.«46 At the basis of this kind of shift, so he continues, lies »a moral motivation which must lead us« to the right »choice,« thereby acknowledging the very crucial point: »depriving a young of her/his future is one of the most serious forms of inequality.«47

43

S TEPHEN M. G ARDINER, A Perfect Moral Storm. The Ethical Tragedy of Climate Change, Oxford: Oxford University Press 2011, 36. 44 M ENGA , L’emergenza del futuro, 16. 45 M ARIO D RAGHI , Intervento al Meeting di Rimini Special Edition 2020, Aug. 20, 2020, URL : https://www.linkiesta.it/2020/08/mario- draghi- discorso- meeting- rimini/ (visited on 03/15/2023). 46 Op. cit. 47 Op. cit.

186

Ferdinando G. Menga

III. Ethical Time: Caring for the Future This cited passage furnishes an alternative way of looking at the temporality of the intergenerational nexus: no longer a time connoted by the logic of technology, but rather, an ethical temporality. The notion of ethical time, as extensively investigated by Emmanuel Levinas,48 explicitly points to the fact that time is not first and foremost a neutral, anonymous, impersonal time;49 it is not the time of a solitary being50 focused entirely on consumption and dissipation. On the contrary, it implies an originary relation to the other and, therefore, a »shift to the time of the Other.«51 Accordingly, ethical time is entrusted to us and is to be transmitted beyond ourselves. It is a time immediately marked by responsibility and care for others.52 In short: it bespeaks a time that, unlike that of technology – i.e. an empty, indifferent, indistinct and infinite present which we dispose of and within which we install ourselves in order to carry out our projects – is already and always unavailable and imbued with »ethical significance,«53 as it is immediately charged with an invoked solicitude.54 Consequently, far from being a time of consumption, it is a time of stewardship. Such a time undoubtedly implies haste, yet in a different sense to that triggered by technology which, fostering celerity and immediate satisfaction of needs, amounts to the very annihilation of meaningful time. Rather, the »haste« at stake in ethical temporality displays – I dare say – a kairological or eschatological character, akin to that suggested by Paul when pointing to a movement of tem48 Cf. E MMANUEL L ÉVINAS , Entre nous. Essai sur le penser-à-l’autre, Paris: Grasset 1991, 159–161; E MMANUEL L ÉVINAS, Le temps et l’autre, Paris: PUF 1983. 49 Cf. E MMANUEL L ÉVINAS , En découvrant l’existence avec Husserl et Heidegger, Paris: Vrin 1967, 170; L ÉVINAS, Entre nous, 165 sq. 50 Cf. E MMANUEL L ÉVINAS , De l’existence à l’existant, Paris: Vrin 1947, 160. 51 Cf. E MMANUEL L ÉVINAS , Humanisme de l’autre homme, Paris: Biblio essais-Le Livre de Poche 2014, 45. 52 Cf. E MMANUEL L ÉVINAS , Autrement qu’être ou Au-delà de l’essence, La Haye: Nijhoff 1974, 161. 53 L ÉVINAS , Entre nous, 161. 54 The »unavailability« implied here is to be interpreted precisely in the sense of a temporal experience of which we, as invoked subjects, cannot be the original possessors but, rather the passive recipients, i.e. subjected to it. Bernhard Waldenfels would dub such an unavailable experience as »pathic,« meaning thereby a kind of happening which invests us not as authors in the nominative, but as respondents in the accusative or dative. He perceptively clarifies the point as follows: »I take the Greek expression pathos or the German expression Widerfahrnis to mean that something strikes us, turns out well, or hurts us, like the touché from the fencing fight. [...] In experience, someone is not involved in the nominative of the author, but rather in the dative or accusative of a patient in the broad sense of the term: ›Something happens to me,‹ ›Something has hit me.‹ [...] We are certainly involved, yet precisely not in the form of autocratic subjects« (B ERNHARD WALDENFELS, Sozialität und Alterität. Modi sozialer Erfahrung, Berlin: Suhrkamp 2015, 20–22).

Taking Care of Those Who Cannot Claim Rights

187

poral »gathering« and meaningful concentration as a solicitous readiness for the injunction and coming of the O/other (1 Cor. 7,29: »ὁ καιρὸς συνεσταλμένος ἐστί«: »the time has become short«). Such a responsive solicitude further intensifies the ethical weight of temporality itself. Consequently, this is a temporality which cannot be limited to a formal and abstract category55 but, rather, is to be taken as being immediately ethical due to its distinctive concrete materialization as a transcendence which befalls us in terms of an invocation that demands of us that we respond to others. And, importantly, these others are those who are present as well as those who, from the future, invoke and implore a response that is already intrinsically connoted by a sense of intergenerational care. In light of these premises it can come as no surprise that, in his recent and penetrating investigation into the »paradigm of progress,«56 the Italian historian Aldo Schiavone – for the very reason that he remains within the ambit of such a paradigm – never seriously considers an ethical and genuinely intergenerational dimension as a truly alternative mechanism to remedy what he himself identifies as the »imbalance that is sending the world out of joint.«57 As he indicates, such an imbalance is triggered by the »dark side«58 of the »technological revolution.«59 The problematic aspect of his proposal lies precisely in the fact that, notwithstanding his denouncement of the dangers implied by technology, he still seeks a solution within the very mechanism of technological progress itself, bringing into play none other than its non-dark side, namely that which, along with the danger, also raises a parallel and gradually expanding ethical awareness as a countering attitude. This awareness, so he argues, develops a concomitant sense of augmenting responsibility that is capable of including »life as a whole and [the] nature surrounding it.«60 However, the fact that Schiavone’s general thrust does not in any way mend the fissure between technological and ethical time but, instead, makes it all the more manifest, is something that can be clarified by a simple, yet fundamental, consideration whose theoretical reach and practical consequences need now to be addressed. Indeed, one may ask: Is the ever-expanding vision of commonality and interrelation that, according to Schiavone, would be engendered by technological progress – so as to encompass in itself not only the human, but incrementally the entire realm of the living – really as inclusive as he claims it to be? Or rather: is it not the case that such a vision functions because of a 55

L ÉVINAS, Entre nous, 182–184, 244–246. A LDO S CHIAVONE, Progresso, Bologna: Il Mulino 2020, 60. 57 Op. cit., 97. 58 Op. cit., 28. 59 Op. cit., 34. 60 Op. cit., 117. 56

188

Ferdinando G. Menga

pre-emptive mechanism of exclusion of – and »diversion [of] attention«61 from – the future? In effect, my impression is that Schiavone’s invocation of an allencompassing vision attached to technological progress relies precisely upon the following exclusionary mechanism: a purportedly ever-expanding self-inclusion of a commonality based, nonetheless, on the tacet precondition of a commonality of the present (ones) at the expense of the future (ones). If at a first and superficial glance Schiavone’s position may, therefore, appear to be able to maintain the possibility of an almost universal field of vision as procured by technological advancement itself, at a deeper and unobtrusive level, it manifests itself as the direct result of an intergenerational blindness of quasi-transcendental character. Crucially, however, such an intergenerational blindness, as a direct consequence of the technological serialization that collapses all time into the sole domain of the present and its continuous repetition, is by no means of epiphenomenal reach. Rather, it is symptomatic of the inability of technology to escape from itself, along with its inability to realize that the eternalization of the present and the automatic production of the future as its expansion cause none other than the repression (and concomitant concealment of the act of repression) of a genuinely ethical dimension of the future. As noted above, this ethical dimension of the future does not reveal itself as a merely neutral and anonymous extension of the present but, rather, as an authentic intergenerational dynamic: as the future of the other who demands that care be exercised by those who populate the »now.« Importantly, this critical warning is exactly what characterizes the entirety of Stiegler’s later investigation, in which he identifies the present age as distinctively connoted by a technological-industrial overpower and attendant attitude to »automatically«62 producing the »desertification,«63 »inhumani[zation],«64 as well as »integral proletarization«65 of the future. He calls it an attitude of »generalized carelessness for a planet on fire,«66 which is bound to culminate in nothing short of the »disappearance of future generations.«67 In consequence, and contrary to anything that Schiavone would wish to maintain, the mainstay of Stiegler’s position is such that the technological apparatus, does not exhibit an eminently inclusive connotation but rests precisely on a structural intergenerational exclusion that culminates in the treatment of the future as a kind of huge and undifferentiated dump set up by the »hellish irresponsibility«68 of those living now. More precisely, as he defines it, such a 61

S TIEGLER, Prendre soin, 33. B ERNARD S TIEGLER, Qu’appelle-t-on panser? 2. La leçon de Greta Thunberg, Paris: LLL 2020, 19. 63 Ibid. 64 Ibid. 65 Ibid. 66 Op. cit., 43. 67 Op. cit., 38. 68 Op. cit., 15. 62

Taking Care of Those Who Cannot Claim Rights

189

structural irresponsibility speaks to an extensive treatment of future subjects as a »noetic necromass«69 or, in other words, as a more or less indistinct »homogeneous/heterogeneous set of living beings endowed with reason,«70 inhabiting an environment that supports only the most minimal conditions for bare survival, wherein their field of action is hopelessly condemned to that of coping with the few and toxic remnants left by their predecessors. Stiegler speaks of their »feeding on the left-overs accumulated by [the] ancestors.«71 The inquiry into possible strategies to counter the intergenerational irresponsibility inhering in the present age leads our investigation to its second step, moving on from questions of diagnosis in order to launch some lines of thought towards a healing prognosis. According to Stiegler, the only possible key to a solution is the pursuit of a »radical upheaval«72 of ethical character conducive to the realization of an unprecedented »wisdom«:73 this should be a wisdom which – by opposing precisely the »planetary hybris«74 inhering in the contemporary technological-industrial machinery subservient to consumption and »structural carelessness«75 – commits itself to a practice of knowledge holding together »thinking [pensée]«76 and »taking care [pansée].«77 The result of such a new phronesis would be one of a responsible attitude – »a true and proper environmental wisdom, an ecosophy,« to use Citton’s perceptive turn of phrase78 – which authentically transcends itself into the future. To be sure, according to Stiegler, this ecological and ethical turn does not collapse into the aspiration for an impossible or even desirable dismissal of technology as such. Rather, it implies its transfiguration, such that what takes its place is, on the one hand, a contrasting of the toxic bearings of technology as a negative pharmakon – the author speaks in this regard of a »negative, that is, passive pharmacology«79 – and, on the other, a usage of its other, equally present,

69

Op. cit., 19. Ibid. 71 Ibid. 72 Op. cit., 40. 73 Op. cit., 15. 74 Ibid. 75 J ORMA H EIER , Democratic Inclusion Through Caring Together with Others, in: Petr Urban/Lizzie Ward (ed.), Care Ethics, Democratic Citizenship and the State, Cham: Palgrave Macmillan 2020, 53–76, 62. 76 S TIEGLER , Qu’appelle-t-on panser? 2. La leçon de Greta Thunberg, 15. 77 Ibid. 78 C ITTON , Pour une écologie de l’attention, 53. 79 B ERNARD S TIEGLER , Qu’appelle-t-on panser? 1. L’immense régression, Paris: LLL 2018, 32. 70

190

Ferdinando G. Menga

qualities, that make of it a »positive, that is, active pharmacology«80 capable of healing the social body and »re-enchanting the world.«81 In a broader and more general perspective, Stiegler outlines the task lying before us as follows: Only the establishment of a psychopolitics can constrain the ravages of these kinds of »innovations« caused by psychopower, which becomes the public’s primary responsibility – notably in the context of the battle for intelligence, but first as a matter of public health. It must be a politics of pharmaka, of psychotechniques and psychotechnologies. As a battle for intelligence, this psychopolitics must then result in a noopolitics, not only by means of a limitation and regulation of these psychotechnologies’ use, especially for the youth, but also through the transformation of poison into remedy. That which tends to produce dependency must then become that which enables emancipation from that very dependency. The issues here implied are the environmental, industrial, and educational politics, regulations managing mass media, and the politics of new media: all of this constitutes the one and the same challenge – what can be defined the contemporary battle for intelligence, a battle of incomparable importance in all of human history.82

Importantly, in line with such a massive cultural revolution aimed at caring for society and the entire planet, Stiegler, in his latest book, also posits the relevance of protests carried out globally by the young and, thus, conveying a great »lesson«83 to their predecessors and their predatory attitude toward the future. Indeed, whether or not one is sympathetic towards Greta Thunberg and the various Fridays for Future movements, one point should not be omitted too easily from one’s considerations, namely the radical questions they raise as to the structural inclinations of contemporary liberal democracies. Let’s mention at least two challenging motives. In the first place, a very interesting sociological factor must be made explicit: these protests are organized and carried out mainly by subjects who are very young and, thus, not yet of effective – as it were – »institutional capacity« to affect the course of the political communities in which they act. What is therefore astounding, to say the least, is that our political spaces are being seriously and courageously agitated by subjects who, on closer inspection, do not yet possess the fully legal capacity to act (indeed, they are largely individuals who do not yet have the right to vote). Moreover, these protests are predominantly oriented to the benefit of future subjects at the price of an obvious sacrifice on the part of the present. As such, the motives of these protests clash with the very temporality dominating the clock of the vast majority of today’s democracies, which are all too often focused on chasing short-term politics in order to achieve predictable electoral reconfirma80

Ibid. B ERNARD S TIEGLER/A RS I NDUSTRIALIS, Réenchanter le monde. La valeur esprit contre le populisme industriel, Paris: Flammarion 2006. 82 S TIEGLER , Prendre soin, 167. 83 S TIEGLER , Qu’appelle-t-on panser? 2. La leçon de Greta Thunberg. 81

Taking Care of Those Who Cannot Claim Rights

191

tions.84 From this perspective, these protests manifest at least one disquieting element, which boils down to this: at the very heart of our political communities we are witnessing the rising voices of subjects who matter little on behalf of subjects who do not matter at all. I like to dub this – as recalled above – »an alliance between the vulnerable of today and the vulnerable of tomorrow« (more specifically, in the latter case, we are dealing with subjects who, as nonexistent, do not even possess the legal entitlement to vulnerability). Luckily, however, this is only the one side of the coin. For, on closer inspection, these protests by the vulnerable for the vulnerable do not in fact challenge contemporary democracies to oppose their very structure. Rather, they require the reactivation of their deepest political trait. Indeed, by invoking the need to dislocate the space of decision-making from the present to the future, what the young protesters demand is nothing other than reinvestment in a truly political, symbolic and cultural vision inhering in all democratic space – and not merely as something dependent on techno-capitalistic logic collapsing everything into the imperative of satisfying present needs. Subsequently, Greta Thunberg and the Fridays for Future remind us that the true and proper dignity of political communities is not realized by tending merely to the satisfaction of the present but, as Hannah Arendt would put it, by fostering and accommodating »natality;«85 or, in other words, by building a world worth living for newcomers.86 Paying heed to the profound meaning of such a genuinely future-oriented alliance among the vulnerable is all the more crucial in the current era, for, as pointed out above, we run the increasing risk of succumbing to the temptation of clinging to the current emergency as an expedient to legitimize a policy that, perpetuating the primacy of the hic et nunc, will only bring about the endless repetition of today’s precarity. Here, precisely, the ethical connotation of time may make itself heard, conveying its full and inevitable intergenerational reach. Indeed, by intimately permeating the bond between generations and, hence, transmitting the significance of an inescapable responsibility towards the future, ethical time immediately interrogates and unmasks the intimate dynamic of inertia constitutive of a technological civilization at its climax: a civilization which, notwithstanding its self-celebrated progress, is revealing itself to be increasingly marked by predatory drive and unable to guarantee a future for the planet and its inhabitants. There is, then, no better indication than ethical time of a deeper and more authentic sense of intergenerational transcendence constitutive of our common 84

D. T HOMPSON, Representing Future Generations. Political Presentism and Democratic Trusteeship, in: Critical Review of International Social and Political Philosophy 13.1 (2010), 17–37. 85 H ANNAH A RENDT , The Human Condition, Chicago and London: University of Chicago Press 1958, 175–177. 86 Cf. M ENGA , L’emergenza del futuro, 93–95.

192

Ferdinando G. Menga

being in the world. This transcendence, however, is not to be understood as the extension and projection of our presence but, on the contrary, as the (virulent) intrusion and (literally) »befalling« of the other into our sphere of proprietorship: an intrusion that limits and admonishes our will to power. Here, the future of the other, the future that comes from the other, is no longer absorbed by the tyranny of the present and its neutralizing practice. Rather, futurity intimately thwarts the present, by delivering an injunction to responsible care and the expectation of a judgment which is always of the other and is always to come. Accordingly, it is not by chance that Levinas points out a »unity between the ethics of this subjection to a commandment ordering responsibility for others and the diachrony of the future in this irreversible subjection.«87 Such a subjection constitutively marked by a preoccupation for the future is in extraordinary continuity with what has hitherto been indicated along the lines of Stiegler’s insights. Levinas’s encapsulation finds its climax in the following: [h]aving to answer for one’s right to be, not by appealing to the abstraction of some anonymous law, some legal entity, but in the fear for other persons. My being-in-the-world or »my place in the sun«, my being-by-myself – have they not been a usurpation of places that belong to others, who have already been oppressed and starved by me, expelled by me into a third world? A repelling, an excluding, an exile, a spoliation, a killing. »My place in the sun,« said Pascal, »here is the beginning and the prototype of the usurpation of the whole earth«. Fear for all the violence and murder my existing – despite its intentional and conscious innocence – can bring about. [...] Fear that comes to me from the face of the others.88

Furthermore, Levinas draws his insights to their conclusion with this remark: »Thus, in this fear for the other man, an unlimited responsibility would be isolated, a responsibility one never gets rid of, which does not cease in the last moment of the neighbor, even if responsibility then amounts only to responding, in the impotent confrontation with the death of the others, ›here I am.‹«89

IV. Conclusion: Paying Attention to the Remote To be sure, the dimension of a responsibility towards the neighbor and the future, that is disclosed in the irreducible intergenerational reach of ethical time and is infinite in its reiterations, is almost as difficult to think and to endure as it is to actualize consistently.90 Nonetheless, this kind of obligation is now more urgent than ever, for what is at stake is the destiny of the planet and the destiny of its future inhabitants. There is no way to escaping from it, unless we want to imitate what mutatis 87

L ÉVINAS, Entre nous, 163. Op. cit., 155. 89 Op. cit., 159–160. 90 Cf. M ENGA , Etica intergenerazionale, esp. 173–175. 88

Taking Care of Those Who Cannot Claim Rights

193

mutandis the »last human beings« do in the Prologue of Nietzsche’s Thus Spoke Zarathustra, as they pretend, in the face of the equally epochal announcement of God’s death, that nothing has really happened, and thereby merely blink.91 And what is even more interesting is that the parallel between our current condition and the one depicted by Nietzsche does not stop here. To the contrary, Zarathustra outlines the environment of the last human beings in a way that shares a more than disquieting similarity with our hypertechnological and globalized present. Zarathustra thus exclaims: »Then the earth has become small, and on it hops the human being, the one who makes everything small. [...] [The last human being] also loves his neighbor and rubs up against him.«92 As we know, however, if there is something that, according to Zarathustra, can redeem and overcome the last human being, this something comes first and foremost through the exercise of learning and practicing a love of the remote and the future. The prophet of the overman puts it as follows: Do I recommend love of the neighbor to you? I would rather advise you flight from your neighbor and love of the farthest! Higher than love of the neighbor is love of the farthest and the future; higher still than love of human beings is love of things and ghosts. The ghost that runs before you, my brother, is more beautiful than you: why do you not give it your flesh and your bones? But you are afraid and run to your neighbor.93

In this dense passus, all fundamental elements of the present investigation become jointly manifest: on the one hand, the powerful seduction of the hic et nunc that enfolds our existence within its temporality and binds us to the semantic of proximity; on the other, the ethical necessity of caring for the future and the remote, that is, for those ghosts who, as such and despite their empirical absence, are nonetheless capable of shaking our present and our conscience.94 Hence, in the current era, if, for the sake of a dignity-laden co-habitation of the planet, we still want something like a future in the sense of a time worth living, then care is due not only to the vulnerable neighbor(s) but also, and more than ever, to those we may call »absences to come.« And as long as a moral conscience capable of perceiving their appeals remains a living force, we need to heed its admonitions and commandments. It may be a small opening for hope, yet, from hereon in, a fundamental one to preserve. For through such an ethical fissure, 91

F RIEDRICH N IETZSCHE, Also sprach Zarathustra. Ein Buch für Alle und Keinen, ed. by Giorgio Colli/Mazzino Montinari, KSA 4, Berlin: Deutscher Taschenbuch Verlag de Gruyter 1999 (henceforth cited as KSA 4), 11–12. 92 KSA 4, 11. 93 KSA 4, 78. 94 On the logic of eschatological spectrality see JACQUES D ERRIDA , Spectres de Marx. L’État de la dette, le travail du deuil et la nouvelle Internationale, Paris: Galilée 1993, 82. The explicit implication of spectrality as regards futurity in the realm of intergenerational ethics is perceptively analyzed by M ATTHIAS F RITSCH, Taking Turns with the Earth. Phenomenology, Deconstruction, and Intergenerational Justice, Stanford CA: Stanford University Press 2018, 52.

194

Ferdinando G. Menga

however reduced and diminutive it may be, the admonition to the pedagogical wisdom claimed by Stiegler has a possibility to reverberate. It is no coincidence that Hannah Arendt once condensed the whole meaning of the intergenerational dimension of education into an exercise of attention and care aimed at a genuine transmission towards posterity. The magnificent close of her essay The Crisis in Education reads as follows: Education is the point at which we decide whether we love the world enough to assume responsibility for it and by the same token save it from that ruin which, except for renewal, except for the coming of the new and young, would be inevitable. And education, too, is where we decide whether we love our children enough not to expel them from our world and leave them to their own devices, nor to strike from their hands their chance of undertaking something new, something unforeseen by us, but to prepare them in advance for the task of renewing a common world.95

There is no better conclusion for this investigation than the one transmitted by the intensity and radicality of a politics of intergenerational attention and care to which this passage refers, and whose message boils down to this: though it may be true that each generation inhabits the world here and now, it is equally true that neither in scope nor significance is this the discrete purview of the living but of a diachronic co-habitation and, therefore, of an invoked responsibility which inevitably reaches us from the future.

95 H ANNAH A RENDT , The Crisis in Education, in: Between Past and Future, New York: Penguin Books 2006, 193.

Place-Holding the Future Legal Ordering and Intergenerational Justice for More-Than-Human Collectives1 Hans Lindahl I. Introduction I am captivated and unsettled by a singular image ... It is the image of a penguin returning to a burrow, to a breeding place, that is no longer there or has been transformed so dramatically that it is no longer habitable. Of houses and swimming pools lining the shore of a harbor: people pulled closer to »nature,« but in a way that makes life for penguins and other harbor dwellers impossible.2

Van Dooren’s remarkable story about the dwindling group of Little Penguins – no more than 60 pairs when he wrote the story in 2010 – returning every year to breed, ever more precariously, on the rocky foreshore of Manly, at the entrance to the harbour of Sydney, speaks to intergenerational justice in various ways. Breeding places are generative places, hence a condition for the possibility of future generations. As such, breeding places are where time, lived time, manifests itself spatially, namely, as emplaced time; conversely, breeding places remind us that place, as lived space, is temporally structured, where natality and death, the resurgence of life and its extinction, embrace the arc spanning past, present, and future. The cited passage goes further than this, however. It also points to an encounter between humans and nonhumans in a way that calls forth issues of justice. If justice, in Ulpianus’ hoary formulation, means to mete out to each their own, Van Dooren tells us that justice means to give to each their own place and their own time, where »each« encompasses both humans and nonhumans. When returning to Manly, Little Penguins lay claim to their breeding place and breeding time, resisting the places and times claimed by humans. These conflicting claims and worlds meet concretely – in the twofold sense of the term »concrete« 1 This is a significantly expanded and modified version of an earlier paper with the same title published as H ANS L INDAHL, Place-Holding the Future. Legal Ordering and Intergenerational Justice for More-Than-Human Collectives, in: Rivista di filosofia del diritto X.2 (2021), 313– 330. I am grateful to Ferdinando G. Menga for his inspiring comments to a preliminary version of this chapter. 2 T HOM VAN D OOREN , Flight Ways. Life and Loss at the Edge of Extinction, New York: Columbia University Press 2014, 66.

196

Hans Lindahl

– in the seafront walls that trammel access to the penguins’ burrows. At issue is the question of a just distribution of places and times, of legal orders that might contribute to distributing places and times in ways that are just, not only today but also for future generations of humans and nonhumans. I propose to view the image of obstinate Little Penguins taking the risk of circumventing the wall by struggling up a flight of stairs, crossing a road, and letting themselves down to their burrows as the image of what is at stake in the question of legal ordering and intergenerational justice for more-than-human collectives.

II. Law in the First-Person Plural As in all storytelling, Van Dooren’s narrative adopts an agential perspective, primarily of the Little Penguins, but sometimes also of the property owners at Manly or of activists making room for the Little Penguins and their burrows against human encroachment. In his story, space becomes place, appearing as a nest, a road, or a swimming pool, and time becomes breeding time, driving time, or swimming time. We must adopt this agential perspective on law if we are to make sense of intergenerational justice for more-than-human collectives. Accordingly, I propose to approach law – more precisely: legal order – as a first-person plural concept. Law, in the reading I will defend, is institutionalized and authoritatively mediated collective action: the IACA-model of law.3 A double caveat before unveiling its main contours. Although I refer hereafter to »law« and »legal order,« I have in mind legal orders that originate, directly or indirectly, in Roman Law, including Australian law. Yet Aboriginal peoples have long resisted Australian settler law, defending an understanding of law that, as Irene Watson compellingly argues, is subtended by an ontology that is in essential ways different from the ontology informing settler law. So, a fuller development of inter-generational justice for more-than-human collectives for the case at hand demands, on the one hand, addressing the injustice perpetrated by the violent colonization of Australia upon humans and nonhumans.4 More fundamentally, 3 For far fuller developments thereof see H ANS L INDAHL , Fault Lines of Globalization. Legal Order and the Politics of A-Legality, Oxford: Oxford University Press 2013; H ANS L INDAHL, Authority and the Globalisation of Inclusion and Exclusion, Cambridge: Cambridge University Press 2018. 4 Manly itself bears testimony to this violence. As noted by Paul Ashton, »Manly was originally inhabited by the Cannalgal and Kayimai people. The first official dispatch in 1788 from Arthur Phillip, governor of the newly founded imperial outpost in New South Wales, noted the ’confidence and manly behaviour’ of the Aboriginal people encountered on the northern side of the entrance to Sydney Habour. Thus Manly derived its name. In 1868, however, their decimation was symbolised by the theatrical importation, reported in the Sydney Morning Herald on 13 March, of a ›troupe‹ of Aborigines to demonstrate ›war games‹ on Manly’s ocean beach for the entertainment of European excursionists.« See I RENE WATSON, Aboriginal Peoples, Colonial-

Place-Holding the Future

197

on the other, the question arises whether, from Aboriginal perspectives, the model of legal order outlined hereafter is itself part and parcel of the injustice visited upon them and other beings as a result of the colonization of Australia, and, most generally, whether any concept of legal order can itself escape interrogation in a theory of intergenerational justice for more-than-human collectives. Focusing hereinafter on the Little Penguins and their yearly journey to breed at Manly, I will hint, here and there, at how their situation is linked to that of Aboriginal peoples driven from their land by the colonization process, reserving a systematic discussion of this interconnection for another opportunity. And I have chosen to explore the possibilities for inter-generational justice for more-than-human collectives from within the horizon of Western thinking about law and legal order as a first step towards clarifying what inter-generational justice could mean in the encounter with alter-legalities such as those defended by Aboriginal peoples. With this double caveat in mind, this chapter argues that legal orders, qua social orders, involve three different but interlocking modes of putative unity. Legal orders are structured as the putative unity of a group perspective, of a system of rules, and of a pragmatic order. Let me unpack each of these three dimensions at a somewhat greater length. First, legal orders, as a species of collective action, involve the putative unity of a group perspective. To borrow Gilbert’s deft distinction, »we together,« rather than »we each,« is the bailiwick of legal orders.5 The canonical formulation, »We the People,« is but one of the multifarious manifestations of this first dimension of the unity of legal orders. »We together« means that a manifold of agents is deemed to act as one, as a group. »Is deemed,« because the »we« of collective agency requires representation. No group, qua unity, can act or speak for itself; someone must speak and act on its behalf, even when those who speak and act are participant agents, a point often forgotten by those who would oppose direct democracy to representative democracy. While the English grammar favours the active verbal form – collective A1 enacts φ , or collective A2 refuses to ρ – , the passive verbal form expresses more accurately the nature of collective agency: collective A1 is deemed to have enacted φ ; collective A2 is deemed to have refused to ρ. Collective acts are acts by individuals or groups of individuals ascribed to a collective as its own acts. Representations of collective unity are representational claims, which is why collective unity is always putative: defeasible and contingent.6 Thus, the »we« of collective agency needs to be disambiguated into »we spokespersons« and »we at stake.« The latter operism and International Law. Raw Law, Milton Park and New York: Routledge 2015; PAUL A SH TON , Manly, in: Dictionary of Sydney (2008), URL : http://dictionaryofsydney.org/entry/manly (visited on 06/10/2022). 5 M ARGARET G ILBERT , On Social Facts, Princeton University Press 1992, 168. 6 Henceforth I use scare quotes to indicate the putative nature of the first-person plural perspective, as expressed in its corresponding indexicals, »we« and »us«, and quasi-indexicals, »our« and »ourselves«.

198

Hans Lindahl

ates as an umbrella term for the various facets of the agential perspective of the collective on whose behalf spokespersons claim to speak and act: teleological – »we for the sake of whom«; relevance – »we who matter«; importance – »we who count«; bodily impact – »we the affected«. Democratic theory adds yet a third modality of the first-person plural perspective: »we author«. I return to the authorial »we« position in due course. A system of rules configures the second dimension of the putative unity of legal orders. The IACA-model of law proposes an account of the systematicity of legal rules in which the unity of a manifold of rules turns on the point of joint action. A system of rules is a transformable default setting of what our joint action is/ought to be about. I refer to »is/ought« because lawmaking is a recursive form of contextual reasoning in which the default setting of joint action is assessed in terms of its point, at the same time that the point of joint action and its default setting are calibrated in terms of their context. The third dimension deserves extended attention. Indeed, the putative unity of a group that governs itself through a system of rules obtains concretion in what I call a pragmatic order – an order of action. From this agent-centred perspective, law is a four-dimensional order that determines who ought to do what, where, and when. A legal order interconnects, hence distinguishes and distributes, certain places, subjects, times, and act-contents. Not nouns but rather verbal nouns – gerunds – are paramount: legal orders order by spacing, timing, subjectifying, and materializing, which means that the elements of legal orders arise, endure, and disappear in and through an ordering process; they do not preexist it. Law is always and only an ordo ordinans, never an ordo ordinatus. In this vein, the IACA-model of law argues that the pragmatic counterpart to what Kelsen calls the »spatial sphere of validity«7 of a legal system and its rules is a legal topography, whereby a collective structures a space as a putative unity of places. Like with space, the temporality of a collective is tethered to the first-person plural perspective of a »we,« hence organized as a past, present, and future in which time can appear as meaningful to »us,« as in references to »our« history. Importantly, legal orders are first-person plural space-times, never the ex-post assemblage of space and time: temporalities are emplaced times; places, temporalized places. Furthermore, legal orders cannot deploy as a spacetime without also configuring subjectivities and act-types, themselves internally connected to a space-time. In brief, legal orders weld these four dimensions into a single order of action, such that certain acts by certain agents are commanded, allowed, or disallowed at certain times and in certain places. Only by abstraction can legal orders be parsed into these four dimensions and their elements, as when the doctrine refers to jurisdiction ratione personae, materiae, loci, and temporis.8 7

H ANS K ELSEN, trans. by Michael Hartney, Oxford: Oxford University Press 1991, 144. Contrary to the view espoused by Jordan Branch and others, not the homogeneous extension of Cartesian space, but rather place, albeit a specific configuration of place as an ought8

Place-Holding the Future

199

As sketched out in this drastically abridged form, the IACA-model of law offers, I hope, a plausible picture of the Australian legal order. There is the group perspective of »we, the Australian collective«; a system of rules that offers a default setting of what »we, Australians,« take our collective to be about, e.g. protecting private property; a pragmatic order that includes, amongst others, properties along the seafront of Manly (where), the owners of which (who) are authorized to build seafront walls (what) at appropriate times (when). It also takes a first step towards clarifying the ambiguous relation legal orders entertain with justice. Theories of justice typically approach justice as a matter of allocating rights and obligations among the members of a collective. To leave it at that is, however, to elide the agential perspective from which the distribution of rights and obligations is correlative to the fourfold distribution of the who, what, where, and when of agency within the putative unity of a pragmatic order. Suum cuique tribuendi, revisiting Ulpian’s formulation, is as much about meting out to each their own places, times, subjectivities, and act-contents as it is about allotting to each their own rights and obligations. The claim that the Australian legal order represents collective unity amounts to the claim that it is a just order by dint of distributing among ourselves what »we« hold in common.

III. Inclusion/Exclusion But the claim to a just distribution of places, times, subjectivities, and act-contents is no more than that: a claim. The »tangible loss of penguin nesting sites is a discursive framing that effaces the penguins’ presence and refuses to recognize any significant claim by them on this place.«9 Van Dooren’s narrative reveals that the struggle of the Little Penguins to return to their burrows is a struggle for justice. Yet, prior to any judgment one might make about the (in)justice of the Australian legal order, how are legal orders structured, such that the penguins’ presence can be legally effaced, and their claim on place and time can go unseen, unheard, and unrecognized?

place, is key to legal ordering in modernity. While cartographic technologies certainly transform our understanding of space, as concerns political power they primarily open up new ways for representing and organizing a space of action, hence a unity of ought-places with an inside and an outside in which the quantitative determination of places is always at the service of their qualitative determination as ought-places. Political power, sovereign or otherwise, cannot be exercised over extension because extension is not a space in which life and action are possible. If one refers to legal space and spatiality, then it should be in the sense of law’s roominess or spaciousness and lack thereof – of action that is literally emplaced, misplaced, or displaced. See J ORDAN B RANCH, The Cartographic State. Maps, Territory and the Origins of Sovereignty, Cambridge: Cambridge University Press 2014. 9 VAN D OOREN , Flight Ways, 77.

200

Hans Lindahl

This question leads directly to the problem of inclusion and exclusion, a central operation of legal orders, qua social orders. Insofar as collective unity emerges through representational practices, to represent a collective is to represent its unity as this – rather than as that. Who claims to represent a collective not only claims that there is a collective but also what joins »us« together, i.e. what »we« hold in common and distribute justly among »ourselves«. Absent such claims, no group perspective, no system of rules, and no pragmatic order is possible.10 As concerns pragmatic orders, representational acts determine what is important and relevant and what not, hence what kinds of places, times, subjectivities, and act-types are included therein, such that other possible combinations of these four dimensions of agency are marginalized as unimportant and irrelevant. »Marginalization« emphasizes that exclusion is always more or less violent. Without representation, there can be no inclusion of »we who matter,« »we who count«, »we the affected«. But so, too, representation operates the exclusion of those who become agents who do not matter, do not count, and are not affected. Both dimensions of representation are equiprimordial. On the one hand, because there is no direct access to an original collective it is condemned to repeat, representation, which has the paradoxical structure of an »original representation,« can be a creative process, opening up novel possibilities for joint action.11 On the other, it is also selective, hence exclusionary. Representation innovates, opening up a range of powers or practical possibilities for collective action, while also closing down – disempowering – other such practical possibilities. No representation of new modes of agency, individual and collective, without the depresentation of other modes of agency and, to a lesser or greater extent, without their misrepresentation. Here, then, is its ambiguous achievement: if the representation of collective unity conditions the possibility of justice, so, too, of injustice. What is de-presented, excluded from collective unity, is rendered legally invisible, even if it can be seen, say as a penguin making its way to a burrow; and it is rendered legally voiceless, even if it can be heard, say as an obstreperous squawk that perturbs the slumbers of seafront property owners. The legal invisibility and voicelessness of the penguins reminds us that perception is an integral dimension of the agential perspective proper to legal ordering, hence that representational practices are corporeal processes.12 The struggle of the Little Penguin colony to 10 Notice that this would also hold for a legal order that claims to represent humanity: there are group perspectives on humanity, but no group perspective of humanity, because no legal order can avoid having to determine what counts as humanity for the purposes of collective action, thereby excluding other possible determinations thereof. 11 JACQUES D ERRIDA , L’écriture et la différence, Paris: Seuil 1967, 341–344. 12 That representational practices are corporeally conditioned means that corporeal make-up determines what can be represented and how. This is one – arguably the decisive – modality of the materiality of representational and, more generally, of intentional practices, as Von Uexküll was keenly aware of when differentiating how species are related to their Umwelts.

Place-Holding the Future

201

return to Manly is not recognized as a demand to make room and time for their breeding because, having been excluded from prior representations of »we who matter,« »we who count,« »we the affected«, their plight belongs to the realm of what is unordered, unbeknown, for collective action, not merely of what is disordered in the mode of illegality. Whereas (dis)ordered agency is legally visible and vocal, unordered agency is legally invisible and voiceless. (In)justice begins with legal (im)perceptibility.13 Collective action becomes more or less conspicuous to its participants in the form of agency that irrupts into a pragmatic order from the domain of the unordered, intimating an-other way of being together. Van Dooren’s narrative shows his readers that the penguins’ breeding places and times are what I want to call xenotopias and xenochronies. They are strange places and times because the penguins lay claim to places and times in the world they inhabit which resist inclusion in the times and places made available by the Australian order. They are both inside this legal order and outside it, as evinced by the title of Van Dooren’s story: urban penguins. When struggling up the flight of stairs, waddling across a road, and slipping down to their burrows, the urban penguins raise a claim to justice that reaches »us« from an-other world inside and outside the world in which agency is ordered, disordered, or unordered according to Australian law. Arriving from the realm of the unordered, their passage from sea to land is what I dub a-legal, questioning both terms of the legal/illegal distinction, as posited by the Australian legal order. In Van Dooren’s narrative, the shoreline appears as what Benjamin calls a threshold.14 When they emerge from the sea, the penguins come to »us« from places and times that are not simply continuous with »our« places and times. Notice that this has nothing to do with the fact that shorelines separate and join Van Dooren draws out the anthropological implication hereof: »[t]he experiential worlds of these animal subjects are invariably difficult, and to some extent impossible, for us to grasp, in part at least because our access must occur through our specifically hominid embodiment.« (VAN D OOREN, Flight Ways, 68). See JAKOB VON U EXKÜLL, A Foray Into the Worlds of Animals and Humans. With a Theory of Meaning, Minneapolis: University of Minnesota Press 2010. 13 A fuller phenomenological development of the bodily relation between (in)justice and (im)perceptibility invites, amongst others, a dialogue with Rancière’s notion of the »distribution of the sensible« in the context of a politics of more-than-human collectives. A key issue here, which points to both convergence and divergence between phenomenology and Rancière’s political philosophy, concerns the perceptual interface of law and politics in terms of what Wehrle calls »the experiencing body as normative insofar as it generates norms through repeated actions and interactions, crystallizing into habits.« See JACQUES R ANCIÈRE, La mésentente. Politique et philosophie, Paris: Galilée 1995; JACQUES R ANCIÈRE, Le partage du sensible. Esthétique et politique, Paris: Fabrique 1998; M AREN W EHRLE, The Normative Body and the Embodiment of Norms. Bridging the Gap Between Phenomenological and Foucauldian Approaches, in: Yearbook for Eastern and Western Philosophy 2 (2017), 323–337. 14 WALTER B ENJAMIN , The Arcades Project, trans. by Howard Eiland/Kevin MacLaughlin, Cambridge, MA: The Belknap Press 1999, 494. 836.

202

Hans Lindahl

water and land. After all, from a legal point of view there is territorial continuity between land and water along the entire Australian coast. The shoreline is a threshold because the penguins’ arrival defeats any move to posit a symmetrical relation – hence reversibility – between places and times on the far side and this side of the shoreline. When I swim out to the sea, I am not going to where the penguins understand themselves as coming from, when they waddle onto the rocky shoreline. Although the passage from sea to land propitiates an encounter between penguins and human inhabitants of Manly, the return of the penguins to their breeding places comes too early for the Australian legal order. This »too early,« this »philopatric« dis-placement, is key, I will now argue, to the problem of legal ordering and intergenerational justice for more-than-human collectives.15

IV. Question and Response Van Dooren notes that »we«, the inhabitants of Manly and, indirectly, »we the Australian collective«, are the addressees of a claim raised by the colony of Little Penguins in their yearly struggles to reach their burrows. A claim, in the sense defended by Van Dooren, points to the structure and dynamic of affectivity. Waldenfels observes that at issue in the »af« of affectivity is »a kind of summons, a call, appeal, as Husserl, Scheler, and Heidegger noted.«16 This summons is not something we initially encounter as »something which we mean, understand, judge, reject, or affirm; rather, it forms the time-place from which we do all this by responding to it.«17 That summons, place, and time are of a piece lends a claim its concrete character, a singularity that eludes the distinction between general rules and particular cases. Interpreted thus, af-fectivity also explains why only ex post, as part of a response, a legal issue divaricates into factual questions, such as the where and the when of an event, and normative questions. Thus, a question – a summons or appeal – arises when the penguins rear themselves to cross the shoreline, a question »we« cannot elude, even when responding by ignoring their arrival. See in the interplay between question and response the basic dynamic of legal ordering. What, then, are the time and place of the question with which the penguins confront »us«? Look, first, at a question’s peculiar temporality. Legal rules are congealed normative expectations; they connect the future to the present, such that »we« can rely on the future in the present, bringing it under control – already possessing it 15 Van Dooren notes that penguins have »a strong »site fidelity««; they are »philopatric.« (VAN D OOREN, Flight Ways, 65. 70). 16 B ERNHARD WALDENFELS , Phenomenology of the Alien. Basic Concepts, Evanston: Northwestern University Press 2011, 26. For a rich account of affectivity, including its perceptual dimensions, see B ERNHARD WALDENFELS, Bruchlinien der Erfahrung. Phänomenologie – Psychoanalyse – Phänomenotechnik, Frankfurt a.M.: Suhrkamp 2002. 17 WALDENFELS , Phenomenology of the Alien, 31.

Place-Holding the Future

203

– by rendering it as the not-yet-present-but-presentable in ways that are familiar to »us«, namely, as legal or illegal. This, exactly, is what the etymology of »anticipate« evokes, namely, to take ahead of time (ante + capere). A real question, by contrast, cannot be anticipated. It is prior to joint action because it catches a group by surprise, evincing practical possibilities for acting together it had not and could not have expected. Thus, a real question is futural by dint of coming too early; it reveals a future that comes in advance of the future legal rules instruct »us« to expect and for which the rule has a response ready to hand. It marks a loss of legal control over what comes, a dispossession of what »we« had anticipated as »our« future. It is importunate in the twofold sense of the term: troublesome and untimely – troublesome because untimely: a-legal in the mode of the a-chronic. A real question disrupts the simple continuity of the temporal arc leading from the past into the present and then on into the future, revealing the future as anterior to the past and the present from which it would follow. By casting new, unexpected, light on the plight of the urban penguins, Van Dooren effectively contrasts these two modalities of the future. This »too early« goes hand in hand with the »dis-placement« of the penguins’ question. Legal rules anticipate the future, establishing when agency ought to happen; they also anticipate where it ought to take place. Conversely, that legal places are ought-places means that they are temporalized in the mode of futurity, namely, as where agency is expected to make its appearance, either as commanded, prohibited, or authorized. The law anticipates the spatial appearance of agency – seeks to appropriate it – in the modes of in-place and out-of-place: legality and illegality. Dis-placement, by contrast, concerns agency that eludes the distribution of ought-places made available by a legal order. When the penguins emerge from the sea, they are neither legally in-place nor out-of-place; they lay claim to an-other place where they ought to arrive – a burrow. Here, too, displacement speaks to losing legal control, a dispossession; an expropriation of what »we« had appropriated as »our« places, which is prior to any legal sense of expropriation and that conditions the latter’s very possibility: a-legal in the mode of the a-topic. The strength of Van Dooren’s story – I dare say his phenomenology of the dynamic of question and answer – consists in secerning these two modes of spatiality. His insistence on the need to story places and times of nonhumans alludes to a further problem easily overlooked in accounts of legal ordering, namely, how »we« at all come to recognize a mode of agency as a claim, as a summons addressed to »us«, and that »we« cannot elude because not responding is also a response. At issue here is attentiveness, the transformation of »our« engagement in and towards the world, such that »we« come to see and hear what had been invisible and voiceless, and to do so by recognizing what reaches »us« as a claim to justice that demands a response.

204

Hans Lindahl

[L]iving well with others can never be about just learning to tell new stories; it must also involve learning new kinds of attentiveness to the stories of others – even if they are unspoken or are told in other-than-human languages.18

In earlier writing, I pointed out that no legal order can sustain itself only as a process of creating and applying rules. Every legal order requires a narrative about its emergence and about its point, a yarn that creates/recreates a group perspective and that allows for time to appear to participants as »our« time; space to appear as »our« space; subjectivities as »our« subjectivities; acts as »our« acts.19 These narratives embed collective action in a world.20 What Van Dooren dubs the »discursive framing« that renders urban penguins legally invisible and voiceless is one such narrative, a narrative that draws on and entrenches the background assumption that the law is the natural appanage of and for humans. As Husserl might have put it, legal narratives generate an orthoaesthesis and an orthokinesthesis.21 Van Dooren offers a counter-narrative, what critical scholars are fond of calling an »intervention,« i.e. an exercise in »directed attention,« that aims to render his reader sensitive to penguins, granting them legal visibility and voice by storying their bumptious agency in a way that is recognizable as a claim to justice addressed to »us« and that could galvanize »us« into action.22 His narrative invites – again a riff on Husserlian idiolect – a heteroaesthesis and a heterokinesthesis. In the twofold sense of the expression, Van Dooren’s story is moving. By drawing our attention to their plight, his narrative interrupts the background assumptions that govern how the reader assigns meaning and purpose to the Australian legal order, revealing the contingency of this order, while also intimating a new horizon for joint action. His story partially de-worlds the Australian legal order, inviting »us« to enworld it differently. That the penguins’ question comes »too early« means that it reaches us from elsewhen; its »dis-placement,« that their question comes from elsewhere. Their 18

VAN D OOREN, Flight Ways, 78. H ANS L INDAHL, Authority and the Globalisation of Inclusion and Exclusion, Cambridge: Cambridge University Press 2018, 68. 20 I draw here on PAUL R ICŒUR , Time and Narrative, trans. by Kathleen McLaughlin/David Pellauer, Chicago: University of Chicago Press 1990. 21 Husserl, ever the philosophical wordsmith, devised the term »kinesthesis« to highlight the bodily connection between sensibility and movement. See E DMUND H USSERL, Ideas Pertaining to a Pure Phenomenology and to a Phenomenological Philosophy. Second Book Studies in the Phenomenology of Constitution, trans. by Richard Rojcewicz/André Schuwer, Dordrecht 1989, 60–94. 22 »Attention is a transformation, a reorganization of [a] field; suddenly something becomes important, something emerges and something else recedes. The criteria of relevance change. So it is not about a mere appearance of what is already there, but about an original appearance, in the course of which things become what they are.« B ERNHARD WALDENFELS, Das leibliche Selbst. Vorlesungen zur Phänomenologie des Leibes, in: (2000), 63. For »directed attention« see B ERNHARD WALDENFELS, Phänomenologie der Aufmerksamkeit, Frankfurt am Main: Suhrkamp 2004, 228–260. 19

Place-Holding the Future

205

claim is, therefore, a claim to a justice that is elsewhere and elsewhen. If, as Van Dooren notes, the penguins are most vulnerable when leaving the sea to breed, so too their claim. It is justice itself, the justice they prefigure, that appears as vulnerable when they cross the shoreline. For although »we« cannot evade responding to their claim to justice, the penguins cannot force how »we« respond. In effect, Van Dooren highlights the vulnerability of justice by describing two different responses that might be given to the penguins’ claim: indifference and recognition. Before considering these responses, what is it for a legal order to respond to a demand for justice? To represent anew. Responsiveness is not a fortuitous feature of representation; representation is responsive representation. A collective’s responsive representations never only »follow« questions, in the twofold sense of coming »after« and »obeying.« Instead, responsive representations are retroactive in that the question to which they respond only becomes manifest in the responses themselves. The dynamic of question and answer unfolds a double asymmetry marked by the precedence of the question and the retroactivity of the response.23 The penguins’ demand for justice confronts the inhabitants of Manly with the question, »Who are we?« Regardless of how its representatives might respond to this question, whether by enacting new rules or by leaving extant rules untouched, they propose a self -representation of the collective: the legal rules spell out what »we«, in hindsight, hold joint action to be about. In responding to the question, »Who are we?«, the Australian collective represents itself by determining anew the »we at stake« for each of the facets noted earlier: the »we« for the sake of whom law is enacted; the »we« that matters; the »we« that counts; the »we« that is affected. Importantly, by representing itself anew, the Australian collective must take up a stance with respect to the penguins. In a word, representations of the Australian collective co-represent the penguins as this or as that, e.g., as irrelevant, unimportant, and beyond the pale of legal concern, or as relevant, important, hence members, in one way or the other, of the »we« for whose sake the legal order is in place. In representing itself anew, where »anew« hovers somewhere between pure repetition and pure innovation, the Australian collective distributes anew places, times, subjectivities, and act-contents. In responding to the penguins’ claim, representational claims posit what they deem to be a just legal order.

V. Recognition Van Dooren’s narrative contrasts, as mentioned above, the current indifference of the seafront owners to the politics of recognition they and the Australian collec23 See WALDENFELS , Phenomenology of the Alien, 21–42, for a compact analysis of these two dimensions of a »response logic.«

206

Hans Lindahl

tive could engage in. Citing Val Plumwood, he endorses what might be called recognitive representation: »Recognizing earth others as fellow agents and narrative subjects is crucial for all ethical, collaborative, communicative and mutualistic projects.«24 Yet, under what conditions is the recognition of the penguins at all possible? Van Dooren argues that the possibility of recognizing the claims of the Manly colony of penguins ultimately rests on semiosis as constitutive for all life, human and nonhuman. He draws, to this effect, on Eduardo Kohn’s appropriation of Perceian semiotics. For Peirce, a sign is »something [that] ... stands to somebody, for something in some respect or capacity.«25 While acknowledging that Peirce differentiates signs and semiosis in ways that also differentiate life-forms, Kohn points to the feature shared by all life-forms: »aboutness« – representation, intention, and purpose in their most basic forms – emerges wherever there is life; the biological world is constituted by the ways in which myriad beings – human and nonhuman – perceive and represent their surroundings. Significance, then, is not the exclusive province of humans.26

This insight about semiosis, which stands close to phenomenological accounts of intentionality in general, and representation in particular, is crucial for our topic on at least four counts. First, it explains why adverting to penguins as raising a claim to places and times of their own is not a category mistake, as anthropocentric theories of collective action are wont to assume. Second, if, as I have argued, collectives are confronted with the question, »What is/ought our joint action to be about?«, the generality of the »aboutness« question, that is, the question about the point of agency, allows for modes of legal recognition of, in principle, any living being. Third, »aboutness« explains why being in and towards a world is not a human prerogative, hence why animals can both enworld and face the catastrophic loss of their world. A fourth implication of this enlarged interpretation of representation, the discussion of which I reserve for another occasion, is that responsiveness is common to all life-forms. Be it as it may, this much is clear: homo respondens is but one of the modalizations of responsiveness. What does it mean to recognize the penguins? I gloss Van Dooren as suggesting that it involves a modality of collective self-affirmation, i.e., including the penguins as part of »us.« In this vein, to recognize the claim of the penguins means to acknowledge an obligation towards them, an obligation to which »we« 24 VAL P LUMWOOD , Environmental Culture. The Ecological Crisis of Reason, London and New York: Routledge 2002, 175. 25 C HARLES S ANDERS P EIRCE , Collected Papers, Cambridge, MA: Harvard University Press 1931–35, CP 2.228, cited by E DUARDO KOHN, How Dogs Dream. Amazonian Natures and the Politics of Transspecies Engagement, in: American Ethnologist 34.1 (2007), 3–24, 6. 26 Op. cit., 5; see also E DUARDO K OHN , How Forests Think. Toward an Anthropology Beyond the Human, Berkeley: University of California Press 2013, esp. 27–68.

Place-Holding the Future

207

respond by granting them a right to a place and time of their own – hence also legal subjectivity and authorized act-contents – in our collective.27 In a word, to affirm that they belong to »us« is to identify them as belonging to the »we at stake«, finding ways to safeguard their breeding places and times.28 This entails a novel collective self -recognition: a recognition in which securing the flourishing of penguins is integral to who »we« are/ought to be about. Succinctly, to recognize penguins as belonging to the »we at stake« is to recognize ourselves in the mode of existence of penguins. To this extent, »we« recognize ourselves as penguins. Thus, legal recognition that they matter and count not only to »us« but also as part of »us« is a transformative collective self-affirmation that begins with the penguins, not with the self: the penguins transform »us«. Collective passion, manifest in the accusative mode of an »us«, precedes and constitutes the nominative pronoun »we«, a »we« that becomes such through an affirmation of collective action in which penguins come to have a place and time of their own – a radical 27 The logic of responsive af-fectivity, as outlined at the outset of § IV, is at work here: the obligation to which the Australian collective would respond by granting a legal right to the penguins, retroactively frames the obligation as a legal obligation, that is, an obligation structured in terms of who ought to do what, where, and when, such that their claim can be heard, seen, and recognized as a claim addressed to a a legal order. But the penguins’ claim precedes a response in that it is more and other than its framing as a legal obligation: a hiatus opens up between a legal right and what »we« owe to the penguins. This in-between ensures that legal responses, in the mode of the recognition of rights – including »animal rights« or even the »rights of nature« – do not and cannot exhaust a responsive ethics of (intergenerational) justice for more-than-human collectives. This is, of course, a Levinasian motief, even if, as has often been pointed out, the »face,« in Levinas’s ethics, is a human face. Nevertheless, as Barbara Davy argues in a perceptive article, Levinas’s work offers various cues for going beyond his restriction of ethics to an inter-human affair. See BARBARA JANE DAVY, An Other Face of Ethics in Levinas, in: Ethics and the Environment 12 (2007), 39–65. 28 I am tempted to represent the building of the seawall by well-heeled landowners as the eviction of the penguin colony from its breeding places, thereby linking it to groups of humans evicted from their homes and lands through gentrification or conquest – Aboriginal peoples as a result of violent colonziation. Metaphor works, here, as a privileged mode of articulating what Laclau and Mouffe call a »chain of equivalence,« namely, a counter-representation of who »we« are that bands together hitherto heterogeneous agents into a group, in this case human and nonhuman. In Aristotle’s words, »a good metaphor implies an intuitive perception of the similarity in dissimilars.« Notice, moreover, how the metaphorical use of the term »eviction« entwines ontology and normativity: the legal subjectification of penguins introduces them into a discourse where they acquire a certain mode of being to which normative consequences are attached. Only ex post, when metaphor has done its work, and the similarity of the dissimilar has become a matter of course, do »is« and »ought« go their separate ways. See A RISTOTLE, Poetics, in: Jonathan Barnes (ed.), The Complete Works of Aristotle, Princeton: Princeton University Press 1985, 1459a8, cited by PAUL R ICŒUR, The Rule of Metaphor. The Creation of Meaning in Language, trans. by Robert Czerny, London: Routledge 2003; E RNESTO L A CLAU /C HANTAL M OUFFE , Hegemony and Socialist Strategy. Towards a Radical Democratic Politics, London: Verso 1985, 30.

208

Hans Lindahl

»passivity of our activity,« as Merleau-Ponty puts it in his late work.29 Thus, a primordial de-centration of the self is constitutive for collective self-affirmation, not merely in the negative sense that the self cannot overcome its de-centration but rather that, paradoxically, the collective self emerges as a response to a summons, a solicitation, by the Other. It is not enough to assert that selfhood is a relational concept; the self is adventitious, the outcome of a heterogenesis, and, in this strong sense, dependent: heteronomy is inscribed in autonomy. It is thus that a phenomenological account of legal ordering interprets existence as »becoming with.«30 It is tempting to assume that justice is done to the penguins’ claim when they are granted a place and time of their own within the Australian legal order. But would these really be their own place and time? Have »we« not already taken possession of the penguins by recognizing that they »belong« to »us«? Has not a certain assimilation already come about – an unjust appropriation of place – when referring to the Manly colony of penguins? Here again, Van Dooren is critically vigilant in at least two ways about too quickly equating recognition with inclusion. The first harks back to the shoreline as a threshold, which means that there is no simple reversibility between their places and times and »ours«. While human understandings of the area of Manly tend to focus on the larger city of Sydney, which spreads out from the coastline, penguins surely inhabit an entirely different geography and possess an entirely different sense of what this place means and of the way in which it fits into and relates to the places around it.31

Their breeding place and time never simply become our place and time, even if »we« recognize them as members in full standing of »our« collective. The encounter between the penguins and the human inhabitants of Manly speaks neither to a single overarching world that joins them together, nor to a simple plurality of immiscible worlds that separate them, but rather to the entwinement of what Husserl calls a home world (Heimwelt) and a strange world (Fremdwelt).32 This entwinement allows for crossovers, for enjambments, but not for the unification of the two worlds into one single and seamless world: a world with an inside but no outside, a world in which all agency is, literally, »intra-action.« As Ferdinando G. Menga points out in his study on Heidegger’s early philosophy, »[g]iven that 29 M AURICE M ERLEAU -P ONTY , Le visible et l’invisible, Paris: Éditions Gallimard 1964, 270. Hence, constituent passivity is »older,« more primitive, than constituent activity or power, which constitutional theory posits as the origin of a politico-legal collective, »Our« origin lies elsewhere than in »ourselves«. 30 See D ONNA H ARAWAY , When Species Meet, Minneapolis and London: University of Minnesota Press 2008, 244; see also V INCIENE D ESPRET, The Body We Care For. Figures of Anthropo-zoo-genesis, in: Body and Society 10.2 (2004), 111–134, passim. 31 VAN D OOREN , Flight Ways, 79. 32 E DMUND H USSERL , Phänomenologie der Intersubjektivität. Heimwelt, die Fremde Welt und »die« Welt, vol. XV, Supplement XI, HuA, The Hague: Nijhoff 1973, 214–218.

Place-Holding the Future

209

mediation by orders of meaning is constitutive for every experience of the world, [such experience] does not yield the world as such, but rather ... an Umwelt.«33 Entwined Umwelts are habitable for humans and nonhumans, not »the« world, in the singular. The agency of the penguins is liminal, and so also »our« response: On the one hand, unless the demand for justice of the penguins reached »us« from a world elsewhere and elsewhen, we could not respond to their demand, and any attempt to render them their due would be nugatory and superfluous. On the other, that their demand reaches us from a world elsewhere and elsewhen means that the shoreline operates as a hiatus, an in-between joining and separating the question raised by the penguins and the question to which the Australian collective responds: Who are we? As a result, a non-relation is ensconced in every relation that emerges through the dynamic of question and response. No poultice can fully close this gap; no response-ability without response-inability.34 The powerlessness inscribed in the affirmation of power evoked and celebrated by the notion of response-ability comes to the fore in the second of the ways in which Van Dooren warns against too quickly equating recognition with inclusion. Alluding to Schmitt’s interpretation of nomos as a taking (nehmen), he points out that the penguin colony was already »here« much earlier than when the settler colony took possession of the land – a Landnahme, in Schmitt’s sense. And so, too, the Aboriginal peoples that inhabited the area prior to colonization.35 Assigning the penguins a place and time of their own in »our« collective is also, even if not only, a form of misrecognition and injustice – because it is an act of legal recognition. As Van Dooren puts it, »[w]ho are we to welcome penguins to this shoreline as guests?«36 I would add: who are »we« to welcome them as members of »our« collective? Such acts of misrecognition, he points out, are analogous to the misrecognition and injustice done to indigenous peoples and to immigrants when a settler collective recognizes them by including them as one of »us« or welcoming them as guests. This is not to say that responding by ignoring the penguins’ claim or by making room and time for them in »our« order have the same ethical valence. What I want to say is that the responsive ethics animating recognition of what is due 33 F ERDINANDO G. M ENGA , Ausdruck, Mitwelt, Ordnung. Zur Ursprünglichkeit einer Dimension des Politischen im Anschluss an die Philosophie des frühen Heidegger, Paderborn: Wilhelm Fink Verlag 2018, 103. 34 For an analysis of response-ability, see D ONNA J EANNE H ARAWAY , Staying With the Trouble. Making Kin in the Chthulucene, Durham: Duke University Press 2016. 35 C ARL S CHMITT , Appropriation/Distribution/Production. Toward a Proper Formulation of Basic Questions of any Social and Economic Order (1953), in: Telos 1993.95 (1993), 52–64. The first know settler painting of Manly is titled the »Taking of Colbee (Colebee) and Benalon (Bennelong), Manly Cove, 25 November 1789,« and seems to depict settlers in a boat firing on Aboriginals congregated on the beach. See PAUL A SHTON, Manly, in: Dictionary of Sydney (2008), URL: http://dictionaryofsydney.org/entry/manly (visited on 06/10/2022). 36 VAN D OOREN , Flight Ways, 78.

210

Hans Lindahl

to the penguins is not other than »us«, as never fully appropriable, never fully »constructible,« within the world »we« inhabit. It is thus that what I have called asymmetrical recognition or restrained collective self-assertion in earlier writings might contribute to understanding what justice could mean for more-than-human collectives. If the recognition of the Other as one of »us« is the core of collective self-affirmation, the recognition of the Other as other than »us« is what collective self-restraint is about: the commitment to defer the claim that justice has been done. Thus, the »more« of more-than-human collectives is not merely shorthand for a collective composed of humans and nonhumans. It concerns the excessiveness of the penguins’ demand for justice, and this in a twofold sense. For the one, their claim evokes what might be called a recognitive excess, i.e., what cannot be said and done within a given legal ordering of such a collective, however inclusive: the unordered and unorderable for a given legal order. For the other, and more radically, the precedence of the question calls forth what might be called an excess beyond recognition. In effect, the retroactivity of a response has already done its work when their appeal is represented as a demand for recognition. Collective self-restraint can only mean here the commitment to defer the claim that justice is rendered through acts of collective recognition, that is, that justice exceeds what the law can say and do: the unordered and unorderable for law, insofar as law responds by (mis)recognizing the Other. Justice beyond recognition is, I want to suggest, the realm of care. Restrained collective self-affirmation, in my gloss, is the ethical commitment to realizing justice by deferring the arrival of justice, that is, by holding open a place for a justice to come – a-venir.

VI. More-Than-Human Collectives to Come – Or Not Intergenerational justice refers to a justice to come. Whereas the majority of contributions to this theme limit their enquiry to future generations of human beings, the story about the penguins returning to breed every year in Manly reminds us that engendering, natality, concerns all sentient beings. Intergenerational justice is a more-than-human affair. Van Dooren renders this very well in the closing sentences of his narrative, in a way that ties together summons, space, and time: [f]or many creatures, for many populations and species, it is the loss of an important place that leads inexorably to their end. In this context, perhaps the very least we can do is to begin to learn a new sensitivity to the storying and place-making practices of these nonhuman others, a sensitivity that just might provide an avenue to more sustaining possibilities of life, across species and generations.37

In what way might the penguins’ struggle for justice be understood as a struggle for intergenerational justice to which »we« must respond in one way or another? 37

Op. cit., 84–85.

Place-Holding the Future

211

More pointedly: in what way might the »inter« of intergenerationality shed light on why justice for more-than-human collectives is to come – or not? I noted earlier that the shoreline at Manly is a threshold, an in-between, that joins and separates the claim raised by the penguins and »our« possible responses. This in-between is the fundamental structure and dynamic of the »inter« governing the possibility of intergenerational justice. How can a shoreline work in this way? The penguins’ claim, that arises when they cross the shoreline, manifests itself as a demand for breeding places and times of their own. The penguins struggle for places where life can begin anew, hence for the very possibility of a future. The risks they take in circumventing the seawalls – car traffic and predators – attest to their struggle for a future beyond their own death. In their own way, they respond to a summons of the future when crossing the shoreline, on their way to their burrows. Thus, the penguins place-hold the future, holding open a place to which it can come. It is the future itself that summons, namely, as the call to let natality, the resurgence of life, take place. Natality, as Menga admirably points out, indicates that every collective structure, to the extent that it wants to live authentically its own time, can do so only if it lets the future arrive – the future of Others on whom it depends, and to whose appeals, requests and even entreaties it can never stop responding.38

Those Others include, I submit, penguins and all life-forms. Pointedly, intergenerational justice is a more-than-human affair because natality is a more-thanhuman concern – and so, too, death and extinction. In this vein, »we« can respond to their claim by enhancing modes of protection already availed for the Little Penguins, say, by expropriating the properties on and behind the seafront of Manly, tearing down the seawalls, and creating a wide no-go zone for human beings, such that the penguins can breed undisturbed.39 Notice how the two modalities of time and place mentioned in § 4 are effectual, once again, in this characterization of what intergenerational justice could mean. If the penguins’ appeal reaches us from an-other time and an-other place than what legal rules have prepared »us« to expect, »our« response, whether it ignores or recognizes their appeal, anticipates the where and the when of future generations, human and nonhuman. If, when crossing the shoreline, the penguins come from elsewhere and elsewhen, from a future and a place that elude »our« control, »our« legal response cannot but anticipate – literally domesticate – the 38 F ERDINANDO G. M ENGA , Etica intergenerazionale, Prima edizione, Brescia: Morcelliana 2021, 220–221. 39 A troubling question arises, which requires further analysis on another occasion: are there hard and fast criteria to distinguish the expropriation of seafront properties to make room for the penguin colony at Manly from, say, the eviction of indigenous peoples from lands they inhabited to make room for an endangered species or ecosystem? Can either of the two fully disengage itself from the dynamic of a Landnahme?

212

Hans Lindahl

future by giving it a home within »our« order: protected breeding places for the Manly colony of penguins, now and into the future. Once again, therefore, a double asymmetry is at work in the encounter. The penguins come to »us« from an elsewhere and elsewhen in excess of any response »we« could offer; »we« go towards the penguins, »we« exceed – transcend – ourselves, in a renewed, more or less transformed, representation of who »we« are that, perhaps, makes place and time for the penguins as part of »us«. This double asymmetry is exactly why the shoreline is in-between, an »inter« that operates as a threshold that joins and separates a future and places »we« cannot control, and the future and places »we« cannot but anticipate, and over which »we« seek to exercise a measure of control, if legal ordering is at all to respond to their appeal. I italicized the word »perhaps« in the foregoing paragraph to draw attention to the radical vulnerability of a justice to come for future generations, human and nonhuman. Representation, as noted earlier, requires disaggregating the firstperson plural perspective into two »we«-positions: »we spokespersons« and »we at stake«. If representation renders present what is absent, democratic theory mitigates the vulnerability of what is absent by institutionalizing the possibility of counter-representations of collective unity by those who the legal order de-presents and/or misrepresents. Accordingly, democratic theory introduces a third »we«-position into the first-person plural perspective: »we authors«, that is, »we« who authorize – or disavow – representational claims made on »our« behalf. Val Plumwood indirectly appeals to this authorial »we«-position when asserting that a politically radical program for more-than-human collectives »requires a philosophy and economy of mutual recognition.«40 Putting aside the difficulties encountered by theories of mutual recognition, which I have hinted at hitherto, and discussed elsewhere,41 this much is certain: the authorial position required by mutual recognition is, by definition, not available to future generations, human or nonhuman. Future generations are necessarily absent, not only because they must be represented, but because they can neither authorize nor disavow representational claims made on their behalf. Their appeal reaches »us« when today’s penguins cross the shoreline at Manly; but they and a future that resists extinction are radically dependent on our responses. If recognition is to do normative work in a theory of intergenerational justice, it must be as asymmetrical recognition. Intergenerational (in)justice: the shoreline at Manly prefigures a justice to come for more-than-human collectives – or not. 40 VAL P LUMWOOD , Shadow Places and the Politics of Dwelling, in: Australian Humanities Review 44 (2008), 139–150, 148 (italics added). 41 I argue for a non-totalizing account of recognition as asymmetrical recognition in L IN DAHL , Authority and the Globalisation of Inclusion and Exclusion, and explore its implications for Aboriginal resistance to Australian settler law in H ANS L INDAHL, Intentionality, Representation, Recognition. Ontology, Episteme, in: Thomas Bedorf/Steffen Herrmann (ed.), Abingdon: Routledge 2019, 256–276.

Standpunktbezogene Zukunftsverantwortung Zukunftsethik jenseits von neutraler Technikfolgenabschätzung und akademisch-konzeptionellen Metadiskursen Friedhelm Meier Diskussionen um Zukunftsverantwortung im akademischen Setting erwecken schnell den Eindruck: Hier wird ein Metadiskurs ohne gesellschaftliche Relevanz geführt. Denn Erörterungen von anthropologischen Implikationen der Zukunftsperspektivierung, Diskussionen zum Non-Identity-Problem oder Fragen zu Konzeptionen des intergenerationalen Konnexes scheinen die aktuellen Zukunftsherausforderungen unserer Gesellschaft nicht zu treffen, sondern darüber hinweg zu sprechen. Lösungsansätze zur Klimafrage oder Bewertung von zukunftsträchtigen Technologien oder Techniken scheinen hier weitab. Demgegenüber genießt die Technikfolgenabschätzung (TA) in der Gesellschaft eine bodenständigere und lösungsorientiertere Perspektive, wenn es um Zukunftsdiskurse geht. In einem Artikel über das Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT), stellt die Frankfurter Allgemeine Zeitung fest: Die Karlsruher Forscher jedenfalls beobachten eine zunehmende Nachfrage nach soziotechnischen Zukünften und eine damit einhergehende Expansion von immer weiter reichenden Zukunftsdiskursen in unserer technisierten Gesellschaft. Dabei gibt es einen immensen Bedarf an Antworten auf die Frage, was kommen wird. Fast etwas verzagt angesichts dieser Sehnsucht nach Zukunftsgewissheit stellen die Karlsruher Forscher fest, dass sich diese Fragen insbesondere an die TA richten werden.1

So unterschiedlich auch die Wahrnehmung von beiden akademischen Disziplinen ist, klar getrennt werden können sie nicht voneinander. Denn beide Ansätze haben i. den gleichen Gegenstand, wenngleich sie ihn unterschiedlich akzentuieren. Der gemeinsame Gegenstand ist allerdings weder einfach bestimmte zukunftsträchtige Technologien oder Techniken, noch ist der Gegenstand einfach Zukunft. Vielmehr ist der Gegenstand zukunftsträchtiges Handeln vor dem Hintergrund technologischer Entwicklungen und technischer Möglichkeiten. Dabei 1

G ERALD WAGNER, Zukunft im Plural, in: FAZ (13. Jan. 2017), URL: https://www.faz. net/aktuell/wissen/geist- soziales/die- prognose- von- technikfolgen- ist- so- gefragt- wie- nie14609225.html (besucht am 25. 11. 2022).

214

Friedhelm Meier

setzen beide Disziplinen voraus, dass Handeln per se zukunftsorientiert ist.2 Darüber hinaus werden beide Disziplinen ii. etwa seit den 1960er Jahren betrieben und greifen auf Science and Technology Studies, soziologische, psychologische und ethische Erkenntnisse zurück. 3 Schließlich gibt es iii. selbstredend auch Ethikerinnen und Ethiker, die zukunftsethische (Meta-)Fragestellungen adressieren und sich zugleich anwendungsorientierten Begutachtungen von Technologien wie etwa im Health Technology Assessment widmen. Dass beide Disziplinen in diesem Artikel idealtypologisch unterschieden werden, hat aber dennoch berechtigte Gründe: Während a) klassische Zukunftsethik stets an Universitäten beheimatet war, wurde TA gerade an nicht-universitären Institutionen betrieben, auch wenn dies in Deutschland heute anders ist.4 Während b) die TA aus der Politikberatung heraus entstanden ist, hat sich die Zukunftsethik eher am akademischen Diskurs orientiert.5 Während c) die klassische Zukunftsethik eher die konzeptionelle Ebene reflektiert hat, nämlich ob und wie Verantwortung für künftige Generationen gedacht werden kann und soll, hat die TA eher die operationale Ebene und somit Anwendungsfragen adressiert. Während d) Zukunftsethik tendenziell normativ argumentiert, meint die TA tendenziell, Zukunft neutral perspektivieren zu können bzw. zu müssen. Es ist insbesondere das letztgenannte Unterscheidungskriterium, das wir im folgenden Artikel diskutieren möchten. Denn seit einigen Jahren setzt eine »nor-

2 Der Gang zum Bäcker, damit ich Brötchen am Morgen auf dem Frühstückstisch habe, ist schon sprachlich als Finalsatz gekennzeichnet und zeigt: Die Intention meines Handelns zielt auf eine Zukunft. Diese Zukunft mag eine sehr nahe, beinahe unmittelbare Zukunft sein. Doch die Zukunftsorientierung ist unauslöschlich im Handeln mitgesetzt. Handlungen, die allein auf die Gegenwart zielen, sind eine Chimäre. Auch das kurzfristigste Ergebnis ist zeitlich immer schon von der Intention, ein bestimmtes Ergebnis damit zu erzielen, diachron getrennt. Ggf. könnte man gegen die Zukunftsträchtigkeit von Handlungen selbstzweckorientierte Praktiken wie Meditationen oder bestimmten Arten des Musizierens einwenden, welche ja gerade nicht einer Mittel-Zweck-Bestimmung zu folgen meinen, sondern auf das Aufgehen in der Gegenwart zielen. Da dies aber in der Regel auch mit Effekten oder – je nach Gewichtung – Nebeneffekten wie Ausgeglichen-Sein, Aufmerksamkeit, Selbstfindung vonstattengeht und nicht vom Kontext des übrigen Lebens getrennt werden kann (man muss sich terminlich binden, um den Alltag zu gestalten) ist auch in solchen Praktiken die Zukunftsorientierung m.E. mitgesetzt. 3 Vgl. zum Ursprung der Zukunftsethik E LKE S EEFRIED , Steering the Future. The Emergence of »Western« Futures Research and Its Production of Expertise, 1950s to Early 1970s, in: European Journal of Futures Research 2 (2014), URL: https://doi.org/10.1007/s40309013-0029-y. Vgl. zum Ursprung der TA etwa WALTER P EISSL/R EINHARD G RÜNWALD, Parlamentarische TA, in: Stefan Böschen u. a. (Hg.), Technikfolgenabschätzung. Handbuch für Wissenschaft und Praxis, Baden-Baden: Nomos 2021, 133–143, 133. 4 S TEFAN B ÖSCHEN u. a., Technikfolgenabschätzung. Neue Zeiten, neue Aufgaben, in: Stefan Böschen u. a. (Hg.), Technikfolgenabschätzung. Handbuch für Wissenschaft und Praxis, Baden-Baden: Nomos 2021, 15–40, 17. 5 Vgl. P EISSL /G RÜNWALD , Parlamentarische TA, 133.

Standpunktbezogene Zukunftsverantwortung

215

mative Wende«6 in der TA ein. Ging man noch Anfang der 2000er Jahre fest davon aus, dass TA dem Kriterium der Neutralität entspreche, so hat man sich zumindest teilweise von dieser Position verabschiedet.7 Dass aber TA die Implikationen des Kriteriums der Neutralität für das eigene Arbeiten hinterfragt und durchaus offen diskutiert, ob nicht das Kriterium gänzlich fallen gelassen werden muss, kann von ethischer Seite nur begrüßt werden. Dieser Artikel will markieren, dass eine neutrale Zukunftsperspektivierung eine Chimäre ist, da Wert- und Zielvorstellungen immer in die Zukunftsperspektivierung einfließen und Zukunftsperspektivierung für sich betrachtet eine verantwortungsvolle Aufgabe ist. Dies gilt umso mehr, wenn Zukunft nicht individualethisch, sondern sozialethisch perspektiviert wird, wie es sowohl bei der klassischen Zukunftsethik als auch bei der TA der Fall ist. Hierzu werden wir zunächst herleiten, wie TA Zukunftsperspektivierung »neutral« gestaltet hat und im Anschluss an Helge Torgersen drei Arten der Neutralität darstellen (I.1.). Da sich die »normative Wende« in der TA auch auf die Zukunftsperspektivierung ausgewirkt hat, sollen hier drei Perspektivierungen skizziert werden (I.2.), um anschließend kritische Anfragen an den neutralen Standpunkt der TA zu stellen, wie ihn sich Torgersen und andere vorstellen (I.3.). Anschließend wenden wir uns der klassischen Zukunftsethik zu (II.). Hier werden wir im Anschluss an Hans Jonas’ sehen, dass den konzeptionellen Stärken hinsichtlich des intergenerationalen Konnexes operationale Schwächen korrespondieren. Letztere bestehen insbesondere darin, dass lediglich extreme Handlungsalternativen betrachtet werden, welche zur Beurteilung von Techniken kaum herangezogen werden können. Die operationalen Stärken der TA sowie die konzeptionellen Stärken der klassischen Zukunftsethik sollen schließlich (III.) im Ansatz einer standpunktbezogenen Zukunftsverantwortung so zusammengebunden werden, dass die jeweiligen Schwächen kompensiert werden. Ein solcher Ansatz hätte einen nachhaltigen Ertrag für die Beurteilung von Technik innerhalb der Gesellschaft.

6 Vgl. S TEFAN S TRAUSS , Die normative Wende in der TA. Eine Prozess-Perspektive auf Normativität der Technikfolgenabschätzung, in: Linda Nierlich/Helge Torgersen (Hg.), Die neutrale Normativität der Technikfolgenabschätzung. Konzeptionelle Auseinandersetzung und praktischer Umgang, Baden-Baden: Nomos 2022, 77–96. 7 Kritisch äußerten sich schon C ARL F. G ETHMANN /T HORSTEN S ANDER , Rechtfertigungsdiskurse, in: Armin Grunwald/Stephan Saupe (Hg.), Ethik in der Technikgestaltung. Praktische Relevanz und Legitimation, Berlin: Springer 1999, 117–151.

216

Friedhelm Meier

I. Technikfolgenabschätzung 1. Neutrale Zukunftsperspektivierung Die TA versteht sich als »eine durch reflexiven Erkenntnisgewinn motivierte Forschungspraxis zur wissenschaftlichen Analyse von dynamischen und komplexen sozio-technischen Konstellationen in Politik beratender Absicht.«8 Als wissenschaftliche Politikberatung gibt es die TA seit den 1960er. Schon von Anfang an war die TA nahe an den demokratisch-politischen Entscheidungsorganen in den USA, später in Deutschland und auch der Europäischen Union angesiedelt. Neben der politikberatenden Funktion kommt der TA durch einen »partizipativen Schwenk«9 auch die Funktion der Mitinitiierung von öffentlichen Diskursen und letztlich auch die Funktion der Technikgestaltung zu.10 Maßgeblich in all diesen Funktionen ist nach dem Selbstverständnis der TA die Unterscheidung von Forschen und Entscheiden.11 Während TA lediglich wissenschaftliche Forschungsergebnisse vorstellt, liegt die Entscheidungshoheit bei den zuständigen politischen Stellen. Von Anfang an waren drei Kriterien für die TA entscheidend, nämlich das Kriterium der Rationalität von Argumenten, das Kriterium der Vollständigkeit von Argumenten sowie das Kriterium der Neutralität.12 Uns geht es hier besonders um das Kriterium der Neutralität. Dass TA dem Kriterium der Neutralität in irgendeiner Weise entsprechen soll, meint nicht, dass TA keiner Grundnorm folge. Als politikberatende Disziplin hat sich TA nämlich stets am Gemeinwohl orien-

8

B ÖSCHEN u. a., Technikfolgenabschätzung, 23. L INDA N IERLICH/H ELGE T ORGERSEN, Neutral normativ? Debatte und aktuelle Herausforderungen für die Technikfolgenabschätzung – eine Einleitung, in: Linda Nierlich/Helge Torgersen (Hg.), Die neutrale Normativität der Technikfolgenabschätzung. Konzeptionelle Auseinandersetzung und praktischer Umgang, Baden-Banden: Nomos 2020, 7–19, 7. 10 Vgl. A RMIN G RUNWALD , Versteckte Normativität in der Technikfolgenabschätzung? Ein Essay »nach innen«, in: Linda Nierlich/Helge Torgersen (Hg.), Die neutrale Normativität der Technikfolgenabschätzung. Konzeptionelle Auseinandersetzung und praktischer Umgang, Baden-Baden: Nomos 2020, 21–39, 22–24. 11 Vgl. G OTTHARD B ECHMANN , Die Beschreibung der Zukunft als Chance oder als Risiko?, in: Technikfolgenabschätzung 16.1 (2007), 34–44, 37–38. 12 Vgl. A LAN L. P ORTER /F REDERICK A. ROSSINI /S TANLEY R. C ARPENTER (Hg.), A Guidebook for Technology Assessment and Impact Analysis, New York: North Holland 1980. Selbstredend haben diese Kriterien in den vergangenen 60 Jahren eine Bedeutungsverschiebung bzw. -modifizierung erfahren. So verschob sich etwa die Bedeutung des Rationalitätskriteriums, als in den 1980er Jahren an Bewertungsprozessen von Techniken Bürgerinnen und Bürger beteiligt wurden. Die Möglichkeit, dass seitdem Laien gegenüber Experten ihre Meinungen und somit auch ihr Unbehagen in Bezug auf bestimmte Techniken zu Wort bringen können, verändert damit auch den Status der einbezogenen Argumente. Demnach ist es rational, nicht-rationale Aspekte zu berücksichtigen. 9

Standpunktbezogene Zukunftsverantwortung

217

tiert.13 Da sich aber die Aufgaben von TA im Laufe der Zeit geändert haben, hat sich auch das Verständnis der Neutralität gewandelt. Zudem hat das veränderte politische Klima in den letzten Jahren dazu geführt, dass Vertreter der TA vor dem Hintergrund des Populismus normative Implikationen der TA stärker reflektiert haben.14 Derzeit scheint es zumindest zwei Positionen hinsichtlich der Neutralität der TA zu geben. Die einen weisen das Kriterium der Neutralität zurück.15 Eine andere Gruppe, welche eher Vertreter der TA-Community umfasst, hält an diesem Kriterium fest und versucht zu erörtern, inwiefern angesichts normativer Implikationen TA neutral bleiben kann.16 Helge Torgersen, welcher der letztgenannt Gruppe angehört, ist dabei der Ansicht, dass TA dem Kriterium der Neutralität genau dann entsprechen kann, wenn sie verstärkt um normativ-ethische Reflexionen bemüht ist. Dazu sei es nötig das Kriterium der Neutralität zu desambiguieren. Da Neutralität mehrdeutig ist, kann in der Verwendung des Begriffs ein Alltagsmythos im Sinne von Roland Barthes evoziert werden. Ein solcher Alltagsmythos transportiert neben einer offensichtlichen eine verdeckte Bedeutung. Die damit verbundene Ambiguität ist freilich schwierig mit dem Rationalitätsanspruch der TA vereinbar und führt nach Torgersen letztlich auch zu Konfusionen. Indem das Kriterium der Neutralität durch normative Reflexion dechiffriert wird, soll gezeigt werden, in welchem Sinn TA tatsächlich neutral ist. Das maßgebliche Ziel der verstärkten Normenreflexion ist nach Torgersen, dass TA durch die Reflexion der Normen und Werte des liberal-demokratischen Verfassungsstaates transparent machen kann, inwiefern sie neutral vor dem Hintergrund dieser Normenreflexion sei. Torgersen geht es also nicht um eine Verabschiedung vom

13

Vgl. H ELGE T ORGERSEN, Three Myths of Neutrality in TA. How Different Forms of TA Imply Different Understandings of Neutrality, in: Technological Forecasting and Social Change 139 (2019), 57–63, URL: https://linkinghub.elsevier.com/retrieve/pii/S0040162518300817 (besucht am 27. 12. 2022), 59; A RMIN G RUNWALD, Technikfolgenabschätzung. Eine Einführung, Zweite, grundlegend überarbeitete und wesentlich erweiterte Auflage, N.F., 1, Berlin: edition sigma 2010. 14 Ein beeindruckendes Beispiel zur selbstkritischen Aufarbeitung ist G RUNWALD , Versteckte Normativität in der Technikfolgenabschätzung? 15 Vgl. R EGINE K OLLEK , Implizite Wertbezüge in der Technikfolgenabschätzung, in: Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis 28.1 (2019), 15–20; C HRISTIANE W OOPEN/M ARCEL M ERTZ, Ethik in der Technikfolgenabschatzung. Vier unverzichtbare Funktionen, in: Aus Politik und Zeitgeschichte 64 (2014); URL: http : / / www. bpb. de / apuz / 177771/ethik- in- der- technikfolgenabschaetzung (besucht am 25. 11. 2022); M ARC D USSEL DORP, Technikfolgenabschätzung, in: Armin Grunwald (Hg.), Handbuch Technikethik, Stuttgart: Metzler 2013, 394–399, 395; M ARC D USSELDORP, Technikfolgenabschatzung zwischen Neutralitat und Bewertung, in: Aus Politik und Zeitgeschichte 6–7 (2014), URL: http://www. bpb.de/apuz/177757/technik-folgen-abschaetzung (besucht am 25. 11. 2022). 16 Hierzu zähle ich T ORGERSEN , Three Myths of Neutrality in TA; G RUNWALD , Versteckte Normativität in der Technikfolgenabschätzung?

218

Friedhelm Meier

Kriterium der Neutralität, sondern um eine Selbstvergewisserung, welche letztlich auch kommunikative Hürden abbaut und Intentionen verdeutlicht:17 The understanding of neutrality is key to meeting all these demands; it is vital for the credibility of TA and thus, the survival of its institutions. It is therefore easy to see the political importance of how TA establishes what is to be considered a fact.18

In dieser Absicht identifiziert Torgersen drei Verwendungsweisen von Neutralität innerhalb der Geschichte der TA. Wir ändern in der folgenden Darstellung die Reihenfolge, um ein Problem klarer adressieren zu können: Mit dem Aufkommen von partizipativen Prozessen in den 1980er und 1990er verstand TA Neutralität im Sinne eines methodischen Werkzeuges, um den Diskurs zwischen Bürger und Stakeholder moderieren zu können. Hier war es die Aufgabe der TA, Diskurse zu initiieren, Fachwissen wie Meinungen zu Wort kommen zu lassen, weshalb es unabdingbar war, in der Moderationsrolle neutral gegenüber den Diskurspartnern zu bleiben. Gemäß diesem Verständnis könne TA sogar normative Zielbestimmungen mit einbringen, um den Diskurs am Laufen zu halten, da sie sich selbst zu den Zielbestimmungen neutral verhalte.19 Das ursprüngliche Verständnis von Neutralität aus den 1960er Jahren entspricht der Äquidistanz der TA gegenüber jedweden Interessen. Diese Form der Neutralität ergab sich notgedrungen aus der politikberatenden Aufgabe der TA. So war das Office of Technology Assessment des US-amerikanischen Kongresses von Anfang an darum bemüht, gegenüber den politischen Parteien in den USA Neutralität zu wahren. Diese Form der Neutralität gehört in gewissem Sinn auch zur Überlebensstrategie der TA. Die Angliederung der TA an politische Institutionen – wie es teilweise auch heute noch ist – bedeutet nämlich, dass eine unabhängig institutionelle Existenzsicherung wie etwa an einer Hochschule teilweise nicht gegeben ist.20 Gemäß diesem Neutralitätsverständnis darf TA für keine Zielbestimmungen einer Zukunftsperspektivierung werben, da dies die Neutralität gefährde: »An aim might also imply a selective choice of information rather than sticking to the ›best available knowledge‹ from an assumed neutral position.«21 Im Umkehrschluss bedeutet dies, dass nach Torgersen TA gerade nicht 17

Vgl. T ORGERSEN, Three Myths of Neutrality in TA, 62–63. Von dieser Intention zeugt auch der Band: L INDA N IERLICH/H ELGE T ORGERSEN (Hg.), Baden-Baden: Nomos 2020. 18 T ORGERSEN , Three Myths of Neutrality in TA, 61. 19 Vgl. a. a. O., 62. 20 Vgl. a. a. O., 59. 62. 21 A. a. O., 62. Torgersen spricht hier von »aims«. Das ist leider sehr mehrdeutig, denn Ziele und Zwecke implizieren für sich keinen Wert, vgl. H ANS J ONAS, Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation, hrsg. von Dietrich Böhler/Bernadette Hermann, Kritische Gesamtausgabe der Werke von Hans Jonas, Philosophische Hauptwerke I/2. Erster Teilband, Freiburg i.Br., Berlin und Wien: Rombach 2015, 1–420, 109–111. Allerdings ist damit eine bloß utilitaristische Nutzenbewertung zurückgewiesen, die allzu gerne Nutzen und Zweck engführen, mit C ARL F. G ETHMANN, Die Rolle der Ethik in der Technikfolgenabschätzung, in: Thomas Petermann/Reinhard Coenen (Hg.), Technikfolgen-Abschätzung

Standpunktbezogene Zukunftsverantwortung

219

selektiv Informationen aufbereitet. Es fällt schwer, ein solches Verständnis nicht als naiv zu etikettieren. Fordert doch alles Verstehen, dass Daten innerhalb eines Deutungshorizontes betrachtet werden, der Normen und Werte mitumfasst. Jenseits dieses Deutungshorizontes kann es kein Verstehen geben. Paradoxerweise hat Torgersen dies selbst gesehen.22 In den Science and Technology Studies war man spätestens in den 1990er zur Einsicht gekommen, dass Fakten immer einen Deutungshorizont benötigen. Hermeneutisch implizierte dies, dass eine Verschiebung des Deutungshorizontes zugleich eine Veränderung der Ergebnisse auf der Grundlage der gleichen Datenlage zur Folge hätte. Unter diesem Konstruktivismus verlor nach Torgersen die Wirklichkeit ihren eindeutigen Bezug. Dem Dilemma zu begegnen, keine eindeutigen Wahrheiten zu haben und dennoch sachdienliche Aussagen zu treffen, begegnete die TA, indem sie Neutralität im Sinne der Indifferenz verstand: »As a consequence, neutrality became synonymous with abstaining from saying that this or that was the case, blurring the distinction between normative neutrality and factual indifference.«23 Da der Deutungshorizont maßgeblich in den Fokus genommen wurde, bezog man die ELSI-Fächer (ethical, legal, social implications) mit ein, um einen möglichst umfassenden Horizont zu generieren. Von den konzeptionellen und theoretischen Reflexionen der Science and Technology Studies profitiert seitdem auch die TA und sucht vermehrt ethische Reflexion.24 Gemäß diesem Neutralitätsverständnis können auch Zielbestimmungen von der TA adressiert werden,25 da – auch wenn Torgersen dies nicht explizit macht – die Weite des Horizontes letztlich die Aussagekraft der Bewertung mitabsichert. Bemerkenswert ist, dass Torgersen diese drei Arten der Neutralität nicht hinsichtlich der damit verbundenen Überzeugungen oder zumindest hinsichtlich der impliziten Werte untersucht. Werte scheinen für Torgersen allenfalls bei der zweiten Neutralitätsform einschlägig zu sein. Allein die Bürger und Teilnehmer an dem von der der TA initiierten Dialog pflegen Werte in die Zukunftsperspektivierung ein.26 Von Werten bzw. Überzeugungen derjenigen, welche TA betreiben, ist auf weiter Flur nichts zu lesen. Das überrascht, denn Vertreter der TA sind sich ja durchaus bewusst, dass es werturteilsfreies Denken und Handeln nicht gibt. So konstatiert Armin Grunwald: Weder ist es erforderlich, heute noch Gründe anzuführen, warum die Technik ein Fall für die Ethik ist, wie dies Hans Jonas noch tat, noch muss betont werden, dass der technische Fortin Deutschland. Bilanz und Perspektiven, Frankfurt a.M. und New York: Campus-Verlag 1999, 131–145, 143–144. 22 Vgl. H ELGE T ORGERSEN , TA als hermeneutische Unternehmung, in: Technikfolgenabschätzung – Theorie und Praxis 22.2 (2013), 75–80, 79; T ORGERSEN, Three Myths of Neutrality in TA, 61. 23 Ebd. 24 Vgl. a. a. O., 60–62. 25 Vgl. a. a. O., 62. 26 Vgl. a. a. O., 60.

220

Friedhelm Meier

schritt bis in das Handeln der Ingenieure hinein nicht werturteilsfrei, sondern von normativen Vorstellungen durchzogen ist.27

Vor dem Hintergrund dieses Statements ist jedoch bedenkenswert, dass Grunwald in seinem Einführungsbuch ethische Fragestellungen auf wenigen Seiten abhandelt. Die Problemstellungen werden höchstens angetippt.28 Einschlägige Fragen, ob Werte in der Beobachterposition allein deskriptiv verhandelt werden können oder inwiefern sich eine standpunktbezogene Normativität, wie sie Grunwald selbst durch das Beispiel der Ingenieure anspricht, auf den Neutralitätsanspruch der TA auswirkt, werden nicht adressiert. Normative Fragestellungen scheinen durch das Übergewicht von Operationalisierungsinstrumenten für Zukunftsprognosen, die der TA in beeindruckender Vielfalt zur Verfügung stehen,29 ins Hintertreffen zu geraten. Nun ist das Einführungsbuch von Grunwald vor der »normativen Wende« der TA erschienen. Insofern fällt es vielleicht nicht so sehr ins Gewicht. Aber es macht deutlich, dass das Wissen um die Standortorientierung von Denkenden und Handelnden gewusst wurde. Dies verstärkt letztlich den Eindruck, dass sich Vertreter der TA der Unmöglichkeit von Neutralität bzw. Werturteilsfreiheit bewusst sein müssten. Allerdings beziehen sie die normativen Überzeugungen stets auf andere und nicht auf sich selbst: Grundwald bezieht sie auf Ingenieure, Torgersen auf Diskursteilnehmer. 2. Perspektivierung von Zukunft Der Aufruf zu verstärkter ethischer Reflexion in der TA spielt auch in die Perspektivierung von Zukunft hinein. Um dies zu veranschaulichen, betrachten wir im Folgenden eine prognostische, eine kasuistische und eine hermeneutische Zukunftsperspektivierung. 2.1 Prognostisch-systemisch Eine prognostisch-systemische Perspektivierung von Zukunft geht davon aus, dass Gegenwart und Zukunft in einem geschlossenen System miteinander verbunden sind wie in einem mechanischen Uhrwerk. Das geschlossene System impliziert eine starke Kausalität bzw. eine Linearität von Ereignissen. Die Linearität von Ereignissen im geschlossenen System ermöglicht gegenwärtigen Generationen aufgrund einer bestimmten Datenmenge auf einen Zustand in der Zukunft zu schließen, der sich aus den Wirkungen der gegenwärtigen Handlungen ergibt. Solche Prognosen werden etwa mithilfe von Trendexploration unternommen, bei welchen vergangene Entwicklungskurven in die Zukunft 27

Grunwald: Technikfolgenabschätzung – eine Einführung, 213. Vgl. G RUNWALD, Technikfolgenabschätzung, 111. 213–214. 242–243. 283–284. 29 Vgl. etwa a. a. O., 169–197. 28

Standpunktbezogene Zukunftsverantwortung

221

projiziert werden, oder mithilfe von Modellsimulation, welche im Gegensatz zu Trendexplorationen stärker die kausalen Mechanismen zu erkennen suchen.30 Wird Zukunft ausschließlich prognostisch-systemisch perspektiviert, so ist dies höchst fragwürdig. Zum einen impliziert die Regelhaftigkeit von Ereignissen noch keine Kausalität (Hume) und zum anderen – und das ist das deutlich gewichtigere Argument – kommt das Ergebnis nicht allein durch Regelhaftigkeit hervor. Vielmehr müssen gemäß der nachmodernen Physik systemimmanente Eigeninterventionen wie bspw. Emergenzen berücksichtigt werden.31 Um eine Emergenz handelt es sich bei komplexen Systemen dann, wenn eine Wirkung nicht auf die bekannten Ursachen zurückgeführt werden kann.32 Es ist darum nicht verwunderlich, dass die nachmoderne Physik vom Neuen, also vom Ergebnis ausgeht. Statt von den Bedingungen auf das Ergebnis zu schließen, ist die Logik genau umgekehrt: Vom Ergebnis ausgehend muss auf die Bedingungen zurückgeschaut werden. Ein Kausalitätsverständnis aber, das auch Interventionen zumindest durch systemimmanente Kopplungen umfasst, ist in seiner Regelhaftigkeit nicht streng beschreibbar und darum schwach. Genau dies trifft auf das nachmoderne Kausalitätsverständnis der Physik zu: »Kausalität beruht auf instabilen Dynamiken.«33 Insofern kann eine prognostisch-systemische Perspektivierung von Zukunft nicht hinreichend für eine intergenerationale Zukunftsverantwortung sein.

2.2 Kasuistisch-modaltheoretisch Eine kasuistisch-modaltheoretische Zukunftsperspektivierung vermag selbstredend zwar nicht alle instabilen Dynamiken vorwegzunehmen, jedoch umgeht sie die systemische Fokussierung anhand einer Kasuistik. Hierzu werden Szenarien gemäß dem state of the art aufgestellt, indem etwa (potentielle) treibende Faktoren und ihr jeweiliger Einfluss in unterschiedlichen Szenarien dargestellt werden. Durch unterschiedliche Annahmen bezüglich der Richtung, in der diese treibenden Faktoren wirken könnten, und konsistente Kombinationen solcher Annahmen für verschiedene treibende Faktoren, können dann unterschiedliche Szenarien geschrieben werden.34 30

Vgl. a. a. O., 178–181. Vgl. JAN C ORNELIUS S CHMIDT, Instabilität in Natur und Wissenschaft. Eine Wissenschaftsphilosophie der modernen Physik, Berlin und New York: de Gruyter 2008, 323. 32 »Emergenz sind diejenigen Eigenschaften komplexer Systeme, die nicht allein mit Hilfe jener Teiltheorien und Strategien erklärt werden können, die ausreichen, um das Verhalten der isolierten Komponenten zu erklären. Von Emergenz spricht man aber nur dann, wenn das Erklärungsarsenal wesentlich gegenüber dem Minimalinhalt erweitert werden muß, der ausreicht, um die Komponenten zu erklären.« M ANFRED S TÖCKLER, Emergenz. Bausteine für eine Begriffsexplikation, in: Conceptus 24 (1990), 7–24, 19. 33 S CHMIDT , Instabilität in Natur und Wissenschaft, 322–323. 34 G RUNWALD , Technikfolgenabschätzung, 182. 31

222

Friedhelm Meier

Die Aufstellung von Szenarien unterscheidet sich von der prognostisch-systemischen Zukunftsperspektivierung darin, dass Zukunft diversifiziert wird. Es ist nicht eine Zukunft, sondern es sind – wie Grunwald betont – »Zukünfte«35 , die man modaltheoretisch betrachtet. Entscheidend ist, dass Szenarien integrativ sind; d.h. sie integrieren prognostische Berechnungen, Trendexplorationen, soziokulturelle Effekte etc.36 2.3 Hermeneutisch-normativ Von der prognostischen und kasuistischen Zukunftsperspektivierung heben Grunwald und Torgersen die hermeneutische ab. Demnach werden in der hermeneutischen Zukunftsperspektivierung nicht nur Daten und Fakten erfasst, sondern auch gesellschaftliche Deutungsmuster. Ausgangspunkt ihrer Überlegungen bildet u.a. das auf David Collingridge zurückgehende »Collingridge-Dilemma«.37 Dieses Dilemma beschreibt ein Doppelbindungsproblem betreffs neuer Technologien.38 Einerseits hat man prospektiv ein Informationsproblem, da man wenig über die Auswirkungen der Technologien weiß; lässt man die technologische Entwicklung darum weiter fortschreiten, um genauere Daten hinsichtlich der Auswirkungen zu erhalten, so hat man ein Kontroll- und Gestaltungsproblem, da sich die Anwendungen der Technologie bereits verselbstständig haben.39 Ziel des hermeneutischen Ansatzes ist darum, neben den für prospektive Perspektivierungen relevanten Daten und Methoden der Technikforschung verstärkt soziale Vorstellungen und Deutungsweisen bzgl. dieser Perspektivierungen wahrzunehmen. Dabei ist die Einsicht leitend, dass die komplexen Problemstellungen bei Zukunftsperspektivierungen nicht allein mithilfe der Technikforschung abgebildet werden können, sondern auch gesellschaftliche Technik- und Zukunftsvorstellungen relevant sind. Torgersen betont hier explizit, dass die Diskussion um Zukunft in der Regel unter Rückgriff auf Analogien und Metaphern geführt wird. Allein diese Diskurslogik fordert unweigerlich eine hermeneutische Per35 A RMIN G RUNWALD , Technikfolgenabschätzung als »Assessment« von Debatten. TA jenseits der Technikfolgenforschung, in: Technikfolgenabschätzung – Theorie und Praxis 23.2 (2014), 9–15. 36 G RUNWALD , Technikfolgenabschätzung, 184. 37 Vgl. DAVID C OLLINGRIDGE , The Social Control of Technology, London: Pinter 1982. 38 Vgl. A RMIN G RUNWALD , Synthetische Biologie als Naturwissenschaft mit technischer Ausrichtung, in: TATuP – Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis 21.2 (Aug. 2012), 10–15, URL: https : / / tatup . de / index . php / tatup / article / view / 688 (besucht am 27. 12. 2022), 14. 39 Dass das Collingridge-Dilemma eine Problemanzeige darstellt, die ihrerseits nicht in äußerster Zuspitzung Gültigkeit beanspruchen kann, wird schnell deutlich, wenn man eine Entwicklung von Technologien annimmt, in welcher kontinuierlich technologische Ergebnisse ethisch reflektiert werden. Dennoch bleibt der Grundgedanke natürlich gültig, dass Zukunft nicht zur ethischen Bewertung präzise vorweggenommen werden kann. Vgl. auch T ORGER SEN , TA als hermeneutische Unternehmung, 75–80.

Standpunktbezogene Zukunftsverantwortung

223

spektivierung.40 »Nicht zuletzt im Sinne einer politischen und gesellschaftlichen Relevanz muss sich TA also mit dem Problem der Normativität von Aussagen auseinandersetzen.«41

3. Neutralität nach der »normativen Wende« Von hier aus können wir die Frage stellen, wie nach Torgersen TA tatsächlich noch neutral sein kann. Als konkrete Problemkonstellation verweist Torgersen auf die wissenschaftskritische Stimmung in der Gesellschaft (»alternative facts«) sowie die komplexen Datenverarbeitungen (Big Data), welche selbst für Experten teilweise schwer verständlich sind. Aufgabe der TA wäre dann etwa, die Äquidistanz sowohl gegenüber der postfaktischen Position als auch gegenüber dem blinden Technikglauben zu bewahren.42 Eine solche Positionierung ist höchst problematisch und zeugt davon, dass Normenreflexion einen deutlich weiteren Horizont fordert, als es Torgersen sich anscheinend vorstellt. Ist die TA nicht auch am Gemeinwohl orientiert? Und verlangt nicht gerade eine Gemeinwohlorientierung einen kritischen Gesellschaftsdiskurs? Ein kritischer Diskurs ist aber gerade mit einer postfaktischen Position nicht vereinbar, da ja postfaktische Meinungsmache nicht einfach eine Position unter vielen innerhalb des Gesellschaftsdiskurses ist, sondern zu den Positionen gerechnet werden muss, welche den Diskurs ad absurdum führen und somit die Rahmenbedingungen der Gesellschaft (Gemeinwohlorientierung) nicht akzeptieren. Denn postfaktisches Meinungsmache verweigert ja gerade die Teilnahme an einem argumentativen Diskurs. Kompromisslösungen, auf die es im liberal-demokratischen Verfassungsstaat ankommt, sind darum mit Gesprächspartner, die eine postfaktische Position vertreten, gerade nicht zu finden.43 Will also TA gegenüber postfaktischen Positionen neutral sein, verrät sie gerade ihre eigene normative Grundlage: die Gemeinwohlorientierung. Vor diesem Hintergrund ist es schlichtweg verwunderlich, dass Torgersen meint gezeigt zu haben, dass die Neutralität der TA als Mythos »entzaubert«44 sei. Zwar mag Torgersen um die normative Reflexion der TA bemüht sein, doch solange Neutralität in einer so unreflektierten Weise rezipiert wird, kann wohl kaum von einer »Entzauberung« die Rede sein. Im Gegenteil: Wer so verfährt, 40

A. a. O., 78. Prägnant fasst Torgersen die Aufgaben des hermeneutischen Ansatzes so zusammen: »erstens, Wissensbestände und Methoden aus den STS [Science and Technology Studies; F.M.] und verwandten Gebieten verstärkt und systematisch nutzbar zu machen; zweitens, Ergebnisse aus quantitativen Untersuchungen und Modellierungen zu kontextualisieren und zu interpretieren; drittens, verbreitete Analogien und Metaphern zu identifizieren und zu deuten.« 41 A. a. O., 79. 42 Vgl. T ORGERSEN , Three Myths of Neutrality in TA, 61–62. 43 Vgl. zu dieser Thematik etwa M ARIE -C HRISTINE K AJEWSKI , Wahrheit und Demokratie in postfaktischen Zeiten, in: Politik und Zeitgeschichte 64.4 (2017), 454–467. 44 N IERLICH /T ORGERSEN , Neutral normativ?, 9.

224

Friedhelm Meier

bezeugt unweigerlich die Gefahr von sogenannter »neutraler TA« innerhalb des Gesellschaftsdiskurses. Gegen diese Argumentation könnten folgende Argumente eingewendet werden: a) Ein erster Einwand könnte lauten: »Technik ist für sich betrachtet neutral, weshalb auch die Reflexion von Technikfolgen, wie sie die TA betreibt, neutral ist.« Dieser Einwand geht fehl. Denn Technik kann nicht vom gesellschaftlichen Handlungskontext abstrahiert betrachtet werden. Handeln schließt aber immer schon die Zweck- bzw. Zielfrage, Werte und normative Orientierungen in sich, denn Handeln impliziert per se Verantwortung des Akteurs.45 Konsequenterweise ist Technik nicht neutral. b) Ein anderer Einwand könnte lauten: »Technik mag nicht neutral sein, aber die TA betrachtet Technik ja im Gegensatz zu Ingenieuren quasi von außen als neutrale Beobachterin, indem sie einschlägige technische, soziale und ökonomische Daten erfasst.46 Diese Tätigkeit könnte man con grano salis äquivalent zur deskriptiven Ethik verstehen: Unter den einschlägigen Daten werden eben auch Zielbestimmung, Werte und Normen der Technik subsummiert, welche die TA in Bezug auf die zu bewertende Technik darstellt. Damit verfährt TA aber nicht normativ, sondern deskriptiv. Dies wird auch dadurch belegt, dass TA im Grunde die Verantwortungsübernahme nur vorbereitet; letztlich müssten aber die politischen Entscheidungsträger diese dann auch übernehmen.« Zum einen ist hiergegen einzuwenden, dass zwar einzelne Komponenten einer konkreten Begutachtung einer Technik deskriptiv in einem weiten Sinne sind, jedoch nicht die gesamte Begutachtung einer Technologie wie sie die TA verfolgt. What is clear is that neither science nor engineering nor technology are neutral in the popular (and allegedly common) sense view. Science and scientific change, engineering and engineering agency expansion, and technological proliferations all have consequences that are real but often exceedingly difficult to anticipate before they occur.47

Der Grund für die Nicht-Neutralität von Wissenschaft, Ingenieurwesen und Technologie besteht eben schlichtweg darin, dass diese Entwicklungen Auswirkungen auf Menschen, Tiere und Umwelt haben. Der Umgang mit diesen Entwicklungen und somit auch die Darstellung von Techniken für Gutachterzwecken impliziert Verantwortungsübernahme. Denn es gibt keine bruta facta, sondern nur Daten, die innerhalb eines hermeneutischen Deutungshorizontes kontextualisiert 45

Vgl. hierzu etwa E LISABETH G RÄB -S CHMIDT, Technikethik und ihre Fundamente. Dargestellt in Auseinandersetzung mit den technikethischen Ansätzen von Günther Ropohl und Walter Christoph Zimmerli, Berlin: de Gruyter 2002, 108–115. 46 So etwa B ÖSCHEN u. a., Technikfolgenabschätzung, 20. 47 C ARL M ITCHAM , Science and Technology, in: Armin Grunwald/Rafaela Hillerbrand (Hg.), Handbuch Technikethik, Berlin: J.B. Metzler 2021, 137–140, 138.

Standpunktbezogene Zukunftsverantwortung

225

werden.48 Und genau dieser Deutungshorizont kann keine Neutralität beanspruchen, da er selbst standpunktbezogen ist und somit Normen impliziert – und seien es auch nur die Überzeugungen des TA-Teams, welche Szenarien zu einer zukunftsträchtigen Technologie entwickeln. entwickeln. Dem entspricht ja auch Grunwalds o.g. Einsicht, dass Ingenieure Technik gerade nicht neutral perspektivieren, da sich Technik immer auch auf Menschen und Umwelt auswirkt. Zum anderen ist damit aber auch deutlich, dass die normative Frage von der TA nicht einfach an die politischen Entscheidungsträger weitergereicht werden kann. Vielmehr ist in wissenschaftsethischer Sicht TA dazu aufgefordert, Ergebnisse so zu präsentieren, dass im Entscheidungsprozess die normativen Implikationen bereits mitreflektiert werden. Blicken wir zurück: Die TA bemüht sich in jüngerer Zeit verstärkt um normative Reflexion insbesondere vor dem Hintergrund des Kriteriums der Neutralität. Die verstärkte normative Reflexion verändert auch die Zukunftsperspektivierung der TA, denn im Gegensatz zur prognostisch-systemischen und kasuistischmodaltheoretischen umfasst die hermeneutische Zukunftsperspektivierung auch normative Überlegungen hinsichtlich der zu bewertenden Techniken. Allerdings meint die TA, am Kriterium der Neutralität aufgrund der verstärkten normativen Reflexion festhalten zu können. Wir haben bereits diese Praxis kritisiert, wollen sie aber im Gespräch mit der klassischen Zukunftsethik zurückweisen. Dabei leitet uns folgende Einsicht: Die TA scheint insbesondere den Konnex zwischen den Generationen und somit die Frage des normativen Anspruchs künftiger Generationen gegenüber gegenwärtigen Generationen nicht eigens zu reflektieren. Vielmehr setzt sie konzeptionell diesen Konnex voraus. In der Zukunftsethik ist es aber gerade die Erörterung dieses Konnexes, welche eine normative Zukunftsperspektivierung unausweichlich macht. Dass aber Vertreter der TA etwas reserviert bzgl. der Zurückweisung des Neutralitätskriteriums sind, ergibt sich vielleicht auch aus der klassischen Zukunftsethik. Denn geschichtlich entzündete sich die Zukunftsethik vorwiegend an Techniken und Technologien, die ihrerseits irreversible Folgen für die Menschheit implizieren. Dadurch konzentrierte sich die Zukunftsethik zu einem gehörigen Teil auf extreme Handlungsalternativen, wie wir im Folgenden an einem Klassiker der Zukunftsethik, Hans Jonas, zeigen wollen.49

48

Vgl. hierzu auch A RMIN G RUNWALD, Technikfolgenabschätzung und Demokratie. Notwendige oder kontingente Verbindung, in: Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis 27.1 (2018), 40–45, 44. 49 Sicherlich wären hier auch andere Denker sinnvoll gewesen. Anhand von Jonas wird aber die alternative Denkweise in Extrempositionen deutlich, welche konzeptionell berechtigt sind, operational aber allzu oft wenig austragen.

226

Friedhelm Meier

II. Klassische Zukunftsethik: Hans Jonas’ alternative Zukunftsverantwortung In seinem Werk Das Prinzip der Verantwortung stellt Hans Jonas die bisherige Ethik, die er als »Ethik der Gleichzeitigkeit« beschreibt einer neuen Zukunftsethik gegenüber. Da vielen Lesern dieser Gegenüberstellung bekannt ist, soll die Kontrastierung hier zur Erinnerung nur tabellarisch aufgelistet erscheinen: Tabelle 1: Tabellarische Gegenüberstellung Ethik der Gleichzeitigkeit und Neue Zukunftsethik Ethik der Gleichzeitigkeit

Neue Zukunftsethik

Modus

Anthropozentrisch

Divers, da etwa auch die Natur ein Eigenrecht zugesprochen bekommt.50

Orientierender Imperativ

Kategorischer Imperativ (Kant): »Handle so, daß du auch wollen kannst, daß deine Maxime allgemeines Gesetz werde.«

Neuer Imperativ (Jonas): »Handle so, daß die Wirkungen deiner Handlung verträglich sind mit der Permanenz echten menschlichen Lebens auf Erden.«51

Die Natur

kann durch Handeln bzw. Eingriffe des Menschen nicht aus ihrem Gleichgewicht gebracht werden, sodass sie neutral betrachtet wird

kann durch Technologien irreversiblen Schaden nehmen, der die Lebensbedingungen künftiger Generationen verschlechtert.52

Der Mensch

ist als Konstante gegeben

kann sich selbst auslöschen (Kerntechnologie) oder seine Natur verändern (Gentechnologie)

Ethische Probleme sind vorwiegend

individualethisch adressiert

sozialethisch adressiert53

Gegenstand der Gesellschaft, Mitmenschen Verpflichtung

Mensch, Umwelt und künftige Generationen, denn alles, was noch nicht ist, hat einen Anspruch auf Existenz54

Folgenabschätzung

Hypothetische Verallgemeinerung, sodass eine Übereinstimmung zwischen dem Akteur und seinem Handeln eintreten kann

Totalisierende Wirkung von Handlungen, da sie die Allgemeinheit betreffen, weshalb eine Übereinstimmung zwischen Handeln und Wirkungen eintreten muss55

Zeitrahmen

Wirkungen von Handlungen sind in Wirkungen von Handlungen könder Regel unmittelbar sichtbar: Ethik nen irreversible Schäden nach sich der Gleichzeitigkeit ziehen: Zukunftsorientierte Ethik56

Das Prinzip Verantwortung ist vor dem Hintergrund der Entwicklung von Großtechnologien verfasst, welche erstmals das Potential der Selbstdestruktion der Menschheit etwa in der Kerntechnik oder irreversible Folgen natürlicher Lebens-

Standpunktbezogene Zukunftsverantwortung

227

bedingungen offenbarten, wie sie mit der Gentechnologie impliziert sind. Jonas plädiert darum dafür, dass die natürlichen Lebensbedingungen künftiger Generationen nicht verschlechtert werden dürften, sondern allenfalls auf einem gleichen Standard belassen werden sollten. Dies träfe zu, wenn die Lebensgestaltungsmöglichkeiten künftiger Generationen nicht durch nachhaltige Modifikation der natürlichen Anlagen des Menschen (Gentechnologie) oder der Umwelt (Kerntechnologie) verspielt werden. Doch wie kann Jonas diese am Sein orientierte intergenerationale Verantwortung konzeptionell begründen, ohne dabei einem Sein-Sollen-Fehlschluss zu tätigen? Jonas nähert sich dieser Problemkonstellation anhand der Zwecke, die das natürliche Sein (des Menschen) verfolgt. Das natürliche Sein zielt eben darauf, sein Potential auszuschöpfen.57 Jonas verortet nun den Wert nicht im Zweck, was einem Sein-Sollens-Fehlschluss entspräche, sondern er sieht das Sollen im Sittengesetz rational und im moralischen Gefühl psychologisch begründet.58 Denn das Sittengesetz weckt im Subjekt keine Ehrfurcht vor dem Sein; wohl aber bedient sich das Sittengesetz des moralischen Gefühls – man könnte auch sagen: der moralischen Intuition des Subjekts: Das Gesetz als solches kann weder Ursache noch Gegenstand der Ehrfurcht sein; aber das Sein, erkannt in seiner Fülle oder einer Einzelerscheinung derselben, begegnend einem Sehvermögen, das nicht durch Selbstsucht verengt oder durch Stumpfheit getrübt ist, kann wohl Ehrfurcht erzeugen – und kann mit dieser Affizierung unseres Gefühls dem sonst kraftlosen Sittengesetz zuhilfe kommen, das da gebietet, dem innewohnen Anspruch von Seiendem mit unserem eigenen Sein Genüge zu tun.59

In diesem Sinn sieht es Jonas als gerechtfertigt an, im Sein selbst bereits die Pflicht zum Erhalt des Seins zu finden. Darum ist Zukunftsverantwortung radikal asymmetrisch und das erste Gebot besteht im Erhalt der Menschheit.60 Jonas veranschaulicht dieses Verantwortungsverständnis am Kind: Die Bedarfe des Säuglings zum Überleben, der Zweck seines natürlichen Seins wecken in den Eltern, 50 Vgl. J ONAS , Das Prinzip Verantwortung, 34. Letztlich ist Jonas’ Ethik im methodischen Vollzug auch anthropozentrisch, da er immer vom Menschen aus denkt; der Kontrast gilt hier aber weniger diesem Vollzug als vielmehr den Adressaten des Handelns, die in der neueren Ethik gerade nicht auf den Menschen eingeschränkt werden, sondern eben die Natur als Ganze umfasst. 51 Vgl. a. a. O., 38. 52 Vgl. a. a. O., 27–33. 53 Vgl. a. a. O., 41. 54 Vgl. a. a. O., 40–41. 55 Vgl. a. a. O., 41. 56 Vgl. a. a. O., 40–41. 57 Vgl. a. a. O., 109–156. 58 Vgl. a. a. O., 167–168. 59 A. a. O., 178. 60 Vgl. a. a. O., 186. 196–198.

228

Friedhelm Meier

letztlich aber in allen Menschen eine pflichtgemäße Haltung bzw. Verantwortung gegenüber diesem neuen Leben: Dieses Werdenmüssen ist ein Dazwischen – ein Hängen des hilflosen Seins über dem Nichts –, das eine fremde Kausalität füllen muß. In der radikalen Insuffizienz des Erzeugten als solchen ist die Abkehr des Rückfalls ins Nichts durch die Erzeuger, die Wartung seines weiteren Werdens ontologisch sozusagen vorgesehen. Die Zusage dazu war in der Zeugung enthalten. Ihre Einhaltung (selbst durch Andere) wird zu unabweisbaren Pflicht gegenüber dem nun selbstgültig bestehenden Sein in seiner totalen Angewiesenheit darauf.61

Damit ist deutlich, dass Jonas’ intergenerationale Verantwortungskonzeption insbesondere die Alternative von Erhalt oder Nicht-Erhalt der Menschheit bzw. Erhalt oder Nicht-Erhalt von gegebenen Lebensbedingungen vor Augen hat. Dies zeigt auch die Formulierung des neuen Imperativs, eine zukunftsethische Modifikation des kategorischen Imperativs: »Gefährde nicht die Bedingungen für den indefiniten Fortbestand der Menschheit auf Erden.«62 Doch wie perspektiviert Jonas Zukunft? Jonas unterscheidet zwischen Nahund Fernprognosen. Während Nahprognosen auf einer gewissen Sicherheit hinsichtlich der verfügbaren Daten aufbauen, können Fernprognosen dies gerade nicht: Die Gründe dafür brauchen wir hier nicht auszuführen; genannt seien nur die jeder (auch elektronischen) Rechenkunst spottende Komplexität gesellschaftlicher und biosphärischer Wirkungsganzheit; die wesenhafte, stets mit Überraschungen aufwartende Unergründlichkeit des Menschen; und die Unvorhersagbarkeit, das heißt Nicht-Vorerfindbarkeit, künftiger Erfindungen.63

Jonas meint nun, dass das »Wissen um Möglichkeiten« für den Zweck von Kasuistik ausreicht, die keinen direkten prognostischen Wert, wohl aber heuristische Funktion haben.64 Die damit verbundene Unsicherheit über die ferne Zukunft federt Jonas nun mit der Regel ab, dass der Vorrang der schlechten vor der guten Prognose gelte.65 Da sich Handlungen gegenwärtiger Generationen auf die Lebensbedingungen künftiger Generationen auswirken können und diese Auswirkungen ggf. unwiderruflich sind, wie etwa bei der Gentechnologie, ist konzeptionell in dem verantwortungstheoretischen Zugang von Jonas’ ein Konnex zwischen der gegenwärtigen und den Generationen vorausgesetzt, auf die sich die Handlungen gegenwärtiger Generationen auswirken. Karl-Otto Apel hat im Anschluss an Jonas’ Rede von der Verantwortung gegenüber der Zukunft den Begriff der »idealen Kommunikationsgemeinschaft« 61

A. a. O., 259–260. A. a. O., 40. 63 A. a. O., 70–71. 64 A. a. O., 72–73. Jonas merkt selbst schon an, dass eine solche Kasuistik für komplexe politische Entscheidungsprozesse durchaus unzufriedenstellend wirkt; operativ ist aber eben aufgrund der Komplexität des Sachgegenstandes nicht mehr möglich. 65 Vgl. a. a. O., 74. 62

Standpunktbezogene Zukunftsverantwortung

229

geprägt. Apel grenzt die ideale Kommunikationsgemeinschaft von der realen Kommunikationsgemeinschaft ab. Während die reale Kommunikationsgemeinschaft die der eigenen geschichtlichen Sozialisation darstellt, ist die ideale Kommunikationsgemeinschaft dazu fähig, den Sinn jeglicher Argumentation zu verstehen und gemäß einschlägiger Wahrheitstheorien zu beurteilen.66 Sofern wir etwas denken und sagen, sind wir bereits Gesprächspartner in beiden Kommunikationsgemeinschaften.67 Für Apel bietet die ideale Kommunikationsgemeinschaft somit eine Heuristik, regulativ innerhalb der realen Kommunikationsgemeinschaft zu wirken. Es ist letztlich eine transzendentalpragmatische Begründungsfigur, die immer auch ein umzusetzendes Ideal darstellt.68 Es nimmt nicht Wunder, dass Apel die Figur der idealen Kommunikationsgemeinschaft im Anschluss an Jonas entwickelt und der Sache nach auch mit einer solchen Begründungsfigur argumentiert. Denn die Heuristik von Jonas’ Imperativs beruht genau wie die Kants darauf, das eigene Handeln vor dem Forum der Vernunft und somit vor dem Forum aller potentieller Gesprächspartner in einer Art heuristischen Modus zu rechtfertigen. Gewendet auf die Frage der Zukunftsverantwortung verbindet die ideale Kommunikationsgemeinschaft gegenwärtige und künftige Generationen eben in einem solchen heuristischen Modus und begründet somit den Konnex zwischen den Generationen. Unter der Maßgabe der richtigen Regeln und Prinzipien wird hier von der jeweils gegenwärtigen Generation gefordert, so zu handeln, dass ihre Handlungen vor allen Menschen zu allen Zeiten und an allen Orten gerechtfertigt werden können. Damit sind aber zwei Punkte deutlich: Erstens kann Zukunft in den Augen von Jonas gerade nicht neutral betrachtet werden. Jonas zeichnet weder das Bild einer rein degressiven Entwicklung, noch votiert er blauäugig für eine progressive Entwicklung; vielmehr geht es ihm um den Erhalt von Lebensbedingungen.69 Insofern ist Zukunft als Gestaltungsgröße moralisch zu perspektivieren. Und diese Gestaltungsgröße bricht sich an der radikal asymmetrischen Verantwortung 66 K ARL -OTTO A PEL , Das Apriori der Kommunikationsgemeinschaft, in: Karl-Otto Apel (Hg.), Transformation der Philosophie 2, 7. Aufl., Frankfurt am Main: Suhrkamp 2015, 358– 435, 429. 67 Vgl. a. a. O., 431. 68 Die Nähe zum Kantschen Postulatenbegriff ist offensichtlich. Ein Postulat ist für Kant eine Behauptung, die keine spekulativen Erkenntnisgewinn bereithält, wohl aber regulativ verbindlich ist, I MMANUEL K ANT, Kritik der reinen Vernunft, zitiert nach der Akademie Ausgabe (im Folgenden zit. als KrV), B 100. 112. Bei Rawls stellt der Urzustand auch eine Art ideale Kommunikationsgemeinschaft dar. In diesem Zustand verhandeln Menschen unter dem Schleier des Nichtwissens ihres eigenen Standes und dem wechselseitigen Desinteresse soziale Güter wie Freiheit, Vermögen, Rechte etc. gerecht verteilen. Für die Frage nach der Zukunftsverantwortung ist aber diese Form idealer Kommunikationsgemeinschaft nicht einschlägig, da sie nicht gegebene ethische Probleme verhandelt. 69 Vgl. J OACHIM S CHUMMER , Zeitbewußtsein, Ökologie und Ethik, in: Antemnae 3 (2001), 172–190.

230

Friedhelm Meier

gegenüber künftigen Generationen im heuristischen Modus. Zukunftsperspektivierung hat also nach Jonas einen normativen Standpunkt. Zweitens ist deutlich, dass die normative Zukunftsperspektivierung nach Jonas weitgehend aus einer einzigen Alternative besteht: Erhalt oder nicht erhalt. Vor dem Hintergrund der Kerntechnologie sowie den in den 1970er Jahren erstmals debattierten Fragen der Gentechnologie mag diese Perspektivierung wenig überraschen und angesichts dieser Technologien bleibt die von Jonas aufgezeigte »Existenzalternative« selbstredend einschlägig. Doch als alleinige Grundlage zur Perspektivierung von Zukunft kann sie nicht hinreichend sein. Denn bei Technologien wie Synthetischer Biologie oder Robotik stehen in der Regel nicht direkt Erhalt oder Nicht-Erhalt der Menschheit zur Debatte. Ein Beispiel an dem dies hinreichend veranschaulicht werden kann ist die Biodiversität. Seit der UNKonvention über die biologische Vielfalt von 1992 hat man den Erhalt der biologischen Vielfalt, die nachhaltige Nutzung ihrer Bestandteile sowie die gerechte Nutzenverteilung aus der Biodiversität zum Ziel erklärt.70 Doch auch hier hilft die »Existenzalternativ« nur bedingt. Die Komplexität der Fragestellung, welche Treiber (Land- und Meeresnutzung, Ausbeutung, Klimawandel und Umweltverschmutzung) wie das System modifizieren und welche Konsequenzen sich angesichts der wirtschaftlichen Erzeugnisse aus der Modifikation dieser Treiber ergeben, ist global nicht einfach unter Verweis auf die »Existenzalternative« zu verhandeln. Auch wenn der Erhalt der Biodiversität das globale Ziel darstellt, so sind Einzelmaßnahmen, die ggf. bestimmte Techniken betreffen, nicht sinnvoll mithilfe einer »Existenzalternativen« zu adressieren, da auch immer wirtschaftliche Nutzfaktoren mit daran hängen, die das gesellschaftliche Zusammenleben stützen. Damit ist aber deutlich, dass Zukunftsperspektivierung deutlich feinere Beurteilungsnormen fordert, als es in der »Existenzalternative« zum Ausdruck kommt. Aufgrund ihrer Zukunftsträchtigkeit sind Techniken und Technologien aber stets Gegenstand von Zukunftsethik und von TA. Jonas’ Ansatz leistet zur Bewertung von zukunftsträchtigen Techniken eine konzeptionelle Absicherung des Konnexes zwischen den Generationen, ohne allzu schnell in die prognostischsystemischen Probleme zu geraten und weist die Unumgänglichkeit von normativer Zukunftsperspektivierung auf. Erkennt man in Apels idealer Kommunikationsgemeinschaft eine konsequente Weiterentwicklung dieses intergenerationalen Konnexes, so ist mit Jonas ein heuristischer Modus der Verantwortung gefunden. Da Jonas aber seine Konzeption vor dem Hintergrund von Großtechnologien entwickelt hat, die ihrerseits ein erhebliches Schadenspotential für die Menschheit implizieren, erscheint diese Konzeption auf operationaler Ebene zu prinzipienhaft. Bei vielen Techniken und Technologien steht nicht der Erhalt oder NichtErhalt der Menschheit zur Debatte, sondern die Frage von Gestaltungsräumen. 70 U NITED NATIONS , Convention on Biological Diversity (1992), URL : https://www.cbd. int/doc/legal/cbd-en.pdf (besucht am 25. 11. 2022).

Standpunktbezogene Zukunftsverantwortung

231

Über die Frage, ob die Argumentationsfigur der »Existenzalternative« den Eindruck in der TA sowie der Gesellschaft geweckt bzw. verstärkt hat, dass klassische Zukunftsethik nur für Extremfälle einschlägig ist, lässt sich in diesem Rahmen nur spekulieren.

III. Konzeptionelle und operationale Zusammenführung Blicken wir zurück. Wir haben gesehen, dass TA dem Kriterium der Neutralität gerecht werden will, letztlich aber im Laufe ihrer Geschichte unterschiedliche Arten der Neutralität verwendet hat und mittlerweile mehr und mehr zur Einsicht gelangt ist, dass eine verstärkte normative Reflexion für die TA selbst von Nöten ist. Anhand von Jonas haben wir gesehen, dass Zukunft nicht neutral, sondern normativ zu perspektivieren ist. Der intergenerationale Konnex ist bei Jonas mit Apel gesprochen die ideale Kommunikationsgemeinschaft. Eine solche Begründungsfigur setzt heuristisch die Kommunikation zwischen den Generationen voraus und mutet zu, ein Forum der Gleichzeitigkeit zwischen gegenwärtigen und künftigen Generationen anzunehmen: Wir sind generationenübergreifend im Modus des »als ob« im Gespräch miteinander. Leider ist der Rahmen hier zu eng, um eingehender die Andockstellen von TA und Zukunftsethik zu analysieren. Dennoch seien folgende Hinweise gegeben, wie TA und klassische Zukunftsethik voneinander und die Gesellschaft von dieser Zusammenarbeit vor dem Hintergrund einer standortbezogenen Perspektivierung von Zukunft profitieren könnten: 1. Konzeptionell zeigt Jonas Ansatz, dass Zukunftsperspektivierung stets Verantwortung aufweist und somit normativ erfolgt, da sich moderne Technologien und Techniken auf Menschen, Tiere und Umwelt nachhaltig auswirken. 2. Diese konzeptionelle Grundeinsicht geht vor dem Hintergrund der von Jonas fokussierten Großtechnologien mit dem Manko einher, dass Jonas’ Ansatz auf operationaler Ebene zu prinzipienhaft ist, »Existenzalternativen« nicht Einzelmaßnahmen adressieren, sondern allenfalls den Deutungshorizont. 3. Konzeptionell ist mithilfe klassischer Zukunftsethik aufgezeigt, dass TA letztlich das Neutralitäts-Kriterium fallen lassen müsste. Wer zum einen meint wie die TA anerkennen zu können, dass Daten und Fakten erst vor dem Hintergrund eines Deutungshorizontes verstanden werden können, um zugleich anzunehmen, dass Neutralität als Basiskriterium dennoch möglich ist, scheint die weitreichenden Implikationen von Verstehen misszuverstehen und gerade eine Gefahr für den gesellschaftlichen Diskurs in der Wertschätzung derer darzustellen, die diesen Diskurs torpedieren wie etwa die postfaktische Meinungsmache. Ein Deutungshorizont impliziert stets Wertvorstellungen, ethische Orientierungen und Zielbestimmungen. Wer zum anderen meint, die Auswirkungen von Techniken auf Menschen, Tiere und Umwelt neutral perspektivieren zu können,

232

Friedhelm Meier

missachtet die mit der Zukunftsperspektivierung implizierten moralischen Verantwortung für Menschen, Tiere und Umwelt.71 4. TA verfügt über eine Vielzahl an Instrumenten, Zukunft zu perspektivieren. Der operationalen Schwäche der klassischen Zukunftsethik begegnet TA mit ihrem anwendungsorientierten Zugang. 5. Anhand der TA wurde deutlich, dass sich prognostisch-systemische, kasuistisch-modaltheoretische und hermeneutisch-normative Perspektivierung der Zukunft nicht ausschließen, sondern bestenfalls aufeinander verweisen. Da Jonas Zukunft prognostisch-systemisch sowie kasuistisch-modaltheoretisch Zukunft perspektiviert, ist hier konzeptionell bereits eine Verbindung zwischen TA und einem klassischen Vertreter der Zukunftsethik zu erkennen. Damit ist aufgezeigt, dass TA von der konzeptionellen normativen Reflexion von klassischer Zukunftsethik und Zukunftsethik von der operationalen Expertise der TA profitieren kann. Der Eindruck, dass akademische Zukunftsethik einen Metadiskurs jenseits gesellschaftlicher Fragen führt, ist damit zwar nicht gänzlich zurückgewiesen; jedoch zeigen sich Wert und Nutzen dieses Diskurses, der eben seit Jahrzehnten die normativen Implikationen von Zukunftsperspektivierung an unterschiedlichen Fragestellungen diskutiert, im Gespräch mit der TA. Eine stärkere Zusammenarbeit beider Disziplinen könnte also im Sinne einer standpunktbezogene Zukunftsverantwortung Handlungsspektren so aufzeigen, dass sie nicht parteipolitischen Ideologien zum Opfer fallen, sondern die ethische Rechtfertigung zukunftsträchtigen Handelns eingedenk der Gemeinwohlorientierung einfordern.72 Eine solche normativ reflektierende und anwendungsorientierte Zukunftsperspektivierung angesichts der enormen Probleme, die mit zukunftsträchtigen Technologien verbunden sind, bräuchte die Gesellschaft dringend.

71

Grunwald (G RUNWALD, Versteckte Normativität in der Technikfolgenabschätzung?) scheint in einem seiner letzten Beiträge das Neutralitätskriterium auch fallen gelassen zu haben. 72 Dem Argument, dass TA dann um ihre Existenz fürchten müsse, sofern sie den Standpunkt der Neutralität verlasse (vgl. T ORGERSEN, Three Myths of Neutrality in TA, 59), ist zumindest in der Bundesrepublik Deutschland von politischer Seite durch verschiedene Maßnahmen vorgebeugt worden. So obliegt es gemäß § 56a BTGO dem Ausschuss für Forschung, Technologie und Technikfolgenabschätzung des Deutschen Bundestages, »Technikfolgenanalysen zu veranlassen und für den Deutschen Bundestag aufzubereiten und auszuwerten«. Die Verantwortung für künftige Generationen, die Umwelt und den Tierschutz ist in Art. 20a GG verfassungsrechtlich geschützt. Zudem stellt das KIT eine Technische Universität dar, die auch unabhängig von politischen Auftraggebern TA betreiben kann.

List of Contributors Prof. Dr. Dr. hc. mult. Ingolf U. Dalferth is Emeritus Professor at the University of Zurich and at the Claremont Graduate University. Prof. Dr. Elisabeth Gräb-Schmidt is Professor of Systematic Theology and Director of the Institute for Ethics at the Protestant Theological Faculty of the University of Tübingen. Dr. Lisa Guenther is Queen’s National Scholar for Political Philosophy and Critical Prison Studies at Queen’s University in Kingston, Canada. Prof. Dr. Amanda Lagerkvist is Professor of Existential Media Studies at Uppsala University. Prof. Dr. Hans Lindahl is Professor of Legal Philosophy at Tilburg University and holds the Chair in Global Law at the Law Department of Queen Mary University of London. Dr. Friedhelm Meier is a Post-Doctoral researcher at the Protestant Theological Faculty of the University of Tübingen. Prof. Dr. Dr. Ferdinando G. Menga is Professor of Legal Philosophy and Philosophy of Politics at the University of Campania in Naples and an Annual Visiting Professor at the University of Tübingen. Prof. Dr. Rachel Muers is holds the Chair of Divinity at the University of Edinburgh. Tijana Petkovi´c, MA is a doctoral candidate at the Protestant Theological Faculty of the University of Tübingen. Christian Schlenker is a Post-Doctoral researcher at the Protestant Theological Faculty of the University of Tübingen. Prof. Dr. Christian Schwarke is Professor of Systematic Theology at TU Dresden. Prof. Dr. Jure Zovko is Professor of Philosophy at the University of Zadar.

Index of Names Agar, Nicholas 106 Agius, Emmanuel 14 Ajana, Btihaj 25, 34 Alexy, Robert 108 Alfieri, Frencesco 62 Allen, Colin 47 Anderson, Michael 47 Anderson, Susan Leigh 47 Apel, Karl-Otto 229–231 Arendt, Hannah 75, 108, 191, 194 Aristotle 62, 64, 65, 104, 105, 116, 207 Arneil, Barbara 153 Arrieta, Alejandro Barredo 7 Ars Industrialis 190 Ashton, Paul 197, 209 Asimov, Isaac 48 Atanasoski, Neda 30 Athanasius of Alexandria 83, 90 Auerbach, Bruce Edward 12, 16 Augustine 39, 86 Awad, Edmond 47 Azoulay, Ariella Aïsha 155–158, 160–167, 169, 170, 174, 175 Babich, Babette 62, 65, 69, 72 Baghramian, Maria 99 Baier, Annette 12 Barad, Karen 33, 34 Barry, Brian 12, 13, 16, 17 Bechmann, Gotthard 216 Beckerman, Wilfred 13 Bender, Emily M 9 Benjamin, Walter 201 Bentham, Jeremy 99 Berdyaev, Nikolay 86 Berns, Thomas 182 Bifulco, Raffaele 11 Bill, Prochnau 139 Bleher, Hannah 5 Bonhoeffer, Dietrich 10, 140–142, 146 Borrows, John 157 Boston, Jonathan 11

Bostrom, Nick 90–92, 106 Brachtendorf, Johannes 39 Branch, Jordan 199 Brandt, Richard 99 Braun, Matthias 5 Brown Weiss, Edith 11 Brown, Wendy 5 Brueggemann, Walter 147 Bryce, Peter 173, 174 Buddeberg, Eva 4, 10 Burckhardt, Jacob 104, 105 Busuttil, Salvino 14 Butler, Judith 177 Böschen, Stefan 214, 216, 224 Canada, Government of 167 Cardoza-Kon, Javier 62 Care Collective 177 Carpenter, Stanley R. 216 Choi, Jaz Hee-jeong 30 Christensen, Michael J. 81 Christian Schlenker 43 Ciaramelli, F. 11 Cicero, Marcus Tullius 115 Citton, Yves 182, 183, 189 Clay, Eugene 83–85, 87, 88, 90, 91, 93, 94 Coeckelbergh, Mark 4, 7, 8, 47, 69 Cole-Turner, Ronald 92, 93 Collingridge, David 222 Conway, E.M. 11 Cornford, Francis M. D. 98 Couldry, Nick 24, 25 Crawford, Kate 24 Dabrock, Peter 10 Dalferth, Ingolf U. 10, 111 Dallmayr, Fred 52, 62, 69 Darwin, Charles 102 Dasgupta, Partha 138 Davin, Nicholas Flood 172 Davy, Barbara Jane 207

236

Index of Names

de La Mettrie, Julien Offray 106 De-Shalit, Avner 14 Denton-Borhaug, Kelly 143 Derrida, Jacques 15, 193, 200 Despret, Vinciene 208 Deutscher Bundestag 42 Dick, Philip K. 39 Dignum, Virginia 42 Dilthey, Wilhelm 102 Diogenes Laertius 115 Diogenes the Cynic 115 Draghi, Mario 185 Dupont, Claire 146 Durante, Massimo 61 Dusseldorp, Marc 217 Dworkin, Ronald 108 Edele, Mark 142 Esposito, Costantino 65 European Commission 42 Feneuil, Anthony 85 Feyerabend, Paul 103 Filek, Jacek 8 Finlan, Stephen 81 Fleischmann, Eugène 5 Floridi, Luciano 5, 33 Florovsky, Georges 90 Forst, Rainer 54, 56, 73, 74 Francis (Pope) 177 Francis (pope) 137, 140, 141 Francis, John 87 Franzke, Aline Shakti 32 Friedland, Hadley 157 Fritsch, Matthias 17, 193 Fyodorov, Nikolai Fyodorovich 84, 86, 94 Gardiner, Stephen M. 11–14, 16, 17, 185 Garneau, David 168 Garner, Stephen 92 Garve, Christian 107 Gates, Kelly 25 Gauthier, David 13, 16 Gehlen, Arnold 2, 113 Gethmann, Carl F. 215, 218 Gibson, Margaret 30 Gilbert, Margaret 197 Giuffrida, Iria 51 Golding, Martin P. 16

González-Ricoy, Iñigo 11 Gosseries, Axel 11 Gregor, Brian 10 Gregory of Nazianzus 83, 88 Gross, Jules 81 Grunwald, Armin 216, 217, 220–222, 225, 232 Gräb-Schmidt, Elisabeth 45, 224 Grünwald, Reinhard 214 Gurney, Jeffrey K. 46 Guyer, Jane 29 Haeckel, Ernst 102 Hanukai, Maksim 143 Haraway, Donna Jeanne 208, 209 Hare, Richard Mervyn 99 Harper, Stephen 167 Harrach, Sebastian 61 Hauerwas, Stanley 143 Hayles, N. Katherine 24, 26, 33 Hegel, Georg Wilhelm Friedrich 104, 105 Heidbrink, Ludger 4, 52, 53 Heidegger, Martin 8, 52, 57, 61–72, 74, 75, 77, 78, 153, 154, 180, 181 Heier, Jorma 189 Held, Benjamin 56 Herder, Johann Gottfried 2 Herrmann, Friedrich-Wilhelm von 62 Heuvel, Steven C. van den 10 Hiskes, Richard P. 13 Hjorth, Larissa 30 Holzinger, Andreas 7 Hong, Sun-ha 25 Hooker, Brad 99 Hume, David 15 Husserl, Edmund 31, 204, 208 Huxley, Julian 82, 85 Häberle, Peter 11 Hölderlin, Friedrich 104 Ingolf U. Dalferth 50 Irenaeus of Lyon 83 Ishiguro, Kazuo 23, 31, 35, 36 Iturricha-Fernández, Agustín 57 Jaspers, Karl 17, 28, 29, 34, 35 Jenkins, Willis 12, 15 Jesus Christ 83, 85–87, 90, 148, 149 Johnson, Mark 91

Index of Names Jonas, Hans 9, 12, 14, 17, 179, 218, 219, 225–232 Joy, Lisa 39 Julian of Norwich 143 Kajewski, Marie-Christine 223 Kant, Immanuel 65, 98, 100, 106–109, 124–126, 229 Kauanui, J. K¯ehaulani 152 Kaufmann, Franz-Xaver 42, 43 Kaufmann, Matthias 53 Kavka, Gregory S. 14 Keddell, Emily 57 Kelsen, Hans 198 Kember, Sara 28 Kettner, Matthias 73 Kharlamov, Vladimir 81 Kierkegaard, Søren 26, 32, 34, 131 Kilby, Karen 143 Kimball, Trevor W. 123 King, Tiffany Lethabo 152 Kobayashi, Masaya 12, 14, 15 Kohn, Eduardo 206 Kollek, Regine 217 Kouppanou, Anna 68, 72, 76 Kurzweil, R. 93 La Bellacasa, María Puig de 34 Lacey, Hugh 101 Laclau, Ernesto 207 Lagerkvist, Amanda 18, 23, 27, 29, 32, 34, 35, 51, 61, 67 Lanzeni, Débora 25 Larchet, Jean-Claude 81 Lawrence, P. 11 Lenin, Wladimir Iljitsch 100 Levinas, Emanuel 10, 15, 144, 186, 187, 192, 207 Lewis, Clive Staples 113 Lewis, David 91 Lewis, Wyndham 103 Lindahl, Hans 195, 196, 204, 212 Ljunggren, David 167 Loh, Janina 4, 7, 53 Lossky, Vladimir 84–87 Luckner, Andreas 65, 66, 68 Lugones, María 161 Lukes, Steven 54–56 Lynch, Kathleen 177

237

Lütge, Christoph 68 Macdonald, John A. 172–174 Mann, Geoff 179 Mantzarid¯es, Ge¯orgios I. 81 Markham, Tim 61, 77 Markowitz, Ezra M. 141 Marr, Bernhard 111 Marx, Karl 100, 102 Maximus the Confessor 84, 86–94 McDowell, John 104 McFarland, Ian A. 86 McLuhan, Marshall 26 Mejias, Ulises A. 24, 25 Menga, Ferdinando G. 11–13, 75, 179, 180, 185, 191, 192, 195, 209, 211 Mercer, Calvin 82 Merleau-Ponty, Maurice 208 Mertz, Marcel 217 Metz, Joseph 4 Metzinger, Thomas 112 Midson, Scott A. 132 Mill, John S. 99 Milloy, John S. 152, 159, 173 Misselhorn, Catrin 47 Mitcham, Carl 224 Mohawk, John 153 Mommsen, Wolfgang J. 5 Moore, George E. 15 More, Max 83 Mouffe, Chantal 178, 207 Muers, Rachel 15, 138, 146, 148 Mullaney, Thomas S. 25 Müller-Jung, Joachim 111 Nancy, Jean-Luc 61 Napoleon, Val 157 Nassehi, Armin 58, 59, 65, 72 Nellas, Panayiotis 81 Neumann, Günther 76 Nierlich, Linda 216, 218, 223 Nietzsche, Friedrich 5, 8, 193 Nikiforuk, Andrew 174 Noble, Safya U. 24 Nolan, Jonathan 39 O’Donnell, Karen 147 O’Donovan, Oliver 140, 142, 148 O’Neill, Cathy 24

238 O’Neill, Onora 138, 146 Oreskes, N. 11 Ostwald, Wilhelm 102 Otte, Ralf 50 O’Donnell, Karen 147 Palacios-Marqués, Daniel 57 Palmer, Gerald Eustace Howell 88 Parfit, Derek 16 Pascal, Blaise 118 Passmore, John Arthur 14, 16 Peirce, Charles Sanders 206 Peissl, Walter 214 Perrigo, Billy 9 Peters, Benjamin 25 Peters, John Durham 28 Piasecki, Stefan 57 Pink, Sarah 25 Plato 2, 95–98, 104, 115 Plumwood, Val 206, 212 Polemarchus 98 Pontara, Giuliano 12, 13 Porphyrius 116 Porter, Alan L. 216 Pound, Ezra 103 Prassas, Despina 81, 89 Prüller-Jagenteufel, Gunter M. 10 Putnam, Hilary 96 Raffoul, François 8, 10, 53, 77 Rancière, Jacques 201 Rawls, J. 13, 16 Reed, Esther D. 10, 144–146 Richards, David A.J. 13 Ricœur, Paul 4, 10, 53, 204, 207 Riss, Søren 63, 68, 78 Robinson, Dylan 159 Rodriguez, Jeremiah 151 Rosen, Zwi 5 Rossini, Frederick A. 216 Rouvroy, Antoinette 182 Russell, Norman 81 Sander, Thorsten 215 Saura, José Ramón 57 Savulescu, Julian 106 Sayer, Andrew 55 Schiavone, Aldo 187 Schiffers, Juliane 128

Index of Names Schleiermacher, Friedrich Daniel Ernst 130 Schmidt, Jan Cornelius 221 Schmitt, Carl 209 Schummer, Joachim 230 Schwarke, Christian 6 Schüssler, Ingeborg 64, 65, 69 Scobie, Michelle 144, 145 Scott, Duncan Campbell 170, 173 Scott, Ridley 39 Seefried, Elke 214 Sellars, Wilfrid 101 Sherrard, Philip 88 Shin, Donghee 7 Sidgwick, Henry 14, 99 Sikora, Richard I. 12, 13 Silva, Denise Ferreira da 160 Simpson, Leanne Betasamosake 153, 171, 172 Singler, Beth 93 Skrimshire, Stefan 139 Smith, Adam 100 Smith, Michael 91 Snow, Charles Percy 102, 103 Socrates 95–98, 104, 105 Spaemann, Robert 108 Stiegler, Bernard 182–184, 188–190 Stoellger, Philipp 4, 10 Strauß, Stefan 215 Stöckler, Manfred 221 Susen, Simon 73 Syropoulos, Stylianos 141 Talaga, Tanya 151 Thompson, D. 191 Thomé, Martin 78 Tillich, Paul 50 Tirosh-Samuelson, Hava 117 Torgersen, Helge 215–219, 222, 223, 232 Torrance, Eugenia 81, 89, 90, 92, 93 Trothen, Tracy J. 82 Truth and Reconciliation Commission of Canada 152, 157–159, 168–170, 172–174 Tuck, Eve 159 Tudor, Matilda 67 Tugendhat, Ernst 100 Tully, James 153

Index of Names Uexküll, Jakob von 201 Ulpianus, Domitius 195, 199 Underwood, Ted 24 United Nations 230 Van Dooren, Thom 195, 196, 199, 201–206, 208–210 Varian, Hal R. 59 Verbeek, Peter-Paul 33 Villiers, Etienne de 5 Visser’t Hooft, Hendrik Philip 14 Vita-More, Natasha 82, 111, 112 Vlastos, Gregory 96, 97 Voegelin, Eric 102 Vora, Kalindi 30 Wagner, Gerald 213 Wainwright, Joel 179 Waldenfels, Bernhard 10, 15, 177, 186, 202, 204, 205 Wallach, Wendell 47 Ware, Kallistos 88 Watson, Irene 196 Watt, James G. 139 Weber, Max 4, 5, 51, 54–56, 73, 102

239

Wehrle, Maren 201 Weisbach, David A. 12, 17 Wendte, Martin 68, 76 Westra, Laura 11 White, Julie Anne 181 Wieland, Wolfgang 98, 108 Williams, Bernard 98–101, 107 Williams, Thomas 143 Wittung, Jeffery A. 81 Wolfe, Patrick 152 Wood, Allen W. 107 Woopen, Christiane 217 Wulff, Agnes 76 Wynter, Sylvia 160, 161 Yeats, William Butler 103 Young, Iris Marion 3, 6, 53 Zahl, Simeon 147 Zeeb, Tobias 10 Zenklusen, Stefan 64, 68 Zovko, Jure 96 Zuboff, Shoshana 24, 51, 55–60, 71, 73, 75 Zylinska, Joanna 25, 28

Index of Subjects a-legal 201, 203 accountability 7–9, 32, 33, 40, 152 agency 4–6 – agency of AIs 6 – agent-centred perspective 198 – agent/Akteur 42–44, 50, 55, 123–125 – collective 197 ANN 43, 48, 49 apex mentis 116 artificial intelligence 2, 3, 5, 7, 40–47, 49–52, 55, 57, 58, 60, 61, 65, 67–70, 75, 77, 78, 111, 147 – as existential media 28, 29, 35 – bias 8 – explainability 7, 8 – explainable AI 7 – human centered 32 – machine learning 1, 24, 43 – responsible AI 35, 42 – socially embedded AI 24, 51, 52, 56, 67 attribution 125, 126 autonomous cars 5, 44–47, 49 behavioral patterns 51, 57–60, 69–71, 77 Being-in-the-world (Heidegger) 154–156, 163, 166 bias 24, 29, 32, 69 biodiversity 230 black-box-problem 7 body politic 164, 168, 170, 171 calculability 72 – of consequences 42, 53 care 156, 177–184, 186–189, 192–194 – for a common world 166 – for a shared world 158 – for the world 156, see worldcarefulness, 175 – mutual 159 – practices of 159, 160 – traditions of 160

carebot 23 causal chain 4, 6 causality 4, 53, 62, 63, 70, 75–77, 220, 221, 228 climate crisis 6, 117, 137, 139, 140, 142, 144, 148 coexisters 35 colonial institutions 152 colonial violence 152–160, 162–167, 169–171, 175 – artefact of 165 – intergenerational responsibility for 156 – responsibility for 154 – sedimented structures of 154 colonialism – unlearning colonialism (Azoulay) 155, 166 communication community – ideal and real 229, 230 comprehensibility 43, 44 conditio humana 2 consequentialism 100, 101 contingency 66, 67, 72, 74, 122 – contingent future 9 – of human existence 122 – of situations 125 Council of Chalcedon 85 creation 40, 112, 114, 119, 131–133 creator 119, 120, 131, 132 creator/creation 88, 119 CRISPR/Cas9 111 cyborg theology 132 data colonialism 25 deep-passivity 10 determination (as a virtue) 97 diffusion of responsibility 5, 43 – horizontal 5–9 – vertical 5–9 digital existence 23, 61, 67 digital limit situation 23, 27–30, 35

242

Index of Subjects

digital thrownness 29 disambiguation 68, 72, 74, 75 effectiveness 52, 55, 56, 60, 62, 63, 65 enviromental ethics 117, 137, 138, 144 eschatological horizon 140 eschaton 142 ethical time 186, 187, 191, 192 ethics – deontological 40, 42, 228 – virtue 95 eudaimonia 95, 96 – euchaimonisitic ethics 97 existential media 26–29, 35 – existential media studies 31 exploitation 24, 25 finitude 93, 121, 122 – as condition of freedom 126 – life 153 – of creation 133 – of human beings 3, 120–122, 126–128 – of reality 122 freedom 1, 3, 86–88, 100, 124–126 – and responsibility 123, 126 future ethics 214, 215, 225, 226, 230–232 future generations 6, 137–144, 146–148, 150, 154, 158, 195, 212, 225 Gestell (Heidegger) 52, 60, 61, 66–70, 75, 76, 78 God 82, 84, 85, 88, 89, 91, 92, 131 – gift 131 – grace 131 – grace of 86 – presence of 131, 133 – relation to us 133 – triune 85 – will of 84, 87 good life 95–97 grief 143 guilt 40, 63, 78, 154, 156, 158, 163–168 hope 137, 140, 142 human being 114, 115 – ahuman 115 – as animal 113 – as animal rationale 116 – as creation 131

– as deficient being (Gehlen) 2, 113 – definition 111 – existence (Dasein) 122, 128, 129 – more-than-human 115 – non-human 115 – prosthetic extension of the 114 – suchness (Sosein) 122, 129 – trueness (Wahrsein) 122, 129 human enhancement 93 Human-Machine Hybrid 131–133 humanitas 115, 116 humanity – as normative project 119 humanum 3, 106, 109 IACA-model of law 196, 198, 199 imago Dei 116, 130 imperial violence see colonial violence imputatio 3, 8, 9, 124 intelligence (as a virtue) 97 intergenerational 177–181, 184, 186–189, 191–194 – justice 195–197, 202, 210–212 judgement 96–99, 102, 106–110 – bioethical 104 – good 97 – moral 104 – reflektierende Urteilskraft (Kant) 109 legal imperceptibility 201 legal invisibility 200, 204 legal order 196–205, 207, 208, 210, 212 legal recognition 207, 210 – misrecognition 209 liability 152, 155, 166–168 likeness – of God 88 limit situation 28 – digital limit situation 29 Machenschaften (Heidegger) 69 magnanimity 97 memory 39, 40 – loop 39, 40 moral relativism 99, 110 more-than-human – collectives 196, 197, 201, 202, 207, 210–212

Index of Subjects – life 156 mourning 27, 28, 143 natality 191, 195, 210, 211 neural network 44, 48, 49 NLP (natural language processing) 8 nudging 57 orders of preservation (Bonhoeffer) 142 pandemic 1, 177–180, 184, 185 passivity 112, 120, 128–130 – creative 130, 132 – deep passivity 120, 129–133 – foundational 129 – radical passivity 207 past generations 143 penultimate (Bonhoeffer) 140, 142 personhood 153 – relational 153 phenomenology 33, 201, 203 – critical 154, 155, 170 phronesis 96, 97, 104, 105 place-holding the future 211 pluralism 99, 110, 118, 120, 131 potentializing history (Azoulay) 155, 156, 158–160, 164, 166, 169, 170, 174, 175 power 28, 51–59, 65, 69–78 – and powerlessness 77 – descision 54, 55, 59 – dimensions of (Lukes) 56 – discursive 70, 72 – instrumentarian (Zuboff) 51, 55–60 – noumenal (Forst) 73 – of passivity 112 – of reasons 52, 56, 70, 71, 73, 74 – radical asymmetries of 138 – reason of 52, 70, 74 – structures 52 – subject of 52–56, 74 – technique of 43 powerlessness 209 prediction of future behavior 51, 60, 65, 68, 71 problem of generations 138 prudence 97 relationality – deep relationality 28, 30, 35

243

– human 32 rememberance 142 – commemorating 27 representation 200, 201, 205, 212 – recognitive 206 Residential Schools 151, 152, 157–159, 167–175 responsibility 1–3, 9, 40–42, 50–53, 55, 59, 62, 76–78, 119, 122, 123, 126–128, 156, 166, 180, 184, 186, 187, 190–192, 194 – attribution of 3–5, 8, 41–43, 45–47, 51, 53–55, 59, 76, 124 – decolonial 152, 160 – for the future 3, 137, 227 – implementation in machines 40 – individual 166 – intergenerational 137, 141, 143–147, 151, 152, 154, 157, 163, 165–167, 228 – liability model 53, 166 – moral 123, 124 – prospective 42, 46, 47 – relata of 52 – retrospective 42, 46, 47 – structural forumla of 1 – subject of 50, 52, 55, 77 – to future generations 137, 138, 140, 142, 146, 150 – to past generations 142, 143 robots 39, 40, 48, 111, 230 – sentient robots 36 – social robots 30 salvation 84, 87, 88 self-knowledge 96 subject – human subjectivity 26 – liberal subject 30, 32, 33, 181 suffering 92, 111, 143, 160 – past suffering 143 superintelligence 117 technology impact assessment 213–220, 223–225, 230–232 – neutrality 215–220, 223–225, 231, 232 temporality 179–181, 186, 187, 190, 193 – ethical 186 theosis 81, 83, 84, 87–89, 91, 92, 94

244

Index of Subjects

thrownness see digital thrownness transcendence 10, 40, 112 transhumanism 82–85, 89, 90, 93, 94, 103, 104, 106, 112–115, 147 – etymology of 82 – Humanity+ 112 – Russian Transhumanist Movement 84 – transhumanist movement 81, 82 transparency – of algorithms 43, 44, 49

utilitarianism 99–101 virtue 97, 105 vulnerability 27, 28, 30, 177–179, 184, 185, 191, 193 world image 66, 67, 69, 72, 73, 75 world-destroying violence 163 world-destructiveness 158, 161–163 worldcarefulness 156, 158–164, 171, 172