Die De-Organisation von Organisation?

Zu den Konsequenzen des Ersetzens menschlicher Entscheiderinnen und Entscheider durch Algorithmen in Organisationen

  • Michael Grothe-Hammer Helmut-Schmidt-Universität Hamburg
Schlagworte: Organisation, Entscheidungen, Algorithmen, Digitalisierung, algorithmic accountability, Verantwortungszurechnung, Systemtheorie, Algorithmisches Entscheiden, Kommunikation

Abstract

Menschliche Entscheiderinnen und Entscheider in Organisationen werden heutzutage zunehmend durch daten-intensive Algorithmen ersetzt. Algorithmen steuern Autos, Flugzeuge und Fahrstuhlsysteme, schreiben Nachrichten und Bücher, und verschlagworten Fotos auf digitalen Plattformen. Dieses sog. „algorithmische Entscheiden“ scheint folglich signifikante Veränderungen in Organisationen zu verursachen. Nichtsdestotrotz spielt dieses Phänomen im soziologischen Diskurs bislang kaum eine Rolle. Lediglich außerhalb der Soziologie findet sich mittlerweile eine Vielzahl an Arbeiten, die sich mit den sozialen Folgen algorithmischen Entscheidens auseinandersetzen. Allerdings wird in eben diesen Studien weder die Organisation als Untersuchungsgegenstand beachtet, noch wird der Begriff der „Entscheidung“ näher definiert. Beide Phänomene werden als gegeben hingenommen und nicht weiter reflektiert. In der Folge wissen wir überraschend wenig darüber, welche Implikationen das Ersetzen menschlicher Entscheiderinnen und Entscheider durch Algorithmen hat. Der vorliegende Beitrag adressiert diesen Umstand in zwei Hinsichten. Er präsentiert zum einen ein strikt soziologisches Verständnis von „Entscheidungen“, welches es erlaubt, das Phänomen des algorithmischen Entscheidens und dessen weitreichende Implikationen theoretisch zu erfassen. Zum anderen geht der Beitrag kurz auf einige Folgen algorithmischer Entscheidungen am Beispiel selbst-lernender Algorithmen ein. Dabei wird diskutiert, ob und inwieweit Organisationen ihre Entscheidungen überhaupt noch selbst treffen, wenn solche Algorithmen zum Einsatz kommen. Außerdem wird darauf eingegangen, inwiefern Organisationen als kollektiven Personen die Verantwortung für algorithmische Entscheidungen zugerechnet werden kann.

Literaturhinweise

Abend, Gabriel. 2018. Outline of a sociology of decisionism. The British Journal of Sociology 69:237–264.

Ahrne, Göran, und Nils Brunsson. 2011. Organization outside organizations. The significance of partial organization. Organization 18:83–104.

Ananny, Mike, und Kate Crawford. 2018. Seeing without knowing. Limitations of the transparency ideal and its application to algorithmic accountability. New Media & Society 20:973–989.

Besio, Cristina. 2013/2014. Uncertainty and attribution of personal responsibility in organizations. Soziale Systeme 19:307–326.

Bozdag, Engin. 2013. Bias in algorithmic filtering and personalization. Ethics and Information Technology 15:209–227.

Brayne, Sarah. 2017. Big Data Surveillance. The Case of Policing. American Sociological Review 82:977–1008.

Bruch, Elizabeth, und Fred Feinberg. 2017. Decision-Making Processes in Social Contexts. Annual Review of Sociology 43:207–227.

Büchner, Stefanie. 2018. Zum Verhältnis von Digitalisierung und Organisation. Zeitschrift für Soziologie 47:332–348.

Burrell, Jenna. 2016. How the machine ‘thinks’. Understanding opacity in machine learning algorithms. Big Data & Society 3.

Constantiou, Ioanna D., und Jannis Kallinikos. 2015. New games, new rules. Big data and the changing context of strategy. Journal of Information Technology 30:44–57.

Davenport, Thomas H., Paul Barth und Randy Bean. 2012. How big data is different. MIT Sloan Management Review 54:22–24.

Elragal, Ahmed, und Ralf Klischewski. 2017. Theory-driven or process-driven prediction? Epistemological challenges of big data analytics. Journal of Big Data 4.

Esposito, Elena. 2017. Artificial Communication? The Production of Contingency by Algorithms. Zeitschrift für Soziologie 46:249–265.

Faraj, Samer, Stella Pachidi und Karla Sayegh. 2018. Working and organizing in the age of the learning algorithm. Information and Organization 28:62–70.

Fung, Brian. 2015. If you search Google Maps for the N-word, it gives you the White House. https://www.washingtonpost.com/news/the-switch/wp/2015/05/19/if-you-search-google-maps-for-the-n-word-it-gives-you-the-white-house (Zugegriffen: 28. März 2019).

George, Gerard, und Yimin Lin. 2017. Analytics, innovation, and organizational adaptation. Innovation: Organization & Management 19:16–22.

Ghasemaghaei, Maryam, Sepideh Ebrahimi und Khaled Hassanein. 2018. Data analytics competency for improving firm decision making performance. The Journal of Strategic Information Systems 27:101–113.

Gibbs, Samuel. 2015. Google says sorry over racist Google Maps White House search results. https://www.theguardian.com/technology/2015/may/20/google-apologises-racist-google-maps-white-house-search-results (Zugegriffen: 28. März 2019).

Grothe-Hammer, Michael, und Dennis Schoeneborn. 2019. The Queen Bee Outlives Her Own Children. A Luhmannian Perspective on Project-Based Organizations (PBOs). In Dis/Organization as Communication. Exploring the Disordering, Disruptive and Chaotic Properties of Communication, Hrsg. Consuelo Vásquez und Timothy Kuhn, 60–79. New York: Routledge.

Hess, Amanda. 2017. How YouTube’s Shifting Algorithms Hurt Independent Media. https://www.nytimes.com/2017/04/17/arts/youtube-broadcasters-algorithm-ads.html.

Hutson, Matthew. 2018. Has artificial intelligence become alchemy? Science 360:478.

Kühl, Stefan. 2007. Formalität, Informalität und Illegalität in der Organisationsberatung. Systemtheoretische Analyse eines Beratungsprozesses. Soziale Welt 58:271–293.

Kühl, Stefan. 2011. Organisationen. Eine sehr kurze Einführung. Wiesbaden: VS Verlag für Sozialwissenschaften.

Lee, Min K. 2018. Understanding perception of algorithmic decisions. Fairness, trust, and emotion in response to algorithmic management. Big Data & Society 5.

Luhman, John Teta, und Ann L. Cunliffe. 2013. Key concepts in organization theory. London: SAGE.

Luhmann, Niklas. 1987. Soziale Systeme. Frankfurt am Main: Suhrkamp.

Luhmann, Niklas. 1995a. Was ist Kommunikation? In Soziologische Aufklärung 6. Die Soziologie und der Mensch, Hrsg. Niklas Luhmann, 113–124. Opladen: Westdeutscher Verlag.

Luhmann, Niklas. 1995b. Wie ist Bewußtsein an Kommunikation beteiligt? In Soziologische Aufklärung 6. Die Soziologie und der Mensch, Hrsg. Niklas Luhmann, 37–54. Opladen: Westdeutscher Verlag.

Luhmann, Niklas. 2000. Organisation und Entscheidung. Opladen: Westdeutscher Verlag.

Matthias, Andreas. 2004. The responsibility gap. Ascribing responsibility for the actions of learning automata. Ethics and Information Technology 6:175–183.

McAfee, Andrew, und Erik Brynjolfsson. 2012. Big data. The management revolution. Harvard Business Review 2012:3–9.

Mittelstadt, Brent D., Patrick Allo, Mariarosaria Taddeo, Sandra Wachter und Luciano Floridi. 2016. The ethics of algorithms. Mapping the debate. Big Data & Society 3.

Newell, Sue, und Marco Marabelli. 2015. Strategic opportunities (and challenges) of algorithmic decision-making. A call for action on the long-term societal effects of ‘datification’. The Journal of Strategic Information Systems 24:3–14.

Provost, Foster, und Tom Fawcett. 2013. Data Science and its Relationship to Big Data and Data-Driven Decision Making. Big Data 1:51–59.

Purves, Duncan, Ryan Jenkins und Bradley J. Strawser. 2015. Autonomous Machines, Moral Judgment, and Acting for the Right Reasons. Ethical Theory and Moral Practice 18:851–872.

Roßmann, Bernhard, Angelo Canzaniello, Heiko von der Gracht und Evi Hartmann. 2018. The future and social impact of Big Data Analytics in Supply Chain Management. Results from a Delphi study. Technological Forecasting and Social Change 130:135–149.

Schwarting, Rena. 2015. Hochfrequenzhandel zwischen Entscheidungsautomation und Entscheidungsautonomie. In Organisation und Unsicherheit, Hrsg. Maja Apelt und Konstanze Senge, 159–174. Wiesbaden: Springer.

Seidl, David. 2005. The Basic Concepts of Luhmann's Theory of Social Systems. In Niklas Luhmann and organization studies, Hrsg. David Seidl und Kai H. Becker, 21–53. Herndon, VA: Copenhagen Business School Press.

Sparrow, Robert. 2007. Killer Robots. Journal of Applied Philosophy 24:62–77.

Vanian, Jonathan. 2018. Unmasking A.I.'s Bias Problem. Fortune 178:30–38.

Veröffentlicht
2019-10-10
Zitationsvorschlag
[1]
Grothe-Hammer, M. 2019. Die De-Organisation von Organisation?. Nicole Burzan (Hg.) 2019: Komplexe Dynamiken globaler und lokaler Entwicklungen. Verhandlungen des 39. Kongresses der Deutschen Gesellschaft für Soziologie in Göttingen 2018. . 39, (Okt. 2019).
Rubrik
Ad-Hoc: Macht Digitalisierung Organisationen überflüssig? Aktuelle Herausforderungen nicht nur für die Organisationssoziologie