Algorithmic accountability als Lösung – wofür?

  • Dominik Hofmann Universität Bielefeld
Schlagworte: Algorithmen, algorithmic accountability, Entscheidung

Abstract

Die eigentliche, in den verschiedenen Formen der Skandalisierung von „Algorithmisierung“ des Rechts und seines Gegenstandsbereichs sich nur unterschiedlich ausformende, durch das Auftreten der neuen digitalen Rechtsakteure aufgetane Problematik, besteht darin, dass die Technik es erschwert, einige funktionalen Fiktionen aufrecht zu erhalten, hinter denen sich die Unentscheidbarkeitsparadoxie verbirgt. Unter dieser Prämisse lautet die soziologische Anschlussfrage weniger, wofür Algorithmen Äquivalente darstellen, als vielmehr, welche Äquivalente zu den klassischen Mechanismen des Verbergens der Fiktionalität sich mit ihrem Aufkommen einspielen. Der vorgeschlagene Ansatz versucht eine Teilantwort auf der Ebene von Semantik. Der Begriff der algorithmic accountability fungiert als einheitliche Lösungsformel für die diversen Folgeprobleme der Entscheidungsparadoxie. Anhand einer Zurückverfolgung der Geschichte der accountability-Semantik werden drei Bedeutungsdimensionen des Begriffs unterschieden, welche allesamt als Antwort auf Fragen nach dem Umgang mit diversen Problemen dienen können, die die vermehrte Beteiligung algorithmischen Entscheidens an der sozialen Welt aufwirft.

Literaturhinweise

ABIDA. 2018. Algorithmic Accountability. ABIDA Gutachten 01IS15016A. https://www.abida.de/sites/default/files/ABIDA%20Gutachten%20Algorithmic%20Accountability.pdf (Zugegriffen: 14. Jan. 2021)

AI Now. 2018. Algorithmic Accountability Policy Toolkit. https://ainowinstitute.org/aap-toolkit.pdf (Zugegriffen: 14. Jan. 2021).

Alhadeff, Joseph, Brendan Van Alsenoy und Jos Dumortier. 2012. The Accountability Principle in Data Protection Regulation: Origin, Development and Future Directions. In Managing Privacy through Accountability. Hrsg. Daniel Guagnin, Leon Hempel, Carla Ilten, Inga Kroener, Daniel Neyland und Hector Postigo, 49–82. London: Palgrave Macmillan.

Ananny, Mike, und Kate Crawford. 2018. Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability. New Media & Society 20:973–989.

Barlett, III, Robert P., Adair Morse, Nancy Wallace und Richard Stanton. i.E. Algorithmic Accountability. A Legal and Economic Framework. Berkeley Technology Law Journal, http://faculty.haas.berkeley.edu/morse/research/papers/AlgorithmicAccountability_BartlettMorseStantonWallace.pdf (Zugegriffen: 14. Jan. 2021).

Brunsson, Nils. 2017. The Consequences of Decision-Making. Oxford: Oxford University Press.

Butin, Denis, Marcos Chicote und Daniel Le Métayer. 2014. Strong Accountability: Beyond Vague Promises. In Reloading Data Protection, Hrsg. Serge Gutwirth, Ronald Leenes und Paul De Hert, 343–369. Dordrecht: Springer.

Caplan, Robyn, Joan Donovan, Lauren Hanson und Jeanna Matthews. 2018. Algorithmic Accountability: A Primer. Data & Society. https://datasociety.net/wp-content/uploads/2019/09/DandS_Algorithmic_Accountability.pdf (Zugegriffen: 14. Jan. 2021).

Casey, Anthony, und Anthony Niblett. 2016. Self-Driving Laws. University of Toronto Law Journal 66:429–442.

Cevolini, Alberto, und Elena Esposito. 2020. From Pool to Profile: Social Consequences of Algorithmic Prediction in Insurance. Big Data & Society 7:1–11.

Derrida, Jacques. 2002. Force of Law: The „Mystical Foundations of Authority“. In Acts of Religion. Edited and with an Introduction by Gil Anidjar, 228–298. London/New York: Routledge.

Diakopoulos, Nicholas. 2015. Algorithmic Accountability. Journalistic investigation of computational power structures. Digital Journalism 3:398–415.

Edwards, Lilian, und Michael Veale. 2018. Slave to the Algorithm? Why a „Right to an Explanation“ is Probably not the Remedy you are Looking for. Duke Law & Technology Review 16:18–84.

Esposito, Elena. 2014. Algorithmische Kontingenz. Der Umgang mit Unsicherheit im Web. In Die Ordnung des Kontingenten. Beiträge zur zahlenmäßigen Selbstbeschreibung der modernen Gesellschaft. Hrsg. Alberto Cevolini, 233–249. Wiesbaden: Springer VS.

Esposito, Elena. 2016. Zeitmodi. Soziale Systeme 12:328–344.

Esposito, Elena. 2017. Artificial Communication? The Production of Contingency by Algorithms. Zeitschrift für Soziologie 46:249–265.

von Foerster, Heinz. 1992. Ethics and Second-order Cybernetics, Cybernetics & Human Knowing 1:9–19.

Gassaway, Robert R., und Ashley C. Parrish. 2017. Administrative Law in Flux: An Opportunity for Constitutional Reassessment. George Mason Law Review 24:361–416.

Hart, Jonathan, und Caspar-Fridolin Lorenz. 2017. „Hello World“ - Systemtheoretische Überlegungen zu einer Soziologie des Algorithmus. kommunikation @ gesellschaft 18:1–18.

Heimstädt, Maximilian, und Leonhard Dobusch. Transparency and Accountability: Causal, Critical and Constructive Perspectives. Organization Theory 1:1–12.

Hoeren, Thomas, und Maurice Niehoff. 2018. KI und Datenschutz - Begründungserfordernisse automatisierter Entscheidungen. Rechtswissenschaft: Zeitschrift für rechtswissenschaftliche Forschung 9:47–66.

Kemper, Jakko, und Daan Kolkman. 2019. Transparent to whom? No algorithmic accountability without a critical audience. Information, Communication & Society 22:2081–2096.

Lane, Melissa. 2020. The Idea of Accountable Office in Ancient Greece and Beyond. Philosophy 95:19–40.

Locke, John. [1690] 1975. An essay concerning human understanding. Ed. with an introd., critical apparatus and glossary by Peter H. Nidditch. Clarendon: Oxford

Luhmann, Niklas. 1988. Die Wirtschaft der Gesellschaft. Frankfurt am Main: Suhrkamp.

Luhmann, Niklas. 1993a. Das Recht der Gesellschaft. Frankfurt am Main: Suhrkamp.

Luhmann, Niklas. 1993b. Die Paradoxie des Entscheidens. Verwaltungsarchiv 84:287–310.

Luhmann, Niklas. 1997. Die Gesellschaft der Gesellschaft. Frankfurt am Main: Suhrkamp.

Luhmann, Niklas. 2000. Die Politik der Gesellschaft. Hrsg. André Kieserling. Frankfurt am Main: Suhrkamp.

Luhmann, Niklas. 2008. Rechtssoziologie. Wiesbaden: VS.

Luhmann, Niklas. 2009. Zur Komplexität von Entscheidungssituationen (Manuskript von 1973). Soziale Systeme 15:3–35.

Luhmann, Niklas. 2011. Organisation und Entscheidung. Wiesbaden: VS.

Luhmann, Niklas. 2017. Legitimation durch Verfahren. Frankfurt am Main: Suhrkamp.

McGregor, Lorna, Daragh Murray und Vivian Ng. 2019. International Human Rights Law as a Framework for Algorithmic Accountability. International & Comparative Law Quarterly 68:309–343.

Mittelstadt, Brent Daniel, Patrick Allo, Mariarosaria Taddeo, Sandra Wachter und Luciano Floridi. 2016. The ethics of algorithms: Mapping the debate. Big Data & Society 3:1–21.

Mulgan, Richard. 2000. „Accountability“: An Ever-Expanding Concept? Public Administration 78:555–573.

New, Joshua, und Daniel Castro. 2018. How Policymakers Can Foster Algorithmic Accountability. Center For Data Innovation, 21. Mai 2018. https://www2.datainnovation.org/2018-algorithmic-accountability.pdf (Zugegriffen: 14. Jan. 2021).

Neyland, Daniel. 2016. Bearing Account-able Witness to the Ethical Algorithmic System. Science, Technology, & Human Values 41:50–76.

O’Donnell, Guillermo. 1998. Horizontal Accountability in New Democracies. Journal of Democracy 9:112–126.

Ortmann, Günther. 2003. Buridans Esel verhungert nicht. Notiz zur Paradoxie des Entscheidens. In Organisation und Welterschließung. Dekonstruktionen, 145–147 . Wiesbaden: Springer VS.

Pasquale, Frank. 2019. The Second Wave of Algorithmic Accountability. The Law and Political Economy (LPE) Project. https://lpeproject.org/blog/the-second-wave-of-algorithmic-accountability/ (Zugegriffen: 14. Jan. 2021).

Pensky, Max. 2016. Three Cheers for the Impunity Norm. Philosophy & Social Criticism 42:487–499.

Saurwein, Florian, Natascha Just und Michael Latzer. 2017. Algorithmische Selektion im Internet. Risiken und Governance automatisierter Auswahlprozesse. kommunikation@gesellschaft 18.

Schörling-Ajayi, Marianne. 2019. Komplexe Entscheidungen in der Gegenwartsgesellschaft. Zur Soziologie thematisierter Unterscheidungsarbeit. Wiesbaden: Springer VS.

Schroeder, Michael Bluman, und Alana Tiemessen. 2014. Transnational Advocacy and Accountability: From Declarations of Anti-Impunity to Implementing the Rome Statute. In Implementation and World Politics: How International Norms Change Practice. Hrsg. Alexander Betts und Phil Orchard, 50–67. Oxford University Press: Oxford.

Suksi, Markku. 2020. Administrative due process when using automated decision-making in public administration: some notes from a Finnish perspective. Artificial Intelligence and Law. https://doi.org/10.1007/s10506-020-09269-x.

Web Foundation. 2017. Algorithmic Accountability. Applying the concept to different country contexts. World Wide Web Foundation, Juli 2017. http://webfoundation.org/docs/2017/07/Algorithms_Report_WF.pdf (Zugegriffen: 14. Jan. 2021).

Veröffentlicht
2021-09-10
Rubrik
Sektion Rechtssoziologie: Algorithmen im Recht. Rechtspraktische Implikationen und rechtssoziologische Herausforderungen durch Künstliche Intelligenz, machine learning und Co.