Probabilistische Wirklichkeitsmodelle und soziologische Intelligenz
Schlagworte:
Large Language Models, Generative Künstliche Intelligenz, Machine LearningAbstract
In diesem Beitrag erörtere ich anhand einer Analyse sogenannter Large Language Models sozialtheoretische Aspekte maschinellen Lernens. Insbesondere untersuche ich dabei den Wirklichkeitsbezug algorithmischer Modelle sowie Implikationen ihrer probabilistischen Operationsweise für ihre Sozialität. Auf dieser Basis charakterisiere ich maschinelles Lernen soziologisch als von einer Spannung zwischen seinen Eigenschaften als stochastische Rechentechnik und kausaltechnischen Nutzungsabsichten geprägtes Phänomen. Abschließend biete ich einen Vorschlag zur Charakterisierung der Beziehung von Soziologie und maschinellem Lernen hinsichtlich ihrer Modi der Wirklichkeitsbeobachtung.
In this paper, I explore various aspects of a social theory of machine learning by means of an analysis of so-called Large Language Models. In particular, I investigate how algorithmic models relate to social reality and what their probabilistic mode of operation entails in terms of their sociality. Based on this account, I describe machine learning as a phenomenon characterized by a constitutive tension between its stochastic properties and its use as causal technology. Finally, I offer a characterization of the relationship between sociology and machine learning in terms of their modes of observing reality.
Literaturhinweise
Akrich, Madeleine 1992: The De-Scription of Technical Objects. In Wiebe E. Bijker / John Law (eds.), Shaping Technology / Building Society: Studies in Sociotechnical Change. Cambridge: MIT Press, 205–224.
Bajohr, Hannes 2022: Dumme Bedeutung. Künstliche Intelligenz und artifizielle Semantik. Merkur, 76. Jg., Heft 882, 69–79.
Baudrillard, Jean 2002: Deep Blue or the Computer’s Melancholia. In Jean Baudrillard, Screened Out. London, New York: Verso, 160–165.
Baudrillard, Jean 2012: Beyond Artificial Intelligence: Radicality of Thought. In Jean Baudrillard, Impossible Exchange. London, New York: Verso, 145–158.
Bender, Emily 2023: Thought experiment in the National Library of Thailand. https://medium.com/@emilymenonbender/thought-experiment-in-the-national-library-of-thailand-f2bf761a8a83, letzter Aufruf am 1. November 2023.
Bender, Emily M. / Gebru, Timnit / McMillan-Major, Angelina / Shmitchell, Shmargaret 2021: On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, doi: 10.1145/3442188.3445922.
Binder, Werner 2021: Alpha Go’s Deep Play. Technological Breakthrough as Social Drama. In Jonathan Roberge / Michael Castelle (eds.), The Cultural Life of Machine Learning. An Incursion into Critical AI Studies. Cham: Palgrave Macmillan, 167–195.
Bull, Sarah 2023: Content Generation in the Age of Mechanical Reproduction. Book History, vol. 26, no. 2, 324–361. doi: 10.1353/bh.2023.a910951.
Burrell, Jenna 2016: How the machine ›thinks‹: Understanding opacity in machine learning algorithms. Big Data & Society, vol. 3, no. 1, doi: 10.1177/20539517 15622512.
Campolo, Alexander / Schwerzmann, Katia 2023: From rules to examples: Machine learning’s type of authority. Big Data & Society, vol. 10, no. 2, doi: 10.1177/2053 9517231188725.
Cao, Sissi 2023: Can ChatGPT Essays Get You Into an Ivy League School? We Asked an ex-Harvard Advisor. Observer, 5th May 2023. https://observer.com/2023/05/chatgpt-generated-college-admissions-essay-ask-an-expert/, letzter Aufruf am 1. November 2023.
Cavia, AA 2022: Logiciel: Six Seminars on Computational Reason. Berlin: &&& Publishing.
Chiang, Ted 2023: ChatGPT Is a Blurry JPEG of the Web. The New Yorker, 9th February 2023. https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web, letzter Aufruf am 1. November 2023.
Chun, Wendy Hui Kyong 2021: Discriminating Data: Correlation, Neighborhoods, and the New Politics of Recognition. Boston: MIT Press.
Dhar, Payal 2020: The carbon impact of artificial intelligence. Nature Machine Intelligence, no. 2, 423–425. doi: 10.1038/s42256-020-0219-9.
Dourish, Paul 2016: Algorithms and their others: Algorithmic culture in context. Big Data & Society, vol. 3, no. 2, 1–12, doi: 10.1177/2053951716665128.
Esposito, Elena 2014: Algorithmische Kontingenz. Der Umgang mit Unsicherheit im Web. In Alberto Cevolini (Hg.), Die Ordnung des Kontingenten. Beiträge zur zahlenmäßigen Selbstbeschreibung der modernen Gesellschaft. Wiesbaden: Springer VS, 233–249.
Esposito, Elena 2022: Artificial Communication. How Algorithms Produce Social Intelligence. Cambridge: MIT Press.
Fazi, M. Beatrice 2021: Introduction: Algorithmic Thought. Theory, Culture & Society, vol. 38. no. 7/8, 5–11. doi: 10.1177/02632764211054122.
Galloway, Alexander R. 2012: The Interface Effect. Cambridge: MIT Press.
Glanville, Ranulph 1982: Inside every white box there are two black boxes trying to get out. Behavioral Science, vol. 12, no. 1, 1–11.
Goodfellow, Ian J. / Pouget-Abadie, Jean / Mirza, Mehdi / Xu, Bing / Warde-Farley, David / Ozair, Sherjil / Courville, Aaro / Bengio, Yoshua 2014: Generative adversarial nets. Proceedings of the 27th International Conference on Neural Information Processing Systems. doi: 10.5555/2969033.2969125.
Gray, Mary L./ Suri, Siddharth 2019: Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. Boston: Houghton Mifflin Harcourt.
Groß, Richard / Jordan, Rita 2023: KI-Realitäten / AI Realities. In Richard Groß / Rita Jordan (Hg), KI-Realitäten: Modelle, Praktiken und Topologien maschinellen Lernens. Bielefeld: transcript, 9–33.
Groß, Richard/ Wagenknecht, Susann 2023: Situating machine learning. On the calibration of problems in practice. Distinktion. Journal of Social Theory. vol. 24, no. 2, 315–337.
Hörl, Erich 2011: Die technologische Bedingung. Zur Einführung. In Erich Hörl (Hg.), Die technologische Bedingung. Beiträge zur Beschreibung der technischen Welt. Frankfurt am Main: Suhrkamp, 7–53.
Jaton, Florian 2021: The Constitution of Algorithms. Ground Truthing, Programming, Formulating. Cambridge: MIT Press.
Lehmann, Maren 2014: Komplexe Ereignisse und kontingente Mengen. Anmerkungen zur Soziologie der Zahl. In Alberto Cevolini (Hg.), Die Ordnung des Kontingenten. Beiträge zur zahlenmäßigen Selbstbeschreibung der modernen Gesellschaft. Wiesbaden: Springer VS, 41–62.
Lepenies, Robert 2022: Twitter-Thread vom 7. Dezember 2022. https://twitter.com/RobertLepenies/status/1600611200408100876, letzter Aufruf am 1. November 2023.
Lopez, Paola 2023: ChatGPT und der Unterschied zwischen Form und Inhalt. Merkur, 77. Jg., Heft 891, 15–27.
Luhmann, Niklas 1997: Die Gesellschaft der Gesellschaft. 2 Bände. Frankfurt am Main: Suhrkamp.
Mackenzie, Adrian 2015: The production of prediction. Was does machine learning want? European Journal of Cultural Studies, vol. 18, no. 4-5, 429–445.
Muhle, Florian 2023: (Vor-)Geschichte der Künstliche-Intelligenz-Forschung und der sozialen Robotik. In Florian Muhle (Hg.), Soziale Robotik: Eine sozialwissenschaftliche Einführung. Berlin, Boston: De Gruyter Oldenbourg, 13–29.
Nake, Frieder 2008: Surface, Interface, Subface: Three Cases of Interaction and One Concept. In Uwe Seifert / Jin Hyun Kim / Anthony Moore (eds.), Paradoxes of Interactivity: Perspectives for Media Theory, Human-Computer Interaction, and Artistic Investigations. Bielefeld: transcript, 92–109.
Shannon, Claude E. 1948: A Mathematical Theory of Communication. The Bell System Technical Journal, vol. 27, 379–423, 623–656.
Sherman, Stephanie 2022: The Polyopticon: A diagram for urban artificial intelligences. AI & Society, vol. 38, no. 3, 1209–1222, doi: 10.1007/s00146-022-01501-3.
Solomon, Mike 2023: GPT3 is Just Spicy Autocomplete. https://thecleverest.com/gpt3-is-just-spicy-autocomplete/, letzter Aufruf am 1. November 2023.
Steyerl, Hito 2023: Mean Images. New Left Review, no. 140/141. https://newleftreview.org/issues/ii140/articles/hito-steyerl-mean-images, letzter Aufruf am 1. November 2023.
Suchman, Lucy 2021: Talk with Machines, Redux. Interface Critique Journal, no. 3, 69–80.
von Foerster, Heinz 1984: Principles of Self-Organization in a Socio-Managerial Context. In Hans Ulrich / Gilbert J. B. Probst (eds.), Self-Organization and Management of Social Systems. Berlin: Springer, 2–24.
Wilk, Elvia 2020: Against Prediction: Designing Uncertain Tools. Noema Magazine, 24th September 2020. https://www.noemamag.com/against-prediction-designing-uncertain-tools/, letzter Aufruf am 1. November 2023.
