{"guid":"fafe3924-efd3-53fe-9a48-a627d2d5b572","title":"Diskriminierende Algorithmen: Technische oder soziale Frage?","subtitle":null,"slug":"wk04-7561-diskriminierende-algorithmen-technische-oder-soziale-frage-","link":"https://cfp.digitale-gesellschaft.ch/wk04/talk/UM9ZWE/","description":"Wie über und durch Algorithmen diskriminiert wird. Zunehmend mehr Entscheidungen werden von automatisierten Computeralgorithmen getroffen und oft unhinterfragt akzeptiert. Dadurch motiviert, diskutieren wir, wie diese Technikgläubigkeit gesellschaftliche Probleme nicht nur reproduziert, sondern auch verstärkt. Eine Einführung in die Funktionsweise der entsprechenden Algorithmen illustriert, warum dieses Problem technisch nicht lösbar ist und es sich im Kern um ein soziales Problem handelt. Nach einem Blick auf die Schweiz und darüber hinaus schliessen wir mit potentiellen Lösungsansätzen.\n\nZunehmend mehr Entscheidungen in der Privatwirtschaft und staatlichen Institutionen werden von automatisierten Computeralgorithmen getroffen. Meist unbemerkt erleichtern Algorithmen mühselige Aufgaben und extrahieren aus einem  komplizierten Datenberg schnell Informationen, womit Prozesse effizienter gestaltet werden sollen. Doch Metallgehäuse und mehr Rechnungskapazitäten liefern nicht wie von Zauberhand bessere und objektive Resultate. Die Anwendung automatisierter Entscheidungsfindungen durch Machine-Learning Algorithmen und Ähnliches führen immer wieder zur Ungleichbehandlung von Menschen, sei es in der Jobsuche, im Gesundheitssystem oder vor Gericht. Diese Diskriminierung versteckt sich jedoch hinter komplexen technischen Abläufen und einem Schleier der Neutralität, der den Maschinen anhaftet. Doch sind nun die Maschinen an der Diskriminierung schuld?\n\nIn unserem Vortrag möchten wir genau diese Frage diskutieren und versuchen sie zu beantworten. Wir werden eine Einführung und einen Überblick über die Anwendung und technische Funktionsweise von Algorithmen in automatisierten Entscheidungsfindungen geben. Wie Diskriminierung durch und über Algorithmen funktioniert, werden anhand von verständlichen und relevanten Beispielen durchgehen. Dabei soll ausgeführt werden, dass dies nur bedingt ein technisch lösbares Problem ist. In Bezug darauf und auf die rechtliche Situation in der Schweiz und der EU werden abschliessend Ansatzpunkte zukünftiger Regulierung von und die Notwendigkeit eines bewussten und transparenten Umgangs mit Algorithmen aufgezeigt.\n\n\u003cb\u003eWeiterführendes Material:\u003c/b\u003e\n\n\u003ca href=\"https://automatingsociety.algorithmwatch.org/wp-content/uploads/2020/12/Automating-Society-Report-2020.pdf\"\u003eAutomating Society Report Schweiz (2020) - AlgorithmWatch /CH​\u003c/a\u003e\n\n\u003ca href=\"https://link.springer.com/article/10.1007/s11614-019-00347-2\"\u003eHagendorff, Thilo (2019): Maschinelles Lernen und Diskriminierung: Probleme und Lösungsansätze, in: Österreichische Zeitschrift für Soziologie, Jg. 44, Nr. 1, S. 53–66​\u003c/a\u003e\n\n\u003ca href=\"https://www.antidiskriminierungsstelle.de/SharedDocs/Downloads/DE/publikationen/Expertisen/studie_diskriminierungsrisiken_durch_verwendung_von_algorithmen.pdf?__blob=publicationFile\u0026v=5\"\u003eOrwat, Carsten (2019): Diskriminierungsrisiken durch Verwendung  von Algorithmen, (Studie) Berlin: Antidiskriminierungsstelle des Bundes.​\u003c/a\u003e\n\n \u003ca href=\"https://www.digitale-gesellschaft.ch/2020/12/17/machine-learning-leitlinien-des-bundes-entscheidende-gefahren-nicht-benannt/\"\u003eSommer, David (2021): Machine-Learning-Leitlinien des Bundes, [online]\u003c/a\u003e","original_language":"deu","persons":["David Sommer","Linus Petermann"],"tags":["dgwk2021","7561","2021","Ethik, Wissenschaft, Kultur \u0026 Gesellschaft"],"view_count":218,"promoted":false,"date":"2021-02-26T19:15:00.000+01:00","release_date":"2021-03-06T00:00:00.000+01:00","updated_at":"2025-07-11T09:00:04.956+02:00","length":2386,"duration":2386,"thumb_url":"https://static.media.ccc.de/media/conferences/dgwk/2021/7561-fafe3924-efd3-53fe-9a48-a627d2d5b572.jpg","poster_url":"https://static.media.ccc.de/media/conferences/dgwk/2021/7561-fafe3924-efd3-53fe-9a48-a627d2d5b572_preview.jpg","timeline_url":"https://static.media.ccc.de/media/conferences/dgwk/2021/7561-fafe3924-efd3-53fe-9a48-a627d2d5b572.timeline.jpg","thumbnails_url":"https://static.media.ccc.de/media/conferences/dgwk/2021/7561-fafe3924-efd3-53fe-9a48-a627d2d5b572.thumbnails.vtt","frontend_link":"https://media.ccc.de/v/wk04-7561-diskriminierende-algorithmen-technische-oder-soziale-frage-","url":"https://api.media.ccc.de/public/events/fafe3924-efd3-53fe-9a48-a627d2d5b572","conference_title":"Winterkongress 2021","conference_url":"https://api.media.ccc.de/public/conferences/dgwk2021","related":[],"recordings":[{"size":262,"length":2386,"mime_type":"video/webm","language":"deu","filename":"dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_webm-hd.webm","state":"new","folder":"webm-hd","high_quality":true,"width":1920,"height":1080,"updated_at":"2021-03-06T11:22:30.613+01:00","recording_url":"https://cdn.media.ccc.de/events/dgwk/2021/webm-hd/dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_webm-hd.webm","url":"https://api.media.ccc.de/public/recordings/51961","event_url":"https://api.media.ccc.de/public/events/fafe3924-efd3-53fe-9a48-a627d2d5b572","conference_url":"https://api.media.ccc.de/public/conferences/dgwk2021"},{"size":104,"length":2386,"mime_type":"video/webm","language":"deu","filename":"dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_webm-sd.webm","state":"new","folder":"webm-sd","high_quality":false,"width":720,"height":576,"updated_at":"2021-03-06T10:51:20.988+01:00","recording_url":"https://cdn.media.ccc.de/events/dgwk/2021/webm-sd/dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_webm-sd.webm","url":"https://api.media.ccc.de/public/recordings/51948","event_url":"https://api.media.ccc.de/public/events/fafe3924-efd3-53fe-9a48-a627d2d5b572","conference_url":"https://api.media.ccc.de/public/conferences/dgwk2021"},{"size":36,"length":2386,"mime_type":"audio/mpeg","language":"deu","filename":"dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_mp3.mp3","state":"new","folder":"mp3","high_quality":false,"width":0,"height":0,"updated_at":"2021-03-06T10:41:04.098+01:00","recording_url":"https://cdn.media.ccc.de/events/dgwk/2021/mp3/dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_mp3.mp3","url":"https://api.media.ccc.de/public/recordings/51940","event_url":"https://api.media.ccc.de/public/events/fafe3924-efd3-53fe-9a48-a627d2d5b572","conference_url":"https://api.media.ccc.de/public/conferences/dgwk2021"},{"size":25,"length":2386,"mime_type":"audio/opus","language":"deu","filename":"dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_opus.opus","state":"new","folder":"opus","high_quality":false,"width":0,"height":0,"updated_at":"2021-03-06T10:40:31.118+01:00","recording_url":"https://cdn.media.ccc.de/events/dgwk/2021/opus/dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_opus.opus","url":"https://api.media.ccc.de/public/recordings/51939","event_url":"https://api.media.ccc.de/public/events/fafe3924-efd3-53fe-9a48-a627d2d5b572","conference_url":"https://api.media.ccc.de/public/conferences/dgwk2021"},{"size":61,"length":2386,"mime_type":"video/mp4","language":"deu","filename":"dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_sd.mp4","state":"new","folder":"h264-sd","high_quality":false,"width":720,"height":576,"updated_at":"2021-03-06T10:39:51.925+01:00","recording_url":"https://cdn.media.ccc.de/events/dgwk/2021/h264-sd/dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_sd.mp4","url":"https://api.media.ccc.de/public/recordings/51938","event_url":"https://api.media.ccc.de/public/events/fafe3924-efd3-53fe-9a48-a627d2d5b572","conference_url":"https://api.media.ccc.de/public/conferences/dgwk2021"},{"size":131,"length":2386,"mime_type":"video/mp4","language":"deu","filename":"dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_hd.mp4","state":"new","folder":"h264-hd","high_quality":true,"width":1920,"height":1080,"updated_at":"2021-03-06T10:22:53.605+01:00","recording_url":"https://cdn.media.ccc.de/events/dgwk/2021/h264-hd/dgwk2021-7561-deu-Diskriminierende_Algorithmen_Technische_oder_soziale_Frage_hd.mp4","url":"https://api.media.ccc.de/public/recordings/51935","event_url":"https://api.media.ccc.de/public/events/fafe3924-efd3-53fe-9a48-a627d2d5b572","conference_url":"https://api.media.ccc.de/public/conferences/dgwk2021"}]}