{"guid":"d9be149a-d71f-5709-9fc7-809a5cf76a52","title":"Problematische Algorithmen greifen in unser Leben ein - was sind die Probleme und mögliche Ansätze zur Regulierung?","subtitle":null,"slug":"pw20-347-problematische-algorithmen-greifen-in-unser-leben-ein-was-sind-die-probleme-und-mgliche-anstze-zur-regulierung-","link":"https://cfp.privacyweek.at/pw20/talk/NAVSKC/","description":"Wie greifen Algorithmen in unser Leben ein, was können sie dabei anrichten, welche  Ungenauigkeiten, Generalisierungen, Vorurteile, Diskriminierungen werden beim Design und der Implementierung von Algorithmen umgesetzt und wie könnte eine Reglementierung aussehen?\n\nImmer öfter und immer tiefer greifen Algorithmen  in unser Leben ein. Dies geschieht entweder auf der Basis von Statistik oder auch Artificial Intelligence, was aber letztendlich oft für die Betroffenen keinen Unterschied macht. Dabei entstehen auf Grund inherenter Problematiken Fehler wie z.B. vielfältige Formen der Diskriminierung, bzw. die Perpetuierung bestehender Verhältnisse und Systeme. Dies wird an Hand von Beispielen wie dem AMS-Algorithmus, automatic sentencing, und anderen dargestellt und untersucht.\n\nDer Vortrag stellt dann eine Systematik der Fehlerquellen vor. Das beginnt bei Fehlern in der Programmierung, aber viel wichtiger sind Fehler bei der Auswahl des Verfahrens und die Limitierung dass für den Algorithmus grundsätzlich immer nur die Daten verwendet werden können, die nun mal vorliegen oder erhebbar sind. Dazu kommen weitere Probleme durch die Parametrisierung des Algorithmus, d.h. das Setzen von Prioritäten und Zielvorgaben. Dazu darf nicht vergessen werden, dass die letztendlichen Ziele die der Algorithmus implementieren soll grundsätzlich von außen vorgegeben werden und nichts mit neutraler Mathematik zu haben.\n\nZum Abschluss werden die aktuellen Entwicklungen zur Kategorisierung und möglicher Reglementierung von Algorithmen analog zu Konzepten der Datenschutzgrundverordnung (DSGVO) vorgestellt.\n\nDetails zu problematischen Algorithmen auch auf https://sicherheitskultur.at/Manipulation.htm#diskriminierung","original_language":"deu","persons":["Philipp Schaumann"],"view_count":164,"promoted":false,"date":"2020-10-27T20:00:00.000+01:00","release_date":"2020-11-08T00:00:00.000+01:00","updated_at":"2025-05-20T01:15:03.949+02:00","tags":["pw20","347","2020"],"length":3150,"duration":3150,"thumb_url":"https://static.media.ccc.de/media/events/privacyweek/2020/347-hd.jpg","poster_url":"https://static.media.ccc.de/media/events/privacyweek/2020/347-hd_preview.jpg","timeline_url":"https://static.media.ccc.de/media/events/privacyweek/2020/347-hd.timeline.jpg","thumbnails_url":"https://static.media.ccc.de/media/events/privacyweek/2020/347-hd.thumbnails.vtt","frontend_link":"https://media.ccc.de/v/pw20-347-problematische-algorithmen-greifen-in-unser-leben-ein-was-sind-die-probleme-und-mgliche-anstze-zur-regulierung-","url":"https://api.media.ccc.de/public/events/d9be149a-d71f-5709-9fc7-809a5cf76a52","conference_title":"PrivacyWeek 2020","conference_url":"https://api.media.ccc.de/public/conferences/pw20","related":[],"recordings":[{"size":404,"length":3150,"mime_type":"video/webm","language":"deu-eng","filename":"pw20-347-deu-eng-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_webm-hd.webm","state":"new","folder":"webm-hd","high_quality":true,"width":1280,"height":720,"updated_at":"2020-11-08T01:25:52.110+01:00","recording_url":"https://cdn.media.ccc.de/events/privacyweek/2020/webm-hd/pw20-347-deu-eng-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_webm-hd.webm","url":"https://api.media.ccc.de/public/recordings/48694","event_url":"https://api.media.ccc.de/public/events/d9be149a-d71f-5709-9fc7-809a5cf76a52","conference_url":"https://api.media.ccc.de/public/conferences/pw20"},{"size":252,"length":3150,"mime_type":"video/webm","language":"deu-eng","filename":"pw20-347-deu-eng-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_webm-sd.webm","state":"new","folder":"webm-sd","high_quality":false,"width":720,"height":576,"updated_at":"2020-11-08T01:09:19.347+01:00","recording_url":"https://cdn.media.ccc.de/events/privacyweek/2020/webm-sd/pw20-347-deu-eng-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_webm-sd.webm","url":"https://api.media.ccc.de/public/recordings/48681","event_url":"https://api.media.ccc.de/public/events/d9be149a-d71f-5709-9fc7-809a5cf76a52","conference_url":"https://api.media.ccc.de/public/conferences/pw20"},{"size":188,"length":3150,"mime_type":"video/mp4","language":"deu-eng","filename":"pw20-347-deu-eng-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_sd.mp4","state":"new","folder":"h264-sd","high_quality":false,"width":720,"height":576,"updated_at":"2020-11-08T01:08:57.732+01:00","recording_url":"https://cdn.media.ccc.de/events/privacyweek/2020/h264-sd/pw20-347-deu-eng-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_sd.mp4","url":"https://api.media.ccc.de/public/recordings/48680","event_url":"https://api.media.ccc.de/public/events/d9be149a-d71f-5709-9fc7-809a5cf76a52","conference_url":"https://api.media.ccc.de/public/conferences/pw20"},{"size":47,"length":3140,"mime_type":"audio/mpeg","language":"deu","filename":"pw20-347-deu-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_mp3.mp3","state":"new","folder":"mp3","high_quality":false,"width":0,"height":0,"updated_at":"2020-11-08T01:02:17.526+01:00","recording_url":"https://cdn.media.ccc.de/events/privacyweek/2020/mp3/pw20-347-deu-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_mp3.mp3","url":"https://api.media.ccc.de/public/recordings/48674","event_url":"https://api.media.ccc.de/public/events/d9be149a-d71f-5709-9fc7-809a5cf76a52","conference_url":"https://api.media.ccc.de/public/conferences/pw20"},{"size":33,"length":3140,"mime_type":"audio/opus","language":"deu","filename":"pw20-347-deu-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_opus.opus","state":"new","folder":"opus","high_quality":false,"width":0,"height":0,"updated_at":"2020-11-08T01:01:58.807+01:00","recording_url":"https://cdn.media.ccc.de/events/privacyweek/2020/opus/pw20-347-deu-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_opus.opus","url":"https://api.media.ccc.de/public/recordings/48673","event_url":"https://api.media.ccc.de/public/events/d9be149a-d71f-5709-9fc7-809a5cf76a52","conference_url":"https://api.media.ccc.de/public/conferences/pw20"},{"size":313,"length":3150,"mime_type":"video/mp4","language":"deu-eng","filename":"pw20-347-deu-eng-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_hd.mp4","state":"new","folder":"h264-hd","high_quality":true,"width":1280,"height":720,"updated_at":"2020-11-08T00:05:38.190+01:00","recording_url":"https://cdn.media.ccc.de/events/privacyweek/2020/h264-hd/pw20-347-deu-eng-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung_hd.mp4","url":"https://api.media.ccc.de/public/recordings/48621","event_url":"https://api.media.ccc.de/public/events/d9be149a-d71f-5709-9fc7-809a5cf76a52","conference_url":"https://api.media.ccc.de/public/conferences/pw20"},{"size":264,"length":3150,"mime_type":"video/mp4","language":"eng","filename":"pw20-347-eng-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung.mp4","state":"new","folder":"h264-hd","high_quality":true,"width":1280,"height":720,"updated_at":"2020-11-08T00:05:14.218+01:00","recording_url":"https://cdn.media.ccc.de/events/privacyweek/2020/h264-hd/pw20-347-eng-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung.mp4","url":"https://api.media.ccc.de/public/recordings/48620","event_url":"https://api.media.ccc.de/public/events/d9be149a-d71f-5709-9fc7-809a5cf76a52","conference_url":"https://api.media.ccc.de/public/conferences/pw20"},{"size":264,"length":3150,"mime_type":"video/mp4","language":"deu","filename":"pw20-347-deu-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung.mp4","state":"new","folder":"h264-hd","high_quality":true,"width":1280,"height":720,"updated_at":"2020-11-08T00:04:51.418+01:00","recording_url":"https://cdn.media.ccc.de/events/privacyweek/2020/h264-hd/pw20-347-deu-Problematische_Algorithmen_greifen_in_unser_Leben_ein_-_was_sind_die_Probleme_und_moegliche_Ansaetze_zur_Regulierung.mp4","url":"https://api.media.ccc.de/public/recordings/48619","event_url":"https://api.media.ccc.de/public/events/d9be149a-d71f-5709-9fc7-809a5cf76a52","conference_url":"https://api.media.ccc.de/public/conferences/pw20"}]}