Save the Date!
Neben der Regulierung individueller Risiken durch die zunehmende Digitalisierung wie zB in der DS-GVO haben der Digital Services Act (DSA) und der Artificial Intelligence Act (AIA) nun auch systemische Risiken in den Fokus genommen.
Art. 34 und 35 DSA verpflichtet sehr große Online-Plattformen und sehr große Online-Suchmaschinen dazu, sorgfältig alle systemischen Risiken in der Union zunächst zu ermitteln, zu analysieren und zu bewerten und anschließend angemessene, verhältnismäßige und wirksame Risikominderungsmaßnahmen zu ergreifen. Als systemische Risiken nennt Art. 34 DSA beispielhaft nachteilige Auswirkungen auf die Ausübung von Grundrechten, auf die gesellschaftliche Debatte, – sehr aktuell – auf Wahlprozesse und die öffentliche Sicherheit, aber auch in Bezug auf geschlechtsspezifische Gewalt, den Schutz der öffentlichen Gesundheit und von Minderjährigen sowie die Verbreitung rechtswidriger Inhalte.
Der AIA definiert in Art. 3 Nr. 64 „systemisches Risiko“ als ein Risiko, „das für die Fähigkeiten mit hoher Wirkkraft von KI-Modellen mit allgemeinem Verwendungszweck spezifisch ist und aufgrund deren Reichweite oder aufgrund tatsächlicher oder vernünftigerweise vorhersehbarer negativer Folgen für die öffentliche Gesundheit, die Sicherheit, die öffentliche Sicherheit, die Grundrechte oder die Gesellschaft insgesamt erhebliche Auswirkungen auf den Unionsmarkt hat, die sich in großem Umfang über die gesamte Wertschöpfungskette hinweg verbreiten können“. Art. 51 AIA definiert KI-Modelle mit allgemeinem Verwendungszweck, die ein systemischem Risiko bergen, und legt ihnen in Art. 55 AIA strengere Sorgfaltspflichten auf, u.a. ebenfalls systemische Risiken zu ermitteln und zu mindern.
Diesen beiden neuen Regulierungsansätzen wollen wir uns inter- und intradisziplinär nähern, indem der Begriff des Systems und des systemischen Risikos zunächst aus soziologischer Perspektive betrachtet und dann mit den systemischen Risiken im Finanzsektor und damit mit dem historischen Kontext der ersten Regulierung gespiegelt wird, der spezifisch systemische Risiken regulieren wollte.
