„Im Namen des Computers?“

Ethische Aspekte der KI im Sozialrecht und im sozialgerichtlichen Verfahren

• Grit Julga

„I am sorry, Dave. I am afraid, I can’t do that“ – Seit einigen Jahren befindet sich die Justiz in dem Prozess der Digitalisierung, der durch die nun mehr rasante Entwicklung von KI insbesondere im Bereich Large Language Model (LLM) und der Möglichkeit ihres flächendeckenden Einsatzes eine Dynamisierung erlebt, die mit erheblichen Veränderungen der Arbeitsprozess und daraus folgenden Chancen aber auch Risiken verbunden ist. Im diesem Zusammenhang konzentrieren sich die Diskussionen neben den vielfältigen Einsatzmöglichkeiten oft auf die verfassungsrechtlichen Vorgaben und rechtlichen Rahmenbedingungen im Bereich von Transparenz, Datenschutz, Diskriminierung und Haftung. Anknüpfend an die Stellungnahme des Deutschen Ethikrates „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ widmete sich der Workshop des Deutsche Sozialgerichtstags e. V. (DSGT) den mit dem Einsatz von KI verbundenen gesellschaftlichen Herausforderungen, indem er die ethischen Aspekte der Verwendung von KI im Sozialrecht und sozialgerichtlichen Verfahren beleuchtete.