Ethische Fragen beim Einsatz von KI/ML in der Produktion amtlicher Statistiken – Teil 1: Identifikation - Florian Dumpert; Jannik Reichel; Elisa Oertel; Holger Leerhoff; Christian Salwiczek (WISTA - Wirtschaft und Statistik, 2025)
Künstliche Intelligenz (KI) hat mit ihrem Teilgebiet Maschinelles Lernen (ML) Einzug gehalten in die Verwaltung im Allgemeinen sowie in die amtliche Statistik in Deutschland im Speziellen. Welche ethischen Fragen sind jedoch beim Einsatz von KI/ML in der Produktion amtlicher Statistiken zu stellen? Der vorliegende erste Teil des Artikels identifiziert ethische Fragestellungen beim Einsatz von KI/ML in der amtlichen Statistik anhand bereits bekannter Vorarbeiten anderer Staaten und zwischenstaatlicher Organisationen. Ein separater zweiter Teil des Artikels untersucht, ob die nationalen Vorgaben der bestehenden und meist nicht KI/ML-spezifischen Referenzrahmen wie Recht und Qualität bereits ausreichen, um den hier identifizierten, auf Risikoszenarien basierenden Fragestellungen hinreichend zu begegnen. – – Artificial intelligence (AI) and its subset of machine learning (ML) have found their way into public administration in general and into official statistics in particular in Germany. What ethical issues need to be considered, however, when using AI/ML in the production of official statistics? This first part of the article identifies ethical issues concerning the use of AI/ML for official statistics on the basis of previous work conducted and published in other countries and by inter-governmental organisations. A separate second part of the article looks at the national requirements of existing reference frameworks, such as legislation and quality, which, in most cases, do not relate specifically to AI/ML. The second part examines whether these requirements are already enough to adequately address the issues which have been identified in this first part of the article on the basis of risk scenarios.
Keywords: 519; Künstliche Intelligenz; Maschinelles Lernen; Ethik; Recht; Qualität; artificial intelligence; machine learning; ethics; legislation; quality