Chatbots für den Arbeitsschutz: Nutzungsszenarien, Risiken und Empfehlungen - Swantje Robelski; Arn Dietz; Marie Jelenko; Robert Fischer-Schwarz (Zeitschrift für Arbeitswissenschaft, 2025)
Chatbots, die auf großen Sprachmodellen ( large language model , LLM) basieren, wie z.B. ChatGPT, stellen eine besondere Form der Künstlichen Intelligenz (KI) dar. Diese Sprachmodelle wurden mit Hilfe großer Mengen an Textdaten darauf trainiert, natürliche Sprache zu generieren. Auch im Arbeitsschutz können solche Chatbots Anwendung finden, beispielsweise durch niedrigschwellige Informationsbereitstellung. Sie können dabei ein Werkzeug sein, das gleichermaßen von Beschäftigten und Verantwortlichen im Arbeitsschutz eingesetzt wird. In einem Kooperationsprojekt zwischen der österreichischen Allgemeinen Versicherungsanstalt (AUVA) und der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) in Deutschland werden daher Nutzungsszenarien, Risiken und Empfehlungen beim Einsatz frei zugänglicher Chatbots im Kontext von Sicherheit und Gesundheit bei der Arbeit beleuchtet. Basierend auf der Literatur und einer nutzerzentrierten Analyse werden Anwendungsfälle im Bereich des Arbeits- und Gesundheitsschutzes entwickelt, in Fallbeispielen untersucht und von Expert:innen evaluiert. Darauf aufbauend werden Empfehlungen abgeleitet, die Nutzer:innen bei der Anwendung und Interpretation von Ergebnissen unterstützen. Es zeigt sich, dass die Nutzung von Chatbots im Bereich Sicherheit und Gesundheit bei der Arbeit Unterstützungspotential und Zugang zu Informationen bietet. Die Prüfung der Angaben und/oder der Rückgriff auf Fachexpertise bleiben aufgrund des Risikos fehlender oder fehlerhafter Informationen jedoch unerlässlich. Nutzen für die Praxis: Die Projektergebnisse bieten praxisnahe Empfehlungen für den Einsatz von generativen KI-Chatbots im Bereich der Arbeitssicherheit und des Gesundheitsschutzes. Die entwickelten Hinweise und Leitplanken können betriebliche Praktiker:innen in der Entscheidung unterstützen, ob und inwieweit Chatbots für sie geeignet sind und eine erste Annäherung an das Thema erleichtern. Die praxisorientierten Fallbeispiele verdeutlichen das breite Anwendungsspektrum von Chatbots, wie etwa bei Frage-Antwort-Formaten oder der Erstellung von Informationsmaterial. Zudem hilft das entwickelte Modell zur Klassifikation von Anwendungsfällen, die geeigneten Einsatzgebiete von KI-Chatbots zu identifizieren und eine zielgerichtete Nutzung zu fördern. Die Empfehlungen zur sicheren Handhabung und Interpretation der Chatbot-Antworten tragen dazu bei, Missverständnisse und Fehlinterpretationen zu vermeiden. – – Chatbots based on large language models (LLMs), such as ChatGPT, represent a specific form of artificial intelligence (AI). These language models are trained on large volumes of textual data to generate natural language. In the field of occupational safety and health, such chatbots can also find application—for example, by providing low-threshold access to information. They can serve as tools used both by employees and by those responsible for occupational safety. In a collaborative project between Austrian Workers' Compensation Board (AUVA) and the German Federal Institute for Occupational Safety and Health (BAuA), usage scenarios, risks, and recommendations related to the use of publicly available chatbots in the context of occupational safety and health are being examined. Based on the literature and a user-centered analysis, exemplary use cases in the field of occupational health and safety are developed and evaluated by experts. The results serve as a basis for deriving recommendations that help users apply and interpret chatbot-generated answers appropriately. The findings suggest that chatbots have the potential to support access to information in the field of occupational safety and health. However, due to the risk of incomplete or inaccurate information, verification and/or consultation with subject matter experts remains essential. Practical Relevance: The results of the project provide practice-oriented recommendations for the use of generative AI chatbots in occupational safety and health. The developed guidelines and orientation frameworks aim to support workplace practitioners in deciding whether and to what extent chatbots may be suitable for their needs, and to facilitate an initial engagement with the topic. The user stories illustrate the wide range of possible applications for chatbots—for example, in question-and-answer formats or the creation of informational materials. In addition, the developed model for classifying use cases helps identify appropriate areas for deploying AI chatbots and promotes targeted use. The recommendations for safe handling and interpretation of chatbot responses contribute to preventing misunderstandings and misinterpretations.
Keywords: 650; Künstliche Intelligenz; Große Sprachmodelle; Chatbots; Arbeitsschutz; Gesundheit; Artificial intelligence; Large language models; Occupational safety and health