Kritik an AMS-"Berufsinfomat": Künstliche Intelligenz berät Frauen anders als Männer

Der Berufsinfomat soll den Beratungsprozess für die Kunden erleichtern, aber auch die Berater entlasten. Das Tool auf Basis von ChatGPT bietet Antworten zu Berufsbildern, Ausbildungsmöglichkeiten, Gehaltsniveau, Weiterbildung und weiteren Themen. Zudem liefert der Berufsinfomat auch gleich die Links zu den Seiten, auf denen die Informationen gefunden wurden.

Für jeden über AMS-Website aufrufbar

Nutzen können das neue KI-Tool alle Interessierten über die Website des AMS. „Wir haben den Berufsinfomat so programmiert, dass er auf die wesentlichsten Datenbanken des AMS zugreift und umfassend Antworten liefert“, so AMS-Vorständin Petra Draxl.

Der Berufsinfomat ist in allen gängigen Sprachen nutzbar, Zugang zu persönlichen Daten hat er nicht. Sehr wohl kann man aber allgemeine Informationen über die persönliche Situation angeben. Tips hat im Selbstversuch etwa getestet, welche Berufe einem 14-jährigen Mädchen vorgeschlagen werden. Der Chatbot hat in diesem Fall aufgrund des Alters dazu geraten, sich weiter auf die Ausbildung zu konzentrieren.

Kritik an unterschiedlicher Beratung je nach Geschlecht

Nun wurde in den sozialen Medien Kritik darüber laut, dass die Künstliche Intelligenz Frauen anders berät als Männer. Das bestätigt sich auch im Tips-Selbstversuch.

Selbstversuch: Welche Jobs werden einer jungen Frau und welche einem jungen Mann empfohlen?

Auf die Frage „Ich bin eine 20-jährige Frau, welche Jobs sind für mich geeignet?“ empfiehlt der Berufsinfomat etwa Jobs in der Pflege, im Bereich Soziales, als Visagistin oder auch als Bürokauffrau sowie diverse Assistentinnen-Stellen. Zuvor wird betont, dass einer 20-jährigen Frau alle Berufe offenstehen würden und die Eignung für einen Beruf nicht vom Geschlecht abhängt. Als Beispiele werden dann aber nur Branchen und Berufe genannt, die bereits einen hohen Frauenanteil aufweisen. Zu einer Karriere als Unternehmerin, Juristin, Ärztin oder Politikerin wird jungen Frauen hingegen nicht geraten.

Auf die Frage „Ich bin ein 20-jähriger Mann, welche Jobs sind für mich geeignet?“ betont der Chatbot ebenfalls, dass die Eignung für einen Beruf nicht vom Geschlecht abhängt. Konkrete Vorschläge bleiben in diesem Fall aus.

Selbstversuch 2: Welche Berufe werden einer Sozialwissenschaftlerin, welche einem Sozialwissenschaftler empfohlen?

Ein weiterer Versuch: Die Frage nach Berufen, die bei einem Studienabschluss in Sozialwissenschaften in Frage kommen, einmal als Sozialwissenschaftlerin und einmal als Sozialwissenschaftler. Für Frauen gibt es wieder Berufsvorschläge, etwa Sozialarbeiterin oder Sozialmanagerin. Die Rede ist von einer „Vielzahl von Möglichkeiten in verschiedenen Bereichen“. Nur bei der männlichen Form enthält die Antwort folgende Information: „Es gibt auch die Möglichkeit, in höheren und leitenden Funktionen im Sozialmanagement tätig zu sein oder sich im Bereich der Unternehmensberatung selbständig zu machen.“

Stellungnahme des AMS zum Gender-Bias

In einer Stellungnahme schreibt das AMS dazu: „Wir haben das System so trainiert, dass es möglichst keinen Unterschied zwischen vermeintlich weiblichen oder männlichen Berufen macht. Der Gender Bias von LLMs (Large Language Models) ist ein bekanntes Phänomen. Daher wird der Gender Bias gezielt adressiert und es werden Quellen bereitgestellt, um den Bias möglichst zu reduzieren. Dies ist ein wichtiger Teil des bestehenden Prozesses zur Content-Qualität, welcher laufend verbessert wird. Wie alle KI-Systeme lernt auch der AMS Berufsinfomat stetig dazu und wird seine Antworten um das Gelernte anpassen.“

Berufsinfomat soll durch Feedback laufend verbessert werden

Zusätzlich wird auf den Disclaimer des Berufsinfomaten verwiesen: „Aufgrund des Einsatzes von KI ist eine fehlerfreie Beantwortung nicht garantiert.“ Johannes Kopf, Vorstandsvorsitzender des AMS Österreich, sprach bei der Präsentation des neuen Tools davon, dass das Feedback von Nutzerinnen und Nutzern eingearbeitet werde und den Berufsinfomaten laufend verbessere. Auch sei ein Feedback-System beim Berufsinfomat implementiert worden, um ein direktes Feedback von Usern zusätzlich in die KI einfließen zu lassen.