Spitzenforschung in Steyr und Linz: Inwieweit können wir Künstlicher Intelligenz vertrauen?

Menschen suchen auf natürliche Weise nach jenen, denen sie vertrauen. Das ermöglicht kollektive Errungenschaften wie demokratische Regierungsführung und wirtschaftliche Zusammenarbeit, heißt es von Seiten der FH OÖ. Vertrauen spielt jedoch nicht nur in der Politik und in der Wirtschaft eine wichtige Rolle, alle Bereiche des Lebens sind davon betroffen, darunter auch die Wissenschaft.

Produktivitätssteigerung und versteckte Risiken

Einen besonderen Stellenwert nimmt dabei die Künstliche Intelligenz (KI) ein. Sie tritt nicht nur immer stärker in unser Leben, sondern sorgt auch für Verunsicherung. Mittlerweile generiert diese Technologie Texte und Bilder, steigert Produktivität und trägt somit zu mehr Effizienz bei, die vielfach genutzt wird, nicht nur im privaten Bereich.

KI birgt jedoch auch Risiken. So können Algorithmen im Bewerbungsprozess „versteckte Vorurteile enthalten“ oder im politischen Meinungsbildungsprozess zur Verbreitung von „Desinformation“ beitragen, wie die FH OÖ darlegt.

Vertrauensfrage

Im Zentrum der Forschung steht die Frage nach dem Vertrauen – nicht nur in die Technologie selbst, sondern auch in die Menschen, Unternehmen und Institutionen, die sie entwickeln und einsetzen. Gerade weil KI zunehmend in Entscheidungen mit großer Tragweite eingreife – „von der Gesundheitsversorgung bis zur Kriegsführung“ – seien Vertrauen und Rechenschaftspflicht unerlässlich, betonen die Autoren.

Von Linz bis Oxford: Forschende klären auf

Im Detail beleuchtet werden diese Themen ein einem kürzlich veröffentlichten Open-Access-Artikel in der renommierten Fachzeitschrift Humanities and Social Sciences Communications. Neben Riedl, der an der FH OÖ sowie im Joint-Masterstudiengang „Digital Business Management“ von FH OÖ und JKU Linz tätig ist, war auch ein internationales Team beteiligt – unter anderem Forschende von der Oxford University und der Stanford University. Ausgangspunkt war ein von der FH Oberösterreich mitorganisierter Workshop in Wien.

Das Forschungsteam entwickelte das sogenannte TrustNet Framework. Es beschreibt Vertrauen in KI „nicht isoliert, sondern als gemeinschaftlich erzeugtes und kontextabhängiges Phänomen“. Ziel sei es, weitere internationale Forschungsarbeit in diesem Bereich anzustoßen.

„KI wird unsere Welt verändern“

Eines steht für die Wissenschaftler fest: „KI wird unsere Welt verändern. Um diesen Wandel verantwortungsvoll zu gestalten, müssen alle Beteiligten – Entwickler, Investoren, Regulierungsbehörden und Forschende – zusammenarbeiten, damit Vertrauen im Zentrum des KI-Zeitalters bleibt oder, wenn nötig, zurückgewonnen wird.“

Weitere Informationen: Open-Access-Publikation “A call for transdisciplinary trust research in the artificial intelligence era”