Ein roter Roboter auf vier Rädern kurvt durch den Square. In dem weitläufigen HSG-Gebäude findet er sich bestens zurecht, weicht Menschen aus und überwindet Treppen. Der Roboter wird von einem seiner Entwickler gesteuert, könnte aber mittels Künstlicher Intelligenz (KI) auch komplett autonom unterwegs sein.
Im Square zeigte er sich anlässlich der ersten «University of St.Gallen Grand Challenge – The EU AI Act». An dieser haben am 18. und 19. Juli zwölf multidisziplinäre Teams verschiedene KI-Anwendungen darauf geprüft, inwiefern bei diesen Risiken in Bezug auf den geplanten «AI Act» der EU bestehen. Auch den erwähnten Roboter des Startups Swiss-Mile haben sie analysiert.
EU plant weltweit erstes KI-Gesetz
Mit ihrem «AI Act» will die EU eine Verordnung zur Entwicklung und Nutzung von KI erlassen. Das Gesetz wird voraussichtlich 2026 in Kraft treten und weltweit das erste seiner Art sein. Es sieht vor, KI-Anwendungen je nach ihrem Risikopotential mit Auflagen zu versehen.
«Es ist zu erwarten, dass einige Artikel des AI Acts in der Praxis schwierig anzuwenden sind oder zu viel Ermessensspielraum offenlassen», sagt Thomas Burri, HSG-Professor für Völkerrecht und Europarecht und Initiator der Grand Challenge. «Diese zwei Tage haben auch dazu gedient, zu erkennen, ob und wo es im Gesetzesentwurf Nachbesserungsbedarf gibt.» Burri wird die Erkenntnisse aus der Grand Challenge voraussichtlich in einem Bericht zusammenfassen und diesen auch an die EU-Organe weiterleiten.
KI-Hersteller erhalten rechtliche Einschätzung
Neben dem Stresstest für das Gesetz haben während der zwei Tage an der HSG insgesamt sechs Hersteller von Produkten, die KI einsetzen, eine erste Einschätzung aus Sicht des AI Acts zu ihren Anwendungen erhalten. «Mit der bevorstehenden Einführung des KI-Gesetzes, gibt es viele Fragen, die meine Kunden haben. Die AI Grand Challenge hilft uns zu verstehen, was das Gesetzt für unser Unternehmen bedeuten könnte», sagte etwa Kevin Kuhn, CEO des Schweizer Startups Gopf, das KI-gestützte Strategieberatung anbietet.
«Stärke ist die Perspektivenvielfalt»
Die Grand Challenge war als Wettkampf organisiert: Rund 30 Teams bewarben sich in der Vorrunde, zwölf wurden für das zweitägige Finale in St.Gallen eingeladen. Die Teams waren weitgehend multinational zusammengesetzt und vereinten Fachleute aus verschiedenen Disziplinen – darunter beispielsweise Anwälte, Computerwissen-schaftler, Philosophen und Ethiker, aber auch Vertreter von Unternehmen.
«Die Stärke der Grand Challenge ist, dass sie verschiedenste fachliche Perspektiven zusammenbringt – diese Vielfalt braucht es, um einen komplexen Gegenstand wie KI umfassend zu analysieren», sagte etwa Ibrahim Halfaoui, der als KI-Experte in einem Team der technischen Prüforganisation TÜV Süd teilnahm. Die ganze Welt schaue derzeit bei der Entwicklung des AI Acts auf die EU, es sei darum wichtig, das Gesetz und dessen Bedeutung für Unternehmen genau zu prüfen.
Forschungsarbeit zu KI fortführen
Die Teams erhielten zu den AI-Anwendungen jeweils ein Briefing des Herstellers. Bis zum Morgen des zweiten Tages schrieb jedes Team eine Einschätzung zu vier Anwendungen aus Sicht des AI Acts – dabei kamen etwa mögliche Risiken und weiterer Abklärungsbedarf zur Sprache.
Eine hochkarätige Jury – bestehend unter anderem aus Professoren aus Kanada, St.Gallen und Wien – bewertete diese Einschätzungen. Durch die Selektion der Jury kamen das spanische Team «Conformity Mavericks» sowie das Team «LegalAIzers» unter der Führung der südafrikanischen Universität Stellenbosch ins Finale.
Dort mussten sie eine KI-Anwendung von Mercedes-Benz, die auf ChatGPT beruht, untersuchen und ihre Einschätzung mündlich abgeben. Die Jury entschied schliesslich, das Preisgeld von 100'000 Franken – es soll für weitere Forschungsprojekte eingesetzt werden -, zwischen den beiden Teams aufzuteilen. «Wir wollen damit auch dazu beitragen, dass beide Teams ihre Arbeit zu diesem wichtigen Thema fortführen können», sagt Jurypräsident Andreas Paulus in der Begründung.