KI und Metaverse – Was Unternehmen aus rechtlicher Sicht beachten sollten.
Die Vorstellung der Apple Vision Pro hat die Themen Metaverse, Virtual Reality (VR) und Augmented Reality (AR) wieder in den Fokus der Öffentlichkeit gerückt, nachdem das vergangene Jahr ganz im Zeichen der Künstlichen Intelligenz (KI) stand. Trotz des starken Fokus auf KI ist die Idee hinter dem Metaverse nicht tot. Vielmehr werden auch die neueren Generationen VR-/AR-Brillen dazu beitragen, dass sich Menschen vermehrt in virtuellen Welten aufhalten werden. Der Einsatz von KI kann hier ein weiterer entscheidender Treiber sein.
Schaffung digitaler Welten und Avatare durch KI
Zunächst müssen die virtuellen Welten, in denen sich die Besucher* aufhalten sollen, geschaffen werden. Soweit hierbei KI zum Einsatz kommt, müssen diese mehrere Disziplinen beherrschen, um eine überzeugende, virtuelle Realität erstellen zu können: Die Erzeugung von dreidimensionalen Modellen, von Texturen und einer realistischen Geräuschkulisse.
Der unschätzbare Vorteil von KI ist, dass sie in der Lage ist, ansonsten räumlich begrenzte virtuelle Räume selbständig immer weiter zu vergrößern, so dass diese schließlich kein festgelegtes Ende haben müssen. Darüber hinaus setzen viele Anbieter virtueller Welten darauf, dass ihre jeweilige Umgebung von den Nutzern weiterentwickelt und fortgeschrieben wird. Hier können diese Anbieter ihren Nutzern KI-basierte Werkzeuge an die Hand geben, mit denen auch Laien mit begrenzten Ressourcen die Welten weiterentwickeln können.
Durch KI autonom handelende Avatare
Diese Welten müssen wiederum bevölkert werden. Auch hier kann KI eine wichtige Rolle spielen. Denkbar sind KI-gestützte autonome Avatare, die sich völlig selbstständig in den virtuellen Welten bewegen und mit anderen Avataren in Kontakt treten. Solche Avatare sind aus dem Spielebereich als „non-playable character“ (NPC) bekannt. Marktstudien sagen voraus, dass es 2030 mehr Avatare als Menschen auf der Welt geben wird.
Es liegt auf der Hand, dass sich bereits bei diesen beiden Beispielen des Zusammenspiels von KI und virtueller Realität verschiedene rechtliche Fragen stellen. Es besteht auch eine gewisse Wahrscheinlichkeit, dass die rein virtuelle Umgebung die mit dem Einsatz von KI verbundenen – rechtlichen – Risiken verstärkt.
Mögliche Verletzung Rechter Dritter bei der Erstellung von virtuellen Welten und Avataren
Wie bereits kurz skizziert, stellt die Erstellung virtueller Welten ein Paradebeispiel für die Anwendung generativer KI dar, bei der sich deren Stärken voll entfalten können. Dies gilt spiegelbildlich auch für die Risiken, die mit dem Einsatz generativer KI verbunden sind, etwa die Verletzung von Rechten des Geistigen Eigentums durch den Output der KI.
Auch wenn die bekannten generativen KI-Systeme nach Angaben der Anbieter die Werke, mit denen sie trainiert wurden, gerade nicht reproduzieren sollen, bleiben Urheberrechtsverletzungen durch den generierten Output möglich. Das Risiko von Urheberrechtsverletzungen erhöht sich noch, wenn die Nutzer der virtuellen Welten zu deren Erschaffung beitragen und durch ihre Eingabeaufforderungen – wenn auch vielleicht unbewusst – die Verletzung von Schutzrechten Dritter provozieren, etwa durch den Wunsch, eine Harry-Potter- oder Star-Wars-Welt zu erschaffen.
Denkbar ist auch, dass, wenn eine wirklichkeitsgetreue Nachbildung der realen Welt geschaffen werden soll, bekannte Marken oder Designs aus der realen Welt zu finden sind, etwa an der Fassade eines virtuellen Hauses.
Darüber hinaus wird generative KI auch bei der Erstellung von Avataren eine entscheidende Rolle spielen. Hier ist es denkbar, dass dem Nutzer völlig freie Hand bei der Gestaltung seines oder seiner Avatare gegeben wird. Die KI bietet hier die Möglichkeit, durch einfache Eingaben oder Sprachsteuerung die Avatare ganz nach dem eigenen Geschmack zu gestalten. Gleiches gilt für digitale Assets wie Schuhe, Kleidung, Accessoires, die der Avatar in der virtuellen Welt tragen soll. Hier sind marken- und designrechtliche Probleme vorprogrammiert.
Schließlich bieten generative KI-Systeme nahezu unendliche Möglichkeiten im Hinblick auf Storytelling oder Gamification in der virtuellen Welt. Gerade beim Storytelling besteht die große Gefahr, dass es sich gegebenenfalls an bestehenden urheberrechtlich geschützten Werken orientiert.
Kein urheberrechtlicher Schutz für virtuell erstelle Welten
Umgekehrt ist zu beachten, dass nach derzeitiger Rechtslage – zumindest dem Grundsatz nach – keine Urheber- oder Leistungsschutzrechte an den durch KI geschaffenen Welten entstehen, unabhängig wieviel Zeit und Aufwand der Ersteller hierein gesteckt hat. Dies gilt jedenfalls dann, wenn er selbst nicht schöpferisch eingreift, sondern die KI – ggf. auch unter detaillierter Anleitung (sog. Prompts) – selbständig arbeiten lässt. Es bleibt möglich, den Output der KI gegebenenfalls als Design zu schützen. Denkbar ist zudem, dass in der virtuellen Welt geschaffene Marken als solche bei den Markenämtern (in der realen Welt) für virtuelle Güter und darüber hinaus angemeldet werden.
Rechtliche Hürden beim Einsatz autonomer Avatare
Auch beim Einsatz autonomer Avatare sind diverse rechtliche Fallstricke zu beachten. So stellt sich bereits die Frage, ob ein Unternehmen, das einen autonom handelnden Avatar mit Hilfe von KI einsetzt, für diesen und seine Handlungen rechtlich verantwortlich ist. In einem Rechtsstreit in Kanada hatte sich eine Fluggesellschaft darauf berufen, ein von ihr eingesetzter Chatbot sei eine „separate legal entity that is responsible for its own actions“. Eine falsche Beratung eines Kunden durch den Chatbot auf der Website der Airline sei daher nicht der Airline zuzurechnen. Dieses Argument hat das kanadische Gericht zu Recht zurückgewiesen. Hauptargument ist, dass die Airline für alle Funktionen auf ihrer Webseite, also auch für den Chatbot, verantwortlich ist.
Diese Entscheidung gibt zwar einen Fingerzeig, kann aber nicht ohne weiteres auf die virtuellen Welten des Metaverse übertragen werden. Hier ist es denkbar, dass ein autonomer Avatar – die Interoperabilität zwischen den einzelnen virtuellen Welten vorausgesetzt – zwischen den einzelnen Welten hin und her wandert, ohne dass z.B. über die Website eine Zurechnung zum „Geschäftsherrn“ des Avatars erfolgen kann. Hier sind also weitere Anknüpfungspunkte zu finden.
KI-Verordnung erfasst auch KI-basierte Avatare
Einen solchen bietet die KI-Verordnung der Europäischen Union (EU), der zu entnehmen ist, dass derjenige für das KI-System haftet, wer es für sich nutzt, sei es als Anbieter des KI-Systems oder als Verwender. Die KI-Verordnung legt dabei neben den Regularien für sog. Hochrisiko-Systeme in Art. 52 auch Transparenzpflichten für „minimal risk“-KI-Systeme fest. Dabei müssen Nutzer darüber informiert werden, dass sie mit einer KI zu tun haben.
Geltung haben diese Pflichten für bestimmte Gruppen von KI-Systemen. Besonders relevant im Zusammenhang mit den Avataren (NPC) dürfte die Gruppe der „mit Menschen interagierenden KI-Systeme“ sein. Sind doch NPC im Metaverse gerade dazu da, die spielergesteuerten Avatare durch virtuelle Räume zu leiten, Fragen zu beantworten und Informationen zu vermitteln.
Auch Avatare müssen sich an das UWG halten
Ähnliche Transparenzpflichten können sich auch aus dem Gesetz gegen den unlauteren Wettbewerb (UWG) ergeben, das gegebenenfalls beim Einsatz eines autonomen Avatars in eigenen Marketingaktivitäten zu beachten ist. Insbesondere die Frage des anwendbaren Rechts ist in virtuellen Welten ohne Ländergrenzen bekanntlich nicht einfach zu beachten, insbesondere wenn die Avatare durch KI-Tools in der Lage sind, jede Sprache der Welt zu sprechen. Damit entfällt eines der klassischen Anknüpfungskriterien, da es mitunter an einer klaren Ausrichtung auf eine/mehrere Sprache(n) fehlt.
Die Anwendbarkeit des UWG vorausgesetzt, muss bereits jetzt die Werbung mit Avataren nach § 5a Abs. 4 UWG als solche gekennzeichnet werden. Das heißt, es muss für den Gesprächspartner klar erkennbar sein, dass der Avatar in kommerzieller Absicht interagiert. Ob sich der Avatar zudem offenbaren muss, dass es sich bei ihm nicht um eine natürliche Person handelt, hängt davon ab, ob man dieses Faktum als wesentliche Information im Sinne von § 5a Abs. 4 UWG ansieht, die der Verwender der KI/des Avatars offenbaren muss.
Ferner ist darauf zu achten, dass die von Avataren zur Verfügung gestellten Informationen zutreffend und nicht irreführend sind, um Verstöße gegen § 5 UWG zu vermeiden. Zumindest denkbar ist auch, dass die Kontaktaufnahme durch Avatare als unzumutbare Belästigung in den Schutzbereich des § 7 UWG fällt. In die gleiche Richtung zielt § 4a UWG, der aggressive geschäftliche Handlungen verbietet. Unternehmen müssten sicherstellen, dass ihre Avatare Kunden nicht unter Druck setzen, hier wird wieder das erhöhte Risiko virulent, das mit einer virtuellen Welt und dem Eintauchen in sie einhergeht. Anders als einem Chatbot auf einer Website kann man sich einem Avatar in einer virtuellen Welt nur schwer entziehen. Auch sind Konstellationen denkbar, in denen man von einem Avatar in einer besonders sensiblen Situation angesprochen wird. Hier werden sich gegebenenfalls eigene Fallgruppen für das Metaverse herausbilden.
Schließlich sind über den Tatbestand des § 3 UWG hinaus weitere gesetzliche Vorgaben zu beachten, wie z.B. das AGG sowie die Vorgaben des BGB z.B. im Hinblick auf personalisierte Preise. Au0erdem muss der Einsatz von Avataren der unternehmerischen Sorgfalt entsprechen und darf nicht zu einer unzulässigen Beeinflussung der Kundenentscheidung führen (gem. §3 UWG).
Zumindest derzeit enthält das UWG keine KI-/Avatar-spezifischen Regelungen. Es ist denkbar, dass sich dies in Zukunft ändert, etwa indem besonders verwerfliche und gehäuft auftretende Wettbewerbshandlungen durch Avatare in die sog. „Blacklist“ des UWG aufgenommen werden.
Insgesamt ist entscheidend, dass sich Unternehmen, die autonome Avatare zur Kundenansprache und zu Werbezwecken einsetzen, bewusst sind, dass verbraucherschützende Vorschriften auch in der virtuellen Welt Anwendung finden. Hinzu kommen KI-spezifische rechtliche Anforderungen. Es ist nicht auszuschließen, dass es in Zukunft einen eigenen Metaverse-Act der EU geben wird. Entsprechende Bestrebungen bestehen immer wieder. Die Einhaltung all dieser rechtlichen Vorgaben ist nicht nur wichtig, um Haftungsrisiken für den Avatar zu vermeiden, sondern auch, um das Vertrauen der Kunden zu erhalten und langfristig in virtuellen Welten erfolgreich zu sein.
Hören Sie zu dem Thema gerne unseren Podcast CMS To Go: Virtuelle Welten, Metaverse, KI – rechtliche Fragestellungen. Diese und weitere Themen rund um KI und Metaverse behandelt wir in unseren gleichnamigen Blog-Serien.
In unserem CMS-Blog informieren wir Sie im Rahmen unserer Blog-Serie „Metaverse“ fortlaufend mit aktuellen Beiträgen zum Metaversum. Nach einer Einführung in das „Metaverse“ sind wir bereits eingegangen auf Healthcare Metaverse, Arbeit im Metaverse, auf Rechtsberatung im Metaverse und geben einen Überblick über Steuern im Metaverse sowie über die Umsatzsteuer bei der Vermietung von virtuellem Land im Metaverse. Darüber hinaus haben wir uns mit dem Markenschutz für Blockchain- und andere Krypto-Projekte, dem Markenschutz vs. Kunstfreiheit bei mit NFTs verlinkten Medien sowie mit dem Markenschutz für digitale Produkte im „Metaverse“ und den EUIPO-Leitlinien zur Eintragung virtueller Waren und NFTs beschäftigt. Außerdem prüfen wir, welche rechtlichen Anforderungen bei dem Einsatz von Wearables bestehen, ob das Markenrecht bereit für das Metaverse ist und schauen uns die Grundlagen von VR/AR und Datenschutz an.
Darüber hinaus halten wir Sie auf unserer Insight-Seite zum Metaverse auf dem Laufenden!
* Gemeint sind Personen jeder Geschlechtsidentität. Um der leichteren Lesbarkeit willen wird im Beitrag die grammatikalisch männliche Form verwendet.
