Droit de l'IA et conformité AI à Francfort-sur-le-Main

Résumé en allemand · droit allemand · juridiction allemande

Faits : Ein Masterstudent reichte an der Universität Kassel eine Hausarbeit ein, bei der er weitreichende Unterstützung durch Künstliche Intelligenz (KI), konkret das Tool "Copilot", in Anspruch nahm. Er ließ selbst verfasste Entwürfe von der Künstlichen Intelligenz überarbeiten und nutzte diese zur Recherche von Rechtsprechung. Dabei übernahm er die Ergebnisse der Künstlichen Intelligenz ungeprüft, was dazu führte, dass sogenannte "Halluzinationen" – also von der KI frei erfundene Gerichtsurteile – in den Fußnoten landeten. Die Universität wertete dies als besonders schwere Täuschung, bewertete die Arbeit in der Folge mit "mangelhaft" und schloss den Studenten von jeglicher Wiederholungsprüfung aus. Dagegen klagte der Student vor dem Tribunal administratif Kassel mit dem zentralen Argument (Allemagne), Künstliche Intelligenz sei lediglich ein technisches Hilfsmittel, das in seiner Funktionsweise mit der Suchmaschine Google vergleichbar sei.

Normes essentielles (droit allemand) :

• Allgemeine Bestimmungen für Fachprüfungsordnungen der Universität Kassel (insb. Regelungen zu Täuschung und Wiederholungsprüfungen)
• § 42 VwGO (Anfechtungsklage)

Décision : Das Tribunal administratif Kassel (Allemagne) wies die Klage ab. Das Gericht stellte unmissverständlich klar, dass der ungekennzeichnete Einsatz von generativer Künstlicher Intelligenz, der über eine reine Rechtschreibkontrolle hinausging, eine unzulässige Täuschung und die Inanspruchnahme "fremder Hilfe" darstellte. Es war dabei rechtlich völlig unerheblich, ob die bestehende Prüfungsordnung die Nutzung von Künstlicher Intelligenz bereits ausdrücklich verboten hatte. Da die Künstliche Intelligenz ihre Antworten auf Basis von Wahrscheinlichkeiten aus fremden Quellen generierte, bewertete das Gericht die ungekennzeichnete Übernahme dieser Inhalte zwingend als Plagiat. Die inhaltliche Gleichsetzung von Künstlicher Intelligenz mit einer klassischen Suchmaschine ließ das Gericht nicht gelten, da bei einer KI-Nutzung die eigenständige inhaltliche Aus- und Verwertung der gesuchten Quellen durch den menschlichen Anwender fehlte.

Conclusion et recommandation pratique : Dieses Urteil war ein wegweisendes Signal für die rechtliche Bewertung von Künstlicher Intelligenz im Kontext von strikten höchstpersönlichen Leistungspflichten. Für Arbeitgeber, Geschäftsführer und Inhouse-Juristen in der Digitalbranche bedeutete dies: Die unbedarfte Nutzung von generativer KI erwies sich schnell als rechtlicher Bumerang. Wenn Mitarbeiter, freie Dienstleister oder Bewerber vertraglich geschuldete Eigenleistungen (wie beispielsweise rechtliche Gutachten, Programmcode oder redaktionelle Texte) heimlich durch Künstliche Intelligenz erbringen ließen, drohten weitreichende Konsequenzen bis hin zur fristlosen Kündigung oder zu Schadensersatzforderungen. Unternehmen mussten daher dringend klare KI-Richtlinien (AI Policies) etablieren, die den erlaubten Einsatz von Künstlicher Intelligenz am Arbeitsplatz transparent regelten und strikte Kennzeichnungspflichten für KI-generierte Ergebnisse festlegten.

Résumé en allemand · droit allemand · juridiction allemande

Faits : Die Parteien stritten vor dem Tribunal régional Frankfurt am Main im Wege des einstweiligen Rechtsschutzes über die unzulässige Übernahme eines Liedtextes (Allemagne). Die Klägerin verfasste einen Rohtext, welchen ein Produzent unter Nutzung des KI-Systems SunoAI vertonte und auf der Plattform D veröffentlichte. Eine weitere Künstlerin übernahm Kernpassagen dieses Textes für ihren eigenen Song, den die Beklagte als Digitalvertrieb auf Spotify und anderen Streaming-Diensten veröffentlichte. Die Beklagte argumentierte unter Vorlage eines Sachverständigengutachtens, das Werk weise typische Merkmale für Künstliche Intelligenz auf, sei folglich ein reines KI-Produkt und genieße keinen Urheberrechtsschutz.

Normes essentielles (droit allemand) :

• § 2 Loi allemande sur le droit d'auteur (UrhG)
• § 23 Loi allemande sur le droit d'auteur (UrhG)
• § 97 Loi allemande sur le droit d'auteur (UrhG)
• § 101 Loi allemande sur le droit d'auteur (UrhG)

Décision : Das Tribunal régional Frankfurt am Main (Allemagne) gab der Klägerin recht und bestätigte die Unterlassungsverfügung. Das Gericht betonte ausdrücklich, dass einem Text, der alleinig von einem KI-System generiert wird, grundsätzlich die urheberrechtliche Schutzfähigkeit fehlt. Brachte die Gegenseite fundierte Indizien für einen maschinellen Ursprung vor, oblag es der Klägerin, den Schaffensprozess offenzulegen und genau abzugrenzen, welche Gestaltungselemente trotz KI-Einsatz auf menschlicher Aktivität beruhten. Dies gelang der Klägerin durch detaillierte eidesstattliche Versicherungen. Das Gericht entschied, dass der menschlich erschaffene Originaltext geschützt blieb, da die nachträgliche Bearbeitung durch die Künstliche Intelligenz (wie das Hinzufügen von Musik und Chor) den Schutzbereich des Ursprungswerks nicht beseitigte.

Conclusion et recommandation pratique : Der bloße Einsatz von Künstlicher Intelligenz im Produktionsablauf vernichtet nicht automatisch den Urheberrechtsschutz des Gesamtwerks, solange individuelle menschliche Teilleistungen nachweisbar bleiben. Digitale Vertriebsgesellschaften und Publisher sollten beim Umgang mit KI-generierten oder -unterstützten Inhalten exakte Dokumentationen der Schaffensprozesse von ihren Künstlern einfordern. Wer sich blind darauf verlässt, dass ein vermeintliches KI-Werk gemeinfrei ist, begibt sich rechtlich auf dünnes Eis und riskiert kostspielige Unterlassungsverfahren.

Résumé en allemand · droit allemand · juridiction allemande

Faits : Der Rechtsstreit trug sich vor dem Tribunal régional Frankfurt am Main zu (Allemagne), wobei kartellrechtliche Auswirkungen auf den Markt in Allemagne verhandelt wurden. Die Antragstellerin, ein Zusammenschluss von Ärzten für plastische Chirurgie im männlichen Intimbereich, wandte sich gegen eine neue Funktion einer marktbeherrschenden Suchmaschine. Diese blendete bei Suchanfragen prominent eine von Künstlicher Intelligenz generierte Zusammenfassung ("KI-Übersicht") über den organischen Treffern ein. Bei der Suche nach einem spezifischen Eingriff erzeugte die Künstliche Intelligenz einen Text, der nach Ansicht der Ärzte den Operationsverlauf faktisch falsch und für Patienten abschreckend darstellte (etwa durch die Nennung einer "Durchtrennung"). Die Antragstellerin sah darin eine unbillige Behinderung ihrer Marktteilnahme sowie einen Verstoß gegen das Verbot der Selbstbevorzugung im Sinne des Digital Markets Act (DMA), da die Suchmaschine durch die prominente Platzierung der Antworten ihrer Künstlichen Intelligenz eigene Dienste missbräuchlich bevorzuge.

Normes essentielles (droit allemand) :

• § 19 Loi allemande contre les restrictions de la concurrence (GWB) (Missbrauch einer marktbeherrschenden Stellung)
• § 33 Loi allemande contre les restrictions de la concurrence (GWB) (Beseitigungs- und Unterlassungsanspruch)
• Art. 6 Abs. 5 DMA (Verbot der Selbstbevorzugung beim Ranking)

Décision : Das Tribunal régional Frankfurt am Main (Allemagne) lehnte den Antrag auf Erlass einer einstweiligen Verfügung ab. Das Gericht stellte zwar klar, dass Suchmaschinenbetreiber für falsche Informationen, die durch ihre Künstliche Intelligenz generiert werden, nicht per se von einer Haftung ausgenommen sind. Im vorliegenden Fall ergab sich jedoch keine unbillige Behinderung der Klägerin. Die von der Künstlichen Intelligenz erzeugte Kernaussage war im Gesamtkontext der angezeigten Übersicht medizinisch nicht falsch, da nachfolgende Stichpunkte den Eingriff für den Durchschnittsnutzer zutreffend erklärten. Zudem verneinte das Gericht einen Verstoß gegen den DMA. Die Zusammenfassung der Künstlichen Intelligenz stellte kein separates eigenes "Produkt" dar, das die Suchmaschine gegenüber Angeboten Dritter unzulässig bevorzugte, sondern fungierte schlichtweg als aufbereitetes Suchergebnis.

Conclusion et recommandation pratique : Für Betreiber von Suchmaschinen und Plattformen, die Künstliche Intelligenz zur Aggregation von Nutzerinformationen einsetzen, bietet dieses Urteil eine wertvolle rechtliche Orientierungshilfe. Dass Gerichte eine Haftung für wettbewerbsverzerrende Outputs Künstlicher Intelligenz grundsätzlich nicht ausschließen, war ein juristischer Weckruf. Unternehmen der Digitalwirtschaft mussten daher sicherstellen, dass KI-Zusammenfassungen insbesondere in sensiblen Bereichen wie der Medizin hinreichend transparent und im Gesamtkontext inhaltlich unangreifbar waren. Um kartell- und wettbewerbsrechtliche Abmahnungen zu vermeiden, empfiehlt es sich in der Praxis, die Antworten der Künstlichen Intelligenz stets mit klar verständlichen Kontext-Links und Disclaimern zu versehen, sodass für den verständigen Nutzer keine isolierten, irreführenden Kernaussagen stehen bleiben.

Résumé en allemand · droit allemand · juridiction allemande

Faits : In Frankfurt am Main mietete die Beklagte ein Carsharing-Fahrzeug und ließ dieses von einer Begleitperson im Parkhaus des dortigen Ikea-Möbelhauses einparken. Das Fahrzeug war mit einem modernen Telematiksystem ausgestattet, das während der Fahrt Sensordaten sammelte und in Echtzeit auswertete. Hierbei setzte die Anbieterin gezielt Künstliche Intelligenz ein, um auffällige Bewegungsmuster als potenzielle Unfallschäden zu identifizieren. Während der Nutzung durch die Beklagte meldete die Künstliche Intelligenz eine solche Anomalie, woraufhin die Klägerin Schadensersatz für eine Delle forderte. Die Beklagte bestritt die Schadensverursachung und verwies auf ein Foto, das sie unmittelbar vor Fahrtantritt angefertigt hatte.

Normes essentielles (droit allemand) :

• § 286 Code de procédure civile allemand (ZPO) (Freie Beweiswürdigung)
• § 308 Nr. 5 Code civil allemand (BGB) (Fingierte Erklärungen in AGB)
• § 280 Abs. 1 Code civil allemand (BGB) (Schadensersatz wegen Pflichtverletzung)

Décision : Das Tribunal d'instance Frankfurt (Allemagne) wies die Klage vollumfänglich ab. Das Gericht erkannte den Alarm der Künstlichen Intelligenz zwar grundsätzlich als Indiz an, sah dieses jedoch nicht als ausreichenden Vollbeweis für die Verursachung durch die Kundin. Es stellte nüchtern fest, dass Künstliche Intelligenz systemimmanent lediglich mit Wahrscheinlichkeiten operierte. Ausschlaggebend war, dass die klägerischen Zeugen eine Fehlerquote (sogenannte Falsch-Positiv-Meldungen) der Künstlichen Intelligenz von 30 bis 50 Prozent einräumen mussten. Das Gericht folgerte daraus, dass die Datengrundlage der Künstlichen Intelligenz noch unzureichend war und weiteren Trainings bedurfte. Unabhängig davon erklärte das Gericht auch die AGB-Klausel der Klägerin für unwirksam, die eine Haftung für nicht vor Fahrtantritt gemeldete Schäden mittels einer unzulässigen Erklärungsfiktion statuierte.

Conclusion et recommandation pratique : Das Urteil demonstrierte deutlich, dass die bloße Implementierung von Künstlicher Intelligenz im gerichtlichen Beweisverfahren keinen juristischen Freifahrtschein darstellt. Wenn Geschäftsmodelle der Digitalbranche auf Künstliche Intelligenz zur automatisierten Schadenserkennung oder Vertragsabwicklung setzen, muss das System hochpräzise trainiert sein – bei zu hohen Fehlerquoten bricht die Beweiskette vor Gericht wie ein Kartenhaus zusammen. Betreiber sollten sich daher im Schadens- und Forderungsmanagement nie blind auf die Auswertungen einer Künstlichen Intelligenz verlassen, sondern diese algorithmischen Erkenntnisse stets durch harte Beweismittel (wie Vorab-Fotodokumentationen) flankieren und zudem sicherstellen, dass ihre AGB frei von gesetzlich unzulässigen Meldefiktionen bleiben.

Résumé en allemand · droit allemand · juridiction allemande

Faits : Vor dem Tribunal régional Frankfurt am Main klagte eine prominente Bundestagsabgeordnete gegen das Betreiberunternehmen eines weltweit genutzten sozialen Netzwerks (Allemagne). Auf der Plattform kursierte ein Meme mit einem Falschzitat der Politikerin, das ihr eine frei erfundene integrationspolitische Aussage in den Mund legte. Die Klägerin meldete das Meme mehrfach unter Angabe konkreter URLs und forderte eine vollumfängliche Löschung. Die Beklagte entfernte zwar zögerlich die exakt gemeldeten Beiträge, weigerte sich jedoch, ihr Netzwerk proaktiv nach weiteren identischen oder kerngleichen Memes zu durchsuchen. Das Unternehmen verteidigte sich mit dem Argument, dass automatisierte Filtersysteme mittels Künstlicher Intelligenz (KI) zwar Bilder erkennen, den Kontext von Begleittexten (sogenannten Captions) jedoch nicht abschließend rechtlich bewerten könnten. Eine plattformweite manuelle Überprüfung hielt die Beklagte für rechtlich und wirtschaftlich unzumutbar.

Normes essentielles (droit allemand) :

• §§ 823, 1004 Abs. 1 Satz 2 Code civil allemand (BGB) (Unterlassungsanspruch analog)
• § 10 Loi allemande sur les télémédias (TMG) (Haftungsprivileg für Host-Provider)
• § 830 Code civil allemand (BGB) (Mittäter und Beteiligte)
• Art. 1 Abs. 1, Art. 2 Abs. 1 GG (Allgemeines Persönlichkeitsrecht)

Décision : Das Tribunal régional Frankfurt am Main (Allemagne) verurteilte die Beklagte zur Unterlassung und zur Zahlung eines Schmerzensgeldes in Höhe von 10.000 Euro. Nach Ansicht der Kammer haftete das Netzwerk als mittelbare Störerin. Sobald ein Plattformbetreiber auf eine konkrete, unschwer erkennbare Rechtsverletzung – wie hier das Falschzitat – hingewiesen wurde, musste er nicht nur die isolierte URL löschen, sondern zwingend Vorsorge gegen kerngleiche Neuveröffentlichungen treffen. Das Gericht stellte die Rolle der Künstlichen Intelligenz dabei in den Mittelpunkt: Es war der Beklagten technisch und wirtschaftlich zumutbar, ihre vorhandenen Algorithmen (wie Hashwert-Abgleiche und optische Zeichenerkennung) als Künstliche Intelligenz einzusetzen, um identische oder ähnliche Bilder automatisiert zu filtern. Dass die Künstliche Intelligenz mögliche Distanzierungen der Nutzer in den Textkommentaren nicht verlässlich bewerten konnte, entband die Beklagte nicht von ihrer Pflicht. Sie musste vielmehr die durch die Künstliche Intelligenz vorselektierten Treffer in einem zweiten Schritt durch menschliche Moderatoren überprüfen lassen.

Conclusion et recommandation pratique : Für Host-Provider und Betreiber von Social-Media-Plattformen hing nach diesem Urteil ein juristisches Damoklesschwert über dem klassischen, rein reaktiven Notice-and-Takedown-Prozess. Unternehmen der Digitalwirtschaft durften sich bei gemeldeten Rechtsverletzungen nicht mehr darauf beschränken, nur die vom Betroffenen gelieferten URLs zu löschen. Sie wurden stattdessen in die Pflicht genommen, ihre Systeme der Künstlichen Intelligenz aktiv einzusetzen, um kerngleiche Inhalte plattformweit aufzuspüren. Die dringende Praxisempfehlung lautete daher: Implementieren Sie leistungsstarke KI-gestützte Filtertechnologien und verzahnen Sie diese zwingend mit menschlichen Moderationsteams (Human-in-the-Loop). Nur wenn die von der Künstlichen Intelligenz identifizierten Verdachtsfälle abschließend manuell bewertet werden, lassen sich weitreichende Unterlassungspflichten erfüllen und empfindliche Schmerzensgeldzahlungen abwenden.

Résumé en allemand · droit allemand · juridiction allemande

Faits : Der Rechtsstreit trug sich vor dem Landgericht Frankfurt und in zweiter Instanz vor dem Cour d'appel Frankfurt am Main zu (Allemagne). Die Klägerin nutzte die Abkürzung "ki" als Unternehmenskennzeichen. Die Beklagte registrierte die Domain "ki.de" bei der in Stadt1 ansässigen DENIC, hinterlegte dort jedoch keine Web-Inhalte. Als die Klägerin die Freigabe der Domain verlangte, weigerte sich die Beklagte und stützte ihre Verteidigung maßgeblich auf den Begriff der Künstlichen Intelligenz. Sie trug vor, dass die Buchstabenfolge "ki" fach- und medienübergreifend als beschreibende Abkürzung für Künstliche Intelligenz diene. Folglich stelle das Kürzel einen reinen Gattungsbegriff dar, an dem keine exklusiven Namensrechte geltend gemacht werden könnten.

Normes essentielles (droit allemand) :

• § 12 Code civil allemand (BGB) (Namensrecht)
• §§ 5, 15 MarkenG (Schutz von geschäftlichen Bezeichnungen)

Décision : Das Cour d'appel Frankfurt (Allemagne) wies die Berufung der Beklagten zurück und bejahte einen Namensrechtsverstoß gemäß § 12 Code civil allemand (BGB). Das Gericht hielt fest, dass der Klägerin ein Namensrecht an der originär unterscheidungskräftigen Abkürzung "ki" zustand. Die Domainregistrierung durch die Beklagte stellte eine unberechtigte Namensanmaßung dar. Das Gericht wies insbesondere das Hauptargument der Beklagten bezüglich der Künstlichen Intelligenz zurück. Zwar erkannte der Senat an, dass das Kürzel im Internet vielfach als Synonym für Künstliche Intelligenz verwendet wurde. Dies reichte jedoch nicht aus, um dem Domainnamen die Eigenschaft eines ausschließlichen Gattungsbegriffs beizumessen. Da der Verkehr in den Buchstaben "ki" nicht ausnahmslos Künstliche Intelligenz sah, sondern auch andere Bedeutungen (wie Kiefer oder Kilo) möglich waren, lag eine Mehrdeutigkeit vor. Bereits durch die Registrierung trat die für eine Rechtsverletzung erforderliche Zuordnungsverwirrung ein.

Conclusion et recommandation pratique : Für Unternehmer und Inhouse-Juristen in der Digitalbranche zeigte dieser Fall deutlich auf, dass populäre Technologiebegriffe kein Freibrief für die Domainregistrierung waren. Wer kurze Akronyme registrieren wollte, durfte sich nicht blind darauf verlassen, dass diese als vermeintliche Gattungsbegriffe – wie hier für Künstliche Intelligenz – rechtlich unantastbar waren. Vor jeder Registrierung von Akronym-Domains war eine sorgfältige Namens- und Markenrecherche zwingend geboten. Schon die bloße Registrierung ohne aktive Nutzung der Webseite führte zu einer rechtswidrigen Zuordnungsverwirrung und begründete teure Unterlassungs- und Freigabeansprüche.