Vorsicht: Google-KI halluziniert einen „Fachanwalt für KI-Recht“

Bei einer Suche mit der Internetsuchmaschine Google nach einem „Fachanwalt für KI-Recht“ liefert die KI-Suchmaschine „AI Overview“ Erstaunliches. Klar ist schon beim ersten Satz: Die Google KI halluziniert einen KI-Fachanwalt, den es gar nicht gibt und zwar wie folgt: „Ein Fachanwalt für KI-Recht ist ein Rechtsanwalt, der sich auf die rechtlichen Aspekte der Künstlichen Intelligenz…

Bei einer Suche mit der Internetsuchmaschine Google nach einem „Fachanwalt für KI-Recht“ liefert die KI-Suchmaschine „AI Overview“ Erstaunliches. Klar ist schon beim ersten Satz: Die Google KI halluziniert einen KI-Fachanwalt, den es gar nicht gibt und zwar wie folgt:

Ein Fachanwalt für KI-Recht ist ein Rechtsanwalt, der sich auf die rechtlichen Aspekte der Künstlichen Intelligenz (KI) spezialisiert hat und eine entsprechende Fachanwaltsbezeichnung trägt. Diese Spezialisierung umfasst die Beratung und Vertretung von Mandanten in allen Rechtsfragen rund um KI, wie z.B. Datenschutz, Urheberrecht, Haftungsfragen und die Einhaltung von Gesetzen und Vorschriften im KI-Bereich.“

Beachtlich: Die KI nennt sogar einige Themen, die durch KI aufgeworfen werden. Sie gibt allerdings keine Hinweise, dass es bereits Fachanwälte für IT-Recht (Thema: Datenschutz) und Fachanwälte für Urheber- und Medienrecht (Thema Urheberrecht und KI) gibt.

Am Ende des Texts steht immerhin: „KI-Antworten können Fehler enthalten.“ In den Erklärungen dazu findet sich der Hinweis: „Hinterfragen Sie die Antworten der KI-Übersicht kritisch. Untersuchen Sie Ergebnisse aus verschiedenen Quellen, um wichtige Informationen zu überprüfen.“

Oha: Bei YouTube gibt es bereits KI-Fachanwälte

Ausgelöst wurde diese Suche durch ein YouTube Video, bei dem ein Anwaltskollege zum Thema Recht und KI interviewt wurde. Zur Person heißt es dort: „Fachanwalt für IT-& KI-Recht.“ Tatsächlich ist der Kollege laut der Großkanzleiwebsite, auf der seine Vita zu finden ist: Fachanwalt für IT-Recht.

Vermutlich (hoffentlich) hat auch hier eine KI die Bildunterschrift gemacht und vermutlich hat sie auch hier halluziniert. Alles andere wäre berufsrechtlich und strafrechtlich bedenklich, vgl. § 132a StGB (Titelmissbrauch).

Eine Nachfrage ist bei dem Google-AI-Overview nicht möglich. Man kann sich allerdings durch Trefferlisten, Fußnoten und Werbeanzeigen klicken. Beherzigt man allerdings den Google-Hinweis und hinterfragt die Suchergebnisse mit einer anderen KI (z.B. Perplexity) und fragt explizit: „Gibt es einen Fachanwalt für KI-Recht?“ ist die Antwort goldrichtig: „Nein, einen „Fachanwalt für KI-Recht“ im Sinne einer offiziellen Fachanwaltsbezeichnung gibt es in Deutschland noch nicht….“

Das Ganze wirft die Frage auf, was ein Fachanwalt für KI-Recht kennen und können muss. Als Kernkompetenzen eines Fachanwalts für KI-Recht nennt KI die selbst und definiert dabei auch den Begriff KI-Recht:

  • Umfassende Kenntnisse im IT-Recht:
    Ein Fachanwalt für KI-Recht verfügt über fundierte Kenntnisse im IT-Recht, da KI-Systeme oft eng mit Informationstechnologie verbunden sind. 
  • Spezifisches Fachwissen im KI-Recht:
    Neben dem allgemeinen IT-Recht ist ein tiefergehendes Verständnis der spezifischen rechtlichen Herausforderungen im Bereich KI erforderlich, wie z.B. die KI-Verordnung (AI Act). 
  • Beratung zu rechtlichen Aspekten von KI-Projekten:
    Fachanwälte für KI-Recht beraten Unternehmen und Organisationen bei der Entwicklung, Implementierung und Nutzung von KI-Systemen, um rechtliche Risiken zu minimieren. 
  • Vertragsgestaltung und -prüfung:
    Sie erstellen und prüfen Verträge, die KI-Systeme betreffen, z.B. für Softwareentwicklung, Datennutzung oder Dienstleistungen im KI-Bereich. 
  • Vertretung in Rechtsstreitigkeiten:
    Im Falle von Rechtsstreitigkeiten im Zusammenhang mit KI-Systemen vertreten Fachanwälte ihre Mandanten vor Gericht und vor anderen Behörden.
  • Datenschutzrechtliche Aspekte:
    Sie beraten zu datenschutzrechtlichen Fragen im Zusammenhang mit der Nutzung von KI-Systemen, insbesondere im Hinblick auf die Verarbeitung personenbezogener Daten. 
  • Haftungsfragen:
    Sie beraten zu Haftungsfragen, die sich aus der Nutzung von KI-Systemen ergeben können, z.B. bei Fehlfunktionen oder Schäden, die durch KI-Systeme verursacht werden. 
  • Ethische Aspekte:
    Sie unterstützen bei der Entwicklung und Umsetzung ethischer Leitlinien und Verantwortungsprinzipien für den Einsatz von KI.

Das stimmt alles, ist aber leider unvollständig. Zunächst einmal müssen Sie up-to-date bleiben, sich sachlich und fachlich fortbilden, auch vom Urheberrecht als eins der aktuellen großen Themen sollten KI-Anwälte schon mal etwas gehört haben. Denn gerade dieser Bereich wirft zahlreiche neue Rechtsfragen auf. Haben Sie Anregungen und möchten in eine Diskussion zu dem Thema einsteigen? Gern nehme ich Ihre Anregungen und Ergänzungen entgegen. Schreiben Sie mir gern an: rechtsanwalt@rasommmer.de.

RA Tobias Sommer

Ich bin seit 2003 als Anwalt im Wirtschaftsrecht mit Schwerpunkt im Bereich des Immaterialgüterrechts tätig. Ich habe an Fachkommentaren mitgearbeitet, zahlreiche Fachtexte veröffentlicht und habe praktische Erfahrungen als Journalist in den Bereichen Print und Fernsehen, u.a . war ich 10 Chefredakteur des Anwaltsmagazins AdVoice. Neben meiner anwaltlichen Tätigkeit bin ich Dozent und Journalist sowie ehrenamtlich für die IHK Berlin als Vorsitzender der Einigungsstelle für Wettbewerbsstreitigkeiten tätig. Im Jahr 2021 habe ich das Notarexamen abgelegt und bin seitdem auch anwaltlicher Ansprechpartner für alle notariellen Themen.

post