In einem für die Juristenszene aufsehenerregenden Fall musste ein Unternehmen eine sechsstellige Strafe in Höhe von fast 200.000 Euro zahlen. Der Grund dafür war ein Falschanspruch, der über den ersten Robot-Anwalt der Welt verbreitet wurde. Das Unternehmen hatte behauptet, ein solches System entwickelt zu haben, was sich jedoch als unwahr herausstellte. Die Wettbewerbszentrale, eine unabhängige Institution, die sich mit unlauteren Wettbewerbspraktiken auseinandersetzt, sah sich veranlasst, gegen das Unternehmen vorzugehen. Die Strafe soll ein deutliches Signal setzen, dass Falschansprüche und irreführende Werbung keine Chance haben.
Multimillionenschwerer Fehlschlag: DoNotPay-Zahn verliert Kampf gegen FTC
Leider hat der Aufstieg der Künstlichen Intelligenz (KI) dazu geführt, dass wir zahlreiche Geschichten über falsche Arbeitskräfte erleben, die sich auf diese Technologie stützen. Im Mai erkannte Steve Schwartz, dass er ChatGPT verwendet hatte, um seine Arbeit zu beschleunigen, und wurde leider Opfer einer KI-Halluzination. Doch diesmal ist die Schuldige die Firma DoNotPay, die eine Strafe von 190.000 Euro erhalten hat, weil sie ihrem Anwalt-Roboter über die Leistung hinaus ging.
DoNotPay muss hohe Strafe zahlen
Laut einem Bericht von Ars Technica hat die Firma versprochen, dass die Nutzer jemanden mit einem Klick verklagen konnten, aber nie Tests durchführte, um die Effektivität ihrer Werkzeuge zu überprüfen. Tatsächlich stellte die Firma keine Anwälte ein, um die Genauigkeit der von der KI erzeugten rechtlichen Dokumente zu überprüfen, was der FTC die Gelegenheit gab, DoNotPay zu sanktionieren. Und als Teil des Abkommens muss die Firma nicht nur die Strafe zahlen, sondern auch den Nutzern, die den Dienst zwischen 2021 und 2023 nutzten, über die Einschränkungen ihrer rechtlichen Funktionen warnen.
DoNotPay wird nicht mehr sein Anwalt-Roboter bewerben können. Der Fall trat auf, als die Dienstleistungen von DoNotPay expandierten. Die Plattform, die 2015 mit dem Ziel startete, ein Werkzeug zur Anfechtung von Parktickets zu werden, erweiterte ihre Dienstleistungen auf 200 Bereiche des Rechts. In einem als irreführend betrachteten Werbevideo behauptete die Firma, dass die Los Angeles Times ihre Dienstleistungen positiv bewertet habe, aber es war tatsächlich die Meinung eines Studenten. Darüber hinaus wurde die KI von DoNotPay nicht mit einem aktuellen Korpus von Bundes- und Staatsgesetzen trainiert, was die Genauigkeit der erzeugten Dokumente gefährdete.
Dies ist nicht der erste Vorfall, in dem DoNotPay eine Warnung erhalten hat. Im Jahr 2022 bat die California Bar die Firma, aufzuhören, ihre Plattform als ersten Anwalt-Roboter der Welt zu bewerben, aber die Firma ignorierte diese Anfrage und kam ihr nicht vollständig nach. Trotzdem hat ihr Fall einen Präzedenzfall geschaffen, da die FTC anerkennt, dass Anwälte nicht daran hindern sollten, dass die KI genaue rechtliche Dienstleistungen anbietet. Es sollte jedoch eine trainierte KI und kein Sprachmodell mit geringem Wissen sein.
Die FTC erkennt an, dass die KI nicht daran hindern sollte, genaue rechtliche Dienstleistungen anzubieten. DoNotPay wird nicht mehr in der Lage sein, seine KI als Anwalt-Roboter zu bewerben, und muss stattdessen die Nutzer warnen, dass die KI nicht in der Lage ist, genaue rechtliche Dokumente zu erzeugen.
Schreibe einen Kommentar