Wie künstliche Intelligenz die Berichte der US-Polizei verändert | Künstliche Intelligenz (KI)

ODie Beamtein Wendy Venegas sprach leise auf Spanisch mit der 14-Jährigen, die am Rand einer schmalen Wohnstraße in East Palo Alto stand. Das Gesicht des Mädchens war vom Weinen geschwollen, als sie leise erklärte, was passiert war.

Das Mädchen sagte, ihr Vater habe sie und ihren Freund an diesem Morgen dabei erwischt, „etwas zu tun“, und ihr Vater habe den Jungen entweder geschlagen oder geschubst, erklärte Venegas später. Nun war die Polizei eingetroffen, um alle drei zu befragen. Bisher war das alles Standardprozedur.

Aber als es an der Zeit war, diesen Vorfall in einen Bericht umzuwandeln, würde Venegas Hilfe von einem neuen Assistenten erhalten: einem hochmodernen Tool für künstliche Intelligenz namens Draft One.

East Palo Alto, eine kleine Arbeiterstadt, die sich wie eine Welt abseits ihrer Nachbarn im Silicon Valley anfühlt, gehört zu den wenigen kalifornischen Behörden, darunter Campbell, San Mateo, Bishop und Fresno, die damit begonnen haben, die KI einzusetzen oder zu testen. Angetriebene Software, entwickelt von Axon, einem Branchenführer für Körperkameras und Taser. Axon sagte, das Programm könne Beamten dabei helfen, objektivere Berichte in kürzerer Zeit zu erstellen. Doch da immer mehr Behörden diese Art von Tools einsetzen, fragen sich einige Experten, ob sie der künstlichen Intelligenz eine zu große Rolle im Strafjustizsystem einräumen.

„Wir vergessen, dass dieses Dokument eine wirklich zentrale Rolle bei Entscheidungen spielt, die das Leben der Menschen verändern“, sagte Andrew Ferguson, Strafrechtsprofessor am Washington College of Law der American University, der den ersten juristischen Übersichtsartikel über KI-gestützte Polizeiberichte verfasste voraussichtlich nächstes Jahr veröffentlichen.

Von der Dokumentation der Einzelheiten komplexer Tötungsdelikte bis hin zur Erfassung der Grundlagen eines gestohlenen Fahrrads – Polizeiberichte standen im Mittelpunkt der Polizeiarbeit.

„Sie sind tatsächlich eine Art Baustein des Strafjustizsystems, weil sie die offizielle Art der Erinnerung daran sind, was wann und manchmal warum passiert ist“, sagte Ferguson.

Staatsanwälte treffen Anklageentscheidungen, Richter entscheiden über Kaution und Menschen treffen Entscheidungen über ihre eigene Verteidigung – zumindest teilweise – auf der Grundlage dessen, was auf diesem ersten Blatt Papier steht.

„Wenn ein Teil davon durch KI gestaltet wird, wirft das einige echte Bedenken auf, ob wir uns darauf verlassen können“, sagte Ferguson. Das durch KI verursachte Fehler- oder Verzerrungspotenzial wird noch untersucht. Er fügte jedoch hinzu, dass die Verantwortlichen der Strafverfolgungsbehörden verständlicherweise den Wunsch hätten, die Effizienz zu verbessern.

Axon vermarktet sein Draft One-Tool als Kraftmultiplikator, der für viele Polizeibehörden attraktiv ist, die Schwierigkeiten haben, Beamte zu rekrutieren und zu halten, eine Krise, die nach Aussage vieler Strafverfolgungsbehörden durch die Ermordung von George Floyd und die darauffolgenden Proteste verschärft wurde.

„Das Pendel schwingt, aber viele von ihnen liegen immer noch 15 bis 20 % unter ihren angestrebten Kräftezahlen“, sagte Axon-Gründer Rick Smith bei einer Telefonkonferenz mit den Aktionären im August. „Und da hören wir diese Art von magischem Feedback, bei dem sie sagen: ‚Mann, wenn ich mit Draft One 20, 25 % des Tages meiner Beamten für das Schreiben von Berichten einspare, dann sind das fast wie 20 % Anstieg meiner Kraftstärke über Nacht.’“

Der Polizeichef von East Palo Alto, Jeff Liu, sagte, seine Behörde sei nicht immun gegen diese Personalprobleme. Das Budget der Abteilung umfasst 36 vereidigte Beamte, einschließlich des Chefs, aber ihm fehlen derzeit acht Stellen. Er betrachtet Draft One nicht als eine schlüsselfertige Lösung, hofft aber, dass es den Beamten helfen kann, mehr Zeit auf der Straße zu verbringen.

„Wenn diese KI die Berichte beschleunigt, ohne dabei die Genauigkeit zu beeinträchtigen, ist das meiner Meinung nach ein Gewinn“, sagte er. Aus dem Vertrag von East Palo Alto geht hervor, dass „Draft One“ die Stadt etwa 70 US-Dollar pro Körperkamera pro Monat oder etwa 40.000 US-Dollar pro Jahr kostet.

Liu sagte, obwohl er heutzutage nicht mehr viele Berichte schreibe, nutze er ChatGPT, um Social-Media-Beiträge und sogar Kondolenzbriefe zu verfassen, die er dann mit seiner eigenen Stimme anpasse. Die Arbeit mit dem beliebten KI-Chatbot habe ihn offener für Draft One gemacht, sagte er. Draft One verwendet die gleiche zugrunde liegende KI wie ChatGPT, die Daten der Abteilungen werden jedoch in einem sicheren, von Microsoft entwickelten Regierungs-Cloud-Dienst gespeichert.

Axon ist nicht das einzige Unternehmen, das diesen Service anbietet. Truleo – ein Unternehmen, das KI verwendet, um riesige Mengen an Bodycam-Aufnahmen zu analysieren, um sicherzustellen, dass Beamte professionell handeln – bietet ein ähnliches Programm zum Verfassen von Berichten an, das jedoch nicht so weit verbreitet vermarktet oder angenommen wurde wie Axons Draft One.

Im nahegelegenen Santa Clara County sagte Ian White, Polizeikapitän von Campbell, dass die Beamten im ersten Testmonat seiner Abteilung, in dem Draft One getestet wurde, insgesamt etwa 50 Stunden eingespart hätten. Die Polizeibehörde in Fort Collins, Colorado, stellte fest, dass Berichte, die mit Draft One erstellt wurden, im Durchschnitt in acht Minuten erstellt wurden, während diejenigen, die die Software nicht verwendeten, 23 Minuten brauchten.

Aber die erste unabhängige Studie der Draft One-Software, die diese Woche im Journal of Experimental Criminology veröffentlicht wurde, bestätigte nicht die von White und anderen berichteten Zeiteinsparungen. Forscher der University of South Carolina führten im vergangenen Jahr eine randomisierte kontrollierte Studie mit einer Polizeibehörde in New Hampshire durch. Dabei kam heraus, dass Beamte, die Draft One nutzten, Berichte nicht schneller verfassten als diejenigen in der Kontrollgruppe.

Der Assistenzprofessor Ian Adams, der die Studie leitete, sagte, er könne noch keine Schlussfolgerungen darüber ziehen, warum es keine Zeiteinsparungen gab – er und seine Kollegen untersuchten das noch –, aber er sagte, die Ergebnisse hätten ihn überrascht. Er warnte auch davor, seinen Erkenntnissen zu viel Gewicht beizumessen. „Es geht um eine Agentur, um ein Ergebnis zu einem bestimmten Zeitpunkt“, sagte Adams.

Sein Team erforscht noch, ob es weitere Vorteile wie Genauigkeit oder Vollständigkeit geben könnte. Wenn eine Technologie wie Draft One besser geschriebene Berichte produzieren könne, sagte er, „werden sie vielleicht seltener zur Bearbeitung oder Überarbeitung zurückgegeben.“ [often]und so könnte man vielleicht systemische Einsparungen sehen.“

Venegas in East Palo Alto sagte, das Programm habe ihr geholfen, ihre Schreibblockade zu überwinden, insbesondere nach einem langen Tag auf Patrouille. Sie drückt einfach die „Draft One“-Taste auf ihrem Computer und schon erscheint innerhalb von Sekunden eine Erzählung, die auf dem Audiotranskript ihrer Bodycam-Aufnahmen basiert.

„Wenn du nicht weißt, welche Wörter du schreiben willst, und dann schaust du nur hin und denkst: ‚Oh, das ist genau das, was ich gedacht habe!‘ Das ist das Beste“, sagte sie. Draft One verändert auch die Art und Weise, wie sie vor Ort arbeitet. Da der Bericht auf dem Audiotranskript basiert, sagte Venegas, sie werde gezielt darüber sprechen, was während eines Vorfalls passiert.

„Ich frage mich: ‚Hast du das gesehen?‘ „Der Spiegel ist zerbrochen“, sagte Venegas. „‚Hast du das gesehen? Es liegen Sachen auf dem Boden. Das Messer, das blutige Messer, liegt auf dem Boden.‘“

Ein Axon-Produktdesigner, Noah Spitzer-Williams, sagte, dies sei einer der überraschendsten und faszinierendsten Nebeneffekte der Software: Sie gebe den Beamten einen Anreiz, insgesamt verbaler zu sein und sogar in das Mikrofon ihrer Kamera zu sprechen, um Kontext bereitzustellen – etwa den Bewährungsstatus B. eines Motivs oder ob eine Waffe vor dem Eintreffen am Tatort gemeldet wurde – das Audiotranskript enthält also wichtige Details, die Draft One in den Bericht einfügt.

„Während der Interaktion stellt der Beamte dann weitere Fragen“, sagte Spitzer-Williams. „Sie wiederholen Aussagen wie ‚Okay, Jimmy.‘ Du gibst mir die Zustimmung, deinen Rucksack zu durchsuchen.‘“

Spitzer-Williams sagte, dies fördere auch die Beziehungen zur Gemeinde, da die Beamten erklären, was sie tun und warum.

Untersuchungen der American Civil Liberties Union zeigen jedoch, dass die Echtzeiterzählung von Beamten auch zur Manipulation von Beweisen genutzt wurde. Ein häufiges Beispiel ist, wenn Beamte „Hört auf, Widerstand zu leisten“ rufen, um die Anwendung von Gewalt zu rechtfertigen, selbst wenn die Person sich daran hält. Spitzer-Williams von Axon sagte, er glaube nicht, dass Draft One diese „echten Bedenken“ noch verschlimmern werde.

Spitzer-Williams verwies auch auf eine Axon-Studie, die ergab, dass von der Software verfasste Berichte tendenziell eine weniger voreingenommene Sprache verwenden als von Beamten verfasste Berichte.

Zurück in einem Konferenzraum der Polizei von East Palo Alto las Venegas aus ihrem von der KI erstellten Bericht vor. „Am 23. September 2024, gegen 10.49 Uhr, antwortete ich, Officer Venegas, auf einen Anruf wegen einer geringfügigen und häuslichen Störung.“

Das Programm habe einen guten Rohentwurf hervorgebracht, sagte sie, aber es gebe einige Einschränkungen. Zu diesem Zeitpunkt versteht Draft One nur Englisch, sodass einige Dinge falsch waren, z. B. wer sprach und wer mit wem verwandt war.

„Manchmal passieren solche kleinen Fehler“, sagte Venegas, „die leicht zu korrigieren sind.“

Einige im Bereich der Strafjustiz sagten, diese scheinbar kleinen Fehler deuten auf größere Fragen der Urheberschaft hin, die im Urteilsprozess von entscheidender Bedeutung sein können. Dr. Matthew Guariglia, ein Politikanalyst der Electronic Frontier Foundation, sagte, er sei besorgt, dass diese Berichte „die Möglichkeit zerstören würden, Beamte ins Kreuzverhör zu nehmen.“ Denn wenn ein Beamter im Zeugenstand bei einer Lüge ertappt wird, kann er immer einfach sagen: ‚Nun, das hat die KI geschrieben.‘“

White von der Campbell Police Department, die die Software seit Mai nutzt, sagte, die Richtlinien seiner Abteilung stellen sicher, dass Beamte die Verantwortung für die Erstellung der von Draft One erstellten Berichte übernehmen. Selbst wenn ein Beamter „Vermasselt“ habe und ein Fehler in den Bericht eingefügt wurde, sollte dieser, sagte er, durch die Überprüfung dessen, was er den „Goldstandard“ an Beweisen nannte, leicht behoben werden können: das Bodycam-Video.

„Jede menschliche Aktivität birgt Fehler“, sagte White. Er glaubt, dass KI die Dinge genauer machen wird, nicht weniger.

Die stellvertretende Bezirksstaatsanwältin des San Mateo County, Rebecca Baum, die mit den Polizeibehörden von East Palo Alto und San Mateo über deren Umstellung auf KI-gestützte Berichte gesprochen hat, sagte, ihr Büro sei vorsichtig optimistisch, was das neue Programm angeht. Ihre Hauptsorge besteht darin, dass Körperkameras und insbesondere Körperkamera-Audio nicht alles aufzeichnen, was während eines Vorfalls passiert.

„Das Verhalten des Zeugen, ob jemand unter Drogen- oder Alkoholeinfluss steht, ob es Verletzungen gibt“, sagte Baum, „das geht nicht aus einer Audioaufnahme der Körperkamera hervor.“

Die Beamten müssten weiterhin in den Prozess des Verfassens dieser Berichte eingebunden bleiben, sagte Baum, damit sie nichts auslassen – insbesondere Informationen, die zeigen, dass eine Person unschuldig sein könnte, und die die Staatsanwälte zur Herausgabe verpflichtet haben.

Axon hat seinerseits auch eine Reihe von Sicherheitsmaßnahmen in die Anwendung integriert, um sicherzustellen, dass ein Beamter den Bericht im Detail durchgeht, ihn Korrektur liest und sicherstellt, dass er korrekt ist.

Auf dem Computerbildschirm demonstrierte Venegas, wie jeder Absatz des Berichts Kommentare enthielt, die geklärt werden mussten, bevor sie den Bericht aus Draft One in das Abteilungssystem verschieben konnte.

Und ganz unten auf dem Bildschirm zeigte Venegas auf ein Kästchen, das sie anklicken musste, ein letzter Schritt, den Spitzer-Williams von Axon angesichts der möglichen Auswirkungen jedes Berichts als „wohl den wichtigsten“ bezeichnete.

„Ich bestätige, dass dieser Bericht mit Draft One von Axon erstellt wurde“, las Venegas laut vor. „Und ich bestätige außerdem, dass ich den Bericht im Detail gelesen, alle notwendigen Änderungen vorgenommen habe und glaube, dass er eine genaue Wiedergabe meiner Erinnerungen an die gemeldeten Ereignisse darstellt. Bei Bedarf bin ich bereit, die Richtigkeit dieses Berichts zu bestätigen.“

Diese Geschichte ist eine Zusammenarbeit zwischen KQED, Guardian US und dem California Newsroom