Aktuelle Nachrichten
Hohe Gesundheitsfolgekosten durch Alkohol und Zigaretten
Planung für Erweiterungsbau der Deutschen Nationalbibliothek
Sozialversicherungsbeitragspflicht für Nebenerwerbslandwirte
Finanzausschuss reist nach Stockholm und Oslo
Falschaussage im Maut-Untersuchungsausschuss?: Landgericht lässt Anklage gegen Ex-Minister Andreas Scheuer zu
Neun Monate nach Anklageerhebung hat das Landgericht Berlin I die Anklage wegen des Verdachts der Falschaussage im Bundestagsuntersuchungsausschuss zugelassen. Mitangeklagt ist auch Ex-Staatssekretär Gerhard Schulz.
Brasilianische Anwälte wegen Manipulation von KI System eines Gerichts zu Geldstrafe verurteilt
Ein Arbeitsgericht in Brasilien hat zwei Anwälte zu einer Geldstrafe von rund 84.000 brasilianischen Real (ca. 14.000 EUR) verurteilt, nachdem sie versucht hatten, ein KI System eines Gerichts innerhalb eines Gerichtsverfahrens zu beeinflussen. Nach Angaben des Gerichts wurden Eingaben so formuliert, dass die KI die Position ihrer Mandanten bevorzugt darstellen sollte.
Das betroffene Gericht nutzt KI zur Unterstützung bei der Analyse von Dokumenten, Zusammenfassungen und weiteren Verfahrensschritten. Die Anwälte sollen dabei Anweisungen in eingereichte Texte eingebettet haben, die das Verhalten des Systems gezielt steuern sollten. Solche Angriffe werden als „Prompt Injection“ bezeichnet. Dabei werden versteckte oder scheinbar legitime Anweisungen in Inhalte eingebaut, um die Ausgabe eines KI Sprachmodells zu manipulieren. Dies kann z.B. mit der Verwendung von weisser Schrift auf weissem Hintergrund kaschiert werden.
Manipulation wurde durch menschliche Kontrolle entdeckt
Bemerkenswert ist, dass die Manipulation nicht automatisch erkannt wurde. Laut einem Bericht bemerkte der zuständige Richter Unstimmigkeiten in den Ergebnissen der KI, untersuchte die Ursache und führte diese auf die eingereichten Dokumente zurück. Die Entdeckung erfolgte damit ausschließlich durch menschliche Aufmerksamkeit und nicht durch technische Schutzmechanismen.
Die genaue Formulierung der eingebetteten Anweisungen wurde bislang nicht veröffentlicht. Das Vorgehen entspricht jedoch bekannten Angriffstechniken, bei denen KI Modelle dazu gebracht werden sollen, bestehende Anweisungen zu ignorieren und bestimmte Inhalte stärker zu gewichten oder bevorzugt darzustellen.
Der Beitrag Brasilianische Anwälte wegen Manipulation von KI System eines Gerichts zu Geldstrafe verurteilt erschien zuerst auf .
21/6164: Schriftliche Fragen Schriftliche Fragen mit den in der Woche vom 26. Mai 2026 eingegangenen Antworten der Bundesregierung (PDF)
21/6177: Kleine Anfrage Staatsangehörigkeiten von Tatverdächtigen und Opfern nach ausgewählten Straftaten in der Polizeilichen Kriminalstatistik 2025 (PDF)
21/6176: Kleine Anfrage Einstellung des Betriebs des Bundesprojekts "Datenatlas Bund" und deren Folgen (PDF)
21/6167: Kleine Anfrage Berücksichtigung strukturschwacher Regionen im neuen Europäischen Wettbewerbsfonds (PDF)
21/6166: Kleine Anfrage Mögliche Verbindungen zwischen christlichem Fundamentalismus und Rechtsextremismus in Deutschland (PDF)
AI and Privilege: Part two, regulatory inquiries and investigations – Key considerations for professional services and financial services firms
LSG zur Eingliederungshilfe: Sachsen-Anhalt muss Ausbildung zum PTBS-Assistenzhund bezahlen
Ein Assistenzhund soll einer Studentin mit PTBS helfen, ihren Alltag besser zu bewältigen. Das LSG Sachsen-Anhalt verpflichtete das Bundesland nun dazu, die Spezialausbildung des Tieres vorläufig mit mehr als 4.000 Euro zu finanzieren.
