Federalny sąd w Australii doprecyzował, jak prawnicy mogą korzystać z generatywnej AI w sprawach sądowych. Stawką jest nie tylko sprawność postępowań, ale też zaufanie do wymiaru sprawiedliwości i realne konsekwencje finansowe za błędy.
Nowe reguły w odpowiedzi na falę wpadek
Federalny sąd w Australii opublikował praktyczne wytyczne dotyczące użycia generatywnej sztucznej inteligencji w postępowaniach. To reakcja na rosnącą liczbę przypadków, w których do akt trafiały materiały zawierające nieistniejące orzeczenia, zmyślone cytaty lub błędne ustalenia faktów – czyli klasyczne „halucynacje” modeli językowych.
Sąd nie zakazuje technologii, ale wyraźnie sygnalizuje zmianę podejścia: od pobłażliwego „to nowość” do twardego egzekwowania standardów. W praktyce oznacza to, że odpowiedzialność za treść dokumentu nie rozmywa się, nawet jeśli część pracy wykonał algorytm.
Nie wolno wprowadzać sądu w błąd
Wytyczne podkreślają, że przedstawianie fałszywych lub niedokładnych informacji jest nie do zaakceptowania, bo stoi w sprzeczności z obowiązkiem niewprowadzania sądu i stron w błąd. To ważne doprecyzowanie w epoce, w której generatywna AI potrafi brzmieć przekonująco nawet wtedy, gdy „wymyśla” źródła.
Sąd wskazuje też na konsekwencje proceduralne: błędy generowane przez AI mogą utrudniać sprawne i możliwie tanie prowadzenie postępowania. Innymi słowy, jeśli technologia przyspiesza pisanie, ale spowalnia weryfikację i wyjaśnianie pomyłek, to finalny rachunek dla wymiaru sprawiedliwości rośnie.
Weryfikacja cytowań i źródeł to obowiązek, nie opcja
Najbardziej praktyczny element zaleceń dotyczy kontroli jakości. Prawnicy mają upewniać się, czy w przygotowaniu dokumentów użyto AI, a następnie sprawdzać, czy powołane podstawy prawne i orzecznictwo w ogóle istnieją oraz czy rzeczywiście wspierają tezę, dla której zostały przywołane.
To nie jest drobiazg techniczny, tylko fundament rzetelności procesu. Fałszywe cytowania mają efekt domina: jeśli raz trafią do obiegu, mogą być bezrefleksyjnie powielane w kolejnych pismach. Sąd odnotował już sytuacje, w których w toku sprawy ujawniono, że kluczowy precedens, na którym oparto argumentację, nigdy nie istniał.
Ujawnianie użycia AI i wpływ na dowody
Wytyczne idą dalej niż same pisma procesowe. Użycie AI ma być ujawniane także wtedy, gdy narzędzia służą do streszczania lub analizowania informacji, a także do tworzenia obrazów, wideo czy nagrań dźwiękowych przedstawianych jako materiał w sprawie. Jeśli sposób przygotowania treści może wpływać na dopuszczalność dowodu, sąd chce o tym wiedzieć.
Istotny jest również standard transparentności: informacja o użyciu generatywnej AI powinna pojawić się na początku dokumentu, z wyjaśnieniem, gdzie i w jakim zakresie narzędzie zostało wykorzystane. To próba ograniczenia „szarej strefy”, w której AI bywa używana po cichu – niby jako edytor, a faktycznie jako współautor argumentacji.
Oświadczenia i opinie ekspertów: AI nie zastąpi pamięci
Szczególne miejsce w wytycznych zajmują oświadczenia składane pod rygorem odpowiedzialności oraz opinie biegłych. Jeśli generatywna AI jest używana przy ich przygotowaniu, dokument nadal ma odzwierciedlać realną wiedzę, doświadczenie i pamięć osoby podpisującej.
To ważne rozróżnienie: AI może pomóc uporządkować materiał lub poprawić język, ale nie może „dopisać” faktów ani wypełnić luk w pamięci. W przeciwnym razie powstaje dokument, który formalnie wygląda poprawnie, lecz merytorycznie jest niepewny – a w sądzie niepewność łatwo zamienia się w błąd procesowy.
Poufność i ryzyko wycieku danych
Sąd ostrzega także przed wprowadzaniem do narzędzi AI informacji poufnych, objętych zakazem publikacji albo prywatnych. Nawet jeśli intencją użytkownika nie jest udostępnianie danych, samo ich przekazanie do zewnętrznego systemu może rodzić poważne skutki.
W praktyce to przypomnienie, że generatywna AI nie jest neutralnym notatnikiem. W zależności od konfiguracji i zasad działania narzędzia, dane mogą zostać zapisane, przetworzone lub wykorzystane w sposób trudny do przewidzenia. Dla kancelarii i stron postępowania ryzyko nie dotyczy tylko reputacji, ale też naruszenia obowiązków zawodowych.
Kary finansowe i odpowiedzialność zawodowa
Wytyczne nie kończą się na apelach o ostrożność. Sąd zapowiada konsekwencje dla tych, którzy używają AI wbrew zasadom – w tym możliwość nałożenia niekorzystnych rozstrzygnięć kosztowych. To sygnał, że „to zrobił model” nie będzie traktowane jako usprawiedliwienie.
W tle są już konkretne przykłady sankcji w Australii oraz działania organów nadzoru zawodowego po ujawnieniu pism z nieistniejącymi cytowaniami. Skala problemu przestała być marginalna: zidentyfikowano co najmniej kilkadziesiąt spraw, w których sądy wykryły błędy typowe dla generatywnej AI.
Między efektywnością a zaufaniem do sądów
Sąd deklaruje, że „obejmuje” technologię i widzi w generatywnej AI potencjał do zwiększania efektywności sporów. To realistyczne: automatyzacja streszczeń, porządkowanie materiału czy szybkie szkice argumentacji mogą skrócić czas pracy i obniżyć koszty.
Jednocześnie wytyczne pokazują granicę: jeśli AI podważa rzetelność materiału i zmusza sędziów do roli „ludzkich filtrów” dla masowo produkowanych argumentów, system staje się niewydolny. W dłuższej perspektywie stawką jest publiczne zaufanie do wymiaru sprawiedliwości – a to zasób, którego nie da się odbudować samą technologią.
Oryginalny tekst: Australian federal court issues warning to lawyers over ‘unacceptable’ use of AI