Największe grzechy AI w doradztwie

Obecnie AI coraz chętniej jest wykorzystywana do świadczenia usług. My podchodzimy do tego z entuzjazmem, ale też daleko idącą ostrożnością, ze względu na świadomość zagrożeń. Oto najważniejsze z nich:

Halucynacje orzecznicze

Modele LLM nie są bazami teleadresowymi ani systemami typu Lex. One nie 'wyszukują' informacji, lecz przewidują najbardziej prawdopodobne słowa. Efekt? AI potrafi z pełnym przekonaniem wymyślić nieistniejącą wytyczną EROD lub decyzję Prezesa UODO. Poda Ci idealnie brzmiącą sygnaturę akt i logiczne uzasadnienie, które w rzeczywistości nigdy nie powstały.

Efekt „potakiwacza”

Modele są programowane tak, aby być pomocne i uprzejme. Jeśli zadasz pytanie z ukrytą tezą, np.: „Czy w tym trudnym procesie rekrutacji AI mogę oprzeć się na prawnie uzasadnionym interesie pracodawcy?”, model prawdopodobnie przytaknie i wygeneruje pasujące argumenty. Doświadczony IOD wie, że polski Kodeks Pracy sztywno reguluje te kwestie i takie wdrożenie to przepis na karę. AI po prostu za bardzo chce Cię zadowolić.

Spłaszczanie polskiego kontekstu prawnego

RODO to rozporządzenie unijne, ale diabeł tkwi w szczegółach krajowych. Większość modeli była trenowana na źródłach anglojęzycznych. Świetnie znają ogólny tekst GDPR, ale gubią się na styku ochrony danych z polskim Prawem bankowym, ustawą o ochronie danych czy specyfiką polskiego prawa pracy.

Pułapka szczegółowego promptu

Aby uzyskać od LLM precyzyjną poradę, musisz szczegółowo opisać case – architekturę systemu klienta, przepływy danych, role podmiotów. Wrzucając takie opisy do publicznego modelu, karmisz go unikalną wiedzą o systemach bezpieczeństwa danej firmy. Jeśli nie korzystasz z zamkniętych wersji biznesowych (Enterprise/API), te dane mogą zasilić kolejną bazę treningową AI.

Pamiętajcie, AI jest bardziej jak skłonny do fantazjowania student prawa niż doświadczony specjalista.