Dit document biedt een gedetailleerde en overzichtelijke analyse van de deontologische implicaties van het gebruik van Generatieve Kunstmatige Intelligentie (GKI) door magistraten, advocaten en hun teams in de uitoefening van hun beroep.
Het document is opgesteld door de Gezamenlijke Raadgevende
Deontologiecommissie voor de relatie tussen magistraten en advocaten (Conseil
consultatif conjoint de dΓ©ontologie de la relation magistrats-avocats) en heeft
als doel een minimale basis van gedeelde goede praktijken vast
te stellen.
Hieronder volgt een gedetailleerde bespreking,
gestructureerd volgens de hoofdthema's van de brontekst:
Aard en Context van GKI in de Justitie
Het gebruik van GKI, systemen die nieuwe inhoud (teksten,
beelden, analyses) kunnen creΓ«ren op basis van instructies (prompts),
kent een ongekende groei en transformeert reeds de beroepspraktijk van
justitiΓ«le actoren.
Voordelen en Risico's: Hoewel GKI ongekende
perspectieven biedt op het gebied van verhoogde kwaliteit en efficiΓ«ntie—met
name bij documentair onderzoek, verspreiding van jurisprudentie en hulp bij
redactie—brengt het ook aanzienlijke risico’s met zich mee:
• Feitelijke fouten.
• Reproduceren van vooroordelen of stereotypen die
al aanwezig zijn in de trainingsgegevens.
• Inbreuken op de vertrouwelijkheid van
gegevens of het beroepsgeheim.
• Moeilijkheid om juridische redeneringen toe te
lichten bij onvoldoende verificatie.
Vereiste Waakzaamheid: Gezien het essentiΓ«le
belang van vertrouwen en nauwkeurigheid in de rechtsspraak, mag de inzet van
GKI enkel plaatsvinden met voorzichtigheid, kritisch inzicht en
ethische waakzaamheid. Het document stelt dat GKI een krachtige hefboom is
om de werking van justitie te verbeteren, maar dat het nooit de
menselijke analyse mag vervangen. Het moet een hulpmiddel blijven dat onder
voortdurende controle van de magistraat of advocaat staat, ter bescherming van
het vertrouwen, de onafhankelijkheid en de menselijkheid van de rechtsgang.
Wettelijk en Deontologisch Kader
Sinds het begin van de jaren 2010 hebben tal van
internationale (Unesco, OESO) en Europese instellingen (Europese Unie, Raad van
Europa) zich ingezet voor de regulering van GKI door middel van richtlijnen en
juridische teksten, zoals de AI-verordening van de EU en het kaderverdrag van
de Raad van Europa.
In Frankrijk hebben diverse justitiΓ«le instellingen stappen
ondernomen:
• De Cour de cassation (Hof van
Cassatie) benadrukte in april 2025 het belang van een sobere, respectvolle
en menselijk gesuperviseerde inzet van AI.
• Er is in juni 2025 een strategie voorgesteld om de
integratie van GKI-tools in de dagelijkse beroepsuitoefening van
justitiemedewerkers (rechterlijke diensten, gevangeniswezen) te bevorderen,
waarbij veilige en transparante toegang tot soevereine hulpmiddelen wordt
nagestreefd en gebruik in strijd met de wet wordt verboden.
• Organisaties van advocaten (Ordre des avocats aux
conseils, Conseil national des barreaux – CNB) hebben
actief beleid gevoerd door middel van handleidingen en analysemodellen voor
GKI-tools.
Het huidige document, dat voortvloeit uit deze mobilisatie,
richt zich specifiek op de deontologische uitdagingen, waarbij de
deontologische regels worden gezien als een onmisbaar
reguleringsinstrument voor een deugdelijke toe-eigening van deze
hulpmiddelen.
I. Relevante Gebruiksscenario's en Beperkingen
Het document presenteert de volgende concrete
gebruiksscenario's voor GKI in de juridische sector, inclusief hun
onvermijdelijke beperkingen:
|
Categorie |
Voordelen |
Beperkingen / Vereiste Vigilantie |
|
Juridisch Onderzoek (bv. Lexis 360, Doctrine) |
Tijdwinst, snelle identificatie van sleuteluitspraken. |
Risico op fouten, lacunes of vooringenomenheid. Verificatie
van de relevantie van de geciteerde referenties is noodzakelijk. |
|
Interne Specifieke AI |
Optimalisatie van repetitieve/tijdrovende taken (bv.
synthese van dossiers). |
Risico op fouten. Noodzakelijke menselijke
controle op de nauwkeurigheid van de voorstellen. |
|
Assistentie bij Redactie |
Versnelling van de vormgeving (bv. samenvatting van
feiten, inventarisatie van middelen). |
Risico op fouten. Dwingende verificatie van
de gepresenteerde informatie. |
|
Ondersteuning van SeriΓ«le Geschillen |
Rationalisatie van modelaktes of beslissingen. |
Menselijke verificatie van classificaties is
cruciaal. Overmatige standaardisatie moet worden vermeden, de
mens moet centraal blijven staan in het besluitvormingsproces. |
II. Deontologische Risico's
Het gebruik van GKI brengt specifieke deontologische
risico's met zich mee, die de professionals moeten beheersen:
1. Verlies van Verantwoordelijkheid (DΓ©responsabilisation): De
professional blijft als enige verantwoordelijk voor de genomen
beslissingen of uitgevoerde handelingen.
2. Algoritmische Vooroordelen: De
verwerking van historische gegevens kan leiden tot het reproduceren of
verergeren van stereotypen, wat kan resulteren in discriminatie.
3. Feitelijke Fouten of Hallucinaties: GKI
kan valse tekstuele of jurisprudentiΓ«le referenties produceren
(hallucinaties). De professional moet de waarheidsgetrouwheid van de
referenties verifiΓ«ren, gezien de plicht tot bekwaamheid.
4. Onvoldoende Toelichtbaarheid (ExplicabilitΓ©): De
juridische redenering, ondersteund door GKI, moet geverifieerd zijn en toelichtbaar zijn
(voor de cliΓ«nt, de rechtbank, of in de motivering van een beslissing).
5. Inbreuken op Vertrouwelijkheid en Beroepsgeheim: Het
invoeren van persoonlijke of door het geheim gedekte gegevens in een onbeveiligd
hulpmiddel schendt de deontologische verplichtingen tot discretie of
geheimhouding.
6. Verlies van Kritisch Denken: De GKI-tool
moet een assistent blijven en mag de mens niet vervangen in de besluitvorming.
7. Risico op Verarming van Intellectuele Redenering: GKI
selecteert vaak de meest gangbare redeneringen, waardoor minderheidsredeneringen
onzichtbaar kunnen worden. Hierop is bijzondere waakzaamheid geboden.
IV. Deontologische Goede Praktijken
Om de risico's te beperken, dienen magistraten, advocaten en
hun teams de volgende goede praktijken in acht te nemen:
1. Begrip en Opleiding: Begrijp de werking
en het beveiligingsniveau van de GKI-tools en ken het toepasselijke juridische
kader (privacy, intellectuele eigendom). Volg specifieke deontologische
opleiding over GKI om de risico's op vooringenomenheid, beperkingen en
ethische toepassingen beter te begrijpen.
2. Menselijke Expertise is Onmisbaar: Het
gebruik van GKI mag de menselijke expertise niet vervangen. Elk gebruik
zonder kritische herlezing moet worden uitgesloten.
3. Nauwkeurigheid VerifiΓ«ren: Verifieer de
juistheid van de verzamelde informatie.
4. Beveiliging en Soevereiniteit: Sluit de
invoering van persoonlijke of vertrouwelijke gegevens in een onbeveiligd
hulpmiddel uit. Onderzoek de digitale soevereiniteit van de gebruikte
hulpmiddelen.
5. Informeren van Justitiabelen: Informeer
justitiabelen over de juridische en ethische risico's bij de invoering van
vertrouwelijke gegevens in een niet-soevereine en vrij toegankelijke GKI-tool.
6. Milieu-afdruk: Gebruik GKI-tools op een
beredeneerde en beheerste manier om hun milieu-afdruk te beperken.
7. Gedeeld Begrip: Bevorder regelmatige
uitwisseling tussen rechtbanken en balies om een gedeeld begrip van
de gebruikte tools te garanderen.