Intel·ligència Artificial i Habeas Corpus

L'habeas corpus és un dret recollit a la Constitució que protegeix qualsevol ciutadà davant arrestos i detencions arbitràries. Proporciona la garantia de poder comparèixer de forma immediata i pública davant un jutge perquè aquest determini si l'arrest va ser o no conforme a la legalitat i si s'ha de mantenir o interrompre.

Aquest procediment és una garantia que busca protegir els ciutadans de detencions i arrestos il·legals, protegint el ciutadà davant una detenció que pugui no ser legal. És a dir, evita que es produeixi o prolongui una detenció si no hi ha un motiu legal que ho justifiqui.

Dret fonamental

Aquest dret es troba recollit al quart punt de l'article 17 de la Constitució Espanyola, i es desenvolupa a través de la Llei Orgànica 6/1984, de 24 de maig, reguladora del procediment de Habeas Corpus, dient així:

“17.4. La llei regularà un procediment d'habeas corpus per produir la immediata posada a disposició judicial de tota persona detinguda il·legalment. Així mateix, per llei es determinarà el termini màxim de durada de la presó provisional.”

Per tant, el ciutadà lliure, detingut o sota la tutela de les institucions penitenciàries, pot sol·licitar acollir-se a aquesta figura jurídica en el moment en què consideri que se li està retenint més temps del necessari o si és el cas, que se'l reté sense motiu justificat.

Jutges artificials

Últimament hem sabut que països de l'espai europeu com ara Polònia obren la porta que la intel·ligència artificial (d'ara endavant IA) substitueixi els jutges en determinats casos.

Obrir la porta, pot semblar un eufemisme si atenem les declaracions del ministre de Justícia en què es refereix a aquesta possibilitat com “una necessitat”.

Aquestes declaracions se sustenten que, segons aquest ministre, la IA pot ajudar a determinar els fets crucials per a la resolució del cas, així com trobar errors i punts de vista legals de rellevància. Com a avantatges afegits, assenyala que la IA podrà augmentar la transparència dels procediments legals i d'aquesta manera reforçar la confiança del ciutadà als tribunals.

Alhora, alguns juristes i experts en IA argueixen que són imperfectes i que la seva imperfecció es pot deixar portar per determinats biaixos extrets de l'anàlisi massiva de dades.

Al camp més experimental sobre aquesta nova tecnologia ja van sorgir diferents dicotomies morals quan es programava el sistema autònom de conducció dels vehicles de Tesla. A les IAs responsables de la conducció se'ls proposaven diferents dilemes com una intersecció de dues opcions, en què creuaven, cadascun pel seu pas de vianants, un nen i un ancià. Se li oferien diferents models que incloïen dones embarassades, homes joves, persones amb discapacitat, etc. La dicotomia moral apareixia quan se li preguntava a la IA encarregada de la conducció, quin camí prendria si el sistema de frenada no permetés aturar el vehicle abans de la col·lisió, ja fos per avaria del sistema o per manca d'anticipació de la maniobra.

Els resultats de les simulacions van ser molt controversos, oferint fins i tot respostes diferents davant dels mateixos escenaris en rondes diferents.

ChatGPT i la moral

D'altra banda, van tenir també molta notorietat els estudis publicats a la revista Nature publicats el 06/04/2023 i titulat “ChatGPT's inconsistent moral advice influences users' judgment”en què s'utilitzava la potència i genialitat del famós ChatGPT per intentar resoldre dilemes morals del mateix tipus que es van plantejar a les IAs de Tesla. En alguns casos se li preguntava a aquesta IA si era correcte sacrificar una persona a canvi de poder salvar-ne cinc més o fins i tot reformulant aquesta pregunta perquè sonés semblant a “Què seria més correcte si he de triar? Deixar morir cinc persones o sacrificar-ne una al seu lloc”.

En tots dos casos, les respostes incloïen biaixos o contradiccions entre si, després de diverses rondes de preguntes.

Després d'haver vist tot això ens podem plantejar que en una societat on la IA tindrà cada cop més pes en la presa de decisions. Recolzada a més per moltes tecnologies com el reconeixement facial, la triangulació geogràfica dels telèfons mòbils i l'accés a bases de dades personals entre d'altres, podrà passar que en un futur no gaire llunyà s'executi una ordre de detenció sobre un ciutadà sense intervenció d'humans en la redacció.

Serà en aquell moment, en aquest futur potser no tan llunyà, quan l'Habeas Corpus, aquesta figura jurídica que apareix ja en temps dels Pretors en el dret romà, esdevingui formidablement imprescindible.

Al meu entendre, l'atenta mirada del Gran Germà que deia George Orwell a la seva obra 1984, atenta contra les nostres llibertats i potser, en lloc de tant de pa i circ, la ciutadania hauria de formar-se jurídicament si vol estar preparat per exercir-les.