Espanya. Any 2028. Els jutjats i tribunals de justícia fan servir de manera ordinària un sistema d’intel·ligència artificial com a ajuda per dictar les seves resolucions. Vist el seu funcionament, el govern es planteja fer un pas més endavant i vol convocar un referèndum perquè aquest sistema d’intel·ligència artificial s’implanti completament a l’Administració de Justícia, substituint de fet els jutges, i així automatitzar i despolititzar la justícia. Però abans, l’empresa que ha creat aquest sistema d’intel·ligència artificial, convida a una reconeguda jutgessa per treballar en el desenvolupament del projecte i verificar la seva eficàcia. Això coincideix amb la sobtada desaparició d’una de les creadores d’aquest sistema, el que desperta encara més la desconfiança d’aquesta jutgessa en el sistema i en el que pot ocultar.
Aquest és l’argument de Justícia Artificial, pel·lícula hispano-portuguesa dirigida pel director Simón Casal de Miguel i estrenada al setembre de l’any passat als cinemes, que a la vegada es basa en un documental fet pel mateix director a partir d’un guió coescrit amb el filòsof Miguel Penas, qui havia investigat sobre els límits de la intel·ligència artificial, que es va estrenar a la 2 de TVE sense pena ni glòria i que ara triomfa en una plataforma de streaming.
El plantejament de la pel·lícula, tot i ser de ciència ficció, és més actual que no pas futurista: un país sense jutges on la justícia la imparteix la intel·ligència artificial mitjançant un algoritme que ha creat una empresa privada, argument atrevit però cinematogràficament poc ambiciós, rodada, això sí, en uns paratges preciosos de Galícia. Ens pot recordar pel que fa al model policial a Robocop, però no té l’originalitat, per exemple, de Minority Report.
La intel·ligència artificial, ja no com a eina d’ajuda als jutges, el que ve a fer és substituir-los, evitant les característiques negatives de la naturalesa humana (partidisme, error, odi, perjudicis, racisme…) que en teoria no es poden predicar de la intel·ligència artificial. Però la gran pregunta segueix essent la mateixa: qui controla el sistema? La intel·ligència artificial pot agafar consciència de si mateixa i modificar l’algoritme? Pot canviar de criteri per raons d’humanitat?
El que sí reflecteix molt bé la pel·lícula és el recel de tots els agents. Els jutges no veuen clar que les màquines els puguin substituir i que ells no puguin tenir l’última paraula. Els governants no veuen clar que puguin deixar de tenir influència en els jutges i en definitiva en algunes resolucions judicials. I els ciutadans no veuen clar que la consciència de la intel·ligència artificial sigui capaç de discernir situacions especials que permetin apartar-se de l’algoritme si és el cas. Tot molt complex.
Per posar un exemple: La intel·ligència artificial hagués modificat la jurisprudència en matèria de contractes bancaris i hagués determinat com a abusives determinades clàusules? La intel·ligència artificial podria modificar el seu criteri per raó de canvis socials o noves realitats sense haver de modificar l’algoritme? Complicat. Al final som humans, i en les nostres actuacions i decisions sempre hi ha un component humà que respon a una determinada mentalitat segons el moment o l’època. El que en un moment s’ha considerat legal o normal pot esdevenir en un altre moment il·legal o extraordinari, quelcom que difícilment respon a un simple càlcul algorítmic. I és que el que és evident és que la intel·ligència artificial podrà millorar exponencialment qualsevol actuació o procés, però mai substituir al ser humà. El factor clau aquí és qui controla al controlador.
Antoni Pérez De-Gregorio i Capella
Client Choice Awards 2020 Litigation
Advocat a Rebled Bellvehí Advocats
