Justicia artificial
España / Portugal (2023) *
Género: Suspense / Ciencia ficción
Duración: 98 min.
Música:Sofía Oriana Infante
Fotografía: Diego Cabezas
Guion: Simón Casal y Víctor Sierra
Dirección: Simón Casal
Intérpretes: Verónica Echegui (Carmen Costa), Tamar Novas (Brais Lago), Alba Galocha (Alicia Kóvack), Alberto Ammann (Alex Havel), Paula Morado (Manuela), Lúcia Moniz (Sofía), Afonso Pimentel (Jesús Almeida), Santi Prego (Goitia), Marco D'Almeida (Vidal).
Alicia Kóvack llega al tribunal presidido por la juez Carmen Costa y donde juzgan a un joven por delitos informáticos.
Mientras se lleva a cabo el juicio, la jueza observa de reojo un ordenador donde un programa informático, THENTE 2, en función del historial del acusado, de sus reacciones y expresiones, y de sus respuestas, calcula la probabilidad de reincidencia, y concluye que hay una probabilidad de reincidencia del 82% y recomiendan denegar su libertad, poniendo a disposición de la jueza la argumentación jurídica.
Pero, pese a la recomendación de THENTE 2, falla a favor del acusado y le concede el tercer grado.
A la salida, Alicia se dirige a la juez y le dice que tiene que hablar con ella de forma urgente, y la juez la cita para el viernes por la mañana.
La presidenta del gobierno anuncia que se va a convocar un referéndum histórico para modificar la constitución a fin de poder introducir sistemas de IA en la justicia y aumentar la eficiencia en los juzgados, con THENTE 2, e indica que no pudo comparecer con ella la CEO de THENTE, Alicia Kóvack por motivos personales.
Esta, que escucha la rueda de prensa en su coche, la llama cínica.
Llega a la sede de THENTE cuando están haciendo una presentación que dice que no le gusta y habla luego con sus socios, Brais Lago y Alex Havel.
Brais se niega a que en la presentación del programe hable solo Alicia, aunque Alex dice que es la cara de la empresa, pero Brais le dice que habrá mucha presión y ya dejó plantada a la presidenta del gobierno y desapareció durante dos semanas.
Ella pide que se suspenda la presentación, pues cree que el sistema no está listo, aunque Brais le recuerda que la fecha está cerrada y que se comprometieron, pero ella dice que ha convocado al consejo y que lo anuncian al día siguiente.
Brais le recuerda que lo anunciaron ya en una rueda de prensa y decidieron seguir adelante e ir mejorándolo poco a poco y le recuerda que hay empleos en juego y el consejo no permitirá que lo arruine y Alex le dice que tanto los inversores como el gobierno esperan el lanzamiento y que, si quiere cambiar algo puede hacerlo más adelante, aunque ella dice que está decidido.
Carmen sale a nadar en el mar, como hace cada día.
A la salida de la empresa, Alicia coge su coche, que lleva sistema de conducción autónomo, y, de pronto se topa con otro coche en medio de la carretera y choca.
Tras una prueba, la ginecóloga informa a Carmen que ya expulsó todos los restos del embrión y le recomienda que no vuelva a intentarlo, pues el porcentaje de riesgo que muestra el sistema es muy alto.
Cuando los noticiarios dan la noticia de la muerte de Alicia Kóvack en un accidente de tráfico, Carmen busca noticias sobre Alicia y aparecen también noticias sobre ella en algunas por haberse enfrentado a las eléctricas.
Recuerda que Alicia le envió un mensaje para verse y que le ayudara con el proyecto.
Acude a ver a una superior, Helena, que le recuerda que su juzgado no llega a los 300 procedimientos, cuando la media de los demás es de 550 y quieren duplicar las cifras.
Ella dice que es imposible estudiar en profundidad ese número de casos, y la superior le dice que para eso está THENTE.
Le pregunta si se pusieron en contacto con ella de la Asociación de Jueces, aunque ella le recuerda que no forma parte de ella.
Sofía le explica que la Asociación hace campaña por el no, y Goitia está con ellos y le presenta al Magistrado Ávila.
Este le explica que han testeado el software, pues en los últimos meses realizaron auditorías en THENTE más de 100 jueces y lo coordinó personalmente Alicia Kóvack, que como apreciaba su trabajo, la quería en el proyecto, y por eso la llamaron, para hacer una última auditoría durante dos semanas.
En la radio indican que las encuestas muestran un estado favorable al sí, con lo que España podría convertirse en el primer país del mundo en delegar la justicia en una IA.
En el entierro de Alicia, al que también acude Carmen, habla Brais, que halaga su trabajo.
Carmen acude a THENTE, donde es recibida por Alex, director de operaciones y le explican cómo funcionará la prueba.
Le muestran grabaciones de juicios reales y ve en el primero cómo, antes de que finalice la declaración de la acusada, tienen una sentencia disponible.
Le explican que son casos nuevos tanto para ella como para THENTE y los estudiarán a la vez y compararán sus conclusiones para que THENTE aprenda de ella.
Carmen acepta, pero pide ver más sentencias, y no solo penales, también de lo Social y del Contencioso y las quiere estudiar en su casa.
Antes de irse le presentan también a Brais y Alex le explica que es posible que la hagan declarar en el Congreso.
Le cuenta además que está presente en el testamento de Alicia, pues esta quería que trabajara en la nueva versión de THENTE y condicionó el lanzamiento de esta a la aprobación de ella y lo dejó por escrito por si le ocurría algo, y si ella no lo aprueba no lo podrán presentar.
En el juzgado, su oficial, Manuela, le pregunta cómo está y ella le dice que no va a intentarlo más teniendo en cuenta lo que le dijeron en la clínica, aunque Manuela la anima a seguir.
Va a visitarla otro juez, Goitia y pasean juntos.
Goitia le cuenta que trabaja con la Asociación de jueces y creen que quieren usarla en la campaña, aunque Carmen le asegura que no está a favor de la reforma, pero que hacen falta cambios.
Goitia le pide que declare en la comisión del congreso sobre justicia algorítmica, aunque ella dice que no tiene un criterio claro.
Goitia le dice que se comenta que Alicia intentó frenar la presentación del software y que un accidente mortal en un coche autónomo no es habitual, por lo que le pide que tenga cuidado.
Durante su estudio, le indican que THENTE y ella coincidieron en argumentos y en el sentido de las sentencias estudiadas.
Habla con Brais, que le cuenta que Alicia y él llevaban un tiempo separados, aunque la separación fue amistosa.
Alex le cuenta que Alicia buscaba a alguien capaz de actualizar el sistema y con conocimiento jurídico, aunque a largo plazo y que le gustaría que trabajase con ellos con independencia del resultado del referéndum.
Carmen le pregunta por el accidente de Alicia y Alex le dice que deben esperar a la decisión del juez, aunque ella le dice que THENTE tiene ya una sentencia y le pide que se la muestre.
Lo que le enseña son las imágenes del accidente, grabado por un satélite, y puede ver cómo el coche de Alicia chocó con otro coche parado en medio de la calzada, y en ese momento el sistema autónomo decidió salvar dos vidas poniendo en riesgo una.
Le llega un mensaje anónimo con la grabación de la discusión entre Brais y Alicia el día de su accidente cuando él le recordaba los compromisos que debían cumplir.
La sentencia en el caso del accidente concluye que la decisión la tomó, tal como indicó Alex, el algoritmo ético de su vehículo y la consideran justa, y, de hecho, la sentencia refuerza los argumentos a favor del sí, al mostrar la neutralidad del sistema.
Carmen consigue los datos del director de seguridad de Vinseng, la empresa encargada del sistema de seguridad del coche, Carlos Vidal, el ingeniero que testificó en el caso de Alicia.
Ve cómo THENTE puede decidir diferentes condenas en delitos similares en función del historial de los condenados, lo que pondera un algoritmo que nadie puede ver, aunque ella desea que se lo muestren, por lo que habla con Brais, que le explica que valoran el impacto futuro que cada uno puede tener en la sociedad.
Le recuerda que Alicia pudo entrar en prisión, pero que ella le dio una segunda oportunidad porque pensó que la aprovecharía y estaba por ello muy agradecida y por ello desean conservar su legado, aunque ella le dice que no parece tan interesado en investigar su muerte, aunque él dice que no es el momento.
Como le dijo que la iban a citar para testificar en el Congreso, llama a Goitia para recordarle que no quería que la citaran, aunque el otro juez le dice que no lo hicieron ellos, que la citó el gobierno para que hable a favor del proyecto.
En la comparecencia en el Congreso habla primero Alex, que indica que él no es jurista, pero que la calidad del servicio se evalúa eliminando condicionantes como el sesgo de raza, ideología, género o clase.
Habla luego Goitia, que dice que la justicia es incómoda porque controla al poder político y económico y cree que desean controlar la administración de justicia eliminando ese contrapoder.
Brais indica que la justicia está politizada, y además es muy lenta, pero eso va a acabar gracias a su software.
Presentan a Carmen como la jueza que reinterpretó la ley en el caso de las eléctricas y consiguió que se cambiara la ley y le preguntan si eso sería posible con un sistema como THENTE, a lo que ella indica que ese software está basado en hechos ocurridos en el pasado y la sociedad y la justicia son cambiantes y se ha de generar nueva jurisprudencia, por lo que cree que con THENTE no avanzarán.
Alex habla con ella y le dice que necesitan que apruebe la auditoría, pues están muy presionados y ella dice que el sistema no está listo, ante lo que le propone retrasar los plazos y hacer nuevas pruebas, e incluso le dará acceso al algoritmo.
Ella le dice que lo pensará.
Se duerme en el coche que funciona de forma autónoma y sale a nadar de nuevo, y, cuando vuelve al coche le parece que alguien la vigila.
Recibe una llamada desde un número oculto.
Le dice que es Carlos Vidal y la cita en un parking.
Sube a su coche y le dice que no volverán a verse y que él negará haber hablado con ella y no testificará.
Le confiesa que no dijo toda la verdad en el juicio.
Que aunque haya escuchado que todos los ciudadanos son iguales ante el algoritmo, este tiene excepciones, pues hay usuarios VIP que pagan para tener prioridad de vida en caso de siniestro, y el vehículo de Alicia era de esos, por lo que debía elegir siempre la mejor opción para ella, pero no lo hizo así porque dos días antes sus servidores sufrieron un ataque y se borró la excepción ética en ese vehículo, pero se destruyó todo.
Encontró conexiones sospechosas que llegaban de una IP de la red de THENTE.
Llama a Manuela para que localice la dirección IP, aunque esta le recuerda la hora que es y le dice que estaba durmiendo.
Ve luego que la persigue un coche que la adelanta, y ella trata de adelantarlo para ver quién conduce y está a punto de tener un accidente por ello.
Al día siguiente, en el juzgado pide disculpas a Manuela por la llamada de la noche del día anterior, pero le pide que investigue la IP, pero sin hacer un informe oficial, aunque Manuela le dice que no se la va a jugar y no accede.
Recurre por ello a Jesús, el informático al que absolvió y al que facilita 2.000 euros en bitcoins a cambio de la ayuda.
Jesús le cuenta que conoció a Alicia años atrás, pues era famosa en el mundo del hackeo.
Lo lleva hasta la casa de Brais, donde él entra para hacer una copia de dosieres mientras ella se queda fuera vigilando.
Entre la documentación hay una ficha de Alicia de una empresa de bioseguridad que implanta chips subcutáneos con geolocalización, y ese código permite acceder al historial de movimientos y a la ubicación actual de Alicia.
Antes de separarse, Jesús le devuelve el dinero y le dice que están en paz.
Al día siguiente lleva un ramo de flores para Manuela para pedirle perdón, aunque no está ese día.
Recibe tras ello una llamada de Jesús y le dice que hay pruebas del ataque, pero vio otra cosa que prefiere hablar con ella en persona.
La despierta al día siguiente una llamada de Manuela que le pide que vaya al juzgado, pero que no hable con ningún periodista.
Le cuenta cuando llega que el hacker al que absolvió, Jesús Almeida fue detenido con material pedófilo y tenía fotos y vídeos del niño desaparecido meses atrás.
Va a hablar con Ávila y con Helena, y le dicen que saben que Jesús Almeida estuvo con ella la noche anterior y le hacen escuchar una grabación con la conversación que mantuvo con él en su coche, por lo que pregunta si la espían.
Le pregunta si llegó a un acuerdo con él para concederle el tercer grado, lo que niega, aunque le advierten que prevaricó y van a suspenderla y a apartarán de la carrera judicial, aunque Ávila le dice que la ayudarán en el Supremo.
Vuelve a ver a Goitia al que le cuenta que la están siguiendo y le pusieron micrófonos en el coche, por lo que le pide ayuda, pues le están haciendo pagar que los apoyara.
Pero Goitia le dice que eso se acabó. Que el Gobierno va a ganar el referéndum por mayoría aplastante y su caso les beneficia más.
Le cuenta además que llegó a un acuerdo con el gobierno para mantener a los jueces para las segundas instancias, un año de prórroga y volver a la mesa de negociación
Ella le dice que se han vendido, aunque él dice que hizo lo que le pidieron sus compañeros y él dice que no puede luchar más.
Vuelve a nadar en el mar como hace habitualmente y de pronto se da cuenta de que la marea la alejado demasiado de la costa y, cuando trata de volver acaba agotada sin conseguir avances, por lo que opta por tumbarse boca arriba y dejarse llevar.
Gracias de nuevo a la marea llega a la playa, donde es auxiliada.
La ingresan en el hospital, donde recibe la visita de una preocupada Manuela.
La doctora le dice que si hubiese seguido nadando se abría ahogado, pero ya está recuperada y le darán de alta al día siguiente.
Le dice a Manuela que va a intentar de nuevo tener un hijo y se abrazan.
La presidenta presenta el sistema elegido para mejorar la eficiencia del sistema judicial y presentan a Alex como nuevo presidente de THENTE, y al enterarse, Carmen pregunta qué sucedió con Brais, ante lo que le informan que desapareció.
Registraron su cabaña y encontraron pruebas de que provocó el accidente de Alicia y además incorporaron a la empresa a Vidal, y, aunque Alex negó conocerlo, Manuela le dice que trabajaron juntos en el pasado en otra empresa.
Le cuenta también que Alex llama cada noche para saber cómo está.
Lo llama y le dice que ha visto que aprovecharon su accidente para realizar la presentación y él le recuerda que el ministerio la suspendió en su cargo.
Le pregunta por Brais y Alex le dice que lo encontrarán. Le dice también que han introducido las mejoras que quería Alicia e insiste en que le gustaría contar con ella.
Va a ver a Jesús Almeida en la cárcel y este le explica que le quitaron todo lo que sacaron del ordenador de Brais y que no es cierto lo que dijeron sobre él.
Ella le dice que encontraron pruebas del hackeo del coche de Alicia por parte de Brais y Jesús le dice que también los vio pero que son falsos, e igual que a él le pusieron material pedófilo, a Brais le pusieron el de la muerte de Alicia y lo hicieron desaparecer.
Le pregunta quién le entregó la IP, a lo que le responde que al dársela la utilizaron para blanquear una operación.
El abogado de Jesús le lleva su copia de lo grabado en casa de Brais y le dicen que lo analizarán para confirmar que los datos fueron manipulados.
Le cuenta que antes de morir, Alicia envió a Brais un memorándum titulado THENTE 3, pues quería transformar todo el sistema judicial.
Carmen investiga para ver si, al igual que Alicia, Brais tenía un microchip de localización, que comprueban que en efecto tenía, por lo que logran ver sus movimientos y su posición, que se pierde en el mar tras ir desde el bosque de noche en una furgoneta sin luces.
Con la información del recorrido, Carmen acude al bosque, en el lugar en que se detuvo, y puede ver una bala que quedó incrustada en un árbol.
Comprende así que, atacado y herido, Brais trató de huir por el bosque, aunque acabaron con él en aquel punto antes de ser subido a la furgoneta y lanzado al mar.
Desde el acantilado, Manuela le informa que tienen que esperar a que tengan buzos disponibles, lo que no será antes de 48 horas.
Carmen no está dispuesta a esperar y recurre a Olaya Arcos, periodista que es líder de audiencia, y luego al sargento encargado del operativo para informarle que va de camino un equipo televisivo del Canal 22 y debe dar prioridad al asunto, y aunque él le recuerda que está suspendida acaba consiguiéndole los buzos.
Ese día, y en el programa de Olaya entrevistan a Alex ya que se presenta THENTE 2, y de pronto Olaya le informa que invitaron también a Carmen Costa para rebatir sus argumentos a 48 horas del referéndum.
Carmen asegura que si se aprueba puede suponer, según ella, que se pierda la independencia judicial y con ello uno de los principales poderes del estado y niega que THENTE 2 contenga la visión de Alicia Kóvack, pues el proyecto de ella buscaba potenciar la justicia humana con IA, subordinando su control a procesos democráticos y transparentes y por eso quería parar la presentación y por eso fue asesinada.
Alex le recuerda que fue su ex marido quien la asesinó, para hacerse con el control de la empresa, y que THENTE 2 fue testada por centenares de jueces y es un sistema tan fiable como los que recomiendan a alguien que no intente quedarse embarazada porque hay muy bajas posibilidades de éxito y si lo hay, el feto puede tener problemas, a lo que Carmen responde que es una decisión que no debe estar en manos de una máquina.
Interrumpen el debata por la llegada de una noticia de última hora referida a Brais.
Tras la inmersión en el fondo del mar, los buzos encontraron el cadáver de Brais.
Carmen le dice entonces a Alex que Brais no mató a nadie y se le acusó con pruebas falsas y se le hizo desaparecer y ahora saben dónde está y dónde está él.
Alex le recuerda entonces que Carmen está suspendida por dejar libre a un criminal.
Ella le dice que no es ella quien le va a juzgar, y que está allí para asegurarse de que tiene un juicio justo.
Carmen vuelve a nadar y se deja flotar en el mar.