Cuando afirmamos que la Inteligencia Artificial se ha extendido por todos los ámbitos imaginables de nuestra existencia, quiere decir que personas de cualquier edad, origen o profesión aprovechan las ventajas que brinda esta tecnología, tanto en su vida personal como profesional, aunque este último uso se realice mayormente de manera oculta.
Esta situación es comprensible, primero porque en muchos casos las personas emplean la IA para realizar las tareas por ellos, y aunque esto acelera diversos procesos, la realidad es que esta tecnología no es tan infalible como se supone y aún comete errores con mayor frecuencia de la que podría pensarse.
Por ello, nunca debe depositarse una confianza absoluta en la IA y cada vez que se utilice, resulta fundamental verificar toda la información que proporciona en lugar de asumir su precisión. De lo contrario, pueden surgir casos como la primera denuncia contra un juez ante el Consejo General del Poder Judicial (CGPJ) por el empleo inadecuado de la IA en una de sus decisiones.
La IA no es el problema, el problema es la confianza ciega en ella
De acuerdo con el abogado Rachid Mohamed Hummu, el titular del Juzgado de Instrucción número 5 de Ceuta, Antonio Pastor, aplicó la IA en una de sus sentencias «de manera incorrecta», afectando el procedimiento y vulnerando el uso adecuado de estas nuevas herramientas en la Administración de Justicia.
Al parecer, en dicha resolución se presentó un argumento que se consideró como propio sin haber verificado las afirmaciones, que posteriormente se demostraron ser una jurisprudencia «falsa e inventada». El abogado denunciantesubraya que esto no debe interpretarse como «un fallo jurídico ni una discrepancia interpretativa, sino como una deficiencia estructural en la redacción y supervisión de una resolución judicial».
«Cuando un órgano judicial adopta ciertos fundamentos, asume plena responsabilidad por su veracidad y las consecuencias que de ellos se derivan», recuerda el abogado respecto a este caso sin precedentes por parte de un magistrado. El único incidente parecido involucró a un abogado canario, que está siendo investigado por presentar un recurso de apelación en el cual citaba jurisprudencia e informes oficiales inexistentes, presuntamente generados por IA.