Las instituciones en España están empezando a usar IA como atajo. En el 'caso Ábalos' eso ha causado un grave problema
Publicado el 10/03/2025 por Diario Tecnología Artículo original
Con el 'caso Ábalos' estamos asistiendo a uno de los casos de corrupción más relevantes de los últimos años, pero en el Tribunal Supremo se ha producido una situación rocambolesca. Las transcripciones de las declaraciones del juez Leopoldo Puente o del exministro José Luis Ábalos, entre otros, se han convertido en diveras partes de la declaración en un galimatías.
Declaraciones incomprensibles. El Diari de Tarragona o el Diario de Navarra han tenido acceso a los documentos con las transcripciones de las declaraciones de los implicados en el 'caso Ábalos'. Dichas transcripciones parecen demostrar un uso "descontrolado y sin supervisión", afirman en el Diario de Navarra, de las herramientas de IA para transcribir esos textos. La letrada de la Administración de Justicia del Supremo ha enviado esas copias escritas, pero en ellos hay párrafos incomprensibles.
Transcripciones de IA terribles. En esos documentos se muestran varios ejemplos de transcripciones de IA desastrosas. Al responder Ábalos sobre su supuesta presencia en pisos relacionados con prostitución, parece decir "Realmente es que en Madrid no fuera de Madrid". En otra pregunta del juez, responde según la transcripción "Yo ahora mismo no recuerdo, porque en esa fecha ya a ministra sí pero con independencia de esto usted no recuerde que es compresible que no pueda recordar las fechas". A la pregunta sobre el uso ilícito de un chalet en La Línea de la Concepción, la transcripción indica que la respuesta fue "ocasionalmente pues un chalé del tiempo que no estábamos, pero fue ocasionado, se fijó si eso 2 con eso he completado mis ingresos no tenía ningún otro ingreso".
La IA ni identifica correctamente a los testigos. Este desastre se extiende a la propia identificación de los testigos. En el diario de Navarras comentan lo que pasó con Claudio Rivas, "el mayor socio de Víctor de Aldama en el macrofraude de los hidrocarburos". Los documentos de las transcripciones muestran que la IA llamó a este testigo "Claudia Arribas", "Claudia Arriba" o "Claudio Arribas". Además en una de sus respuestas sobre su actividad es igualmente absurda según la transcripción de IA: "un grupo de empresas que se dedica a la sidra a hidrocarburos de los hidrocarburos, a la venta de hidrocarburos".
Pero el remedio que la enfermedad. Según indican en el Diari de Tarragona, se decidió usar IA para las transcripciones cuando para evitar filtraciones se limitó el acceso a los vídeos originales de esos interrogatorios. El mal uso de la IA ha provocado que la única forma en que las partes puedan ahora analizar las declaraciones es solicitar al juzgado visionar esas grabaciones originales.
Mal uso de la IA. Aquí tenemos un preocupante ejemplo de lo que puede pasar ante un mal uso de la IA en organismos oficiales. No se conoce el problema, y puede que el sistema de IA no estuviera pensado para transcripciones en español, por ejemplo, pero lo que está claro es que nadie revisó la transcripción realizada por la IA, algo que debe ser parte esencial del manejo de estos sistemas. Es ya conocida la propensión de los chatbots a inventar datos y alucinar, y aquí esas limitaciones quedaron claras.
A la IA no se la puede dejar sola. Un artículo de El País de noviembre nos recuerda cómo este tipo de situaciones son comunes al usar herramientas de traducción que a menudo aplican traducciones literales que no tienen sentido. Ocurrió con la bochornosa traducción de la web oficial de turismo de Santander, que en 2018 tradujo el nombre del Centro Botín como "Loot Center" (Centro del saqueo" o el casco histórico como "historic helmet" (helmet es casco en inglés, pero refiriéndose al casco protector de los motoristas, por ejemplo).
Cuidado con Whisper y las transcripciones por IA. Investigadores de la Universidad de Michigan analizaron las transcripciones de Whisper, una popular y destacable aplicación de OpenAI para transcripciones de audio. Se detectaron alucinaciones (erores y frases inventadas) en entre el 38% y el 80% de los casos analizados. Según señalan en El País, ya entonces un portavoz de OpenAI reconoció las limitaciones y destacó que "la herramienta no debe usarse en entornos de alto riesgo".
Y también cuidado con los atajos. En España los organismos y agencias públicas no tienen una relación fácil con la tecnología, y son muchos los casos en los que la introducción de nuevas tecnologías es tardía y deficiente. Hay ejemplos de lo contrario, eso sí, y lo hemos visto con la app Mi Carpeta Ciudadana. Sea como fuere, que ahora dichas agencias abracen la IA como atajo no es mala idea, pero como siempre es especialmente adoptar bien estos sistemas. En el caso de la IA, la recomendación esencial es "no fiarse de la IA", porque sigue cometiendo errores. Puede ser una ayuda y ahorrar tiempo, pero no puede sustituir de momento procesos, sobre todo si son delicados.
Querellas escritas con ChatGPT. Hace unos meses asistimos a otro caso singular de un mal uso de la IA. Un abogado presentó una querella, pero para ahorrar tiempo y recursos recurrió al uso de ChatGPT para su escrito inicial. El problema es que la IA había incluido referencias erróneas a la legislación colombiana en lugar de a la normativa española aplicable. El abogado se dio cuenta del error y rápidamente presentó un escrito asumiendo la responsabilidad y excusándose por ese uso indebido. El Tribunal Superior de Justicia de Navarra decidió no imponerle una sanción, pero nuevamente quedó patente ese riesgo de usar estas herramientas de formas inapropiadas y sin revisar los textos o contenidos que generan.
España tiene a la AESIA precisamente para esto. El año pasado hablábamos de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA). Este organismo tiene precisamente como misión investigar y multar a aquellos que hagan un mal uso de la IA a partir de 2025. Las investigaciones comenzaron teóricamente el pasado 2 de febrero, y el 2 de agosto esta agencia asumirá la plena potestad sancionadora. Veremos si toman cartas en esta mala utilización de la IA en el 'caso Ábalos', pero desde luego sería un ejemplo claro de un uso inadecuado y hasta peligroso de la IA.
Imagen | Ministerio de Transportes
utm_campaign=10_Mar_2025"> Javier Pastor .