La Resolución 238/24 estableció un Protocolo de Buenas Prácticas que regula el uso de la Inteligencia Artificial Generativa (IAGen) dentro del Ministerio Público Fiscal. La normativa marca límites, responsabilidades y obligaciones para magistrados, funcionarios y empleados.
La incorporación de herramientas de IAGen a tareas cotidianas se hizo habitual en ámbitos laborales y educativos. Sin embargo, su uso en el sistema de justicia exige parámetros claros. Con ese objetivo, la Procuración General aprobó la Resolución 238/24, que establece un Protocolo de Buenas Prácticas destinado a ordenar el modo en que se pueden utilizar estas tecnologías dentro del Ministerio Público Fiscal.
El documento se apoya en lineamientos elaborados por organizaciones y organismos como el Poder Judicial del Reino Unido, el IALAB de la Universidad de Buenos Aires y el Superior Tribunal de Justicia de Río Negro, insertando a la provincia en un debate global sobre el tema.
Estas reglas internas fijan premisas centrales para evitar riesgos y asegurar que la tecnología no reemplace las tareas ni las competencias humanas. El protocolo define que el uso de la IA debe estar siempre bajo supervisión y validación.
La IA como asistente, no como reemplazo
El primer principio del protocolo delimita el rol de estas herramientas: solo pueden utilizarse como apoyo para optimizar tareas. El documento lo expresa de manera textual al señalar que “el eje rector es que la IAGen constituye siempre un gestor que complementa las habilidades humanas y no sustituye las competencias públicas”.
Esta definición implica que la responsabilidad final por cualquier escrito, análisis o decisión recae en las personas que integran el MPF. La tecnología no puede reemplazar el criterio jurídico ni la interpretación normativa de los operadores.
Riesgo de “alucinaciones” y validación obligatoria
El documento aborda también el fenómeno conocido como “alucinaciones”, un comportamiento en el que la IA genera respuestas que parecen verosímiles pero que pueden ser falsas. El protocolo explica que estas herramientas pueden producir textos “coherentes y convincentes”, aunque “pueden ser incorrectos o falsos”, y agrega que “se suele decir que el modelo ‘alucina’”.
Para reducir este riesgo, la normativa exige una validación obligatoria de cualquier contenido generado mediante IAGen. Cada funcionario debe contrastar los datos con fuentes confiables antes de incorporarlos a documentos o procesos.
No es un buscador: cómo funcionan los modelos de lenguaje
El protocolo aclara que estos sistemas no funcionan como motores de búsqueda. Advierte sobre la “falsa ilusión de recupero de información” y marca que un Modelo de Lenguaje Grande (LLM) genera texto a partir de asociaciones estadísticas, no de una verificación factual.
El documento precisa que las respuestas son “‘estadísticamente probables mas no son factualmente precisas’”, y por eso recomienda “evitar usarlas como motores de búsqueda”, especialmente ante la necesidad de obtener información concreta.
Esta diferenciación es clave para comprender el límite del uso de estas herramientas dentro del MPF, donde la exactitud y la confiabilidad de los datos resultan centrales en el desarrollo de un caso.
Responsabilidad humana y régimen disciplinario
La Resolución 238/24 deja claro que el uso de IA no reduce la responsabilidad funcional ni ética de quienes integran el MPF. Cada funcionario es responsable del contenido final, incluso cuando fue inicialmente elaborado con asistencia de un sistema de IAGen.
El protocolo establece consecuencias concretas: la violación de estas buenas prácticas “implica falta e infracción a los fines del Reglamento Disciplinario”. También incorpora una prohibición de delegación, que obliga a mantener el control humano en todas las etapas del trabajo.
Protección de datos: prohibición de cargar información sensible
La confidencialidad es uno de los ejes centrales del sistema judicial. Por eso, el protocolo prohíbe ingresar datos personales, información de expedientes o cualquier dato sensible en los prompts utilizados con IA.
Como alternativa, la normativa exige aplicar herramientas o técnicas de anonimización para poder trabajar con documentos sin comprometer información protegida. Esta medida busca preservar la privacidad de víctimas, testigos, imputados y de todas las personas involucradas en actuaciones judiciales.
Un uso crítico y supervisado hacia el futuro
El protocolo del Ministerio Público Fiscal promueve un uso responsable de la IAGen, con foco en la rigurosidad, la ética y la supervisión humana permanente. También advierte sobre riesgos como los sesgos algorítmicos y la dependencia excesiva de la tecnología, y establece capacitaciones obligatorias que ya fueron completadas por la mayoría del personal del MPF.
La Resolución 238/24 indica que estas pautas deberán ser revisadas y actualizadas de manera periódica para acompañar la evolución tecnológica y su impacto en el trabajo judicial.
Fuente: Red 43
Sé el primero en comentar