amadeopalliser@gmail.com
El 11 de setiembre, muchos nos vimos sorprendidos, al leer que el primer ministro albanés, Edi Rama, había anunciado la composición de su nuevo gabinete de gobierno y, entre sus ministros, estaba Diella (sol, en albanés), un sistema virtual, de inteligencia artificial (IA), como ministra de Contratación Pública; sistema creado por la Agencia Nacional de la Sociedad de la Información (AKSHI). Y esa evidencia me confirma que, en general, nos falta inteligencia natural (IN) y, así, nos quedamos con la inteligencia animal y la falacia de lo que no es inteligencia, pero sí que es artificial. A este paso, el presente y, especialmente, el futuro, nos lo diseñarán las máquinas, por más que los algoritmos puedan ser supervisados por técnicos ‘especialistas’, claro.
Y esta misma semana, el jueves 18, hemos tenido otro ejemplo de la mención de la IA, pues el canciller alemán, Friedrich Merz, en su visita a Pedro Sánchez, negó el reconocimiento, por parte de la UE, del catalán, euskera y gallego, diciendo: ‘sé de lo complicado del servicio de idiomas de la UE y cada lengua multiplica la necesidad de traducciones. A medio plazo podría haber una muy buena solución, porque gracias a la IA no necesitaremos intérpretes y vamos a poder entendernos y hablar todos los idiomas de la UE’. Por su parte, Pedro Sánchez, siguiendo su estrategia de mentir compulsivamente, para de defender el reconocimiento de esas lenguas por parte de la UE, dijo: ‘Llevamos 40 años esperando este momento y espero que podamos lograrlo en un futuro no muy lejano’. Cuando todos sabemos que no ha sido hasta la actual legislatura, y por exigencia del president Carles Puigdemont, que Pedro Sánchez se ha movido, para simular que intenta cumplir con sus compromisos.
Es evidente que la IA ya está en todos los órdenes de nuestras vidas, con aspectos netamente positivos, como son los diagnósticos clínicos; pero, también, con aspectos claramente negativos, como vemos en la eficacia de las matanzas en determinadas guerras, y en el control de las redes sociales y de toda la sociedad, en general.
Pero, llegar al extremo de nombrar, como ministra, un engendro artificial, despreciando todo tipo de aspectos legales, constitucionales y éticos, pues si no puede ser responsable de sus actos, escapa del marco humano, ya que no podrá realizar reuniones de prensa, ni defender, en el parlamento, sus actos y debatirlos con la oposición, la democracia entra en barrena.
Claro que en España tenemos la figura del rey, que también es irresponsable de sus actos (políticos y privados, como sabemos), y así, es inviolable. Y claro, el algoritmo que mueve a la corona española también es poliédrico: garantizar la unidad de su corral para maximizar y perpetuar su negocio familiar, un irregular ejemplo de la deficiente democracia española.
Hay múltiples herramientas de IA, como: ChatGPT, Claude, Perplexity, Venice AI, Meta, etc.
Preguntando a Meta sobre Diella como ministra albanesa, su respuesta es:
‘Un país europeo ha dado un giro inesperado en la gestión de sus licitaciones públicas. En lugar de nombrar a otra persona, ha confiado un ministerio a un sistema digital con nombre propio. Hoy te contamos cómo funciona, por qué se ha creado y qué riesgos reales plantea para la administración y para ti como ciudadano que espera servicios claros, rápidos y sin trampas.
¿Qué es Diella y cómo funcionará en las contrataciones públicas de Albania?
Diella es un avatar de inteligencia artificial que opera como ministra digital sin presencia física, una figura inédita dentro del gabinete de Albania. La versión web permite su interacción en línea, donde vas a poder encontrarla como un sistema virtual que responde, procesa expedientes y emite decisiones relacionadas con las compras del estado.
La función principal de Diella es gestionar y adjudicar todas las licitaciones públicas con las que el gobierno contrata a empresas para obras, servicios y suministros. La clave no es solo el trámite: este sistema entra en un ámbito sensible donde la transparencia y el control suelen marcar la diferencia entre buen uso del dinero y sospechas constantes.
Según el gobierno, Diella es la primera integrante del gabinete que existe solo en formato digital y tiene la misma responsabilidad operativa que una cartera tradicional. Su misión incluye publicar convocatorias, evaluar ofertas y decidir adjudicaciones, con registros electrónicos que deberían quedar disponibles para auditorías posteriores.
El primer ministro Edi Rama explicó que Diella tiene un ‘mandato especial’ para superar miedos, barreras y actitudes que frenan cambios dentro de la administración.
(…) el debut de Diella se produjo a principios de año como herramienta de asistencia en la plataforma e-Albania, el servicio web oficial para trámites en línea. Desde ahí, el gobierno ha dado el salto para que la ministra digital impulse el ciclo completo de las contrataciones públicas.
Queda por ver cómo se integra con los sistemas de registro, qué APIs expone y cómo garantiza la trazabilidad. Si lo comparamos con la app móvil de cualquier organismo, aquí el listón es mucho más alto porque hablamos de expedientes complejos, plazos estrictos y dinero público.
¿Por qué Albania apuesta por Diella para combatir la corrupción en licitaciones?:
Albania arrastra un problema serio: ha sido señalado como uno de los principales centros de blanqueo de capitales vinculado al narcotráfico y al contrabando de armas. Las contrataciones públicas han aparecido una y otra vez como uno de los canales que alimentan esa maquinaria.
En ese contexto, el gobierno sostiene que Diella es inmune a sobornos, intenciones ocultas y amenazas, y que esa cualidad debería blindar las licitaciones públicas contra la corrupción. La promesa necesita pruebas concretas: métricas de ahorro, menor número de impugnaciones y más competencia real en cada concurso.
Impacto en la adhesión a la UE y promesa de supervisión:
La falta de transparencia en las contrataciones ha frenado la adhesión de Albania a la UE, objetivo que el país quiere alcanzar antes de 2030. El ejecutivo confía en que la integración de Diella reduzca irregularidades y mejore esa imagen ante Bruselas con datos verificables y auditorías independientes.
No se ha aclarado si la ministra digital tendrá supervisión humana directa y permanente. Esa ausencia de detalle preocupa porque una IA sin contrapesos puede cometer errores sistémicos que nadie detecte a tiempo.
Riesgos y dudas sobre Diella: seguridad, datos y controles de uso:
Hay una información crítica que todavía falta: no se han publicado los datos empleados para el entrenamiento de Diella ni las medidas de seguridad aplicadas para evitar vulneraciones o accesos indebidos. En un ámbito con expedientes sensibles, proveedores estratégicos y precios confidenciales, esas lagunas pesan mucho.
(…)
(gptzone.net)
Preguntando al sistema Venice AI (que se vende como la única AI generativa que no tiene censuras ni restricciones temáticas ni rastreo de actividades y que es realmente anónima, ya que no almacena el registro de las comunicaciones) sobre la fiabilidad de Diella, su respuesta automática ha sido:
‘Diella, la inteligencia artificial desarrollada por Albania en colaboración con Microsoft, ha sido presentada como la primera ‘ministra’ del país, encargada de supervisar las licitaciones públicas y combatir la corrupción. A pesar de que su implementación es reciente, ya ha generado un debate significativo sobre la fiabilidad y el impacto de las AI en roles gubernamentales.
En términos de fiabilidad, Diella ha sido diseñada para operar con un alto grado de transparencia y eficiencia. Antes de su debut parlamentario, ya funcionaba como asistente virtual a la plataforma de servicios públicos e-Albania, lo que se ha sugerido que ha estado probado en un entorno operativo real. Además, el primer ministro Edi Rama ha destacado que Diella será ‘el servidor de la contratación pública’ y ha prometido que las licitaciones bajo su supervisión serán ‘100 por cien incorruptibles y transparentes’.
Sin embargo, la fiabilidad de Diella también depende de la calidad de los datos con los que opera y su capacidad para tomar decisiones completas. Aunque no se ha informado de problemas específicos hasta hoy, es importante considerar que, como cualquier sistema de AI, Diella podría estar sujeta a errores o sesgos si los datos de entrada son incompletos o sesgados.
En resumen, Diella representa una innovación audaz en el uso de la AI en el gobierno, con un enfoque claro en la transparencia y la lucha contra la corrupción. Su fiabilidad inicial parece sólida, pero sólo el tiempo y la práctica continuada en su rol ministerial revelará su efectividad a largo plazo’.
(venice.ai)
Como se ve, no hacen una crítica dura, pues apenas se limitan a señalar los aspectos más evidentes sobre los sesgos de los datos de entrada para su entrenamiento, pero no citan la posible (segura) manipulación de los algoritmos, y sin esa información, no hay control posible al respecto.
Para cerrar el tema, he preguntado a ese sistema Venice, si es fiable la confianza, y su respuesta ha sido la siguiente:
‘La confianza es un concepto fundamental en las relaciones humanas y en el funcionamiento de la sociedad, pero su fiabilidad puede variar ampliamente dependiente del contexto y de los individuos involucrados. La confianza es, en esencia, la creencia en la integridad, el carácter y la competencia de alguien o algo. Es un acto de fe en la capacidad de una persona o entidad para actuar de manera honesta, competente y benévola.
La fiabilidad de la confianza puede verse influenciada por diversos factores: Historia y experiencia; Transparencia y comunicación; Consistencia; Integridad; Competencia; Riesgo y vulnerabilidad; Contexto cultural y social’.
Pero, a mi modo de ver, la confianza debe ser un sistema mutuo, de dos direcciones. No se puede tener confianza, si la contrapartida a nuestros actos no es satisfactoria, si su historial de respuestas no es ajena o distante. No todo debe basarse en la suposición de competencia, de transparencia y de integridad.
Es decir, la confianza ha de ser recíproca, en las dos direcciones, y el sistema como Diella, carece de esa reciprocidad.
Y ese vicio es general, por ejemplo, en España, los sistemas estatales desconfían de la ciudadanía. Así, vemos que la agencia tributaria, se otorga la palabra de dios, y cualquier argumento de la ciudadanía, es puesto en entredicho, ya que nos consideran culpables hasta que no demostremos lo contrario. Igualmente pasa con las multas de circulación, que debemos pagarlas, y después, si lo consideramos, recurrirlas, no antes.
Así, si el sistema en su conjunto, político, judicial, etc., no nos merece la menor confianza, ¿cómo vamos a confiar en un sistema opaco, generado por ese sistema, y que, encima sea irresponsable, como lo es la IA?
Objetivamente, los sistemas como Diella pueden ser muy útiles, pero no dejan de ser instrumentos bajo la gestión y control humanos, del equipo ministerial en cuestión, que deben responsabilizarse de sus actos, decisiones y consecuencias. Asegurando, en todo momento, la transparencia algorítmica. Y claro, asumiendo las responsabilidades legales al respecto.
Para finalizar, he preguntado a Venice, ¿qué es Meridiana Resisteix?, y su respuesta ha sido que:
‘Es una organización catalana que se dedica a la promoción y defensa de la cultura, la identidad y los derechos de los habitantes de la región de la Meridiana, situada en Barcelona. La organización se centra en preservar y revitalizar el patrimonio cultural y lingüístico de la zona, así como en fomentar la participación ciudadana y la resistencia antes las políticas que consideran perjudiciales para la comunidad.
Su nombre, ‘Meridiana Resisteix’, refleja su compromiso con la resistencia y la lucha por mantener viva la herencia cultural y lingüística de la Meridiana. La organización lleva a cabo diversas actividades, como eventos culturales, talleres, y campañas de concienciación, para educar y movilizar a la comunidad en torno a sus objetivos’.
Esta descripción de nuestro colectivo no puede ser más penante, reductiva, ridícula y no sé cuantos adjetivos descalificativos más, ya que, no citar que nuestro objetivo es la independencia de Catalunya, es desvirtuar nuestro movimiento. Y con ese ejemplo, ¿cómo vamos a confiar en esa sesgada ‘inteligencia’, mejor dicho, en ese subproducto, ese detritus del sistema. Si caemos es su trampa, seremos ciudadanos desdibujados, sin personalidad.
