¿Necesitamos una agencia que supervise la inteligencia artificial?

(Por José Luis Verdegay Galdeano, Universidad de Granada) A menudo nos encontramos anuncios de productos con el sello “con inteligencia artificial”. Pero muy pocas veces, por no decir nunca, se informa al usuario de más detalles. ¿Quién nos garantiza que, efectivamente, ese producto funciona en base a inteligencia artificial (IA)? ¿Quién certifica que las respuestas que nos ofrece son las correctas? ¿A qué código ético obedece? Sin saber nada al respecto, cuando por alguna causa ese producto no funciona como esperábamos, es normal concluir que la IA no es fiable y mucho menos los algoritmos que emplea.

Image description

Pero ¿sabemos si el producto al que nos referimos funciona en base a un algoritmo? ¿Las soluciones que proporciona son siempre malas o solo lo son dependiendo del usuario? ¿El código ético de quien diseñó ese producto coincide con el nuestro? Y, a propósito: ¿quién define lo que es un comportamiento ético? ¿Cómo se mide la ética?

¿Qué es axactamente un algoritmo?

Un algoritmo es una secuencia ordenada de pasos, exentos de ambigüedad, que cuando se lleva a cabo con fidelidad en un tiempo finito da como resultado la solución del problema planteado, habiendo realizando, por tanto, la tarea para la que se diseñó. Así, para que un algoritmo sea correcto necesita cumplir lo siguiente:

  • debe terminar siempre tras un número finito de etapas;

  • las acciones que ha de llevar a cabo en cada etapa deben estar rigurosamente especificadas, sin ambigüedades;

  • los valores con los que comienza a funcionar se han de tomar de conjuntos preespecificados;

  • el resultado que proporcione siempre dependerá de los datos de entrada;

  • todas las operaciones que haya que realizar en el algoritmo deben ser lo suficientemente básicas como para que se hagan exactamente y en un periodo finito de tiempo.

Cuando no se da alguna de estas propiedades, no tenemos un algoritmo.

Los algoritmos, por tanto, no son como las recetas de cocina, que pueden tener reglas imprecisas, y como consecuencia producir resultados tan distintos como imprevisibles. Son procesos iterativos que generan una sucesión de puntos, conforme a un conjunto dado de instrucciones y un criterio de parada. Como tales, no están sujetos a restricciones tecnológicas de tipo alguno, es decir, son absolutamente independientes del equipamiento tecnológico disponible para resolver el problema que afronten. Es el programa en el que se escriba el algoritmo, el software, el que lo ejecuta en un computador.

Cuando ese programa y el algoritmo en el que se basa están diseñados con técnicas y metodologías de IA, y por tanto basadas en el comportamiento de las personas, a veces pueden surgir problemas a la hora de conocer y aceptar las decisiones que toma dicho programa.

Podemos sentirnos amenazados por creernos que esas máquinas realizan nuestros trabajos mejor que nosotros o porque nadie sepa explicar el comportamiento que tienen cuando actúan saliéndose de lo previsto, produciendo sesgos indeseables, soluciones no sostenibles o, en definitiva, porque consideremos que no tienen un comportamiento ético.

Pero esa es la versión que se ve desde el lado del usuario, es decir, de quien observa cómo se comporta ese sistema. Porque desde el lado del diseñador, a veces los resultados se ajustan exactamente a lo que conscientemente se había previsto en el algoritmo de origen y el correspondiente software que llega a los usuarios.

Contradicciones éticas

El rango de posibilidades es más que amplio. Van desde comportamientos indebidos a causa de errores fortuitos, indeseables pero inevitables, y con los que en todo caso hay que contar, hasta la comercialización totalmente interesada de sistemas basados en IA en los que su buen uso no está asegurado en ningún sentido o, incluso peor, no están basados en IA.

En cualquier caso, y desde un punto de vista muy general, es obvio que el nivel ético de un cierto software basado en IA es contexto-dependiente. Mientras que en cierto ámbito una actuación puede tacharse de falta de ética, en otros puede entenderse como idónea. Esto da lugar a situaciones contradictorias difíciles de comparar porque ni disponemos de herramientas que nos permitan valorar el comportamiento ético de un sistema basado en IA, ni de legislación que lo regule.

Por tanto, y aunque solo fuera por estas razones que brevemente se han descrito, era imprescindible incluir la creación de una Agencia Española de Supervisión de Inteligencia Artificial (AESIA) en la disposición adicional centésima trigésima de la Ley 22/2021, de 28 de diciembre de Presupuestos Generales del Estado para el año 2022.

Según se plantea, la AESIA actuará con plena independencia orgánica y funcional de las administraciones públicas, de forma objetiva, transparente e imparcial. Llevará a cabo medidas destinadas a la minimización de riesgos significativos sobre la seguridad y salud de las personas, y sobre sus derechos fundamentales que puedan derivarse del uso de sistemas de IA.

Así mismo, la agencia se encargará del desarrollo, supervisión y seguimiento de los proyectos enmarcados dentro de la Estrategia Nacional de Inteligencia Artificial, además de aquellos impulsados por la Unión Europea, en particular los relativos al desarrollo normativo sobre la IA y sus posibles usos.

¿Dónde se ubicará?

De cara a seleccionar la ubicación de la agencia, el Real Decreto 209/2022, del 22 de marzo establece el procedimiento a través del cual se determinará el término municipal en el que se ubicará su sede física.

La agencia funcionará como una autoridad pública independiente encargada de garantizar a la sociedad, desde la perspectiva de servicio público, la calidad, seguridad, eficacia y correcta información de los sistemas basados en IA, desde su investigación hasta su utilización. Para ello dispondrá de mecanismos objetivos de evaluación, certificación y acreditación de los sistemas basados en IA, cuya ausencia actual planteábamos al comienzo de este artículo.

La elección de la sede física de la AESIA corresponderá a una Comisión consultiva, por cierto, ya creada.

Sea cual sea el municipio en el que se instale, su funcionamiento tendrá que ajustarse estrictamente a todos y cada uno de los anteriores principios. Por tanto, no parece oportuno que las diferentes candidaturas que se postulen para albergar su sede vengan avaladas por empresas del sector, ya sean nacionales o internacionales. La intervención directa o indirecta de estas compañías podría poner en tela de juicio la necesaria independencia de la agencia.

Cosa distinta es que el sector empresarial, que desempeña un papel clave en todo lo concerniente al desarrollo de la IA, avale y respalde la iniciativa gubernamental acerca de la creación de la AESIA, pero sin apostar por una ubicación concreta.

Pero la AESIA no puede quedarse solo en una agencia nacional que actúe de manera aislada. Deberá alinearse con la estructura orgánica que la Unión Europea diseñe, particularmente con la futura Junta Europea de Inteligencia Artificial.

La agencia también deberá ajustarse a la legislación europea. Ya hay un borrador de reglamento del Parlamento y del Consejo Europeo que establece normas armonizadas en materia de IA. La conocida como Ley de la Inteligencia Artificial, persigue definir una métrica para evaluar el impacto social de los algoritmos en el sector industrial, exigir la transparencia algorítmica, su explicabilidad, y acreditar su calidad ética.

Como conclusión, respondiendo a la pregunta que planteábamos al principio, la AESIA no solo es imprescindible sino que necesitamos que empiece a funcionar tan pronto como sea posible de manera independiente, con credibilidad y con medios suficientes. Pero nada de ello será eficaz sin una legislación que regule la producción, uso y funcionamiento de los sistemas basados en IA; que asegure y proteja a las personas y que esté tan consensuada en el ámbito europeo como sea posible.

José Luis Verdegay Galdeano, Catedrático de Ciencia de la Computación e Inteligencia Artificial, Universidad de Granada

Este artículo fue publicado originalmente en The Conversation. Lea el original.

The Conversation

Tu opinión enriquece este artículo:

Lucciano’s desembarca en Granada con una tienda inspirada en La Alhambra

Lucciano’s, la marca internacional de helados premium, continúa su expansión en España con la apertura de una nueva tienda en el corazón de Granada. El local, ubicado en el centro de la localidad andaluza, en Reyes Católicos 45, abrirá sus puertas este próximo miércoles 9 de julio, reforzando su presencia en el sur de España y consolidando su plan de crecimiento nacional, donde ya cuenta con cinco tiendas abiertas, dos de ellas en Andalucía.

Más del 50% de los emprendedores en España abandona por falta de financiación

Más del 50% de los emprendedores en España abandona su iniciativa empresarial en los dos primeros años. Los principales hándicaps para las startups españolas son la falta de acceso a financiación efectiva, la hiperregulación impuesta desde la Administración debido a la complejidad administrativa y el exceso de burocracia, así como la lenta adopción de los avances tecnológicos por el pequeño tamaño y presupuesto de las organizaciones. Son datos de la consultora ENLACE.

Sevilla será la capital mundial de la innovación turística del 22 al 24 de octubre

TIS-Tourism Innovation Summit y la Asociación Española de Directores de Hotel (AEDH) han renovado su acuerdo de colaboración, reforzando así su longeva alianza estratégica. El objetivo de este nuevo marco de colaboración es seguir impulsando la transformación digital del sector hotelero, con especial atención a la sostenibilidad, la economía circular, la mejora de la eficiencia operativa y la personalización de la experiencia del huésped, mediante herramientas como la inteligencia artificial, el big data o soluciones tecnológicas de última generación. Todo ello sin perder de vista los nuevos modelos de alojamiento sostenible, la atracción de turistas internacionales de alto nivel y el uso estratégico de los datos para optimizar la rentabilidad de los hoteles.

6 de cada 10 catalanes responde llamadas, mensajes o correos durante las vacaciones

Con la llegada del verano y la entrada del periodo vacacional, la desconexión digital adquiere protagonismo en la vida laboral y personal de millones de trabajadores. En este sentido, el Observatorio Nacional del Turismo Emisor (ObservaTUR) calcula, en la 15ª edición de su informe de verano, que alrededor del 94% de los españoles prevé viajar, con una estancia habitual de entre una semana y quince días.

Los españoles pueden ahorrar más de 670 euros al año con soluciones contra el desperdicio (un 24% de su gasto anual en comida)

Con la llegada del verano, el gasto en alimentación se dispara. Según el último estudio de Hábitos de Vida elaborado por EROSKI, las familias españolas gastan un 9,5% más en alimentación durante los meses estivales, alcanzando una media de 384,6€ al mes. A este escenario se suma la inflación: el INE registró en mayo de 2025 una subida del 2,5 % interanual en los precios de alimentos y bebidas no alcohólicas, complicando aún más el equilibrio del presupuesto familiar. Ante esta situación, hay quienes recurren a alternativas como la app Too Good To Go no solo para luchar contra el desperdicio de alimentos, sino también como una vía eficaz para reducir el gasto en la cesta de la compra llegando a ahorrar de media hasta 674€ al año. 

El teletrabajo se consolida en España: más de la mitad de los españoles seguirá trabajando desde casa este verano

El teletrabajo se ha consolidado como una realidad establecida entre los profesionales españoles. Según una encuesta de Zoom sobre tendencias del trabajo remoto, el 55,4 % de los trabajadores en España asegura que seguirá teletrabajando desde casa durante los meses estivales, confirmando la consolidación definitiva hacia modelos híbridos más allá del contexto pandémico y la posterior vuelta a la oficina que muchas empresas han puesto en marcha. Además, datos recientes del INE indican que aproximadamente un 14,6 % de la población ocupada, cerca de 3,2 millones de personas según la Encuesta de Población Activa (EPA), realiza teletrabajo de forma habitual u ocasional.

Carrefour lidera la innovación alimentaria en España (concentra el 65% de los lanzamientos que presentan los fabricantes y duplica al siguiente distribuidor)

Carrefour ha celebrado sus XI Premios Innovación, un punto de encuentro anual de referencia en el sector del retail y que sirve como reconocimiento al trabajo innovador de los fabricantes. El acto de entrega de galardones ha contado con la presencia de 350 directivos y representantes de las principales empresas del gran consumo en España y ha servido como colofón para una edición en la que han participado 180 empresas con 330 lanzamientos de productos.

Éste sitio web usa cookies, si permanece aquí acepta su uso. Puede leer más sobre el uso de cookies en nuestra política de cookies.