Los 7 elementos principales para la identificación de sistemas de IA

• Definición.

De acuerdo con el Considerando 12 este elemento “refiere al hecho de que los sistemas de IA se ejecutan en máquinas”. Con esta definición se busca excluir de la definición de Sistema de IA a cualquier tipo de sistema de origen biológico, subrayando el hecho de que los Sistemas de IA deben estar impulsados computacionalmente y basados en operaciones de máquinas.

Como se específica en las Directrices, una máquina incluye componentes de hardware y software que permiten el funcionamiento de un Sistema de IA.

En este contexto, debe destacarse que los Sistemas de IA pueden funcionar como un producto independiente o como un componente de otro producto, con independencia de que se encuentre integrado físicamente en el producto (integrado) o contribuya a su funcionalidad sin estar presente dicha integración (no integrado).

• Inherente.

• Ejemplo.

Un asistente virtual que utiliza procesamiento de lenguaje natural y técnicas de aprendizaje automático para realizar diversas tareas y responder consultas.

• Definición.

Los sistemas de IA que funcionan con cierto grado de independencia implica que “pueden actuar con cierto grado de independencia con respecto a la actuación humana y tienen ciertas capacidades para funcionar sin intervención humana”.

A este respecto, las Directrices consideran que los siguientes sistemas presentan un cierto grado de independencia:

• Un sistema que requiere información de entrada proporcionada manualmente para generar un resultado de salida por sí mismo, sin que este resultado de salida sea controlado manualmente, o especificado explícitamente por un humano.
• Un sistema experto [1] que sigue una delegación de automatización de procesos por parte de humanos y que es capaz, basado en la información de entrada proporcionada por un humano, de producir un resultado de salida por sí mismo, como una recomendación.

De acuerdo con las Directrices, la autonomía, aunque sea gradual, es una condición necesaria para determinar si un sistema califica como un Sistema de IA.

• Inherente.

• Ejemplo.

Un sistema de IA para la gestión de inventarios monitoriza niveles de stock y genera órdenes de reposición automáticamente, sin intervención humana constante. Además, utiliza inferencia basada en datos históricos y patrones de demanda para tomar decisiones autónomas sobre la reposición de los productos. Igualmente, cuando detecta que el stock es insuficiente, el sistema lanza recomendaciones sobre pedidos.

_{[2] Un sistema experto es un tipo de sistema de inteligencia artificial diseñado para emular la toma de decisiones de un experto humano en un dominio específico. Estos sistemas utilizan una base de conocimientos detallada y reglas de inferencia para resolver problemas complejos que normalmente requerirían la intervención de un especialista humano. Los sistemas expertos son utilizados en una variedad de campos, incluyendo medicina, ingeniería, finanzas, y más.}

• Definición.

La capacidad de adaptación de un sistema debe entenderse como la optimización y evolución que puede llevar a cabo el mismo, modificando su comportamiento gracias a la interacción directa con su entorno y gracias a la información de entrada (o, “inputs”) que recibe tras el despliegue.

Por el contrario, no debe considerarse como capacidad de adaptación aquellos sistemas que de forma aparente presentan esta característica pero que, tras cada interacción, vuelven al estado inicial, esto es, el modelo sobre el que se asienta el sistema no cambia tras la interacción con su entorno.

• Complementario [2]. 

• Ejemplo.

Sistema de recomendación de productos o servicios que con base al histórico de compras/devoluciones o uso del servicio por parte del usuario realiza recomendaciones, refinando el algoritmo utilizado para las recomendaciones en función de las interacciones de los usuarios, reajustando el peso atribuido a las distintas variables del sistema de forma autónoma.

_{[2] El término “puede” incluido en la definición de este elemento, responde a que la capacidad de adaptación no debe ser entendido como una característica inherente a los Sistemas de IA ya que, si lo fuese, el alcance del RIA se vería limitado debido a que, en la actualidad, la mayoría de los modelos de Aprendizaje Automático (o “Machine Learning”) no tienen capacidad de adaptación tras el despliegue.}

• Definición.

Un Sistema de IA debe estar diseñado de acuerdo con los objetivos definidos previamente. Por objetivo explícito, debe entenderse todo objetivo codificado directamente en el algoritmo por el desarrollador del sistema. Por el contrario, serán objetivos implícitos aquellos que no se encuentran explícitamente establecidos en el código del sistema pero que pueden deducirse del comportamiento del mismo. Estos objetivos pueden surgir de los datos de entrenamiento o de la interacción del sistema de IA con su entorno.

• Inherente.

• Ejemplo.

Un sistema de conducción diseñado con una instrucción explícita de que el vehículo se pare en un semáforo en rojo tiene por objetivo cumplir con las leyes de tráfico y evitar accidentes. A este respecto, la acción de parar en un semáforo en rojo es un objetivo explícito del sistema, en la medida en que está expresamente escrito en el código del algoritmo. En cambio, respetar las leyes de tráfico, cumplir con la ley o evitar accidentes serían objetivos implícitos del Sistema de IA. 

• Definición.

Por inferencia debe entenderse el “proceso de obtención de resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos y virtuales, y a la capacidad de los sistemas de IA para deducir modelos o algoritmos, o ambos, a partir de información de entrada o datos”. Igualmente, la norma ISO/IEC 22989 califica la inferencia como “el razonamiento mediante el cual se derivan conclusiones a partir de premisas conocidas”, entendiendo por premisa “un hecho, una regla, un modelo, una característica o datos en bruto”.

En este sentido, en relación con la capacidad de los Sistemas de IA para deducir modelos o algoritmos a partir de información de entrada, las Directrices consideran especialmente relevante las técnicas de IA empleadas para construir el sistema, ya que la capacidad de inferencia también puede desarrollarse en la “fase de construcción” del sistema. 

• Inherente.

• Ejemplo.

Sistemas utilizados para el descubrimiento de fármacos por parte de las compañías farmacéuticas para agrupar compuestos químicos y predecir posibles nuevos tratamientos para enfermedades basándose en sus similitudes con medicamentos existentes.

• Definición.

Los resultados de salida de los Sistemas de IA pertenecen a cuatro categorías amplias enumeradas en el artículo 3(1) del RIA, las cuales pueden diferir en el grado de intervención humana: predicciones, contenidos, recomendaciones, decisiones.

• Inherente.

• Ejemplo.

Vehículos autónomos que utilizan sensores, cámaras y algoritmos de aprendizaje automático para tomar decisiones en tiempo real sobre la conducción, como frenar, acelerar, girar y evitar obstáculos.

• Definición.

Los Sistemas de IA no son pasivos, sino que pueden impactar activamente en los entornos en los que se despliegan. La referencia a "entornos físicos o virtuales" indica que la influencia de un sistema de IA puede ser tanto en objetos físicos tangibles (por ejemplo, un brazo robótico) como en entornos virtuales (por ejemplo, espacios digitales). Además, un entorno virtual también puede verse influenciado cuando el resultado de salida se utiliza como entrada para otro sistema algorítmico.

• Complementario [3].

• Ejemplo.

Robots autónomos que se utilizan en centros de distribución para mover productos, organizar inventarios y optimizar el proceso de empaquetado y envío, utilizando sensores para navegar por el almacén, evitar obstáculos y colaborar con los trabajadores humanos.

_{[3] El término “puede” incluido en la definición de este elemento, responde a que la capacidad de influir en entornos físico o virtuales no debe ser entendido como una característica inherente a los Sistemas de IA.}