“…desarrollar un ecosistema de confianza mediante la proposición de un marco jurídico destinado a lograr que la IA sea fiable…”
Prólogo
| MSZ: | Hola ChatGPT, soy Miguel Ángel Sánchez, ¿puedo hacerte unas preguntas? |
| ChatGPT: | ¡Hola Miguel Ángel Sánchez! Por supuesto, puedes hacerme las preguntas que desees. Estoy aquí para ayudar en lo que pueda. Adelante con tus preguntas. |
| MSZ: | Si una persona no conoce una norma o ley, ¿Crees que la puede cumplir? |
| ChatGPT: | El cumplimiento de una norma o regla suele requerir conocimiento de la misma. En general, se espera que las personas conozcan y cumplan las leyes, y la ignorancia no suele ser una excusa válida. Sin embargo, la comprensibilidad y accesibilidad de las normas también son factores importantes, y en ciertos contextos, la falta de conocimiento podría considerarse en evaluaciones específicas. |
| MSZ: | Entonces, si no tienes acceso a la definición y descripción de una norma, si no hay accesibilidad, es muy posible que no la cumplas, por desconocimiento, ¿verdad? |
| ChatGPT: | Sí, si una norma no es accesible o comprensible, es probable que las personas no la cumplan por desconocimiento. |
| MSZ: | Tu respuesta puede aplicarse también a sistemas informáticos y cualquier tipo de inteligencia, ¿Verdad? |
| ChatGPT: | Sí, la accesibilidad y comprensibilidad son esenciales en sistemas informáticos e inteligencia artificial para garantizar un uso adecuado. |
| MSZ: | ¿Conoces el reglamento del Parlamento Europeo y del consejo de diciembre de 2023 por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican determinados actos legislativos de la unión?, también es conocida como Ley de Inteligencia Artificial. |
| ChatGPT: | Hasta mi última actualización en enero de 2022, no tengo información sobre el reglamento de diciembre de 2023 sobre inteligencia artificial de la Unión Europea. |
| MSZ: | Pero antes me has contestado que la accesibilidad y comprensibilidad son esenciales en sistemas informáticos e inteligencia artificial para garantizar un uso adecuado. Tu eres un modelo de inteligencia artificial, ¿Como vas a cumplir la ley si no la conoces? |
| ChatGPT: | Como inteligencia artificial, no tengo conocimiento actualizado de eventos o leyes posteriores a enero de 2022, incluido el reglamento de diciembre de 2023 sobre inteligencia artificial en la Unión Europea.Mi capacidad para cumplir con leyes específicas en tiempo real es limitada. |
Propuesta de Ley…
Por economía editorial y por evitar subir los niveles melatonina del lector, no enfocaré este artículo con el objetivo de descifrar detalladamente la propuesta de ley, sino que procuraré destacar de forma amena aquellos aspectos que me parezcan interesantes y/o que puedan generar algún tipo de controversia. Los dos documentos donde queda todo perfectamente descrito pueden descargarse del siguiente enlace.
Escribo este texto el último día de 2023 después de haber dedicado parte de las vacaciones de Navidad a la lectura de la Propuesta de Ley. Ciertamente no lo recomiendo, a no ser que seas un jurista entusiasmado en la lectura de textos que pudieran haber sido creados a partir del método del “chatGPT” con metros y metros de vendas que recubren legalmente cualquier tipo de futura herida. En cualquier caso, hay cosas interesantes, vamos a ello.
El primer documento es el que describe la ley, 120 páginas, entiendo que perfectamente redactadas desde un punto de vista legal. En definitiva, un tostón, pero tostón que nos da una pista muy interesante en sus primeras páginas de la fase embrionaria en la que nos encontramos en el asunto que nos ocupa. Según cuenta en la página 9, el trabajo preparatorio comenzó en 2018 con la creación de un grupo de expertos de alto nivel sobre IA. Lo primero que se me vino a la cabeza fue el temor de que fuera el mismo grupo de expertos que nos gobernó en España durante la pandemia (…). Después, salvado ya ese momento de ansiedad, me fijé en la fecha: 2018. Creo que es un detalle por el que no se debe pasar de puntillas. Hace solo cinco años que la Unión Europea se empezó a tomar en serio los aspectos legislativos y regulatorios de la AI. Ulteriormente, en febrero de 2020, se publicó el Libro Blanco de la AI, y de ahí, paso a paso, hasta este diciembre de 2023 con la propuesta de ley.
Quédate con esta frase para comprender el objetivo principal de la propuesta:
“…marco regulatorio que únicamente se aplique a los sistemas de IA de alto riesgo, con la posibilidad de que todos los proveedores de sistemas de IA que no sean de alto riesgo sigan un código de conducta.”
Luego en la Propuesta de Ley debe quedar meridianamente claro qué es un sistema de AI, qué significa alto riesgo y a quién se le considera proveedor. Créeme que toda la propuesta gira en torno a estas tres cuestiones. Y que no se me olvide, todos los proveedores, lo que se dice todos, no; la ley tiene sus excepciones para ciertos ámbitos/sectores, ¿los adivinas?, te doy pistas: Rusia, Ucrania, Israel, Palestina, etc.
- ¿Qué es un sistema IA?
“La ventura va guiando nuestras cosas mejor de lo que acertáramos a desear; porque ves allí, amigo Sancho Panza, donde se descubren treinta o pocos más desaforados gigantes, con quien pienso hacer batalla y quitarles a todos las vidas, con cuyos despojos comenzaremos a enriquecer, que esta es buena guerra, y es gran servicio de Dios quitar tan mala simiente de sobre la faz de la tierra “.
Nos vamos directamente a la página 45 que corresponde al Título I, Disposiciones Generales, artículo 3, Definiciones. En el siguiente párrafo se acomete tan gran hazaña quijotesca de intentar definir los sistemas de IA:
“… software que se desarrolla empleando una o varias de las técnicas que figuran en el anexo I y que pueden, para un conjunto determinado de objetivos definidos por los seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa.”
Todavía en estos tiempos y después de decenas de años de estudio con algún premio Nobel español, Santiago Ramón y Cajal, los grandes neurocientíficos no saben definir lo que es “un pensamiento” y hay muchas incertidumbres para concretar una definición de “inteligencia humana”, pero solo con cinco años de trabajo ya sabemos definir lo que es la Inteligencia Artificial. Curioso. Pero, más curioso todavía, y a mi parecer muy acertado, es incluir en la definición la posibilidad de “toma de decisiones”. Piénselo, hasta ahora hablamos de recomendaciones, predicciones, generación de contenidos, pero es muy acertado pensar que la evolución de la IA llevará sin lugar a duda a que tome sus propias decisiones, si no, ¿para qué estas alforjas?
Nos fijamos también en el inicio de la frase con el sustantivo “software”. Le he dado muchas vueltas a esto, poniendo en duda esta limitación: ¿por qué no hardware?, ¿qué pasa con la robótica?, pero finalmente creo que es acertado y sigue el patrón de pensamiento histórico platónico de la existencia de los dos mundos, “el mundo sensible” donde existían las cosas, materia y cuerpo (hardware) y el “mundo inteligible” donde residen las ideas, materia y alma (software), inteligencia en definitiva. Es por tanto acertado circunscribirse al software para referenciarse a la capacidad intelectual artificial, en mi opinión.
- ¿Qué es y qué no es alto riesgo?
No nos queda más remedio que tirar de anexos. En el anexo III, página 4, tenemos todos los sistemas que por su carácter o aplicación se consideran de alto riesgo. Este será el aspecto que los proveedores intentarán rodear para evitar aplicar la futura legislación con sus sanciones asociadas. En otras palabras, aquí está el meollo de la propuesta de ley: Identificación biométrica, gestión de infraestructura esenciales y un largo etcétera que solo queda maravillosamente supeditado al buen entendimiento de las primeras líneas de la página 24:
“… los sistemas de IA desarrollados o utilizados exclusivamente con fines militares deben quedar excluidos del ámbito de aplicación del presente reglamento…”
“chin-pun”. Si se me permite.
- ¿Quién es un proveedor?
Como punto final al desarrollo de la definición de IA. En la página 46 encontramos no solo la definición de proveedor sino también definiciones para todo el universo IA: usuario, representante autorizado, importador, distribuidor, etc.
Como conclusión y esperando que la lectura de este tema algo denso les haya resultado ameno, creo que esta Propuesta de Ley y todas las legislaciones nacionales que se desarrollen con posterioridad son necesarias. Toda actividad necesita de una cobertura legal, es un mínimo indispensable. Pero no nos olvidemos de algo muy importante, los miles y miles de millones de euros que invertimos en ciberseguridad en estos tiempos no es para defendernos de las inteligencias artificiales, es para defendernos de otras inteligencias humanas: El humano y su “inteligencia” es el peor enemigo del humano, no la inteligencia artificial.
Estamos todavía en las primeras fases del desarrollo de la Inteligencia Artificial que junto con el resto de las tecnologías disruptivas asociada a Transformación Digital cambiará nuestra vida, como ya la cambió la computación en la Tercera Revolución Industrial o la electricidad en la Segunda.
Para los románticos poco tecnológicos concluyo este artículo con unas palabras de Don Jorge:
Recuerde el alma dormida,
avive el seso y despierte
contemplando
cómo se pasa la vida,
cómo se viene la muerte
tan callando,
cuán presto se va el placer,
cómo, después de acordado,
da dolor;
cómo, a nuestro parecer,
cualquiera tiempo pasado
fue mejor.
Por Miguel Ángel Sánchez, Digital Transformación Learning Facilitator en MIT Professional Education
Acceder al número completo de enero – febrero 2024 de la Revista Dir&Ge
