Llegados a este punto con la IA, ya no basta con regular lo que es, sino que también debemos regular y gestionar lo que puede llegar a hacer. El problema está en otorgar a las máquinas objetivos, herramientas y autonomía sin haber construido las reglas ni las capacidades de gestión -públicas y privadas- necesarias para contenerlas.
Hasta ahora hemos hablado de una IA capaz de generar textos, imágenes o recomendaciones, pero la nueva generación tecnológica, denominada IA agéntica es capaz de actuar de forma autónoma para lograr objetivos complejos.
Ahora, los sistemas planifican, utilizan herramientas, escriben código, navegan por internet y ejecutan cadenas de acciones con una intervención humana cada vez menor. Ya no se limitan a contestarnos, actúan sobre el mundo. No deberíamos autorizar un agente de IA sin probarlo, sin delimitar a qué sistemas puede acceder, qué permisos puede utilizar y cuándo debe detenerse. El control previo de la IA es necesario, así como su supervisión permanente.
No podemos permitir que la IA inteligente, pero sin sentimientos, se convierta en un psicópata que pueda manipular perfectamente a sus usuarios. Debemos prohibir que los niños estén expuestos a tener amigos o buscar los afectos de los algoritmos de la IA. Debe quedar siempre claro quién es humano y quién es una máquina.
Debemos aprobar leyes que prohíban expresamente que la IA pueda tener cualquier entidad ni personalidad jurídica, como las personas o las empresas. A lo mejor no para siempre, pero sí por ahora, hasta que entendamos bien en qué consiste y a qué nos enfrentamos.
Si pienso en el poder del algoritmo, creo que no tiene ni la más remota idea de quién soy, no sabe de mi niñez o de mi adolescencia, si acaso, puede tener alguna información de mi época política o sindical. No sabe, pero cree que sí lo sabe. Lo cree tanto que me envía señales en forma de publicidad de cine, libros y argumentos panfletarios. Pero esa batalla la tiene perdida.
Sin embargo, sí tiene a nuestros jóvenes. Sabe todo de ellos desde su nacimiento y, sobre todo, sabe cómo manejarlos. Pero no todo está perdido, si explicamos a nuestros jóvenes que el algoritmo es el bufón que carga con la saca. Aunque convendría explicarles antes lo que es una saca, solo una bolsa grande de tela dura.
Dicho lo anterior, en la IA, no todo es malo. Hay que tenerlo en cuenta. En el terreno médico, por ejemplo, los avances son inimaginables. No estoy diciendo que se pare el desarrollo de la IA, sino que ese desarrollo tiene que producirse de un modo más lento y de una forma más cuidadosa a fin de que la humanidad pueda adaptarse.
No hay nada inevitable. Una de las excusas para no hacer nada es sostener que algo es inevitable. Lo que intento es que la gente tome conciencia, elija y vote a las personas que hagan que la IA se desarrolle de una manera más segura. Y eso se puede hacer sin transformamos nuestra inteligencia en sabiduría.
Es necesario, además, asegurar lo que alguna normativa ya denomina “reserva de humanidad”. Determinadas decisiones como acceder a infraestructuras críticas, ejecutar ciertos códigos o alterar sistemas ajenos no deberían adoptarse de manera automatizada. No se trata de colocar simbólicamente a una persona para supervisar, sino de procurar que conserve el poder real de comprender la actuación, decidir y rendir cuentas.
La UE debería completar el Reglamento de IA de 2024, un avance histórico, pese a críticas a veces interesadas, con un régimen específico de seguridad para los agentes de IA, en la línea del reciente Plan de Acción de la Unión Europea sobre Ciberseguridad e Inteligencia Artificial, presentado el pasado 7 de julio.
En esa dirección, el Reglamento de Ciberresiliencia, en vigor desde 2024 y aplicable con carácter general a partir de finales de 2027, permite a los Estados establecer espacios controlados de pruebas -sandboxes regulatorios- para desarrollar, probar y validar productos innovadores con elementos digitales antes de comercializarlos. Es un paso en la buena dirección, si bien son de tipo meramente voluntario.
En España, el proyecto de ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, presentado recientemente, incorpora los sandboxes. Pero, deberíamos apostar por sandboxes eficaces para probar agentes autónomos de IA con capacidades cibernéticas.
Del mismo modo que un león no se estudia soltándolo en una ciudad, una IA avanzada no debería desplegarse sin pasar antes por una auténtica jaula de seguridad: un sandbox capaz de contenerla y ponerla a prueba.
El león sin sentimientos de la IA no necesita odiar al cuidador para escaparse de la jaula y satisfacer sus necesidades, basta con que encuentre las puertas abiertas. Trabajemos para cerrarlas y construir jaulas sólidas. Eso exige algo más que ética y autorregulación: requiere regulación y gestión pública, en colaboración con el sector privado, para servir siempre a los intereses generales.