El 21 de abril la Comisión Europea presentó su propuesta de reglamento sobre Inteligencia Artificial (IA) en la Unión Europea. Se trataría de la primera regulación sobre la materia, acompañada, además, de una normativa sobre maquinaria y robots, todo ello apuntando a convertir a Europa como el centro mundial de una IA segura y confiable.

El régimen regulatorio propuesto propicia la seguridad y protección de los derechos fundamentales tanto de personas como empresas al tiempo que reforzará la adopción, inversión e innovación en IA dentro de la Unión Europea.

Entre los principales aspectos definidos en la propuesta, destaca el establecimiento de cuatro niveles de riesgo a saber:

1. Riesgo Inadmisible: Son aquellos sistemas prohibidos al calificarlos como amenazas para la seguridad y derechos de las personas. Dentro de esta categoría se encuentran, por ejemplo, aquellos sistemas de IA que manipulan el comportamiento humano o que permitan la “puntuación social” de los gobiernos.

2. Alto Riesgo. Considera aquellas tecnologías de IA empleadas en los siguientes aspectos:

a. Infraestructuras críticas que puedan poner en peligro la vida o salud.
b. Tecnologías que puedan determinar el acceso a la educación o carrera de una persona.
c. Componentes de seguridad de productos.
d. Uso de tecnologías para la gestión de trabajadores o acceso al trabajo, como los programas de clasificación de CV en procesos de selección.
e. Uso de IA para el acceso a servicios públicos y privados esenciales.
f. Aplicación de leyes que puedan interferir en derechos fundamentales, como la evaluación de fiabilidad de pruebas.
g. Gestión de migración, asilo y control de fronteras
h. Administración de justicia y procesos democráticos.

Estos sistemas de alto riesgo, además, deben satisfacer algunos requisitos previos a su comercialización:
a. Contar con sistemas adecuados de evaluación y mitigación de riesgos y supervisión humana.
b. Disponer de un conjunto de datos de alta calidad para evitar sesgos y resultados discriminatorios.
c. Registrar la actividad con tal de garantizar la trazabilidad de los resultados.
d. Contar con documentación detallada que aporte información necesaria sobre el sistema y su finalidad.
e. Informar en forma clara y adecuada al usuario.
f. Contar con altos niveles de solidez, seguridad y precisión.

Bajo esta noción de alto riesgo se consideran todos aquellos sistemas de identificación biométrica remota, prohibiéndose, en principio, su uso en directo en espacios de acceso público con fines policiales.

Por lo anterior es que se definen y regulan en forma estricta las excepciones, como el caso en que sea necesario para la búsqueda de un menor desaparecido, o para prevenir una amenaza terrorista concreta e inminente, o bien para detectar, localizar o enjuiciar a un autor o sospechoso de delito grave.

3. Riesgo Limitado: bajo la noción de riesgo limitado se consideran a aquellos sistemas de IA como robot conversacionales, a los cuales se les imponen deberes especiales de transparencia e información tendientes a que el usuario sea consciente de estar interactuando con una máquina para que, de forma informada, pueda decidir si acaso continuar o no.

4. Riesgo Mínimo o nulo: Dentro de esta categoría se consideran a la gran mayoría de sistemas de IA. Se trata de sistemas de uso gratuito en aplicaciones como videojuegos basados en IA o filtros SPAM. Dado su mínimo o nulo riesgo para los derechos o seguridad de las personas es que el Reglamento no intervendría.

En cuanto a la gobernanza del Reglamento, la Comisión sugiere que sean las autoridades nacionales de vigilancia de mercado quienes tengan a su cargo el control de las nuevas normas, mientras que, con la creación de un Comité Europeo de Inteligencia Artificial, se facilite su aplicación e impulso la creación de normas relativas a IA. Adicionalmente se proponen códigos de conductas de adhesión voluntaria para la IA que no impliquen un alto riesgo, así como también propiciar espacios seguros de prueba que facilite la innovación de forma responsable.

Los pasos a seguir son que tanto el Parlamento Europeo como los Estados miembros adopten las propuestas de la Comisión con un enfoque europeo en materia de IA y maquinaria en el procedimiento legislativo. Una vez adoptados, los Reglamentos serán aplicables en toda la Unión Europea.

De la misma forma, la Comisión colaborará con los Estados miembros para la ejecución de medidas anunciadas en el “Plan Coordinado”, documento publicado en 2018, en el cual se definían medidas e instrumentos de financiación para el desarrollo y adopción de la IA en la Unión Europea.

En el entorno nacional, por su parte, cabe mencionar que se está desarrollando la “Política Nacional de Inteligencia Artificial” que comprenderá los lineamientos estratégicos y éticos para el uso de esta tecnología, junto a su potencial económico, adopción y aplicación a nivel industrial para los próximos 10 años en Chile. Este proceso inició en agosto de 2019 e incluyó una consulta ciudadana que finalizó en enero del presente año, tras un proceso de redacción que incluyó discusiones en mesas regionales y autoconvocadas junto a un comité de expertos e interministerial.