Regulaciones sobre inteligencia artificial

Europa crea la primera regulación sobre Inteligencia Artificial y robots: se prohíbe el reconocimiento facial en zonas públicas, con algunas excepciones. Un gran paso en la transformación digital de las empresas europeas.

Inteligencia Artificial (IA) es un término acuñado en los años 50 del siglo pasado. Aunque tiende a identificarse con una única tecnología, en realidad engloba una gran variedad de técnicas y metodologías cuyas bases teóricas se desarrollaron hace más de 70 años. Culminando en una combinación de algoritmos planteados con el propósito de crear máquinas que presenten las mismas capacidades que el ser humano, liderando así la transformación digital de estos últimos años.

La Unión Europea prepara una batería de medidas para abordar las oportunidades y desafíos de la inteligencia artificial, enfocadas en la confianza en la tecnología digital y en su potencial impacto tanto en los ciudadanos a nivel individual como en la sociedad y economía. Las nuevas normas buscan también garantizar un ambiente propicio para que los investigadores, desarrolladores y empresas puedan trabajar.

El Parlamento trabaja en una propuesta de la Comisión, presentada el 21 de abril de 2021, para que Europa se convierta en el centro mundial de una inteligencia artificial que genere confianza. La cual pretende destinar 20.000 millones de euros al año para potenciar las inversiones privadas y públicas en transformación digital.

La propuesta sigue un planteamiento basado en los niveles de riesgo:

RIESGO INADMISIBLE

Se prohibirán los sistemas de IA que se consideren una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas. Esto abarca los sistemas o las aplicaciones de IA que manipulan el comportamiento humano para eludir la voluntad de los usuarios y sistemas que permitan la «puntuación social» por parte de los Gobiernos.

ALTO RIESGO

Los sistemas considerados de alto riesgo abarcan las tecnologías de IA empleadas en infraestructuras críticas, formación educativa o profesional, empleo, gestión de trabajadores y acceso al trabajo por cuenta propia, servicios públicos y privados esenciales, aplicación de las leyes que pueden interferir con los derechos fundamentales de las personas, gestión de la migración, el asilo y el control de las fronteras y administración de justicia y procesos democráticos. Su uso en estos campos estará sujeto a obligaciones estrictas antes de que puedan comercializarse.

En especial, se consideran de alto riesgo todos los sistemas de identificación biométrica remota. Su uso en directo en espacios de acceso público con fines policiales está prohibido en principio. Se definen y regulan estrictamente excepciones estrictas (por ejemplo, cuando sea estrictamente necesario para la búsqueda de un menor desaparecido, para prevenir una amenaza terrorista concreta e inminente, o para detectar, localizar, identificar o enjuiciar a un autor o sospechoso de un delito grave). Su utilización estará sujeta a la autorización de un órgano judicial u otro organismo independiente y a los límites adecuados desde el punto de vista de la duración, el alcance geográfico y las bases de datos exploradas.

RIESGO LIMITADO

Son sistemas de IA con obligaciones específicas de transparencia: al utilizar sistemas de IA como robots conversacionales, los usuarios deberán ser conscientes de que están interactuando con una máquina para poder tomar una decisión informada de continuar o no.

RIESGO MÍNIMO O NULO

La propuesta permite el uso gratuito de aplicaciones tales como videojuegos basados en la IA o filtros de correo basura. La inmensa mayoría de los sistemas de IA entra en esta categoría. El proyecto de Reglamento no interviene aquí, ya que estos sistemas de IA solo representan un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos.

Por otra parte, en términos de gobernanza, la Comisión propone que las autoridades nacionales de vigilancia del mercado controlen las nuevas normas, mientras que la creación de un Comité Europeo de IA facilitará su aplicación e impulsará la creación de normas en esta materia. Esta nueva propuesta es un ejemplo más de la estrategia comunitaria para regular el uso de la tecnología y proteger a los ciudadanos, una tendencia que se aceleró con la promulgación del reglamento GDPR.

La inteligencia artificial juega un gran papel en la transformación digital de la sociedad y ya está presente en muchas áreas de la vida cotidiana. Su rápido avance traerá más cambios en el trabajo, empresas y finanzas, sanidad, seguridad, agricultura y en muchas otras ramas. La tecnología digital también es fundamental para el Pacto Verde Europeo y la recuperación de la pandemia de Covid-19.

Por otro lado, la pandemia del Covid-19 está ralentizando muchos sectores económicos y poniendo en jaque la salud de la población mundial. Está claro que todos los gobiernos tienen la necesidad fomentar la salud ciudadana para salir de la crisis que está provocando, descubre como la Inteligencia Artificial juega un papel muy importante en la Salud Digital (aquí).