"La normativa deberá garantizar que la IA desarrollada y utilizada en
Europa se ajuste plenamente a nuestros derechos y valores, respetando
requisitos como la supervisión humana, la seguridad, la privacidad, la
transparencia, la no discriminación o el bienestar social y medioambiental.
Prácticas prohibidas
Las normas están enfocadas a prevenir riesgos, y fijan unas
obligaciones para los proveedores y los que despliegan herramientas basadas en
IA en función del nivel de riesgo que pueda presentar la inteligencia
artificial. Los sistemas de IA que presentan un nivel inaceptable para la
seguridad de las personas, como los utilizados para sistemas de puntuación
social (clasificar a las personas a partir de su comportamiento o
características personales), quedarían totalmente prohibidos. Los eurodiputados
han ampliado la lista propuesta por la Comisión Europea, añadiendo
prohibiciones que se refieren a los usos intrusivos y discriminatorios de la
IA, como por ejemplo:
· . Los sistemas de identificación biométrica
remota, en tiempo real, en espacios públicos;
· . Los sistemas de identificación
biométrica remota, a posteriori, con la única excepción de usos policiales en
investigaciones por delitos graves y con autorización judicial;
· . Los sistemas de categorización
biométrica que utilicen ciertas características identitarias (por ejemplo el
género, la raza, la etnia, el estatus de ciudadanía, la religión o la
orientación política);
· . Los sistemas policiales predictivos
(basados en la elaboración de perfiles, la ubicación o el historial delictivo);
· . Los sistemas de reconocimiento de
emociones por las fuerzas de seguridad, en la gestión de fronteras, los lugares
de trabajo o las instituciones de enseñanza; y
· . El rastreo indiscriminado de imágenes
faciales sacadas de Internet o de circuitos cerrados de televisión para crear
bases de datos de reconocimiento facial (que violan los derechos humanos y el
derecho a la intimidad).
Inteligencia artificial de alto riesgo
Los eurodiputados se han encargado de que la
clasificación de las aplicaciones de alto riesgo incluya también los sistemas
de IA que puedan afectar significativamente al medio ambiente o a la salud, la
seguridad o los derechos fundamentales de las personas. Se han añadido a la
lista los sistemas de IA utilizados para influir en los votantes y el resultado
de las elecciones y en los sistemas de recomendación utilizados
por las plataformas de redes sociales (con más de 45 millones de usuarios).
Obligaciones para la IA de uso general
Los proveedores de modelos fundacionales —una innovación en el ámbito de la IA que avanza rápidamente— tendrán que evaluar y mitigar los posibles riesgos (para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de Derecho) y registrar sus modelos en la base de datos de la UE antes de comercializarlos en la UE.
Los sistemas de IA generativa basados en esos modelos, como ChatGPT,
tendrán que cumplir unos requisitos adicionales de transparencia —identificar
el contenido como generado por IA, para ayudar, entre otras cosas, a distinguir
las falsificaciones de las imágenes auténticas— y estar diseñados de forma que
no puedan generar contenido ilegal. Además, deberán publicarse resúmenes
detallados de los datos protegidos por derechos de autor que han sido
utilizados para su desarrollo.
Apoyar la innovación y proteger los derechos
individuales
Para impulsar la innovación en IA y apoyar a las
pymes, los eurodiputados añadieron como excepciones los proyectos de
investigación y los componentes de IA suministrados con licencias de código
abierto. La nueva ley promueve los llamados «espacios controlados de pruebas»,
o entornos reales en los que las empresas pueden probar la inteligencia
artificial bajo la supervisión de las autoridades públicas antes de salir al
mercado.
Por último, la Eurocámara quiere facilitar a los
ciudadanos la presentación de reclamaciones sobre estos sistemas y la obtención
de explicaciones sobre decisiones generadas por sistemas de alto riesgo que
menoscaben significativamente nuestros derechos fundamentales. Los
eurodiputados también han reformado el papel de la Oficina Europea de Inteligencia
Artificial, que se encargaría de supervisar la forma en que se aplica el código
normativo sobre IA.
Una
vez que el Parlamento fijó posición, se iniciaran conversaciones con el Consejo
sobre la forma definitiva del texto de la ley."
Mi valoración
Celebro el acuerdo adoptado por el Parlamento Europeo que estábamos esperando con gran interés dada la trascendencia del tema.
En
esta Legislatura he abordado en varias entradas de este blog los retos y desafíos
de la inteligencia artificial.
El 16 de febrero de 2022 celebramos en el Congreso , una Jornada "La Innovación en Digitalización", del ciclo de jornadas parlamentarias "Liderando la Innovación para la Transformación, organizado por Multinacionales por Marca España", Allí escuchamos una interesante ponencia del catedrático de Economía Aplicada de la Universidad de Alicante, Andrés Pedreño, que dijo: “la regulación sobre Inteligencia Artificial debe ser eficiente y poner el foco en las oportunidades, no en los riesgos. Afirmó que la Inteligencia Artificial, una de las tecnologías disruptivas más importantes para la transformación digital, puede contribuir al crecimiento económico de España si se toma el camino adecuado. El profesor destacó que la IA es una tecnología de utilidad general, que converge con otras tecnologías como la nube, el blockchain, el internet de las cosas o el metaverso, y que tiene un impacto directo en el crecimiento económico.
De hecho, ofreció dos datos que manifiestan la importancia de esta tecnología: la IA permitirá que las grandes economías mundiales dupliquen sus tasas actuales de crecimiento durante los próximos 15 años; y España podría generar 1 millón de puestos de trabajo en los próximos 4 años si somos capaces de liderar en esta tecnología, pasando de ser un mero importador a un creador. Para ello, el establecimiento de un marco regulatorio ambicioso, “que ponga el foco en las oportunidades y no en los riesgos”, es básico.
En este sentido, el profesor recomendó a los legisladores que no se precipiten a la hora de regular, dado que “la regulación preventiva sin conocer a fondo la naturaleza de los hechos y la tecnología supone un freno especialmente a las startups y las empresas”.
http://www.celsodelgado.gal/2022/02/en-el-congreso-jornada-la-innovacion-en.html
El 27 de marzo de 2023 con ocasión de mi
intervención en el Senado en la conferencia ‘Políticas de Inteligencia
Artificial (IA) para la innovación: de los principios a la práctica’ auspiciada por el Club de Madrid (CdM) decía:
Por ese motivo es tan importante esta Jornada organizada por CdM, reuniendo
a los diferentes sectores, expertos, agentes y reguladores que son los
responsables de un correcto desarrollo de la IA, asegurando la ética de los
procesos y eliminando los riesgos de su aplicación.
Estas semanas, cientos de expertos mundiales abogan por detener un tiempo
el desarrollo de la IA para evaluar los riesgos de su vertiginoso desarrollo.
Es que hoy en día, ya es normal que los ciudadanos tengamos aplicaciones
basadas en IA en nuestros propios dispositivos móviles.
La Comisión de Europa lleva varios años intentando regular la IA pero,
estos últimos meses ha provocado un replanteamiento en el Reglamento Europeo
que ya estaba casi terminado.
La IA es un ejemplo evidente de la diferente velocidad del desarrollo de la
tecnología frente a su regulación, mientras se sigue incorporando en empresas,
administraciones y ciudadanos con un cierto grado de incertidumbre.
Las políticas públicas son necesarias para el desarrollo de la tecnología
de IA, de la supervisión de la ética de estos algoritmos y de su propia
regulación, en coordinación con el resto de países de nuestro entorno.
Es pues fundamental la aportación de todos los ponentes para tener una foto
clara del presente y el futuro de la IA en nuestro país.”
http://www.celsodelgado.gal/2023/04/blog-post_24.html
El
27 de marzo de 2023 con ocasión de mi intervención en el III Congreso de la Sociedad Civil me referí al
Reglamento de la Inteligencia Artificial que seguía su curso legislativo en el Parlamento
Europeo y del que estamos muy pendientes pues aspira a regular el despliegue de
modelos de inteligencia artificial (IA) en toda la Unión.
Resaltaba que es una de las tareas que el Gobierno de España deberá abordar durante la presidencia española
del Consejo de la Unión Europea, que comienza en julio.
http://www.celsodelgado.gal/2023/04/participo-esta-manana-en-el-iii.html
