Ante el crecimiento del uso de la Inteligencia Artificial alrededor del mundo, la Unión Europea ha decidido legislar en la materia, para implementar una regulación rigurosa e introducir medidas que prohíben una variedad amplia de casos de uso considerados como peligrosos.
Por ejemplo, han quedado prohibidos los programas de reconocimiento facial en espacios públicos, hasta algoritmos policiales predictivos que intentan identificar futuros delincuentes a través de datos personales.
Para que los ciudadanos europeos estén informados sobre cómo y cuándo se ven afectados por esta tecnología, se debe crear una base de datos pública de sistemas de IA de “alto riesgo” y que sean implementados por autoridades públicas y gubernamentales.
Países como Estados Unidos, Reino Unido y otras ubicaciones, podrán accesar a esta información. Los cambios más significativos en la ley se centraron en una serie de restricciones que el Parlamento Europeo denomina como usos intrusivos y discriminatorios de los sistemas de IA.
- Sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público.
- Sistemas de identificación biométrica a distancia “post”, con la única excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial.
- Sistemas de categorización biométrica que utilizan características sensibles (p. ej., género, raza, etnia, estado de ciudadanía, religión, orientación política).
- Sistemas policiales predictivos (basados en perfiles, ubicación o conducta delictiva pasada).
- Sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas.
- Raspado indiscriminado de datos biométricos de las redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).
- Aparte de las restricciones, el borrador revisado introduce nuevas medidas para regular los sistemas de IA considerados como “propósito general” o “fundacionales”. Estos se refieren a modelos de IA a gran escala que pueden utilizarse para diversos propósitos.