Hablamos de la nueva ley europea sobre inteligencia artificial. ¿Cuáles son sus puntos clave y qué implicaciones va a tener?

Recientemente se aprobó, por primera vez en la historia, una ley de inteligencia artificial en la Unión Europea. Esto la convierte en la primera normativa integral en esta materia en todo el mundo, estableciendo regulaciones que protegen al ciudadano y garantizan la responsabilidad y transparencia en el desarrollo y empleo que de esta tecnología hagan negocios y empresas.

Presentación de la ley de inteligencia artificial en la Unión Europea

En los dos últimos años hemos asistido a un considerable desarrollo y uso de las inteligencias artificiales. Por este motivo, la Unión Europea ha visto necesario regular su uso y comercialización, para que las que se utilizan dentro de la comunidad sean totalmente seguras, y respeten los derechos y valores de los ciudadanos. Con esta medida, lo que se busca es que sean sistemas transparentes, no discriminatorios, respetuosos y estén siempre supervisados por personas reales. 

Esta normativa tiene como objetivo regular la inteligencia artificial en todos los ámbitos, salvo el militar: particular, educativo, y empresarial. También pretende fomentar la creación a partir de las IAs, garantizando siempre el amparo de la población. 
Además, se declara que esta norma se aplicará a cualquier tipo de sistema que se utilice dentro de la Unión Europea, aunque se haya creado o desarrollado en un territorio extracomunitario.

La Ley de la IA en la Unión Europea: aspectos clave

Es fundamental conocer los principales aspectos de esta ley que se aprobó a finales del año pasado, ya que muchos de ellos sirven para definir las obligaciones y los derechos que tienen tanto los usuarios como los desarrolladores.

Clasificación de las IAs
 

El primer aspecto que conviene conocer es la clasificación que se realiza de las inteligencias artificiales en función del riesgo que puedan llegar a suponer:

• Riesgo limitado. Están obligados a desempeñar determinadas obligaciones en materia de transparencia para que los usuarios puedan tomar decisiones informadas sobre su funcionamiento. Además, también deben tener la potestad para decidir cuándo dejar de utilizarlas, y hacerlo de manera consciente. Algunos ejemplos son las IAs que pueden generar imágenes o vídeos altamente realistas.
• IA generativa como chat GPT. Deben cumplir con ciertas obligaciones:

Si el contenido generado por una inteligencia artificial se comparte, se debe dejar claro que no ha sido hecho por una persona.
Se debe cuidar el diseño del modelo para evitar la generación de contenido ilegal, ya sea difamatorio, fraudulento o viole los derechos de autor.
En el caso de que los datos cuenten con protección por derechos de autor porque tienen como fin entrenar el algoritmo de la IA, se deben compartir extractos que no revelen la información original.

• Alto riesgo. Son aquellas que ponen en peligro la seguridad y pueden violar derechos elementales. Existen dos subtipos:
  • Aquellas que se aplican en áreas específicas y deben incluirse en la base de datos de la UE. Esto abarca la identificación biométrica de personas, gestión de infraestructuras críticas, educación, formación profesional, empleo, gestión de trabajadores, acceso al autoempleo, servicios esenciales privados y públicos, aplicación de la ley, gestión de migración, control de fronteras, y asistencia en interpretación jurídica. Los sistemas de IA de alto riesgo se evaluarán antes de su comercialización y durante su uso. 
  • Aquellas destinadas a bienes y servicios regulados en términos de seguridad, como productos médicos, juguetes o vehículos.
• Riesgo inaceptable. Se prohíbe el uso de IA que represente una amenaza clara, incluyendo:
  • Reconocimiento biométrico a distancia en tiempo real, excepto para prevenir y abordar delitos peligrosos con aprobación legal. 
  • Manipulación cognitiva de personas o grupos sensibles, como juguetes para niños.
  • Categorización de individuos según su comportamiento, posición económica o atributos

La Ley de IA de la Unión Europea también prohíbe prácticas específicas, como equipos policiales predictivos, identificación de emociones a través de reconocimiento facial o biométrico, y aplicación de tecnología biométrica para vigilancia. Algunas de las prohibiciones más destacas incluyen:

• Equipos policiales predictivos. Ya sea para la predicción de delitos o comportamientos sociales, estas prohibiciones se basan en el hecho de que estas inteligencias operan con criterios no objetivos, lo que las hace propensas a errores.
• Identificación de emociones. Mediante el uso de reconocimiento facial o datos biométricos, estas prácticas no se consideran éticas y constituyen una violación de los derechos de privacidad.
• Aplicación de tecnología biométrica para vigilancia.  Esta práctica también está prohibida debido a que representa una amenaza para la privacidad de los usuarios de manera similar, poniendo en riesgo sus datos personales.

¿Qué implicación puede tener para las empresas esta ley?

Con el aumento del uso de las inteligencias artificiales, muchas empresas han invertido en su estudio y desarrollo para, por un lado, mejorar la atención a los usuarios, y, por otro, optimizar los procesos internos. Empresas como Google y Microsoft invierten anualmente millones de dólares en la creación y mejora de estas herramientas, que muchos negocios emplean en los procesos de selección y contratación, seguros o diagnósticos médicos.

La nueva ley implicará más trámites, lo que retrasará la introducción de sistemas en el mercado. Las empresas deberán implementar medidas adicionales para proteger los datos y la privacidad, asegurando la transparencia y evitando la recopilación ilegal de datos. Además, como enunciamos anteriormente, las inteligencias artificiales deben tener un diseño que evite la recopilación y el uso ilegal o abusivo de datos personales, así como garantizar la transparencia en las decisiones que toman.

Es importante tener en cuenta el impacto ético de las inteligencias artificiales y garantizar la equidad y no discriminación de su funcionamiento. Para ello, se requerirá un diseño ético para evitar sesgos y discriminación en los algoritmos, con evaluaciones periódicas para garantizar resultados justos, especialmente para determinados colectivos.

Aunque inicialmente esto podría ralentizar el trabajo, la seguridad, la privacidad y la confianza del usuario en los sistemas lanzados por las empresas se verán fortalecidas.

En las operaciones del comercio internacional, confía en Caja Rural de Navarra

Dado que hacer negocios en los mercados internacionales conlleva en ciertas ocasiones desconocimiento de los mismos, es necesario contar con buenos compañeros de viaje como Caja Rural de Navarra para un correcto asesoramiento.

En Caja Rural de Navarra nos dedicamos a apoyar a las empresas que buscan internacionalizarse, contando con una amplia gama de productos y servicios , diseñados para cubrir todas las necesidades que surgen en dichos mercados internacionales. 

Para mitigar el riesgo de cobro a nivel internacional, podemos ofrecerte productos como los los créditos documentarios de exportación,  factoring internacional y avales internacionales. 

Además, si operas con divisas distintas al euro, contamos con nuestro Servicio de Tesorería divisa que te va a permitir eliminar el riesgo de cambio para que puedas dormir en paz. 

Si importas productos de determinados países, los créditos documentarios de importación te permiten asegurarte de que vas a recibir la mercancía acordada.

Somos una entidad ágil, cercana y con un buen equipo de asesores expertos en el Comercio Internacional que te brindará un respaldo profesional cuando lo necesites, por nuestro gran conocimiento tanto de los medios de cobro como de ls mercados.

Si necesitas más información sobre alguno de nuestros productos o servicios o de un mercado en concreto, no dudes en visitar nuestra oficina más cercana, contactar a nuestros expertos a través de nuestra página web o a través del correo departamento.internacional@crnavarra.com o llamarnos.

¡Estaremos encantados de ayudarte!