En Kolokium, como empresa especializada en el desarrollo de infraestructuras basadas en tecnología DLT, creemos que la incorporación de blockchain en la gobernanza de datos identificados como Sistemas de Alto Riesgo por la Ley de Inteligencia Artificial (IA) de la UE se convertirá en una práctica habitual para el cumplimiento de dicha norma.
La capacidad de blockchain de registrar de manera transparente y segura todas las operaciones realizadas con los datos es clave para hacer de la IA una tecnología segura. Recordemos que blockchain tiene la facultad de registrar los datos que influyen en las decisiones de los algoritmos de aprendizaje automático de los sistemas de IA, lo que incrementa la eficiencia en los procesos y su trazabilidad. Pero también actúa como guardián, detectando la creación o modificación de cualquier dato.
Blockchain y la IA de Alto Riesgo
En nuestra compañía hemos experimentado cómo la tecnología blockchain contribuye a reducir de forma significativa los riesgos asociados al mal uso de la IA y la de los datos con las que se alimentan los distintos sistemas de IAs. En este sentido, la cadena de bloques también puede ayudar a las autoridades a controlar la evolución y capacidades de las herramientas de inteligencia artificial.
LA ESPAÑOLA KOLOKIUM OFRECE COMUNICACIÓN ENTRE MÁQUINAS CON IA Y BLOCKCHAIN
En Kolokium estamos listos para poner a disposición de empresas, instituciones y corporaciones las herramientas necesarias para cumplir con el Reglamento Europeo de Inteligencia Artificial. Lo hacemos impulsando la innovación y la competitividad empresarial, pero sin olvidar la sostenibilidad, la seguridad y, sobre todo, la obligación de proteger los derechos de las personas.
El Reglamento de Inteligencia Artificial (RIA) es una normativa de la Comisión Europea diseñada para establecer un marco legal para el desarrollo, comercialización y uso de sistemas de inteligencia artificial en los países que conforman la UE. El objetivo del reglamento es garantizar que los sistemas de IA se desarrollen y utilicen de manera segura, ética y respetuosa con los derechos fundamentales de las personas.
Objetivos Principales del RIA
- Seguridad y Protección: Asegurar que los sistemas de IA no presenten riesgos indebidos para la seguridad, salud y derechos fundamentales de las personas.
- Transparencia y Responsabilidad: Promover la transparencia en el funcionamiento de los sistemas de IA y asegurar que los usuarios y afectados comprendan cómo y por qué se toman ciertas decisiones automatizadas.
- Innovación y Competitividad: Fomentar la innovación y la competitividad en el sector de la IA, asegurando al mismo tiempo que las empresas europeas puedan competir en el mercado global bajo un marco regulatorio claro y predecible.
El RIA clasifica los sistemas de IA en función de su nivel de riesgo en tres categorías principales:
- Prácticas Prohibidas: Sistemas de IA que están completamente prohibidos por su potencial capacidad de infringir un daño significativo, como la manipulación cognitivo-conductual, la explotación de vulnerabilidades de personas y de colectivos vulnerables, la manipulación social y la vigilancia predictiva basada en datos biométricos.
- Riesgo Alto: Sistemas de IA que presentan un alto riesgo para la seguridad, los derechos fundamentales o la salud de las personas. Aquí se incluyen los sistemas de reconocimiento de emociones o los sistemas utilizados en infraestructuras críticas. También están incluidos los empleados en ámbitos laborales, como la selección y contratación de personal, evaluación de solvencia o la clasificación crediticia.
- Riesgo Limitado: Sistemas de IA que tienen un riesgo menor y que están sujetos a requisitos de transparencia, como proporcionar información clara a los usuarios sobre el funcionamiento del sistema de IA.
WORLDCOIN, OBLIGADA A PARALIZAR SU ACTIVIDAD EN ESPAÑA
Obligaciones de los proveedores de IA
Otro punto importante del RIA apunta a los proveedores de sistemas de IA, que deben cumplir con una serie de requisitos antes de introducir sus productos en el mercado:
- Evaluación Precomercial: Realizar una evaluación rigurosa para identificar y mitigar riesgos.
- Información del Nivel de Riesgo: Informar claramente sobre el nivel de riesgo del sistema de IA.
- Vigilancia Poscomercial: Monitorear continuamente el rendimiento del sistema de IA e informar de los incidentes.
Las organizaciones que despliegan sistemas de IA de alto riesgo deben:
- Adoptar Medidas Técnicas y Organizativas: Garantizar que el uso del sistema de IA se ajuste a las instrucciones de uso y que permanezca bajo una supervisión humana competente.
- Estructura de Gobernanza de IA: Implementar una gobernanza efectiva para supervisar el uso de sistemas de IA de alto riesgo.
- Conservación de Registros: Mantener registros detallados de transparencia algorítmica y evaluaciones de impacto en derechos fundamentales.
Equilibrio entre innovación y protección
En su redacción, la RIA busca equilibrar la promoción de la innovación tecnológica con la necesidad de proteger a las personas de los posibles riesgos asociados a la implantación de la IA. Todos estos condicionantes plantean desafíos significativos en términos de cumplimiento y adaptación para las empresas que desarrollan y utilizan tecnologías de IA.
KOLOKIUM CERTIFICA CON BLOCKCHAIN PROCESOS INDUSTRIALES GENERADOS CON IA
Como decimos más arriba, en Kolokium estamos convencidos de que la integración de tecnología blockchain en los sistemas de IA de alto riesgo presenta oportunidades significativas para mejorar la seguridad, la transparencia y la confiabilidad de estos sistemas. A continuación, detallamos diversos casos de uso donde blockchain puede desempeñar un papel crucial y donde Kolokium ya está ayudando a las empresas:
Seguridad y transparencia en la gestión de datos
Los sistemas de recomendación personalizados, como los utilizados por plataformas de streaming o comercio electrónico, manejan grandes volúmenes de datos personales. La gestión insegura de estos datos puede exponer a los usuarios a riesgos significativos de privacidad. Al almacenar los perfiles de usuario y las preferencias en una Blockchain, se puede garantizar la integridad y la seguridad de los datos personales. Cada transacción (cambio de preferencia, por ejemplo) se registra de manera inmutable y transparente, permitiendo a los usuarios tener control total sobre sus datos. El resultado es una mejora de la seguridad de los datos personales y aumento de la confianza del usuario en el sistema.
Confidencialidad en los sistemas de IA en el sector salud
La compartición de historiales médicos entre diferentes proveedores de salud es esencial para el tratamiento efectivo de enfermedades, pero también plantea riesgos de privacidad y seguridad. El uso de blockchain en la creación de un sistema descentralizado de historiales médicos permite que solo las partes autorizadas, como médicos u hospitales, accedan a la información del paciente. Blockchain garantiza que los registros sean inalterables y rastreables, mejorando la confidencialidad y la seguridad.
KOLOKIUM LANZA K-WALLET: IDENTIDAD DIGITAL PARA BLOCKCHAIN HYPERLEDGER FABRIC
Integridad y Auditoría en IA para la Toma de Decisiones Críticas
Los sistemas de IA utilizados para predecir la reincidencia de delincuentes o para decisiones judiciales deben ser extremadamente precisos y justos. La falta de transparencia y la posibilidad de sesgo en estos sistemas son preocupaciones importantes. En este caso, implementar modelos de IA en una Blockchain permite la trazabilidad y la verificación de todas las decisiones tomadas por el sistema. Cada predicción o recomendación se registra en un bloque, asegurando una auditoría completa y transparente del proceso. De esta manera, aumenta la transparencia y la confianza en sistemas de IA críticos, permitiendo una revisión y auditoría externa de sus decisiones.
En definitiva, la integración de la tecnología Blockchain en sistemas de IA de Alto Riesgo presenta una gran oportunidad para abordar problemas críticos de seguridad, transparencia y confiabilidad. Desde la gestión segura de datos personales, hasta la garantía de la integridad en sistemas de toma de decisiones críticas, la tecnología blockchain puede desempeñar un papel fundamental en la mitigación de riesgos asociados a la implementación de IA.
Los ejemplos mencionados ilustran cómo blockchain no solo mejora la seguridad y la confiabilidad, sino que también fomenta la transparencia, aspectos esenciales para el éxito y la aceptación de sistemas de IA de Alto Riesgo.
CEO de Kolokium, compañía desarrolladora de plataformas y aplicaciones basadas en tecnología DLT, y de Orisia Sistemas Avanzados, empresa de servicios de consultoría de seguridad, con oficinas en España y México.
Link del artículo original
Si el presente artículo, video o foto intrigue cualquier derecho de autor por favor señálelo al correo del autor o en la caja de comentarios.
