El órgano ejecutivo de la Unión Europea (UE) ha presentado un proyecto de reglamento que facilitaría a las personas y organizaciones demandar a las empresas cuyos productos, incluidos los drones, causaron perjuicios, daños o lesiones debido al mal funcionamiento o mal uso de la tecnología de inteligencia artificial (IA) integrada.
La Comisión Europea presentó ayer su Directiva sobre responsabilidad por la IA para abordar las preocupaciones públicas no solo sobre los posibles problemas que pueden causar productos como los drones mejorados con capacidades inteligentes, sino también sobre las dificultades legales actuales para presentar demandas con éxito por este tipo de accidentes. De este modo, la propuesta traslada la carga de la prueba legal de la responsabilidad de los demandantes a las empresas que crearon las aplicaciones de IA que provocaron los accidentes o, en su caso, a los fabricantes o usuarios de los bienes que provocaron las denuncias.
Un aspecto fundamental es que el paquete de normas de la UE permitiría a las víctimas de casos en los que la IA haya fallado (por ejemplo, si un dron autónomo se estrella y causa lesiones, o si se ha realizado una tasación de una propiedad cuyos resultados erróneos dan lugar a una depreciación del valor) presentar una demanda alegando violaciones de derechos básicos, incluida la privacidad. Al basarse en esos principios sacrosantos de la UE, la propuesta ofrece a los demandantes una base jurídica más sólida desde el principio de los casos y transfiere a la empresa creadora la carga de demostrar que la IA implicada no era responsable.
Leer:Los incidentes con drones disminuyen en el informe anual de seguridad de 2021 de la EASA
Las leyes actuales exigen que las víctimas contraten costosos equipos legales para demostrar que las aplicaciones inteligentes tuvieron la culpa, una tarea ardua, cuando no imposible, dada la naturaleza compleja y supersofisticada de “caja negra” de los sistemas de IA. Si se aprueban, las nuevas normas permitirían a los tribunales ordenar que las empresas de IA aclaren esa oscuridad proporcionando información detallada para corroborar que su tecnología y las contingencias de control de riesgos habían funcionado según lo previsto.
“Las nuevas normas darán a las víctimas de daños causados por sistemas de IA las mismas oportunidades y acceso a un juicio justo y a una reparación”, afirmó el Comisario de Justicia de la UE, Didier Reynders, al describir la iniciativa. “Si queremos que los consumidores y usuarios confíen realmente en las aplicaciones de IA, tenemos que asegurarnos de que es posible tener acceso a una compensación y a una decisión real en materia de justicia si es necesario, sin demasiados obstáculos, como la opacidad de los sistemas”.
Dada la creciente incorporación de la IA no solo en plataformas de drones, sino en un número cada vez mayor de sistemas automatizados impulsados por tecnología, el potencial de futuros litigios en la UE en virtud de la ley propuesta es enorme. Imaginemos, por ejemplo, a un estudiante cuyos exámenes sufrieron una calificación defectuosa por parte de una máquina, la solicitud ideal de un solicitante de empleo que fue rechazada por un análisis informático dudoso o alguien herido por un vehículo autónomo.
Leer:Polonia inicia vuelos de prueba de drones urbanos y UAM en toda la UE
Sin embargo, la propuesta también permite a los desarrolladores de IA escapar de la mira legal al presentar evidencia de que las empresas que habían integrado sus aplicaciones, o los usuarios finales que las operaban en el momento en que causaron problemas, no habían utilizado la tecnología como se requería.
Los lobbystas de las empresas tecnológicas potencialmente afectadas por las normas propuestas por la UE tendrán tiempo de presionar a los funcionarios antes de que entren en vigor, si es que realmente lo hacen.
La iniciativa primero debe ser aprobada por los 27 gobiernos nacionales en el Consejo de la UE, y tendría que ser aprobada por el Parlamento Europeo, un organismo ferozmente independiente que puede oponerse al texto actual por haber debilitado el aspecto de responsabilidad corporativa que contenían sus recomendaciones anteriores.
Foto: Christian Lue/Unsplash
FTC: Utilizamos enlaces de afiliados automáticos que generan ingresos. Más.