Presentamos ante el Ministro Ricardo Villas-Bôas Cueva, Presidente del Comité de Juristas sobre Inteligencia Artificial (CJSUBIA) del Senado Federal una carta para contribuir en el trabajo de los proyectos de ley N° 5.051/2019, 21/2020 y 872/2021.
La Asociación Latinoamericana de Internet (ALAI) saluda la iniciativa del Senado Federal de ampliar los debates parlamentarios sobre el tema, en el contexto de la tramitación de los proyectos de ley N° 5.051/2019, 21/2020 y 872/2021 en el Congreso Nacional.
ALAI está comprometida con la defensa y fomento de una Internet responsable, segura, innovadora y competitiva, y entiende que los sistemas de Inteligencia Artificial (IA) pueden perfeccionar las experiencias y promover el desarrollo de Internet.
Nuestras empresas asociadas se dedican al desarrollo tecnológico y al uso de la inteligencia artificial de manera responsable y en conformidad con los derechos humanos en escala global; además, están empeñadas en contribuir a la mejora regulatoria y las políticas públicas de IA en los países en que operan.
En esta línea, ALAI ofrece sus contribuciones generales sobre la regulación de la inteligencia artificial en Brasil, en respuesta a la inauguración de los trabajos de la Comisión de Juristas del Senado Federal y la apertura de plazo para la manifestación de la sociedad.
Por el momento, recalcamos que los siguientes puntos merecen ser destacados en el contexto de la regulación de la Inteligencia Artificial en el país:
- Concepto:
- Una definición clara, delimitada, precisa y fácilmente comprensible de Inteligencia Artificial es fundamental para establecer un marco regulatorio eficaz.
- Cualquier definición de IA debe equilibrar la flexibilidad necesaria para acompañar el progreso técnico y la especificidad a fin de proporcionar seguridad jurídica.
- Por lo tanto, se recomienda evitar, por ejemplo, la adopción de una definición prescriptiva en términos de detalles técnicos y herramientas para el cumplimiento de obligaciones.
- Beneficios:
- El desarrollo de la IA ha creado nuevas oportunidades de mejorar la calidad de vida y bienestar en las más diversas áreas.
- Es vital que un marco regulatorio de IA se centre no solo en los daños hipotéticos de estas tecnologías, sino también en los riesgos de no usar la IA en contextos específicos, teniendo en cuenta sus beneficios y su potencial para fortalecer los derechos fundamentales.
- Los beneficios y desventajas de los procesos y sistemas de IA deben equilibrarse cuidadosamente en la discusión en curso en el país, a fin de evitar perjuicios no solo a la innovación, la competitividad y al desarrollo tecnológico, sino también a los ciudadanos que pueden beneficiarse de ella.
- Regulación:
- Es necesario adoptar un marco regulatorio amplio, flexible y dinámico, menos prescriptivo, más basado en principios, que sea capaz de recalibrarse dinámicamente en función del desarrollo tecnológico y en la evolución de las mejores prácticas de IA, a riesgo de sofocar innecesariamente innovaciones beneficiosas para la sociedad.
- También se deben considerar los desafíos y riesgos específicos de cada sector o tipo de aplicación en las distintas ramas de la industria, que podrán, a través de una norma basada en principios, ajustar su aplicación a las características de cada sector.
- En este sentido, el punto de partida ideal es el enfoque basado en principios, guiado por las recomendaciones establecidas por la Organización para la Cooperación y el Desarrollo Económicos (OCDE) para la IA, las buenas prácticas adoptadas globalmente y el estímulo a la autorregulación.
- Además, en el desarrollo de nuevas estrategias regulatorias, se deben examinar instrumentos regulatorios de diversos tipos (códigos corporativos de ética, estándares consolidados internacionalmente, códigos de conducta, entre otros).
- También se debe explorar el uso de soluciones innovadoras para desarrollar estos instrumentos regulatorios, como Sandboxes y programas de creación de prototipos de políticas que pueden proporcionar un campo de pruebas seguro para experimentar con diferentes enfoques de políticas y evaluar su impacto antes de que se promulguen.
- Cooperación multisectorial y cooperación internacional:
- Abogamos por un diálogo abierto y multidisciplinar entre todos los stakeholders involucrados, incluidos los agentes reguladores y los regulados, para que la regulación se aplique a la tecnología de forma adecuada, estandarizada y en continua mejora.
- Además, la cooperación internacional en el campo de la regulación de la IA es fundamental para el desarrollo de normas armónicas a nivel mundial para garantizar estándares consistentes en todo el mundo y permitir que los agentes de IA actúen internacionalmente en condiciones equitativas.
- Evaluación de riesgos:
- Para el desarrollo y uso de IA con gestión basada en riesgos, en especial, para la regulación de aplicaciones de alto riesgo, es necesario evitar términos o expresiones amplias o indefinidas.
- Es necesario desarrollar o utilizar una metodología clara de evaluación de riesgos, que tenga en cuenta el contexto del uso de tecnologías de IA, con el objetivo de adoptar más seguridad jurídica a las prácticas que entran en el ámbito de aplicación de la regulación.
- Además, es importante que las reglas aplicables sean proporcionales y adecuadas conforme los usos de la IA, en función de los riesgos asociados específicos de cada sector o aplicación, considerando una solución que promueva el equilibrio de los valores fundamentales de respeto a los derechos humanos y el potencial de innovación, desarrollo económico y competitividad de las aplicaciones de IA.
- Protección de Datos Personales:
- Es importante conciliar las obligaciones relacionadas con el uso y desarrollo de la IA con los requisitos legales existentes para la protección de datos personales, especialmente los derivados de la Ley General de Protección de Datos Personales (que establece el desarrollo económico y tecnológico y la innovación como algunos de sus fundamentos) y los lineamientos emanados por la Autoridad Nacional de Protección de Datos (ANPD).
- Abogamos soluciones razonables y técnicamente factibles con respecto a la documentación sobre datos personales utilizados para entrenar sistemas de aprendizaje automático, por ejemplo.
- Además, abogamos enfoques regulatorios que permitan extraer el de los sistemas de aprendizaje automático sus potenciales reales, como el uso de datos para fines aún no conocidos, respetando los principios generales de protección de datos personales.
- Equidad:
- Los sistemas de IA deben centrarse en la justicia y la equidad, así como orientados a mitigar los sesgos y la discriminación ilegales o abusivas.
- Propiedad intelectual:
- La transparencia es fundamental para establecer un ecosistema de IA confiable y eficaz.
- Sin embargo, es necesario identificar el equilibrio de la divulgación de información con la protección de la propiedad intelectual, el mantenimiento de los secretos comerciales y la garantía de seguridad contra agentes que puedan usar la información expuesta para hacer que los modelos de IA sean vulnerables a violaciones.
- Esto ocurre porque la divulgación de cierta información operativa no solo puede ser demasiado técnica y exhaustiva para quienes la solicitan, sino que también aumenta los riesgos de manipulación poco ética o ilegal de los sistemas de IA por parte de terceros.
ALAI sigue estando disponible para contribuir a los debates públicos sobre cuestiones relacionadas con el uso y desarrollo de la Inteligencia Artificial en Brasil, a medida que el asunto avanza en esta Comisión de Juristas e instancias pertinentes.