Punto de partida: por qué es falsa la oposición entre regulación y desarrollo.
Septiembre 2024
Por Micaela Sánchez Malcolm*
La inteligencia artificial cada vez gana más espacio en charlas, prácticas, actividades, discusiones, perspectivas. Uno de los debates más actuales (y globales) gira en torno a la regulación de esta tecnología tan heterogénea y cambiante. En Argentina La Comisión de Ciencia, Tecnología e Innovación Productiva de la Cámara de Diputados de la Nación encabeza la convocatoria a discutir en sesiones informativas en torno a diferentes proyectos de Ley para la regulación de la Inteligencia Artificial. En ese marco de conversación este documento compila algunos de los aportes presentados a la Comisión para pensar un desafío global desde una perspectiva nacional.
En las últimas discusiones internacionales y regionales, se han dado pasos importantes hacia una regulación y gobernanza de la Inteligencia Artificial. La Unión Europea, con su Reglamento de IA que entró en vigencia el 1 de agosto de este año luego de muchos años de trabajo y debates, dio un paso crucial en la construcción de una regulación horizontal. Entre otras cuestiones, el Reglamento promueve que los sistemas de IA respeten los derechos fundamentales de las personas, como la privacidad, la no discriminación y la protección de datos. Pero además promueve la transparencia, la supervisión humana, fomenta la innovación ética, y establece niveles de riesgos y obligatoriedad de informar incidentes o accidentes dentro de los 15 días a países afectados y a la región.
La Asamblea General de Naciones Unidas aprobó en marzo de este año la resolución 78/265, “Sistemas Seguros y Fiables de Inteligencia Artificial para el Desarrollo Sostenible”, con un fuerte apoyo de Estados Unidos. Básicamente la Resolución promueve el desarrollo de normas internacionales a la vez que enfatiza la necesidad y urgencia de lograr un consenso y gobernanza global sobre sistemas de IA. Un aspecto no menor del documento es que reconoce desigualdades de desarrollo tecnológico entre los países y dentro de ellos. La desigualdad: un aspecto fundamental y estructural para el debate que se viene dando.
En nuestra región existen diversos proyectos, políticas y estrategias. Chile, por ejemplo, viene trabajando desde hace años su Política Nacional de IA que, además de fomentar el desarrollo ético de la IA, pone el foco en el fomento de la investigación y el desarrollo en IA. En línea con esto, la estrategia de Brasil se construye sobre la promoción de la innovación, apoyando a las startups y proyectos de investigación y en la generación de impactos positivos en la sociedad. Mediante el desarrollo de un ecosistema local, la estrategia busca integrar tanto al sector público como al privado, fortalecer la diversidad cultural y lingüística y desarrollar la economía digital.
China viene trabajando una estrategia regulatoria vertical, aplicando diferentes marcos regulatorios a sistemas con aplicaciones diversas. Y en el plano más vinculado a la normalización industrial son muy interesantes los avances que vienen desarrollando el Instituto Alemán de Normalización (DIN), o el Instituto Nacional de Estándares y Tecnología (National Institute of Standards and Technology) de Estados Unidos.
Existen muchas más iniciativas de relevancia, pero el breve recorte planteado en este artículo nos permite avizorar, que los proyectos regulatorios internacionales no solo promueven el desarrollo de la IA, sino que bogan por una regulación y una gobernanza coordinadas, empujando el progreso tecnológico con la seguridad, la promoción de los valores éticos y la defensa de derechos fundamentales.
Una mirada desde Argentina
En términos democráticos y tecnológicos, ampliar el marco regulatorio para el desarrollo de la Inteligencia Artificial en argentina es urgente y necesario.
¿Qué necesitamos problematizar y discutir? Los desafíos propios para consolidar una regulación que, además de establecer un marco de desarrollo seguro y estable, también pondere y garantice la soberanía tecnológica, el desarrollo de nuestro sistema científico y tecnológico y la protección de los datos personales de nuestra ciudadanía.
Algunos ejes para abordar el debate:
Desarrollo local
Parte de ese desafío precede el debate en torno a las IA, pero este contexto lo vuelve aún más urgente. El desarrollo de capacidades nacionales (y regionales) en un contexto de cada vez mayor concentración y convergencia tecnológica debiera ser uno de los pilares de la discusión. Basado en la consolidación y permanencia de programas de promoción, financiamiento y fomento de desarrollos locales y el robustecimiento de nuestras infraestructuras.
Soberanía tecnológica
Se trata de asegurar que el conocimiento, los recursos y la infraestructura para el desarrollo de la IA también se consoliden en Argentina.
En línea con esto, por ejemplo, es fundamental el aporte del Instituto Nacional de Tecnología Industrial y del Instituto Argentino de Normalización y Certificación, para avanzar en el diseño de normas industriales propias que permitan normalizar, auditar y certificar soluciones de IA, pero también incrementar los cuadros técnicos nacionales capaces de llevar adelante esas tareas.
En términos de infraestructura, por ejemplo, resultaría interesante retomar desde el Poder Ejecutivo, la senda de inversión y ampliación de capacidades de nuestra empresa nacional Arsat. Arsat no sólo administra el Centro Nacional de Datos certificado internacionalmente, sino que además hasta diciembre 2023 el Estado Nacional había aprobado un plan de ampliación de la red, con la incorporación de mini data centers para robustecer la infraestructura pero también para federalizarla.
Este tipo de proyectos suponen una oportunidad y un beneficio para la sociedad en su conjunto, en términos económicos pero también en torno a la protección de algo tan importante como es la administración, acopio y tratamiento de datos de las personas, que constituyen el insumo principal de todas las soluciones de IA.
En ese sentido, aún está pendiente, con dos proyectos de Ley también presentados, la discusión en torno a la actualización de la Ley de Datos Personales. Debate nodal sobre el cual se consolidará cualquier marco regulatorio en torno a la IA. Instituciones como el Instituto Nacional de Tecnología Industrial ya están en condiciones de normalizar, auditar y certificar soluciones de IA, lo que refuerza la necesidad de avanzar en este sentido.
Reducción de brechas
No podemos ignorar las desigualdades estructurales que la IA puede exacerbar. Las brechas de género en términos de prejuicios presentes en los modelos de lenguaje, pero también en la sub-representación de mujeres en la Industria de la IA. Según el Foro Económico Mundial, solo el 22% de los profesionales de IA a nivel mundial son mujeres, lo que inevitablemente se refleja en las soluciones tecnológicas que se desarrollan. Es por todos y todas sabido que los algoritmos reproducen sesgos y estereotipos, con connotaciones negativas respecto de la orientación sexual de las personas, perspectivas racistas, la discriminación por el género o los sesgos como evaluaciones de conformidad y transparencia, entre otras cosas, que pueden llegar al 70% de los contenidos generados.
Atender las desigualdades lingüísticas y la falta de bases normativas locales o regionales, son aspectos complementarios y fundamentales para evitar reproducir sesgos.
Garantizar el acceso
Promover la continuidad de políticas que busquen reducir desigualdades multidimensionales en acceso a infraestructuras y dispositivos, pero también a saberes y usos de las tecnologías.
Revisión normativa
En nuestro país está vigente, desde hace más de un año, la disposición “Recomendaciones para una Inteligencia Artificial Fiable” de la Ex- Secretaría de Innovación Pública de la Nación. La regulación, entre otras definiciones, enmarca la implementación ética y responsable de la IA en el sector público nacional, ponderando la privacidad, la no discriminación, la responsabilidad y la soberanía tecnológica, en línea con reglamentos y recomendaciones internacionales.
Existe, asimismo, normativa vigente aplicable a los riesgos y responsabilidades asociadas a los sistemas basados en soluciones IA las cuales podrían enmarcarse en nuestro actual Código Civil, además de lo mencionado respecto de la actualización de la Ley de Datos Personales.
El Congreso tiene un papel crucial en este proceso, dinámico, imprevisible y desafiante, que además incluye necesariamente a la academia, a las organizaciones de la sociedad civil, al sector privado, a las organizaciones sindicales y el mundo del trabajo, y a la sociedad toda.
*Presidenta de Géneras (Asociación Civil) | Ex- Secretaria de Innovación Pública de Argentina.
Si querés sumar tu aporte y formar parte de estas discusiones, te esperamos: hola@generas.com.ar