Claudio Gutiérrez, académico del Departamento de Ciencias de la Computación de la Facultad de Ciencias Físicas y Matemáticas de la Universidad de Chile.
Recientemente en marzo de 2024 se aprobó la legislación europea sobre Inteligencia Artificial (en adelante IA). Chile, que se adelantó en la regulación constitucional de los neuroderechos, procura ponerse al día con un proyecto de ley ingresado en el mes de mayo de 2024.
Juan Andrés
Conviene recordar algunas ideas centrales sobre la IA y sus alcances: se trata de una tecnología que, al contrario de otras tecnologías disruptivas en la historia de la humanidad, rivaliza con los seres humanos con gran eficacia, llegando a superarlo en ciertas operaciones mentales. Esta potencialidad de superar a lo humano en la realización de tareas que se pensaron por miles de años como exclusivamente humanas, es lo que preocupa y por ende está en la base de su regulación.
En términos muy gruesos, la IA es una tecnología que esencialmente apunta a simular ciertos procesos mentales humanos. Y como la mente humana tiene esa aura de tener el control de lo humano, la IA despierta tantas fantasías y temores.
Columnas al director
Como disciplina, la IA nació como un intento de simular ciertos procesos mentales humanos por medios artificiales, tecnológicos, en particular, digitales. Inicialmente cosas que se creían eran propiamente humanas: jugar damas y ajedrez, hacer razonamientos lógicos, traducir de un idoma a otro, resolver un puzzle o encontrar la salida de un laberinto, etc. También se enfocó en simular a expertos médicos, constructores, etc. Luego automatizar (la noción de “autómata”, del robot, está asociado a la IA, pero no es lo mismo) funciones mentales humanas bien definidas, como buscar en un archivo, hacer operaciones matemáticas complejas, etc. Todo ello es la IA tradicional.
Nelson Salazar
Lo que hoy conocemos por IA es una tecnología digital que intenta simular las redes neuronales biológicas, y que ha logrado construir máquinas que tienen capacidades muy potentes para simular muchas actividades mentales humanas. Pero lo que produce el salto cualitativo, son máquinas que aprenden de la experiencia, esto es, a medida que funcionan van mejorando su rendimiento aprendiendo de los errores y aciertos. Es lo que se conoce en computación como “aprendizaje de máquinas”. Los logros de esta tecnología ya son muy impresionantes y hoy simulan y superan muchas funcionalidades humanas como la detección de patrones, búsquedas, predicciones, etc. En estas operaciones los sistemas muestran autonomía a partir de su núcleo conformado por redes neuronales digitales.
En el proyecto de regulación que se discutirá en el Parlamento chileno se entiende a la IA como “un conjunto de sistemas basado en máquinas que infieren, a partir de información de entrada, determinada información de salida, que puede consistir en predicciones, contenidos, recomendaciones o decisiones capaces de influenciar espacios físicos o virtuales.” La ley misma define formalmente “sistema de IA”, pero no hace una buena distinción entre IA y “sistemas de IA”.
Admin
El objetivo de la ley está indicado en el artículo 1 de la siguiente forma: “La presente ley tiene por objeto promover la creación, desarrollo, innovación e implementación de sistemas de inteligencia artificial (“IA”) al servicio del ser humano, que sean respetuosos de los principios democráticos, el Estado de Derecho y los derechos fundamentales de las personas frente a los efectos nocivos que determinados usos pudieran irrogar.”
Nótese que el texto le asigna implícitamente agencia humana a estos sistemas: “que sean respetuosos de los principios democráticos… etc.”, en circunstancias que quienes debieran ser respetuosos de los principios democráticos son los que los construyen y usan. Es importante poner de relieve esto, pues no es a estos nuevos objetos técnicos a quienes se les debe exigir respeto por determinados principios, sino a los agentes humanos involucrados en su puesta en actividad (ninguna máquina por sí misma tiene agencia).
En el artículo 2 excluye explícitamente de las regulaciones de esta ley a la defensa nacional, a las actividades de investigación, y componentes de IA de licencia libre y código abierto. El espíritu de estas restricciones es razonable.
Columnas al director
Luego el artículo 5, que conforma el corazón de la ley, organiza una clasificación de los sistemas según el riesgo del daño que puedan causar (que define como “la combinación de la probabilidad de que se produzca un daño a las personas naturales, su salud, seguridad o derechos fundamentales y la gravedad de dicho daño”.) Determina cuatro grupos de riesgo: riesgo inaceptable; alto riesgo; riesgo limitado; y sin riesgo evidente y para cada uno propone un conjunto de exigencias de mayor o menor intensidad.
El resto de la ley son asuntos generales de normativas que corresponden a temas de innovación y digitales más que a los de IA propiamente tal, como apoyo a la innovación, tratamiento de datos, propiedad intelectual, etc.
En resumen, es muy relevante que se esté pensando en regular la IA en Chile, siguiendo la tendencia mundial en el tema. Junto a esto es importante entender que, por un lado, la IA es parte de un amplio abanico de transformaciones digitales, y por otro, como toda tecnología, la IA no solo son objetos tecnológicos, sino sobre todo, un know-how, un saber hacer, que como es bien sabido, no se puede importar. Esto último es particularmente importante para países como Chile que todavía están en proceso de conformar su identidad en términos de infraestructura y desarrollo socio-técnico. Es responsabilidad de todas y todos delinear cómo esta nueva tecnología disruptiva se enraiza en el tejido social, educacional, industrial y de servicios del país de una manera que no sólo no perjudique a las personas, sino que las incluya en sus desarrollos. Finalmente, no está demás destacar que el proyecto actual algunos vacíos o faltas de énfasis que sería importante abordar, como la soberanía nacional digital; la promoción de la investigación nacional y de las dimensiones educativas del fenómeno; la protección de los trabajadores del área; y garantizar un acceso igualitario a estas nuevas tecnologías.
Columna publicada originalmente en Semanario Aula Mgna.
