El experto en investigación responsable en Inteligencia Artificial comentó que hay problemas conceptuales en algunos ámbitos de estudio o investigación cuando se tratan temas vinculados a la ética de uso de esta tecnología. Este jueves dará su charla "Las sombras de la IA y sus desafíos" donde abordará, a través de tres casos, la IA en relación a la sanidad mental de la gente y la humanización de la tecnología.
Francisco Carrasco M.
Ricardo Baeza-Yates es uno de los exponentes más importantes a nivel mundial en materia de investigación en Inteligencia Artificial (IA). Actualmente, es director de Investigación del Instituto de IA Experiencial, Northeastern University en Silicon Valley, EE.UU.
"No se conoce todavía el texto final de la regulación del uso de la Inteligencia Artificial. Me parece que es un buen intento de regular algo pero yo creo que tiene muchos errores conceptuales", sostuvo acerca del borrador que se está trabajando en la Unión Europea en torno a la regulación de esta tecnología.
Al mismo tiempo, el experto mencionó lo que él considera son tres problemas que este proyecto presenta: que se está regulando en dependencia a la tecnología específica, que no se tiene en cuenta que los problemas pueden venir de cualquier sistema automatizado y que se usan categorías de riesgo en vez de la medición del daño real. Sobre una posible salida a esta forma de regular, Baeza-Yates propone::
Preferiría tener algo más simple, por ejemplo, que cualquier aplicación que pueda afectar la vida de una persona tenga análisis de impacto ético y social como lo que hacemos para el medio ambiente.
La interacción entre especialistas técnicos y legisladores
La regulación sobre aspectos que se enmarcan en tecnologías como la Inteligencia Artificial (datos personales, datos, algoritmos, entre otros) ha generado distancias entre quienes se dedican a estudiar la constitución técnica de estos sistemas -sus riesgos, beneficios, problemas y sesgos- y quienes legislan las leyes o construyen las políticas públicas sobre estos temas.
Juan Andrés
Y aquí el experto reconoció que existen, al menos, dos problemas: por un lado menciona que "a mucha gente de computación o Inteligencia Artificial no le interesa conversar porque están desarrollando tecnología, sin pensar en las posibilidades de aplicación de la misma". Pero, al mismo tiempo, sostuvo que un segundo problema es que "la gente que hace políticas públicas escucha poco". Esto lo atribuye en parte a que no tienen un entendimiento de algunos conceptos o de la tecnología en sí misma. Sobre esto, comentó:
Yo tengo interés de que esa conversación exista porque veo los problemas que están ocurriendo y que estos son solo el cubo de hielo de la punta del iceberg.
"No podemos decir que la IA es ética, no es un ser humano, nunca va a ser ética"
Al respecto de muchos de los programas educativos que hoy existen en Chile y que vinculan a la Inteligencia Artificial con el derecho, la filosofía, la ética, el experto dijo que "hay bastantes iniciativas pero se ven errores conceptuales en gente que no debería tenerlo".
Agustina Solinas
En esta línea profundizó al mencionar que "hay gente de Ciencias Sociales o que trabajan en ética pero que no han estudiado ética". Según comentó, esto genera problemas que no tienen que ver con la programación de la tecnología, sino con sus capacidades de evaluación moral:
Los algoritmos éticos no existen, eso es humanizar a los algoritmos. Lo que es ético es el uso de esos algoritmos y ahí podemos decir cuál es la ética de la IA, pero no podemos decir que la IA es ética, no es un ser humano, nunca va a ser ética.
Para finalizar, Baeza-Yates puntualizó:
Hay problemas conceptuales que no son ni siquiera de computación, son del área de filosofía y no entiendo por qué eso ocurre. A veces pienso que también las personas que hacen esto no son las que tienen el conocimiento correcto para hablar de ética. Hay que aprender a no contestar cosas de las que uno no es experto y a los expertos les cuesta hacer eso.
Ricardo Baeza-Yates dará su charla "Las sombras de la IA y sus desafíos" este jueves a partir de las 10.30 en Ceina, donde se realiza Congreso Futuro 2024. El evento se puede seguir de forma virtual:
