Wester Zela es uno de los pocos expertos en Inteligencia Artificial en el país, en esta oportunidad tenemos el honor de publicar una inédita entrega por cierto donde expresa que como parte de las reuniones del AI Connect Program, se tocan diferentes aspectos del impacto de la IA en nuestras sociedades actuales, en tal sentido desea compartir en el mes de aniversario de América Sistemas algunas importantes reflexiones sobre la Inteligencia Artificial en el Perú. Desde ya apreciamos el gesto de Zela de recordar nuestro aniversario número 33.
La Inteligencia Artificial en el Perú: Algunas Reflexiones
El especialista hace un llamado a los diferentes proveedores de herramientas Open Source: no implementen sistemas basados en software libre que no tengan el debido entendimiento.
(americasistemas.com.pe. Lima, Perú – 14 de setiembre 2022) La posición de la Casa Blanca es que en EEUU se debe de asegurar que todas las aplicaciones creadas basadas en IA deben de favorecer el acceso a los ciudadanos a los servicios públicos, y no de perjudicarlos. Y para conseguir esto, todas las aplicaciones de IA deben de pasar un proceso exhaustivo de pruebas donde se involucre a todos los interesados de diferentes sectores de la sociedad, en todas las etapas del proceso de desarrollo. Como desarrolladores de IA somo conscientes que la introducción de estos sistemas basados de IA no finaliza con la puesta a producción, quizás lo más importante que es lo que sucede luego, además un re-entrenamiento de los modelos con nuevos datos, o nuevos modelos, ya que la realidad pueda cambiar en cualquier momento.
Por otro lado, empresas como Google, IBM, Microsoft y otros aseguran que siguen los principios de IA centrado en los seres humanos, asegurando la privacidad de los datos de los usuarios, justicia, transparencia y otros, para esto, estas empresas buscan asegurar que sus productos no impacten en las sociedades de forma negativa, realizando trabajos con comunidades externas en cada producto que es lanzado a nivel mundial, donde algunos de los principios o regulaciones pasan a ser requerimientos para los desarrolladores de estos sistemas.
En esa línea, por ejemplo, algunas empresas como IBM o Microsoft desde hace dos años han dejado de incluir en sus productos técnicas de reconocimiento facial para cumplir con algunos los principios de IA como la privacidad de los datos. Esta es una posición opuesta a lo que sucede en China, donde cada vez se han ido implementando soluciones mas sofisticadas usando reconocimiento facial.
Por otro lado, los sesgos en la IA preocupan no solo a los gobiernos del mundo occidental, si no además a las empresas quienes desarrollan estos sistemas. Algunas de las empresas tienen en sus ciclos de desarrollo de sistemas basados en IA diferentes Frameworks de desarrollo donde incluyen diversos procesos de pruebas para asegurar que no se incumplan con algunas regulaciones o que culturalmente sea inapropiado para un grupo humano o que vayan en contra de las tradiciones locales.
En los últimos años han preocupado los sesgos de los sistemas basados en IA; existen estudios donde se evidencia un impacto negativo en las clases minoritarias en algunos países desarrollados. Por otro lado, existen dudas de los sesgos en las respuestas que nos da Google Search, o en el Facebook newsletter y en otros sistemas basados en IA.
En nuestro contexto local, si una empresa crea un sistema IA para contratar solo al personal que va a tener un desempeño satisfactorio en la empresa, ¿Que haría la empresa?, solo contratar a este personal, o también a otras personas que cumplen los requisitos, y les daría un soporte para que también tengan un buen desempeño en la empresa. Los sistemas basados en IA son herramientas, y son las organizaciones y entidades del sector publico quienes deciden como usarlo.
Otra de las preocupaciones que existe es sobre el sesgo en los datos, algunas veces se recomienda corregir los datos para eliminar los sesgos. Los datos no tienen sesgo perse, los datos muestran una parte de nuestra realidad, y por otro lado, a lo mejor eliminar datos anómalos, significaría eliminar esa parte de la realidad. Se me viene a la mente, que para entrenar los autos autónomos se descarte la imagen un elefante en la calle, esto podría ser un dato anómalo, pero podría suceder en alguna calle de la India. Si solo se entrenan los sistemas con imágenes tomadas en las calles de Silicon Valley, a lo mejor estos autos no tomarán las decisiones correctas cuando son puestas a pruebas en otras ciudades de EEUU con mucha nieve o neblinas, ni que decir en alguna calle en alguna ciudad de nuestro país.
Existen muchas herramientas que son vendidas por diferentes proveedores y además programas Open Source, es recomendable que las empresas privadas u organizaciones del sector público no implementen sistemas basados herramientas o programas Open Source que no entiendan. Muchas soluciones que son desarrollados en otros países o en otros contextos, no necesariamente son útiles en nuestro contexto local. Si además, tomamos en consideración otros factores como las diferentes realidades tecnológicas que existe en el país, como, por ejemplo, ciudades con bajo ancho de banda, ciudadanos que no tienen celulares de alta gama, o que su idioma natal no sea el español. Para esta parte de nuestra sociedad hay que trabajar en otro tipo de sistemas que se adecuen a su contexto local, y que no existen necesariamente ahora.
En el Perú, la cultura de datos es aún incipiente, y hay mucho por avanzar en la cultura de los datos abiertos, a pesar de que existen decretos legislativos que obligan que las entidades públicas a publicar datos de sus instituciones en un formato abierto.
La academia podría realizar muchos trabajos de investigación si existieran datos disponibles y actualizados. Por ejemplo, aunque el sector salud ha estado publicando con regularidad datos con respecto al COVID y otros datos temas de salud en formato texto, un tema que hay que empezar a discutir, es la de invitar a los hospitales del sector público y privado puedan publicar imágenes médicas en formato abierto anonimizados. Por ejemplo, imágenes tomográficas en 3D de diferentes tipos de cáncer que afectan a nuestro país, y que la academia e investigadores puedan desarrollar diferentes sistemas que puedan ayudar a los doctores a tomar decisiones.
Finalmente, en algunos países, algunos de ellos de nuestra región, han empezado a implementar un repositorio de algoritmos de IA donde las entidades públicas publican sus algoritmos usados en el sector público, esto para para dar señales de transparencia y generar confianza en la población. En el Perú, se han venido observando algunos desarrollos basados en IA, por lo que también hay que empezar a discutir estos temas.
Por: Wester Zela,
Phd en Ciencias de la Computacion – Inteligencia Artificial, miembro del AI Connect Program, organizado por el Departamento de Estado de EEUU y el Atlantic Council. Creador y Fundador de Troomes.com
No hay comentarios:
Publicar un comentario