Al robot Chat GPT se le puede pedir que escriba un ensayo sobre Shakespeare, resuelva una ecuación algebraica e incluso termine una tarea de matemáticas avanzadas…y lo hará. Pero, esto levantó un dilema ético en la academia
Al grado que, en enero de 2023, las universidades públicas de Nueva York bloquearon el acceso a Chat GPT debido a que los alumnos lo estaban utilizando para escribir las tareas escolares.
En los últimos meses, las escuelas públicas de Los Ángeles se han sumado a la prohibición. En tanto que en Canadá, Australia, India y Francia, también hay instituciones educativas que han establecido restricciones similares al uso de Inteligencia Artificial (IA).
Enrique Cortés Rello, director del Hub de Inteligencia Artificial del Tec de Monterrey, considera que no tiene sentido prohibir el uso de tecnologías, que esto es algo comparable a lo que ocurrió en los años 70 cuando se buscaba evitar el uso de calculadoras en las escuelas.
“A Chat GPT lo tienes que citar como se citaría cualquier otra referencia, como si estuvieras utilizando un libro”, explica.
Añade que, a menudo, las respuestas que arroja esta especie de procesador de textos automáticos son erróneas, así que depende de los usuarios leer cuidadosamente antes de utilizarlos en un trabajo.
Chat GPT en las escuelas
De acuerdo con Irving Hidrogo Montemayor, director de Innovación con Tecnologías Emergentes del Tec de Monterrey, esto sucede porque a la IA le pareció coherente la respuesta.
“Si la respuesta es o no correcta y tú la tomas para utilizarla en un trabajo académico, corres el gran riesgo de que esa información no sea correcta. Esto mismo puede pasar en cualquier industria no solamente en la academia”, explica Hidrogo Montemayor.
En entrevista con Tec Science, ambos profesores coinciden en que prohibir la herramienta es una medida desesperada y un tanto ilusoria, pues los estudiantes o usuarios van poder acceder a Chat GPT desde cualquier otro dispositivo.
Sobre sí mismo, Chat GPT contesta que “es un modelo de lenguaje de inteligencia artificial que está entrenado para generar texto y responder a preguntas sobre una variedad de temas de forma muy similar a lo que respondería un humano”.
Cortés Rello utiliza la palabra “elocuencia” para definir la manera en que Chat GPT contesta a las preguntas de los usuarios.
“Esto no quiere decir que lo que regresará Chat GPT sea cierto o sea científico o sea comprobable, sino que simplemente es algo que nos suena como que lo escribió un humano”, explica el director del Hub de IA.
Chat GPT en el centro de los derechos digitales
Los activistas en materia de derechos digitales como Grecia Macías, de la Red en Defensa de los Derechos Digitales, conocida como R3D, advierten que es importante abrir la discusión a la regulación, pues se ha descubierto cómo estas herramientas perpetúan ciertos estereotipos dañinos en la sociedad.
“A mí me parece un sistema muy siniestro y obviamente con implicaciones éticas y derechos humanos muy preocupantes: ¿qué pasa si hay ciertos sesgos que replican estereotipos?”, lanza Macías.
“Hay una analogía sobre cómo este tipo de modelos son como cacatúas o pericos que aprenden a repetir ciertas palabras. Ni siquiera me gustaría decir qué aprenden”, dice en entrevista.
La abogada considera que en materia de derechos digitales, en México, todavía hay mucho por hacer, pues “existe evidencia de cómo la tecnología no se ha utilizado para beneficio de la sociedad, sino al contrario para transgredir derechos humanos”.
Hasta ahora, la regulación de las inteligencias artificiales no ha sido sencillo ni para el Parlamento Europeo que, desde 2021, busca regular el uso de estas herramientas.
