8 Conceptos relevantes
Invariablemente, hay algunos conceptos que siguen apareciendo en la mayoría de las conversaciones, discusiones, paneles y eventos sobre inteligencia artificial. Más allá de implementaciones generales o específicas de IA, estos conceptos pueden utilizarse como reflexiones individuales o institucionales que pueden ayudarnos a navegar este panorama emergente, especialmente en la educación superior.
8.1 Confianza
Este es uno de los conceptos más ubicuos que aparece en las discusiones sobre IA. Estamos experimentando una realineación en la confianza con respecto a las empresas e implementaciones de LLM. Esto incluye cuánto confiamos en los modelos, los datos utilizados para el entrenamiento, la calidad de los resultados, y la forma en que como individuos y como sociedad estamos implementando esta tecnología. En general, puedo aventurarme a decir que todavía estamos descubriendo, como sociedad, la cantidad de confianza que podemos depositar en las implementaciones de LLM.
Por lo general, la confianza y la reputación son conceptos que requieren tiempo para solidificarse. Sin embargo, los LLM son muy nuevos para el público general y puede requerir algo de tiempo establecer su nivel de confianza. En este momento, considero saludable tener cierto nivel de escepticismo mientras esta confianza social se estabiliza.
8.2 Pensamiento Crítico
Quizás como una respuesta natural al desarrollo de la confianza, el concepto de pensamiento crítico aparece en todos los círculos que debaten el uso y la influencia de la IA en la educación superior. Entre profesores, estudiantes, e incluso la industria, todos coinciden en que el desarrollo del pensamiento crítico es una de las cualidades más importantes en esta era educativa habilitada por IA.
Sin embargo, el concepto de pensamiento crítico por sí mismo puede ser desafiante de definir con precisión. Enfocarse en qué significa el pensamiento crítico para ti como estudiante o instructor, especialmente en relación con el uso de LLM, se volverá crucial.
8.3 Agencia
En el lado más práctico, al hablar sobre implementaciones generales de IA y algunas implementaciones más recientes, el concepto de agencia es clave para entender y promover efectivamente el uso de LLM. En general, la agencia tiene que ver con la cualidad de tomar decisiones. La mayoría de las implementaciones de LLM tienen agencia mínima, limitando esto a tomar decisiones sobre rutas de razonamiento, qué fuentes de datos usar, y qué información es más relevante para el usuario. Sin embargo, cuando se le da más agencia a los LLM (o a los sistemas de IA en general), se vuelve más relevante definir métodos claros de evaluación y supervisión para estos sistemas.
Mientras más agencia tiene un sistema de IA, más los humanos adquieren un papel de supervisor o gerente. Este concepto también va de la mano con la cantidad de confianza que se otorga -o se gana- por el sistema de IA.
8.4 Responsabilidad
Cuando las decisiones son tomadas por IA, o usando IA (o LLM) en el proceso de decisión, es importante pensar y definir dónde recae la responsabilidad. Cada vez que tomamos una decisión basada en el resultado de un LLM, debe haber una línea clara de responsabilidad. Por ejemplo, al entregar una tarea, el estudiante debe tener la responsabilidad por información falsa, deducciones erróneas, y calidad deficiente. De manera similar, al crear diapositivas o materiales de clase, el instructor debe cargar con la responsabilidad de información incorrecta o insensible, o descripciones poco útiles.
8.5 Atribución
Dependiendo del nivel de uso de LLM, la atribución se convierte en un concepto relevante que apoya implementaciones transparentes y la toma de decisiones. Ya sea que los LLM se usen para buscar información, como ayudas de escritura, u organización de contenido, la atribución se vuelve relevante para la confianza y responsabilidad de la implementación.
Los LLM pueden citarse como fuente de información, o atribuirse como colaborador en un proyecto. Esto muestra el espectro de diferentes roles que los LLM pueden desempeñar en un proyecto, y los diferentes niveles de atribución que pueden utilizarse.
8.6 Datos
Finalmente, un concepto relevante que rodea a los LLM son los datos. No solo con los datos utilizados para entrenar el modelo específico, sino también con la gestión de datos del usuario.
La conciencia sobre los datos de entrenamiento puede ayudar a gestionar posibles sesgos en los resultados, ya sea en los hechos utilizados o en la forma en que se presenta la información. Un desafío presentado con los LLM es la tendencia hacia algún tipo de voz promedio. Muchos instructores se preocupan por que los estudiantes pierdan su voz de escritura.
Una consideración práctica es con respecto a las políticas particulares de privacidad de datos del LLM. Esto se vuelve muy relevante al compartir información privada. Por ejemplo, para los instructores, compartir datos de estudiantes es muy sensible. También, proporcionar información concerniente a investigación o material con derechos de autor podría ser potencialmente conflictivo.