Formative lanza herramientas basadas en la Inteligencia Artificial (IA) de ChatGPT. Estas integraciones de plataformas tienen un gran potencial, tanto para ampliar los límites de lo que puede hacer Formative como para devolver a educadores y alumnos un tiempo valioso en el aula. Sin embargo, en Formative también somos conscientes de que un gran poder conlleva una gran responsabilidad. Si haces una búsqueda en Google sobre IA o ChatGPT, es probable que encuentres artículos sobre la parcialidad.

Dado que las herramientas de IA se "entrenan" utilizando la World Wide Web, su capacidad de aprendizaje se limita a lo que existe en línea. Por muy vasta que sea Internet, gran parte de lo que encontrarás refleja un grupo demográfico muy limitado: principalmente personas del mundo occidental, mientras que en todo el planeta tenemos una diversidad de pensamientos, razas, géneros, sistemas de creencias y estatus socioeconómicos.

Por lo general, las herramientas de IA no representan estas amplias perspectivas. Cuando estas herramientas aprenden principalmente de un grupo demográfico, sus resultados tienen sesgos similares hacia las personas con muchos privilegios. Por ejemplo, tanto las herramientas de generación de fotos de DALL-E 2 como las de Stable Diffusion muestran principalmente a personas blancas en la mayoría de las preguntas sobre seres humanos.

Dicho esto, los desarrolladores de estos programas, y de muchos otros similares, se esfuerzan por diversificar sus resultados. Reconocer y abordar el potencial de sesgo -y tener cuidado de interrogar cuidadosamente los resultados de la IA en busca de contenido sesgado- ayuda a reducir cualquier caso de este tipo que pueda aparecer. Formative siempre se esfuerza por mantener estas cuestiones en mente al desarrollar usos para la IA.

Para ello, hemos preparado cinco consejos que le ayudarán a minimizar los sesgos cuando utilice herramientas de aprendizaje integradas en la IA. Al fin y al cabo, la mejor forma de prevenir cualquier problema es ser proactivo, pensar en ellos con antelación. Además, esta labor también aumenta la calidad de la propia herramienta.

• Sea específico. Elige bien tus palabras. Cuando le pidas a una IA un tema, añade palabras específicas para ampliar el alcance de la IA. En lugar de pedir un ensayo sobre todos los que van al parque, podrías pedir un ensayo analítico de exactamente cinco párrafos que se centre en las diversas experiencias y talentos de las personas que visitan un parque.

• Revisión No des por sentado que la respuesta de una IA es verdadera y está libre de errores. Las herramientas de IA no siempre pueden admitir un contexto específico, y a menudo les cuesta entender un tono sarcástico. Revisa siempre todo lo que una IA cree para ti: léelo, cuestiónalo y asegúrate de que nada esté fuera de lugar.

• Evalúa críticamente Una vez revisado el trabajo de la IA, sé crítico. Si utilizas ejemplos de género, ¿se reparten por igual? Si buscas contenidos de personas paseando por un parque, ¿ha proporcionado la IA una representación diversa de razas, edades, expresiones de género, tamaños corporales y capacidades?

• Añade Si consideras que el trabajo generado por la IA carece de una representación variada, especialmente cuando una voz o una persona debe incluirse en un tema específico, añade material extra más allá de lo que la IA ha proporcionado.

• Fomentar la diversificación La mejor manera de hacer frente a los prejuicios es ampliar la demografía de las personas que trabajan en STEM (Ciencia, Tecnología, Ingeniería y Matemáticas). Este proceso puede significar simplemente animar a las mentes jóvenes a explorar los intereses STEM; también puede significar comprometerse con organizaciones como Todos codificamos que trabajan para llevar STEM a comunidades a menudo ignoradas e históricamente excluidas.

La IA y ChatGPT son herramientas poderosas que amplían el poder de las personas y las empresas. Estamos muy ilusionados con estos avances tecnológicos, pero también sabemos que frenar un poco y revisar los resultados de la IA nos ayudará a asegurarnos de que utilizamos estas herramientas con la máxima responsabilidad.