Curso de Inteligencia Artificial · Unidad 20 · Índice del curso completo de 24 unidades · Material didáctico para secundaria, Bachillerato y FP.

Bloque III · Aplicaciones avanzadas · Nivel intermedio-avanzado
Duración orientativa: 3 sesiones de 55 minutos.
Materiales: ordenador, navegador, cuaderno o documento digital.
Conocimientos previos: unidades 3, 9 y 14 (principios éticos e impacto social).
Antes de empezar: ¿puede una IA mejorar la vida de una comunidad?
Imagina que en una región hay escuelas que no tienen conexión adecuada a Internet. Sin un mapa actualizado de los centros y de las infraestructuras disponibles, resulta difícil decidir dónde invertir primero. La Inteligencia Artificial puede ayudar a analizar imágenes por satélite, localizar edificios y combinar información geográfica. Pero el beneficio social depende de mucho más que detectar puntos sobre un mapa: es necesario planificar la instalación, contar con las comunidades y comprobar que la conexión realmente funciona.
Esta unidad se centra en el impacto social de la IA. Vamos a estudiar aplicaciones relacionadas con la educación, el medioambiente y los Objetivos de Desarrollo Sostenible. También aprenderemos a reconocer problemas de privacidad, desigualdad y dependencia tecnológica.
Objetivos: relacionar proyectos de IA con retos sociales; identificar sus posibles beneficios y riesgos; analizar el uso responsable de IA generativa en educación; y evaluar una propuesta mediante criterios de sostenibilidad, justicia y supervisión humana.
20.1. Qué son los Objetivos de Desarrollo Sostenible
La Organización de las Naciones Unidas establece 17 Objetivos de Desarrollo Sostenible (ODS) en la Agenda 2030. Buscan abordar problemas como la pobreza, la desigualdad, la salud, la educación y el deterioro ambiental. Son metas sociales, económicas y ambientales que requieren políticas públicas y colaboración entre numerosos actores.
La IA puede ser una herramienta para algunos objetivos, pero no es una solución automática. Utilizarla puede requerir electricidad, infraestructuras, personas capacitadas, datos adecuados y medidas de protección. Por eso hay que analizar si la solución propuesta mejora realmente la situación, quién se beneficia y quién podría verse perjudicado.
| ODS | Problema que aborda | Ejemplo posible de uso de IA |
|---|---|---|
| ODS 3: Salud y bienestar | Mejorar la salud de la población | Apoyar el análisis de imágenes médicas validadas |
| ODS 4: Educación de calidad | Mejorar el acceso y el aprendizaje | Detectar necesidades de conectividad escolar |
| ODS 11: Ciudades sostenibles | Transporte y espacios más habitables | Estimar afluencias y optimizar itinerarios |
| ODS 13: Acción por el clima | Reducir riesgos y afrontar cambios | Analizar datos ambientales para elaborar alertas |
| ODS 15: Vida de ecosistemas terrestres | Proteger biodiversidad | Detectar posibles amenazas mediante imágenes |
Los ejemplos de la tabla son posibles aplicaciones, no una afirmación de que todas estén implantadas o hayan demostrado ya el mismo nivel de eficacia.
20.2. Un caso real: cartografiar la conectividad de las escuelas
La iniciativa Giga, impulsada por UNICEF y la Unión Internacional de Telecomunicaciones (UIT), trabaja para ayudar a conectar las escuelas a Internet. Entre sus tareas se encuentran la cartografía de centros educativos, el análisis de infraestructuras y el apoyo a la planificación de la conectividad. El material original de Hong Kong presenta la identificación de escuelas mediante imágenes satelitales como ejemplo de aplicación de IA para favorecer la educación.
¿Por qué es un problema interesante? Porque no basta con saber cuántos colegios existen: necesitamos conocer su ubicación, comprobar si reciben conexión y detectar zonas en las que la falta de infraestructura supone una barrera de acceso al aprendizaje. Los datos geográficos pueden orientar decisiones, pero los responsables deben validar la información y comprobar sus consecuencias sobre el terreno.
→
→
→
Este ejemplo ilustra una idea fundamental: la IA ayuda a producir información para tomar decisiones, pero no debería decidir por sí sola qué comunidad merece recibir un servicio. La prioridad también depende de derechos, recursos, accesibilidad y necesidades sociales.
20.3. Aplicaciones de IA en la vida cotidiana
Podemos encontrar modelos de IA en recomendaciones de contenidos, asistentes de escritura, sistemas que analizan imágenes, traducción y predicción de ciertas variables. Algunas de estas funciones son útiles porque reducen el tiempo necesario para una tarea o ayudan a acceder a información antes poco disponible.
Pensemos en una aplicación que avisa de fenómenos meteorológicos. Si combina mediciones, modelos y revisión especializada, puede ayudar a preparar respuestas ante riesgos. Pero una alerta incorrecta puede generar confusión, y una alerta que no llega a determinados grupos puede aumentar las desigualdades. Por eso, al evaluar la aplicación también debemos comprobar accesibilidad, cobertura, claridad y fiabilidad.
Una tecnología no produce el mismo efecto en todas las personas. Un asistente por voz puede mejorar la accesibilidad de quien no utiliza fácilmente un teclado. Sin embargo, un sistema que solo entiende determinadas formas de hablar puede excluir a otros usuarios. Diseñar para distintas capacidades, lenguas y contextos es una parte esencial del beneficio social.
20.4. Inteligencia Artificial en educación: ayudar sin sustituir el aprendizaje
La IA generativa puede explicar conceptos de varias maneras, proponer ejemplos, ayudar a estructurar una investigación y ofrecer ejercicios para practicar. También puede facilitar a un profesor la elaboración de materiales diferenciados. Su utilidad aumenta cuando el usuario conoce el objetivo de aprendizaje y contrasta las respuestas con el currículo y fuentes fiables.
Existen límites importantes. Un modelo puede inventar una definición, citar una fuente que no existe, resolver incorrectamente un ejercicio o ofrecer una explicación que parece convincente pero no lo es. Asimismo, entregar como propio un trabajo que ha elaborado completamente una IA puede impedir que el profesor compruebe qué conocimientos ha adquirido el alumno.
Una buena norma de uso es diferenciar apoyo y sustitución. Pedir que se expliquen los pasos de una fórmula puede ser una ayuda. Copiar una solución sin comprenderla no demuestra aprendizaje. Cada centro puede definir reglas específicas para sus actividades y evaluaciones.
20.4.1. Verificación de una respuesta
Cuando utilices una IA generativa en clase, aplica esta secuencia:
- Formula una pregunta concreta y explica qué parte no entiendes.
- Lee la respuesta completa y señala las afirmaciones que necesiten pruebas.
- Comprueba conceptos, fechas y datos en el libro o en fuentes fiables.
- Resuelve tú mismo un ejemplo equivalente y compara.
- Indica que has utilizado una herramienta de IA cuando así lo exijan las normas del ejercicio.
No es necesario usar una herramienta de IA para todas las actividades: algunas están mejor planteadas para observar, debatir, calcular o elaborar una respuesta propia.
20.5. Riesgos sociales: desigualdad, privacidad y discriminación
Los beneficios de la IA no se distribuyen automáticamente de manera justa. Es posible que un sistema funcione peor en lugares donde apenas hay datos, o para personas cuya lengua no está bien representada durante el entrenamiento. También puede existir una brecha entre quienes disponen de dispositivos y conectividad y quienes no.
En materia de privacidad, una aplicación debe limitar la recogida de información a lo necesario y utilizar medidas adecuadas de protección. En un centro educativo no debemos compartir datos identificativos del alumnado, fotografías personales ni informes sensibles con herramientas no autorizadas. La finalidad educativa no elimina estos riesgos.
Otro problema son los sesgos. Si un sistema se entrena con datos que reflejan una situación injusta, puede reproducirla. Por ejemplo, un modelo que propone candidatos para un curso podría favorecer involuntariamente a un perfil de alumnado si solo se entrena con datos de personas que históricamente han tenido más oportunidades. La respuesta no consiste únicamente en «añadir más datos», sino en revisar la finalidad, la representatividad, los criterios de decisión y los mecanismos de reclamación.
20.6. El impacto ambiental de la tecnología también cuenta
Entrenar y utilizar modelos consume recursos informáticos. Los centros de datos requieren electricidad, equipos y refrigeración. Por tanto, un proyecto supuestamente sostenible debe considerar también el coste ambiental de su propia infraestructura.
No podemos concluir que una aplicación mejora el medioambiente solamente porque utiliza IA para analizar bosques o residuos. Debemos comparar sus beneficios frente a los recursos empleados y revisar si existe una alternativa más sencilla. En algunos casos bastará con un programa convencional, una encuesta bien diseñada o una mejora organizativa.
Un ejemplo: instalar una cámara con IA en cada papelera para detectar reciclaje incorrecto podría ser costoso, invasivo y difícil de mantener. Tal vez sea más eficaz mejorar la señalización de los contenedores y medir los resultados. Elegir no utilizar IA también puede ser una buena decisión tecnológica.
20.7. Cómo evaluar un proyecto de IA para el bien común
El material de Hong Kong insiste en que los sistemas deben alinearse con consideraciones éticas, sociales y legales. Para pasar de una idea atractiva a un proyecto responsable, podemos utilizar una matriz de evaluación.
| Criterio | Pregunta de evaluación |
|---|---|
| Necesidad real | ¿Qué problema concreto se quiere resolver y para quién? |
| Beneficio comprobable | ¿Qué indicador permitirá saber si ha mejorado? |
| Equidad | ¿Hay grupos que queden excluidos? |
| Privacidad | ¿Qué datos son imprescindibles y cómo se protegen? |
| Seguridad | ¿Qué sucedería si el sistema se equivoca? |
| Sostenibilidad | ¿Cuánto cuesta mantenerlo y qué recursos consume? |
| Supervisión | ¿Quién revisa los resultados y recibe reclamaciones? |
Estas preguntas evitan confundir una demostración técnica con una mejora social. Un modelo con buena precisión puede seguir siendo inadecuado si provoca perjuicios, no resulta accesible o carece de un procedimiento para corregir errores.
20.8. IA, sociedad global y responsabilidad compartida
La IA puede conectar servicios y ampliar oportunidades, pero también implica decisiones de gobiernos, empresas, centros educativos y personas usuarias. No basta con pedir que la tecnología sea «neutral»: hay que decidir qué objetivos persigue, cómo se controla y qué derechos deben protegerse.
La Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial, aprobada en 2021, orienta el desarrollo y uso responsable con atención a derechos humanos, equidad, transparencia, rendición de cuentas y sostenibilidad. Es una referencia más amplia que una simple lista de normas para programadores.
Para el alumnado, la enseñanza principal es aprender a formular preguntas críticas: ¿para quién se ha creado el sistema?, ¿quién puede usarlo?, ¿qué información necesita?, ¿quién revisa sus errores? y ¿qué alternativa tendríamos si fallara?
Actividad 1. Relaciona proyectos de IA con los ODS
Objetivo: identificar beneficios sociales y posibles riesgos. Tiempo: 25 minutos. Trabajo: parejas.
Analiza estos tres proyectos hipotéticos: A) detectar árboles enfermos con fotografías, B) estudiar qué escuelas carecen de conexión, y C) mejorar las rutas del autobús municipal.
- Asocia cada proyecto con uno o dos ODS y justifica tu elección.
- Explica qué datos necesitaría cada propuesta.
- Identifica un beneficio realista y un riesgo para personas o medioambiente.
- Propón un indicador medible para comprobar si ha funcionado.
- Señala qué tarea debería realizar una persona en lugar de dejarla completamente automatizada.
Entrega: tabla comparativa con propuestas justificadas.
Actividad 2. Auditoría crítica de un asistente educativo
Objetivo: diferenciar ayuda académica de dependencia. Tiempo: 30 minutos.
El profesorado facilitará una respuesta generada por IA sobre un contenido del curso. Si se autoriza utilizar un asistente, puedes crear una respuesta nueva sin introducir datos personales.
- Subraya tres afirmaciones que puedan comprobarse.
- Localiza fuentes fiables para verificar esas afirmaciones.
- Marca posibles errores, generalizaciones excesivas o ejemplos confusos.
- Reescribe un párrafo con tus palabras y añade una explicación propia.
- Propón dos normas de uso de IA que facilitarían aprender sin sustituir el trabajo del alumnado.
Entrega: análisis de una página con correcciones y fuentes consultadas.
Actividad 3. Diseña una IA responsable para mejorar tu entorno
Objetivo: aplicar pensamiento crítico y criterios éticos. Tiempo: 40 minutos. Trabajo: equipos de tres o cuatro.
Selecciona un problema concreto del centro: desperdicio de energía, orientación de visitantes, accesibilidad de información o uso de bibliotecas. Diseña una propuesta de solución con los siguientes apartados:
- Problema y usuarios afectados.
- Razón por la que sería útil utilizar IA y comparación con una alternativa sin IA.
- Datos mínimos que necesitaría y forma de obtenerlos sin vulnerar la privacidad.
- Riesgos, personas excluidas y plan de prevención.
- Indicador para medir el beneficio social.
- Condiciones que llevarían a detener el proyecto o solicitar revisión humana.
Entrega: ficha de proyecto y presentación oral de tres minutos. No es obligatorio entrenar un modelo real.
Comprueba lo aprendido
- ¿Cuántos Objetivos de Desarrollo Sostenible establece la Agenda 2030?
- Explica qué pretende conseguir la iniciativa Giga y por qué necesita datos geográficos.
- ¿Qué diferencia existe entre que una IA funcione y que produzca un beneficio social?
- Señala dos riesgos de utilizar IA generativa sin supervisión en educación.
- ¿Por qué hay que estudiar el consumo de recursos de un proyecto que pretende ser sostenible?
- ¿Qué datos y qué indicadores necesitarías para evaluar una aplicación de IA en un instituto?
En resumen
La IA puede contribuir a afrontar problemas relacionados con salud, educación, medioambiente y servicios públicos. Sin embargo, el beneficio social no depende solo de la precisión de un algoritmo. Debemos evaluar accesibilidad, justicia, privacidad, seguridad, costes, impacto ambiental y supervisión humana. La meta no es incorporar IA a cualquier actividad, sino identificar problemas reales y aplicar la solución más adecuada y responsable.
Fuentes y créditos
- Education Bureau (Hong Kong) y The Chinese University of Hong Kong (2023). Module on Artificial Intelligence for Junior Secondary Level, Booklet 3, Unit 5, pp. 66–73. Material curricular de referencia.
- Organización de las Naciones Unidas. Objetivos de Desarrollo Sostenible.
- UNICEF y Unión Internacional de Telecomunicaciones. Iniciativa Giga: conectividad escolar.
- UNESCO (2021). Recomendación sobre la Ética de la Inteligencia Artificial.
- Explicaciones, ejemplos hipotéticos, tablas y actividades: elaboración propia para TICenelAula.
