
Antes de empezar: una tecnología útil también puede causar problemas
Imagina que una zona natural sufre incendios cada verano. Un equipo propone analizar fotografías tomadas desde drones para detectar humo con rapidez. La idea parece beneficiosa: una alerta temprana podría ayudar a intervenir antes. Sin embargo, el sistema podría confundir niebla con humo, fallar de noche o recoger imágenes de personas sin necesidad. No basta con que una IA tenga una buena finalidad: hay que comprobar cómo funciona y qué consecuencias produce.
En esta unidad conocerás aplicaciones de la inteligencia artificial orientadas al bien común, aprenderás a reconocer impactos negativos y practicarás un proceso de diseño de soluciones. No vamos a asumir que toda aplicación que se presenta como «social» es segura o eficaz; aprenderemos a exigir evidencias.
Al finalizar sabrás: definir el bien social, explicar beneficios y riesgos de una aplicación, utilizar las cinco etapas del pensamiento de diseño y proponer pruebas para una solución que incluya IA.
14.1. ¿Qué significa utilizar IA para el bien común?
Hablamos de bien común o beneficio social cuando una iniciativa intenta mejorar condiciones que afectan a una comunidad: seguridad, salud, accesibilidad, información pública, protección ambiental o inclusión. La IA es una herramienta que puede contribuir a esos objetivos; no constituye por sí misma un objetivo social.
Para valorar una propuesta conviene preguntar: ¿qué problema real resuelve?, ¿a quién ayuda?, ¿a quién podría perjudicar?, ¿qué evidencias tenemos de su eficacia? y ¿existe una solución más sencilla que funcione igual o mejor? A veces bastará con reorganizar un servicio o instalar un sensor sin aprendizaje automático.
14.1.1. El beneficio depende del contexto
Un sistema que lee en voz alta textos de una pantalla puede ayudar a personas con dificultades visuales. Pero si su voz pronuncia mal nombres o instrucciones de emergencia, puede generar confusión. Un detector de incendios basado en imágenes puede apoyar al personal encargado de la vigilancia, pero un falso negativo podría retrasar una respuesta importante. La fiabilidad debe analizarse en el escenario concreto de uso.
14.2. Ejemplos de IA con finalidad social
14.2.1. Salud y apoyo a profesionales
Existen sistemas que ayudan a analizar imágenes médicas y señalan zonas que conviene revisar. Es importante evitar la simplificación «la IA diagnostica mejor que una persona»: el resultado depende de la enfermedad estudiada, del conjunto de datos, de la población y de cómo se integra el sistema en la práctica clínica. La decisión sanitaria debe seguir los procedimientos y controles profesionales apropiados.
14.2.2. Accesibilidad y comunicación
El reconocimiento de voz puede ofrecer subtítulos automáticos; la síntesis de voz facilita escuchar un texto y el reconocimiento de imágenes puede describir objetos. Las tecnologías no tienen la misma precisión con todos los acentos, idiomas o situaciones acústicas. Por eso debemos probarlas con usuarios diversos y ofrecer alternativas cuando fallen.
14.2.3. Conservación de la naturaleza
Una cámara puede generar miles de imágenes de animales. Un sistema de clasificación permite localizar fotogramas de especies concretas para que personal investigador los revise. Igualmente, datos de sensores y fotografías podrían emplearse para identificar señales de incendios o cambios en un ecosistema. En todos los casos hay que comprobar que el método produce información útil y no perjudica el entorno.
14.2.4. Servicios públicos
Un asistente puede ayudar a encontrar un trámite, resumir información pública o responder consultas frecuentes. Para que sea útil necesita fuentes verificables, lenguaje claro, opciones de accesibilidad y un canal alternativo de atención humana. No debería inventar requisitos administrativos ni ocultar que sus respuestas son automáticas.
| Aplicación | Beneficio buscado | Riesgo principal | Control razonable |
|---|---|---|---|
| Subtítulos en directo | Acceso a una explicación | Confundir términos relevantes | Corrección y opción de texto escrito |
| Detección de humo | Alertar con rapidez | Falsos negativos o positivos | Validación, sensores complementarios y supervisión |
| Chat de orientación pública | Facilitar trámites | Inventar plazos o condiciones | Enlace a fuente oficial y derivación a personal |
| Clasificador de fauna | Ayudar a investigar | Errores en especies poco representadas | Muestreo y revisión de especialistas |
14.3. Cuando la IA perjudica a la sociedad
Los problemas no aparecen solo por un uso malintencionado. Pueden proceder de datos incompletos, errores de diseño o una implantación poco responsable. Una herramienta educativa podría dar pistas equivocadas; un recomendador podría reforzar información engañosa; una empresa podría introducir documentos internos en un servicio externo y revelar información sensible.
Debemos diferenciar errores técnicos, como clasificar mal una imagen, de riesgos sociales, como discriminar sistemáticamente a un colectivo, y de decisiones de uso, como instalar vigilancia desproporcionada. La solución no es siempre «mejorar el algoritmo»: a veces hay que cambiar el procedimiento, limitar los datos recogidos o decidir que la herramienta no debe utilizarse en ese contexto.
Al evaluar una propuesta hay que pensar en privacidad, sesgos, accesibilidad, seguridad, impacto ambiental, supervisión humana y mecanismos para comunicar errores. Un proyecto puede resultar técnicamente interesante y, aun así, no ser adecuado para la sociedad.
14.4. Las cinco fases del pensamiento de diseño
El currículo original propone utilizar design thinking o pensamiento de diseño para desarrollar ideas orientadas a personas. Se suele representar en cinco fases, pero no es una cadena rígida: podemos volver a etapas anteriores si las pruebas descubren un problema.
- Empatizar. Hablar con las personas afectadas y conocer su situación real. No basta con imaginar lo que necesitan.
- Definir. Redactar el problema de forma concreta, incluyendo a quién afecta, cuándo aparece y cómo sabremos si mejora.
- Idear. Generar alternativas y compararlas, incluidas soluciones que no usen IA.
- Prototipar. Crear una versión sencilla para poner a prueba la idea: boceto, simulación, maqueta o modelo básico.
- Probar. Comprobar su utilidad con tareas y casos reales o simulados, registrar fallos y mejorar el diseño.
Ejemplo: el instituto quiere orientar a visitantes durante una jornada de puertas abiertas. Tras entrevistar a usuarios, se descubre que necesitan conocer dónde está cada aula. Antes de construir una IA de visión artificial, el grupo compara mapas impresos, carteles accesibles y una web con buscador. El resultado puede ser que la solución más razonable no necesite IA. Eso también es un buen diseño.
14.5. Caso guiado: mejorar la seguridad en una piscina
Una piscina municipal quiere estudiar si un sistema de análisis de vídeo puede emitir avisos que ayuden a los socorristas. No diseñaremos un dispositivo de seguridad real ni afirmaremos que el modelo sustituye la vigilancia humana. Nuestro objetivo es aprender a identificar requisitos y riesgos.
- Empatizar: entrevistar a socorristas y usuarios sobre puntos con poca visibilidad, reflejos y momentos de mucha afluencia.
- Definir: formular una necesidad concreta, por ejemplo, facilitar la detección de situaciones que merecen comprobación visual sin sustituir a un profesional.
- Idear: comparar cámaras, señalización, cambios de turnos, sensores no visuales y una combinación de medidas.
- Prototipar: dibujar una pantalla de avisos con estado del sistema, nivel de confianza y botón para registrar una falsa alarma.
- Probar: simular casos de agua tranquila, reflejos, grupos de personas y fallos de cámara; medir cuántas alertas serían útiles y cuántas erróneas.
Un prototipo educativo se puede construir con cartulinas o una interfaz de presentación. No se deben recoger vídeos de menores ni pruebas con personas en peligro para realizar esta actividad.
14.6. ¿Cómo sabemos si el proyecto merece la pena?
Antes de recomendar una implantación conviene definir indicadores: proporción de alertas correctas, falsos negativos, tiempo necesario para revisar un aviso, accesibilidad, coste y opinión de los usuarios. No basta con afirmar que tiene una exactitud del 95 %: si los errores se concentran en situaciones especialmente delicadas, ese porcentaje puede resultar insuficiente.
También debemos prever qué sucede si se interrumpe la conexión, cómo se informa del funcionamiento automatizado y quién responde ante una incidencia. El bien social exige resultados verificables y responsabilidades claras.
Actividad 1. Beneficio o perjuicio (20 minutos)
Selecciona dos casos del apartado 14.2. Para cada uno, completa una ficha con cinco campos: personas beneficiadas, problema concreto, datos utilizados, fallo más importante y forma de comprobar que funciona. Añade un ejemplo de una persona o colectivo que podría quedar excluido. Entrega dos fichas y una breve conclusión.
Actividad 2. Diseña una solución para tu centro (45 minutos)
En grupos de tres o cuatro, elegid uno de estos retos: localizar material reciclable, facilitar la orientación por el centro o reducir consumos innecesarios de electricidad. Aplicad las cinco fases del pensamiento de diseño. Debéis proponer dos soluciones distintas y justificar por qué la elegida necesita IA o por qué sería preferible no usarla.
Producto de entrega: una diapositiva por fase, un prototipo de pantalla o esquema y una tabla con tres pruebas de funcionamiento. Indicad expresamente qué datos personales evitaréis recoger.
Actividad 3. Detecta el fallo de un proyecto (25 minutos)
Un colegio instala un asistente virtual que responde preguntas sobre matrículas. No muestra fuentes ni permite hablar con una persona. Algunas respuestas dan fechas equivocadas. Identifica: a) tres riesgos; b) dos cambios de diseño; c) dos pruebas para verificar la calidad; d) una forma de recoger las quejas de usuarios. Defiende tus recomendaciones ante otra pareja.
Comprueba lo aprendido
- ¿Qué diferencia hay entre utilizar IA y generar realmente un beneficio social?
- Enumera dos ejemplos de ventajas y dos riesgos.
- Ordena las cinco fases del pensamiento de diseño y explica qué se hace en «probar».
- ¿Por qué una exactitud elevada no garantiza que el sistema sea adecuado?
- ¿Puede una solución sin IA ser mejor que otra con IA? Razona tu respuesta.
En resumen
La IA puede contribuir a objetivos sociales, pero su utilidad no se supone: se investiga, prueba y revisa. El pensamiento de diseño ayuda a construir soluciones desde las necesidades de las personas. Un proyecto responsable busca ventajas comprobables, limita riesgos y admite que, en ocasiones, la mejor alternativa no usa IA.
Fuentes y créditos
- Education Bureau de Hong Kong (2023). Module on Artificial Intelligence for Junior Secondary Level, Booklet 2, Unit 7, pp. 84–94. Material curricular original.
- UNESCO (2021). Recomendación sobre la ética de la inteligencia artificial.
- Explicaciones, ejemplos y propuestas de actividades originales para TICenelAula. Fotografía: Jason Mavrommatis / Unsplash.
