Curso de Inteligencia Artificial · Bloque I: Fundamentos · Nivel inicial
Tiempo orientativo: 2 sesiones de 55 minutos.
Materiales: ordenador o cuaderno; trabajo en pequeños grupos. No se utilizarán datos personales reales.
Antes de empezar
Una herramienta de IA puede revisar cientos de solicitudes en pocos segundos. Eso parece una ventaja. Pero ¿qué ocurre si perjudica sistemáticamente a determinados grupos? ¿Quién debe explicar una decisión incorrecta? ¿Podemos utilizar cualquier fotografía o conversación para entrenar un sistema?
La ética de la inteligencia artificial estudia cómo diseñar, utilizar y supervisar estos sistemas de manera que respeten a las personas, sus derechos y el bienestar de la sociedad. No se ocupa solo de lo que la tecnología puede hacer, sino también de lo que debería hacer.
Al finalizar serás capaz de: reconocer cinco principios éticos fundamentales; identificar riesgos para la privacidad, la equidad y la seguridad; analizar un dilema con distintos puntos de vista y proponer medidas para un uso responsable de la IA.
3.1. La tecnología también plantea decisiones humanas
La ética es la reflexión sobre las acciones y las decisiones que consideramos correctas, justas o responsables. En tecnología, una decisión puede beneficiar a unas personas y perjudicar a otras. Por eso conviene valorar sus consecuencias antes de poner un sistema en funcionamiento.
Imagina que un instituto utiliza una IA para proponer una calificación a partir de trabajos escritos. Podría ayudar al profesorado a detectar errores frecuentes y ahorrar tiempo. Sin embargo, también podría evaluar mal una respuesta original, no interpretar adecuadamente el contexto o reproducir criterios injustos presentes en los ejemplos utilizados durante su entrenamiento.
La pregunta no es simplemente «¿funciona?», sino también: «¿con qué fiabilidad?», «¿para quién?», «¿qué datos utiliza?», «¿puede corregirse una decisión?» y «¿quién es responsable?». Estas preguntas ayudan a pasar de una visión puramente técnica a una evaluación responsable.
3.2. Cinco principios éticos fundamentales
El libro original de Hong Kong presenta cinco principios para introducir el debate. Son una selección didáctica de cuestiones muy frecuentes. No constituyen la lista completa de los principios de la UNESCO, cuya recomendación sobre ética de la IA desarrolla un marco más amplio.
Los cinco principios para evaluar una IA
- Transparencia: explicar decisiones y funcionamiento.
- Justicia: evitar sesgos y discriminación.
- Beneficencia: promover beneficios y reducir daños.
- Responsabilidad: identificar quién responde por sus efectos.
- Privacidad: proteger los datos personales.
Transparencia
Las personas deberían saber cuándo están interactuando con una IA y recibir explicaciones comprensibles sobre el papel del sistema en decisiones que les afectan. No siempre es posible explicar con una frase todos los cálculos internos de un modelo, pero sí podemos informar sobre su objetivo, los datos que utiliza, sus límites y las vías de revisión disponibles.
Ejemplo: una plataforma educativa indica claramente que una puntuación es una recomendación automática y que el docente revisará el resultado antes de decidir la nota.
Justicia y equidad
Un sistema debería tratar a las personas de forma justa y evitar discriminaciones injustificadas. Los sesgos pueden aparecer si los datos de entrenamiento representan mal a una parte de la población o si las decisiones previas que utiliza el modelo ya contenían desigualdades.
Ejemplo: un programa de selección de candidatos entrenado con historiales poco diversos podría favorecer injustamente a ciertos perfiles. Su rapidez no garantiza que sus criterios sean justos.
Beneficencia y prevención del daño
La aplicación debe buscar beneficios reales y minimizar riesgos previsibles para las personas, la sociedad y el entorno. La utilidad debe compararse con los posibles perjuicios, y cuanto mayores sean las consecuencias de un error, más rigurosas deben ser las pruebas y salvaguardas.
Ejemplo: un sistema que ayuda a detectar anomalías médicas puede ser valioso, pero sus resultados deben integrarse en un procedimiento clínico seguro y supervisado.
Responsabilidad
Siempre debe haber personas u organizaciones responsables del diseño, uso y supervisión del sistema. Si una aplicación causa un perjuicio, no basta con decir «lo decidió el algoritmo». Se necesitan mecanismos para detectar errores, revisar decisiones y reparar daños cuando corresponda.
Ejemplo: si una herramienta rechaza por error una solicitud importante, la institución debe ofrecer una vía para que una persona revise el caso.
Privacidad
Los datos personales no deben recopilarse ni utilizarse indiscriminadamente. Es necesario justificar qué información se necesita, protegerla, limitar los accesos y respetar las normas aplicables.
Ejemplo: para analizar si una clase comprende un concepto, no es necesario publicar en internet nombres, fotografías, informes médicos o conversaciones privadas del alumnado.
3.3. ¿De dónde salen los sesgos de una IA?
Supongamos que enseñamos a un sistema de reconocimiento de voz con grabaciones de un grupo muy reducido de hablantes. Después lo utilizamos con personas que tienen distintos acentos, edades o maneras de hablar. Es posible que obtenga resultados desiguales, no porque el ordenador «quiera» discriminar, sino porque los datos o el diseño del sistema no representan adecuadamente la variedad de situaciones reales.
También pueden surgir sesgos cuando se usan etiquetas incorrectas, cuando se formula mal el problema o cuando una institución da por buenos resultados automáticos sin revisarlos. Una medida útil consiste en evaluar el sistema con conjuntos de prueba variados, comparar errores entre situaciones relevantes e introducir mecanismos de corrección.
No debemos confundir igualdad en una cifra con justicia en todos los contextos. Las decisiones éticas requieren examinar a quién afectan, en qué condiciones y qué alternativas existen.
3.4. IA en la educación: ¿ayuda o sustitución?
Una IA puede ser útil para proponer ejercicios de repaso, generar ejemplos o identificar preguntas que necesitan una explicación adicional. Pero la corrección y la evaluación del alumnado requieren especial cuidado: las respuestas creativas, la situación del estudiante, los criterios públicos de evaluación y el derecho a recibir explicaciones no pueden quedar reducidos a una puntuación opaca.
Una solución prudente consiste en utilizar la IA como apoyo, no como autoridad final. El docente conserva la responsabilidad de comprobar los resultados y establecer los procedimientos de revisión. Asimismo, no se deben cargar datos personales identificables del alumnado en servicios externos sin las garantías pertinentes.
3.5. Reconocimiento facial y vídeos falsos
El reconocimiento facial puede facilitar algunas tareas de identificación, pero también puede producir falsos positivos —confundir a una persona con otra— o falsos negativos —no reconocer a quien corresponde—. Además, tratar datos biométricos plantea cuestiones de especial sensibilidad legal y ética.
Los vídeos manipulados o generados mediante IA, a menudo llamados deepfakes, pueden utilizarse con fines creativos o para suplantar a personas y engañar. Al analizar un vídeo debemos comprobar su procedencia, buscar fuentes independientes y evitar difundir contenidos de autenticidad dudosa.
Una pregunta transversal sirve para ambos casos: que algo sea técnicamente posible no significa que esté justificado utilizarlo.
3.6. Un marco para decidir responsablemente
Cuando se propone una aplicación de IA, podemos seguir estos pasos:
- Identificar la finalidad: ¿qué problema real se quiere resolver?
- Reconocer a las personas afectadas: ¿quién se beneficia y quién puede sufrir perjuicios?
- Examinar los datos: ¿son adecuados, necesarios, fiables y obtenidos legítimamente?
- Analizar riesgos: ¿hay errores, discriminación, problemas de seguridad o de privacidad?
- Establecer controles: ¿quién supervisa, explica, corrige y responde por el sistema?
- Revisar los resultados: ¿sigue siendo apropiada la herramienta una vez puesta en uso?
Este procedimiento no ofrece una respuesta automática a todos los dilemas, pero ayuda a justificar las decisiones y evitar soluciones improvisadas.
Actividad 1. ¿Dejarías a una IA corregir un examen?
Duración: 25 minutos · Modalidad: grupos de cuatro.
Un centro quiere utilizar un sistema que proponga notas para respuestas escritas. El programa se ha entrenado con exámenes antiguos y el fabricante afirma que ahorrará tiempo. Sin embargo, no ha demostrado que funcione igual de bien con respuestas poco habituales.
- Escribe tres posibles ventajas y tres riesgos.
- Señala qué principios éticos están implicados.
- Propón al menos cuatro medidas para utilizarlo de forma responsable.
- Decide si recomendarías su uso, con qué condiciones y quién conservaría la decisión final.
Entrega: un informe breve con una decisión argumentada. No hay una única respuesta válida, pero debe estar respaldada por razones claras.
Actividad 2. Analiza un dilema con cinco principios
Duración: 25 minutos · Modalidad: parejas.
Caso: una empresa desea instalar reconocimiento facial para permitir el acceso de sus trabajadores al edificio. Hay otros métodos de identificación disponibles.
| Principio | Riesgo o pregunta que debemos plantear | Medida que propones |
|---|---|---|
| Transparencia | ||
| Justicia y equidad | ||
| Beneficencia / no causar daño | ||
| Responsabilidad | ||
| Privacidad |
Termina respondiendo: ¿es imprescindible utilizar reconocimiento facial? ¿Qué alternativas permitirían resolver el problema con menos datos sensibles?
Actividad 3. Comprueba un contenido sospechoso
Duración: 15 minutos · Modalidad: individual.
Se difunde un vídeo en el que una persona conocida parece anunciar una noticia sorprendente. No se identifica la fuente original. Escribe un protocolo de cinco comprobaciones que realizarías antes de compartirlo. No necesitas descargar el vídeo ni crear una falsificación.
Comprueba lo aprendido
- Explica la diferencia entre que una IA sea eficaz y que su uso sea éticamente adecuado.
- ¿Qué significa transparencia en un sistema de IA?
- Describe un ejemplo de sesgo en los datos y una forma de detectarlo.
- ¿Quién debe asumir la responsabilidad de una decisión automatizada que afecta a una persona?
- ¿Por qué no deberíamos subir datos personales del alumnado a cualquier herramienta de IA?
En resumen
La IA puede aportar beneficios, pero también introducir errores, sesgos y riesgos para los derechos de las personas. Para analizarla estudiamos transparencia, justicia, beneficencia, responsabilidad y privacidad. Un uso responsable requiere valorar los impactos antes de implantarla, proteger los datos y mantener mecanismos de supervisión y revisión humana.
Fuentes y créditos
- Education Bureau, Hong Kong (2023). Module on Artificial Intelligence for Junior Secondary Level, Booklet 1, Unit 3, pp. 28–36. Material original del alumnado.
- UNESCO (2021). Recomendación sobre la Ética de la Inteligencia Artificial. Documento y principios en español.
- Elaboración propia para TICenelAula. Casos, explicaciones, actividades e ilustraciones originales.