Sessió 6 · 50 min
Biaixos algorítmics — Quan la IA és injusta
Objectius d’aprenentatge
- Entendre què és un biaix algorítmic i com es genera.
- Identificar exemples reals de biaixos en IA.
- Reflexionar sobre les conseqüències socials dels biaixos.
- Proposar solucions per detectar i corregir biaixos.
Eix humanista: la responsabilitat dels biaixos és sempre humana.
Temporalització (50 minuts)
| Fase | Durada | Contingut |
|---|---|---|
| Introducció | 10 min | Vídeo + pregunta detonant |
| Activitat 1 | 15 min | Experiment amb algoritme esbiaixat |
| Activitat 2 | 15 min | Casos reals en grups |
| Debat | 8 min | Responsabilitat i solucions |
| Tancament | 2 min | Reflexió final |
1. Introducció (10 min)
Acció del docent: projecta el vídeo «Biaixos algorítmics: quan la IA és injusta» (4 min).
Pregunta detonant: «Si una IA recomana feines diferents a homes i dones amb el mateix CV, qui té la culpa: la màquina o els humans que la van crear?»
2. Activitat 1 — Experiment amb algoritme esbiaixat (15 min)
Els alumnes treballen per parelles amb ordinador o tauleta i accedeixen a l’experiment de biaixos.
⚠️ El twist de l’experiment: l’algoritme està intencionadament esbiaixat. Els alumnes han de detectar aquests patrons per ells mateixos.
3. Activitat 2 — Casos reals en grups (15 min)
Divideix la classe en 4 grups. Cada grup rep un cas real:
- Cas 1 — Amazon (2018): una IA per filtrar CVs discriminava candidatures de dones perquè va aprendre de CVs dels últims 10 anys, majoritàriament d’homes. Qui és responsable? Com s’hauria pogut evitar?
- Cas 2 — COMPAS (USA): una IA prediu la reincidència criminal. Un estudi va demostrar que assignava «alt risc» més sovint a persones negres. És ètic que un jutge la usi per decidir condemnes?
- Cas 3 — Reconeixement facial: més errors amb persones de pell fosca i dones, perquè les dades d’entrenament tenien més homes blancs. Quines conseqüències pot tenir això a l’aeroport?
- Cas 4 — Préstecs bancaris: un algoritme rebutjava més persones de certs barris, discriminant indirectament per origen ètnic. El banc és responsable encara que no volgués discriminar?
4. Debat — Responsabilitat i solucions (8 min)
- Qui és responsable dels biaixos? Els programadors, les empreses, els usuaris?
- És la IA racista/sexista, o són les dades?
- Solucions: com detectar biaixos? Auditories amb humans, diversitat en equips…
Conclusió humanista
La responsabilitat dels biaixos és SEMPRE humana. Les màquines no trien ser discriminatòries: aprenen del que els ensenyem. Si les dades són esbiaixades, la IA serà esbiaixada. Dissenyar IA ètica és un acte de responsabilitat social.