Scriptat BAT Responsabilitat
3. Biaixos algorítmics: la IA discrimina?
Algoritme de recomanació de feines. L'alumne introdueix perfils (nom, gènere, edat) i veu que la IA recomana feines diferents segons el gènere.
Exemple concret
Joan, 25, enginyer → «Cap de projecte» (60.000€). Maria, 25, enginyera → «Assistenta tècnica» (35.000€).
❌ Mateix CV, resultats diferents! L'algoritme està intencionadament esbiaixat.
Preguntes per a la reflexió crítica
- Per què la IA té aquests biaixos?
- És legal usar IA amb biaixos de gènere/ètnia?
- Com es pot detectar i corregir un biaix algorítmic?
- Qui és responsable: qui va crear la IA o qui la usa?