Un cotxe autònom circula per una carretera. De sobte, 5 persones travessen per un lloc no permès. El cotxe té dues opcions.
ASeguir recte i atropellar les 5 persones.
BDesviar-se i xocar contra un mur, matant el conductor.
Preguntes per al debat
Què hauria de fer el cotxe? Per què?
Qui és responsable de la decisió: el fabricant, el propietari, el programador?
És acceptable que una màquina decideixi qui viu i qui mor?
Compraries un cotxe programat per sacrificar-te per salvar més gent?
Hi ha algun criteri acceptable per decidir a qui es protegeix? Qui hauria de fixar-lo?
Conclusió humanista. El que fa diferent la màquina no és que triï pitjor: és que la seva tria està escrita mesos abans, per algú, en un despatx. Aquí no hi ha resposta bona. Hi ha la pregunta de qui l'escriu i si nosaltres ho sabem.
IA en medicina — Diagnòstic automàtic
Un hospital usa una IA per diagnosticar càncer a partir de radiografies. En les proves va anar millor que la mitjana dels radiòlegs de l'estudi. Però un dia falla i no detecta un tumor. El pacient mor.
AL'hospital és el responsable.
BEl metge que va confiar en la IA.
CL'empresa que va crear la IA.
Preguntes per al debat
Qui és responsable: l'hospital, el metge o l'empresa?
Hauria de ser obligatori que un metge humà revisi sempre els diagnòstics?
Si la IA s'equivoca menys que els humans, és acceptable que de vegades falli?
Confiaries en un diagnòstic 100% automàtic sense opinió humana?
Quan et diguin que «el sistema té més precisió», què preguntaries abans de creure-t'ho?
Conclusió humanista. Que una eina encerti més no diu qui respon quan falla. Són dues preguntes diferents i sovint es barregen: la primera és tècnica, la segona és nostra.
Privacitat vs Personalització
Una app et demana accés a ubicació, contactes, fotos, historial de cerques i dades de salut. A canvi, et dona recomanacions ultra-personalitzades.
AAcceptar: experiència súper personalitzada, però l'empresa ho sap tot de tu.
BRebutjar: mantens la privacitat, però l'app és menys útil.
Preguntes per al debat
Quines dades estàs disposat a compartir? On poses el límit?
Si les dades són «anònimes», és acceptable?
És just que empreses venguin les teves dades a tercers?
Qui és responsable de protegir les teves dades: tu, l'empresa o el govern?
Conclusió humanista. On poses el límit depèn del que valores, i cap de les dues opcions és l'equivocada. Compta que la decisió no es pren sola: si tota la classe ja ha acceptat, rebutjar costa més — però segueix sent teva. El que sí que pots exigir, triïs el que triïs, és saber què en fan de les teves dades i poder-ho revocar.
