Glossari interactiu

Seqüència de passos que una màquina segueix per resoldre un problema. Un algoritme pot ser just o esbiaixat segons com s’ha dissenyat i amb quines dades.

Quan una IA generativa inventa informació falsa amb to convincent (p. ex. atribuir a Einstein un paper a la Guerra Civil). Cal verificar sempre.

Branca de la IA on el sistema «aprèn» patrons a partir d’exemples en lloc de seguir regles escrites a mà. Aprèn del passat: si el passat és esbiaixat, ho serà.

Quan una IA produeix resultats sistemàticament injustos cap a un grup. No surt del no-res: prové de dades o decisions humanes esbiaixades.

Efecte pel qual un sistema de recomanació només et mostra contingut similar al que ja consumeixes, tancant-te en una visió estreta del món.

Els exemples amb què s’entrena un model. Si no representen tothom (p. ex. poques cares de pell fosca), el model funcionarà pitjor amb aquests grups.

Informació que t’identifica (nom, ubicació, fotos, salut). Són teves: has de poder controlar què comparteixes i revocar el consentiment.

Col·lecció estructurada de dades usada per entrenar o avaluar un model. La seva qualitat i diversitat determinen el comportament de la IA.

Notícies falses, sovint sensacionalistes, que la IA pot generar de manera massiva i convincent. Es combaten verificant fonts i contrastant.

Reglament europeu de protecció de dades. NeuroMàquina el respecta «per disseny»: la dada de l’alumnat menor no surt del seu dispositiu.

IA que crea contingut nou: text, imatges, música, veu. Genera combinant patrons apresos; per això de vegades «al·lucina» fets falsos.

Inferència que s’executa al navegador del propi dispositiu, sense enviar dades a cap servidor. Clau per protegir la privacitat dels menors.

Conjunt de tècniques que permeten a les màquines fer tasques que associem a la intel·ligència humana (reconèixer imatges, generar text, predir). No «pensa» com un humà: reconeix patrons a partir de moltes dades.

IA entrenada amb enormes quantitats de text per predir la paraula següent. Pot escriure de manera fluida sense comprendre realment el significat.

La instrucció que dones a una IA generativa. Com més específic i clar (context, format, to), millor el resultat. Aquesta habilitat s’anomena «prompt engineering».

Tècnica per identificar o verificar una persona a partir de la cara. Útil (desbloquejar el mòbil) i perillosa (vigilància massiva): depèn de l’ús.

Principi pel qual una persona revisa i valida les decisions importants d’una IA. La responsabilitat final sempre és humana.

Poder explicar com i per què un sistema d’IA pren una decisió. Sense transparència no es pot exigir responsabilitat.

Camp de la IA que interpreta imatges i vídeo. «Veu» buscant patrons de píxels, per això es confon amb art abstracte o imatges poc clares.

Model inspirat (de manera molt simplificada) en les neurones del cervell, organitzat en capes. Detecta patrons complexos, però no «entén» el que processa.