Entenent la intel·ligència artificial amb EXPAI

3 min

Entenent la intel·ligència artificial amb EXPAI

Ens endinsem al projecte EXPAI amb Javier Rando i Berta Benet, membres de l’equip i alumni del Grau en Enginyeria Matemàtica en Ciència de Dades.

Anomenem intel·ligència artificial (IA) a la tecnologia que ens permet replicar comportaments que, quan són desenvolupats per humans, diem que aquests demostren intel·ligència: entendre el llenguatge natural, interpretar imatges, llegir, aprendre, prendre decisions… Aquests sistemes són més i més utilitzats per les empreses per agilitzar els seus processos i augmentar l’eficiència de les seves operacions.

Cada dia són més els sistemes d’IA que estan substituint o donant suport als humans en la presa de decisions sensibles, com per exemple la concessió d’un préstec. Però la ràpida adopció d’aquesta tecnologia sense regulació prèvia ha provocat nombrosos escàndols. Per exemple, Amazon va implementar un sistema automàtic de selecció de personal que descartava a les dones. O també als Estats Units, un algoritme que ajudava als jutges a decidir si una persona havia d’ingressar a la presó preventiva es va demostrar que discriminava les persones afroamericanes.

En general, dins les empreses hi ha reticències a l’adopció d’aquests sistemes per la dificultat en entendre’ls. Encara que puguin semblar problemes molt diferents, tenen un origen comú i és que els actuals models d’aprenentatge d’IA actuen com a “caixes negres”. És a dir, són sistemes matemàticament complexos en els que desconeixem què passa dins el model entre l’entrada de dades i la sortida d’una predicció. Aquesta operativa sempre ha estat vista com una problemàtica.

IAX o com desxifrar el raonament dels models d’IA

La intel·ligència artificial explicable (IAX) és l’àmbit de la IA que permet arribar a conèixer el raonament dels models per arribar a les seves prediccions. Aconseguir que aquests processos de presa de decisions siguin transparents per a desenvolupaments i usuaris és una mesura essencial per assegurar un futur més just i millorar l’eficiència de les empreses. Aquesta és la motivació que porta a la fundació d’EXPAI.

Exemple del funcionament de l'eina que ofereix EXPAI.
(D'esq. a dta.) Berta Benet, Javier Rando i Carles Soler, membres de l'equip d'EXPAI a l'esdeveniment 4YFN.

EXPAI ofereix una eina que permet entendre el raonament dels models d’IA. Creiem que la transparència aporta valor a diferents nivells dins de les empreses: 

  • Els científics i científiques de dades disposaran d’una eina que els permetrà accelerar i millorar l’avaluació dels seus models d’intel·ligència artificial, detectar errors i millorar la transferència a usuaris amb perfils menys tècnics.
  • Un cop que EXPAI s’integri en el procés de desenvolupament d’IA en l’empresa, els i les líders de negoci podran entendre les decisions que es prenen en base les seves prediccions i augmentar els beneficis derivats d’aquestes tecnologies.
  • Les persones que consumeixen les prediccions de la IA —per exemple, els comercials—, disposaran de molta més informació a l’hora de prendre les seves decisions. Entre d’altres coses, això permetrà la detecció d’errors en temps real, l’acceleració dels processos i la generació de confiança en aquesta tecnologia.

Per EXPAI, poder formar part de la convocatòria En Residència de l’Àrea Tallers ha suposat una gran ajuda pel creixement del projecte. Més enllà dels espais i serveis que ens ofereixen, en tot moment ens hem sentit acompanyats pel seu equip humà que ens fa de pont tant amb la comunitat universitària com amb el sector socioeconòmic i institucional amb sessions de networking, organitzacions de reunions, etc.

Per saber-ne més ens podeu trobar a la nostra web expai.io.

  • Alumni del Grau en Enginyeria Matemàtica en Ciència de Dades. Durant una estada a la Universitat Tècnica de Munic es va especialitzar en tècniques d’Explainable AI, de les quals n’ha fet publicacions. A més, ha treballat com a Data Scientist a Telefónica.



  • Alumni del Grau en Enginyeria Matemàtica en Ciència de Dades. Actualment treballa a l’Institut de Recerca de la Vall d’Hebron (VHIR).



Comparteix aquesta entrada

LinkedIn
Twitter
Facebook
Telegram
WhatsApp
Email
Txell Fàbregas, alumna d’Humanitats, ens explica el seu projecte Oks&Bo: una subscripció literària mensual per a criatures d’entre 3 i 7 anys.
Estudis amb nadons? Sona a pel·lícula de ciència-ficció, però és el que fem al BabyLab UPF. I els més petits s’ho passen molt bé! En Marc Colomer, alumni i investigador de l’equip, ens ho explica.
En ocasió del 8M, Dia Internacional de les Dones, iniciem una selecció d’alumni titulades a la UPF que has de conèixer per la seva contribució en diferents àmbits de la nostra societat. Te les presentem!
Anna Giralt Gris i Jorge Caballero Ramos, del col·lectiu Artificio, ens apropen al món de la intel·ligència artificial i la creativitat.