Anomenem intel·ligència artificial (IA) a la tecnologia que ens permet replicar comportaments que, quan són desenvolupats per humans, diem que aquests demostren intel·ligència: entendre el llenguatge natural, interpretar imatges, llegir, aprendre, prendre decisions… Aquests sistemes són més i més utilitzats per les empreses per agilitzar els seus processos i augmentar l’eficiència de les seves operacions.
Cada dia són més els sistemes d’IA que estan substituint o donant suport als humans en la presa de decisions sensibles, com per exemple la concessió d’un préstec. Però la ràpida adopció d’aquesta tecnologia sense regulació prèvia ha provocat nombrosos escàndols. Per exemple, Amazon va implementar un sistema automàtic de selecció de personal que descartava a les dones. O també als Estats Units, un algoritme que ajudava als jutges a decidir si una persona havia d’ingressar a la presó preventiva es va demostrar que discriminava les persones afroamericanes.
"Els actuals models d'intel·ligència artificial (#IA) actuen com a caixes negres, fet que sempre ha estat vist com una problemàtica". @Javi_Rando i Berta Benet.
En general, dins les empreses hi ha reticències a l’adopció d’aquests sistemes per la dificultat en entendre’ls. Encara que puguin semblar problemes molt diferents, tenen un origen comú i és que els actuals models d’aprenentatge d’IA actuen com a “caixes negres”. És a dir, són sistemes matemàticament complexos en els que desconeixem què passa dins el model entre l’entrada de dades i la sortida d’una predicció. Aquesta operativa sempre ha estat vista com una problemàtica.
IAX o com desxifrar el raonament dels models d’IA
La intel·ligència artificial explicable (IAX) és l’àmbit de la IA que permet arribar a conèixer el raonament dels models per arribar a les seves prediccions. Aconseguir que aquests processos de presa de decisions siguin transparents per a desenvolupaments i usuaris és una mesura essencial per assegurar un futur més just i millorar l’eficiència de les empreses. Aquesta és la motivació que porta a la fundació d’EXPAI.
EXPAI ofereix una eina que permet entendre el raonament dels models d’IA. Creiem que la transparència aporta valor a diferents nivells dins de les empreses:
- Els científics i científiques de dades disposaran d’una eina que els permetrà accelerar i millorar l’avaluació dels seus models d’intel·ligència artificial, detectar errors i millorar la transferència a usuaris amb perfils menys tècnics.
- Un cop que EXPAI s’integri en el procés de desenvolupament d’IA en l’empresa, els i les líders de negoci podran entendre les decisions que es prenen en base les seves prediccions i augmentar els beneficis derivats d’aquestes tecnologies.
- Les persones que consumeixen les prediccions de la IA —per exemple, els comercials—, disposaran de molta més informació a l’hora de prendre les seves decisions. Entre d’altres coses, això permetrà la detecció d’errors en temps real, l’acceleració dels processos i la generació de confiança en aquesta tecnologia.
"@expai_io permet entendre el raonament que fan servir els models d'intel·ligència artificial (#IA) per arribar a les seves prediccions". @Javi_Rando i Berta Benet.
Per EXPAI, poder formar part de la convocatòria En Residència de l’Àrea Tallers ha suposat una gran ajuda pel creixement del projecte. Més enllà dels espais i serveis que ens ofereixen, en tot moment ens hem sentit acompanyats pel seu equip humà que ens fa de pont tant amb la comunitat universitària com amb el sector socioeconòmic i institucional amb sessions de networking, organitzacions de reunions, etc.
Per saber-ne més ens podeu trobar a la nostra web expai.io.
