Un fantasma recorre els serveis socials i les converses dels professionals que hi treballen: el fantasma de l’automatització i de la seva substitució per R2-D2.

Com fa una mica més d’un segle, quan el taylorisme va començar a descompondre el treball artesanal dels obrers, o com en fa més de dos, quan el teler mecànic va transformar la indústria tèxtil, els afectats semblen dividir-se en dos grans grups.

D’una banda, manllevant les etiquetes a Umberto Eco, els «apocalíptics», que enyoren un passat d’autonomia professional i «calidesa» en el tracte a les persones ateses. És un passat que tenim seriosos dubtes que realment existís. Per altres, els «integrats», creients convençuts de la bondat absoluta d’una nova forma d’organitzar el treball on les formes abstractes i mecàniques ens protegiran contra la maldestra subjectivitat humana.

Com en altres etapes de transformació profunda, ens trobem amb accions i impulsos contradictoris. Mentre es critica la burocratització de la intervenció social lligada al seu paper de porta d’accés a certes prestacions, es reivindica un paper més intens dels professionals socials en aquesta mateixa tasca. Ho hem vist en iniciatives recents, des de la regulació del bo social elèctric, l’accés als aliments de fons europeus o la funció «recuperada» dels municipis en serveis socials  (avaluar i informar de situacions de necessitat), fins a una proposició de llei d’emergència social en la legislatura més breu de la nostra història. Mentre es reclama, amb raó, el desenvolupament de sistemes d’informació en serveis socials, es produeixen resistències molt fortes a la formalització i modelització de les intervencions que són condició per al seu desenvolupament.

En el cas dels serveis socials, resulta gairebé impossible discutir aquesta qüestió sense diferenciar dues de les funcions diferents que assumeixen. No analitzarem en profunditat aquesta diferenciació que està sent objecte d’un llarg debat. D’una banda, els serveis socials administren l’accés a ajudes «materials» (en efectiu i en espècie) per cobrir necessitats bàsiques de subsistència d’aquelles persones no adequadament protegides pels sistemes generals de garantia d’ingressos. De l’altra, han d’oferir cures i suports a persones que els necessiten per criar bé als seus fills menors i garantir el seu benestar, per sortir d’aïllaments, entrebancs i ruptures en el seu cicle vital, o per fer front a la seva falta d’autonomia per a les activitats diàries. Aquesta distinció equival més o menys a la que estableix la Llei de Serveis Socials de Catalunya entre necessitats “bàsiques” i “socials”.

Per a la primera funció, l’automatització gairebé només ofereix avantatges. El seu principal problema és decidir de forma equànime a qui correspon donar accés als recursos de l’assistència social, preferentment en efectiu. És cert que hi ha una llarga tradició de la política d’assistència social «continental» europea d’utilitzar com a criteri d’assignació el judici d’algú (notable local primer, professional social després) sobre el mereixement, la veracitat de les circumstàncies i l’adequat comportament del peticionari. Però sembla clar que la creixent capacitat de reunir i creuar dades personals hauria de permetre un control de l’accés a l’assistència social similar al que en alguns països permet graduar les multes en funció del nivell de riquesa del sancionat. Dit amb termes més “econòmics”, el valor afegit del treball professional en aquestes tasques és baix i decreixent. En aquest camp, com menys discrecionalitat professional, millor.

La segona funció, que alguns comencen a considerar la funció «pròpia» dels serveis socials, se les ha de veure, per contra, amb situacions de molta més complexitat, que inclouen processos i dinàmiques de relacions interpersonals (familiars, de xarxa social, comunitàries) i de desenvolupament de les persones en entorns complexos i canviants. En aquest tipus d’acció, la discreció professional i la capacitat de diagnosticar situacions ambigües són components «subjectius» de la màxima importància. També ho és la «subjectivitat» de les persones ateses, que inclou les seves preferències, desitjos i eleccions, i per la qual se senten menys laments nostàlgics. No obstant això, és un error greu pensar que aquesta «subjectivitat» professional (o la «intersubjectivitat» quan ens recordem de les persones ateses) pot donar-se fora d’un marc normatiu i «modelitzador». Això és així per dues raons principals.

En primer lloc, és raonable sostenir que un cert marc normatiu és condició per a l’exercici de la discreció professional. La discreció professional mèdica, un exemple de discreció «fort», està sotmesa a normes i criteris que limiten el que és acceptable i el que no ho és en la seva pràctica. Un professional de la medicina que diagnostiqués una patologia greu sense recórrer a cap de les moltes eines disponibles (o ignorant els seus resultats) no exerciria la seva discreció, sinó que cometria una irresponsabilitat. Però al mateix temps, no hi ha eina diagnòstica (ni un sistema d’eines) que permeti automatitzar un diagnòstic sense intervenció humana (professional).

En segon lloc, una pràctica professional que pretengui fundar-se en el coneixement i la reflexió crítica necessita un cert nivell d’estandardització i modelització. Potser estiguem presenciant algunes pretensions infundades de pràctica «basada en l’evidència» que es presenten com a solucions màgiques a certs problemes.  Però la intervenció social necessita un mecanisme d’acumulació i difusió del coneixement que permeti ser capaços de predir que en una situació identificable (tipificable), cert tipus d’accions tenen una probabilitat elevada de donar lloc a determinats resultats.

Podríem afegir que aquesta acumulació de coneixement ens ha de permetre trobar segments de població amb necessitats mínimament homogènies que permetin ordenar i planificar l’atenció, com ja vam comentar aquí. Possiblement aquesta segmentació es pugui automatitzar si som capaços de trobar les variables.

Per tant no és tan escabellat que els serveis socials puguin incorporar droides, com R2-D2, o simplement avançades aplicacions informàtiques per informar i valorar prestacions econòmiques, predir riscos o segmentar la població a atendre a nivells que ara són impossibles per als professionals. Veiem com.

Els models predictius i l’automatització als serveis d’atenció a les persones i als serveis socials

La predicció s’està obrint camí als serveis d’atenció a les persones. En el cas de la salut ho estan fent mesurant la probabilitat de mort en un malaltia determinada, de suïcidi o en el suport al diagnòstic mèdic. Però l’aplicació en la que es podrien emmirallar millor els serveis socials seria l’ús del Big Data a una eina d’agrupació predictiva del grau de complexitat clínica del Sistema Nacional de Salut de Catalunya. Es tracta dels Grups de Morbiditat Ajustada (GMA) que han estat validats per a la presa de decisions clíniques. Mitjançant un algoritme i l’explotació de les dades assistencials permet determinar quin és el grau de complexitat per a l’atenció de cadascú de nosaltres.

Pel que fa referència als serveis d’ocupació cal esmentar la proposta de perfilat estadístic per a dissenyar polítiques actives d’ocupació de Felgueroso, García-Pérez i Jiménez-Martín que permet determinar l’empleabilitat de cadascun dels demandats d’ocupació.

En el camp de l’educació podem citar com exemple a Kleinberg, Ludwig, Mullainathan i Rambachan i el seu article Algorithmic Fairness on parlen d’un exemple d’algoritme per guiar l’admissió a les universitats americanes. També podríem trobar un ampli desenvolupament dels models predictius a l’àmbit de la justícia i la seguretat.

En l’àmbit dels serveis socials i fora de Catalunya es troben experiències sòlides i consolidades. Molt interessant és l’Allegheny Family Screening Tool (AFST) que permet efectuar recomanacions de segmentació de les situacions dels infants en risc de desemparament als professionals del Comtat d’Allegheny. Aquesta eina esta basada en algoritmes especialment dissenyats i que interrelacionen un gran nombre de dades de diferents fonts.

També comencen a veure’s iniciatives incipients on l’automatització pot ajudar a crear aplicacions que millorin la presa de decisions dels ciutadans en base a l’anàlisi massiu de dades de comportament. Un exemple són algunes iniciatives amb els beneficiaris del programa d’ajuda alimentària (SNAP) als EUA on una senzilla app permet gestionar el seu saldo i ajuda a la gestió de l’economia domèstica.

A Catalunya també comencen a desenvolupar-se iniciatives. L’Administració Oberta de Catalunya – AOC ha volgut introduir en el debat la possibilitat que les dades facilitin l’accés als serveis socials. Així el seu projecte Mygov Social és un servei innovador de recomanacions personalitzades i proactives als ciutadans amb necessitats socials. Està basat en l’anàlisi de les seves dades personals i el comportament dels usuaris anonimitzats amb un mateix perfil sociodemogràfic. És un projecte pilot amb ànim divulgatiu però demostra que, tot i saber que les dades no són perfectes, l’automatització pot ser d’utilitat.

En una línia semblant, des de l’Ajuntament de Barcelona es treballa per personalitzar i fer més autònom l’accés de la ciutadania a les ajudes econòmiques. Darrerament ha posat en marxa el portal Les meves ajudes que automatitza la informació sobre el dret a prestacions econòmiques de caràcter social. I en camps com el suport a la decisió als professionals de serveis socials experimenta en camps com el del processament del llenguatge natural i les eines d’intel·ligència col·lectiva i els permet determinar quines són les demandes de recursos i problemes expressats pel ciutadà.

Veiem, doncs, que en àmbits com la planificació de recursos, la segmentació de poblacions, la predicció de comportaments i riscos o el suport a la decisió professional, hi ha camp per a un recorregut de la robotització als serveis socials.

R2-D2 no pot passar al costat fosc de la força

Com dèiem al principi, la robotització i l’automatització fa emergir les, algunes vegades justificades, preocupacions luddites en els professionals i cada vegada més a la societat. Passar-se al costat fosc de la força pot resultar seductor i és motiu de preocupació com ja es dona a l’àmbit polític amb informes com aquest de la Cambra dels Comuns al Regne Unit. Es poden resumir en dos grans àmbits de preocupació: que els models, algoritmes i eines no generin/reprodueixin biaixos que comprometin l’efectivitat/justícia de la predicció; i com es governen les dades i els algoritmes.

En referència als biaixos i tal com diuen Chouldechova et al. a l’estudi de cas sobre el Allegheny Family Screening Tool (AFST) un factor decisiu és comprendre com es comporten les dades obtingudes en determinats contextos influenciats per ideologies hegemòniques i en aplicació de polítiques amb biaixos segregadors. D’aquesta forma s’ha d’entendre que l’algoritme reprodueix, segurament, l’estigmatització de milers de decisions. La pregunta és si la decisió professional és, en el seu conjunt, millor. I si l’acumulació de decisions preses en funció de l’algoritme pot disminuir el nivell d’estigmatització.

Altra forma d’aproximar-se al biaix és governar-lo, com proposen Kleinberg et al. a Algorithmic Fairness. La ponderació de dades a l’algoritme no ha de ser “neutre”, sinó que ha de estar alineada amb l’objectiu que es vulgui obtenir i haurà d’incorporar certa discriminació positiva

Els models predictius funcionen bé, als serveis d’atenció a les persones, per oferir recomanacions de resultat al professional i no per determinar automàticament el nivell de risc o necessitat d’una persona. Les decisions de retirada de custodia, d’acceptació a un centre educatiu o d’atorgament d’un ajut no poden dependre d’una màquina.

Un factor essencial és la valoració del rendiment predictiu del model que fan els professionals i els usuaris. En el context de situació conflictiva o d’accés limitat a recursos la percepció d’equitat de les decisions preses en base al model depenen, en molt alt grau, del rendiment del mateix.

És aquí on es juga el futur de les professions socials. Atrinxerades en la funció d’acreditació de la necessitat i el mereixement, probablement seran substituïdes per les màquines; en canvi, la interpretació dels resultats de les eines conjuntament amb les persones interessades i la provisió de suport personal és un camp d’automatització molt més dubtosa.

Pel que respecta a com es governen les dades només citar a Mario Martínez Zauner a un recent post a Agenda Pública: ”hacen falta políticas públicas de control y gestión de los datos masivos, así como una democratización global de su uso y conocimiento. La ciudadanía debe tener a su alcance el uso y disfrute de ese saber, mientras que los estados y corporaciones han de trabajar en una transparencia progresiva para que el algoritmo no se convierta en la justificación de políticas autoritarias y regresivas.”

La Princesa Leia no ha donat els plànols de l’Estrella de la Mort als serveis socials

Per a guiar a Luke Skywalker, a la missió de destrucció de l’Estrella de la Mort, R2-D2 va necessitar dels plànols amagats en el seu interior per la Princesa Leia Organa. Si l’automatització ha d’arribar als serveis socials necessitarà un plànol detallat de coordenades, models i relacions. I hi ha alguns mals endèmics del sector que haurien d’estar com a frontispici de tots els despatxos dels que tenen alguna responsabilitat als serveis socials.

El primer és que sense dades no hi ha ni models, ni algoritmes, ni predicció possible. I dades consistents no en tenim. La culpa principal la donem a la manca de sistemes d’informació que puguin ser anomenats com a tal als serveis socials. I és veritat. Però cal ser conscients que un sistema de dades poc fiables o irrellevants tampoc solucionarà res. Hi ha molts fronts oberts però ens permetreu que prioritzem per on començar.

El Sistema de Serveis Socials ha d’establir, com ja ha fet el de salut,  quin ha de ser el Conjunt mínim bàsic de dades (CMBD) que vol recollir de cadascuna de les atencions que realitza. Sense aquesta orientació poblacional les dades de serveis socials són, actualment, un forat negre d’activitats i prestacions.

Hi ha dos tipus de dades que necessitarien una major robustesa i estandardització. Per una part l’activitat assistencial caldria que avancés en la seva tipificació i en la determinació dels atributs de valor que tenen. D’aquesta forma el Catálogo de Referencia de Servicios Sociales elaborat pel Ministerio de Sanidad, Servicios Sociales e Igualdad ha de sobrepassar la seva utilitat descriptiva i proporcionar estàndards d’atenció que permetin l’anàlisi i valoració de l’acció del Sistema. Més encara, hauria de clarificar la confusió de prestacions, establiments, equips i programes que és freqüent en els catàlegs i carteres de prestacions i serveis.

Per altra part la categorització diagnòstica dels problemes a atendre. Sense un llenguatge comú i estandarditzat que pugui ser codificat no li podem demanar meravelles als sistemes d’informació dels serveis socials. Arribar a tenir un CIM-10 als serveis socials serà difícil, però hem d’estar atents a experiències com la del Projecte Intersocial que avança en la definició de termes diagnòstics i de procediments als serveis socials.

Hi ha molts camps on és necessari avançar, com el de la  interoperabilitat, o en la recerca i registre d’impactes del sistema en aspectes rellevants per a la ciutadania. Però si volem que R2-D2 sigui el nou company al centre de serveis socials i que els professionals dediquin el seu temps de feina a les tasques amb valor afegit, els temes enumerats anteriorment haurien d’entrar amb força en l’agenda de les administracions competents.

Nota dels editors: Aquesta entrada ha estat escrita a quatre mans per Miguel Angel Manzano i Manuel Aguilar Hendrickson