LA AUTOMATIZACIÓN DE LA DESIGUALDAD. HERRAMIENTAS DE TECNOLOGÍA AVANZADA PARA SUPERVISAR Y CASTIGAR A LOS POBRES
VIRGINIA EUBANKS
RECENSIÓN-RESUMEN
Introducción
Desde el amanecer de la era digital, la toma de decisiones en materia de economía, empleo, política, salud y servicios sociales ha registrado cambios revolucionarios. Hace cuarenta años, casi todas las decisiones que dan forma a nuestras vidas – a saber: si se nos ofrece un empleo, una hipoteca, un seguro, un crédito o un servicio gubernamental- las tomaban seres humanos. Solían utilizar procesos actuariales que los hacían pensar más como ordenadores que como personas, pero el criterio humano seguía imperando. En la actualidad hemos cedido gran parte de ese poder de toma de decisiones a máquinas sofisticadas. Sistemas de elegibilidad automatizados, algoritmos de clasificación y modelos de predicción de riesgos controlan qué barrios se someten a vigilancia policial, qué familias reciben los recursos necesarios, a quién se preselecciona para un empleo y a quién se investiga por fraude. Con la notable excepción de los informes crediticios, contamos con un acceso asombrosamente limitado a las ecuaciones, los algoritmos y los modelos que definen nuestras posibilidades en la vida.
Nuestro mundo está salpicado de centinelas de la información. Esos guardianes de la seguridad digital recopilan información sobre nosotros, infieren conclusiones sobre nuestro comportamiento y controlan el acceso a los recursos. Algunos son evidentes y visibles: hay cámaras de televisión de circuito cerrado en nuestras calles, los dispositivos de posicionamiento global de nuestros teléfonos móviles registran nuestros movimientos, drones de la policía sobrevuelan nuestras manifestaciones políticas… Pero muchos de los mecanismos que recopilan nuestros datos y supervisan nuestras acciones son piezas de un código invisible e inescrutable. Están incrustados en nuestras interacciones en las redes sociales, fluyen a través de las solicitudes de servicios gubernamentales y envuelven todos los productos que nos probamos o compramos. Están tan entreverados en el tejido de nuestra sociedad que la mayor parte del tiempo ni siquiera nos damos cuenta de que nos observan y analizan. Todos habitamos en este nuevo régimen de los datos digitales, pero no todos los experimentamos de igual modo. El Gran Hermano no nos observa como individuos, sino como colectivo. La mayoría de las personas somos objeto de control digital en cuantos integrantes de grupos sociales, no a título individual. Las personas de color, los inmigrantes, los grupos religiosos impopulares, las minorías sexuales, los pobres y otras poblaciones oprimidas y explotadas soportan una carga de control y rastreo muy superior a la de los grupos privilegiados. Los colectivos marginados afrontan niveles más altos de recopilación de datos cuando acceden a prestaciones públicas, caminan por barrios sometidos a un fuerte control policial, entran en el sistema sanitario o cruzan fronteras nacionales. Dichos datos refuerzan su marginalidad cuando se utilizan para convertirlos en sospechosos y someterlos a un control adicional. A esos grupos, considerados indignos, se los somete de manera aislada a una política pública punitiva y a una vigilancia más intensa, y el ciclo vuelve a comenzar. Se trata de una especie de marca roja colectiva, un bucle de injusticia que se retroalimenta.
Ya a principios de la década de 2000, detecté multitud de tendencias preocupantes: el desarrollo económico tecnológico estaba aumentando las desigualdades económicas, se estaban integrando sistemas de vigilancia electrónica intensiva en programas de subvenciones y de viviendas sociales, y los legisladores prestaban oídos sordos a las necesidades y la experiencia de los pobres y la clase trabajadora. Desde 2008, con la Gran Recesión, la vertiginosa multiplicación de la inseguridad económica durante la década siguiente ha ido acompañada de un auge igual de rápido del uso de tecnologías sofisticadas basadas en datos en los servicios sociales: algoritmos predictivos, modelos de riesgo y sistemas automatizados de elegibilidad. Las ingentes inversiones en programas de servicios públicos guiada por datos se justifican en pro de la eficacia, de hacer más con menos y de conseguir que las ayudas lleguen a quienes verdaderamente las necesitan. Las tecnologías de gestión de la pobreza no son neutrales. Están moldeadas por algo que tiene un gran predicamento en EEUU: el temor a la inseguridad económica y la aporofobia, lo que, a sus vez, da forma a las políticas y la experiencia de la pobreza. Las mujeres pobres eran los conejillos de Indias de las tecnologías de control. Ese tipo de control electrónico invasivo es hoy algo usual en todo el espectro de clases sociales. Los sistemas de toma de decisiones y rastreo digitales se han convertido en algo rutinario tanto en el control policial como en la previsión política, el marketing, los informes crediticios, las sentencias penales, la gerencia de empresas, las finanzas y la administración de programas sociales. A medida que estos sistemas fueron ganando sofisticación y alcance se los empezó a catalogar como herramientas de control, manipulación y castigo. Cada vez resultaba más difícil encontrar personas que defendieran que las nuevas tecnologías de la información facilitaban la comunicación y brindaban nuevas oportunidades. En la actualidad, la opinión generalizada es que el nuevo régimen de los datos limita las oportunidades de los pobres y de la clase trabajadora, desmoviliza su organización política, restringe sus movimientos y recorta sus derechos humanos. La revolución digital se ha convertido en una pesadilla para mucha gente.
Estos temas ilustran lo rápido que ha aumentado la complejidad ética y técnica de la toma automatizada de decisiones en la última década. En todo el país, las personas pobres y de clase obrera son la dina de las nuevas herramientas digitales de gestión de la pobreza, y a causa de eso afrontan consecuencias que suponen una amenaza para sus vidas. Los sistemas automatizados de elegibilidad para lograr ayudas las desalientan de solicitar unos recursos públicos que precisan para sobrevivir y prosperar. Bases de datos integradas y complejas recogen su información más personal, con escasos parámetros de privacidad o seguridad,, sin ofrecerles prácticamente nada a cambio.. Algoritmo y modelos predictivos las etiquetan como inversiones de riesgo y padres problemáticos. Enormes complejos de servicios sociales, fuerzas del orden y vigilancia de vecindarios hacen visible hasta el último de sus movimientos y exponen sus conductas al control gubernamental, comercial y público. Estos sistemas se están integrando en servicios sociales y humanos de todo el país a un ritmo vertiginoso , con escaso o nulo debate político acerca de sus repercusiones. La elegibilidad automatizada es hoy una práctica estándar en casi todas las oficinas de servicios sociales de EEUU. Y si bien donde tienen un impacto más destructivo y letal estos nuevos sistemas es en las comunidades de color de renta baja, lo cierto es que afectan a los pobres y la clase obrera de todo el espectro de colores de piel. Y aunque los que padecen un mayor control mediante tecnologías avanzadas son los receptores de prestaciones sociales. Las personas sin techo y las familias pobres, estos no son los únicos afectados por la expansión de la toma automatizada de decisiones. el uso generalizado de estos sistemas afecta a la democracia en general, a todos. La toma automatizada de decisiones hace añicos la red de seguridad social, criminaliza a los pobres, intensifica la discriminación y compromete los valores más profundos de los EEUU. Reformula las decisiones sociales compartidas acerca de quiénes somos y quiénes queremos ser como problemas de ingeniería de sistemas. Y si bien las herramientas de toma de decisiones digitales de mayor alcance se ponen a prueba en lo que podríamos denominar “entornos con pocos derechos”, en los que las expectativas de reclamar responsabilidades y la transparencia política son escasas, los sistemas diseñados originalmente para los pobres acabarán aplicándose a toda la población. Las personas pobres y de clase baja de EEUU hace tiempo que padecen una vigilancia invasiva, redadas a medianoche y políticas públicas punitivas que aumentan el estigma y las penurias de la pobreza. En la actualidad hemos forjado “asilos digitales” a partir de bases de datos, algoritmos y modelos de riesgo. Y la nueva fórmula promete eclipsar el alcance y las repercusiones de todo lo anterior. Al igual que innovaciones tecnológicas anteriores para la gestión de la pobreza, el rastreo digital y la toma automatizada de decisiones ocultan la pobreza a la población de la clase media profesional y brindan al país la distancia ética necesaria para tomar decisiones inhumanas: quién recibe comida y quién se muere de hambre, quién tiene vivienda y quién permanece sin hogar, y qué familias destruye el Estado. El asilo digital se inscribe en una larga tradición estadounidense. Tratamos a los pobres a título individual para eludir nuestra responsabilidad compartida de erradicar la pobreza.
Del asilo para menesterosos a la base de datos
Las herramientas digitales actuales se sustentan en opiniones punitivas y moralistas de la pobreza y configuran un sistema de contención e investigación con tecnologías avanzadas. El asilo digital disuade a los pobres de acceder a los recursos públicos; supervisa su trabajo, su gasto, su sexualidad y la crianza de sus hijos; intenta predecir su comportamiento futuro y castiga y criminaliza a quienes no acatan sus dictados. Y, en el proceso, crea distinciones morales cada vez más afiladas entre los pobres que merecen recibir ayudas y los que no, con categorizaciones que demuestran nuestro fracaso como país a la hora de cuidarnos los unos a los otros. El asilo digital actual pone sobre la mesa un debate de una duración extraordinaria entre quienes desean erradicar y aliviar la pobreza y quienes culpan, encarcelan y castigan a los pobres.
Tal como el historiador de los trabajos sociales Walter Trattner ha escrito, los estadounidenses de las élites del momento “creían que la pobreza debía y podía erradicarse (…) en parte permitiendo perecer a los pobres”. El filósofo social del siglo XIX Nathanial Ware escribió, por ejemplo: “Humanidad aparte, iría en el mejor interés de la sociedad acabar con todos esos zánganos”.
La caridad científica, que pretendía ser una beneficiencia con base científica, exigía el uso de métodos más rigurosos y fundamentados en datos para diferenciar a los pobres que merecían recibir ayudas de los que no. Las investigaciones en profundidad practicadas proporcionaban un mecanismo de clasificación moral y control social. Cada familia pobre se convirtió en un “caso” irresuelto; en los primeros años, la Sociedad de Organizaciones Benéficas incluso recurrió a policías municipales para investigar las solicitudes de ayuda. Así nació la asistencia social individualizada. Los servicios de asistencia social daban por sentado que los pobres no eran testigos de fiar, Por ello corroboraban sus relatos con la policía, los vecinos, los comerciantes del barrio, los curas, los maestros de escuela, las enfermeras y otras instituciones de ayuda. ”La fiabilidad de las pruebas en las que los asistentes sociales basan sus decisiones debería someterse al mismo control riguroso que las pruebas legales que presenta un abogado”. Por defecto, la caridad científica trataba a los pobres como delincuentes. Quienes trabajaban en la caridad científica aconsejaban llevar a cabo una investigación en profundidad de las solicitudes de asistencia porque consideraban que existía una división hereditaria entre los blancos pobres que la merecían y los que no. Proporcionar asistencia a los segundos sencillamente les permitiría sobrevivir y reproducir una prole genéticamente inferior. Para los reformistas de clase media de la época, como el trabajador social científico Frederic Almy, el diagnóstico social era imprescindible porque “no se trata igual a las flores que a las malas hierbas”. El foco que el movimiento ponía en la herencia estaba influido por el movimiento de la eugenesia, La vertiente británica de la eugenesia, capitaneada por sir Francis Galton, instaba a la reproducción programada de las élites por sus “cualidades nobles”. Ahora bien, en EEUU, los partidarios de la eugenesia no tardaron en desviar su atención hacia la eliminación de lo que consideraban las características negativas de los pobres: su escasa inteligencia, su propensión a la delincuencia y su sexualidad sin restricciones. La eugenesia creó la primera base de datos de pobres. Se envió a científicos sociales por todo EEUU a recabar información acerca de la vida sexual, la inteligencia, los hábitos y la conducta de los pobres. La eugenesia fue un elemento importante de la ola supremacista que barrió EEUU en la década de 1880. La eugenesia tenía como fin limpiar la raza colocando un foco clínico sobre lo que el doctor Albert Priddy denominaba la “clase holgazana, ignorante e indigna de blancos antisociales del Sur”. Era un esfuerzo por clasificar “a todas las familias humanas en función de su intelecto, desarrollo, mérito y demérito, y etiquetarlas par su indización y archivo”. El movimiento fusionaba las inquietudes de las élites acerca de la pobreza entre los blancos con los temores ante una inmigración creciente y las creencias racistas de que los afroamericanos eran una raza inherentemente inferior. Tal vez las restricciones generalizadas a la reproducción fueran el destino inevitable de la caridad científica y la eugenesia. En el caso de Buck contra Bell, que legalizó la esterilización involuntaria, el magistrado de la Corte Suprema Oliver Weldell Holmes escribió: ”Lo mejor para el mundo es que, en lugar de esperar a ejecutar a la prole degenerada por delinquir o dejarles morirse de hambre por su incapacidad, la sociedad evite que quienes son manifiestamente indignos perpetúen la especie. El principio que sustenta la vacunación obligatoria es lo bastante amplio para cubrir el corte de las Trompas de Falopio”. Y aunque la práctica cayó en desgracia a la luz de las atrocidades cometidas por los nazis durante la Segunda Guerra Mundial, la eugenesia se saldó con más de sesenta mil esterilizaciones obligatorias de personas pobres y de la clase obrera de EEUU. El movimiento de la caridad científica contaba con multitud de nuevos inventos; el asistente social, la investigación para la concesión de ayudas, los registros eugenésicos y el mecanismo de intercambio de información. Aprovechaba lo que tanto abogados como académicos y doctores consideraban la ciencia empírica más sofisticada de la época. La caridad científica reclamaba una práctica fundamentada en pruebas para distinguirse de lo que sus defensores consideraban los planteamientos políticos ingenuos, sentimentales y corruptos del pasado para la concesión de asistencia a los necesitados. No obstante, las herramientas de tecnología avanzada y los argumentos científicos del movimiento solo eran en realidad sistemas para restar poder a los pobres y a la clase trabajadora, privándolos de sus derechos humanos y de su autonomía. Si el asilo era una máquina que desviaba a los pobres ya la clase trabajadora de las ayudas públicas, la caridad científica fue una técnica que dio alas a la negación plausible entre las élites.
Al igual que los hospicios que la precedieron, la caridad científica imperó en la gestión de las ayudas a los pobres durante dos generaciones. Sin embargo no sobrevivió a la Gran Depresión. Familias que habían formado parte de una sólida clase media antes del crac recurrieron a la asistencia social por primera vez en su vida. La ya de por sí borrosa frontera entre quienes merecían recibir ayuda y quienes no se desvaneció frente a la emergencia nacional. Conforme la Gran Depresión se agravó la caridad científica quedó desbordada. Pobres y trabajadores protestaron por el deterioro de sus condiciones de vida y se unieron para ayudarse mutuamente. Los mineros robaron y distribuyeron carbón de contrabando. Había colas de racionamiento de4 pan, de sopa y de col. Los manifestantes hostigaron a los organismos de asistencia locales formando piquetes a sus puertas hasta que entregasen dinero y artículos de consumo a las multitudes congregadas. Hubo huelga de alquileres y revirtieron los cortes de gas y electricidad. El New Deal proveyó de empleo y ayudas económicas. Se invirtieron los fondos públicos necesarios y se abandonaron las investigaciones en profundidad lideradas por los asistentes sociales de la caridad científica. La Administración pasó de distribuir recursos a incentivar el empleo. Las nuevas leyes laborales propiciaron el florecimiento de los sindicatos y la consolidación de una potente clase media blanca. La Ley de la Seguridad Social de 1935 establecía el principio de los pagos en efectivo en caso de desempleo, edad avanzada o pérdida del sostén de la familia, y lo hacía por derecho, no en base a ningún criterio moral individual. NO obstante, el New Deal también creó divisiones de raza, género y clase. La capitulación de la administración Roosevelt frente a la supremacía blanca limitó la participación de la población negra y segregó residencialmente y alentó prácticas discriminatorias en la concesión de hipotecas. Hubo sindicatos segregados y el personal doméstico y los trabajadores del campo quedaron excluidos de las protecciones laborales. El “compromiso sureño” dejó a la gran mayoría de los trabajadores afroamericanos sin protección contra el desempleo, sin seguro de vejez o sin el derecho a la negociación colectiva. Asimismo, el New Deal consagró al hombre como sostén de las familias y de las mujeres. La seguridad económica de las mujeres quedó atada a su papel como esposas , madres o viudas, y se garantizó así su dependencia económica continuada. El New Deal restableció la división entre los pobres capaces y los incapaces. Los pobres capaces seguían siendo hombres blancos asalariados que se habían visto abocados al desempleo. De pronto se les consideraba pobres “dignos” de recibir ayudas y se les ofrecía asistencia laboral para reinsertarse en el mercado laboral. Los pobres incapaces afrontaban desafíos a largo plazo para acceder a un empleo estable: discriminación racial, monoparentalidad, discapacidad o enfermedad crónica. Se les dio asistencia temporal, punitiva y avara. Se creó un estado del bienestar de doble nivel: la seguridad social por un lado y la asistencia social por el otro. Los programas de asistencia social eran menos generosos, porque los niveles de las prestaciones los establecían los estados y los municipios, no el gobierno federal. Y eran más punitivos, porque las autoridades locales y estatales del bienestar social redactaban leyes de elegibilidad y tenían incentivos financieros para mantener sus inscripciones en niveles bajos. Además, eran más intrusivos, porque los límites de renta y la comprobación de medios ju7stificaba todo tipo de control e investigación de los solicitantes y beneficiarios. Al distinguir entre seguridad social y asistencia social el New Deal plantó la semilla de la desigualdad económica actual, cedieron ante la supremacía blanca, sembraron el conflicto entre los pobres y la clase obrera y devaluaron el trabajo femenino. Estas técnicas se aplicaron de manera selectiva a un nuevo grupo objetivo que empezaba a emerger: “Las madres del bienestar”.
La legislación relativa a las “madres capacitadas para trabajar” excluía a las trabajadoras domésticas y trabajadoras del campo, ya que los legisladores consideraban que el desempeño de su trabajo asalariado era más importante que criar a sus hijos. La legislación relativa a “hogares adecuados” excluía a las madres solteras, a las divorciadas y abandonadas , a las lesbianas y a otras mujer4es consideradas sexualmente inmorales. La legislación de “padre sustituto” establecía que cualquier hombre que mantuviera una relación con una mujer que recibiera asistencia pública pasaba a ser responsable económicamente de los hijos de ésta. Las restricciones a la residencia negaban las prestaciones a cualquier persona que cruzara las fronteras estatales. El sistema del bienestar exigía a los pobres entregar sus derechos (a la integridad física, a un entorno laboral seguro, a la movilidad, a la participación política, a la privacidad y a la autodeterminación) a cambio de exiguas ayudas para sus familias. Las leyes discriminatorias que determinaban quien podía optar a las ayudas conferían a los asistentes sociales un amplio margen para investigar las relaciones de los usuarios, indagar en todos los aspectos de sus vidas e incluso hacer redadas en sus viviendas. La recuperación de las investigaciones al estilo de la caridad científica de los receptores de las ayudas fue una reacción a los patrones migratorios cambiantes y al activismo en defensa de los derechos civiles, que estaban alterando la c0omposición racial del programa. Millones de afroamericanos se refugiaron en ciudades norteñas entre 1940 y 1960 huyendo del terrorismo supremacista blanco y de los desahucios de los aparceros. Muchos de ellos hallaron viviendas más seguras y mejores empleos, y recuperaron su dignidad y un mayor grado de libertad. Sin embargo, la discriminación en el entorno laboral y en el ámbito de la vivienda y la educación derivó en tasas de desempleo muy superiores entre la población no blanca, lo que llevó a los migrantes a solicitar ayudas públicas para mantener a sus familias. En paralelo, el movimiento en defensa de los derechos civiles articuló el derecho moral al acceso igualitario a la vivienda pública y a la participación política de los afroamericanos y a la integración en la asistencia social. Pero la mitad de las personas que reunían los requisitos para percibir la ayuda no la recibían. Insistieron en que criar a los hijos era “un trabajo”. Se oponían de manera activa a todos los programas que exigían que las madres solteras con hijos pequeños tuvieran un trabajo fuera del hogar. La victoria en el caso King contra Smith (1968) anuló la legislación del padre sustituto y garantizó los derechos básicos a la privacidad personal y sexual. En el caso Shapiro contra Thompson (1969), la Corte Suprema acordó que las normas de residencia eran restricciones inconstitucionales al derecho a la movilidad de las personas. La sentencia del caso Goldberg contra Kelly (1970) consagró el principio de que los receptores de asistencia social tienen derecho al respeto de sus garantías procesales y estableció que los beneficios no pueden rescindirse sin atender al principio de derecho de defensa. Estas victorias legales sentaron un precedente verdaderamente revolucionario: los pobres tenían los mismos derechos que la clase media y fue impopular entre progresistas y conservadores.
Espoleadas por los movimientos sociales, más familias solicitaron asistencia pública. El respaldo de las victorias legales tuvo como consecuencia que se denegaran muchas menos solicitudes. Conforme los límites a la elegibilidad ¡se derribaban, la Ayuda a Familias con Niños Dependientes se ampliaba. El movimiento en defensa de los derechos de bienestar social contaba con aliados en la clase media y consideraba la organización interracial como un factor crucial para conseguir sus objetivos a largo plazo. “No podemos permitirnos la segregación racial. Las niñas blancas pobres me explican que sienten cuando tienen hambre, y es lo mismo que siento yo”. Mientras que los defensores de los derechos del bienestar social contemplaban con buenos ojos la integración y la solidaridad, la oposición a la expansión de la Ayuda estimuló la animosidad de la clase media, que dio la espalda a los éxitos del movimiento. Conforme crecía la animadversión hacia los derechos del bienestar social, la cobertura en prensa de la pobreza fue volviéndose cada vez más crítica. La prensa se llenaba de imágenes de negros pobres. Era habitual que las noticias acerca de fraudes a la asistencia social y malas praxis fueran acompañadas de imágenes de rostros negros. La histeria en torno a los costes de la asistencia social, el fraude y la ineficacia fue en aumento hasta que se produjo la recesión de 1973. Ronald Reagan y otros políticos conservadores lideraron una revuelta de los contribuyentes contra la Ayuda poniendo en entredicho la idea de que los pobres tenían derecho a disfrutar de todos los derechos prometidos por la Constitución. Los burócratas, atrapados entre unas protecciones legales cada vez más estrictas y las exigencias de contener el gasto en asistencia social, escenificaron un truco de prestidigitación política. Encargaron nuevas y costosa tecnologías que prometían ahorrar gastos mediante una distribución más eficaz de las ayudas. En la práctica, esos sistema s tecnológicos funcionaron como muros erigidos entre la población pobre y sus derechos legales. Había nacido el asilo digital. En la década de 1980, los ordenadores recopilaban, analizaban, almacenaban y compartían ya una cantidad extraordinaria de datos sobre las familias que recibían ayudas públicas. El conflicto entre los crecientes derechos legales de los beneficiarios de la asistencia social y el debilitamiento del apoyo a la ayuda pública se resolvió mediante una oleada de herramientas de alta tecnología.
Influidos por un activismo tan visible, los asistentes sociales empezaron a replantearse su papel, de tal manera que en lugar de entender que debían desalentar a los solicitantes de las ayudas públicas, optaron por ayudarlos a solicitarlas. El rápido aumento de los beneficiarios de la asistencia social en Nueva York se estabilizó a mediados de la década de 1970, a medida que el Sistema de Gestión del bienestar fue instaurándose. A partir de entonces, la proporción de personas pobres que recibían la Ayuda empezó a caer en picado. El mismo patrón se repitió estado tras estado. Una combinación de nuevas leyes restrictivas y herramientas de tecnología avanzada revirtieron los avances conseguidos por el movimiento en defensa de los derechos a las ayudas sociales. En 1973, casi la mitad de las personas que vivían por debajo del umbral de la pobreza en EEUU recibían la Ayuda. En la actualidad no llegan al 10%. Una ley de 1996 suele considerarse la responsable de la desaparición de las ayudas sociales. Sustituyó la Ayuda p0or la Asistencia Temporal a las Familias Necesitadas e impuso el empleo fuera de casa a todo coste. La Asistencia Temporal a Familias Necesitadas limitaba el acceso a ayudas públicas a sesenta meses, introducía requisitos laborales estrictos, ponía fin a las subvenciones de cuatro años para la educación universitaria e implementaba un amplio abanico de sanciones para penalizar el incumplimiento de tales obligaciones. Cada sanción puede acarrear la pérdida temporal o definitiva de las ayudas. En 1973, cuatro de cada cinco niños pobres recibían la Ayuda a Familias con Niños Dependientes; en la actualidad, la Asistencia Temporal a Familias Necesitadas se otorga a menos de uno de cada cinco. Métodos de investigación más agresivos y unas tecnologías de rastreo cada vez más precisas pr4oporcionaron la materia prima para crear historias apócrifas acerca del fraude y la corrupción generalizados. Dichas historias dieron luz a normativas aún más punitivas y a sanciones draconianas, que a su vez exigieron una explosión de tecnologías basadas en datos para supervisar su cumplimiento. Las reformas federales de 1996 únicamente pusieron la guinda a un proceso iniciado veinte años antes, cuando la oposición a los derechos a percibir ayudas públicas engendró el asilo digital.
Los defensores de la adopción de la automatización y los algoritmos por parte de los servicios sociales suelen describir la nueva generación de herramientas digitales como “disruptivas”. Explican que los datos masivos, el big data, agilizan los rígidos procesos burocráticos, estimulan la adopción de soluciones innovadoras y fomentan la transparencia. Pero cuando nos centramos en programas dirigidos específicament4e a los pobres y la clase trabajadora, el nuevo régimen de análisis de datos tiene más de evolución que de revolución. Se trata, simple y llanamente, de una ampliación y continuación de unas estrategias de gestión de la pobreza moralistas y punitivas aplicadas desde la década de 1820.La historia de los asilos para menesterosos y la caridad científica demuestra que las ayudas a la pobreza pasan a ser punitivas y se estigmatizan en épocas de crisis económica. Las personas pobres y de clase obrera se oponen a las restricciones de sus derechos, desmantelan instituciones discriminatorias y suman fuerzas para ayudarse entre sí y sobrevivir. Sin embargo, una y otra vez se enfrentan a las reacciones violentas de la clase media. Las ayudas sociales se disfrazan de caridad, la ayuda mutua se reformula como dependencia y proliferan las nuevas técnicas para retrasar el progreso de los pobres. Desde la década de 1970 ha ido ganando terreno paulatinamente un contramovimiento bien financiado y con un amplio apoyo popular cuyo objetivo es negar los derechos humanos básicos a los pobres y a las personas de clase obrera. Dicho movimiento fabrica y pone en circulación historias engañosas acerca de los pobres, a quienes califica de minoría inmoral, dependiente y fraudulenta que no merece las ayudas que recibe. Los conservadores críticos con el estado del bienestar mantienen una campaña propagandística muy eficaz para convencer a la población estadounidense de que la clase trabajadora y los pobres deben enfrentarse en un juego de suma nula por unos recursos limitados. De manera más discreta, los administradores de programas y los científicos de datos promueven herramientas de tecnología avanzada que prometen ayudar a más personas y de manera más humana, al tiempo que fomentan la eficiencia, detectan el fraude y contienen los costes. El asilo digital se presenta como un modo de racionalizar los subsidios, pero el objetivo real sigue siendo el de siempre: crear perfiles de pobres, controlarlos y castigarlos.
Automatización de la elegibilidad en el corazón de EEUU
Un usuario planteaba así su experiencia: “Empecé a leer sus cartas para determinar que podíamos hacer, adónde podíamos dirigirnos y a quién podíamos llamar, pero era imposible conseguir nada por teléfono. Era como si hablaras con un ordenador, en lugar de con una persona”. Les pedían que presentaran documentos que el organismo ya tenía. Y si a alguien le negaban una ayuda, esa persona daba por sentado que el sistema sabía lo que se hacía, y aceptaba que no tenía derecho a percibirla tirando la toalla. La frase clave era “falta de colaboración” porque entonces el problema era del usuario y no del Ayuntamiento ni del proveedor. No facilitaban a los usuarios la información necesaria. No pudiendo tampoco recurrir a los asistentes sociales lo tuvieron que tramitar todo solos. “La parte más vulnerable de la población, los padres de los niños que no tenían comida para alimentarse, las personas que necesitaban tratamiento médico y las personas discapacitadas incapaces de expresarse en primera persona, fueron quienes de verdad pagaron las consecuencias” de la automatización. Los telefonistas decían que “el juez se limitará a ver el ordenador, verá lo mismo que estoy viendo yo y le negará las ayudas”. Los cambios fundamentales y de amplio calado introducidos por el sistema automatizado de Indiana colisionaban de manera inevitable con el derecho de los pobres a un debido proceso legal, garantizado por la sentencia Goldberg. La experiencia de otro usuario con la automatización le hizo plantearse si solicitar de nuevo ayudas económicas. “Te lo ponen muy difícil. Si pidiera ayudas ahora, probablemente me las concederían, pero la experiencia que viví cuando me las negaron… Lloré de nervios. Hice todo lo que me pidieron. No sé si merece la pena volver a pasar por todo ese estrés”.
En cuanto a los funcionarios la experiencia supuso lo siguiente. “A la gente que viene por primera vez a Administración de Servicios Sociales y Familiares se le ve el miedo en los ojos. Miedo por lo que van a hacer. La gente te dice: “Nunca pensé que tendría que verme aquí”. No pretenden estafar al sistema, no saben a quién más recurrir. Nuestra responsabilidad como funcionarios es asegurarnos de que las personas que tienen derecho a recibir ayudas las perciban”. El gobernador prometió que ningún funcionario perdería su trabajo a causa de la automatización y que los salarios se mantendrían o subirían. Pero los nuevos puestos generados por la empresa gestora desencadenaron una oleada de jubilaciones y dimisiones. Muchos prefirieron no desarraigar sus vidas a cambio de nuevos puestos laborales inseguros. “Recibíamos llamadas de todo el estado. No tenía ni idea de los servicios disponibles en otras zonas”. “Buscaban “productividad” y no podías ser productivo si escuchabas la historia personal del usuario”. “Las personas que han vivido un trauma necesitan albergar la esperanza de que la situación va a mejorar. Necesitan creer que alguien las tiene en cuenta, que no están solas. Y creo que ese era nuestro trabajo antes de la automatización. Escuchábamos lo que nos contaban para poder mejorar la cosas”. “Nos convertimos en esclavos del sistema de tareas. Como cualquier otro centro de atención telefónico privado, lo único que se tiene en cuenta son los “hechos”. Pero el sistema del bienestar es muy complicado. Y la función de los asistentes sociales es ayudar a las personas a abrirse camino a través de ese caos”. El gobernador prometió decisiones más rápidas , un uso más eficaz de los recursos y un mejor servicio de atención al usuario. Pero a lo que se enfrentaron los asistentes sociales fue a una catarata de fallos técnicos, una explosión de errores que ralentizaban o cerraban las aplicaciones y una plantilla de empleados mal formados que traspasaban los problemas que ellos mismos creaban al puñado de funcionarios que quedaban en plantilla, sobrecargando de trabajo a estos últimos. “Teníamos la moral por los suelos. Nada nos reconfortaba. N había camaradería. Estabas solo ante el peligro”.
Ante la falta de asistencia funcionarial, los pobres y las familias de clase trabajadora de Indiana recurrieron a los gobiernos locales, a voluntarios ya la ayuda mutua. “La gente estaba desesperada. Estaban perdidos, completamente perdidos. Estaban confundidos y no sabían a quien recurrir. No había gestión de expedientes, ni contacto personal, ni comunicación entre organismos. Era un caos absoluto”. Se alentó a la población a solicitar los servicios a través del nuevo sistema online, pero las familias de renta baja no disponían de un acceso habitual a internet. La mayoría de los solicitantes de un socio comunitario, como la biblioteca municipal, el banco de alimentos o la clínica, para acceder a la solicitud en línea. “Pretendían que todas las otras organizaciones les hicieran el trabajo. Y nosotros ya estábamos desbordados. No consideraba que era responsabilidad nuestra hacerle todo el trabajo a la Administración de Servicios Sociales y Familiares”. Recibieron poca o ninguna compensación, formación o supervisión por hacer lo que correspondía a un trabajo voluntario de asistencia social.. Las víctimas fueron los organismos locales que les enterraron en trabajo. Las líneas telefónicas comunicaban siempre, las oficinas del centro de ayuda tenían colas de varios días, las notificaciones de falta de colaboración eran arbitrarias y poco claras y los socios de la red no estaban formados ni contaban con el respaldo preciso. “La gente no sabe a qué hace referencia la “falta de colaboración” que indican las notificaciones de denegación de los subsidios. Antiguamente podían telefonear a su asistente social y averiguar qué documento faltaba o si se les había olvidado firmar algo o que problema había. Ahora no tienen a nadie a quien llamar”.
Identificaron decenas de deficiencias del servicio incluidos los plazos de espera excesivos, el extravío de documentos, la impresión de datos, los problemas en la concertación de entrevistas, el lento procesamiento de las solicitudes y las instrucciones incorrectas dadas a los clientes. El experimento había fracasado y se calificó el proyecto de automatización de “concepto con fallos que sencillamente no funcionó una vez puesto en práctica”. Esta historia representa una “tormenta perfecta” de políticas gubernamentales desatinadas y ambición corporativa desmedida. En general, ambas partes son culpables y los únicos perdedores aparentes son los contribuyentes de Indiana. El problema de aquél experimento no había radicado en un fallo de ejecución sino en que el estado y sus socios privados se habían negado a prever o abordar los costes humanos del sistema. El coste real de aquel experimento de privatización, la pérdida de subsidios vitales para familias necesitadas, el coste del contrato y de las disputas legales para los contribuyentes y el debilitamiento del sistema de asistencia social y del proceso democrático es algo que aún no se le ha calculado. Tal vez sea incalculable.
La asistencia social es una labor humana compleja que depende de las relaciones personales, exige un mínimo de astucia y compasión y es vulnerable a todos los prejuicios de raza, clase y género entretejidos en la sociedad. La inquietud por los excesos discrecionales está más que justificada: algunos asistentes sociales deniegan ayuda a según qué personas movidos por su intolerancia, su fanatismo y sus prejuicios inconscientes. La toma automatizada de decisiones del actual sistema de ayudas sociales en EEUU funciona de modo muy parecido a las formas de castigo y control más antiguos y atávicos. Filtra y desvía. Es guardián, no un facilitador. Al limitar el acceso a los subsidios públicos y elevar las multas por incumplimiento, consiguió unas reducciones espectaculares de las nóminas del bienestar. Conforme la pobreza aumentaba en Indiana, los casos de solicitantes de asistencia social se desplomaban. En 2006, el 38% de las familias pobres con niños recibían ayudas del citado programa. En 2014, la cifra había descendido a solo un 8%. “Pero luego vinieron los llantos, porque nos llamaban “basura blanca” y gorrones. Fue como si nos absorviera el vacío”. Al final, el experimento de automatización de Indiana fue una forma de desviar de las ayudas a los estadounidenses pobres y de clase obrera. Les negó prestaciones, su derecho de defensa, su dignidad y la propia vida. “No invertimos en nuestros conciudadanos, seres humanos, como deberíamos. Básicamente nos dedicamos a decirle a un alto porcentaje de la población de Indiana: “No vales nada”. ¡Que inhumanidad tan atroz!”.
Sinhogarismo y alta tecnología en la ciudad de Los Ángeles
Un usuario considera inaceptable tener que canjear su derecho a la autodeterminación y a tomar decisiones como el adulto que es a cambio de poder dormir bajo un techo. “No necesito una niñera-dice-. Nadie tiene que decirme dónde tengo que ir ni como tengo que vivir la vida. Cualquier adulto maduro razonable es capaz de decidir eso por sí mismo. Nadie quiere una niñera que meta las narices en sus asuntos”. Sospecha que lo que impide que le concedan una vivienda es su “rechazo a doblegarse”. “Aún conservo mi integridad personal-afirma-. Y eso no está en venta”.
Las sentencias Lavan y Jones establecieron que las enmiendas Octava, Cuarta y Decimocuarta debían aplicarse tanto9 a las personas sin hogar como a las que sí lo tienen, y que el gobierno no puede encarcelar de manera arbitraria a los sin techo, como tampoco invadir su privacidad o confiscar sus propiedades.
“¿El sistema de entrada coordinada? ¿El sistema que se supone que ayuda a los sin techo? Para lo único que sirve es para detenerlos. Introducen a todas las personas sin hogar en el sistema, pero no tienen ningún alojamiento que asignarles. Te meten en el sistema y luego no hacen nada por ayudarte”.
Todos los datos se recopilan con fines completamente distintos: para supervisar y criminalizar a los sin techo. Prácticamente el único modo de acceder a los servicios para personas desamparadas en el condado de Los Ángeles es mediante la entrada coordinada.
“Muchas personas como yo, con una cierta funcionalidad, no conseguimos vivienda. La entrada coordinada es otra manera más de seguir dándonos largas a este asunto”.
Los delitos de estatus asociados con la carencia de un hogar son: sentarse en las aceras, cruzar la calle de manera imprudente, ensuciar, acampar y pedir limosna. La presencia policial en una organización de servicios sociales basta para disuadir de recurrir a ellos a las personas desamparadas más vulnerables, que pueden tener órdenes de arresto pendientes a causa de multas por delitos de estatus relacionados con el sinhogarismo.
La entrada coordinada y otras herramientas tecnológicas dan más visibilidad a las conductas de los sintecho y los hacen más rastreables y predecibles. Si esta sutil disciplina fracasa, los pobres de Skid Row se enfrentan a la cárcel.
Así, las personas sin hogar de Los Ángeles afrontan una difícil disyuntiva: admitir un comportamiento de riesgo o incluso ilegal en el formulario puede asignarte una mayor puntuación en la lista de personas con prioridad para recibir una vivienda de apoyo a la reinserción permanente, pero también puede exponerte a la vigilancia de las fuerzas del orden. La entrada coordinada no es solo un sistema que gestiona información para hallar correspondencia para clasificar y criminalizar a los pobres. Para entender la entrada coordinada como un sistema de vigilancia, es fundamental diferenciar entre la “vieja” y la “nueva “ vigilancia. Los viejos sistemas analógicos de vigilancia exigían una atención individualizada: un reducido número de personal de inteligencia o de mantenimiento de la ley recopilaba un expediente identificando a un objetivo, al que rastreaba registrando sus movimientos y actividades. Los objetivos de las formas de vigilancia de antaño solían escogerse en atención a su pertenencia a determinados grupos. Así, el Cointelpro, el programa de contrainteligencia del FBI, por ejemplo, ponía el foco en los activistas de los derechos civiles, tanto por su raza cuanto por su activismo político. Pero las escuchas, las fotografías, los seguimientos y otras técnicas de vigilancia se personalizaban y centraban en personas concretas. Había que identificar el objetivo antes de poder vigilarlo. En cambio, con la nueva vigilancia basada en datos, el objetivo suele emerger de esos mismos datos. La selección de objetivos es posterior a la recopilación de datos, no anterior. Se compilan cantidades ingentes de información sobre personas y colectivos. Luego, esos datos se analizan e investigan con el fin de identificar a posibles objetivos a quienes someter a un escrutinio más minucioso. En ocasiones, ello implica técnicas de vigilancia a la antigua usanza, como el seguimiento en persona. Pero cada vez más lo único que se hace es tamizar los datos existentes. Si la antigua vigilancia era un ojo en el cielo, la nueva es una araña en la telaraña digital que se dedica a comprobar cada hilo tejido para detectar vibraciones sospechosas. La vigilancia no es solo un medio de observar y rastrear, sino también un mecanismo de clasificación social. La entrada coordinada recopila datos vinculados con el comportamiento individual, evalúa la vulnerabilidad y, en función de dicha evaluación, asigna distintas intervenciones. La clasificación automatizada de los datos personales es una especie de triaje. En el triaje digital, los individuos y colectivos de personas se clasifican en función de su supuesto valor económico y político. Los pobres, sobre todo los pobres de color, son tratados cada vez más como material roto o con desperfectos que puede ser desechado.
La ingeniería de sistemas puede ayudar a gestionar problemas sociales complejos y de gran calado, pero no construye viviendas ni garantiza que se superen los prejuicios arraigados contra los pobres y, más en concreto, contra la gente pobre de color. “Los algoritmos son una estupidez. Es imposible crear un algoritmo capaz de gestionar todas las variables, los matices y las complejidades que presentan los seres humanos”. “M” objeción a la entrada coordinada es que ha arrebatado los recursos y la atención a otros aspectos del problema. Hace treinta años que percibo que existe la idea, sobre todo entre gente culta, de que todo se reduce aq un problema de información. Creen que a la gente sin hogar sencillamente le falta información”. “La falta de vivienda no es un problema de ingeniería de sistemas. Es un problema de carpintería”.
Un sin hogar concluye: “el hecho de existir sobre la faz de la Tierra no me convierte en un delincuente”.
El algoritmo de Allegheny
Los estados obtienen su autoridad para prevenir, investigar y perseguir el maltrato y el abandono infantil de la Ley de Prevención y Tratamiento del Maltrato Infantil, aprobada por el presidente Richard Nixon en 1974. Dicha ley define el abandono y el maltrato infantil como la “lesión mental o física, el abuso sexual, el abandono o el maltrato de un niño (…) por parte de una persona responsable de su bienestar en circunstancias que indican que la salud o el bienestar del pequeño pueden verse dañados o amenazados”. Incluso pese a las aclaraciones recientes de que ese peligro debe ser “grave”, queda un amplio margen para la subjetividad con respecto a qué constituye exactamente abandono o maltrato. La lista de situaciones clasificadas como maltrato en KIDS ilustra el amplio margen que barajan las personas que criban las llamadas para clasificar las conductas de los padres como maltrato o abandono. Incluye: niño abandonado; abandono; interrupción o disolución de la adopción; incapacidad del cuidador para ocuparse del niño; representación de conductas sexuales por parte del niño; consumo de drogas por parte del niño; conductas del progenitor que ponen al niño en riesgo; castigo corporal; retraso o negación de la atención sanitaria; comisión de un acto delictivo por un niño menor de diez años; violencia doméstica; abandono de los estudios; entorno con sustancias tóxicas; exposición a peligros; expulsión de la vivienda familiar; desprotección; sinhogarismo; ropa, higiene, cuidados físicos o provisión de alimento inadecuados; disciplina o cuidados inadecuados; lesión causada por otra persona y aislamiento. Tres cuartas partes de las investigaciones sobre protección a la infancia son por abandono, y no por maltrato físico, sexual o emocional. El punto en el que se traza la línea entre las condiciones concomitantes con la pobreza y el abandono infantil es especialmente desconcertante. Muchos de los problemas habituales que afrontan las familias pobres se definen oficialmente como maltrato infantil, incluidos la falta de alimento suficiente, el tener una vivienda insegura o inadecuada, la falta de asistencia médica o dejar a un niño solo mientras quienes están a su cargo van a trabajar. Las familias sin hogar afrontan desafíos especialmente arduos para retener la custodia de sus hijos, ya que la mera situación de carecer de hogar se considera abandono. A la hora de la verdad, la mayoría de los asistentes sociales que trabajan en protección a la infancia no se plantean poner a los niños en hogares de acogida por el mero hecho de que sus padres sean pobres; de hecho, a menudo se muestran reacios a definir como “abandono” situaciones que escapan al control de los progenitores. Por el contrario, a veces recurren a amenazar con tener que colocar a un niño en un hogar de acogida para conseguir los recursos que una familia necesita. En Pensilvania, el maltrato y el abandono e3stán bastante bien acotados. El maltrato exige una lesión física que conlleve un impedimento o un daño importante, abusos sexuales o explotación, provocar lesiones mentales o la existencia de un riesgo inmediato de que se dé cualquiera de estas situaciones. Y se considera abandono “una ausencia prolongada o repetida de supervisión” lo bastante grave como “para poner en riesgo la vida o el desarrollo del niño u obstaculizar su funcionamiento”.
Según los Centros para el Control y la Prevención de Enfermedades de Estados Unidos, aproximadamente uno de cada cuatro niños experimentará algún tipo de maltrato o abandono a lo largo de su vida. El “Estudio sobre la experiencia de una infancia adversa” realizado por estos organismos concluyó que la vivencia del abandono y el maltrato tiene un “impacto tremendo y para toda la vida en nuestra salud y en la calidad de nuestras vidas”, que incluye una mayor propensión a la drogadicción y el alcoholismo, intentos de suicidio y depresión.
Los servicios sociales son ricos en datos pero pobres en recursos materiales. Demandaron “diseñar y aplicar herramientas de apoyo a la toma de decisiones y análisis predictivos para los servicios sociales”. Un sistema de triaje automatizado que les ayudara a concentrar sus recursos donde más se necesitaran. Propusieron diseñar, desarrollar e implementar una herramienta de ayuda a la toma de decisiones que cribara los datos almacenados por la dirección de asuntos sociales y efectuara predicciones acerca de los niños del condado de Allegheny que podían estar expuestos a un mayor riesgo de abandono y maltrato.
Era posible crear un algoritmo de predicción del maltrato prenatal: “Una herramienta de evaluación de riesgos que pueda usarse el día del nacimiento para identificar a los niños que corren mayor riesgo de maltrato presenta un valor enorme. La valoración de riesgos prenatal podría usarse para identificar a los niños en riesgo (…) incluso mientras están en el útero”. El equipo programador concibió un modelo predictivo que utilizaba 132 variables- entre las que se incluían el tiempo que hacía que se recibían ayudas públicas, loa participación en el sistema de protección a la infancia en el pasado, la edad de la madre, si el niño había nacido en el seno de una familia monoparental, la salud mental y los antecedentes penales- para puntuar el riesgo de maltrato del niño en los datos históricos del Ministerio de Desarrollo social. Descubrieron que su algoritmo podía predecir con una precisión “sensible, cercana a buena”, si esos niños “habían padecido maltrato” antes de cumplir los cinco años. El modelo podía no ser tan preciso como el equipo aseguraba, ya que se equivocaba en cerca de un 70% de los niños identificados como de mayor riesgo en los datos históricos. Otros advertían de que el modelo era, principalmente, una herramienta para controlar a los pobres. “No bajo mi mandato! Son niños, no ratas de laboratorio”. El experimento acabó desmoronándose debido a la resistencia de la opinión pública. Pero para entonces el equipo de programadores ya había conseguido el contrato para crear un modelo de predicción de riesgos similar en el condado de Allegheny.
Todos tendemos a delegar en las máquinas, ya que nos parecen más neutrales y objetivas. Pero resulta inquietante que los gestores crean que, en caso de conflicto entre el criterio de la persona que filtra los expedientes y la evaluación informática, es el humano quien debería aprender del modelo. La Herramienta de Cribado de Familias de Allegheny, como todos los modelos de evaluación de riesgos, solo plantea probabilidades, no una predicción perfecta. Y aunque identifique patrones y tendencias, suele equivocarse acerca de los casos individuales. El personal que filtra las admisiones suele solicitar echarse atrás y modificar sus evaluaciones de riesgo después de conocer la puntuación asignada por la herramienta de cribado, lo que permite entrever que consideran que el modelo es más infalible que el cribado humano. Frente a la aparente autoridad y objetividad de una puntuación informática, la aversión al riesgo o un exceso comprensible de precaución con respecto a las vidas en juego de los niños, es fácil entender que el número rojo intermitente puede cortocircuitar el criterio profesional de un filtrador de denuncias. Se supone que la Herramienta de Familias de Allegheny está diseñada para contribuir a la toma de decisiones humanas en el centro de atención telefónica, no para suplantarla. Sin embargo, en la práctica, el algoritmo parece ejercer la función de instruir al personal de cribado. Es más, si la herramienta de cribado otorga a una familia una puntuación de riesgo que excede el 20, el sistema impone automáticamente una investigación, a menos que un supervisor la anule. “Los modelos son opiniones incrustadas en matemáticas”. Los modelos son útiles porque nos permiten eliminar la información superflua y centrarnos solo en los datos esenciales para los resultados que intentamos predecir. Pero también son abstracciones. La elección de lo que se incorpora en ellos refleja las prioridades y preocupaciones de sus diseñadores. La toma de decisiones humana se refleja en los tres componentes clave de la Herramienta de Cribado de Familias de Allegheny: variables de resultados, variables predictivas y datos de validación.
Las variables de resultados son lo que se mide para indicar el fenómeno que se pretende predecir. En el caso de la Herramienta de Cribado de Familias de Allegheny, al condado le preocupa el maltrato infantil y, en concreto, prevenir posibles muertes. Sin embargo, el número de accidentes mortales o graves provocados por maltrato en el condado de Allegheny es ínfimo; por suerte, solo unos pocos al año. Y no es posible construir un modelo estadísticamente significativo con datos tan escasos. La definición de los fundamentos es imprecisa y no puede utilizarse como una variable de resultados. Aunque con vendría más utilizar una medida más directa, la herramienta de cribado emplea dos variables interrelacionadas, denominadas “indicadores indirectos”, como reemplazo del maltrato infantil. El prime r indicador indirecto es la reincidencia. El segundo indicador indirecto es la reubicación de niños. En realidad, la Herramienta de Cribado e Familias de Allegheny predice las decisiones que adoptarán la comunidad (sobre qué familias se recibirán notificaciones a través de la línea de atención telefónica), el organismo y los tribunales familiares (qué niños serán separados de sus familias), no qué niños serán maltratados. Para elaborar modelos predictivos que funcionen con precisión se necesitan medidas claras y sin ambigüedades con multitud de datos asociados. Pero eso implica que el modelo tiene que poner a prueba los datos disponibles. “No disponemos de una variable de resultados infalible. No creemos que existan indicadores indirectos del peligro perfectos”. Las variables predictivas son los fragmentos de datos dentro de un conjunto de datos correlacionados con las variables de resultados. Para halar las variables predictivas e la herramienta de cribado, el equipo de programadores ejecutó un procedimiento estadístico denominado “regresión probit por pasos”, un proceso de minería de datos habitual pero no exento de polémica. Este método informatizado descarta variables que no están lo suficientemente correlacionadas con las variables de resultados para tener relevancia estadística. Dicho de otro modo, explora toda la información disponible con objeto de eliminar las variables que varían en paralelo al aspecto que se intenta medir, lo cual hace que se acuse a este método de ser una especie de “dragado de datos” o una “expedición de pesca estadística”. Con todo, aunque una regresión detecte factores que predictiblemente ascienden y descienden juntos, no es lo mismo una correlación que un nexo causal. Los datos de validación se utilizan para comprobar la precisión de un modelo. La Herramienta de Cribado de Familias del condado de Allegheny presenta defectos de diseño inherentes que limitan su precisión. Predice las denuncias de maltrato y abandono infantil que se recibirán por vía telefónica y la retirada de tutela de los niños a sus familias (indicadores indirectos hipotéticos de maltrato infantil), no el maltrato infantil real. El conjunto de datos que utiliza solo contiene información acerca de familias que acceden a los servicios sociales, de manera que podría estar pasando por alto factores clave que influyen en el maltrato y el abandono. Y, por último, solo presenta una precisión media. De lo único que se tiene garantía es de que produce miles de falsos positivos y falsos negativos al año.
Los traumas habituales de formar parte de la clase obrera en EEUU son problemas de salud, temporadas de desempleo y discapacidad física. Un método para acosar a alguien son las denuncias falsas. La balanza siempre se inclina en favor del organismo ante el que se ha denunciado: “Asusta. Te pones a pensar que te van a quitar a tus hijos”.
Resumir toda la historia de unos padres con un solo número es deshumanizador. El modelo hará que les resulte aún más difícil ejercer los limitados derechos que el sistema les otorga. El modelo predictivo “va a ser un fracaso. Hay demasiados riesgos. Todo el mundo es un riesgo”. Cualquier padre de su comunidad podría encajar en un perfil de la herramienta de cribado por el mero hecho de ser negro y pobre. La tasa de retirada de custodia a las familias de niños dominicanos, puertorriqueños, afroamericanos y amerindios excede con mucho su representación en la población en general. Los niños afroamericanos tienen más de dos veces y media más probabilidades de terminar en hogares de acogida de lo que deberían, a tenor de la proporción que representan en la población. La desproporcionalidad racial, en su gran mayoría, en los servicios de protección a la infancia en el condado se debe a un criterio de denuncia, no a un criterio de cribado. La comunidad telefonea al número de atención por abandono y maltrato infantil con más frecuencia para denunciar a familias negras o birraciales que a familias blancas. La falta de proporcionalidad en las denuncias respondía en muchos casos a la idea errónea que los informantes de oficio tenían de la función de dicha oficina, a su percepción de los problemas que hay en los barrios donde viven personas de color y a unas expectativas sobre la crianza que guardan relación con la clase social. Una vez se denunciaba la situación de los niños ante la Oficina, el criterio de los examinadores no afectaba demasiado a la desproporcionalidad.
La Herramienta de Cribado de Familias de Allegheny centra toda su capacidad predictiva y su poder informático en el filtrado de llamadas, que es la fase que puede controlar experimentalmente, en lugar de concentrarse en las denuncias, que es donde la desproporcionalidad racial penetra en el sistema. Entre bastidores, la herramienta de cribado genera dos puntuaciones: la probabilidad de que se efectúa otra llamada a la línea de socorro informando de algún tema relacionado con el niño y la probabilidad de reubicar al niño en un hogar de acogida. La herramienta no crea una media entre ambas magnitudes , sobre la que podría actuar el criterio profesional de los examinadores de la Oficina de Infancia, Juventud y Familia y de los jueces de los tribunales de familia para mitigar parte de la desproporcionalidad causada por las denuncias en la comunidad. El modelo se limita a utilizar la cifra más alta. Las denuncias falsas introducen datos contaminados en el modelo y comprometen más sicabe su precisión. Vecinos con quienes se tiene enemistad, cónyuges separados que batallan por la custodia de sus hijos, propietarios de viviendas y familiares con rencillas personales suelen telefonear a la Oficina a modo de castigo o venganza. En torno al cuatro por ciento de las denuncias de maltrato infantil eran intencionalmente falsas. Aunque es ilegal presentar una denuncia falsa por abandono y maltrato infantil a través del número de atención telefónica, en la actualidad Pensilvania acepta denuncias de personas anónimas, asi que poca cosa pueden hacer los padres si un vecino, pariente o conocido decide acosarlos o intimidarlos de este modo. La herramienta de cribado no tiene modo alguno de identificar o descartar las denuncias falsas. La denuncia telefónica es un indicador indirecto de maltrato infantil profundamente problemático, porque es muy fácil de manipular. Los estudios de investigación realizados por la propia Oficina de Infancia, Juventud y Familia demuestran que es responsable de casi toda la desproporcionalidad racial que existe en el sistema de protección a la infancia del país. La actividad que introduce el sesgo más racial en el sistema es la propia definición que el modelo hace del “maltrato”.
La inmensa mayoría de las familias que tienen relación con la Oficina de Infancia, Juventud y Familia del condado de Allegheny, tanto blancas como negras, son pobres o de clase obrera. En el condado de Allegheny la desproporcionalidad basada en la clase social es peor que la desproporcionalidad racial. Sin embargo, a diferencia de otros grupos históricamente desfavorecidos, los pobres no cuentan con un reconocimiento generalizado como una clase legalmente protegida, de manera que la atención desproporcionada y discriminatoria puesta en las familias pobres por las oficinas de protección a la infancia normalmente ni siquiera se tiene en cuenta. La herramienta de cribado contempla el uso de los servicios sociales como un riesgo para los niños. Una cuarta parte de las variables predictivas de dicha herramienta son medidas relacionadas directamente con la pobreza. Otra cuarta parte mide la interacción con la libertad vigilada juvenil y la propia Oficina de Infancia, Juventud y Familia, sistemas que se centran de manera desproporcionada en las comunidades pobres y de clase obrera y, en especial, en las de color. Las familias de la clase profesional tienen más privacidad, interactúan con menos informantes de oficio y disfrutan de una mayor aprobación cultural por la forma de criar a sus hijos que las familias pobres o de clase obrera. La otra mitad de las variables del modelo incluyen la edad y el número de niños en el hogar, la edad y el número de progenitores, características del supuesto perpetrador del maltrato, quién ha denunciado el supuesto maltrato, la situación de salud mental y el consumo de drogas. La inmensa mayoría de las investigaciones de protección a la infancia en EEUU son por abandono, no por maltrato. El 75% de los niños fueron evaluados por abandono, mientras que solo un cuarto se investigaron por maltrato físico o emocional o por abusos sexuales. La definición del abandono depende de un criterio más subjetivo que el maltrato físico o los abusos sexuales. “El abandono es muy amplio”. Casi todos los indicadores de abandono infantil son también indicadores de pobreza: falta de alimento, viviendas inadecuadas, guarderías sin licencia, transporte poco fiable, cortes de servicios básicos, sinhogarismo y falta de atención sanitaria. “La gran mayoría de los casos son por abandono y corresponden a personas que viven en barrios conflictivos e inseguros. Hay problemas de vivienda, cuidados médicos inadecuados y consumo de alcohol y drogas. Pero eso es la pobreza. La realidad es que la mayoría de los niños investigados no sufren maltrato físico ni abusos sexuales”. Los servicios de protección a la infancia no están sujetos a una evaluación de los recursos económicos; no es necesario tener una renta baja para acceder a ellos. Sin embargo, las familias de la clase media profesional suelen decantarse por recursos privados, de manera que no se lleva un registro de sus interacciones con los profesionales de la asistencia, y dichas interacciones no se reflejan en el almacén de datos. Las familias evitan la Oficina de Infancia, Juventud y Familia si pueden permitírselo, porque el organismo desempeña dos papeles diferenciados y contradictorios: por un lado, proporciona apoyo a las familias y, por el otro, investiga el maltrato. Aceptar recursos implica aceptar la autoridad del organismo para quitarte a tus hijos. Se trata de un canje aterrador e intrusivo que los padres con otras opciones normalmente no eligen por voluntad propia. Las familias pobres y de clase obrera se ven obligadas a canjear sus derechos a la privacidad, la protección frente a investigaciones desmedidas y el respeto de las garantías procesales a cambio de una oportunidad de acceder a los recursos y servicios que necesitan para ofrecer seguridad a sus hijos. “Tenemos un muestreo excesivo de pobres. Todos los sistemas de datos de los que disponemos son sesgados”. Podríamos hablar de “elaboración de perfiles de pobres”. Como la elaboración de perfiles raciales, la elaboración de perfiles de pobres somete a las personas a un control adicional en base no a su conducta, sino a una característica personal: que viven en la pobreza. Y puesto que el modelo confunde la crianza siendo pobre con una crianza pobre, la herramienta de cribado contempla a los padres que recurren a las ayudas de bienestar social como un riesgo para sus hijos. Recibir el apoyo del sistema comporta decisiones que pueden romper el corazón. “Pon a Jermiah en un hogar de acogida y te ayudaremos”. Tienes que renunciar a tu hijo”. Su hijo fue a parar a una familia de acogida. Jasnine recibió ayuda para buscar una vivienda estable y asistencia médica. Y aunque sigue manteniendo contacto con Jeremiah, que tiene ahora veintidós años y estudia en la universidad, nunca recuperó la custodia. “Conseguir apoyo para criar a tus hijos es fantástico. Pero los servicios de la Oficina a menudo tienen más de barrera que de ayuda, y añaden una nueva y frustrante capa de responsabilidad al hecho de trabajar y ser madre soltera. Los servicios de prevención del alcoholismo y la toxicomanía se presentan en mi casa una vez a la semana para realizarle pruebas. Y tengo que presentarme ante el juez cada tres meses. Además, tengo que acudir a terapia para mí y llevar a terapia a mis hijos”. Pensilvania rebajó el baremo de lo que constituye maltrato infantil. Además, el estado creó quince categorías de informantes de oficio, incluyendo personal de escuelas y el sistema sanitario, voluntarios, clero y bibliotecarios. Por ley, los informantes de oficio deben denunciar cualquier sospecha de abandono o maltrato infantil, tanto si la han conocido de primera mano como si les ha llegado a través de un tercero. Los informantes de oficio no tienen que explicar cómo han tenido noticia del supuesto maltrato o abandono. Y gozan de inmunidad judicial. Además, están protegidos si quebrantan la confidencialidad atribuida a la salud mental y médica. Es más, se los puede juzgar, multar e incluso encarcelar si no informan de sus sospechas. En el año posterior a los cambios en la legislación, las llamadas para reportar casos de abandono y maltrato aumentaron en un 40%. Las personas que tienen más probabilidades de ofrecer ayuda y apoyo a los padres son los informantes de oficio: profesores, personal médico y de enfermería, psiquiatras y psicólogos, trabajadores de guarderías, sacerdotes, voluntarios en los programas de extraescolares y empleados de los organismos de los servicios sociales. La presión frente a un control tan invasivo y el coste de no cumplir las expectativas del organismo son inmensos. Y esa presión suele abrumar a unos padres que ya de por sí tienen dificultades para salir adelante.
Si una investigación por abandono y maltrato infantil fuera un acto benigno, tal vez no importaría que la Herramienta de Cribado de Familias de Allegheny fuera imperfecta en sus predicciones. Si una investigación por abandono y maltrato infantil se saldara con el ofrecimiento a las familias de unos recursos adecuados, culturalmente apropiados y no punitivos, no importaría que el sistema sobrerrepresentase a los pobres y a la gente de la clase obrera. Pero los recursos de la Oficina comportan un aumento del control y unos requisitos de conducta de cumplimiento obligatorio. Para muchas personas, una investigación por abandono o maltrato infantil es un hecho intrusivo y temible con repercusiones negativas duraderas. El precio de obtener ayuda de la Oficina de Infancia, Juventud y Familia puede ser alto. Janine explica que “tienes que renunciar a tu hijo” y ponerlo en un ho0gar de acogida antes de recibir ayuda. El calendario de Sarah está lleno de citas con profesionales de los servicios sociales a quienes debe complacer con muestras de servilismo. Se sentía observado, controlado y juzgado. Una vez entran en el “sistema”, el control microscópico eleva la vara de medir su crianza tan alto que están destinados a perder. “Intentamos satisfacer las exigencias. Pero es imposible llegar a todo. Cada cosa acarrea diez más. Es una espiral descendente”. Criar hijos siendo pobre significa criar en público. El objetivo del estado de Pensilvania para la seguridad infantil, “estar exento de daño emocional o físico inmediato”, puede resultar difícil de alcanzar incluso para las familias con recursos. Cada fase del proceso introduce el potencial de la subjetividad, los prejuicios y la mera suerte. Cuando se abre la puerta algo que no nos preocupaba en absoluto puede crecer rápidamente y convertirse en un gran problema”. No cumplir los objetivos de seguridad aumenta la probabilidad de pérdida de la custodia de un niño. “Aumentamos el nivel de la crianza y luego no disponemos de los recursos suficientes para que mantengan ese nivel. Con excesiva frecuencia, el resultado es un fracaso estrepitoso”.
Además, los casos de cancelación de antecedentes por maltrato infantil son un proceso mucho más laborioso que los caos de cancelación de antecedentes penales. Se supone que, por el hecho de haber tenido una mala madre, no se tiene un modelo mental de cómo criar, así que el condado tiene que vigilarla. “Personalmente, simpatizo con la idea de la redención, pero desprendernos de datos que pueden prevenir el maltrato y el abandono equivaldría a renunciar a la herramienta más útil que tenemos para evitar casos futuros”. “Todo el mundo tiene derecho al respeto de las garantías procesales en nuestro sistema, y ese proceso es lo que determina si la Oficina de Infancia, Juventud y Familia puede conservar un informe r3eelativo a una persona durante el resto de su vida”. El estigma social que comporta la relación con la Oficina de Infancia, Juventud y Familia es importante, y el nivel de intrusismo es intenso. El hecho de que todas las decisiones respecto a la crianza de los hijos se observen, monitoricen y corrijan puede aumentar la sensación de los padres de estar en el punto de mira y atrapados. “A muchas mujeres de por aquí les han quitado a sus hijos. Tienes que estar callada. Y así lo único que se consigue es construir una cultura de la desconfianza”. Cuando la Oficina de Infancia, Juventud y Familia inicia una investigación, los padres solo tienen dos alternativas: plantar cara a los dictados del organismo y arriesgarse a perder a sus hijos o someterse sin ambigüedades a la autoridad de la Oficina. Al igual que muchos agentes de policía, muchos asistentes sociales que trabajan en protección a la infancia consideran la resistencia un indicador de culpabilidad. Si un padre “responde adecuadamente a los requisitos” de la Oficina, “reconoce los problemas” y “se pone en contacto con la asistencia social para buscar ayuda adicional”, se considera que presenta un riesgo mínimo para sus hijos. En cambio, “si opone una resistencia activa al contacto o la implicación del organismo (…) y obstaculiza la investigación” o “niega los problemas”, se lo considera de alto riesgo. Las familias de la clase media profesional buscan ayuda todo el tiempo: en psicólogos, centros privados de rehabilitación por toxicomanía y alcoholismo, en niñeras, canguros, actividades extraescolares, campamentos de verano, tutores y médicos de cabecera. Sin embargo, al tratarse de recursos financiados de su propio bolsillo, ninguna de esas solicitudes de ayuda acaba figurando en el almacén de datos del condado de Allegheny. En cambio, cuando es una familia pobre o de clase obrera quien manifiesta esa voluntad de pedir ayuda, por el hecho de solicitar recursos públicos, la herramienta de cribado la etiqueta como un riesgo para sus hijos, por más que la Oficina de Infancia, Juventud y Familia considere que solicitar recursos es un punto a favor de los padres. ¿No debería eso demostrar que, por el contrario, es una persona responsable que solicitó ayuda cuando la necesitaba?
Prefieren que sea una persona imperfecta la que adopte las decisiones acerca de su familia antes que lo haga un ordenador infalible. “A una persona le puedes explicar cómo prefieres que te traten. La gente llega con una opinión formada, pero a veces puedes cambiarla. Es posible hacer cambiar de idea a una persona. En cambio, ese número no se puede modificar”. Los prejuicios humanos han supuesto un problema para el ámbito de la protección a la infancia desde sus inicios. Se pensaba que los hijos de católicos eran incorregibles. Al igual que las familias negras y amerindias. Ahora bien, el criterio humano es un factor incluido también en el modelo de predicción de riesgos. Las variables de resultados son indicadores indirectos de maltrato infantil, es decir, no reflejan el maltrato y abandono reales. La elección de las variables indirectas, incluso el mero hecho de que se empleen indicadores indirectos, es un reflejo de criterios humanos. Las variables predictivas se derivan de un universo limitado de datos que incluye exclusivamente información sobre ayudas públicas. La opción de aceptar esta limitación de los datos refleja el criterio humano subyacente al modelo… y la suposición de que las familias de clase media merecen más intimidad que las familias pobres. Los datos de validación del modelo son un compendio de decisiones tomadas por asistentes sociales, investigadores y jueces, y llevan la impronta de sus prejuicios. El criterio automatizado del modelo predictivo, en realidad, es el criterio de unas cuantas personas. El criterio humano, en cambio, es el criterio de muchas. Con defectos y falible, si, pero también sujeto a corrección. La filosofía que contempla a los seres humanos como cajas negras incognoscibles y a las máquinas como herramientas transparentes resulta muy desconcertante. Es una visión del mundo que renuncia a cualquier muestra de empatía y niega cualquier posibilidad de desarrollo ético. La presunción de que la toma de decisiones humanas es opaca e inaccesible equivale a admitir que hemos abandonado el compromiso social de intentar entendernos entre nosotros. Los anhelos de la gente pobre y de la clase obrera de Allegheny van más allá: aspiran a que se reconozca su cualidad humana, a que se entienda su contexto ya que se aproveche su potencial para establecer vínculos y generar comunidad. “Un ordenador solo sabe lo que el programador le introduce. Yo confío más en los asistentes sociales, (…) porque puedes hablar con ellos y decirles: “¿Pero, no entiendes que el problema es otro, más general?”.
La Herramienta de Cribados de Familias de Allegheny interpreta el uso de recursos públicos como un signo de debilidad, deficiencia e incluso maldad. Es una herramienta automatizada que considera a los padres que recurren a los programas de los servicios sociales como un peligro para sus hijos. Poner el foco en familias “de alto riesgo” puede llevar a estas a retirarse de las redes que proporcionan servicios y apoyo y que generan comunidad. Entre los mayores factores de riesgo para el abandono o el maltrato infantil se incluyen el aislamiento social, las privaciones materiales y el estrés de los progenitores, todo lo cual aumenta cuando los padres se sienten vigilados en todo momento, pierden los recursos que necesitan o temen pedir ayuda a los programas de bienestar social. Es una ironía terrible que la herramienta de cribado pueda crear el mismo maltrato que pretende evitar. Cuesta afirmar que un modelo predictivo funciona si produce el resultado que pretende medir. Una familia con una puntuación de alto riesgo será sometida a un mayor escrutinio que otras. Conductas normales que no despertarían suspicacia alguna se convierten, tras la puntuación de la herramienta de cribado, en el elemento decisivo para llevar a cabo una investigación. A partir de ese momento, es más probable que se reciban denuncias relativas a uno de los progenitores en el número de atención telefónica, pues los vecinos vieron a los servicios de protección a la infancia en la puerta de al lado la semana anterior. Gracias en parte a esa puntuación de alto riesgo, el padre o la madre se convierten en diana de un trato más punitivo, deben satisfacer expectativas más exigentes impuestas por el organismo y se enfrentan a un juicio más severo. Y si pierden a sus hijos, el modelo de riesgo se anota otra predicción acertada.
Solo el 37% de las llamadas que pusieron en marcha una investigación obligatoria tuvieron una causa justificada. El hecho de que el número de llamadas admitidas no haya cambiado demasiado y que el número de investigaciones llevadas a cabo haya aumentado podría sugerir que la herramienta de cribado está modulando el proceso de toma de decisiones del propio organismo. La Oficina de Infancia, Juventud y Familia “no pretende llamar a la puerta de nadie y decir : “Usted supone un alto riesgo de maltrato para su hijo””. Sin embargo, eso es exactamente lo que han hecho otros modelos de riesgo, como el algoritmo que genera la “lista de principales sospechosos” de cometer delitos violentos empleado por el Departamento de Policía de Chicago. El modelo puede utilizarse de manera abusiva.
El asilo digital
El 51% de los estadounidenses vivirán al menos durante un año por debajo del umbral de la pobreza entre los 20 y los 65 años. Dos tercios de ellos accederán a la asistencia de recursos públicos. La relación con la pobreza en EEUU siempre se ha caracterizado por lo que el sociólogo Stanley Cohen denomina “negacionismo cultural”. El negacionismo cultural es el proceso que nos permite tener constancia de la existencia de crueldad, discriminación y represión, pero no reconocerla nunca abiertamente. El negacionismo cultural no es solo un atributo psicológico o personal de los individuos: es un proceso social organizado y apuntalado por el sistema escolar ¡, el gobierno, la religión, los medios de comunicación y otras instituciones. La colosal y costosa burocracia de los servicios sociales del país tiene por fin principal investigar si el padecimiento de las personas es culpa suya. Tanto los medios de comunicación como los comentaristas políticos niegan la pobreza y retratan a los pobres como una minoría patológicamente dependiente y peligrosa para la sociedad de la clase media profesional. Y en esto coinciden liberales y conservadores: voces de la derecha tildan a los pobres de parásitos, mientras que desde la izquierda se retuercen las manos en gesto paternalista hablando de la incapacidad de los pobres de tomar las riendas de sus propias vidas. La pobreza solo se reconoce cuando los pobres y la clase obrera construyen movimientos de base que desafían de manera el status quo mediante manifestaciones y protestas disruptivas. Cuando los pobres se organizan y luchan por sus derechos y su supervivencia ganan. Sin embargo, las instituciones de gestión de la pobreza como los asilos para menesterosos, la caridad científica y el sistema de protección social, suelen ser asombrosamente adaptables y duraderas. El impulso de desviar, reprimir, controlar o castigar a los pobres persiste, por más que la forma de las instituciones que regula la pobreza cambie con el paso del tiempo. Las instituciones de ayuda son máquinas para socavar el poder colectivo de los pobres y la clase obrera, y para producir indiferencia en el resto de las personas.
Estas visión miope de la novedad hace que se nos pase por alto cuán profundamente están incrustadas las herramientas digitales en los viejos sistemas de poder y privilegios. Solo la fantasía pude llevar a creer que un modelo estadístico o un algoritmo de clasificación cambiará drásticamente, como por arte de magia, una cultura, unas políticas y unas instituciones construidas a lo largo de los siglos. El asilo digital desvía a los pobres de los recursos públicos. Como la caridad científica, investiga , clasifica y criminaliza. Y como las herramientas acunadas durante la reacción en contra de los derechos sociales, utiliza bases de datos integradas para marcar objetivos, rastrearlos y castigarlos.
Desviar a los pobres de los recursos públicos: Indiana
El asilo digital erige barreras para los pobres y las personas de clase obrera que intentan acceder a recursos compartidos. En Indiana, la combinación de la automatización de la elegibilidad y la privatización logró una reducción pasmosa de las listas de la asistencia social. Unos procesos administrativos engorrosos y unas expectativas irrazonables evitaban que las personas accedieran a beneficios a los que tenían derecho y que merecían. Y unas normas frágiles y unos parámetros de rendimiento mal diseñados conllevaban que cuando se cometían errores siempre se interpretaran como falta del solicitante, no del Estado ni de la empresa contratista. La suposición de que las herramientas para la toma automatizada de decisiones eran infalibles conllevó que las decisiones informatizadas prevalecieran sobre los procesos destinados a proporcionar a los solicitantes unos procedimientos justos. Y el resultado fue la denegación de un millón de prestaciones. El experimento con la elegibilidad en Indiana se desmoronó porque no logró relatar una historia convincente acerca de la “indignidad”. La hostilidad de la Administración de Daniels hacia los pobres era indiscriminada. Sus defensores argumentaban que aquellas eran víctimas inocentes y que el plan haría aguas frente a la tendencia natural de los habitantes de Indiana a la caridad y la compasión. Aunque laq exclusión social automatizada se extiende por el país, pr4esenta puntos débiles clave en cuanto que estrategia de opresión en función de la clase social. De ahí que, cuando el desvío de las ayudas públicas falla, el asilo digital cree algo aún más insidioso: una narrativa moral que criminaliza a la mayoría de los pobres al tiempo que proporciona unos recursos vitales a unos cuantos afortunados.
Clasificar y criminalizar a los pobres: Los Ángeles
Los proveedores de servicios para personas sin techo en el condado de Los Ángeles aspiran a utilizar los recursos de manera eficiente, a establecer una colaboración más efectiva, y quizá, a delegar la desgarradora elección de cuáles de las sesenta mil personas sin hogar deben recibir ayuda. Según sus diseñadores, el sistema de entrada coordinada del condado establece una correspondencia entre la necesidad más acuciante y el recurso más adecuado. Sin embargo, existe otro modo de entender la función de categorización del sistema de entrada coordinada: como0 un análisis de costes y beneficios. Es más barato proporcionar viviendas de apoyo a la reinserción a las personas desamparadas más vulnerables y en una situación cronificada que mantenerlas en las salas de urgencias, en las instalaciones de salud mental o en las cárceles. Y es más barato proporcionar a las personas sin techo menos vulnerables un realojo r4ápido que comporte una inversión reducida y limitada en el tiempo que dejar que se conviertan en personas desamparadas cronificadas. Esta clasificación social funciona bien para quienes ocupan los peldaños inferior y superior de las puntuaciones. Pero si el coste de tu supervivencia supera los ahorros potenciales de los contribuyentes, tu vida desciende escalones en la jerarquía de prioridades. Los datos de los sin techo de Los Ángeles que no reciben ningún tipo de ayuda permanecen en el Sistema de Información para la Gestión de las Personas Sin hogar durante siete años. Existen pocas medidas de seguridad para proteger la información personal, y el Departamento de Policía de Los Ángeles puede acceder a ella sin necesidad de orden judicial. Y ello da carta blanca a las fuerzas del orden para hacer redadas. La integración de los servicios de policía y de personas sin hogar difumina la frontera entre el mantenimiento de la seguridad económica y la investigación de delitos, entre la pobreza y la delincuencia, y tensa la red de restricciones que rastrea y atrapa a las personas desamparadas. Esta red obliga a rodearse de una infraestructura basada en datos y a dotarse de sistemas de clasificación y filtrado moral. Los datos recopilados por la entrada coordinada también crean un nuevo relato sobre el sinhogarismo en Los Ángeles. Dicho relato tiene dos vertientes. Según la versión optimista, disponer de datos más matizados ayuda al condado-y al país- a afrontar su catastrófico fracaso a la hora de cuidar de nuestros vecinos sin vivienda. Según la versión pesimista, el mero hecho de clasificar a las personas sin techo en una escala de vulnerabilidad erosiona el apoyo público hacia los sintecho en cuanto que colectivo y transmite a las personas de la clase media profesional la impresión de que quienes verdaderamente lo necesitan reciben ayuda, mientras que quienes no consiguen los recursos es porque o bien son unos delincuentes, o bien son esencialmente imposibles de controlar. Cuando el asilo digital se limita a prohibir el acceso a las ayudas públicas, como sucedió en Indiana, resulta bastante fácil plantarle cara. Pero la clasificación y la criminalización funcionan incluyendo a las personas pobres y de clase obrera en sistemas que restringen sus derechos y les niegan sus necesidades humanas básicas. El asilo digital no se limita a excluir, sino que introduce a millones de personas en un istema de control que pone en riesgo su humanidad y su autodeterminación.
Predecir el comportamiento futuro de los pobres: condado de Allegheny
Sistemas predictivos como la Herramienta de Cribado de Familias de Allegheny especulan sobre cómo es probable que actúe una persona en el futuro en función de los patrones conductuales mostrados por personas similares en el pasado. La clasificación compara el comportamiento individual con el del grupo. En cambio, la predicción va destinada a las redes. La Herramienta de Cribado de Familias de Allegheny se ejecuta para cada miembro de un hogar, no solo para el progenitor o el niño sobre el cual se ha recibido la denuncia telefónica. Bajo el nuevo régimen predictivo, no solo tus acciones tienen repercusiones en tu vida, sino también las acciones de tus amantes, convivientes, familiares y vecinos. A diferencia de la clasificación, la predicción es intergeneracional. Por consiguiente, las repercusiones d e los modelos predictivos son exponenciales. Dado que la predicción depende de las redes y se extiende a varias generaciones, el daño que causa tiene el potencial de propagarse como un contagio del punto de contacto inicial a parientes y amigos, luego a los amigos de los amigos y, poco a poco, a toda la comunidad, como un virus. Ningún sistema de regulación de la pobreza de la historia ha concentrado tantos esfuerzos en intentar averiguar como podrían comportarse sus beneficiarios. Y eso se debe a que, como colectivo, nos preocupa menos el sufrimiento de quienes viven en la pobreza que la amenaza potencial que puedan representar para los demás. La Herramienta de Cribado de Familias de Allegheny responde a un problema real e importante. En ocasiones, las personas que deberían cuidar a los niños les hacen cosas atroces, y es correcto que el estado interceda para proteger a quienes no pueden defenderse por si mismos. Con todo, ni siquiera la posibilidad de causar un daño extraordinario justifica laq experimentación sin supervisión a la cual se somete a las familias pobres. La clase media profesional jamás toleraría que una herramienta de cribado evaluara la forma de criar a sus hijos. El hecho de que se despliegue contra quienes no tienen más remedio que aceptarlo es discriminatorio, antidemocrático e imperdonable.
Los paralelismos entre el asilo para menesterosos del condado y el asilo digital son pasmosos. Ambos desvían a los pobres de las ayudas públicas, limitan su movilidad, imponen el trabajo, dividen familias, conllevan una pérdida de derechos civiles, utilizan a los pobres como conejillos de Indias , criminalizan la supervivencia, construyen clasificaciones morales sospechosas, crean una distancia ética para la clase media y reproducen jerarquías racistas y clasistas del valor y la valía humanos. En la actualidad, el asilo digital responde a lo que Barbara Ehrenreich ha descrito como el “miedo a caer” de la clase media profesional, desesperada por preservar su estatus frente al colapso de la clase obrera bajo ella, la grotesca acumulación de la riqueza sobre ella y la creciente diversidad demográfica del país, escribe Ehrenreich, ha abandonado en gran medida los ideales de justicia e igualdad. La vigilancia y la clasificación social digitales nos fragmentan en microgrupos cada vez más reducidos sometidos a distintos tipos de agresión y control. Habitar en un asilo para menesterosos invisible nos aísla cada vez más y nos aparta de quienes nos rodean, aunque compartan nuestro sufrimiento. El asilo digital es difícil de entender. El software, los algoritmos y los modelos subyacentes son complejos y, con frecuencia, secretos. En ocasiones están protegidos por procesos empresariales. Otras veces los detalles operativos de una herramienta de alta tecnología se mantienen en secreto para que sus usuarios no puedan engañar al algoritmo. Cuando te deniegan prestaciones a las que sabes que tienes derecho y no te explican por qué, lo que vienen a decirte es : “ Vales tan poco que te vamos a negar una ayuda que podría salvarte la vida por que nos da la gana”. El asilo digital puede ampliarse hasta el infinito. Herramientas de alta tecnología como los sistemas de toma automatizada de decisiones, los algoritmos de correspondencia y los modelos de predicción de riesgos tienen el potencial de propagarse a gran velocidad. Los centros de atención telefónica de la empresa concesionaria en Indiana rechazaban las solicitudes de ayudas sociales a una velocidad hasta entonces inimaginable, en parte porque los telefonistas consumían menos tiempo que los asistentes sociales entablando vínculos personales. El sistema de entrada coordinada pasó de ser un proyecto piloto con financiación privada aplicado en un único barrio a ser la puerta de acceso financiada por el Gobierno a todos los servicios para sintecho del condado de Los Ángeles(y sus diez millones de residentes) en menos de cuatro años. El asilo digital es persistente. Una vez se amplían, los sistemas digitales pueden resultar asombrosamente difíciles de desmantelar. Una vez se fraccionan los deberes de los asistentes sociales en tareas discretas e intercambiables 0, se instala un algoritmo de clasificación y un sistema de información para la gestión de los sintecho, o se integra toda la información de los servicios sociales en un almacén de datos, es casi imposible revertir la situación. Las nuevas contrataciones exigen nuevos conjuntos de habilidades, aptitudes y competencias. Los contratos multimillonarios generan intereses que las empresas deben proteger. Una puntuación que promete predecir el maltrato infantil enseguida se vuelve imposible de pasar por alto. Ahora que se ha puesto en marcha la Herramienta de Cribado de Familias de Allegheny, el temor a las consecuencias de no usarla consolidará su lugar central y permanente en el sistema. Las nuevas tecnologías cobran impulso al integrarse en las instituciones. Y a medida que maduran devienen cada vez más difíciles de impugnar, redirigir o arrancar. El asilo digital es eterno. Los datos del asilo digital durarán muchísimo tiempo. En la época de los archivos de papel, la obsolescencia era inevitable, debido a que la propia existencia física creaba problemas de almacenamiento. En cambio, el asilo digital promete un registro eterno. Las decisiones pasadas que resultaron lesivas para otras personas deben tener consecuencias. Pero que te persigan de por vida por un diagnóstico de trastorno mental, una acusación de abandono infantil o unos antecedentes penales reduce las opciones en la vida, limita tu autonomía y deteriora tu autodeterminación. Además, retener los datos de los servicios sociales ad infinitum agrava el riesgo de que se produzcan filtraciones o revelaciones indebidas. El registro eterno es un castigo y una venganza. No tiene nada que ver con la justicia. Pero la justicia impone la posibilidad de la redención y la capacidad de volver a empezar de cero. Nos exige hallar maneras de alentar a nuestros sistemas de recopilación de datos a olvidar. el pasado de alguien no debería delimitar su futuro. Todos vivimos en el asilo digital. Siempre hemos vivido en el mundo que construimos para los pobres. Creamos una sociedad que no contempla a los discapacitados ni a los ancianos, y luego se nos margina cuando nos lesionamos o envejecemos. Medimos la valía humana en función de la capacidad de ganar un salario y sufrimos en un mundo que subestima el cuidado y la comunidad. Basamos nuestra economía en explotar la mano de obra de las minorías raciales y étnicas, mientras contemplamos com0 las desigualdades de siempre destruyen el potencial humano. Vemos que el mundo está inevitablemente dividido por una competencia sangrienta, y somos incapaces de reconocer las muchas maneras en que cooperamos y nos ayudamos los unos a los otros. Hoy todos vivimos entre las trampas digitales tendidas a los desamparados.
Es en nuestro propio interés
Ala clase media profesional debería preocuparle el asilo digital ni que fuera por puro egoísmo. Conforme la clase obrera se vacía y la escalera económica se abarrota en los peldaños superior e inferior, la clase media profesional tiene más probabilidades de caer en la pobreza. Incluso aunque no crucemos el umbral de pobreza oficial, es probable que en algún momento debamos recurrir a algún programa de ayudas. En ese caso, las ayudas que encontraremos estarán moduladas por el desprecio con que tratamos a sus destinatarios iniciales: los pobres crónicos. Deberemos hacer frente a procedimientos invasivos y complicados concebidos para restringir nuestro acceso a los recursos públicos. Se recopilarán cantidades ingentes de datos sobre nosotros, que se cribarán, analizarán y compartirán. Nuestra valía, nuestro comportamiento y nuestra red de relaciones serán sometidos aq investigación y nuestros pasos en falso criminalizados. Una vez caigamos en los niveles más pegajosos del asilo digital, su trama de hilos nos dificultará recuperarnos del golpe de mala suerte o de las elecciones erróneas que nos hayan llevado hasta ahí. Las herramientas tecnológicas que se ensayan en los pobres acabarán usándose en todo el mundo. Una catástrofe nacional o un cambio de régimen político podrían justificar el despliegue de toda la capacidad de vigilancia del asilo digital en el espectro completo de clases sociales. Dado que el asilo digital es una red, ámbitos enteros de la vida de la clase media profesional podrían “encenderse” de repente para ser sometidos a escrutinio. Y dado que el asilo digital persiste, un comportamiento perfectamente legal hoy que sea declarado delictivo en el futuro podría utilizarse para perseguir a alguien retroactivamente.
La automatización de la desigualdad es nociva para todos
A todos debería preocuparnos el asilo digital porque intensifica la discriminación y crea un mundo injusto. La discriminación racional no requiere un odio racial o de clase, ni siquiera un prejuicio inconsciente, para funcionar. Lo9 único que exige es no ser consciente del prejuicio que ya se aplica. Cuando las herramientas de toma automatizada de decisiones no se construyen para desmantelar explícitamente desigualdades estructurales, su velocidad y escala las intensifican. El asilo digital sustituye la toma de decisiones, en ocasiones prejuiciada, de los asistentes sociales de primera línea por la discriminación racional de las herramientas de alta tecnología. Administradores y científicos de datos centran la atención pública en la parcialidad que permea los sistemas de toma de decisiones a través de los asistentes sociales, administradores de propiedades, proveedores de servicios y empleados de los centros de admisiones. Acusan indirectamente a sus subordinados, que a menudo trabajan con gente de la clase obrera, de ser los principales causantes de los resultados racistas y clasistas de sus entidades. Y luego, los directores y tecnócratas contratan a economistas e ingenieros para diseñar sistemas más “objetivos” que eliminen las debilidades humanas de sus inferiores económicos. El clasismo y el racismo de las élites se blanquean mediante las matemáticas y se neutralizan mediante la mistificación tecnológica y la magia basada en los datos.
El asilo digital pone en peligro los valores nacionales
El asilo digital facilita la interferencia, el control y la vigilancia gubernamental, y con ello mina la libertad. El auge de las herramientas de alta tecnología ha multiplicado la recopilación, el almacenamiento y la compartición de datos acerca de conductas y decisiones de las personas pobres y de clase obrera. Con excesiva frecuencia, esta vigilancia sirve sobre todo para identificar delitos sancionables que derivan en desvíos de las ayudas públicas y criminalización. Nadie podría defender que los sistemas descritos en este libro suponen una liberación de los trámites burocráticos y la injerencia gubernamental. El asilo digital también obstaculiza la capacidad de los pobres y la clase obrera de ejercer la autodeterminación y actuar con autonomía. La complejidad del asilo digital erosiona la sensación de competencia y habilidad de los usuarios. Con excesiva frecuencia, estas herramientas solo consiguen desmoralizar a la persona hasta que acaba renunciando a cosas a las que tiene derecho, como son recursos, su autonomía, el respeto hacia su persona y su dignidad.
El asilo digital reproduce los prejuicios culturales y debilita el respeto a las garantías procesales, mermando con ello la igualdad en tanto que “trato igualitario”. Las herramientas de alta tecnología incorporan un autoridad y una pátina de objetividad que a menudo nos inducen a creer que sus decisiones son menos discriminatorias que las adoptadas por seres humanos. Sin embargo, también sus decisiones estás sesgadas por los prejuicios introducidos a través de las opciones de programación, la selección de datos y los parámetros de rendimiento. El asilo digital no trata de la misma manera casos parecidos. Asimismo, el asilo digital merma la capacidad de los pobres y la clase obrera para obtener “el mismo valor” de los recursos públicos y la militancia política. Redefine la asistencia social como tratamiento de la información y luego sustituye a los asistentes sociales por ordenadores, de tal manera que los pocos humanos que quedan se convierten en extensiones de algoritmos. Pero la asistencia social no es tratamiento de la información. En su mejor versión, los asistentes sociales fomentan la igualdad y la inclusión ayudando a las familias a sortear la compleja burocracia y, en ocasiones, soslayando las reglas en nombre de una justicia superior. El asilo digital limita también la igualdad a la hora de obtener “el mismo valor” congelando sus objetivos en el tiempo y presentándolos como el conjunto de sus elecciones más difíciles. La igualdad requiere la capacidad de desarrollarse y evolucionar. “Los modelos matemáticos, por su propia naturaleza, se basan en el pasado y en la sunción de que los patrones se repiten”. La justicia reclama la capacidad de evolucionar; el asilo digital, sin embargo, nos encierra en patrones del pasado.
El asilo digital socava la inclusión en cuanto que asimilación. En sus ejemplos más flagrantes actúa con el único cometido de expulsar a las personas de las ayudas gubernamentales. De manera más sutil, el asilo digital fomenta la división social y política mediante la microsegmentación política. La minería de datos crea grupos sociales estadísticos, y luego los legisladores diseñan intervenciones a medida para cada segmento preciso de la sociedad. La gobernabilidad individualizada y a medida tiene más probabilidades de recrudecer las divisiones sociales que de promover la inclusión. Una gobernanza personalizada puede ser idónea para algunas personas, pero agudiza la hostilidad entre los grupos conforme proliferan las percepciones de trato privilegiado. El asilo digital también limita la capacidad de sus destinatarios para conseguir la inclusión “prosperando plenamente como personas”. Los pobres y los trabajadores cobran conciencia de su valía y su valor social comparativo cuando se los somete a escrutinio digital. Los usuarios saben que sus vidas valen menos que las de sus vecinos más pudientes. Otros comprobaron que nadie gana cuando se enfrenta al gobierno. Otros más descubrieron que siempre hay alguien observando que espera muestras de acatamiento y sumisión. Para alguien que supuestamente forma parte de un sistema político justo y democrático, asimilar todas estas lecciones es terrible. El asilo digital niega el acceso a los recursos compartidos. Formula preguntas invasivas y traumatizantes. Hace que resulte difícil entender cómo funciona la burocracia gubernamental, quién tiene acceso a nuestra información y cómo la utiliza. Nos revela que solo pertenecemos a la comunidad política si somos perfectos y nunca cometemos un error. Nos ofrece míseras zanahorias: quince minutos con un psicólogo de la seguridad social, unos pocos dólares en efectivo y una ayuda puntual para pagar el alquiler. En cambio, agita un palo enorme: la retirada de la custodia de nuestros hijos, la perdida de la asistencia sanitaria y el encarcelamiento. El asilo digital es un sistema de gobernanza basado en el “te pillé”, un matón con un gancho de una rapidez letal.
El asilo digital precede a la política
El cálculo moral del asilo digital individualiza el riesgo y sepulta el compromiso social.
En la actualidad, el asilo digital concentra el poder administrativo en manos de una reducida élite. Sus sistemas de datos integrados y su infraestructura de vigilancia digital ofrecen un grado de control sin parangón en la historia. Las herramientas automatizadas para clasificar a los pobres , por sí solas, únicamente generarán una mayor desigualdad.
Conclusión. Desmantelamiento del asilo digital
El primer desafío que afrontamos a la hora de desmantelar el asilo digital es forjar empatía y entendimiento entre los pobres y la clase obrera para fraguar coaliciones políticas ganadoras.
Hay que preguntarse; ¿Mejora la herramienta la autodeterminación y la autonomía de los pobres?¿Se toleraría el uso de su herramienta si no fuera dirigida a los pobres?
El asilo digital mata a personas. La mayoría de ellas son mujeres, niños, enfermos mentales , discapacitados y ancianos. Muchas de ellas son personas pobres y de clase obrera de color. Muchas otras son personas pobres y de clase obrera blancas. Arremeter contra el asilo digital puede ayudar a los movimientos sociales progresistas a desviar la atención de la “policía” para centrarla en los procesos del mantenimiento del orden. El mantenimiento del orden es más amplio que la aplicación de la ley: incluye todos los procesos que usamos para mantener el orden, regular las vidas y encasillar a las personas para que encajen en nuestra sociedad injusta. En la actualidad, el asilo digital emplea herramientas de alta tecnología para hacer inferencias y predicciones, y para controlar acontecimientos que ni siquiera se han producido todavía. Estamos ganando una batalla contra el encarcelamiento masivo justo en el momento histórico en que el asilo digital hace menos necesaria que nunca la institución física de la prisión. Las empresas ya están calculando el inmenso ahorro de construir un estado carcelario digital sin paredes. La violencia del asilo digital es menos directa que la brutalidad policial, y sus operaciones son más difíciles de ver. Pero debemos oponernos a sus clasificaciones moralizadoras. Debemos oponernos al borrado de la historia, el contexto y la estructura.
Lasa maravillas tecnológicas pueden volverse contra los pobres. Nuestra evolución ética va rezagada con respecto a las revoluciones tecnológicas. Por el hecho de haber fracasado como nación en abordar los problemas más cruciales- el desmantelamiento del racismo y el fin de la pobreza- la revolución digital se ha arqueado para amoldarse a la forma de nuestro mundo desigual.
“El hombre se ha vuelto la herramienta de sus herramientas” . Henry David Thoreau
