El departamento de innovación del ejército de EE.UU. (DARPA), acaba de lanzar un programa llamado ‘In the Moment’ (en el momento) que desarrollará una inteligencia artificial que puede decidir a quién se atiende antes durante las emergencias médicas. El objetivo es que la máquina sea capaz de tomar decisiones rápidamente sobre el triaje en momentos de alto estrés como guerras o atentados terroristas.

Durante una guerra, un desastre natural o una emergencia sanitaria como [la que han provocado con] el Covid-19, los servicios médicos tienen que decidir en muy poco tiempo a quién se va a atender primero dependiendo de la gravedad de sus lesiones. Esta clasificación de pacientes se conoce con el nombre de triaje, como bien sabe cualquiera que haya tenido que acudir a los servicios de urgencias de un hospital.

Hacer el triaje durante una emergencia médica significa tomar decisiones en una situación de gran estrés de las que dependen las vidas de muchas personas. En ocasiones estas decisiones son erroneas porque se llevan a cabo precipitadamente o están influidas por los sesgos personales de los médicos que las toman.

El triaje digital de DARPA

El coronel Sohrab Dalal, médico y uno de los jefes de su rama médica de la OTAN, cuenta en declaraciones al Washington Post que el protocolo de triaje tiene casi 200 años y que ya es hora de renovarlo. De hecho la OTAN colabora con investigadores de la Universidad Johns Hopkins para fabricar un asistente de triaje digital que les ayude en este proceso. “Es un uso realmente bueno de la inteligencia artificial”, asegura Dalal. “Lo fundamental es que tratará mejor a los pacientes y salvará vidas”.

El encargado de dirigir este proyecto en DARPA es Matt Turek, su director de programas. Según él, las sugerencias que darán estos algoritmos se basarán en decisiones tomadas previamente por expertos en triaje, aunque la IA no se verá afectada por el estrés de la situación que les rodea como les pasa a los humanos.

Esta inteligencia artificial, asegura Turek para el medio norteamericano, podría identificar recursos como la disponibilidad de medicamentos, el suministro de sangre o la cantidad de personal médico de un hospital cercano para poder tomar la mejor decisión en cada situación. “Eso no cabría en el cerebro de un solo decisor humano”, afirma Turek. “Los algoritmos informáticos pueden encontrar soluciones que los humanos no pueden”.

 

DARPA dice que el programa ‘In the Moment’ tardará unos tres años y medio en desarrollarse y para llevarlo a cabo contarán con la ayuda de empresas externas, como hacen habitualmente. Aunque no ha comentado qué empresas colaborarán en el proyecto ni cuánto dinero hay destinado para el desarrollo.

Una máquina que decide sobre la vida y la muerte

Como era de esperar el anuncio de la creación por parte del ejército de una tecnología con capacidad para decidir sobre la vida de las personas ha levantado bastante polvareda en algunos sectores por sus implicaciones éticas. Sobre todo teniendo en cuenta que ya se ha visto que la inteligencia artificial reproduce los sesgos culturales que tenemos los humanos y que, según los militares, este sesgo es el causante de muchos de los fallos en los triajes.

No saber cómo se acabará concretando este algoritmo ni qué nivel de autonomía tendrá en la toma de decisiones hace que los expertos en ética de la tecnología se planteen muchas preguntas. Peter Asaro, profesor de filosofía en la universidad neoyorquina New School se pregunta cosas como qué sucederá si una explosión en una zona de guerra hiere también a civiles a parte de soldados. ¿Tendrán menos prioridad los civiles aunque estén heridos de gravedad? “Esa es una decisión de valores”, asegura Asaro. “Esto es algo que puedes decirle a la máquina que priorice de ciertas maneras, pero la máquina no va a descubrirlo sola”.

Que la máquina decida quién vive y quién muere es algo que el ejército de EE.UU. no debería permitir. Esta por ver si en tres años serán capaces de solucionar los problemas de sesgo que tienen las inteligencias artificiales en este momento, aunque ya sabemos que el ejercito americano cuenta entre su armanto actual con robots letales autónomos que pueden localizar y destruir objetivos humanos sin preguntarle a nadie antes.

Como ha sucedido en el pasado con otros inventos de DARPA, como el GPS o Internet, este tipo de asistente de triaje digital podría acabar pasando del mundo militar al civil perfectamente.

Omar Kardoudi