Responsabilidad diluida
Víctimas de decisiones digitales

Imagen de freepik

They only hit until you cry
And after that you don't ask why
You just don't argue anymore
Cara A

Los periódicos impulsos de la bomba de infusión suministraban a Bu un cóctel de medicamentos y nutrientes para acelerar su recuperación. 

Una vez con la hija a salvo, la espera de la revisión diaria de la médica ya no era tan dura, y permitía mirar atrás con algo más de serenidad. La cita importante de hoy sería con la policía.

Era evidente la influencia que Ara había desplegado sobre Bu, hasta el punto de llevarla al límite de la muerte.

Siempre le pareció una chica alterada, Ara. 

Ya de pequeña, sus comportamientos requerían constantes avisos y vigilancia, que sin embargo, no parecían afectarla en modo alguno. 

Recordaba especialmente un momento en una fiesta que habían organizado en casa, donde uno de los invitados tuvo que correr hacia el hospital para aplicar unos puntos de sutura a un corte en la cabeza. Siempre había pensado que Ara había preparado cuidadosamente unos coches de juguete en el rellano del piso de arriba, esperando que provocara ese desliz por las escaleras… Se fijó en cómo ella vivió la situación con una sonrisa sarcástica en la cara, y ninguna preocupación por el pobre chico, que lloraba desconsolado con las manos llenas de la sangre que le manaba de la herida en la frente.

Al principio, siempre parecía cordial y educada. Pero sus mentiras eran constantes y fáciles de detectar, y esto siempre me hizo sospechar. 

Involucrada siempre en los grupos agitadores y protagonistas de gamberradas, parecía no sufrir en absoluto por las consecuencias generadas por sus actos. 

Tanto era si eran destrozos materiales, como sufrimiento por otras personas. 

Observándola, parecía que le generaba placer, en vez de remordimientos.

La alerta a su reloj le avisó de la cita con los responsables policiales. Abrió su tableta. Enseguida vio a través de la pantalla, un rostro serio y de fondo un edificio tan frío como todas las comisarías.

 - Buenos días, Sr. Rosés. Sólo unos detalles para formalizar la denuncia por el caso de Bu Rosés.

 - Buenos días. Lo que necesitéis. 

 - ¿Tiene sospechas de que la presionaron hasta llevarla a una situación límite, verdad? 

 - Eso mismo. Ara. Hace tiempo que la persigue. Y creo que es una influencia enfermiza. 

 - Entiendo. Solo quería asegurar que es consciente de que está interponiendo una denuncia penal, que podría generar gastos judiciales y consecuencias para las personas involucradas. Su hija es menor de edad, y también tendrá que participar del proceso una vez se recupere. 

 - Soy consciente. Es necesario que lo analice. Al igual que ha puesto en riesgo a la Bu, otras personas pueden encontrarse en situaciones similares. 

 - De acuerdo. Así lo haremos. 

 - Creo que no se ha realizado una cuidadosa diagnosis clínica de este caso. He consultado con especialistas, y me dicen que probablemente, la conducta de Ara denota un comportamiento psicótico. Es vox populi que Ara estaba en tratamiento, con los nuevos sistemas de inteligencia artificial, después de un expediente de mal comportamiento que le abrió la escuela... DeepPsico, o algo así se llama el sistema. .. Seguro que estas máquinas no han hecho el análisis adecuado. Y ahora mi hija está en el hospital. Por suerte, parece que va a recuperarse. Pero quiero una explicación, además de una compensación por daños y perjuicios. 

 - Es lo que he visto recogido en su denuncia digital. Sin embargo, deje que nuestros expertos valoren el caso, Sr. Rosés. Entendemos la preocupación por su hija, pero tanto los diagnósticos como las responsabilidades derivadas deben ser procesadas con cuidado. También de las denuncias. 

Ya habrá recibido una copia del expediente digital en su buzón electrónico. La referencia que se utilizará para mantener su anonimato es ME6833/88/DPS. 

Pronto tendrá noticias nuestras, pues.

 - ¿Pronto significa unos meses? 

 - No, Sr. Rosés, unos días. La tecnología nos ayuda a ser ágiles. 

 - Espero que también a ser precisos. 

 - No lo dude. Muchas gracias por su tiempo.

Cara B

Después de los ejercicios matutinos de respiración, Julia notaba que el oxígeno la llenaba de energía.

Tenía algunos temas que había que cerrar hoy, y el primero sería el ME6833/88/DPS.

Mirando los registros suministrados por DeepPsico, el sistema había identificado inicialmente un caso de TPA (Trastorno de la Personalidad Antisocial) sobre la persona denunciada. 

Aún así, el sistema había elevado tres veces el caso al equipo de expertos, ya que pedía permiso para aumentar el diagnóstico a una psicopatía. Este salto requería una validación humana y, en caso de validarse, un tratamiento psiquiátrico en un centro. Se había detectado que el enfermo quería simular emociones de las que carecía en las conversaciones con el sistema, y ​​todo ello denotaba un aumento del riesgo potencial.

Los expertos, pese a ver indicios de peligrosidad, no pudieron disponer de plazas públicas en el sistema de salud para atender a la enferma de forma más directa. La pusieron en la lista de espera, en una posición que requeriría al menos tres meses para obtener una plaza. Ante la carencia de recursos, se había permitido al sistema DeepPsico seguir manteniendo conversaciones con la paciente. Mejor esto que nada.

Los datos mostraban que hay un 82% menos de casos de TPA que acaben en malos tratos o juicios si están atendidos por DeepPsico, respecto a quienes no reciben atención. Incluso la ratio era comparable a la de los casos atendidos de forma personalizada en los centros de atención de salud mental (sólo un 8% peor). 

Por otro lado, se estaba atendiendo a un 143% más de casos con una disminución global del coste (contando personas, pero también soluciones tecnológicas y energía) de un 64%.  

Pero ahora, una menor estaba en el hospital. 

¿De quién era la responsabilidad? 

Como en todos los casos de decisiones tomadas por máquinas, la máxima preocupación parecía asignar el error a un humano responsable. 

Y no era tan fácil.

El diagnóstico no estaba hasta ahora demasiado claro, y aunque lo fuera no se habría tenido capacidad dentro del sistema de salud público de atenderlo de forma distinta.

Quizás los familiares hubieran podido dar una salida distinta al caso de que ayudara a la enferma a no tener que sufrir ahora un proceso penal, buscando ayuda privada. El riesgo se había podido escalar a los tutores legales por ser menor, que afirmaron no tener recursos para ofrecer un tratamiento privado más esmerado en un centro.

Una vez cometido el delito, la enferma pasaría a un centro de tratamiento. 

La víctima recibiría apoyo para superar el trauma. 

La sensación es que se actuaba demasiado tarde.

Julia abrió su asistente personal para preparar su respuesta.

 - Viendo lo ocurrido, ¿crees que los sistemas habrían podido actuar de alguna otra forma en el caso ME6833/88/DPS? 

 - En enfermedades mentales, no todo es blanco o negro. - contestó el asistente-. Cada caso puede evolucionar de formas muy diferentes en función de su contexto. Pero el DSM-5 mostraba un alto balance de probabilidad de TPA a los 16 años.

- ¿Se hizo alguna medida preventiva con la víctima?

- Los sistemas no están autorizados a actuar de forma preventiva, pidiendo actuaciones de hechos que podrían, o no, ocurrir. Sí es cierto que se aumentó la prioridad del nivel de alerta de la vivienda de la víctima. Esto hizo que el apoyo médico llegara muy rápido, 27 minutos antes del tiempo medio de atención.

- ¿Se monitorizó el acoso por vías cibernéticas?

- Sí, se supervisaron los mensajes en redes sociales por si había violencia ciber hacia la víctima, pero no se observó. La enferma ejerció la presión por canales privados y presenciales. Algunas evidencias al respecto se han hecho llegar a los mossos para que formen parte del expediente, como grabaciones de cámaras de seguridad, y mensajes cifrados privados, que ahora podrían abrirse con el permiso del juez.

 - No se podía hacer otra cosa. Cerramos el caso así, por favor. 

 - Adjunto informe final. Un resumen de lo que hemos estado hablando. 

 - Déjame revisar… Correcto… Buen trabajo. Fírmalo con mi nombre, y vamos por el siguiente.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

Leer más: