Atención culturalmente apropiada en la era de la IA
El auge de la IA generativa ha sido descrito como una revolución tecnológica en una escala similar a la introducción de la computación móvil y en la nube. Tiene el potencial de cambiar significativamente la atención social, junto con desarrollos tecnológicos más amplios, como tecnologías de sensores que pueden ayudar a las personas con necesidades de atención.
¿Qué significa para la atención social culturalmente sensible?
La IA generativa, es decir, la inteligencia artificial que puede crear nuevos datos, plantea distintos desafíos cuando se utiliza en la atención social de adultos. En algunos países, esta tecnología ya se utiliza para crear planes de atención personalizados. Estos planes no sólo tienen en cuenta las necesidades y preferencias individuales, sino que también pueden producir evaluaciones predictivas sobre, por ejemplo, el riesgo de caídas o un mayor deterioro de la salud. La tecnología de IA se ha utilizado para conectar a cuidadores culturalmente adaptados con adultos que necesitan atención social, y la IA generativa ya planifica y asigna recursos en algunos entornos de atención. También se están considerando otros usos similares, como brindar apoyo de salud mental tanto a pacientes como a cuidadores a través de chatbots.
La atención culturalmente apropiada , o atención culturalmente competente, es sensible a la identidad y herencia cultural de quienes son atendidos y se ha relacionado con mejores resultados de salud para los pacientes. Incluye prestar especial atención a las creencias de las personas, incluida su comprensión de la atención basada, por ejemplo, en su origen étnico, nacionalidad, religión, sexualidad o identidad de género. Si bien la cultura no es fácil de definir, puede entenderse como un marco de significado que nos permite darle sentido al mundo y estructurar nuestras vidas. Durante la pandemia de COVID-19 se subrayó la importancia de una atención social culturalmente apropiada. Muchas personas que recibían atención social se alejaron particularmente de sus comunidades culturales o religiosas y les resultó más difícil relacionarse con personas y eventos de importancia cultural para ellos.
Se han realizado esfuerzos notables para incorporar tecnología diseñada para ser culturalmente sensible, como robots, en las residencias de ancianos. Estos robots están diseñados para ayudar a las personas mayores de maneras culturalmente adaptadas, iniciando conversaciones sobre temas que probablemente serían de su interés, reproduciendo música o audiolibros preferidos e incluso ayudando con las oraciones recordando a la persona los rituales relevantes y la ubicación de los objetos de oración requeridos.
En esencia, la atención culturalmente competente está en sintonía con la reducción de las disparidades de salud que tienen sus raíces en diferencias raciales, étnicas, socioeconómicas y religiosas. Dado que la IA generativa ya se utiliza en algunos entornos de atención social para adultos para tareas como escribir notas de reuniones y crear planes de atención, es importante considerar las ramificaciones éticas y sociales de esos nuevos enfoques, así como cómo estas nuevas tecnologías pueden ayudar a reducir algunas de las presiones sobre la atención social de adultos.
La cuestión de cómo regular los sistemas de IA generativa en la atención social de adultos está recibiendo cada vez más atención. Por ejemplo, en febrero de 2024 se celebró una serie de mesas redondas sobre la IA en la atención social de adultos en la Universidad de Oxford. Existen áreas particulares de preocupación por la competencia cultural, una de las cuales es dar cuenta de la naturaleza maleable y flexible no solo de la tecnología de IA generativa, sino también de la cultura misma, que es compleja y está en constante evolución. Esto podría significar la necesidad de involucrar a expertos y comunidades relevantes en el desarrollo y la evaluación continua de herramientas de IA adecuadas para la atención social de adultos culturalmente apropiada.
Otra cuestión importante para la atención social culturalmente apropiada es mitigar los efectos de los bien documentados sesgos abiertos y encubiertos en los grandes modelos lingüísticos que sustentan la IA generativa. La atención puede verse afectada negativamente por los sesgos. Esto puede ser particularmente problemático cuando los sesgos afectan los resultados generados para la atención social, lo que podría llevar a que se desestimen las necesidades de atención de grupos particulares de personas o a que se proporcionen sugerencias de atención culturalmente inapropiadas. Como han argumentado algunos autores, este sesgo debe considerarse en todas las etapas de conceptualización, diseño, desarrollo, validación, acceso y seguimiento de la herramienta de IA. La consideración debe incluir no sólo los sesgos relacionados con el diseño del algoritmo y los datos históricos que lo sustentan, sino también la diversidad y la inclusión en las etapas de desarrollo y validación. Si bien estos temas han estado bajo escrutinio durante mucho tiempo en la medicina y la atención médica , se necesita más investigación sobre este fenómeno en el campo de la atención social de adultos para permitir enfoques regulatorios apropiados y culturalmente sensibles.
Al considerar la introducción de la IA en entornos de atención social para adultos, reflexionar sobre las siguientes preguntas puede ayudar a garantizar la competencia cultural:
- ¿Cómo se utiliza la IA generativa para determinar qué constituye un plan de atención culturalmente competente para una persona en atención social para adultos?
- ¿De qué manera los sesgos preexistentes en los grandes modelos lingüísticos (LLM) que sustentan las herramientas de IA generativa impactan los planes de atención que se están desarrollando?
- ¿Cómo están preparados los equipos de atención social y los cuidadores informales para emplear y gestionar estas tecnologías de manera culturalmente sensible?
- ¿Cómo se utilizan los datos personales para apoyar una atención social culturalmente sensible?
- ¿Las personas que trabajan en asistencia social y sus familias son conscientes de cómo se utiliza la IA generativa, incluida la forma en que las herramientas de IA pueden utilizar los datos sobre su identidad cultural dentro y mediante las herramientas de IA?
- ¿Qué impacto pueden tener los niveles de confianza de los diferentes grupos socioculturales en la innovación tecnológica en los enfoques de las personas para integrar la IA generativa en la atención social de adultos?
Una cuestión clave a considerar al regular las aplicaciones de IA en general, e incluso en el contexto del uso de la IA para la atención social, es cómo los sistemas manejan, almacenan y utilizan información confidencial . Lo que las diferentes culturas consideran información confidencial puede variar. Cuando la IA generativa respalda la creación de planes de atención, las herramientas de IA tienen acceso a datos personales confidenciales, como la raza, el origen étnico o la nacionalidad. Posteriormente, la herramienta de IA puede utilizar esto para fines que van más allá de la intención original, como un mayor aprendizaje automático. Directrices regulatorias y éticas claras podrían ayudar a mitigar algunos de los riesgos del uso de herramientas de inteligencia artificial generativa para brindar atención social segura y culturalmente competente. Al mismo tiempo, podrían contribuir a aumentar la confianza en dichas tecnologías asegurando a los miembros de todas las comunidades culturales, minorías étnicas y grupos religiosos que sus intereses están protegidos.
Si bien la IA generativa es prometedora para apoyar la atención social de adultos, incluida la asistencia en los procesos administrativos y de toma de decisiones, es necesario abordar cuestiones sobre los sesgos, la gobernanza y la supervisión de la IA y las naturalezas cambiantes tanto de la cultura como de la tecnología para garantizar la provisión de servicios sociales culturalmente competentes. cuidado. Será necesario atender estas preocupaciones para utilizar la IA generativa en la atención social de adultos de forma segura.
Traducido y adaptado de rand.org
