La Organizaci¨®n de las Naciones Unidas para la Educaci¨®n, la Ciencia y la Cultura (Ä¢¹½ÊÓƵESCO) debe aprovechar el poder transformador de la filosof¨ªa para fomentar el pensamiento cr¨ªtico y la ¨¦tica en los esfuerzos de la comunidad internacional para abordar los problemas contempor¨¢neos. La organizaci¨®n se cre¨® en 1945 sobre la premisa de que la solidaridad moral e intelectual de la humanidad debe servir de base para lograr la paz. La filosof¨ªa ha tenido un papel fundamental en las distintas civilizaciones y ha dejado su huella en las estructuras sociales y pol¨ªticas, en los idiomas y en los intercambios culturales. En consecuencia, esta disciplina engloba la totalidad de las distintas manifestaciones de las sociedades humanas y sigue alimentando el ciclo de influencias rec¨ªprocas entre nuestro sentido colectivo de la ¨¦tica y la moral.?
La comunidad internacional est¨¢ comprometida con la promoci¨®n de sociedades m¨¢s inclusivas, y la Ä¢¹½ÊÓƵESCO puede aprovechar la filosof¨ªa y las humanidades para alcanzar ese objetivo com¨²n. ?C¨®mo queremos que nuestras sociedades hagan frente al cambio clim¨¢tico? ?Qu¨¦ deseamos conseguir con la revoluci¨®n digital? Estas tendencias globales nos obligan a plantear preguntas filos¨®ficas, morales y ¨¦ticas que deber¨¢n responderse si queremos lograr nuestros objetivos de desarrollo sostenible e inclusivo.?
Para abordar estos retos cambiantes, el Sector de Ciencias Sociales y Humanas de la Ä¢¹½ÊÓƵESCO ofrece un marco para integrar perspectivas filos¨®ficas en las transformaciones sociales. El??facilita el intercambio directo de ideas entre la comunidad acad¨¦mica y los encargados de formulaci¨®n de pol¨ªticas para impulsar un cambio social positivo, algo que es fundamental para hacer frente a las actuales tendencias mundiales. Tambi¨¦n permite una reflexi¨®n ¨¦tica sobre asuntos cruciales, como los avances tecnol¨®gicos y las perturbaciones que traen consigo.?
Las revoluciones tecnol¨®gicas actuales impulsadas por el big data, las biotecnolog¨ªas y la inteligencia artificial (IA) constituyen ejemplos interesantes. Las preocupaciones ¨¦ticas que suscitan ilustran el papel fundamental que desempe?ar¨¢ la filosof¨ªa para entender las interacciones humanas en la era digital. No podemos garantizar que esas tecnolog¨ªas beneficien a nuestras sociedades sin aplicar la ¨¦tica para definir un enfoque globalmente representativo que anteponga la humanidad. Si no se controlan, o se someten a un control no consensuado por todos, las tecnolog¨ªas como la IA pueden conducir a abusos, como el perfilado racial o de g¨¦nero o el cr¨¦dito social, lo que agravar¨¢ la brecha entre la realidad de nuestra situaci¨®n y los objetivos de desarrollo inclusivo con los que se han comprometido nuestras sociedades. La reciente elaboraci¨®n por parte de la Ä¢¹½ÊÓƵESCO de la primera norma mundial sobre ¨¦tica en IA, la?, define un marco y establece disposiciones claras sobre c¨®mo gestionar las consecuencias ¨¦ticas del desarrollo tecnol¨®gico.?
Si los algoritmos de IA no se entrenan y prueban de manera concienzuda, existe el riesgo de que se perpet¨²en los riesgos ya presentes en los datos utilizados para el entrenamiento.
El D¨ªa Mundial de la Filosof¨ªa de la Ä¢¹½ÊÓƵESCO (16 de noviembre de 2023) se centr¨® en las dimensiones ¨¦ticas de la IA en el ¨¢mbito de la salud mental, un tema que sirvi¨® de ejemplo para ofrecer ideas concretas sobre c¨®mo las sociedades pueden idear un marco moral compartido para que esas tecnolog¨ªas nos beneficien a todos.?
La situaci¨®n actual de la salud mental es preocupante y su dificultad no solo radica en la detecci¨®n o el tratamiento. Comprender el impacto total de los trastornos mentales en la esperanza de vida resulta complejo y esto a?ade mayor dificultad a la hora de concienciar sobre el problema. Seg¨²n el informe de la OMS? de 2022, solo el 4,6 por ciento de la investigaci¨®n sanitaria se centra en la salud mental, aunque se sabe que las personas que sufren trastornos mentales registran tasas de mortalidad desproporcionadamente superiores a las de la poblaci¨®n general. En cualquier caso, los problemas de salud mental generan una mortalidad acumulada significativa.?
Tener un conocimiento lo m¨¢s completo posible de las consecuencias derivadas de los trastornos de salud mental permitir¨¢ adoptar mejores perspectivas de atenci¨®n sanitaria. Asimismo, los avances en tecnolog¨ªa y neurociencia ofrecen nuevas oportunidades para mejorar las capacidades de diagn¨®stico, prevenci¨®n y tratamiento.?
Sin embargo, estos adelantos no deber¨ªan eclipsar los riesgos potenciales que pueden conllevar. Las capacidades de procesamiento de datos de la IA entra?an una vigilancia de las personas que, aunque se realice en pro de la salud, suscita dudas de car¨¢cter ¨¦tico. Estos avances tecnol¨®gicos exigen planteamientos cuidadosos. Si los algoritmos de IA no se entrenan y prueban de manera concienzuda, existe el riesgo de que se perpet¨²en los riesgos ya presentes en los datos utilizados para el entrenamiento. Estos sesgos podr¨ªan distorsionar diagn¨®sticos y tratamientos de trastornos mentales, algo especialmente preocupante para las poblaciones marginadas que carecen de redes de asistencia sanitaria adecuadas. Sin una supervisi¨®n cuidadosa y un seguimiento continuado, el gran potencial de la IA en el ¨¢mbito de la salud mental podr¨ªa agravar involuntariamente las desigualdades en vez de aliviarlas.?
No deben obviarse las preocupaciones de car¨¢cter epistemol¨®gico y ¨¦tico que suscitan los cambios tecnol¨®gicos, sobre todo cuando la tecnolog¨ªa se utiliza en el ¨¢mbito de la salud f¨ªsica y mental. Sigue siendo fundamental comprender los trastornos mentales y la validez del conocimiento obtenido de la IA, as¨ª como las responsabilidades ¨¦ticas en la atenci¨®n a los pacientes. Estos avances deben reducir las vulnerabilidades sin introducir nuevas formas de exposici¨®n que agraven las disfunciones de nuestra sociedad.?
Mientras nos abrimos camino por este entorno, la sensibilidad ¨¦tica reviste una importancia fundamental. La ampliaci¨®n de nuestras capacidades tecnol¨®gicas siempre deber¨ªa ir acompa?ada de un aumento de nuestra responsabilidad ¨¦tica. Desarrollar el pensamiento cr¨ªtico y cultivar un nuevo humanismo son requisitos fundamentales para abordar los retos ¨¦ticos, intelectuales y pol¨ªticos de nuestra ¨¦poca. La filosof¨ªa no es una disciplina opcional, sino una fuerza global que ayudar¨¢ a conformar un futuro m¨¢s humano para todos.?
Un an¨¢lisis m¨¢s profundo de la IA y la salud mental?
Los avances tecnol¨®gicos actuales y nuestro mayor conocimiento de las funciones cerebrales abren nuevas posibilidades para prestar apoyo a las personas que sufren problemas de salud mental. Tanto para tratar como para acompa?ar o ayudar, est¨¢n surgiendo nuevas herramientas de apoyo al diagn¨®stico y el tratamiento.?
Sin embargo, tanto si los nuevos dispositivos en salud mental o en otros ¨¢mbitos, tambi¨¦n sirven como instrumentos de acci¨®n, carreando nuevas responsabilidades que ser¨ªa imprudente ignorar. Por ejemplo, el desarrollo de un agente artificial de conversaci¨®n en psiquiatr¨ªa plantea dudas sobre el futuro de los psiquiatras. ?Terminar¨¢n siendo sustituidos? Hay quien dice que la relaci¨®n del paciente con un aparato no puede igualar a aquella que se desarrolla con un psicoterapeuta humano.?
Aunque el acceso universal a la tecnolog¨ªa sigue siendo uno de los principales retos globales, las personas con acceso a Internet han se?alado ciertas ventajas relacionadas con las plataformas basadas en IA, como Google AI, Cleverbot y ChatGPT (procesamiento de lenguaje natural e IA conversacional), o Woebot, Youper y Whysa (plataformas de lenguaje natural utilizadas para proporcionar apoyo a la salud mental). Estas plataformas est¨¢n disponibles para todas las personas con Internet sin necesidad de grandes conocimientos o recursos t¨¦cnicos. Sin embargo, su objetividad sigue siendo una ilusi¨®n dado que son producto de la mente humana y, en ese sentido, no est¨¢n totalmente exentas de sesgos y estereotipos.?
De hecho, hay una profunda preocupaci¨®n por la representatividad de las bases de datos y los sesgos de los algoritmos, que plantean un grave problema que debe resolverse. El riesgo de uso indebido o divulgaci¨®n de informaciones err¨®neas a trav¨¦s de contenido generado por IA constituye otro reto que debe abordarse para mantener la integridad de la informaci¨®n y la producci¨®n creativa en Internet.?
Somos conscientes de c¨®mo los avances tecnol¨®gicos en el ¨¢mbito de la salud mental pueden modificar nuestras pr¨¢cticas y, por este motivo, estamos obligados a proceder con cautela aplicando la ¨¦tica. Hay que tener especial cuidado con al menos dos cuestiones.?
La primera tiene que ver con la epistemolog¨ªa. Nuestra comprensi¨®n del funcionamiento de los trastornos mentales sigue siendo incompleta. Por ejemplo, los biomarcadores dise?ados para ayudar a detectar enfermedades, sus mecanismos y progresi¨®n, as¨ª como los efectos de los tratamientos, siguen siendo insatisfactorios. Por tanto, existe una necesidad acuciante de mejorar nuestro conocimiento en estos ¨¢mbitos, pues de ¨¦l depende nuestra capacidad para ayudar a las personas. En este contexto, el procesamiento algor¨ªtmico de grandes bases de datos sanitarios tiene su utilidad. No solo permite analizar un mayor volumen de informaci¨®n, sino que adem¨¢s acelera el proceso de examen. Otra consideraci¨®n de car¨¢cter epistemol¨®gico tiene que ver con la naturaleza y la validez del conocimiento generado mediante IA. Si los sistemas de IA dependen exclusivamente de datos neurol¨®gicos, puede que la comprensi¨®n de los trastornos mentales se centre excesivamente en los aspectos biol¨®gicos, con el riesgo de obviar la dimensi¨®n social. Los estudios han expuesto importantes correlaciones, como, por ejemplo, entre la pobreza y los problemas de salud mental. Por tanto, dos temas apremiantes son las fuentes de datos utilizados y el modo en que los profesionales de la salud utilizar¨¢n este conocimiento. Se sabe que puede existir una brecha entre los an¨¢lisis cuantitativos realizados con una herramienta de IA y los conocimientos cuantitativos que aporta un experto humano.?
La segunda cuesti¨®n tiene que ver con los cuidados. La asistencia que proporciona la IA, la neurotecnolog¨ªa y determinados dispositivos digitales en el ¨¢mbito de la salud mental influir¨¢n en la manera de proporcionar atenci¨®n. La primera consideraci¨®n tiene que ver con el diagn¨®stico m¨¦dico. De hecho, no se puede ayudar a una persona sin determinar de manera precisa la naturaleza de su enfermedad mental. Un diagn¨®stico m¨¢s certero permite definir mejor los tratamientos y la atenci¨®n, as¨ª como contemplar nuevas formas de asistencia. Un mejor diagn¨®stico tambi¨¦n es aquel que se hace en una fase temprana, ya que permite realizar intervenciones terap¨¦uticas con mayor rapidez y preservar en todo lo posible la calidad de vida de la persona.?
La atenci¨®n abarca desde el diagn¨®stico hasta el tratamiento del paciente o, como m¨ªnimo, su acompa?amiento. Los trastornos mentales presentan un panorama cl¨ªnico heterog¨¦neo, ya que, por ejemplo, el mismo s¨ªndrome depresivo puede manifestarse de distinta forma en cada persona. La experiencia con la enfermedad es diferente para cada paciente y esto agrava todav¨ªa m¨¢s los retos de la atenci¨®n diaria. Se puede mejorar el apoyo mediante ciertas herramientas digitales o dispositivos dotados de IA, como los smartphones, capaces de reconocer emociones en tiempo real y supervisar los ritmos de actividad individuales, los patrones de sue?o, los movimientos y muchos otros aspectos de la vida cotidiana. La ventaja radica en que proporcionan informaci¨®n en vivo y un seguimiento interactivo, lo que permite responder r¨¢pidamente en momentos de necesidad alertando a los propios pacientes. Este enfoque sirve para proteger y mejorar su calidad de vida desde una perspectiva f¨ªsica, social y mental.?
Todos estos aspectos giran en torno a un principio superior del ¨¢mbito de la ¨¦tica y bio¨¦tica: el principio de vulnerabilidad. Sin embargo, desde una perspectiva moral, en la vida cotidiana de un paciente estas contribuciones tecnol¨®gicas que ayudan a compensar ciertas vulnerabilidades no deber¨ªan introducir nuevas formas de vulnerabilidad. ?Ser¨¢ sustituido el di¨¢logo terap¨¦utico por un implante cerebral artificial para regular las emociones? ?Perder¨¢ permanentemente el paciente la exclusividad del acceso a sus pensamientos como consecuencia de neurotecnolog¨ªas que facilitan un estudio cient¨ªfico del cerebro? ?Existe el riesgo de que la supervisi¨®n terap¨¦utica y benevolente del paciente se convierta en una vigilancia anticipatoria de los comportamientos y, por consiguiente, indique presunciones controladas de intenciones??
La principal preocupaci¨®n ¨¦tica que subyace a nuestras consideraciones pr¨¢cticas tiene que ver con el papel de los humanos en un mundo basado en la tecnolog¨ªa donde los algoritmos gestionan la salud mental. Debemos actuar en tres niveles: en primer lugar, est¨¢ el aprendizaje permanente para todas las personas que trabajan en ¨¢mbitos relacionados para que adquieran la capacidad de pensar de forma cr¨ªtica; en segundo lugar, debemos tener en cuenta a los beneficiaros y utilizar metodolog¨ªas cr¨ªticas para evaluar la IA; en tercer lugar, debemos reconocer que la expansi¨®n de nuestras capacidades a trav¨¦s de los avances tecnol¨®gicos implica inherentemente una ampliaci¨®n de nuestra responsabilidad. Aspirar a mejorar no equivale a tecnofilia, de la misma manera que tener dudas no equivale a tecnofobia. Por el contrario, refleja una conciencia ¨¦tica basada en una preocupaci¨®n fundamental por la humanidad. El reto radica en contemplar el panorama actual de la salud mental de base tecnol¨®gica sin criticar injustamente lo que nos depare el futuro.?
?
?
La Cr¨®nica?ONU??no?constituye un registro oficial. Tiene el privilegio de acoger a los altos funcionarios de las Naciones Unidas, as¨ª como a distinguidos colaboradores de fuera del sistema de las Naciones Unidas cuyas opiniones no son necesariamente las de las Naciones Unidas. Del mismo modo, las fronteras y los nombres que se muestran y las designaciones utilizadas en los mapas o en los art¨ªculos no implican necesariamente un apoyo o una aceptaci¨®n por parte de las Naciones Unidas.?
