Por Canuto  

Un proyecto de ley en California busca prohibir el uso de chatbots de inteligencia artificial para brindar terapia de salud mental, una práctica que ha ganado popularidad pese a las advertencias de expertos. La iniciativa, que ha generado un intenso debate, plantea dudas sobre la regulación de la IA en ámbitos sensibles como el bienestar emocional. ¿Estamos ante un freno necesario o una barrera a la innovación?
***

  • Regulación pionera: California presentó un proyecto de ley para prohibir explícitamente el uso de chatbots de IA como sustitutos de terapeutas profesionales en salud mental.
  • Protección al paciente: La propuesta argumenta que las herramientas actuales no pueden reemplazar el juicio clínico humano y podrían generar riesgos para pacientes vulnerables.
  • Debate candente: La industria tecnológica y defensores de la salud mental chocan por los límites de la IA, mientras otros estados observan el resultado de esta iniciativa.

El avance de la inteligencia artificial ha llegado a terrenos tan íntimos como la salud mental, pero California quiere ponerle un alto. Un proyecto de ley presentado en la legislatura estatal propone prohibir el uso de chatbots basados en IA para ofrecer terapia o consejería psicológica, argumentando que estas herramientas carecen de la capacidad para manejar crisis emocionales complejas. La medida, que aún debe superar varias etapas legislativas, ha despertado un intenso debate entre expertos en tecnología, profesionales de la salud y pacientes que ya han recurrido a estas plataformas.

La iniciativa fue reportada inicialmente por el medio especializado Decrypt, y se apoya en casos documentados donde la IA ha proporcionado respuestas inapropiadas o incluso peligrosas en contextos de suicidio o abuso. Según sus impulsores, los chatbots pueden ser útiles como complemento, pero no como reemplazo de un terapeuta humano, especialmente porque no comprenden las sutilezas de la condición emocional de cada persona.

La propuesta californiana no es un caso aislado, sino la punta de lanza de un movimiento regulatorio más amplio que busca establecer límites claros para la IA en áreas de alto riesgo. Si se aprueba, California se convertiría en el primer estado de Estados Unidos en vetar explícitamente esta práctica, sentando un precedente que podría replicarse en otras jurisdicciones.

¿Qué plantea exactamente el proyecto de ley?

El texto legal, tal como fue presentado, define como “chatbot de inteligencia artificial” a cualquier programa informático que simule conversación humana para brindar consejos terapéuticos. La prohibición aplicaría tanto a servicios gratuitos como de pago, y obligaría a las empresas tecnológicas a implementar salvaguardas para evitar que sus productos crucen la línea hacia el diagnóstico o tratamiento de condiciones de salud mental.

Los autores del proyecto subrayan que no se oponen al uso de la IA en otros campos de la medicina, sino que enfocan el veto en la terapia porque implica una relación de confianza y vulnerabilidad. “Un paciente puede revelar sus secretos más profundos a una máquina sin saber si esa información será manejada con la misma ética que un profesional”, señalan en los documentos que acompañan la iniciativa.

Además, el proyecto incluye sanciones económicas para las empresas que violen la norma, con multas que podrían superar los USD $10.000 por cada falta, aunque aún no se especifican mecanismos de implementación. Los legisladores también contemplan la creación de un comité de supervisión que evalúe anualmente el impacto de la IA en la salud mental, con el fin de actualizar la ley según sea necesario.

Para los defensores de la medida, la regulación es urgente porque el uso de chatbots terapéuticos se ha disparado en los últimos años, especialmente entre jóvenes que no tienen acceso o recursos para pagar una terapia tradicional. Según datos citados en el propio proyecto, más de un 30% de los usuarios de estas herramientas los han utilizado para abordar problemas de ansiedad o depresión severa.

Los riesgos que denuncian los expertos

Profesionales de la salud mental han manifestado su apoyo a la prohibición, citando casos donde la IA ha fallado en identificar señales de peligro inminente. Por ejemplo, un estudio reciente de la Universidad de Stanford demostró que los chatbots pueden detectar palabras clave como “suicidio” pero no comprender el contexto emocional que rodea a la persona, lo que los lleva a respuestas genéricas e insensibles.

La doctora Marta Hernández, psicóloga clínica en Los Ángeles, explicó a Decrypt que “la terapia no es solo responder a preguntas, sino interpretar el lenguaje no verbal, las pausas, el tono de voz, algo que una máquina no puede hacer”. Hernández añadió que “depender de un chatbot para situaciones de crisis puede retrasar la búsqueda de ayuda adecuada, e incluso empeorar el estado del paciente”.

Otro riesgo señalado es la privacidad. A diferencia de un terapeuta, que está sujeto a secreto profesional, un chatbot almacena conversaciones en la nube, y los datos pueden ser utilizados para fines comerciales o caer en manos equivocadas. La ley californiana también obligaría a las empresas a eliminar los datos de los usuarios después de un período determinado, pero los expertos dudan de la efectividad de esa cláusula.

La situación se vuelve más compleja cuando se considera a los pacientes con trastornos crónicos, que podrían desarrollar una dependencia emocional de una entidad artificial. “He visto casos de personas que prefieren hablar con un bot porque no se sienten juzgadas, pero luego evitan la terapia humana, lo que a largo plazo agrava su condición”, afirma el psiquiatra Carlos Méndez en una entrevista publicada por el medio local LA Times.

¿Qué argumentos tiene la industria tecnológica?

Las grandes empresas de tecnología, que han invertido millones en aplicaciones de salud mental con IA, han expresado su desacuerdo con la medida. Consideran que una prohibición total es desproporcionada y que, en cambio, se debería desarrollar una certificación o estándar de calidad para estos servicios. El argumento principal es que los chatbots pueden reducir la brecha de acceso a la atención mental, especialmente en zonas rurales donde no hay terapeutas.

Algunas startups han solicitado que el proyecto de ley se modifique para permitir la IA en tareas de triage, es decir, para evaluar el nivel de urgencia de un paciente y derivarlo a un humano, pero no para brindar terapia directa. Sin embargo, los legisladores no han mostrado disposición a ceder hasta ahora, y la presión de grupos de pacientes ha sido clave para mantener la propuesta estricta.

Un punto que la industria resalta es que muchas personas utilizan estos chatbots porque se sienten más cómodas que con un terapeuta humano, especialmente comunidades marginadas que han tenido malas experiencias en el sistema de salud. Prohibir la herramienta, argumentan, les quitaría una alternativa sin ofrecer una solución concreta.

En respuesta, los defensores de la ley señalan que la prohibición no impide que se desarrollen tecnologías de apoyo, siempre y cuando no pretendan reemplazar la evaluación profesional. La clave está en la etiqueta: si la aplicación se presenta como “bienestar” y no como “terapia”, podría quedar exenta, aunque los legisladores aún no han definido esos términos.

Impacto y precedentes internacionales

La noticia ha trascendido las fronteras de Estados Unidos, y organismos internacionales como la Organización Mundial de la Salud ya han advertido sobre los riesgos de la IA en salud mental. En Europa, la reciente Ley de IA de la Unión Europea clasifica a los sistemas de IA para salud mental como de “alto riesgo”, lo que implica auditorías obligatorias, pero no su prohibición. California está yendo un paso más allá.

En América Latina, países como Argentina y México han lanzado proyectos piloto con chatbots de salud mental, patrocinados por gobiernos locales, y ahora seguirán de cerca el debate californiano para ajustar sus propias regulaciones. Si la ley se aprueba, podría inflenciar las políticas de salud digital en toda la región.

Los inversores también están atentos: las empresas que cotizan en bolsa y que dependen de la IA terapéutica podrían ver afectadas sus valoraciones. Un análisis de la firma de investigación tech señala que el mercado global de chatbots de salud mental alcanzó los USD $150 millones en 2024, y se proyectaba que creciera un 20% anual. Una prohibición en California, el quinto mercado más grande del mundo, podría frenar ese crecimiento.

Por ahora, el proyecto de ley se encuentra en comisión, y se espera que sea discutido en audiencias públicas durante los próximos meses. Tanto los grupos a favor como los opositores están movilizando a sus bases para influir en la decisión final. Mientras tanto, las aplicaciones de terapia con IA continúan operando sin restricciones claras, en un limbo legal que inquieta a los expertos.

La medida californiana se suma a otras iniciativas legislativas que buscan regular la inteligencia artificial en el estado, que va desde la protección contra el fraude en llamadas automáticas hasta la transparencia en los algoritmos de contratación. El camino hacia una regulación definitiva será largo, pero el debate ya ha comenzado.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados