OpenAI limita el uso de ChatGPT en ámbitos médico y legal

La compañía de inteligencia artificial ha reforzado sus reglas para evitar que su chatbot se utilice como si fuera un profesional sanitario o un abogado. Con esta actualización, el asesoramiento médico y legal personalizado queda fuera de juego si no existe la participación de un profesional con licencia.

El cambio no pretende silenciar por completo las conversaciones sobre salud o derecho, sino encauzarlas: ChatGPT se mantendrá en el terreno de la divulgación, explicando conceptos generales y remitiendo a especialistas cuando el usuario necesite una orientación aplicable a su caso concreto.

Qué ha cambiado exactamente en la política de uso

OpenAI ha precisado en sus términos que sus modelos no deben proporcionar recomendaciones que requieran habilitación profesional sin supervisión adecuada. En la práctica, esto significa que el sistema no ofrecerá diagnósticos, estrategias jurídicas a medida ni decisiones financieras adaptadas a una situación personal.

Las normas también detallan prohibiciones específicas: ya no se permiten nombres de medicamentos ni indicaciones de dosis en un contexto de asesoría individual, tampoco plantillas de demandas o instrucciones para litigar, ni sugerencias de compra/venta de activos o carteras personalizadas.

Lo que sí podrás pedir y lo que queda vetado

Se mantiene el uso educativo: el modelo puede describir principios, aclarar conceptos y señalar mecanismos generales sobre temas de salud, derecho o finanzas. Ese contenido no sustituye la valoración de un profesional, ni debe emplearse para tomar decisiones de alto riesgo.

Queda fuera del alcance todo lo que implique consejo personalizado o la elaboración de documentos susceptibles de tener efectos legales o sanitarios directos. Cuando el usuario plantee un caso particular, el sistema priorizará avisos de seguridad y la derivación a profesionales colegiados.

Implicaciones en España y en Europa

Para usuarios en España y en el entorno europeo, estas medidas encajan con un clima regulatorio que exige mayores salvaguardas en ámbitos sensibles. La orientación general está permitida, pero las decisiones que afectan a la salud o a derechos deben recaer en personal cualificado, con responsabilidades y deberes deontológicos difíciles de trasladar a una IA.

Además, la actualización subraya la importancia de no compartir datos sensibles. En contextos médicos y legales, la confidencialidad y el cumplimiento normativo son esenciales, por lo que la compañía insiste en un uso prudente y en la validación profesional cuando haya impacto real sobre una persona.

Por qué se endurecen las reglas: riesgos e incidentes

El endurecimiento llega tras informes que alertan de efectos adversos al tomar decisiones delicadas basadas en respuestas de un chatbot. Entre los casos citados por la prensa, figura un episodio de toxicidad por bromuro descrito en una revista médica estadounidense, tras un cambio dietético inspirado por información obtenida en línea.

También se ha difundido el testimonio de un usuario en Europa que, ante síntomas preocupantes, confió en una valoración inicial errónea y retrasó la consulta con su médico, encontrándose después con un diagnóstico oncológico avanzado. Estas historias ilustran por qué la IA no debe sustituir a profesionales en materias de alta sensibilidad.

Cómo se aplican los controles en la práctica

La plataforma perfila al chatbot como herramienta de aprendizaje: explica, contextualiza y señala límites. Si se formulan peticiones que buscan saltarse las barreras (por ejemplo, dosificación de fármacos o estrategias legales personalizadas), los sistemas de seguridad bloquean o redirigen la conversación, invitando a acudir a un profesional.

Los avisos de seguridad y las pautas de uso responsable acompañan a las respuestas en temas delicados. De este modo, se intenta reducir el riesgo de interpretaciones peligrosas y se promueve que cualquier decisión con consecuencias reales se tome con la guía de expertos.

Impacto para pacientes, usuarios y profesionales

Para la ciudadanía, el cambio aporta un marco más claro: ChatGPT puede ser útil para entender términos, normativa o procesos, pero no para resolver un caso clínico o litigar. Esa línea roja busca minimizar daños y evitar la falsa sensación de contar con «asesoría» cuando en realidad se trata de información educativa.

Para médicos, juristas y otros colegiados, la actualización ayuda a preservar funciones que requieren juicio experto y responsabilidad legal. En paralelo, abre espacio a colaboraciones en las que la IA aporte contexto y documentación, siempre bajo supervisión humana y con transparencia sobre sus límites.

Fuentes y documentos de referencia

La política actualizada y los acuerdos de servicio de OpenAI recogen de forma expresa los nuevos límites para usos en salud y derecho. A continuación, algunos documentos y coberturas relevantes que explican el alcance de estas medidas y su motivación.

1. Políticas de uso de OpenAI (restricciones sobre asesoría médica y legal)
2. Services Agreement de OpenAI (términos de servicio)
3. Service Terms (OpenAI) (condiciones aplicables)
4. Historial de revisiones de políticas (cambios recientes)
5. Anuncio en la comunidad de OpenAI (acuerdo de servicios)
6. Cobertura sobre las nuevas restricciones (análisis de impacto)
7. Límites en apoyo de salud mental (enfoque de seguridad)

Con este giro normativo, la compañía acota de forma nítida el papel de su chatbot: informar y orientar en términos generales, sin asumir el rol clínico o jurídico. Para el usuario, la pauta es clara: cuando la cuestión afecte a su salud o a sus derechos, la consulta debe pasar por un profesional habilitado.