Checklist de seguridad: qué NO debes pegar en un chatbot

Hablar con un chatbot de inteligencia artificial se ha vuelto tan cotidiano que muchas veces olvidamos que no estamos chateando con un amigo, sino con un sistema alojado en la nube que almacena y procesa lo que escribimos. Estos asistentes son tremendamente útiles para trabajar, estudiar o resolver dudas, pero si no tenemos cuidado, también pueden convertirse en una puerta de entrada a filtraciones de datos, robos de identidad o problemas legales.

Por eso es clave tener siempre presente una idea sencilla: todo lo que pegas o escribes en un chatbot público puede acabar siendo leído, analizado, almacenado y utilizado para entrenar modelos, compartirse con terceros o verse afectado por una brecha de seguridad. Si es algo que no dirías en voz alta en un lugar lleno de gente o que no publicarías en una web abierta, probablemente tampoco deberías compartirlo con la IA. Vamos allá con esta guía sobre:  Checklist de seguridad: qué NO debes pegar en un chatbot

Cómo funcionan los chatbots de IA y por qué suponen un riesgo para tu privacidad

Los chatbots basados en IA generativa, como ChatGPT y otros asistentes similares, se apoyan en modelos de lenguaje de gran tamaño (LLM) que aprenden a partir de enormes cantidades de texto. Para mejorar con el tiempo, estas plataformas suelen registrar las conversaciones completas: tus preguntas, tus respuestas, los archivos que subes e incluso metadatos asociados al uso.

Esta información se almacena normalmente en servidores en la nube, donde se procesa para entrenar modelos más precisos, analizar patrones de uso o personalizar respuestas. Aunque muchas empresas aplican cierto grado de anonimización, debes asumir que pierdes el control real sobre esos datos en el momento en que los envías al chatbot.

El problema es que esos mismos servidores son un objetivo muy atractivo para ciberdelincuentes. Una brecha de seguridad permite acceder a un gran volumen de conversaciones privadas, credenciales filtradas, datos personales o incluso documentos corporativos sensibles, que luego pueden venderse en la web oscura o usarse para fraude financiero, extorsión o ataques dirigidos.

Además, muchos proveedores de IA dejan claro en sus políticas que usan tus conversaciones para seguir entrenando sus modelos e incluso que empleados humanos pueden revisar fragmentos para evaluar la calidad del sistema. Eso significa que cualquier cosa que escribas debe considerarse, de facto, información potencialmente pública a medio o largo plazo.

Checklist de seguridad: información personal que NO debes pegar en un chatbot

Antes de compartir nada, pregúntate siempre si esos datos podrían usarse para identificarte, localizarte, suplantarte o perjudicarte de algún modo. Si la respuesta es sí (o ni siquiera lo tienes claro), mejor no los pegues en un chatbot público.

1. Datos personales e identificadores oficiales

Los datos personales directos son la materia prima del robo de identidad. Nunca deberías escribir en un chatbot tu nombre completo junto a otros identificadores como fecha de nacimiento, dirección física, nacionalidad y similares, ni mucho menos mezclar varios de ellos en la misma conversación.

Aún más delicados son los datos que se consideran identificadores oficiales: número del DNI, pasaporte, número de la Seguridad Social, números de identificación fiscal, de licencia de conducir u otros documentos emitidos por la Administración. Con este tipo de información, un atacante puede solicitar créditos, contratar servicios o abrir cuentas bancarias a tu nombre.

También conviene evitar compartir de forma gratuita tus números de teléfono personales, correos privados o direcciones exactas. Aunque de forma aislada puedan parecer inofensivos, combinados con otra información encontrada en redes sociales o filtraciones previas, facilitan la elaboración de ataques de ingeniería social muy convincentes.

2. Imágenes personales y datos biométricos

Estos datos pueden utilizarse para entrenar algoritmos de reconocimiento facial, alimentar bases de datos de terceros o servir de materia prima para la creación de deepfakes. Con suficiente material visual, es perfectamente posible generar vídeos o fotos falsas pero muy realistas con tu cara, que podrían emplearse para dañar tu reputación, suplantarte en videollamadas o incluso para chantajes y extorsiones.

También son delicadas las imágenes donde se ven interiores de tu casa, matrículas de coche, documentos físicos sobre la mesa o cualquier otro detalle que pueda dar pistas sobre tu vida privada, tus hábitos o tu patrimonio. Aunque no parezca evidente, toda esa información visual puede cruzarse y explotarse en tu contra.

3. Información financiera y datos bancarios

Todo lo relacionado con tus finanzas es especialmente goloso para los ciberdelincuentes. Jamás deberías pegar en un chatbot números de tarjeta de crédito o débito, códigos CVC, IBAN o números de cuentas bancarias, extractos bancarios completos, capturas de pantalla del banco, información de inversiones o detalles de nóminas e impuestos.

En los chatbots públicos no tienes garantías de cifrado de extremo a extremo ni eliminación segura de datos tras el uso. Si estos datos terminan expuestos en una filtración o accede a ellos un empleado deshonesto, estás abriendo la puerta a cargos no autorizados, transferencias fraudulentas, secuestro de cuentas o campañas de phishing dirigidas utilizando tus propios datos reales.

Si necesitas ayuda con cuestiones financieras, limítate a formular consultas en términos generales y anónimos. En ningún caso uses un chatbot como sustituto de una banca online segura o de un canal oficial de atención al cliente.

4. Usuarios, contraseñas, PIN y códigos de verificación

Puede sonar obvio, pero sigue ocurriendo: nunca pegues contraseñas en un chatbot, ni códigos PIN, ni respuestas a preguntas de seguridad, ni códigos de verificación de dos factores (2FA) que te lleguen por SMS, email o apps de autenticación.

Algunos usuarios caen en la tentación de pedirle a la IA que les ayude a gestionar, recordar o revisar sus contraseñas. Otros incluyen parte de sus claves o pistas sobre ellas dentro de un texto que quieren que el chatbot revise o traduzca. Todo esto es un error grave: con suficientes fragmentos, un atacante puede reconstruir o deducir credenciales para acceder a tus cuentas.

El lugar adecuado para almacenar y gestionar contraseñas es un gestor de contraseñas seguro, nunca un chatbot público ni un documento que vayas a subir a la IA. Si un asistente de IA te pide credenciales para operar en tu nombre sobre otros servicios, asegúrate de que se trata de una integración oficial y auditada, y valora si realmente merece la pena ese nivel de acceso.

5. Resultados médicos e información sobre tu salud

Es muy tentador describir síntomas, diagnósticos o tratamientos en un chatbot para obtener una explicación rápida. Sin embargo, las herramientas de IA genérica no están cubiertas por las mismas garantías de confidencialidad que un hospital o una consulta médica, ni cumplen necesariamente con normativas como HIPAA o GDPR en su máximo nivel.

Resulta especialmente arriesgado compartir informes médicos, resultados de análisis, diagnósticos concretos, tratamientos en curso, historiales clínicos o detalles sobre enfermedades de familiares. Si esa información acaba filtrada, puede afectar a tu privacidad, a tu acceso a seguros de salud, a tu vida laboral e incluso dar pie a formas de discriminación muy sutiles.

Además, un chatbot no sustituye en ningún caso a un profesional sanitario. La IA puede alucinar, inventar diagnósticos o dar consejos peligrosos sin comprender el contexto completo. Para temas de salud, lo prudente es utilizar la IA solo para información general y no personalizada, y reservar los detalles clínicos para canales médicos seguros.

6. Pensamientos íntimos, creencias y aspectos muy personales

Como los chatbots suenan cada vez más “humanos”, es fácil que se conviertan en una especie de confesor digital. Algunas personas expresan allí sus miedos más profundos, conflictos de pareja, orientaciones sexuales aún privadas, traumas, ideología política o creencias religiosas muy personales.

El problema es que, si esas conversaciones se filtran o se procesan de forma poco ética, podrían usarse para perfiles psicológicos, campañas de manipulación, chantajes o discriminaciones indirectas. Aunque esta posibilidad parezca remota, la regla práctica es clara: no cuentes a un chatbot nada que te destrozaría ver publicado en abierto.

Esto incluye también información muy detallada sobre tus familiares, amigos o hijos. No tienes derecho a exponer su privacidad en un sistema que no puedes controlar, y podrías ponerles en riesgo sin que ni siquiera lo sepan.

7. Información corporativa y datos confidenciales de tu empresa

Una de las filtraciones más habituales hoy en día se produce cuando alguien copia y pega en un chatbot documentos internos de la empresa para que se los resuma, traduzca o convierta en una presentación. En esos textos suele haber de todo: datos de clientes, cifras de negocio, códigos fuente, planes estratégicos, contratos, actas de reuniones, manuales internos o correos electrónicos delicados.

Compartir este tipo de contenido en un chatbot público puede suponer una violación de secretos comerciales, de acuerdos de confidencialidad (NDA) e incluso de leyes de protección de datos. Grandes compañías como Samsung, Apple, JPMorgan o Google han llegado a restringir o prohibir el uso de chatbots públicos precisamente por incidentes de este tipo.

Especial mención merece el código fuente. Subir fragmentos significativos de software propietario a un chatbot puede convertirlo, de facto, en parte del conjunto de entrenamiento de la IA, perdiendo el control sobre su difusión. Lo mismo ocurre con procesos internos, protocolos de seguridad, estrategias de negocio o ideas de producto aún no lanzadas: si las vuelcas en la IA, dejas de tener el monopolio de esa información.

8. Trabajo creativo original e ideas aún no publicadas

Los chatbots son geniales para dar forma a textos, guiones, campañas de marketing o ideas de negocio. Ahora bien, si compartes íntegramente una novela inédita, una campaña creativa aún secreta o el diseño de un nuevo producto, debes asumir que parte de ese contenido puede reaparecer, transformado, en respuestas a otros usuarios o en futuras versiones del modelo.

Esto complica mucho la protección de la propiedad intelectual. Aunque muchas plataformas prometen cierto respeto por los derechos de autor, en la práctica es difícil probar que una idea concreta ha sido “tomada” de tus conversaciones, y tampoco puedes garantizar que tu contenido no termine en manos de revisores humanos o de socios externos.

Si tienes una idea de negocio, un prototipo o un concepto artístico que aún no has registrado, plantéate muy bien qué nivel de detalle vas a compartir con la IA. Trabajar con descripciones generales y sin revelar detalles críticos es mucho más seguro que pegar directamente tu obra completa.

Riesgos de seguridad técnicos: qué puede salir mal al usar chatbots

Más allá de lo que los usuarios comparten, los chatbots pueden convertirse en un riesgo para la propia empresa que los despliega si no se diseñan con seguridad desde el principio. Hay varios frentes a tener en cuenta.

Privacidad, almacenamiento inseguro y cumplimiento normativo

Los chatbots empresariales suelen manejar datos personales: nombres, emails, historiales de compra, reclamaciones de soporte o, en sectores delicados, información médica, financiera o bancaria. Si estos datos se almacenan sin cifrado adecuado, en servidores mal configurados o sin controles de acceso estrictos, cualquier brecha puede convertirse en un desastre legal, económico y reputacional.

Las normativas como GDPR en Europa, CCPA en California, HIPAA en sanidad o SOC 2 en auditoría de sistemas exigen medidas muy concretas: control sobre qué datos se recogen, para qué se usan, cuánto tiempo se guardan, quién puede acceder a ellos y cómo se pueden borrar. Un chatbot que ignore estas obligaciones expone a la organización a multas millonarias y demandas colectivas.

También hay que tener en cuenta las políticas de retención de datos. Algunos proveedores eliminan las conversaciones pasados unos meses; otros las guardan durante años o permiten que el usuario las borre manualmente. Si no se define y revisa bien esta política, es fácil acumular grandes volúmenes de información sensible innecesaria que, ante una brecha, amplifica el impacto.

Desinformación, alucinaciones y gestión de marca

Los LLM pueden inventarse datos con total seguridad en sí mismos, lo que se conoce como alucinación. Para una empresa, un chatbot que responde con información errónea o engañosa no solo genera frustración en los clientes, sino que puede desembocar en casos legales sonados, como el del chatbot de una aerolínea que prometió una política de reembolsos que en realidad no existía.

Además, el chatbot suele ser el primer punto de contacto de muchos clientes con la marca. Si sus respuestas son groseras, inadecuadas, fuera de tono o simplemente incorrectas, el daño a la reputación puede ser importante. Por eso, los chatbots corporativos deben contar con medidas de protección conversacional que limiten los temas, el estilo y el rango de respuestas permitido.

Una buena práctica es usar generación aumentada por recuperación (RAG), donde el modelo basa sus respuestas en una base de conocimiento verificada y actualizada en lugar de improvisar. Combinado con filtros de contenido, revisión humana en casos sensibles y pruebas exhaustivas, se puede reducir drásticamente el riesgo de alucinaciones públicas.

Inyección de prompts y salidas maliciosas

La llamada inyección de prompts consiste en que el usuario redacta un mensaje específicamente diseñado para saltarse las instrucciones internas del chatbot. Por ejemplo, en un sistema que gestiona pedidos, un atacante podría intentar incluir en un campo de texto una orden oculta al modelo para manipular precios, revelar datos internos o ejecutar acciones no deseadas.

En contextos donde el chatbot interactúa con bases de datos o sistemas de back-end, el riesgo va más allá de la conversación. Si la arquitectura no está bien aislada, una entrada maliciosa podría generar consultas peligrosas, como el clásico ejemplo de inyección SQL dentro de un texto aparentemente inocente (por ejemplo, un número de pedido que en realidad contiene una sentencia para borrar tablas).

Mitigar estos ataques exige aplicar validaciones estrictas de entrada (expresiones regulares, listas blancas de formatos permitidos), separar claramente lo que es “texto de usuario” de lo que son “instrucciones al modelo” y, por supuesto, nunca confiar ciegamente en que el chatbot genere directamente consultas o comandos que se vayan a ejecutar sin revisión.

Denegación de servicio y costes descontrolados

Los modelos de IA avanzados son muy exigentes en términos de recursos de cómputo. Un ataque de denegación de servicio (DoS) contra un chatbot se basa en enviarle una gran cantidad de peticiones simultáneas para saturar la infraestructura, provocar caídas, tiempos de respuesta inaceptables o agotar las cuotas contratadas con el proveedor.

Cuando el chatbot está construido sobre servicios cloud como Watson, Dialogflow u otros LLM comerciales, el consumo se factura normalmente por número de peticiones o por tokens procesados. Un ataque sostenido no solo deja el servicio inutilizable para usuarios legítimos, sino que puede disparar los costes en cuestión de horas si no se han establecido límites adecuados.

La defensa pasa por aplicar los mismos mecanismos que para cualquier API pública: limitación de tasa (rate limiting), detección de patrones anómalos, firewalls de aplicaciones web (WAF), monitorización en tiempo real y planes de contingencia que permitan cortar el servicio de forma controlada si la situación se desborda.

Buenas prácticas y medidas de seguridad para usar chatbots con cabeza

Aunque todo esto pueda sonar preocupante, es perfectamente posible usar chatbots de forma segura, tanto como usuario particular como desde una organización. La clave está en combinar hábitos de prudencia con medidas técnicas sólidas.

Minimización y anonimización de datos

Como usuario, tu mejor arma es el sentido común: comparte solo lo estrictamente necesario. Si el chatbot puede ayudarte igualmente sin saber tu nombre, tu dirección o el nombre real de tu empresa, no se los des. Reformula tus preguntas para que sean lo más genéricas posible sin perder utilidad.

Antes de pegar un texto largo (un contrato, un informe, un correo), haz una pasada previa para eliminar o sustituir nombres propios, números de documento, direcciones, correos o teléfonos. Puedes usar marcadores genéricos como “Cliente X”, “Empresa Y” o “Fecha Z”. Y no te olvides de revisar también metadatos ocultos o información incrustada en archivos que vayas a subir.

Cuando trabajes con material académico o de investigación, evita introducir datos no publicados, resultados confidenciales o información protegida por normas éticas. En entornos laborales, revisa siempre las políticas internas sobre uso de IA antes de compartir cualquier cosa relacionada con la organización.

Configurar la privacidad y conocer las políticas de cada plataforma

Cada proveedor de IA tiene sus propias políticas de privacidad y opciones de configuración. Muchos permiten desactivar, total o parcialmente, el uso de tus conversaciones para entrenar sus modelos, utilizar modos de chat temporal que no guardan el historial o eliminar manualmente tus diálogos pasados.

Dedica unos minutos a revisar estos ajustes: desactiva el uso de datos para entrenamiento cuando sea posible, utiliza el modo “incógnito” del chatbot si lo ofrece y borra periódicamente las conversaciones que contengan información delicada. Ten en cuenta, eso sí, que el borrado no siempre es inmediato y que algunos proveedores conservan copias por motivos legales o técnicos.

También conviene leer al menos por encima la política de retención de datos: durante cuánto tiempo se guardan las conversaciones, si se comparten con terceros (socios de analítica, investigadores, desarrolladores externos) y qué derechos tienes para solicitar su eliminación o exportación.

Seguridad técnico en chatbots empresariales

Si formas parte de una organización que quiere desplegar su propio chatbot, la seguridad debe ser un pilar desde el diseño. Empieza por implementar control de acceso basado en roles (RBAC): no todos los usuarios necesitan ver o editar lo mismo, y el chatbot tampoco debe acceder a más datos de los imprescindibles para cada caso de uso.

Asegúrate de que toda la comunicación se realiza mediante HTTPS y cifrado robusto, tanto en tránsito como en reposo. Protege las APIs con autenticación y autorización adecuadas, segmenta las bases de datos para minimizar el impacto de una posible brecha y registra cuidadosamente quién accede a qué y cuándo.

Las auditorías de seguridad deben ser periódicas y sistemáticas: pruebas de penetración, revisiones de código, análisis de configuración, simulación de ataques de inyección de prompts, etc. Cuanto antes se detecten las vulnerabilidades, más barato y sencillo será corregirlas. Y no olvides el monitoreo continuo para detectar comportamientos anómalos, tanto en el tráfico como en las respuestas del chatbot.

Formación de usuarios y cultura de ciberseguridad

A menudo, el eslabón más débil no es la tecnología, sino las personas. Por eso es esencial formar a empleados y colaboradores en el uso responsable de los chatbots: qué se puede compartir y qué no, cómo anonimizar datos, cómo identificar respuestas dudosas o potencialmente dañinas y a quién recurrir si sospechan de un incidente.

Los responsables de TI y ciberseguridad deberían proporcionar guías claras, ejemplos prácticos y políticas internas accesibles sobre el uso de IA en la empresa. Un buen objetivo es que, incluso si alguien intenta hacer un uso inadecuado del chatbot, las propias medidas de protección del sistema lo hagan prácticamente imposible.

En paralelo, los desarrolladores que trabajan con estos sistemas necesitan una formación específica en seguridad de software aplicada a IA: comprensión de los vectores de ataque típicos, diseño seguro de integraciones con back-ends, protección frente a DoS y buenas prácticas de gestión de datos.

Adoptar esta mentalidad desde el inicio transforma a la IA en una aliada segura y rentable, en lugar de en un foco constante de sustos y riesgos difíciles de controlar.

Usar chatbots de inteligencia artificial de forma inteligente implica entender qué información nunca debería salir de tu esfera privada, qué riesgos técnicos existen detrás de una simple conversación y qué herramientas tienes para reducirlos al mínimo. Mantener bajo control datos personales, financieros, médicos, corporativos y creativos, combinar minimización y anonimización, exigir buenas prácticas de seguridad a los proveedores y construir una cultura de prudencia digital te permite aprovechar todo el potencial de la IA conversacional sin convertir tu vida ni la de tu empresa en un experimento de alto riesgo.