Por Canuto  

OpenAI comenzó a desplegar un modo de bloqueo opcional en ChatGPT para usuarios que manejan información sensible y desean reforzar su defensa frente a ataques de inyección de comandos. La medida reduce varias funciones del servicio para dificultar la exfiltración de datos, y llega junto con un nuevo gestor de sesiones activas para vigilar accesos a la cuenta.
***

  • OpenAI presentó un Modo de Bloqueo opcional para reforzar la seguridad de ChatGPT ante ataques de inyección de comandos.
  • La función limita herramientas como Investigación profunda, Modo agente, descargas y la carga de imágenes desde Internet.
  • La empresa también lanzó un gestor de sesiones activas para revisar dispositivos y cerrar accesos no deseados.

 

OpenAI comenzó a implementar un Modo de Bloqueo como una nueva configuración de seguridad opcional para ChatGPT y otros productos de la empresa. La función busca ofrecer una capa adicional de protección frente a los ataques de inyección de comandos, una amenaza que ha ganado relevancia a medida que los sistemas de inteligencia artificial acceden con mayor frecuencia a información publicada en Internet.

En términos simples, la inyección de comandos es una técnica de ingeniería social adaptada al entorno de los chatbots conversacionales. Consiste en ocultar instrucciones maliciosas dentro de páginas web, documentos u otros contenidos para intentar manipular el comportamiento del sistema y empujarlo a revelar información, saltarse reglas o ejecutar acciones no deseadas.

La empresa presentó esta herramienta como una última línea de defensa que se suma a las protecciones que, según afirma, ya existen en ChatGPT, en sus modelos y en sus sistemas backend. Sin embargo, OpenAI también dejó claro que no se trata de una función pensada para todos los usuarios, sino para personas y organizaciones que manejan datos sensibles y desean una protección más estricta ante riesgos de exfiltración de información.

Según explicó la compañía, el Modo de Bloqueo está orientado específicamente a reducir el impacto potencial de los ataques relacionados con la inyección de comandos. El objetivo no es impedir que aparezcan instrucciones maliciosas en el contenido procesado por ChatGPT, sino limitar las solicitudes de red y otras capacidades que podrían ser explotadas por un atacante para extraer datos de una cuenta, reseña Engadget.

Qué cambia cuando se activa el Modo de Bloqueo

La activación de esta configuración implica recortes importantes en varias funciones del ecosistema de OpenAI. Por ejemplo, los usuarios todavía pueden utilizar la generación de imágenes y también subir fotos a ChatGPT, pero el sistema puede dejar de extraer imágenes desde Internet o de mostrar imágenes dentro de una respuesta.

Otra restricción relevante afecta el análisis de archivos. Con el Modo de Bloqueo activado, el chatbot ya no puede descargar archivos para examinarlos. Aun así, la empresa mantuvo la posibilidad de que el usuario cargue documentos manualmente si desea pedir una opinión o análisis sobre ese material.

OpenAI también indicó que algunas funciones quedan totalmente deshabilitadas bajo este esquema. Entre ellas figuran Investigación profunda y el Modo agente, dos capacidades que amplían la interacción del sistema con herramientas y recursos externos, pero que también elevan la superficie de exposición frente a ciertos vectores de ataque.

La empresa añadió que el Modo de Bloqueo no modifica otros ajustes de la cuenta. En concreto, no cambia la memoria, la carga de archivos, la capacidad de compartir una conversación ni la posibilidad de que las conversaciones sean utilizadas para mejorar modelos. OpenAI señaló además que muchas de esas configuraciones ya pueden ser administradas por separado por los responsables de un espacio de trabajo.

Una protección pensada para casos sensibles, no para todos

La propia OpenAI subrayó que la mayoría de los usuarios probablemente no necesita utilizar esta opción en su día a día. Ese matiz es importante porque el nuevo modo ofrece mayor protección a cambio de una experiencia más restringida, algo que puede resultar razonable para entornos corporativos, jurídicos, financieros o de investigación, pero menos conveniente para usos generales.

En la práctica, la apuesta parece responder a un equilibrio entre seguridad y funcionalidad. Cuantas más conexiones, automatizaciones y acciones pueda realizar un asistente de IA, más útil se vuelve para el usuario. Pero ese mismo poder operativo también puede convertirse en una vía para que terceros intenten manipular al sistema mediante contenido diseñado para engañarlo.

Ese debate tiene implicaciones más amplias para todo el sector de la inteligencia artificial. A medida que los modelos se integran con navegadores, documentos, buscadores y herramientas de productividad, las barreras de seguridad deben adaptarse a amenazas que mezclan técnicas clásicas de ciberseguridad con nuevos métodos de manipulación del contexto que consume la IA.

En ese sentido, el Modo de Bloqueo se presenta menos como una solución universal y más como una configuración defensiva para escenarios de alto riesgo. Su valor está en reducir la capacidad del sistema de actuar sobre contenido o recursos externos cuando el costo potencial de una filtración de datos supera la pérdida de comodidad o de funciones avanzadas.

Disponibilidad y pasos para activarlo en ChatGPT

OpenAI informó que el Modo de Bloqueo ya está disponible para todas las cuentas personales. Eso incluye también a quienes usan ChatGPT desde el nivel gratuito, un detalle relevante porque amplía el alcance de la herramienta más allá de los clientes empresariales o suscriptores de pago.

Para activarlo, el usuario debe abrir el menú de configuración de ChatGPT y entrar en la sección Seguridad y protección. Dentro del apartado Seguridad avanzada, aparece la opción Modo de Bloqueo, desde donde puede encenderse mediante un interruptor.

La empresa también habilitó una forma de suspender temporalmente esta protección adicional en conversaciones concretas. Para hacerlo, el usuario puede seleccionar Gestionar desde el mensaje de estado que aparece sobre la ventana de chat y luego pulsar Desactivar para este chat.

Ese diseño sugiere que OpenAI intenta ofrecer flexibilidad sin obligar a mantener una configuración rígida en todas las interacciones. Un usuario puede priorizar la protección en términos generales y, al mismo tiempo, desactivar el bloqueo de manera puntual si necesita una función específica que queda limitada por el modo seguro.

Nuevo gestor de sesiones activas para vigilar accesos a la cuenta

De forma separada, la empresa también comenzó a desplegar un gestor de sesiones activas. Esta herramienta permite revisar qué dispositivos o navegadores han sido utilizados para acceder a una cuenta, algo útil para detectar actividad inusual o accesos que el usuario ya no reconoce.

Desde ese panel, OpenAI ofrece la posibilidad de cerrar sesión en accesos individuales o de cerrar todas las sesiones al mismo tiempo. La compañía advirtió, no obstante, que esta última acción puede tardar hasta 30 minutos en completarse.

La llegada de este panel complementa el Modo de Bloqueo con una capa más tradicional de seguridad de cuenta. Mientras la nueva configuración intenta contener riesgos asociados al comportamiento del modelo y a su interacción con contenidos externos, el gestor de sesiones ayuda a controlar el perímetro básico de acceso del usuario.

Según reportó Engadget, OpenAI recomendó que, si una persona sospecha actividad no autorizada en su cuenta, cambie su contraseña en caso de usar una, revise sus métodos de inicio de sesión y se comunique con el soporte de la empresa. Esa recomendación refleja una realidad conocida en seguridad digital: ninguna herramienta aislada sustituye las prácticas básicas de protección de credenciales y monitoreo de accesos.

En conjunto, las dos novedades muestran que OpenAI está respondiendo a una etapa en la que los riesgos de seguridad en torno a la IA ya no se limitan a errores del modelo o a sesgos de contenido. Ahora también entran en juego amenazas operativas vinculadas con la forma en que los asistentes leen información externa, gestionan sesiones y resguardan datos sensibles dentro de cuentas cada vez más utilizadas en tareas personales y profesionales.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados