Por Canuto  

OpenAI anunció un informe semestral sobre seguridad comunitaria y nuevas restricciones en ChatGPT para reducir el acceso de adolescentes a información práctica sobre armas. La compañía dijo que hizo más de 200 referidos a las autoridades policiales durante el tercer trimestre de 2026.
***

  • OpenAI prevé publicar el primer Informe de Seguridad Comunitaria a principios de 2027; cubriría la segunda mitad de 2026.
  • La empresa limitará detalles sobre ataques masivos pasados y restringirá información sobre armas para usuarios menores de 18 años.
  • OpenAI trabaja en respuestas automáticas para conversaciones preocupantes y en nuevas notificaciones para padres.

OpenAI anunció nuevas medidas para que ChatGPT limite la información que podría facilitar actos violentos y refuerce sus salvaguardas para adolescentes. La empresa también prevé publicar un Informe de Seguridad Comunitaria cada seis meses y dijo que realizó más de 200 referidos a las autoridades policiales durante el tercer trimestre de 2026.

El anuncio combina cambios en las respuestas del chatbot con una promesa de mayor transparencia sobre la forma en que la compañía identifica y aborda riesgos. Según la cobertura de Unite.AI, las nuevas salvaguardas comenzarán a implementarse en las próximas semanas, mientras OpenAI continúa ajustando sus sistemas y políticas.

Un informe semestral sobre seguridad comunitaria

OpenAI planea publicar el primer Informe de Seguridad Comunitaria a principios de 2027, con un análisis de la segunda mitad de 2026. La compañía prevé actualizarlo cada seis meses y afirma que busca ofrecer una explicación más clara sobre los riesgos que observa y las medidas que aplica para afrontarlos.

El documento describirá cómo la empresa entrena sus sistemas para detectar, investigar y responder a problemas de seguridad comunitaria. También incluirá ejemplos anonimizados de daños vinculados con la violencia, información sobre nuevas medidas de mitigación, cambios de política y datos de respaldo, según OpenAI.

La iniciativa busca mostrar cómo los modelos identifican conductas dañinas y qué respuesta ofrecen en situaciones reales, en lugar de limitarse a exponer principios generales de seguridad. La publicación periódica permitiría seguir los cambios en las salvaguardas y conocer los riesgos que la compañía dice encontrar durante el uso de sus productos.

OpenAI señaló que su trabajo incluye llevar ante las autoridades policiales amenazas inminentes de violencia, y sostuvo que esos referidos están contribuyendo a interrumpir planes violentos. La compañía añadió que consulta a especialistas en salud mental y comportamiento cuando evalúa casos difíciles, y describió la labor de las empresas de IA como complementaria a la de las fuerzas policiales, familiares, profesionales de salud mental y responsables de políticas públicas.

Menos detalles sobre ataques masivos y violencia

OpenAI afirmó que sus modelos están entrenados para no entregar instrucciones que ayuden a planificar o ejecutar actos violentos. También restringirá las respuestas sobre ataques masivos del pasado y sobre las personas que los cometieron, incluso cuando ciertos datos estén disponibles en otras fuentes en línea.

Las nuevas reglas limitarán las reconstrucciones de esos hechos y los detalles sobre las armas y el equipo utilizados, así como la manera en que se consiguieron. OpenAI también restringirá comparaciones detalladas sobre la escala del daño, porque considera que ese tipo de información podría amplificar la notoriedad de un atacante.

Estos límites aplicarán sin importar la edad de quien pregunte o el motivo de la consulta. La empresa aclaró, sin embargo, que las personas podrán usar ChatGPT para comprender los acontecimientos, conocer el impacto en víctimas y comunidades, reconocer señales de advertencia y explorar formas de prevenir nuevos episodios de violencia.

OpenAI dijo que esta política se apoya en un trabajo que describió en mayo de 2026, cuando explicó que ChatGPT podía utilizar resúmenes breves y factuales de señales de advertencia anteriores para responder con mayor cautela en conversaciones posteriores. La compañía busca ampliar ese enfoque: si chats recientes muestran indicios de posible violencia, el sistema sería más conservador al compartir información susceptible de uso indebido.

Controles adicionales para adolescentes y sus familias

OpenAI extenderá esas restricciones a las respuestas que el sistema estime que podrían llegar a una persona menor de 18 años, incluso si la conversación no revela una intención violenta. Para adolescentes, los cambios también limitarán información práctica sobre armas y sistemas de seguridad que pudiera aprovecharse para facilitar violencia, aunque la pregunta parezca inocua.

La compañía ya prohíbe ayudar a cualquier usuario a planear o cometer actos violentos y restringe la asistencia para que adolescentes encuentren u obtengan armas. Aun con los límites ampliados, los jóvenes podrán recurrir a ChatGPT para prevenir o desescalar situaciones violentas, buscar apoyo y ponerse en contacto con un adulto de confianza.

OpenAI también trabaja con especialistas en salud mental y prevención de violencia en mecanismos automatizados de intervención. Si una conversación muestra señales de que alguien se está fijando en la violencia o en la idea de causar daño grave a otra persona, ChatGPT podría terminar el chat; si el sistema cierra varias conversaciones por ese motivo, la empresa podría suspender temporalmente la cuenta.

La compañía prohíbe las cuentas que determina que infringieron sus políticas sobre actividad violenta y prepara nuevas notificaciones para las familias. Las cuentas vinculadas a controles parentales ya pueden recibir alertas cuando revisores especialmente capacitados identifican una preocupación grave de autolesión o conductas que podrían asociarse con trastornos alimentarios. OpenAI también dijo que desde julio de 2026 notifica a los padres si se desactiva la cuenta de un adolescente por violar las reglas sobre violencia, y que trabaja en avisos para futuras pausas por conversaciones repetidas sobre ese tema.

Predicción de edad y despliegue de las protecciones

Las medidas se suman a ChatGPT para Adolescentes, lanzado el 18 de agosto de 2026. OpenAI indicó que la experiencia aplica salvaguardas predeterminadas basadas en los Principios para Menores de 18 años de su Model Spec a quienes estima menores de edad y a quienes declaran tener entre 13 y 17 años.

La empresa comenzó a desplegar la predicción de edad en los planes de consumo de ChatGPT el 20 de enero de 2026. El sistema analiza señales de comportamiento y de la cuenta para estimar si el usuario es menor de 18 años, y OpenAI afirmó que sigue evaluando nuevas señales a medida que las personas utilizan el servicio.

Una actualización del 25 de agosto de 2026 indicó que la predicción de edad había comenzado a implementarse en la Unión Europea. Si el sistema ubica por error a una persona adulta en la experiencia para menores, esa persona puede confirmar su edad mediante Persona, socio de verificación de edad de OpenAI, y pedir que se retiren las protecciones adicionales para adolescentes.

OpenAI dijo que las nuevas salvaguardas comenzarán a desplegarse en las próximas semanas y que seguirá perfeccionándolas. El informe previsto para 2027 ofrecerá otro punto de seguimiento: la empresa tendrá que explicar qué riesgos detectó, cómo actuaron sus herramientas y qué cambios introdujo para responder a ellos.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados