OpenAI anunció un clasificador de imágenes, advertencias y suspensiones temporales en ChatGPT para combatir el material de abuso sexual infantil. La empresa afirma que, en pruebas iniciales con socios, la herramienta marcó menos imágenes sin dejar de identificar la misma cantidad de imágenes abusivas que el sistema de comparación.
***
- Según OpenAI, el clasificador analiza imágenes no vistas previamente, incluidas las generadas con IA, y estará disponible sin costo para empresas seleccionadas mediante su API.
- En pruebas iniciales, la empresa afirma que la herramienta marcó 48% menos imágenes y encontró la misma cantidad de imágenes abusivas; también dijo que las imágenes señaladas tenían el doble de probabilidades de ser abusivas.
- OpenAI anunció advertencias y orientación hacia apoyo especializado en ChatGPT, además de suspensiones temporales para algunas cuentas que realicen consultas que sexualicen a menores.
🛡️ OpenAI refuerza la detección de abuso infantil
Su clasificador analiza imágenes inéditas, incluidas las generadas con IA.
En pruebas iniciales marcó 48% menos imágenes y detectó la misma cantidad de material abusivo que el sistema comparado.
ChatGPT añadirá alertas y… pic.twitter.com/pzQLgpuocY
— Diario฿itcoin (@DiarioBitcoin) November 16, 2026
OpenAI acaba de introducir nuevas barreras contra el material de abuso infantil.
La compañía de IA anunció un clasificador de imágenes, advertencias dentro de ChatGPT y herramientas para desarrolladores y fuerzas del orden. Las medidas buscan detectar material de abuso sexual infantil, limitar el acceso a contenido que sexualiza a menores y facilitar la respuesta de quienes revisan o investigan estos casos.
El anuncio combina medidas de detección automatizada con acciones dirigidas a usuarios y organizaciones que trabajan con estos contenidos. OpenAI también informó de resultados iniciales de pruebas con socios y de su colaboración con entidades especializadas. Los datos divulgados describen evaluaciones preliminares, no una medición general del desempeño de la herramienta.
Un clasificador para reducir la carga de revisión
OpenAI afirma que su nueva herramienta analiza imágenes no vistas previamente para buscar señales visuales de material de abuso sexual infantil, incluidas imágenes generadas mediante inteligencia artificial. El clasificador asigna una puntuación que, según la compañía, puede orientar a los revisores sobre cómo abordar cada caso. OpenAI no lo presentó como un reemplazo de la evaluación humana ni como una decisión definitiva sobre el contenido.
La empresa dijo que ofrecerá acceso a la herramienta mediante su API y sin costo a empresas seleccionadas. También señaló que desarrolló el clasificador junto con el National Center for Missing and Exploited Children, conocido como NCMEC, y que trabaja con Tech Coalition y ROOST para compartir el acceso a la tecnología.
En pruebas iniciales realizadas con socios, OpenAI afirma que el clasificador marcó 48% menos imágenes mientras identificaba la misma cantidad de imágenes abusivas que el sistema usado para comparar los resultados. La compañía también dijo que las imágenes señaladas tenían el doble de probabilidades de ser abusivas, una proporción que, según su explicación, podría ayudar a enfocar el tiempo de revisión.
Esos resultados apuntarían a una posible reducción del volumen de imágenes que deben examinar las personas, sin una pérdida reportada de las imágenes abusivas detectadas en las pruebas citadas. Sin embargo, la información divulgada no detalla el tamaño de las muestras, los criterios completos de evaluación ni el desempeño en distintos escenarios. Por eso, las cifras deben leerse como resultados iniciales y no como una garantía aplicable a todo uso.
Advertencias y suspensiones temporales en ChatGPT
OpenAI anunció que incorporará nuevas pantallas de advertencia en ChatGPT cuando una persona intente realizar consultas para acceder a material que sexualiza a menores. La aplicación dirigirá a esos usuarios hacia apoyo especializado para detener conductas dañinas. Según la compañía, también suspenderá la cuenta durante 24 horas como advertencia.
La empresa dijo que ChatGPT ya bloquea el material de abuso sexual infantil y las solicitudes relacionadas con ese contenido. Las nuevas alertas y suspensiones se sumarían a esos bloqueos: si una persona reincide, OpenAI señaló que podría eliminar su cuenta de forma permanente.
OpenAI indicó que elaboró los mensajes y las pautas para responder a estas conductas con organizaciones e investigadores especializados. Entre ellos mencionó a Protect Children, la Lucy Faithfull Foundation y Joel Scanlan, de la Universidad de Tasmania, quien evaluó de manera independiente una prueba de mensajes disuasorios.
La combinación de advertencia, orientación y suspensión temporal busca intervenir antes de que una conducta reiterada termine en la eliminación de la cuenta, según el esquema anunciado. La compañía no detalló cuántas cuentas podrían verse afectadas ni cómo medirá si las advertencias contribuyen a cambiar el comportamiento de quienes realizan consultas de ese tipo.
Orientación para desarrolladores y apoyo a investigadores
OpenAI también anunció que publicará pautas para desarrolladores que utilizan sus herramientas, con recomendaciones para prevenir y detectar contenido de abuso sexual infantil y ayudar a los usuarios a reportarlo. La orientación se dirige a quienes construyen servicios con tecnología de la empresa, de modo que las medidas de seguridad no dependan únicamente de los controles integrados en ChatGPT.
La compañía afirmó que, en pruebas iniciales, las pautas ayudaron a varios desarrolladores a adoptar herramientas de seguridad infantil y a registrarse para reportar material de abuso sexual infantil al NCMEC. OpenAI no identificó a esos desarrolladores ni especificó cuántos participaron, por lo que el dato ofrece una primera indicación de adopción, pero no permite medir su alcance total.
La empresa anunció además recursos para fuerzas del orden que trabajan en asuntos de seguridad infantil. Entre las funciones previstas figuran complementos dedicados, herramientas de investigación y capacidades para analizar datos complejos; el acceso quedará administrado por responsables del programa.
La iniciativa para las fuerzas del orden incluye capacitación para investigadores y una guía de campo sobre el uso de inteligencia artificial. OpenAI presentó estos recursos como apoyo a las tareas de investigación, sin afirmar que sustituyan los procedimientos de las autoridades ni detallar qué organismos participarán o en qué jurisdicciones estarán disponibles.
Un anuncio en medio de cuestionamientos sobre seguridad
Las nuevas medidas llegan mientras OpenAI enfrenta demandas que atribuyen daños a su tecnología, con especial preocupación por sus efectos sobre niños y adolescentes. Esas acusaciones forman parte del contexto del anuncio, pero la información divulgada no ofrece detalles sobre los casos ni establece que las herramientas presentadas respondan a una demanda concreta.
Common Sense Media, una organización sin fines de lucro centrada en la seguridad, calificó la tecnología de OpenAI como un riesgo inaceptable para adolescentes, según el reporte de TechCrunch citado en la información del anuncio. Esa crítica pone de relieve la tensión entre el despliegue de sistemas conversacionales y las preocupaciones sobre sus posibles efectos en usuarios jóvenes. El anuncio no aporta una evaluación independiente de ese riesgo general.
El reporte también menciona que otros chatbots de inteligencia artificial, en particular Grok, se han utilizado para crear imágenes sexualizadas sin consentimiento, incluidas representaciones de menores. Ese antecedente amplía el problema más allá de una sola plataforma y ayuda a explicar por qué la detección de imágenes generadas por IA figura entre las capacidades que OpenAI atribuye a su nuevo clasificador.
El anuncio reúne controles técnicos, advertencias para usuarios y recursos para desarrolladores y autoridades, pero su impacto dependerá de cómo funcionen en contextos reales y de la adopción por parte de las organizaciones invitadas. Por ahora, las cifras de rendimiento proceden de pruebas iniciales con socios y la empresa no divulgó detalles que permitan comparar su alcance con el universo completo de imágenes o consultas dañinas.
Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.
Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.
ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.
Suscríbete a nuestro boletín
Artículos Relacionados
Biohacking
Una vacuna senolítica busca reactivar defensas envejecidas y eliminar células dañinas
Curiosidades
Agujeros negros de 10 masas solares podrían nacer de estrellas que no explotan
Empresas
Gigante energético de Noruega, Equinor, detecta ciberataque en curso contra sus sistemas de TI: qué se sabe
Bitcoin