Por Canuto  

Shyam Sankar, director de tecnología de Palantir, asegura que el Pentágono ya sustituyó los modelos de Anthropic por otras opciones de IA y que el cambio no alteró sus operaciones. Sus declaraciones también reavivaron el debate sobre la supervisión de estas herramientas, tras el ataque a una escuela en Minab, Irán.
***

  • Según Sankar, el Pentágono reemplazó Claude con modelos de xAI, OpenAI, Google y opciones de pesos abiertos como Nemotron, de Nvidia.
  • El CTO de Palantir rechazó que la IA eligiera los objetivos del ataque en Minab y pidió esperar el informe final del Pentágono.
  • Sankar defendió que agencias existentes regulen las aplicaciones de IA y que se establezca un régimen de reporte de incidentes.

Palantir asegura que el Pentágono ya reemplazó los modelos de Anthropic

El cambio de modelos y la defensa de Palantir

El Pentágono ya dejó de utilizar los productos de Anthropic, según reportes publicados en octubre. Shyam Sankar, director de tecnología de Palantir, afirmó que el reemplazo no tuvo consecuencias operativas durante una entrevista en el programa Face the Nation, de CBS. La decisión se produjo en medio de una disputa por las salvaguardas que Anthropic exigía para el uso militar de su inteligencia artificial.

Según el reportaje de The Next Web, Sankar dijo que el cambio ya se había concretado y describió un entorno donde el Departamento utiliza modelos de xAI, OpenAI y Google, además de alternativas de pesos abiertos como Nemotron, de Nvidia. La información disponible no detalla cuándo se completó la sustitución ni qué modelo asumió cada tarea, por lo que la declaración no permite medir el alcance específico del cambio en cada aplicación militar.

Claude, el modelo de Anthropic, había formado parte del Maven Smart System de Palantir, una plataforma que utiliza el Pentágono. En febrero, el secretario de Defensa, Pete Hegseth, calificó a Anthropic como un riesgo para la cadena de suministro, según la BBC. El medio también informó que el Departamento dejó de usar sus productos. Sankar presentó la transición como una decisión que no interrumpió las operaciones.

El ejecutivo vinculó esa continuidad con la capacidad de seleccionar y cambiar de modelo dentro de las aplicaciones desarrolladas por los usuarios. A su juicio, esa flexibilidad también ha impulsado el crecimiento comercial de Palantir, porque permite adaptar las herramientas sin depender de un solo proveedor; su argumento, sin embargo, no explica qué controles técnicos o contractuales acompañan cada sustitución.

Las críticas a los investigadores y el debate sobre riesgos

Durante la entrevista, Sankar atribuyó buena parte del temor público ante la inteligencia artificial a la influencia del altruismo eficaz entre investigadores del sector. Dijo que la mayoría de unos 2.000 investigadores estadounidenses de IA comparte esa visión y la describió, con lenguaje marcadamente crítico, como una corriente apocalíptica con aspiraciones mesiánicas.

Para ilustrar sus objeciones, mencionó al investigador Jacob Coxon, quien ha estimado en 10% la probabilidad de que la inteligencia artificial provoque la extinción de la humanidad. Sankar consideró esa clase de pronóstico una crítica teológica antes que científica, una caracterización que expresa su postura, pero que por sí sola no resuelve las discusiones técnicas sobre riesgos extremos ni permite evaluar los fundamentos de esa estimación.

El CTO también aseguró que algunos investigadores de IA comenzaron a fumar como señal de cuánto creen en el desarrollo de esta tecnología. No identificó a las personas a las que aludía ni presentó pruebas para respaldar esa afirmación, de modo que debe entenderse como una aseveración suya y no como un comportamiento documentado de la comunidad investigadora.

La discusión importa para el debate público porque enfrenta dos preocupaciones distintas: los posibles daños asociados con sistemas avanzados y las objeciones de quienes consideran exageradas algunas advertencias. Sankar cuestionó a los críticos, pero sus comentarios sobre el tabaquismo carecieron de respaldo verificable; esa diferencia entre opiniones, estimaciones y hechos comprobables resulta central al evaluar declaraciones sobre seguridad de IA.

El proceso de selección de objetivos y el ataque en Minab

Sankar describió la selección de objetivos militares como un proceso humano asistido por herramientas, y no como una decisión que la inteligencia artificial toma de forma autónoma. Como ejemplo, afirmó que planificar 1.000 ataques en un día antes requería dos semanas de trabajo para 50 personas, mientras que con IA una persona puede completar esa tarea en cuatro horas.

El ejecutivo sostuvo que esa aceleración no significa que la máquina escoja por sí misma a quién atacar. La distinción que propuso separa la automatización o el apoyo a tareas de planificación de la autoridad sobre las decisiones, aunque su explicación no detalló qué funciones realiza cada sistema ni cómo se valida la información utilizada en el proceso.

La presentadora Margaret Brennan le preguntó por el ataque estadounidense contra una escuela en Minab, Irán. Bloomberg había informado en septiembre, citando a funcionarios que participaron en una revisión no publicada del Pentágono, que parte del personal del Comando Central habría dependido demasiado de la IA de Maven antes del ataque; ese medio reportó al menos 123 niños muertos. Por separado, CNN en Español informó el 18 de septiembre, al reseñar un informe de la ONU, que funcionarios iraníes reportaron al menos 156 víctimas, entre ellas 120 niños y 26 docentes.

Sankar calificó el reportaje de Bloomberg de inexacto y dijo que un error humano era la causa probable, pero también pidió esperar el informe final del Pentágono. Afirmó que Palantir agregó agentes de IA para comprobar el trabajo en una parte del proceso que, según dijo, la compañía no controla, y señaló que no sabía cuándo se divulgaría la investigación oficial.

Responsabilidad, regulación y supervisión

Un grupo de 120 demócratas de la Cámara de Representantes escribió al secretario de Defensa, Pete Hegseth, para plantear preguntas sobre el ataque. Sankar dijo que Palantir había informado al Congreso sobre Maven, mientras que el director ejecutivo de Anthropic había afirmado en junio que no sabía si alguien utilizó Claude durante el ataque a la escuela.

Al referirse a un incidente relacionado con Hugging Face, Sankar sostuvo que los modelos hicieron lo que alguien les indicó y calificó lo ocurrido como un producto defectuoso. A partir de esa interpretación, dijo que las empresas de inteligencia artificial deberían asumir responsabilidad, aunque la información disponible no precisa los detalles del incidente ni identifica qué producto o instrucciones estaban involucrados.

En materia regulatoria, Sankar propuso que organismos existentes, como la Administración de Alimentos y Medicamentos de Estados Unidos, supervisen la forma en que las personas aplican la IA. Dijo que las leyes actuales ofrecen una ventaja inicial para organizar esa vigilancia, pero reconoció que haría falta un régimen específico de respuesta y reporte de incidentes.

Palantir no firmó el acuerdo de inteligencia artificial de la Casa Blanca anunciado el mes anterior a la entrevista. Sankar explicó que el pacto estaba dirigido a compañías que fabrican modelos y que Palantir no pertenece a esa categoría, y delegó en el nuevo responsable de IA, Jay Clayton, la decisión sobre quién debería dirigir el régimen de reportes.

Las declaraciones también deben leerse teniendo en cuenta el vínculo de Sankar con el ámbito militar: además de su cargo en Palantir, es teniente coronel en el Executive Innovation Corps de la Reserva del Ejército, donde trabaja en recursos humanos. Su posición conecta la defensa de la flexibilidad tecnológica de la empresa con una discusión todavía abierta sobre quién controla las herramientas, cómo se investigan sus errores y qué responsabilidades corresponden a cada actor.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados