Por Canuto  

El co-CEO de Waymo, Dmitri Dolgov, advierte que la cultura de ‘romper cosas’ es inaceptable en la IA física, donde los errores pueden ser irreversibles. Waymo defiende sus cifras de seguridad, pero los retiros recientes y la advertencia de la NHTSA muestran que la prudencia es imprescindible.
***

  • Dolgov propone “muévete rápido y envía de manera segura” en lugar de “muévete rápido y rompe cosas”.
  • Waymo realiza más de 500.000 viajes autónomos a la semana, pero ha enfrentado retiros y advertencias de la NHTSA.
  • La seguridad debe integrarse desde el diseño, no añadirse después, para evitar consecuencias fatales.

El co-CEO de Waymo, Dmitri Dolgov, emitió una advertencia severa a todas las empresas que desarrollan inteligencia artificial para robots y vehículos autónomos, según un artículo de Benzinga.

Dolgov señaló que los errores en chatbots son corregibles, pero los fallos en autos o robots pueden costar vidas humanas. “Simplemente no hay un botón de deshacer y de reintento”, dijo.

Una cultura de riesgo para la IA física

Dolgov, quien lidera Waymo, la subsidiaria de Alphabet, propone un nuevo lema: “Muévete rápido y envía de manera segura”. Considera que la seguridad debe estar integrada en los modelos, métodos de entrenamiento y arquitectura del sistema desde el inicio.

No se debe añadir la seguridad después de la implementación, advierte el ejecutivo. Los accidentes en el mundo físico no se pueden revertir, a diferencia de los errores en software.

Dolgov afirma que los fallos en vehículos autónomos pueden costar “vidas humanas, no tokens”. No existe botón de deshacer ni reintento en la realidad física.

La advertencia se produce mientras Waymo expande su servicio de robotaxis en Estados Unidos. La compañía de Alphabet ha acumulado más de 220 millones de millas solo de pasajeros.

En la actualidad, Waymo realiza más de 500.000 viajes completamente autónomos por semana, un número que respalda su argumento de seguridad.

Expansión y datos de seguridad

Una investigación que comparó 56,7 millones de millas de conducción autónoma con puntos de referencia humanos encontró tasas de accidentes con lesiones y activación de bolsas de aire estadísticamente más bajas. Sin embargo, la compañía ha enfrentado retiros significativos.

En mayo, Waymo retiró casi 3.800 robotaxis porque un software podía enviar vehículos a caminos inundados. Posteriormente, retiró casi 3.900 vehículos tras más de una docena de incidentes en zonas de construcción de autopistas cerradas.

Waymo suspendió temporalmente el servicio en autopistas mientras instalaba las actualizaciones. La NHTSA también ha iniciado un escrutinio federal sobre el comportamiento de los vehículos cerca de autobuses escolares y controles de tráfico.

En julio, la NHTSA advirtió sobre un “patrón claro” de vehículos autónomos que ingresan a escenas de emergencia, bloqueando ambulancias y bomberos, o que no responden correctamente a luces, humo y conos de tráfico. Estas advertencias subrayan los desafíos de la IA física.

El administrador de la NHTSA, Jonathan Morrison, declaró que cualquier vehículo automatizado que no pueda interactuar con seguridad con los primeros respondedores representa un peligro para el público. Instó a las empresas a priorizar soluciones.

Postura regulatoria y lecciones para la industria

La postura de Morrison refuerza la advertencia de Dolgov sobre la importancia de la seguridad en la IA física. Waymo defiende sus cifras de seguridad, pero los retiros demuestran la necesidad de pruebas continuas.

Dolgov reconoce que la seguridad es un proceso constante, no un destino. La expansión de Waymo le da peso a su advertencia, pero también muestra los desafíos pendientes.

La advertencia de Dolgov aplica tanto a Waymo como a toda la industria de IA. Los accidentes en el mundo físico no tienen retroceso, por lo que la prudencia es esencial.

El mensaje de Waymo es claro: la IA para robots y autos exige una mentalidad diferente a la de las apps. No se puede iterar sobre errores que causan daño.

La industria debe adoptar un enfoque de seguridad primero, como sugiere Dolgov, para evitar consecuencias irreversibles.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados