Por Canuto  

Meta anunció cambios en las sugerencias de su asistente de inteligencia artificial después de que una usuaria denunciara preguntas invasivas sobre sus hijas y la recopilación de información a partir de publicaciones familiares. El caso reaviva las dudas sobre los límites de los chatbots integrados en redes sociales y sobre la diferencia entre acceder a contenido visible y utilizarlo para formular preguntas personales.
***

  • Meta reconoció que una sugerencia que preguntaba por la identidad de una niña nunca debió aparecer.
  • La usuaria Kalie Robins afirmó que el asistente reunió datos sobre sus hijas a partir de publicaciones propias y de familiares.
  • La compañía dijo que corrigió el problema relacionado con sugerencias sobre temas personales.

Meta corregirá las sugerencias invasivas de su IA tras un caso viral

Meta anunció cambios en las recomendaciones que ofrece su asistente de inteligencia artificial después de que un video viral expusiera preguntas personales sobre las hijas pequeñas de una usuaria. La controversia comenzó cuando Meta AI mostró una sugerencia que invitaba a identificar a una niña que aparecía en un video familiar publicado en Facebook, un comportamiento que volvió a poner bajo escrutinio la forma en que los chatbots aprovechan el contenido disponible en las plataformas sociales.

La compañía reconoció que la función no cumplió con sus propios estándares y aseguró que ya corrigió el problema que podía llevar al asistente a proponer preguntas relacionadas con asuntos personales. El episodio no implicó, según la explicación citada de Meta, una acusación de acceso a información privada fuera del alcance de la usuaria, pero sí planteó dudas sobre el criterio utilizado para transformar publicaciones familiares en nuevas preguntas para una conversación automatizada.

Una sugerencia que sorprendió a una madre

La usuaria de Instagram Kalie Robins publicó un video en el que explicó cómo Meta AI reaccionó después de que compartiera un clip en Facebook. Debajo de la grabación, en la que Robins aparecía cantando en un automóvil junto a su hija, el sistema presentó la sugerencia: "¿Quién es la niña pasajera?" La pregunta llamó su atención porque no se limitaba a describir el contenido, sino que invitaba a iniciar una investigación sobre la identidad de una menor.

Robins decidió seleccionar la sugerencia para comprobar qué ocurriría y afirmó que el asistente comenzó a reunir información sobre sus hijas a partir de publicaciones anteriores. Según su relato, Meta AI también utilizó contenido publicado por familiares, lo que amplió la cantidad de datos personales que el sistema parecía relacionar con la familia y convirtió una recomendación aparentemente casual en una experiencia que la usuaria consideró invasiva.

La interacción, de acuerdo con Robins, generó avisos adicionales sobre las edades de sus hijos y el lugar donde vive con su familia. Esas preguntas no demostraban por sí solas que el asistente hubiera obtenido datos desde una fuente externa a las plataformas de Meta, pero sí mostraban que el sistema podía conectar referencias distribuidas en distintas publicaciones para orientar una conversación hacia información especialmente sensible.

La usuaria también afirmó que Meta AI le mostró fotografías de sus hijas que habían sido publicadas en la plataforma, incluida una imagen que, según dijo, había eliminado años atrás. Ese punto añadió una preocupación distinta a la de las sugerencias: la percepción de que una persona puede perder claridad sobre qué contenido sigue siendo utilizable por los sistemas automatizados, incluso cuando ya no lo ve públicamente en su perfil.

La respuesta de Meta ante la polémica

En una declaración entregada a The Verge, la portavoz de Meta, Dina El-Kassaby, reconoció que la empresa "no estuvo a la altura" y afirmó que "la función nunca debería haberle planteado a la persona preguntas así". La respuesta representa una admisión directa sobre el diseño de las recomendaciones, aunque la compañía no describió públicamente todos los cambios técnicos aplicados ni precisó si revisará otras interacciones similares.

El-Kassaby explicó que Meta creó la función para ayudar a las personas a obtener más información sobre temas o publicaciones que les interesan. Sin embargo, la portavoz sostuvo que, cuando alguien pulsa una sugerencia y utiliza el asistente, la respuesta se genera con base en información a la que esa misma persona ya tiene acceso, una distinción que busca separar la visibilidad del contenido de la manera en que el sistema decide utilizarlo.

Según la explicación de Meta, el asistente pudo haber tomado referencias de videos en los que Robins mencionó a sus hijos. La empresa no presentó el episodio como resultado de una intrusión en cuentas privadas, sino como un problema en el mecanismo que recomendaba preguntas y que, en este caso, convirtió datos familiares previamente publicados en una secuencia de consultas demasiado personal.

Futurism informó anteriormente sobre el caso y el video de Robins amplificó la discusión en redes sociales. La reacción refleja una preocupación cada vez más extendida: aunque los usuarios hayan publicado un dato de forma voluntaria, no necesariamente esperan que un chatbot lo recupere, lo relacione con otras publicaciones y lo utilice para proponer preguntas sobre menores, domicilio o vínculos familiares.

El alcance del asistente y el debate sobre privacidad

Meta ha integrado su asistente de inteligencia artificial en Facebook, Instagram, WhatsApp y Messenger. La herramienta puede responder preguntas, ayudar a redactar publicaciones y generar imágenes, por lo que sus decisiones no ocurren en un espacio aislado, sino dentro de plataformas donde los usuarios mantienen redes familiares y sociales complejas.

Ese alcance vuelve especialmente delicadas las sugerencias automáticas, porque una pregunta propuesta por el sistema puede parecer una recomendación editorial, pero también puede revelar cuánto material relacionó el modelo para construirla. En el caso de Robins, la incomodidad surgió precisamente de esa capacidad de conexión: la herramienta pasó de ofrecer información sobre un video a sugerir consultas sobre la identidad, la edad y la ubicación de integrantes de una familia.

La situación también pone de relieve una diferencia importante entre consentimiento para publicar y consentimiento para inferir. Una persona puede aceptar que una fotografía sea visible para sus contactos sin esperar que un sistema automatizado la catalogue junto con imágenes antiguas, menciones de familiares y referencias sobre sus hijos para impulsar una conversación personalizada.

Para las familias, el problema adquiere una dimensión adicional cuando aparecen menores que no decidieron participar en la publicación original. La noticia no establece que Meta AI haya accedido a información fuera de los contenidos disponibles para la usuaria, pero muestra cómo una herramienta diseñada para facilitar el descubrimiento puede generar preguntas que exceden las expectativas razonables de privacidad.

Un historial reciente de críticas a las funciones de IA

El cambio anunciado llega después de otras controversias alrededor de las funciones de inteligencia artificial de Meta. La compañía retiró una herramienta que permitía crear imágenes manipuladas de otros usuarios de Instagram tras enfrentar una fuerte reacción negativa. La herramienta, identificada en reportes como Muse Image, fue retirada pocos días después de su lanzamiento, según medios que cubrieron el episodio.

Ambos episodios pertenecen a categorías distintas, pero comparten un mismo desafío: Meta debe equilibrar la utilidad de sus sistemas con límites claros sobre la identidad y el contenido de las personas. En un caso, la preocupación se concentró en la creación de imágenes falsas de usuarios; en el otro, en la forma en que una recomendación automatizada convirtió publicaciones familiares en preguntas que la usuaria consideró impropias.

La compañía ha presentado sus ajustes como una corrección de la función de sugerencias, no como una retirada general de Meta AI. El asistente continuará disponible en Facebook, Instagram, WhatsApp y Messenger, mientras Meta intenta mantener las recomendaciones relacionadas con publicaciones relevantes sin dirigirlas hacia asuntos personales que puedan resultar sensibles o invasivos.

El caso deja abierta la cuestión de cómo se evaluarán estas decisiones en el futuro. Corregir el mecanismo después de un video viral puede resolver el comportamiento visible, pero la confianza de los usuarios dependerá también de que Meta explique con suficiente claridad qué información utiliza, cómo evita inferencias sobre menores y qué opciones existen para limitar el uso automatizado de publicaciones familiares.

Qué significa para los usuarios de Meta AI

La declaración de Meta sugiere que el sistema no necesitaba acceder a material secreto para producir una recomendación problemática. Bastaba con combinar información ya disponible para la usuaria y presentarla mediante una pregunta que cambiaba el contexto original, una conclusión relevante para quienes creen que la privacidad depende únicamente de restringir quién puede ver una publicación.

El episodio también advierte que las interfaces de inteligencia artificial pueden hacer visibles conexiones que antes permanecían dispersas. Una mención en un video, una fotografía antigua y una publicación de un familiar pueden parecer piezas separadas para una persona, pero adquirir coherencia para un asistente que intenta responder o anticipar intereses dentro de la misma red social.

Meta no indicó cuántas cuentas pudieron recibir sugerencias similares ni detalló si la compañía realizará una revisión pública de interacciones previas. Tampoco se informó de medidas específicas dirigidas a impedir que el sistema formule preguntas sobre la edad de los hijos, el domicilio familiar o la identidad de menores, más allá de la afirmación de que el problema ya fue corregido.

Mientras la empresa aplica esos cambios, la controversia seguirá funcionando como una prueba para la promesa de asistentes más útiles y personalizados. La tecnología puede encontrar información con rapidez, pero en contextos familiares la precisión no basta: también debe existir criterio para reconocer cuándo una pregunta es innecesaria, desproporcionada o demasiado íntima para ser presentada como una simple sugerencia.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados