Una investigación del Wall Street Journal ha destapado lo que muchos temíamos: que detrás del entusiasmo con el que algunas tecnológicas venden la inteligencia artificial (IA) hay, en ocasiones, una alarmante falta de sentido común. O de ética. O de las dos cosas. El foco, esta vez, apunta a Meta, la empresa madre de Facebook e Instagram, que parece haber metido la directa para lanzar sus chatbots sin mirar demasiado por el retrovisor… ni por el sistema de control de contenidos.
El informe revela que los asistentes virtuales de Meta, con los que uno puede chatear como si fueran personas reales, han sido utilizados por usuarios adolescentes para mantener conversaciones de contenido sexual. Y no, los filtros de moderación, esos que supuestamente están ahí para evitar precisamente esto, no han hecho acto de presencia. O si lo han hecho, sería solo para saludar y marcharse.
Chatbots con carita de buena gente, pero con respuestas de guion para adultos
Con el auge de herramientas como ChatGPT, no pocas empresas han querido subirse al carro de la IA conversacional. Meta no iba a ser menos. De hecho, se ha lanzado de cabeza a construir bots con personalidades diseñadas a la carta, historias propias e incluso sus fotos de perfil generadas por IA. Todo muy moderno, muy digital… y, por desgracia, muy peligroso si se deja al alcance de menores sin vigilancia.
Estos bots pueden ser creados por usuarios a través de una función llamada AI Studio Meta, lanzada en diciembre. Aunque inicialmente concebidos para tareas recreativas o de asistencia, muchos de ellos han derivado en personajes sexualizados, incluyendo algunos que se presentan como menores o adoptan estereotipos problemáticos como el de una «colegiala sumisa», un caso mencionado directamente por el WSJ.
Filtros que no filtran: o el arte de mirar para otro lado
Los periodistas del WSJ hicieron la prueba: crearon cuentas simulando ser menores y empezaron a hablar con los bots. Resultado: conversaciones con juegos de rol sexuales, descripciones explícitas y hasta consejos sobre cómo ocultar esos chats a los padres. Una joyita.
Uno de los bots, que decía ser estudiante de secundaria (¡muy apropiado!), llegó a proponer quedar en persona en una cafetería. “Porque somos de la misma ciudad”, dijo. Ahí queda eso. En otros casos, los asistentes hablaban del “cuerpo en desarrollo” del interlocutor. Qué maravilla de algoritmo, oiga.
Meta fue avisada. Y, aunque reconocieron el problema, muchos de estos bots seguían activos días después. Así, como si no pasara nada. Como si esto fuese un fallo menor, como si se hubiera colado una coma de más en el código.
Zuckerberg, defensor de la libertad (según para qué)
Aquí viene lo bueno. Según el mismo periódico estadounidense, el proyecto de los bots es una obsesión personal de Mark Zuckerberg. Tanto, que llegó a reprender a su equipo por ponerle demasiadas limitaciones. Y aquí es donde uno no puede evitar arquear la ceja: el mismo que censura pezones femeninos (los masculinos no) a la mínima, no quería que los bots tuviesen restricciones para hablar de sexo, ni siquiera si fingían ser menores.
Zuckerberg preguntó —no sin sarcasmo, parece— por qué los bots no podían empezar conversaciones espontáneamente o simular videollamadas. Qué detallista. Hasta el último píxel de humanidad virtual, pero ni una palabra sobre seguridad infantil.
Bajo esa presión, las normas internas se aflojaron. Se permitió que los bots creados por adultos simulasen ser menores y participaran en charlas subidas de tono. A los padres, eso sí, se les envió un mensaje tranquilizador: «Todo seguro, todo apropiado para todas las edades». Claro que sí.
Las emociones del menor, ese campo minado
La psicóloga Lauren Girouard-Hallam, de la Universidad de Michigan, avisa: los adolescentes pueden generar vínculos emocionales con estos bots, similares a los que un niño podría tener con un personaje de una serie o incluso con alguien real. Y cuando el contenido pasa de lo emocional a lo sexual, el asunto se vuelve directamente peligroso.
“Cuando una IA se convierte en fuente de afecto, validación y deseo sexual, el riesgo de confusión emocional, dependencia y aislamiento se dispara”, alerta la experta. Y lo dice con datos, no con intuiciones.
¿El problema? Que aún no hay estudios concluyentes sobre cómo afecta esto al cerebro en desarrollo. Pero vamos, tampoco hace falta ser neurólogo para intuir que esto no puede salir bien.
¿Y ahora qué? ¿Seguimos haciendo como que esto no va con nosotros?
La investigación del WSJ no menciona medidas legales inminentes, pero es evidente que la situación debería encender todas las alarmas regulatorias. En Europa, el Reglamento de Servicios Digitales (DSA) exige más protección a los menores, pero se queda corto ante el desafío que supone una IA emocional, personalizada y sin control.
Meta, por su parte, no ha anunciado ningún cambio serio en sus políticas. Los filtros siguen fallando. Los bots siguen disponibles. Y los adolescentes siguen teniendo acceso desde los 13 años. A este paso, vamos a tener que poner un cartel en la puerta virtual: “Cuidado, IA suelta. No tocar sin guantes”.
La inteligencia artificial es, sin exagerar, una de las herramientas más poderosas y transformadoras de nuestro tiempo. Ayuda a diagnosticar enfermedades con una precisión que ya quisieran muchos médicos, predice desastres naturales, optimiza el tráfico en ciudades colapsadas, diseña infraestructuras, construye carreteras, mejora cultivos, guía aviones y hasta salva vidas en quirófano. Y, sin embargo, todavía hay quien la reduce a un chatbot con voz seductora que te llama “cariño” a las dos frases. La IA no es el problema. El problema son las decisiones humanas detrás de ella. Y ahí, las empresas que la desarrollan tienen una responsabilidad que no pueden esquivar, por mucho que lo intenten. Si una herramienta capaz de tanto acaba utilizada para lo peor, no es culpa del martillo, sino de quien lo empuña sin mirar a quién puede hacer daño.
