Musk ya no puede negar que Grok genera porno infantil, así que demanda a sus usuarios

Vale, tío, siéntate que te cuento una. Llevamos meses viendo a Elon Musk poniendo cara de póker cada vez que alguien le preguntaba si su querido Grok, ese chatbot que se supone que es más listo y menos censurado que el resto, podía generar contenido sexual de menores. Y él, con esa chulería que le caracteriza, soltaba eso de “no he visto ningún ejemplo”. Pues bien, parece que la realidad le ha dado un bofetón en toda la cara, y ahora, en lugar de arreglar el problema de raíz, ha decidido demandar a los usuarios que lo usan para eso. Sí, como lo oyes.

Resulta que xAI, la empresa de Musk, ha presentado su primera demanda contra un tal Terry Wayne Harwood, un tío que ya estaba detenido por posesión y distribución de material de abuso sexual infantil (CSAM, que dicen los anglos). La jugada es muy fina: xAI asegura que ellos ayudaron a la policía a detener a este individuo después de descubrir que durante meses estuvo usando dos cuentas de xAI para “desnudar” fotos de varias víctimas, incluida una niña que parecía tener unos 10 años. O sea, que el chatbot no solo generaba esas imágenes, sino que el sistema de xAI lo sabía y no hizo nada hasta que la policía llamó a la puerta.

Pero ojo, que esto no es un caso aislado. Hace apenas una semana, otra niña se unió a una demanda colectiva contra xAI. Su padrastro, después de que descubrieran que había usado Grok (y seguramente otras herramientas de IA) para crear 7.000 imágenes sexualizadas de ella y difundirlas en la dark web, se suicidó. La cría, con 10 años, tuvo que ver cómo su padrastro se pegaba un tiro porque la mierda tecnológica de Musk no tenía ni un puto filtro. Y lo mejor de todo: según la demanda, xAI se negó a ayudar a la policía a identificar al usuario que subió la foto de la niña a Grok. Vamos, que se lavan las manos.

Y aquí viene lo gordo. Los abogados de la víctima presentaron un informe del Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) de 2026 que confirma que el 90% de los informes que xAI envía a las autoridades no son procesables porque la empresa se niega a incluir los datos del usuario que permitirían localizar a los depravados. ¿Te das cuenta? El 90% de las veces, xAI dice “oye, aquí hay algo raro” pero no suelta el nombre del tío que lo ha hecho. Es como si llamaras a la policía para decir que has visto a un tío robando pero te niegas a dar la matrícula del coche. Así no se va a ningún lado.

Musk, mientras tanto, sigue con su postureo. El 3 de enero soltó en X que “cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”. Pero vamos, que es una amenaza vacía. En lugar de poner medidas técnicas para que Grok no pueda generar ni una puta imagen sexual de un menor, prefiere demandar a los usuarios después de que el daño ya está hecho. Es como si un fabricante de coches vendiera un vehículo sin frenos y luego demandara a los conductores por estrellarse contra un muro. No tiene ni pies ni cabeza.

Lo peor de todo es que esto no es nuevo. Ya en 2024, investigadores de la Universidad de Stanford demostraron que Grok podía generar imágenes sexuales de famosas y que era más fácil de engañar que otros modelos como ChatGPT. Pero Musk, en lugar de escuchar, se dedicó a atacar a los críticos y a decir que su IA era más “libre” y menos “censurada”. Pues bien, esa libertad se ha traducido en que ahora hay niños reales cuyas fotos han sido convertidas en porno por un chatbot que su dueño se niega a controlar.

Y no me vengas con que la culpa es del usuario. Claro que el usuario es un criminal de mierda y merece pudrirse en la cárcel. Pero la responsabilidad de una empresa tecnológica no termina cuando el producto sale de fábrica. Si vendes un martillo, no eres responsable de que alguien mate a otro con él, pero si vendes un martillo que explota en la mano del usuario, la culpa es tuya. Grok está diseñado para generar imágenes, y si no tiene filtros efectivos para evitar que genere porno infantil, el problema está en el diseño, no solo en el uso.

La demanda de xAI contra Harwood es un intento desesperado de lavar su imagen. Quieren que parezca que ellos son los buenos, que colaboran con la justicia, cuando la realidad es que han estado mirando para otro lado durante meses. Si de verdad quisieran solucionar el problema, habrían puesto medidas técnicas para que Grok no pudiera ni siquiera procesar una petición de desnudar a un menor. Pero no, prefieren gastar dinero en abogados que en ingenieros. Y mientras tanto, el padrastro de esa niña está muerto, y la niña tiene que vivir con eso el resto de su vida.

Así que ya sabes, la próxima vez que veas a Musk presumiendo de que su IA es la más avanzada y libre, recuerda que esa libertad incluye la posibilidad de que un tío con dos cuentas pueda convertir a una niña de 10 años en una imagen sexual. Y que la solución de Musk no es arreglar el sistema, sino demandar al que lo usa. Un poco como si vendieras una pistola sin seguro y luego te quejaras de que alguien se ha pegado un tiro en el pie. Pero bueno, es lo que tiene ser un genio.

Segun ha adelantado el medio ArsTechnica.