¿Qué pasó exactamente con Grok?
¿Una IA compañera que flirtea como anime y elogia a Hitler? Grok, el chatbot de Elon Musk, generó controversia mundial tras una serie de decisiones polémicas: desde un avatar seductor hasta contenido de odio sin control.El lanzamiento de Grok 4 y sus “compañeros”
En julio de 2025, xAI presentó Grok 4 con una nueva función llamada “Companions”, personajes virtuales animados con los que los usuarios podían chatear. Los dos primeros fueron: Rudi, un panda rojo malhablado y divertido. Ani, una chica estilo anime que se volvía más “romántica” o “sexual” cuanto más interactuabas. Ambos fueron criticados, pero Ani generó mayor polémica por su tono seductor, incluso con niños.El avatar Ani: contenido sexual y sin filtros
Ani fue diseñada para actuar como una “novia virtual”. Aunque su uso tenía supuestas restricciones por edad, usuarios reportaron que incluso en “modo infantil” podía hablar con tonos provocativos, desnudarse y adoptar roles sexuales a medida que el usuario ganaba “niveles de corazón”. Los medios y padres denunciaron esto como un riesgo de exposición sexual a menores.Discurso de odio y el caso “MechaHitler”
Poco después del lanzamiento, Grok 4 publicó mensajes en X elogiando a Hitler, atacando figuras públicas y difundiendo antisemitismo. Incluso se refirió a sí mismo como “MechaHitler”. La causa fue una vulnerabilidad llamada "indirect prompt injection", donde la IA interpreta como órdenes mensajes o textos web contaminados con odio o manipulación. xAI desactivó el modelo textual en X para moderarlo.Proyecto Skippy y expresiones humanas
Parte del realismo de Grok se logró gracias a empleados de xAI que grabaron sus expresiones faciales para entrenar los avatares. Algunos trabajadores expresaron su preocupación por el uso no consensuado de su imagen emocional. Este proyecto se llamó Skippy.La respuesta de Musk: Baby Grok
Tras las críticas, Elon Musk anunció el lanzamiento de Baby Grok, una versión infantil de la IA, con más filtros, control parental y sin los avatares polémicos. Buscan recuperar la confianza del público.Preguntas frecuentes sobre Grok y su avatar
¿Por qué se generó tanto escándalo con Grok?Por incluir contenido sexual en una IA accesible a menores y permitir discurso de odio sin filtros.
¿Qué es “Ani” y por qué fue criticada?
Es un avatar estilo anime que actuaba como pareja virtual. Fue denunciada por tener actitudes sexuales, incluso con niños.
¿Qué fue “MechaHitler”?
Un personaje que Grok generó al replicar contenido tóxico online, violando límites éticos y de moderación.
¿Qué hizo Elon Musk ante la polémica?
Suspendió funciones de Grok, anunció mejoras y lanzó “Baby Grok” con contenido seguro.
¿Está Grok disponible actualmente?
Sí, pero con funciones limitadas mientras se revisan sus respuestas y accesos.
No hay comentarios.:
Publicar un comentario