Después de varias denuncias y acciones legalesElon Musk cedió: X, antes Twitter, anunció la restricción de su inteligencia artificial Grok para impedir la creación y edición de imágenes de personas reales en situaciones sexuales comprometedoras, en ropa interior o desnudas.
Esta decisión se produjo tras una fuerte presión pública y política, motivada por informes sobre la creación de desnudez no consentida e imágenes sexualizadasincluso menores, con la ayuda de Grok y a gran escala.
LEER TAMBIÉN
La compañía lo ha detallado en su cuenta oficial de seguridad Las restricciones tienen como objetivo evitar que el sistema procese solicitudes para denunciar a personas. Real en prendas de vestir como bikinis o ropa interior.
No más fotos sexualizadas en Grok
Las limitaciones técnicas que impiden esta función se basan en cambios en su modelo de suscripción. Los puntos clave de esta actualización incluyen:
- Restringir el acceso a las herramientas de creación y edición de imágenes exclusivamente para suscriptores de pago.
- Capacidades de bloqueo geográfico para visualizar personas en ropa interior en países donde este tipo de contenido es ilegal.
- Aplicación de estas prohibiciones a todos los niveles de usuarios, sin excepción para las cuentas Premium.
LEER TAMBIÉN
A pesar del anuncio, la implementación parece enfrentar desafíos técnicos. Mientras la empresa asegura que las medidas están vigentes, se realizan pruebas utilizando medios especiales, como: el borde incluso sugerir que Es posible evitar ciertos filtros utilizando aplicaciones móviles o versiones web.lo que permite la alteración de fotografías de figuras públicas en contextos sexualizados.
Elon Musk impide que la IA Grok de X «desnude» a personas reales. Foto:Imagen generada con inteligencia artificial
La posición de Elon Musk y el marco legal
Elon Musk, propietario de la red social, ha defendido el funcionamiento de su herramienta y ha afirmado que el sistema no funciona de forma independiente.
«Grok no genera imágenes de forma espontánea, sino sólo según la petición del usuario».explicó el empresario a través de una publicación en X, según informó Forbes.
Musk también enfatizó esto La inteligencia artificial está programada para obedecer las leyes locales y cualquier error se debe a experimentación externa Manipule los comandos del chat y asegúrese de que “si esto sucede, solucionaremos el error de inmediato”.
Sin embargo, las autoridades mantienen un tono de estricta vigilancia. En Reino Unido, el primer ministro Keir Starmer confirmó que se mantuvo comunicación directa con la empresa para exigir el cumplimiento de la normativa británica.
LEER TAMBIÉN
“Lo dejamos claro
Las investigaciones están en curso
La situación se ha extendido al sector judicial de Estados Unidos. El fiscal general de California, Rob Bonta, abrió una investigación formal sobre xAI, la empresa detrás de Grok, por ayudar e instigar la producción en masa de «deepfakes» íntimos no consensuados.
Según la fiscalía, se han recibido numerosas denuncias que indican que estas herramientas se utilizan para acosar a mujeres y niñas en línea. El objetivo de las autoridades es determinar si la tecnología de Musk violó las leyes de protección y privacidad en un momento en que la ética en la inteligencia artificial se ha convertido en una prioridad para los reguladores globales.
*Artículo desarrollado con apoyo de IA y revisado por un periodista.
