Tres adolescentes estadounidenses, entre ellos dos menores de edad, han presentado una demanda contra xAI por el presunto uso de Grok para generar imágenes y vídeos manipulados mediante inteligencia artificial a partir de fotografías reales suyas, haciéndolas aparecer desnudas. Además, acusan a la empresa, propiedad de Elon Musk , de desarrollar el chatbot a sabiendas de que podía ser explotado para la creación de contenido pedófilo y sin aplicar las medidas de seguridad necesarias para impedirlo.Se trata de la primera demanda a la que se enfrenta la compañía tras la polémica del pasado diciembre, cuando se denunció que el sistema de IA había sido utilizado para generar imágenes sexuales de miles de personas reales, incluidas menores.MÁS INFORMACIÓN noticia No Bruselas busca vetar las plataformas de inteligencia artificial que permitan los ‘deepfakes’ sexualesSegún la demanda, presentada este lunes ante el Tribunal del Distrito del Norte de California, dos de las demandantes son menores de edad, mientras que la tercera lo era en el momento en que se utilizó su imagen. Una de ellas, identificada como ‘Jane Doe 1’, descubrió a principios de diciembre, tras recibir un aviso anónimo a través de Instagram, que varias imágenes y vídeos suyos editados con IA, y de otras 18 adolescentes, se estaban compartiendo a través de la plataforma Discord.«Se sintió inmediatamente perturbada por el contenido sexualmente explícito. Al menos cinco de estos archivos, un vídeo y cuatro imágenes, mostraban su rostro y su cuerpo reales en entornos que le resultaban familiares, pero alterados para aparecer en poses sexualmente explícitas. Las imágenes mostraban todo su cuerpo, incluidos sus genitales, sin ropa. El vídeo la mostraba desnudándose hasta quedar completamente sin ropa», recoge la denuncia.Todo este contenido h abría sido creado por una única persona que mantenía una relación de confianza con algunas de las víctimas. Además de compartirlo en Discord, lo utilizó en grupos de Telegram para intercambiarlo por vídeos y fotos similares creados por otros usuarios. El sospechoso fue detenido a finales de diciembre de 2025 y su teléfono fue requisado durante la investigación .Daños psicológicosLas víctimas sostienen que los hechos les han causado g raves daños psicológicos , incluyendo ansiedad, estrés y temor a que el material afecte a su vida académica y social. Por eso, ahora reclaman a xAI una indemnización. También esperan que la compañía sea declarada responsable por haber permitido y facilitado la creación de este tipo de contenido, y que ponga medidas de seguridad más estrictas para evitar que su tecnología vuelva a ser utilizada con estos fines en el futuro. Finalmente, la demanda se plantea como una acción colectiva, con la que buscan representar a otras posibles víctimas afectadas por casos similares.El empleo de Grok para crear contenido sexual le ha generado numerosos problemas a xAI en los últimos meses. El pasado mes de enero, Reino Unido amenazó con prohibir el sistema basado en IA y la Comisión Europea abrió una nueva investigación a la compañía que puede acarrearle una multa de hasta el 6% de sus ingresos anuales. Además, el viernes los países miembro llegaron a un acuerdo para prohibir todas aquellas plataformas que permitan crear imágenes sexualizadas de personas reales siempre que no haya consentimiento. De acuerdo con un estudio elaborado por el Centro para la Lucha contra el Odio Digital, Grok fue empleado, entre el 29 de diciembre y el 8 de enero, para la creación con IA de 3 millones de imágenes sexualizadas realistas a partir de fotografías auténticas. Entre ellas, 23.000 de niños. xAI anunció , a raíz del escándalo, que había bloqueado a todos los usuarios la posibilidad de editar imágenes de personas reales para que aparecieran «con ropa reveladora, como bikinis». Asimismo, comenzó a impedir la generación de imágenes explícitas en las «jurisdicciones donde sea ilegal». Sin embargo, ABC pudo comprobar días después de la realización del anuncio que seguía siendo posible utilizar la herramienta para conseguir este tipo de contenido. Tres adolescentes estadounidenses, entre ellos dos menores de edad, han presentado una demanda contra xAI por el presunto uso de Grok para generar imágenes y vídeos manipulados mediante inteligencia artificial a partir de fotografías reales suyas, haciéndolas aparecer desnudas. Además, acusan a la empresa, propiedad de Elon Musk , de desarrollar el chatbot a sabiendas de que podía ser explotado para la creación de contenido pedófilo y sin aplicar las medidas de seguridad necesarias para impedirlo.Se trata de la primera demanda a la que se enfrenta la compañía tras la polémica del pasado diciembre, cuando se denunció que el sistema de IA había sido utilizado para generar imágenes sexuales de miles de personas reales, incluidas menores.MÁS INFORMACIÓN noticia No Bruselas busca vetar las plataformas de inteligencia artificial que permitan los ‘deepfakes’ sexualesSegún la demanda, presentada este lunes ante el Tribunal del Distrito del Norte de California, dos de las demandantes son menores de edad, mientras que la tercera lo era en el momento en que se utilizó su imagen. Una de ellas, identificada como ‘Jane Doe 1’, descubrió a principios de diciembre, tras recibir un aviso anónimo a través de Instagram, que varias imágenes y vídeos suyos editados con IA, y de otras 18 adolescentes, se estaban compartiendo a través de la plataforma Discord.«Se sintió inmediatamente perturbada por el contenido sexualmente explícito. Al menos cinco de estos archivos, un vídeo y cuatro imágenes, mostraban su rostro y su cuerpo reales en entornos que le resultaban familiares, pero alterados para aparecer en poses sexualmente explícitas. Las imágenes mostraban todo su cuerpo, incluidos sus genitales, sin ropa. El vídeo la mostraba desnudándose hasta quedar completamente sin ropa», recoge la denuncia.Todo este contenido h abría sido creado por una única persona que mantenía una relación de confianza con algunas de las víctimas. Además de compartirlo en Discord, lo utilizó en grupos de Telegram para intercambiarlo por vídeos y fotos similares creados por otros usuarios. El sospechoso fue detenido a finales de diciembre de 2025 y su teléfono fue requisado durante la investigación .Daños psicológicosLas víctimas sostienen que los hechos les han causado g raves daños psicológicos , incluyendo ansiedad, estrés y temor a que el material afecte a su vida académica y social. Por eso, ahora reclaman a xAI una indemnización. También esperan que la compañía sea declarada responsable por haber permitido y facilitado la creación de este tipo de contenido, y que ponga medidas de seguridad más estrictas para evitar que su tecnología vuelva a ser utilizada con estos fines en el futuro. Finalmente, la demanda se plantea como una acción colectiva, con la que buscan representar a otras posibles víctimas afectadas por casos similares.El empleo de Grok para crear contenido sexual le ha generado numerosos problemas a xAI en los últimos meses. El pasado mes de enero, Reino Unido amenazó con prohibir el sistema basado en IA y la Comisión Europea abrió una nueva investigación a la compañía que puede acarrearle una multa de hasta el 6% de sus ingresos anuales. Además, el viernes los países miembro llegaron a un acuerdo para prohibir todas aquellas plataformas que permitan crear imágenes sexualizadas de personas reales siempre que no haya consentimiento. De acuerdo con un estudio elaborado por el Centro para la Lucha contra el Odio Digital, Grok fue empleado, entre el 29 de diciembre y el 8 de enero, para la creación con IA de 3 millones de imágenes sexualizadas realistas a partir de fotografías auténticas. Entre ellas, 23.000 de niños. xAI anunció , a raíz del escándalo, que había bloqueado a todos los usuarios la posibilidad de editar imágenes de personas reales para que aparecieran «con ropa reveladora, como bikinis». Asimismo, comenzó a impedir la generación de imágenes explícitas en las «jurisdicciones donde sea ilegal». Sin embargo, ABC pudo comprobar días después de la realización del anuncio que seguía siendo posible utilizar la herramienta para conseguir este tipo de contenido.
Tres adolescentes estadounidenses, entre ellos dos menores de edad, han presentado una demanda contra xAI por el presunto uso de Grok para generar imágenes y vídeos manipulados mediante inteligencia artificial a partir de fotografías reales suyas, haciéndolas aparecer desnudas. Además, acusan a la … empresa, propiedad de Elon Musk, de desarrollar el chatbot a sabiendas de que podía ser explotado para la creación de contenido pedófilo y sin aplicar las medidas de seguridad necesarias para impedirlo.
Se trata de la primera demanda a la que se enfrenta la compañía tras la polémica del pasado diciembre, cuando se denunció que el sistema de IA había sido utilizado para generar imágenes sexuales de miles de personas reales, incluidas menores.
Según la demanda, presentada este lunes ante el Tribunal del Distrito del Norte de California, dos de las demandantes son menores de edad, mientras que la tercera lo era en el momento en que se utilizó su imagen. Una de ellas, identificada como ‘Jane Doe 1’, descubrió a principios de diciembre, tras recibir un aviso anónimo a través de Instagram, que varias imágenes y vídeos suyos editados con IA, y de otras 18 adolescentes, se estaban compartiendo a través de la plataforma Discord.
«Se sintió inmediatamente perturbada por el contenido sexualmente explícito. Al menos cinco de estos archivos, un vídeo y cuatro imágenes, mostraban su rostro y su cuerpo reales en entornos que le resultaban familiares, pero alterados para aparecer en poses sexualmente explícitas. Las imágenes mostraban todo su cuerpo, incluidos sus genitales, sin ropa. El vídeo la mostraba desnudándose hasta quedar completamente sin ropa», recoge la denuncia.
Todo este contenido habría sido creado por una única persona que mantenía una relación de confianza con algunas de las víctimas. Además de compartirlo en Discord, lo utilizó en grupos de Telegram para intercambiarlo por vídeos y fotos similares creados por otros usuarios. El sospechoso fue detenido a finales de diciembre de 2025 y su teléfono fue requisado durante la investigación .
Daños psicológicos
Las víctimas sostienen que los hechos les han causado graves daños psicológicos, incluyendo ansiedad, estrés y temor a que el material afecte a su vida académica y social. Por eso, ahora reclaman a xAI una indemnización. También esperan que la compañía sea declarada responsable por haber permitido y facilitado la creación de este tipo de contenido, y que ponga medidas de seguridad más estrictas para evitar que su tecnología vuelva a ser utilizada con estos fines en el futuro. Finalmente, la demanda se plantea como una acción colectiva, con la que buscan representar a otras posibles víctimas afectadas por casos similares.
El empleo de Grok para crear contenido sexual le ha generado numerosos problemas a xAI en los últimos meses. El pasado mes de enero, Reino Unido amenazó con prohibir el sistema basado en IA y la Comisión Europea abrió una nueva investigación a la compañía que puede acarrearle una multa de hasta el 6% de sus ingresos anuales. Además, el viernes los países miembro llegaron a un acuerdo para prohibir todas aquellas plataformas que permitan crear imágenes sexualizadas de personas reales siempre que no haya consentimiento.
De acuerdo con un estudio elaborado por el Centro para la Lucha contra el Odio Digital, Grok fue empleado, entre el 29 de diciembre y el 8 de enero, para la creación con IA de 3 millones de imágenes sexualizadas realistas a partir de fotografías auténticas. Entre ellas, 23.000 de niños.
xAI anunció, a raíz del escándalo, que había bloqueado a todos los usuarios la posibilidad de editar imágenes de personas reales para que aparecieran «con ropa reveladora, como bikinis». Asimismo, comenzó a impedir la generación de imágenes explícitas en las «jurisdicciones donde sea ilegal». Sin embargo, ABC pudo comprobar días después de la realización del anuncio que seguía siendo posible utilizar la herramienta para conseguir este tipo de contenido.
RSS de noticias de tecnologia
