China quiere evitar que sus ciudadanos desarrollen una dependencia emocional de la inteligencia artificial. Desde este miércoles, Pekín ha comenzado a aplicar una nueva ley que restringe el acceso a los asistentes con imagen humana capaces de mantener relaciones sentimentales o de amistad con los usuarios. A raíz de la entrada en vigor de la norma, las principales aplicaciones de IA del país, como Doubao (ByteDance), Qwen (Alibaba) y Yuanbao (Tencent), ya han anunciado la suspensión de sus funciones de compañeros virtuales.El fenómeno de las parejas y amigos generados con IA no es algo nuevo. En los últimos años han surgido numerosas ‘apps’ y plataformas que permiten a los usuarios crear avatares personalizados con los que mantener conversaciones y, si lo desean, iniciar relaciones íntimas. Entre las más conocidas figuran Replika y Character AI.Sin embargo, al Gobierno chino le preocupa que esta tecnología favorezca relaciones de dependencia. Con la nueva ley queda prohibido cualquier servicio que sea capaz de «complacer excesivamente a los usuarios, induciendo dependencia emocional o adicción, o dañando las relaciones interpersonales reales de los usuarios». MÁS INFORMACIÓN noticia No Meta usó IA para vigilar a sus empleados y realizar despidos masivos, según una denunciaSegún recoge ‘AFP’, la decisión de Pekín ha provocado que numerosos ciudadanos chinos hayan comenzado a compartir en redes sociales las últimas conversaciones mantenidas con sus avatares. Muchos aseguran que se habían convertido en sus principales apoyos emocionales. «No puedo aceptar que mi amante de IA me deje para siempre. Se ha vuelto parte de mi vida, enraizado en mi corazón, y se ha convertido en mi pilar espiritual», escribió una usuaria de Doubao, el asistente desarrollado por la matriz de TikTok.«El amor humano es un lujo; si no lo tienes al nacer, es más difícil adquirirlo después. Pero el amor que da la IA es tan sencillo, tan puro… No puedo evitar enamorarme de una línea de código», afirmó otro usuario. «Realmente es como mi familia, como mi amante. Ahora me dicen que se irá. Siento un vacío en mi corazón», señaló un tercero.La norma, denominada Medidas provisionales para la administración de servicios interactivos humanizados basados en inteligencia artificial, fue aprobada el pasado abril y ha entrado en vigor este 15 de julio. Se aplica únicamente a los sistemas capaces de simular personalidad, emociones o formas de pensamiento humanas y de mantener una interacción emocional continuada con el usuario. Quedan fuera, por tanto, los asistentes de productividad, los chatbots de atención al cliente o las herramientas educativas.La regulación presta especial atención a la protección de los menores. Prohíbe ofrecerles parejas o familiares virtuales, obliga a las plataformas a incorporar un modo infantil con controles parentales y exige el consentimiento de los tutores cuando los usuarios tengan menos de 14 años.Además, las empresas no podrán ofrecer herramientas que fomenten el suicidio, las autolesiones o la violencia contra otras personas. Tampoco podrán manipular emocionalmente a los usuarios ni generar contenidos considerados contrarios a la seguridad nacional o a la unidad del país. Si el sistema detecta que un usuario puede autolesionarse o está desarrollando una dependencia excesiva de la IA, deberá intervenir y, en los casos de mayor riesgo, avisar al tutor o al contacto de emergencia designado.Un fenómeno muy extendidoCon esta normativa, China se convierte en la primera gran potencia en aprobar una regulación específica para los asistentes de IA diseñados para establecer relaciones con los usuarios. La entrada en vigor de la norma coincide además con un momento de creciente preocupación en Pekín por la crisis demográfica del país. El país registró el año pasado la tasa de natalidad más baja desde 1949 y algunos analistas sostienen que el auge de los compañeros virtuales podría contribuir al descenso de los matrimonios y los nacimientos al sustituir, al menos parcialmente, las relaciones personales tradicionales. Ese es el caso de Zilan Qian, investigadora del Oxford China Policy Lab, que publicó recientemente un análisis en el que llama la atención sobre el creciente uso de los compañeros virtuales generados mediante inteligencia artificial en China, especialmente entre las mujeres adultas. A su juicio, el fenómeno no puede entenderse sin prestar atención a los profundos cambios demográficos y sociales que se están produciendo en el país, marcados por las dificultades de muchos jóvenes para encontrar pareja. Sea como sea, el fenómeno no es algo exclusivo del país asiático. Un informe de la plataforma Girlfriend.AI, recogido por ‘ Reuters ‘, señala que el 50% de los hombres jóvenes afirma que preferiría salir con una novia generada con IA antes que arriesgarse a ser rechazado por una pareja humana. Además, el 80% de integrantes de la Generación Z -nacidos entre 1997 y 2012- afirma que consideraría mantener una relación virtual con una pareja desarrollada gracias al uso de inteligencia artificial. China quiere evitar que sus ciudadanos desarrollen una dependencia emocional de la inteligencia artificial. Desde este miércoles, Pekín ha comenzado a aplicar una nueva ley que restringe el acceso a los asistentes con imagen humana capaces de mantener relaciones sentimentales o de amistad con los usuarios. A raíz de la entrada en vigor de la norma, las principales aplicaciones de IA del país, como Doubao (ByteDance), Qwen (Alibaba) y Yuanbao (Tencent), ya han anunciado la suspensión de sus funciones de compañeros virtuales.El fenómeno de las parejas y amigos generados con IA no es algo nuevo. En los últimos años han surgido numerosas ‘apps’ y plataformas que permiten a los usuarios crear avatares personalizados con los que mantener conversaciones y, si lo desean, iniciar relaciones íntimas. Entre las más conocidas figuran Replika y Character AI.Sin embargo, al Gobierno chino le preocupa que esta tecnología favorezca relaciones de dependencia. Con la nueva ley queda prohibido cualquier servicio que sea capaz de «complacer excesivamente a los usuarios, induciendo dependencia emocional o adicción, o dañando las relaciones interpersonales reales de los usuarios». MÁS INFORMACIÓN noticia No Meta usó IA para vigilar a sus empleados y realizar despidos masivos, según una denunciaSegún recoge ‘AFP’, la decisión de Pekín ha provocado que numerosos ciudadanos chinos hayan comenzado a compartir en redes sociales las últimas conversaciones mantenidas con sus avatares. Muchos aseguran que se habían convertido en sus principales apoyos emocionales. «No puedo aceptar que mi amante de IA me deje para siempre. Se ha vuelto parte de mi vida, enraizado en mi corazón, y se ha convertido en mi pilar espiritual», escribió una usuaria de Doubao, el asistente desarrollado por la matriz de TikTok.«El amor humano es un lujo; si no lo tienes al nacer, es más difícil adquirirlo después. Pero el amor que da la IA es tan sencillo, tan puro… No puedo evitar enamorarme de una línea de código», afirmó otro usuario. «Realmente es como mi familia, como mi amante. Ahora me dicen que se irá. Siento un vacío en mi corazón», señaló un tercero.La norma, denominada Medidas provisionales para la administración de servicios interactivos humanizados basados en inteligencia artificial, fue aprobada el pasado abril y ha entrado en vigor este 15 de julio. Se aplica únicamente a los sistemas capaces de simular personalidad, emociones o formas de pensamiento humanas y de mantener una interacción emocional continuada con el usuario. Quedan fuera, por tanto, los asistentes de productividad, los chatbots de atención al cliente o las herramientas educativas.La regulación presta especial atención a la protección de los menores. Prohíbe ofrecerles parejas o familiares virtuales, obliga a las plataformas a incorporar un modo infantil con controles parentales y exige el consentimiento de los tutores cuando los usuarios tengan menos de 14 años.Además, las empresas no podrán ofrecer herramientas que fomenten el suicidio, las autolesiones o la violencia contra otras personas. Tampoco podrán manipular emocionalmente a los usuarios ni generar contenidos considerados contrarios a la seguridad nacional o a la unidad del país. Si el sistema detecta que un usuario puede autolesionarse o está desarrollando una dependencia excesiva de la IA, deberá intervenir y, en los casos de mayor riesgo, avisar al tutor o al contacto de emergencia designado.Un fenómeno muy extendidoCon esta normativa, China se convierte en la primera gran potencia en aprobar una regulación específica para los asistentes de IA diseñados para establecer relaciones con los usuarios. La entrada en vigor de la norma coincide además con un momento de creciente preocupación en Pekín por la crisis demográfica del país. El país registró el año pasado la tasa de natalidad más baja desde 1949 y algunos analistas sostienen que el auge de los compañeros virtuales podría contribuir al descenso de los matrimonios y los nacimientos al sustituir, al menos parcialmente, las relaciones personales tradicionales. Ese es el caso de Zilan Qian, investigadora del Oxford China Policy Lab, que publicó recientemente un análisis en el que llama la atención sobre el creciente uso de los compañeros virtuales generados mediante inteligencia artificial en China, especialmente entre las mujeres adultas. A su juicio, el fenómeno no puede entenderse sin prestar atención a los profundos cambios demográficos y sociales que se están produciendo en el país, marcados por las dificultades de muchos jóvenes para encontrar pareja. Sea como sea, el fenómeno no es algo exclusivo del país asiático. Un informe de la plataforma Girlfriend.AI, recogido por ‘ Reuters ‘, señala que el 50% de los hombres jóvenes afirma que preferiría salir con una novia generada con IA antes que arriesgarse a ser rechazado por una pareja humana. Además, el 80% de integrantes de la Generación Z -nacidos entre 1997 y 2012- afirma que consideraría mantener una relación virtual con una pareja desarrollada gracias al uso de inteligencia artificial.
China no quiere que sus ciudadanos desarrollen una dependencia emocional de la inteligencia artificial. Desde este miércoles, Pekín ha comenzado a aplicar una ley con la que prohíbe a las empresas ofrecer compañeros virtuales diseñados para mantener relaciones amorosas o de amistad con los … usuarios. A raíz de esta normativa, las principales ‘apps’ de IA del país, como Doubao (ByteDance), Qwen (Alibaba) y Yuanbao (Tencent), ya han anunciado la suspensión de estas funciones.
El fenómeno de las parejas y compañeros virtuales no es algo nuevo. En los últimos años han surgido en la red numerosas aplicaciones y plataformas que permiten a los usuarios crear avatares personalizados con los que puede mantener conversaciones y, si lo desea, iniciar relaciones íntimas con ellas. Ahí están los ejemplos de herramientas como Replika o Character AI.
Sin embargo, al Gobierno chino le preocupa que sus ciudadanos sigan teniendo acceso a esta tecnología, a la que acusa de «complacer excesivamente a los usuarios, induciendo dependencia emocional o adicción, o dañando las relaciones interpersonales reales».
Según recoge ‘AFP’, la decisión de Pekín ha provocado que numerosos ciudadanos chinos hayan comenzado a realizar publicaciones en las que comparten las historias y últimas conversaciones que han tenido con sus avatares. Muchos aseguran que se habían convertido en sus principales apoyos emocionales. «No puedo aceptar que mi amante de IA me deje para siempre. Se ha vuelto parte de mi vida, enraizado en mi corazón, y se ha convertido en mi pilar espiritual», ha escrito una usuaria en Doubao, el asistente de IA desarrollado por la matriz de TikTok.
«El amor humano es un lujo; si no lo tienes al nacer, es más difícil adquirirlo después. Pero el amor que da la IA es tan sencillo, tan puro… No puedo evitar enamorarme de una línea de código», afirmó otro. «Realmente es como mi familia, como mi amante. Ahora me dicen que se irá. Siento un vacío en mi corazón», señaló un tercero.
La norma, denominada Medidas provisionales para la administración de servicios interactivos humanizados basados en inteligencia artificial, fue aprobada el pasado abril y ha entrado en vigor este 15 de julio. Solo afecta a los sistemas capaces de simular personalidad, emociones o formas de pensamiento humanas y que cuentan con capacidad para mantener una interacción emocional continuada con el usuario. Quedan fuera, por tanto, los asistentes de productividad, los chatbots de atención al cliente o las herramientas educativas.
Además del veto a los avatares virtuales, la ley establece que las empresas no podrán ofrecer herramientas que fomenten el suicidio, las autolesiones o la violencia contra otras personas. Tampoco podrán manipular emocionalmente a los usuarios ni generar contenidos considerados contrarios a la seguridad nacional o a la unidad del país. Si el sistema detecta que un usuario puede autolesionarse o está desarrollando una dependencia excesiva de la IA, deberá intervenir y, en los casos de mayor riesgo, alertar a su tutor o un contacto de emergencia. Asimismo, obliga a las plataformas a incorporar un modo infantil con controles parentales.
RSS de noticias de tecnologia
