El Gobierno de China estableció nuevas restricciones para los denominados chatbots románticos o “parejas digitales”, ante el aumento de usuarios que mantienen interacciones prolongadas y vínculos emocionales continuos con este tipo de inteligencia artificial.
La normativa obliga a los proveedores a cumplir requisitos de diseño, seguridad, protección de menores y manejo de datos, además de contemplar sanciones económicas para las compañías que incumplan las disposiciones.
Las medidas no prohíben el uso general de la inteligencia artificial conversacional, sino que se concentran en servicios específicamente diseñados para fomentar relaciones emocionales persistentes. Los asistentes destinados al trabajo, educación, investigación o atención al cliente quedan fuera de estas restricciones.
La regulación también establece mecanismos para impedir que estos sistemas incentiven conductas que puedan poner en riesgo la integridad de los usuarios.
Empresas tecnológicas chinas comenzaron a adaptar sus plataformas a las nuevas disposiciones. ByteDance desactivó Doubao y redirigió a sus usuarios hacia Maoxiang, mientras Alibaba eliminó el modo compañero de Qwen y Tencent retiró las funciones de parejas virtuales de Yuanbao. La aplicación Miaoshi, por su parte, cerró completamente su servicio.
Con estas disposiciones, las autoridades buscan establecer límites más estrictos a las relaciones emocionales entre usuarios y sistemas de inteligencia artificial, especialmente cuando puedan generar patrones de dependencia.
