ChatGPT se ha convertido en uno de los temas más candentes en todo el mundo. Dicho sistema de IA se denomina 'IA generativa', que podría generar textos, imágenes, voces, medios, códigos y otros materiales en respuesta a lo que el usuario ha importado o requerido, en función de algoritmos, modelos y reglas. La IA generativa puede usarse en varios escenarios y promover la revolución de algunas industrias, por lo que ha despertado mucha atención. En respuesta al desarrollo de la IA Generativa, la Administración del Ciberespacio de China (en adelante, "CAC") emitió las Medidas Administrativas propuestas para el Servicio de IA Generativa (Borrador para Comentarios Públicos) [ 1 ](“生成式人工智能服务管理办法（征求意见稿）”, en adelante “Proyecto de Medidas Administrativas”) el 11 de abril de 2023.
1. Aspectos destacados
El Proyecto de Medidas Administrativas comprende 21 artículos, que cubren los asuntos clave a continuación.
1) Ámbito de Aplicación: Jurisdicción Extraterritorial
Este Proyecto de Medidas Administrativas se aplica a cualquier persona que innove o utilice IA Generativa y brinde servicios en China (los Proveedores) (Art. 2). Significa que el Proyecto de Medidas Administrativas tendría un efecto extraterritorial. Tal efecto extraterritorial se basa en la doctrina del efecto y en la doctrina territorial objetiva. Por un lado, el contenido generado por la IA generativa puede afectar el orden social u otras relaciones en China y, por lo tanto, tener un efecto en China. Por otro lado, la IA Generativa será utilizada por los usuarios en el territorio, la operación de la IA Generativa ubicada en el territorio, que sienta las bases de la doctrina territorial objetiva.
2) Obligaciones de los Proveedores
Los Proveedores asumirían las siguientes responsabilidades de conformidad con el Proyecto de Medidas Administrativas.
(1) Contenido
Los Proveedores deben ser responsables del contenido generado por la IA. El contenido debe ser legal, preciso y auténtico. No debe ser tortuoso, discriminatorio, falso, antisocial, antigubernamental, antinacional, terrorista, extremo, violento, pornográfico y que distraiga el orden económico y social. Los Proveedores deberán eliminar los contenidos inapropiados de forma activa o a petición de los usuarios y mejorar u optimizar la IA.
(2) Utilizaciones
En primer lugar, los Proveedores deben cumplir con la ética empresarial y no deben realizar conductas de competencia desleal. En segundo lugar, los Proveedores no deben invadir los derechos de terceros, incluidos los de propiedad intelectual, información personal, privacidad y secretos comerciales. En tercer lugar, los Proveedores no deben generar el contenido de forma discriminatoria.
(3) Innovaciones
El Proyecto de Medidas Administrativas también establece requisitos para la innovación de la IA Generativa. Los proveedores deben dictar instrucciones claras, específicas y operativas para los Contribuyentes, capacitar a los Contribuyentes y garantizar la corrección del contenido una vez que se requiera la anotación artificial.
(4) Cooperación con la Administración
Los Proveedores deberán cooperar activamente con la administración requerida por las normas o agentes administrativos. Primero, los Proveedores deben registrar la IA Generativa o informar para la evaluación de seguridad de acuerdo con las regulaciones relacionadas con el servicio de Internet. En segundo lugar, los Proveedores deben marcar las imágenes y videos generados de acuerdo con el Reglamento sobre el Servicio de Deepfake.[ 2 ] En tercer lugar, los Proveedores deben proporcionar información esencial que pueda afectar la elección de los usuarios a solicitud del administrador.
(5) Gestión de los Usuarios
Los Proveedores deben gestionar los usuarios de IA Generativa. Primero, los Proveedores deben solicitar a los usuarios que proporcionen su información de identidad. En segundo lugar, los Proveedores deben especificar y publicitar el objetivo de su servicio y tomar medidas para evitar que los usuarios se vuelvan adictos al contenido proporcionado por la IA. En tercer lugar, los proveedores deben instruir a los usuarios para que utilicen el contenido generativo de manera adecuada y prohibir a los usuarios de manera temporal o permanente si usan la IA de manera ilegal o inmoral.
2. Comentarios
1) Efectos positivos
El Proyecto de Medidas Administrativas es una respuesta rápida de China a la tendencia de la IA Generativa. Sirvió como complemento esencial del marco normativo de la IA. Tiene varios efectos positivos. En primer lugar, cubre la mayoría de los problemas legales presentados por la IA generativa, incluida la atribución de responsabilidad de la IA, la amenaza a la propiedad intelectual, el contenido dañino, la competencia desleal y la violación de la privacidad, etc. Además, proporciona supervisión de por vida de la IA generativa, desde la innovación hasta la utilización. En segundo lugar, el artículo 3 del Proyecto de medidas administrativas ha mostrado la actitud de apoyo de China hacia el desarrollo de la IA al declarar que el gobierno apoyaría y alentaría la innovación, la aplicación y la colaboración internacional de la IA. En tercer lugar, el Proyecto de Medidas Administrativas sirve como parte esencial del marco regulatorio tipológico de la IA, que consta de varias regulaciones enfocadas en diferentes categorías de IA.
2) Estatus Jurídico
El Proyecto de Medidas Administrativas no es una ley, ya que es emitido por CAC, un
Oficina Administrativa dependiente del Consejo de Estado. De acuerdo con la Ley de Legislación de China, las leyes solo pueden ser promulgadas por el Congreso Nacional del Pueblo. Por lo tanto, la CAC solo puede emitir reglas administrativas o documentos normativos, que se encuentran en una jerarquía inferior en el sistema de jerarquía de la legislación de China y no pueden entrar en conflicto con las leyes. Sin embargo, tal estatus legal ha asegurado flexibilidad y eficiencia hasta cierto punto. Por un lado, en comparación con las leyes, los requisitos para promulgar o modificar las reglas administrativas o los documentos normativos son menos estrictos. Por otro lado, Todos los agentes administrativos podrán expedir documentos reglamentarios dentro de su propia autoridad administrativa cuando lo consideren necesario, lo que asegura una rápida respuesta a la necesidad de regulación.
3) Riesgos
Cabe señalar que puede haber otros riesgos derivados del Proyecto de Medidas Administrativas. Aunque el Artículo 3 declaró la actitud de apoyo del gobierno, se debe reconocer que la Administración ha aumentado significativamente la carga sobre los Proveedores de IA Generativa. La tecnología de IA generativa está lejos de estar madura. Por lo tanto, es dudoso que los Proveedores sean competentes para cumplir con todas las obligaciones previstas por el Proyecto de Medidas Administrativas, o al menos aumentaría el costo de cumplimiento. Por ejemplo, el Proyecto de Medidas Administrativas insta a los Proveedores a evitar el contenido falso. Sin embargo, técnicamente hablando, el contenido difícilmente puede ser 100% auténtico en la etapa actual. Puede costar mucho a los Proveedores cumplir con tal obligación. En consecuencia, la alta carga de cumplimiento puede ser un obstáculo para el desarrollo y la innovación de la IA generativa hasta cierto punto.
Para concluir, el Proyecto de Medidas Administrativas refleja la actitud positiva de China hacia la regulación de la IA. Ha impuesto un requisito de cumplimiento relativamente alto a las entidades que tienen la intención de proporcionar servicios de IA generativa. Esta actitud contribuye al desarrollo saludable de la IA Generativa, aunque puede existir una preocupación por el alto costo del cumplimiento. En general, el efecto del Proyecto de Medidas Administrativas sigue siendo digno de ser observado.
[ 1 ] Consulte http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm.
[ 2 ] Administración del Ciberespacio de China, Ministerio de Industria y Tecnología de la Información de China y Ministerio de Seguridad Pública de China, Reglamento sobre el Servicio de Deepfake, Reglamento No. 12.
Foto de portada de grupo nebular en Unsplash
Colaboradores: Jidong Lin 林济东
