China divulga minuta de regras para regulamentar IA com interação semelhante à humana

O órgão regulador cibernético da China divulgou neste sábado (27) para consulta pública, um conjunto de sugestões de regras para reforçar a supervisão a serviços de inteligência artificial projetados para simular personalidades humanas e envolver os usuários em interações emocionais.

A medida ressalta o esforço de Pequim para lidar com a rápida implantação da IA voltada para o consumidor, fortalecendo os requisitos éticos e de segurança.

As regras propostas se aplicariam a produtos e serviços de IA oferecidos ao público na China que apresentam traços simulados de personalidade humana, padrões de pensamento e estilos de comunicação, e interagem com os usuários emocionalmente por meio de texto, imagens, áudio, vídeo ou outros meios.

A minuta estabelece uma abordagem regulatória exigindo que os provedores alertem os usuários contra o uso excessivo e intervenham quando os usuários mostrarem sinais de dependência.

De acordo com a proposta, os provedores de serviços seriam obrigados a assumir responsabilidades de segurança durante todo o ciclo de vida do produto e estabelecer sistemas para revisão de algoritmos, segurança de dados e proteção de informações pessoais.

A minuta também visa os possíveis riscos psicológicos. Espera-se que os provedores identifiquem os estados dos usuários e avaliem suas emoções e seu nível de dependência do serviço. Se os usuários apresentarem emoções extremas ou comportamento viciante, os provedores deverão tomar medidas necessárias para intervir, segundo o documento.

As medidas estabelecem limites para conteúdo e conduta, afirmando que os serviços não devem gerar conteúdo que ponha em risco a segurança nacional, espalhe rumores ou promova a violência ou a obscenidade.

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp