Projetos de lei feitos por ChatGPT sugerem violação de privacidade e ignoram presunção de inocência

O ChatGPT, sistema de inteligência artificial do laboratório americano OpenAI, sugere a quebra do princípio constitucional da presunção de inocência e viola o sigilo de informações privadas quando elabora projetos de lei para o Brasil. A avaliação é de especialistas consultados pela reportagem para analisar sugestões legislativas geradas pelo programa.

O R7 pediu à inteligência artificial que escrevesse duas propostas — uma sobre saúde das mulheres e outra a respeito de segurança em escolas. O esqueleto dos projetos é adequado, mas as propostas feitas pelo ChatGPT, além de ficarem à margem da Constituição Federal, são vagas, opinam juristas.

No texto sobre violência em colégios, a inteligência artificial sugeriu a criação de "um cadastro nacional de agressores e ameaçadores em ambientes escolares, que deverá ser atualizado pelas autoridades competentes e disponibilizado às instituições de ensino".

Na legislação sobre o público feminino, o robô fala em "políticas públicas, programas e ações de saúde", mas deixa de apresentar tópicos detalhados. Confira as propostas completas feitas pelo ChatGPT ao fim da reportagem.

Os pedidos feitos pelo R7 não determinaram quais critérios deveriam ser seguidos pela inteligência artificial. Mesmo assim, o programa citou, por conta própria, que medidas para prevenção de violência em ambientes escolares incluem instalação de câmeras e vigilância de agentes de segurança.

Em relação à saúde da mulher, o ChatGPT destacou aspectos como planejamento familiar, contracepção e atendimento a vítimas de violência sexual e doméstica.

Antes de usar o serviço de inteligência artificial, o usuário é alertado pelo criador da função de que o sistema pode gerar "conteúdo enviesado". "Nosso objetivo é obter feedback para melhorar nossos sistemas e torná-los mais seguros. O sistema pode ocasionalmente gerar informações incorretas ou enganosas e produzir conteúdo ofensivo ou tendencioso. Não se destina a dar conselhos. As conversas podem ser revisadas por nossos treinadores de inteligência artificial para melhorar nossos sistemas. Por favor, não compartilhe nenhuma informação sensível em suas conversas. Este sistema é otimizado para o diálogo", avisa.

O advogado e professor de direito constitucional Antonio Carlos de Freitas aponta que, apesar da formalidade adequada, as proposições feitas pelo ChatGPT são vazias. "A inteligência artificial foi capaz de criar projetos de lei de forma correta. A estrutura está certa, mas a disciplina jurídica que estuda isso, chamada legística, vai além da forma e considera conteúdo e substância", explica. 

Eles têm muitas palavras vagas e genéricas, não têm estrutura de exequibilidade. A legística defende a criação de projetos de lei que de fato contribuam para a normatização e sejam factíveis. É a busca por leis que exijam menos interpretação e complemento e sejam aplicáveis, diminuindo as leis que escrevem coisas inalcançáveis, que existem só no papel e não adentram o mundo real. E é desse mal que padecem os projetos de lei [feitos pelo robô]

As sugestões apresentadas pela inteligência artificial para acabar com a violência nas escolas são preocupantes, nas palavras do especialista. "O dispositivo de cadastro de agressores guarda algumas problemáticas quanto ao sigilo da informação, à Lei Geral de Proteção de Dados (LGPD) e ao princípio constitucional da presunção de inocência. Vejo como vícios de inconstitucionalidade. Ela conseguiu criar regramentos, mas não analisou o ordenamento jurídico existente a ponto de colocar a compatibilidade da norma com o texto constitucional", aponta o professor.

Constituição

O projeto de saúde feminina elaborado pelo ChatGPT não detalha o caminho a ser percorrido para alcançar os objetivos propostos. "Esses canais de denúncia e capacitações que ele [robô] cita são genéricos. Ele não coloca como isso vai ser, de fato, concretizado. É um erro comum e geral inclusive nos PLs feitos por deputados e senadores, mas é uma falha que precisa ser corrigida", critica Freitas.

A falta de enquadramento constitucional nos textos do robô também é apontada pelo presidente da Comissão de Direito Eleitoral da Ordem dos Advogados do Brasil (OAB) na Bahia, Thiago Bianchi. "Foi possível verificar a inobservância quanto à adequada proposição legislativa a ser apresentada. As proposições legislativas têm pertinência temática e poderiam até ser aprovadas pelo Congresso, desde que submetidas a análise posterior por seres humanos, para confrontação com as normas em vigor, especialmente competência e legitimidade de propositura", destaca o advogado.

Como é em outros países

Os Estados Unidos deram o primeiro passo para regular a inteligência artificial na última terça-feira (11). O governo abriu uma consulta pública sobre possíveis medidas de responsabilização de sistemas do tipo. A ação ocorre em meio a dúvidas sobre o impacto da tecnologia na segurança nacional e na educação.

A Itália proibiu o ChatGPT no fim de março deste ano. Desde que surgiu, em novembro de 2022, a ferramenta tem atraído usuários pela facilidade em responder perguntas e criar narrativas.

As autoridades italianas acusaram o ChatGPT de não respeitar a legislação sobre dados pessoais e de não dispor de um sistema de verificação etária para os usuários menores de idade.

O anúncio foi feito depois de a agência policial europeia (Europol) alertar, dias antes, que criminosos podem se aproveitar da inteligência artificial, como o ChatGPT, para cometer fraudes e outros crimes cibernéticos.

Também no fim de março, imagens do papa Francisco com um casaco do estilo puffer, feitas a partir da plataforma Midjourney de inteligência artificial, começaram a circular na internet como se fossem verdadeiras.

Segurança nas escolas

O que o R7 pediu:Escreva a minuta de um projeto de lei sobre segurança em ambientes escolares e combate a ataques e ameaças, com a respectiva ementa, para ser apresentado no Congresso Nacional e avaliado pelos parlamentares.

O que o ChatGPT retornou: 

Projeto de Lei nº [a ser definido]

EMENTA: Dispõe sobre a segurança em ambientes escolares e o combate a ataques e ameaças nas instituições de ensino, visando à proteção de estudantes, professores e demais servidores da educação.

Art. 1º Esta Lei tem por objetivo garantir a segurança em ambientes escolares, prevenindo e combatendo ataques e ameaças que possam colocar em risco a integridade física e emocional de estudantes, professores e demais servidores da educação.

Art. 2º Fica estabelecido que as instituições de ensino deverão adotar medidas de segurança para prevenção e combate a ataques e ameaças, incluindo:

I - A instalação de câmeras de vigilância nos acessos e áreas comuns da escola;

II - A presença de vigilantes e/ou agentes de segurança nas escolas;

III - A elaboração de planos de emergência e evacuação, em caso de situações de risco iminente;

IV - A realização de treinamentos e capacitações para professores e demais servidores da educação, a fim de que saibam agir em situações de emergência.

Art. 3º As instituições de ensino deverão manter canais de comunicação abertos e efetivos com as autoridades de segurança pública, para que possam ser acionadas em caso de ameaças ou ataques.

Art. 4º Será criado um cadastro nacional de agressores e ameaçadores em ambientes escolares, que deverá ser atualizado pelas autoridades competentes e disponibilizado às instituições de ensino.

Art. 5º Aqueles que praticarem ataques ou ameaças em ambientes escolares serão punidos na forma da lei, sem prejuízo das medidas de segurança que deverão ser adotadas pelas instituições de ensino.

Art. 6º As instituições de ensino deverão realizar campanhas de conscientização sobre a importância da segurança em ambientes escolares e a prevenção de ataques e ameaças.

Art. 7º Fica estabelecido que a União, os Estados, o Distrito Federal e os municípios deverão destinar recursos orçamentários específicos para a implementação desta Lei, em consonância com as respectivas competências.

Art. 8º Esta Lei entra em vigor na data de sua publicação.

JUSTIFICATIVA: A segurança em ambientes escolares é um tema que preocupa a todos, especialmente em razão dos constantes casos de ataques e ameaças em instituições de ensino. É dever do Estado garantir a proteção dos estudantes, professores e demais servidores da educação, mediante a adoção de medidas de segurança efetivas e a punição dos responsáveis por eventuais agressões ou ameaças. Além disso, é importante conscientizar a sociedade sobre a importância da segurança em ambientes escolares e a prevenção de ataques e ameaças. Por isso, apresentamos este Projeto de Lei, contando com o apoio dos nobres parlamentares para sua aprovação.

Saúde feminina

O que o R7 pediu: Escreva a minuta de um projeto de lei sobre saúde da mulher, com a respectiva ementa, para ser apresentado no Congresso Nacional e avaliado pelos parlamentares.

O que o ChatGPT retornou:

Projeto de Lei nº [a ser definido]

EMENTA: Dispõe sobre a saúde da mulher, visando à promoção da equidade de gênero, à prevenção de doenças e ao acesso a tratamentos e serviços de saúde especializados.

Art. 1º Esta Lei tem por objetivo garantir a promoção da saúde integral da mulher em todas as fases da vida, através de políticas públicas, programas e ações de saúde.

Art. 2º Fica estabelecido que o Sistema Único de Saúde (SUS) deverá oferecer atendimento especializado e humanizado às mulheres, assegurando o acesso universal, integral e gratuito aos seguintes serviços:

I - Consultas médicas e atendimentos multiprofissionais para acompanhamento da saúde feminina, prevenção e tratamento de doenças;

II - Exames e procedimentos preventivos e de diagnóstico para a saúde da mulher;

III - Assistência obstétrica e neonatal;

IV - Planejamento familiar, contracepção e atenção ao abortamento seguro e legal;

V - Atendimento às vítimas de violência doméstica e sexual, incluindo serviços de saúde e de acolhimento psicológico e social.

Art. 3º Serão criados programas específicos de saúde da mulher, voltados à prevenção e tratamento de doenças que acometem as mulheres, em especial:

I - Câncer de mama e do colo do útero;

II - Doenças sexualmente transmissíveis;

III - Distúrbios hormonais e endócrinos;

IV - Saúde mental e emocional.

Art. 4º A educação em saúde da mulher será incentivada, devendo ser incluída nas políticas públicas de ensino e divulgada nos meios de comunicação, com o objetivo de conscientizar a população feminina sobre a importância da prevenção, diagnóstico precoce e tratamento adequado de doenças.

Art. 5º Fica estabelecido que a União, os Estados, o Distrito Federal e os municípios deverão destinar recursos orçamentários específicos para a implementação desta Lei, em consonância com as respectivas competências.

Art. 6º Esta Lei entra em vigor na data de sua publicação.

JUSTIFICATIVA: A saúde da mulher é um tema relevante e urgente, visto que as mulheres enfrentam diversas desigualdades em relação à saúde, em especial as mulheres negras e indígenas. A garantia de atendimento especializado e humanizado, a prevenção de doenças e o acesso aos tratamentos e serviços de saúde são fundamentais para a promoção da equidade de gênero e o bem-estar das mulheres. Além disso, a educação em saúde é uma ferramenta essencial para a prevenção e diagnóstico precoce de doenças, devendo ser incluída nas políticas públicas de ensino e divulgada nos meios de comunicação. Por isso, apresentamos este Projeto de Lei, contando com o apoio dos nobres parlamentares para sua aprovação.