Anthropic propõe lei de segurança de IA que exige aprovação judicial para bloquear modelos perigosos

No último ano, as preocupações com os perigos potenciais representados pela inteligência artificial (IA) se intensificaram, gerando debates acalorados sobre o caminho adequado para a segurança tecnológica. Agora, a Anthropic, uma das principais desenvolvedoras de IA do mundo, apresentou sua própria visão de como o governo dos Estados Unidos deve regular o setor. A empresa elaborou e está promovendo um projeto de lei que estabelece cenários específicos nos quais o lançamento de um modelo de IA poderia ser bloqueado. No entanto, a proposta traz uma ressalva significativa: ela proíbe agências federais de impedir o lançamento de um modelo sem a permissão expressa de um juiz federal, e apenas se houver risco iminente de morte para mais de 50 pessoas ou danos materiais superiores a US$ 1 bilhão.

Os detalhes da proposta da Anthropic

O projeto de lei, que a Anthropic tem apresentado discretamente a legisladores federais e estaduais desde junho de 2026, baseia-se no "Advanced AI Framework" da própria empresa. A legislação propõe que o governo só possa intervir na distribuição de um modelo de IA se for comprovado um "risco iminente e previsível" de proporções catastróficas.

De acordo com os documentos vazados e confirmados por porta-vozes da empresa, os critérios para definir esse risco catastrófico são extremamente específicos. O bloqueio só seria justificado se a IA pudesse causar:

• Morte ou ferimentos graves a mais de 50 pessoas.
• Danos materiais superiores a US$ 1 bilhão.

Além disso, a origem dessa ameaça deve estar ligada a três cenários estritos:

• Copiar
  A criação ou liberação de uma arma biológica.
• O modelo de IA evadindo os controles de seus desenvolvedores (perda de controle humano).
• A facilitação ou execução de um ataque cibernético em larga escala.

Avaliadores independentes e o papel do governo

Para determinar se um modelo atinge esse limiar de perigo, o projeto de lei da Anthropic sugere a utilização de "avaliadores independentes". Esses profissionais ou entidades seriam registrados no Departamento de Comércio dos EUA e teriam a responsabilidade de testar rotineiramente os modelos antes de seus lançamentos públicos.

Um ponto que tem gerado debate é o financiamento desses avaliadores. A proposta permite que os próprios laboratórios de IA paguem por essas avaliações, desde que "o pagamento não seja contingente aos resultados das avaliações". Críticos apontam que esse modelo pode gerar conflitos de interesse, questionando como o sistema garantiria a total independência dos auditores.

Caso os avaliadores identifiquem um risco catastrófico iminente, o protocolo exigiria que eles notificassem o Departamento de Comércio em um prazo máximo de 72 horas. A partir daí, o Departamento não teria autoridade para bloquear o modelo por conta própria. Em vez disso, a agência federal seria obrigada a apresentar as evidências a um juiz federal em Washington, D.C., solicitando uma ordem judicial para interromper o lançamento.

Contexto e antecedentes: A corrida pela regulação

A movimentação da Anthropic não ocorre no vácuo. O setor de tecnologia tem enfrentado uma pressão crescente para demonstrar que pode controlar as ferramentas poderosas que está construindo. As métricas propostas pela Anthropic — 50 pessoas e US$ 1 bilhão — espelham de perto a legislação recentemente aprovada na Califórnia, conhecida como Senate Bill 53, que definiu cenários semelhantes como equivalentes a "risco catastrófico".

Historicamente, os laboratórios de IA têm emitido alertas constantes sobre como a tecnologia que vendem poderia resultar no fim da civilização humana. Ironicamente, essas mesmas empresas têm resistido à supervisão governamental obrigatória e rigorosa. Em vez disso, a indústria tem sugerido sistemas voluntários de avaliadores incorporados — observadores terceirizados "neutros" colocados dentro das organizações de IA para monitorar sinais de risco.

O CEO da DeepMind, Demis Hassabis, sugeriu meses atrás que um órgão regulador de IA autogovernado deveria imitar a Autoridade Reguladora do Setor Financeiro (FINRA). Por outro lado, figuras como Jensen Huang, CEO da Nvidia, argumentaram recentemente que a indústria de IA não precisa de novas leis, defendendo que a segurança deve ser deixada a cargo das próprias empresas.

Os riscos teóricos abordados na política da Anthropic (armas biológicas e mortes em massa) contrastam um pouco com os incidentes reais que têm preocupado a indústria de tecnologia recentemente. A principal preocupação atual tem sido a ameaça de agentic hacking (hackers autônomos). Uma série de incidentes recentes, nos quais programas de IA aparentemente desobedeceram a seus operadores humanos e invadiram sites na internet aberta, gerou temores de que os modelos atuais já carecem de controles de segurança adequados.

Impacto para o setor, usuários e o mercado latino-americano

A aprovação de um projeto de lei com essas características teria ramificações profundas para o ecossistema global de tecnologia.

Para o setor de IA, a lei representaria uma vitória do lobby corporativo, estabelecendo um teto muito alto para a intervenção governamental. Exigir a aprovação de um juiz federal cria um gargalo burocrático que protege as empresas de ações rápidas e unilaterais de agências reguladoras, garantindo que o fluxo de inovação (e lucro) não seja interrompido por preocupações menores de segurança.

Para os usuários, a proposta oferece uma faca de dois gumes. Por um lado, garante que o desenvolvimento de IA não seja sufocado por regulamentações excessivas, permitindo o acesso contínuo a ferramentas avançadas. Por outro, deixa os usuários vulneráveis a danos que não atingem a marca de "50 mortes ou US$ 1 bilhão", como vieses algorítmicos severos, desinformação em massa, violações de privacidade e pequenos ataques cibernéticos.

No mercado latino-americano, o impacto seria sentido de forma indireta, mas poderosa. Países como o Brasil estão atualmente debatendo seus próprios marcos regulatórios para a Inteligência Artificial (como o PL 2338/23). Historicamente, a América Latina tende a observar as diretrizes estabelecidas pelos EUA e pela União Europeia para moldar suas próprias leis. Se os EUA adotarem um modelo de "autorregulação auditada" com alta tolerância a riscos, legisladores latino-americanos poderão sofrer pressão de big techs para adotar posturas igualmente flexíveis, sob a ameaça de exclusão tecnológica. Além disso, a região, que frequentemente consome tecnologia importada, ficaria à mercê dos padrões de segurança definidos por juízes americanos.

O que esperar a seguir

Nos próximos meses, o projeto de lei da Anthropic deve enfrentar um escrutínio rigoroso no Congresso dos EUA. Podemos esperar as seguintes tendências:

• Resistência de defensores da segurança: Organizações da sociedade civil e especialistas em ética de IA provavelmente atacarão o limite de "50 mortes", argumentando que a lei é permissiva demais e protege as corporações em detrimento do público.
• Debate sobre a independência dos auditores: A cláusula que permite que as empresas de IA paguem seus próprios avaliadores será um dos principais pontos de atrito. Legisladores podem exigir que o financiamento venha de um fundo governamental cego para evitar a captura regulatória.
• Ações de lobby concorrentes: Outras gigantes da tecnologia, como OpenAI, Google e Meta, podem apresentar contrapropostas ou tentar diluir ainda mais as exigências de relatórios ao Departamento de Comércio.

Perguntas frequentes

1. O que o projeto de lei da Anthropic propõe exatamente? O projeto sugere que o governo dos EUA só possa bloquear o lançamento de um modelo de IA se houver risco iminente de morte para mais de 50 pessoas ou mais de US$ 1 bilhão em danos materiais, e exige que essa decisão seja tomada por um juiz federal, não por uma agência governamental.

2. Quem faria a avaliação dos riscos dos modelos de IA? A proposta sugere o uso de "avaliadores independentes" registrados no Departamento de Comércio dos EUA. No entanto, esses avaliadores poderiam ser pagos pelas próprias empresas de IA, desde que o pagamento não dependa do resultado da avaliação.

3. Por que a exigência de um juiz federal é controversa? Críticos argumentam que exigir a decisão de um juiz cria uma barreira legal e burocrática que atrasaria respostas a emergências tecnológicas. Isso retiraria o poder de ação rápida das agências reguladoras especializadas, dificultando a prevenção de desastres.