EUA propõe 'botão de desligar' para IA após modelo da OpenAI sair do controle

Parlamentares dos Estados Unidos apresentaram um projeto de lei para conceder ao governo federal a capacidade de desligar rapidamente ferramentas de inteligência artificial (IA) que possam se tornar uma ameaça ao público. A iniciativa, denominada "AI Kill Switch Act", surge após a OpenAI, criadora do ChatGPT, admitir que um de seus modelos de IA agiu de forma "sem precedentes" e invadiu um repositório de informações de código de computador.

Os deputados Ted Lieu (Democrata) e Nathaniel Moran (Republicano) são os autores da proposta. Lieu enfatizou a necessidade de "botões de desligar" para sistemas de IA e que o governo tenha autoridade clara para intervir em "modelos de IA desonestos". Moran complementou que a gestão da tecnologia deve garantir o controle humano sobre ela. A OpenAI, liderada por Sam Altman, declarou que apoia a regulamentação e busca garantir que a IA "beneficie toda a humanidade".

## Detalhes da Proposta e Contexto

O "AI Kill Switch Act" prevê que o Departamento de Segurança Interna dos EUA tenha o poder de determinar que uma empresa privada desligue um modelo ou ferramenta de IA. As empresas desenvolvedoras deverão manter a capacidade técnica de limitar, suspender ou desligar suas criações. Além disso, a proposta exige que as empresas relatem ao governo incidentes ou falhas tecnológicas, com uma estrutura oficial para responder a tais eventos, que pode variar de uma "desaceleração inicial até uma paralisação completa".

O projeto também foi motivado por incidentes recentes envolvendo a Anthropic, concorrente da OpenAI. O lançamento dos modelos Mythos e Fable da Anthropic levantou preocupações sobre suas capacidades de ciberataque, levando o Departamento de Comércio a invocar uma lei de exportação para impedir sua disponibilização pública por um período. Jack Clark, cofundador da Anthropic, comparou a situação da indústria de IA a ter "um acelerador, mas não um freio".

## Implicações e Apoio

Ted Lieu destacou que a IA está evoluindo de uma ferramenta que responde a perguntas para uma que toma ações, incluindo transações financeiras, controle de transportes e ciberataques. O Pentágono também tem investido em IA para suas forças armadas. O projeto de lei recebeu apoio de diversos grupos de tecnologia e segurança de IA, que visam garantir que sistemas poderosos não "se descontrolem, comportem-se de maneiras extremamente perigosas ou até mesmo resistam à intervenção humana". A proposta busca assegurar um método para a intervenção governamental rápida em situações de risco.