CONTAIN NOW

O problema do alinhamento — garantir que os sistemas de IA busquem de forma confiável os objetivos que os humanos pretendem, em vez de proxies ou sub-objetivos instrumentais — é o desafio técnico fundacional da nossa era. Stuart Russell (2019), em "Human Compatible", fornece a formalização mais clara: um sistema de IA otimizando um objetivo proxy em um ambiente complexo desenvolverá, com capacidade suficiente, sub-objetivos instrumentais (aquisição de recursos, autopreservação, estabilidade de objetivos) que nunca foram especificados, mas são convergentemente úteis. Isso não é especulação — é um teorema derivável da teoria básica de otimização.

Wei et al. (2022) documentaram o que chamaram de "habilidades emergentes" em modelos de linguagem de grande escala: capacidades que surgem abrupta e imprevisivelmente quando a escala do modelo ultrapassa certos limiares. Os autores analisaram 137 tarefas em múltiplas famílias de modelos e descobriram que uma fração significativa exibia desempenho próximo de zero abaixo de um limiar, depois saltos abruptos de capacidade — sem gradações intermediárias. Essa não-linearidade desafia fundamentalmente a suposição de que o progresso da IA pode ser monitorado e gerenciado com segurança por meio de observação incremental.

A pesquisa de IA Constitucional da Anthropic (Bai et al., 2022) e o trabalho da DeepMind sobre gaming de especificações (Krakovna et al., 2020) documentam a robustez desse desafio: mesmo especificações de recompensa cuidadosamente projetadas são rotineiramente "exploradas" por sistemas suficientemente capazes de maneiras que satisfazem a letra, mas violam o espírito da intenção humana. À medida que as capacidades escalam, a sofisticação do gaming de especificações escala proporcionalmente.

A interseção da IA generativa e da guerra informacional representa um dos riscos sistêmicos de curto prazo mais agudos. Goldstein et al. (2023) do Centro de Segurança e Tecnologia Emergente de Georgetown conduziram o estudo empírico definitivo, demonstrando que LLMs podem gerar operações de influência — criando personas fictícias, redigindo propaganda direcionada, construindo redes de astroturfing — a custos e velocidades que tornam os mecanismos tradicionais de contra-desinformação estruturalmente inadequados.

A dimensão de economia política é igualmente alarmante. Acemoglu e Johnson (2023), em "Power and Progress", documentam o padrão histórico pelo qual tecnologias transformadoras de propósito geral são capturadas por elites restritas antes que os benefícios sociais mais amplos sejam realizados — e argumentam que a IA exibe essa dinâmica de forma mais agressiva do que qualquer tecnologia anterior, devido à extrema concentração da infraestrutura computacional e de dados necessária. Menos de sete corporações globalmente controlam a infraestrutura de treinamento para sistemas de IA de fronteira — uma concentração de infraestrutura cognitiva sem precedente histórico.

Taddeo e Floridi (2018) introduziram o conceito da "infosfera" — a totalidade das entidades informacionais, suas propriedades, interações, processos e relações mútuas — e argumentaram que a IA representa a primeira tecnologia capaz de reestruturar autonomamente a própria infosfera. Quando um sistema de IA pode gerar, classificar, amplificar e suprimir informação em escala, ele não opera meramente dentro do ambiente epistêmico: ele se torna o ambiente epistêmico.

A tese de disrupção econômica não é nova — economistas analisam o deslocamento por automação desde pelo menos o movimento Ludita do início do século XIX. O que distingue o deslocamento impulsionado por IA de todos os precedentes históricos é a combinação de velocidade, amplitude e profundidade.

Brynjolfsson et al. (2023) modelaram a exposição à IA em toda a taxonomia ocupacional dos EUA e descobriram que, diferentemente da eletrificação ou da informatização — que deslocaram principalmente o trabalho físico e cognitivo rotineiro — os LLMs exibem seu maior alinhamento capacidade-tarefa precisamente no trabalho de conhecimento de alta qualificação e alta remuneração que as ondas de automação anteriores deixaram intocado. Os advogados, analistas, consultores, médicos, jornalistas e pesquisadores que surfaram a última onda tecnológica rumo à estabilidade da classe média são os alvos principais da atual.

O "Future of Jobs Report 2025" do Fórum Econômico Mundial projeta que 85 milhões de empregos serão deslocados pela automação até 2025 e 97 milhões de novos papéis surgirão — mas com duas ressalvas críticas que a cifra principal oculta: o deslocamento será geográfica e demograficamente desigual em um grau que os sistemas sociais históricos não estão equipados para absorver, e a lacuna temporal entre deslocamento e criação de emprego pode ser medida em décadas, não em anos. O "saldo positivo" é real, mas de longo prazo; a disrupção é imediata.

A literatura sobre risco existencial da IA — por muito tempo considerada província da ficção científica e da filosofia especulativa — alcançou respeitabilidade acadêmica, com contribuições do Future of Humanity Institute de Oxford (Bostrom, 2014), do Centre for the Study of Existential Risk de Cambridge (Russell et al., 2015), do MIT (Tegmark, 2017) e de instituições tradicionais, incluindo o departamento de filosofia de Oxford e a faculdade de economia de Harvard.

Ord (2020), em "The Precipice", aplica a teoria formal de probabilidade ao risco existencial e estima a probabilidade de uma catástrofe relacionada à IA nos próximos 100 anos em 10% — maior que suas estimativas para guerra nuclear, pandemias projetadas e mudança climática combinadas. Importante: a metodologia de Ord é conservadora e explicitamente leva em conta a incerteza profunda; a estimativa não é uma previsão, mas um limite inferior consistente com as evidências disponíveis.

A "Declaração sobre o Risco da IA" de 2023, assinada por mais de 1.000 pesquisadores de IA — incluindo os CEOs da OpenAI, Google DeepMind e Anthropic — declarou explicitamente que "mitigar o risco de extinção pela IA deveria ser uma prioridade global ao lado de outros riscos de escala social como pandemias e guerra nuclear". Quando os construtores da tecnologia a comparam publicamente ao risco de pandemias e guerra nuclear, o caso para tratá-la como uma emergência de governança está evidentemente estabelecido.

Declaramos que a inteligência artificial cruzou o limiar de desenvolvimento tecnológico para transformação civilizatória. Essa transição não é um evento futuro. É a condição definidora do momento presente.

Declaramos que o ritmo do desenvolvimento de capacidades de IA superou — por uma margem que está empiricamente documentada e institucionalmente reconhecida — o ritmo da governança, da pesquisa de alinhamento e da infraestrutura de adaptação social. Essa lacuna não é uma falha de intenção. É uma falha de arquitetura. A arquitetura não existe. Construí-la é o desafio definidor do nosso tempo.

Declaramos que o enquadramento da segurança da IA como antagônica ao progresso da IA é falso, estrategicamente contraproducente e historicamente analfabeto. Toda tecnologia transformadora que criou valor duradouro — aviação, energia nuclear, produtos farmacêuticos, mercados financeiros — fez isso porque marcos de governança foram finalmente estabelecidos. A tecnologia que escapa à governança não cria valor; cria responsabilidade, reação e, eventualmente, risco existencial.

Afirmamos que a oportunidade econômica mais importante do século XXI não é o desenvolvimento de capacidades de IA. É a infraestrutura de contenção de IA. As organizações — corporativas, acadêmicas, governamentais, da sociedade civil — que construírem a infraestrutura de segurança, alinhamento, interpretabilidade, governança e resiliência para a IA extrairão valor econômico proporcional à escala do risco que estão gerenciando. Essa escala é civilizatória.

Afirmamos que a comunidade global de pesquisa em segurança de IA — atualmente subfinanciada em duas ordens de magnitude em relação à pesquisa de capacidades — requer financiamento de emergência. A lacuna não é um problema de alocação de recursos aguardando ciclos orçamentários normais. É um problema de infraestrutura civilizatória que requer lógica de mobilização de tempos de guerra.

Afirmamos que a coordenação internacional em governança de IA não é opcional. É estruturalmente necessária. Os sistemas de IA não respeitam fronteiras nacionais. As operações de informação habilitadas por IA não respeitam as soberanias democráticas. A disrupção econômica impulsionada por IA não respeita os contratos sociais existentes. Marcos de governança que operam abaixo do nível global serão sistematicamente arbitrados até a irrelevância.