E a sensação é de que esse avanço não está diminuindo de velocidade. Pelo contrário. O recente anúncio feito quando a OpenAI lançou o GPT-6 Astra ajuda a colocar essa discussão em perspectiva.

De acordo com a CNN Brasil, o novo modelo apresenta avanços importantes em programação, ciência e utilização de computadores e navegadores. A reportagem também informa que, em testes internos, determinadas tarefas tiveram redução de 57% no custo de execução em comparação com o GPT-5.6 Sol e foram realizadas em cerca de 47% menos tempo.

São números impressionantes. Mas talvez a parte mais importante dessa história não seja apenas aquilo que a inteligência artificial passou a conseguir fazer. É o que precisamos fazer para continuar controlando uma tecnologia que está adquirindo essas capacidades.

Quanto mais poderosa a IA, maior a responsabilidade

Como dito no portal CNN Brasil sobre o GPT-6 Astra, o modelo atingiu um nível considerado crítico nos parâmetros internos de segurança da OpenAI, exigindo medidas adicionais de proteção.

Isso não significa que a empresa simplesmente desenvolveu uma tecnologia perigosa e decidiu entregá-la ao público para descobrir o que aconteceria. É justamente o contrário. A existência desses protocolos demonstra que os próprios desenvolvedores estão tentando estabelecer limites para determinar quando uma capacidade exige novas salvaguardas.

O problema é que estamos entrando em um território no qual prever todas as possibilidades se torna cada vez mais difícil.

Segundo a CNN Brasil, citando as avaliações divulgadas pela OpenAI, o Astra consegue, nas condições adequadas, encontrar vulnerabilidades até então desconhecidas e desenvolver maneiras de explorá-las em sistemas protegidos, com pouca ou nenhuma orientação humana em cada etapa.

A mesma capacidade que pode ajudar um profissional de cibersegurança a encontrar uma vulnerabilidade antes de um criminoso também poderia, em um contexto inadequado, aumentar a capacidade de quem deseja explorá-la. Essa dualidade provavelmente será um dos grandes desafios da inteligência artificial nos próximos anos.

Existe uma corrida acontecendo

Seria incompleto analisar essa evolução apenas pelo lado tecnológico. Existe também uma gigantesca disputa econômica.

A análise da disputa entre OpenAI e Anthropic mostra como duas das principais empresas do setor competem por usuários, desenvolvedores, investimentos, infraestrutura e liderança tecnológica.

Essa rivalidade possui inclusive uma origem interessante. Conforme lembra a CNN Brasil, os fundadores da Anthropic são ex-integrantes da OpenAI que deixaram a empresa em meio a divergências relacionadas, entre outras questões, ao ritmo de desenvolvimento e à abordagem de segurança. Hoje, ironicamente, OpenAI e Anthropic estão entre as protagonistas da mesma corrida.

E não estamos falando de um mercado pequeno.

A discussão apresentada pelo portal G1 sobre a corrida Claude x ChatGPT ajuda a dimensionar os interesses econômicos envolvidos. Não se trata apenas de descobrir quem terá o chatbot mais popular. Estamos falando de quem poderá fornecer a inteligência que estará integrada a empresas, softwares, celulares, sistemas financeiros, indústrias, pesquisas científicas e inúmeras outras atividades econômicas.

Quem conseguir uma vantagem significativa nessa corrida poderá conquistar uma posição estratégica extraordinária. Consequentemente, existe uma pressão natural para continuar avançando.

O paradoxo da corrida pela inteligência artificial

Imagine que uma empresa descubra uma maneira de tornar seus modelos significativamente melhores:

1. Ela lança essa tecnologia.
2. Os concorrentes precisam responder.
3. Um concorrente apresenta uma nova capacidade.
4. Os demais voltam a investir para superá-la.

O resultado é um ciclo claro: IA mais poderosa → maior adoção → mais investimentos → maior concorrência → modelos melhores → novas aplicações → mais investimentos → IA ainda mais poderosa.

Existe ainda outro elemento potencialmente acelerador: a própria inteligência artificial está começando a ajudar programadores, pesquisadores e engenheiros a desenvolver software e realizar pesquisas. Portanto, ferramentas melhores podem ajudar na construção das próximas ferramentas.

Isso não significa necessariamente que estamos diante de uma inevitável “explosão de inteligência”. Mas significa que existem mecanismos capazes de contribuir para acelerar ainda mais o desenvolvimento tecnológico.

E é exatamente aqui que surge uma pergunta importante: a nossa capacidade de tornar a inteligência artificial segura conseguirá avançar na mesma velocidade da capacidade da própria IA?

A segurança não termina mais no lançamento

Tradicionalmente, imaginamos o desenvolvimento de um produto da seguinte forma:

Desenvolver → Testar → Corrigir → Considerar seguro → Lançar.

Com sistemas avançados de inteligência artificial, essa sequência está mudando e passa a se aproximar de:

Desenvolver → Testar → Avaliar riscos → Criar salvaguardas → Liberar gradualmente → Monitorar → Descobrir novos comportamentos → Corrigir → Atualizar → Continuar monitorando.

Isso acontece porque nenhum laboratório consegue reproduzir antecipadamente todas as situações que surgirão quando milhões de pessoas começarem a utilizar uma tecnologia. Usuários encontram formas de utilização que os próprios criadores talvez nunca tenham imaginado.

E isso nos leva a uma comparação delicada, mas interessante.

O que a vacina da COVID pode nos ensinar sobre essa discussão?

É importante deixar algo claro: uma inteligência artificial não é equivalente a uma vacina e os processos científicos e regulatórios são completamente diferentes. Mas existe uma analogia interessante quando observamos a gestão de risco, a urgência e a necessidade de acompanhamento de uma tecnologia desenvolvida em velocidade excepcional.

Durante a pandemia de COVID-19, havia uma necessidade extraordinária de desenvolver vacinas rapidamente. Isso não significou simplesmente abandonar testes e distribuir produtos experimentais indiscriminadamente.

Em uma reportagem do UOL sobre como as vacinas da COVID-19 foram desenvolvidas em tempo recorde, a doutora em biologia celular Denise Golgher explicou que aquela velocidade foi resultado de um esforço sem precedentes envolvendo empresas farmacêuticas, empresas de biotecnologia, cientistas, periódicos especializados e agências regulatórias de diferentes países.

Um ponto importante levantado pela pesquisadora é que acelerar o desenvolvimento não significou simplesmente sacrificar a segurança. O que mudou foi a escala da mobilização, da colaboração, dos investimentos e da troca de informações para responder a uma situação excepcional.

Esse detalhe é fundamental para a comparação que estamos fazendo.

A analogia não é:

“As vacinas foram lançadas sem segurança e agora estamos fazendo o mesmo com a IA.”

Muito pelo contrário.

O paralelo está em outra questão:

quando existe uma enorme pressão para acelerar uma tecnologia capaz de trazer grandes benefícios, velocidade e segurança precisam avançar juntas.

No caso das vacinas, havia uma emergência sanitária global. No caso da inteligência artificial, as pressões são diferentes: competição empresarial, investimentos gigantescos, interesses geopolíticos e a possibilidade de disponibilizar rapidamente novas capacidades para milhões de pessoas.

As motivações são diferentes, os riscos são diferentes e os mecanismos regulatórios também são diferentes.

Mas existe uma pergunta comum aos dois cenários:

como acelerar sem transformar velocidade em irresponsabilidade?

No caso das vacinas, testes, avaliações regulatórias e acompanhamento continuaram sendo fundamentais mesmo diante da urgência.

Com a inteligência artificial, algo conceitualmente semelhante acontece. Os modelos são testados antes de chegar aos usuários. Existem avaliações de segurança, testes automatizados, equipes tentando deliberadamente encontrar falhas (red teaming) e mecanismos destinados a impedir determinadas utilizações.

Mesmo assim, quando milhões de usuários passam a interagir com esses sistemas, surgem situações completamente novas. Por isso, o monitoramento precisa continuar.

Mas existe uma diferença fundamental

Uma vacina aplicada não recebe uma atualização na semana seguinte que a torna biologicamente dez vezes mais capaz. Uma inteligência artificial pode mudar rapidamente.

Ela pode ganhar acesso à internet. Pode aprender a utilizar novas ferramentas. Pode controlar um navegador. Pode executar código. Pode receber memória. Pode trabalhar durante períodos maiores. Pode operar integrada a sistemas empresariais. Pode receber maior autonomia para tomar decisões e executar tarefas.

Portanto, no caso da IA, não estamos apenas monitorando os riscos de uma tecnologia que já existe. Estamos monitorando uma tecnologia cujas próprias capacidades continuam mudando. Isso torna o problema consideravelmente mais complexo.

Os benefícios dessa aceleração também são enormes

Seria um erro transformar essa discussão em um argumento contra o desenvolvimento da inteligência artificial. Quanto mais rapidamente essas tecnologias evoluem e se tornam acessíveis, mais rapidamente seus benefícios podem chegar à população:

• Um estudante pode receber ajuda personalizada.
• Uma pessoa com deficiência pode ganhar novas ferramentas de acessibilidade.
• Um pequeno empreendedor pode acessar capacidades que anteriormente exigiriam uma equipe inteira.
• Programadores podem desenvolver sistemas mais rapidamente.
• Cientistas podem analisar grandes quantidades de informação.
• Profissionais podem dedicar menos tempo a atividades operacionais e mais tempo a decisões que exigem julgamento humano.

Por isso existe um dilema verdadeiro. Desacelerar também possui um custo. Adiar uma tecnologia benéfica significa adiar seus possíveis benefícios. Mas acelerar demais também pode possuir um custo. E é exatamente esse equilíbrio que precisamos discutir.

E se precisarmos de uma “vacina” para a própria IA?

Imagine que uma capacidade extremamente poderosa seja disponibilizada e, depois de sua adoção em larga escala, pesquisadores descubram uma vulnerabilidade grave que não havia aparecido durante os testes.

Nesse momento, provavelmente seria necessário desenvolver rapidamente uma solução: uma espécie de “vacina digital”.

Não uma vacina literalmente, evidentemente. Poderia ser uma atualização do modelo, uma nova camada de segurança, uma restrição temporária de determinada capacidade, uma alteração na infraestrutura ou até a suspensão de determinada funcionalidade.

Em sistemas centralizados, isso pode ser relativamente rápido. O desenvolvedor atualiza o serviço e milhões de usuários recebem a correção. Mas imagine uma situação envolvendo modelos distribuídos, pesos disponíveis publicamente, cópias executadas localmente ou conhecimento perigoso que já tenha sido disseminado.

Nesse cenário, simplesmente atualizar o servidor original talvez não seja suficiente. A tecnologia já estaria circulando, e nossa capacidade de reação seria colocada à prova.

O verdadeiro desafio talvez não seja impedir a evolução

A inteligência artificial provavelmente continuará avançando. Existem investimentos gigantescos, concorrência empresarial, interesses geopolíticos, aplicações científicas e benefícios econômicos suficientes para tornar extremamente improvável uma paralisação global do desenvolvimento.

Talvez, portanto, a pergunta errada seja: “Como impedir que a inteligência artificial avance?”

Uma pergunta mais realista seria: “Como garantir que nossa capacidade de compreender, controlar e corrigir essa tecnologia avance na mesma velocidade?”

A competição entre empresas pode acelerar a inovação. A inovação pode democratizar ferramentas extremamente poderosas. Essas ferramentas podem melhorar a vida de milhões de pessoas. Mas capacidades maiores também podem criar riscos maiores — e esses riscos exigirão mecanismos de segurança igualmente mais sofisticados.

Esse talvez seja o grande paradoxo da atual corrida pela inteligência artificial: quanto mais rapidamente avançamos, mais rapidamente precisamos aprender a controlar aquilo que acabamos de criar.

Não precisamos escolher entre acreditar que a inteligência artificial salvará o mundo ou acreditar que ela inevitavelmente o destruirá. Existe um espaço muito mais racional entre esses extremos. Podemos reconhecer seus benefícios extraordinários e, simultaneamente, exigir responsabilidade, transparência, testes, regulamentação e monitoramento contínuo.

Porque talvez a questão mais importante da próxima década não seja descobrir quão inteligente a inteligência artificial conseguirá se tornar. Talvez seja descobrir se nossa capacidade de torná-la segura conseguirá acompanhar a velocidade com que estamos tornando-a poderosa.

E, se um dia descobrirmos um problema grave somente depois que determinada capacidade já estiver espalhada pelo mundo, teremos outra pergunta para responder:

seremos capazes de desenvolver a nossa “vacina digital” rápido o suficiente?

Leia também

Se você gostou deste conteúdo, pode se interessar por outros temas:

• A Corrida da Inteligência Artificial e da Robótica: Entre a Produtividade e os Riscos Emergentes
• O Alerta Vem de Dentro: Por Que os Criadores da Inteligência Artificial Estão Preocupados (e Como Isso Afeta Você)
• Inteligência Artificial na Medicina: Como a Tecnologia Está Mudando Diagnósticos e Salvando Vidas

O post A inteligência artificial está avançando rápido demais? E se um dia precisarmos de uma “vacina digital”? apareceu primeiro em Tecnologia na Vida Real.