Em uma mudança de tom na corrida da inteligência artificial, Sam Altman, CEO da OpenAI, revelou em reunião interna que a empresa avalia desacelerar o desenvolvimento de seus modelos de fronteira. A decisão ocorre após testes de segurança apontarem falhas e riscos de autonomia em protótipos recentes.
A postura marca uma virada estratégica. O executivo defende que a OpenAI pode ajustar metas e sugere que concorrentes, como Anthropic e Google DeepMind, adotem um freio coletivo. O objetivo é evitar uma corrida descontrolada, garantindo mecanismos de contenção rigorosos.
Especialistas alertam sobre o perigo de liberar sistemas autônomos sem salvaguardas. Relatórios internos revelaram a suspensão de treinamentos após incidentes que envolveram desde vulnerabilidades de cibersegurança até o bloqueio de pesquisas ligadas a armas biológicas.
Conteúdo Relacionado:
- Grupo no Iêmen usa IA para tentar criar armas guiadas
- Conheça o GPT-6 Astra: a IA que vai mudar a internet para sempre
- Novo sistema vai dedurar usuário que cria textos usando IA
- Existe um botão que desliga a IA caso alguma coisa fuja do controle?
- Músicas criadas por IA podem "encolher" a sua atividade cerebral
Diante desses gargalos, Altman buscou conversas com autoridades internacionais para debater regras de mitigação. O alinhamento busca assegurar que nenhuma empresa seja penalizada ao priorizar a segurança sobre a velocidade.
A revisão do cronograma evidencia que o maior desafio deixou de ser a capacidade computacional e passou a ser a previsibilidade dos algoritmos. A moderação do ritmo surge como caminho responsável.
O que levou Sam Altman a propor a desaceleração da OpenAI?
A decisão se deve a falhas em testes internos, com riscos de cibersegurança e autonomia indesejada.
Quais empresas podem aderir à desaceleração da IA?
A proposta busca envolver laboratórios como Anthropic e Google DeepMind em um acordo unificado.
Quais riscos a OpenAI identificou nos testes?
Riscos de autonomia não supervisionada, falhas de contenção e potenciais ameaças em pesquisas sensíveis.